有效消除人工智能偏见的最佳实践与策略

要解决人工智能系统中的偏差问题，或许需要引入“人机回圈”机制——即构建一种让算法与人类协同处理问题的框架。

人工智能已跃升为商业数字化转型的关键驱动力，86%的企业将其视为“主流技术”。然而，现实中大多数AI项目因数据、算法或管理团队的偏差，最终产出错误的结果。这些偏差的根源，与影响人类决策的隐性或显性偏见并无二致。AI系统在识别人类情感方面尤为困难——某种程度上，人类自身在这方面的表现也常常不尽如人意。

IEEE会员Gloria Washington指出，智能系统中的偏见风险，恰恰说明了在AI系统中融入更多同理心的紧迫性。

为什么我们需要移情计算

“AI的承诺在于帮助企业做出更明智的决策、改善医疗成果、自动化重复性任务，从而让人们能专注于更具挑战性的问题。”Washington表示。但遗憾的是，我们已经目睹了不少有偏见的AI系统对人类造成伤害的案例。同样，一个部署了偏见算法的AI系统，可能会基于与身份或情绪识别相关的人类生理、心理或行为特征，进一步边缘化某些个人或群体。

一个典型例子是：用于筛选面试候选人的自动化系统，如果其算法基于公司过去十年的招聘模式——而那段时期招聘决策主要由表现出亲和力偏见的男性主导——那么女性候选人在筛选中将处于不利地位，最终加剧招聘中的性别差距。随着AI系统持续扩散，直接应对智能系统中的偏差问题已迫在眉睫。

我们面前的机会

Washington认为，消除AI偏见的最佳途径之一，是采用人机回圈机制来验证预测结果，并理解特定预测对社区或个人可能产生的影响背景。她指出：“同理心系统是一种从多种专家处学习的系统，作为人机回圈的一部分来优化模型。这里的专家指的是那些拥有亲身经历或深入了解现实世界情况的人，他们能够利用多模态数据——包括图片、文本、指标——提供高质量的预测，从而更有效地训练AI工具。”

目前的一个探索方向是，通过分析医疗服务提供者在医疗记录和电子健康档案中使用的语言，来提升医疗场景中的同理心水平。随后，系统可以引导提供者使用更具包容性的表述。Washington承认，对所有情景和潜在结果进行全面规划确实存在挑战，但她相信，汇聚不同领域的专家，就有可能编纂出理解情感、同理心、生物特征和人类行为所需的关键信息。

什么是情感生物识别？

同理心问题在情感生物特征识别领域尤为关键，即通常所说的情感计算。情感往往通过人体的生理反应来体现。Washington解释道：“我们习惯将情感与面部表情关联，但在生物特征学的语境中，影响还包括肢体语言、身体姿势，乃至人类的自主神经系统——例如心率、血压、出汗等可测量的生理指标。”

但情感本身也是一种文化现象。在一种文化中看似愉快的反应，在另一种文化中可能被解读为激动。Washington强调，情感生物特征在分析情绪（如沮丧或愤怒）时，必须结合上下文信息，才能根据对特定场景的学习反应来识别一个人可能的行为。“背景对于理解情感至关重要。编撰背景可能很困难——需要明确人类使用工具的‘时间、地点和方式’，这并不容易。但只要引入不同学科的专家，我们就能帮助减轻系统中偏见的有害影响。”

同样重要的是，我们可以改变AI工具的使用方式。Washington表示：“AI当然能帮助我们自动化日常任务，但我们也可以选择将那些更重要的、对人类有深远现实影响的任务留给人类。此外，在使用AI的场景下，可以在系统中内置程序步骤——在执行任务之前，数字工具必须以某种方式向相关群体或个人传达行动的潜在影响。”

归根结底，AI与许多其他技术一样，是人类手中的工具。而解决人类问题——例如偏见——的最佳方案，往往就是包含人类参与的方案。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：有效消除人工智能偏见的最佳实践与策略要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题