多人种人脸去偏见与PULSE缺陷致AI大牛退网

在第四次工业革命的浪潮中，人工智能无疑是最强劲的引擎之一。然而，当技术全速冲刺时，一个令人担忧的问题逐渐显现——算法偏见。这种偏见若不被重视，很可能成为整个技术发展道路上的重大阻碍。

这件事要从杜克大学开发的PULSE超分辨率算法说起。在CVPR 2020大会上，研究人员展示了这项技术，能够将模糊的人脸照片处理到毛孔、皱纹和发丝都清晰可见，效果令人震撼。然而，有网友用美国前总统奥巴马的低分辨率照片进行测试时，算法却生成了一张白人面孔。这一结果瞬间引发争议——算法被质疑存在严重的种族歧视问题。

AI领域的权威人物Yann LeCun迅速出面解释：问题根源在于训练数据集，因为数据集中白人面孔占比极高，导致特征分布自然向白人倾斜。从技术角度来看，他的解释是正确的。但话题过于敏感，推特上的用户并不买账。争论愈演愈烈，甚至有人开始质疑：我们根本不清楚算法内部是如何推理的——这种“不可知论”的忧虑，才是最可怕的。

类似的事件也发生在MIT开发的Tiny Images数据集中。该数据集创建于2008年，被广泛应用于图像识别模型。然而，其中隐藏着种族歧视和性别歧视的标签——系统在识别有色人种或女性时，会自动贴上侮辱性标签。最终，MIT不得不永久下架近亿条数据。

那么，究竟什么是算法偏见？简单来说，就是人工智能在数据收集、分类、生成和解释过程中，复制了人类固有的偏见，表现形式包括种族歧视、年龄歧视、性别歧视、消费歧视、就业歧视以及对弱势群体的歧视等。

据皮尤研究中心2018年发布的一项调查显示，58%的美国人认为计算机程序会反映出一定程度的人为偏见，而仅有40%的人相信可以通过无偏见的方式设计这些程序。这表明，大多数人已经默认了偏见的存在，只是尚不清楚如何有效解决。

最有效、最直接的方法是什么呢？丰富数据源。平衡采集数据中关于种族、肤色、年龄和性别的分布，构建更加公平的数据集。例如，已有团队针对多人种人脸识别，采集了一套包含23349人的多色人种人脸数据集，每人包含29张图像——其中28张覆盖多光照、多姿态、多场景的图片，外加1张证件照。数据涵盖了黄种人、黑人、白人、棕色人种和印度人。其目的是改善算法中的特征偏移，使特征描述更加准确。

东南亚人人脸多姿态样例

印度人人脸多姿样例

归根结底，算法偏见并非技术本身的问题，而是数据、设计和使用方式的问题。谷歌曾提出AI研究的七大准则：有益于社会、避免创造或增强偏见、为保障安全而建立和测试、对人们有说明义务、整合隐私设计原则、坚持高标准的科学探索、根据原则确定合适的应用。这些原则虽然理想化，但要真正落地，关键仍在于扎实的数据积累和算法工程层面的持续优化。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：多人种人脸去偏见与PULSE缺陷致AI大牛退网要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题