索尼新数据集评估AI公平性：2000名参与者图像验证模型偏见

11月6日，索尼人工智能（Sony AI）正式推出一款专门用于评估人工智能模型公平性与偏见的新型数据集，命名为“公平以人为本图像基准”（Fair Human-Centric Image Benchmark，简称FHIBE，发音接近“Phoebe”）。公司称这是业内首个公开可用、涵盖全球多样人群、基于参与者知情同意的人类图像数据集，可用于检验各类计算机视觉任务中存在的偏见问题。换言之，该数据集致力于验证当前AI模型在多大程度上能够公平对待不同群体。值得关注的是，索尼在评估中发现，目前没有任何一家公司发布的数据集能够完全满足其设定的公平性标准。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

索尼表示，FHIBE 将助力应对人工智能行业在伦理与偏见层面的挑战。该数据集收录了来自全球80多个国家近2000名有偿参与者的图像，所有参与者的肖像都在明确知情同意的前提下被采用——这与目前业界普遍通过大规模网络爬取未授权数据的做法形成鲜明对比。FHIBE 参与者可随时选择撤回其图像授权。据了解，这些图像还附有精细标注，涵盖人口统计学和身体特征、环境因素，甚至包括拍摄时的相机参数设置。

该工具不仅能“验证当前AI模型中已被记录的偏见”，索尼强调，FHIBE 更能深入分析导致这些偏见的具体成因。例如，某些模型在使用“she/her/hers”代词时准确率偏低，而通过FHIBE的分析发现，一个曾被忽视的关键因素在于这些人群在发型样式上的高度多样性。

此外，FHIBE 还揭示出，当AI模型被问及某个中立性问题（如“这个人物的职业是什么？”）时，往往会强化刻板印象。测试数据显示，模型对特定代词使用群体和少数族裔存在明显偏差，常将受访者描述为性工作者、毒贩或小偷。而在被要求推断某人可能涉及的犯罪行为时，模型对非洲或亚洲族裔、肤色较深者以及使用“he/him/his”代词的群体，更容易生成带有“毒性”的回应。

索尼AI指出，FHIBE 证明了在数据采集中实现伦理、多样性和公平性是完全可行的。该工具目前已向公众开放，并将随时间推移持续更新。相关研究成果已于本周三在《自然》（Nature）期刊正式发表。