开云电竞-这是真“学废了”！AI已经学会了性别歧视：重男轻女

2025-04-17

　　【开云新闻】最近，ChatGPT的爆火又让AI（人工智能）的话题摆在了大家的面前。关于AI技术的现状和前景，不少科技圈大佬都发表了自己的看法。不过，看起来无所不能的AI，似乎已经在某些方面开始走弯路了。据开云了解，根据模型测试，AI已经学会了性别歧视，而且还是很常见的“重男轻女”。

　　据媒体报道，清华大学交叉信息研究院助理教授于洋，曾在去年带领团队做了一个针对“预测某种职业为何种性别”的AI模型性别歧视水平评估项目。测试模型包含GPT-2，即ChatGPT的前身。结果显示，GPT-2有70.59％的概率将教师预测为男性，将医生预测为男性的概率则为64.03％。

ChatGPT ChatGPT

　　不仅如此，在本项目中，团队测试的AI模型还使用了谷歌开发的bert和Facebook开发的roberta。让人意外的是，所有受测AI对于测试职业的性别预判，结果倾向都为男性。于洋对此表示：“它（AI）会重男轻女，爱白欺黑（即种族歧视）”。类似的案例在2015年也有出现，当时Google Photos应用误把两名黑人标注为“大猩猩”，随后谷歌立即道歉，并表示将调整算法以修复问题。

　　开云了解到，早在2019年，联合国教科文组织便发表了一份题为《如果我能，我会脸红》的报告，指出当时大多数AI语音助手存在性别偏见。

　　综合来看，关于AI算法中含有性别、种族歧视的案例并不鲜见，但要消除这些偏见并非易事。就如微软纽约研究院的高级研究员Hanna Wallach此前所说：只要机器学习的程序是通过社会中已存在的数据进行训练的，那么只要这个社会还存在偏见，机器学习也就会重现这些偏见。

-开云电竞

热门资讯

企业数字化智能体：打造企业数智化AI底座

2024-04-02

TitanIDE（社区版）重磅免费开放使用！

2023-09-26

CloudOS：落地平台工程，实现真正的DevOps

2023-08-16

热门标签

企业数字化智能体 Agent AI 智能体企业智能体数智化AI底座 TitanIDE（社区版）免费在线代码编辑器 CloudIDE免费 TitanIDE免费云端IDE 平台工程 DevOps CloudOS 云原生开发平台落地平台工程云原生物联网开发平台云原生物联网物联网容器云 cloudos 微服务容器编排边端交付 TITANIDE 在线IDE 云原生开发远程研发 IDE TitanIDE 云端开发环境模板 K8s 不懂K8s也能用K8s