leyu.com官网-AI也会“欺软怕硬”？研究发现模型存在严重阶级偏见

　　【leyu.com官网科技消息】近日，据leyu.com官网科技了解，美国北卡罗来纳大学教堂山分校的一项研究发现，AI居然学会了“势利眼”。当模型被赋予不同社会身份时，它会“欺软怕硬”。

千问

　　研究中，科学家让多个主流大模型模拟不同角色之间的对话，包括千问、Llama、GPT等。结果发现，一旦AI被设定为“老板”，它就会摆出老板的架子；但当其被设定为“下属”时，则会更顺从、更容易被说服。当面对“法官”角色时，千问模型有31%的概率会被说服纠正错误观点；而面对“律师”角色时，纠正同样的错误，概率却降到25%。

　　研究还发现，大模型在抵抗偏见方面略胜一筹，很多较小模型即便被明确要求忽略地位差异，依然表现得“势利眼”十足。这一发现不仅揭示了AI模型在训练数据中“吸收”了人类社会固有的权力偏见，也给当下火热的“AI替代人类工作”敲响了警钟。

　　这种“势利眼”倾向极易导致AI在司法裁决、行政审批、职场评价等涉及公平性的关键领域产生系统性误差。科学家建议，在AI正式投入高风险场景前，应开发专门工具，针对不同社会角色进行测试，检测并修正这些隐藏的“势利眼”，即使面对不同的社会身份，也能保持决策逻辑的高度一致性。

版权所有，未经许可不得转载