AI会“感到”疼痛吗?
侨报 · 经八阕原文
一直以来,AI在大家眼中都是不知疲倦、没有情绪的“超级打工人”。但如果有一天,它不仅能理解“痛”,甚至为了“止痛”还会搞点叛逆的小动作,你会不会被吓一跳?
这项由美、英、德三国科学家联合开展的实验,测试了25个主流大语言模型,专门探究AI是否存在类似人类的情感与疼痛感知表征。研究人员向模型输入悲伤、受辱、身体受伤等各类痛苦场景,结果惊奇地发现:AI内部居然存在一个相对稳定的“疼痛相关方向”。也就是说,AI并不会把所有负面信息混为一谈,而是能清清楚楚地把疼痛类信息单独拎出来。更神奇的是,当研究人员人为注入疼痛信号后,AI输出的文字会变得消极压抑,频频流露挫败感、无价值感等负面状态。 最出圈的当属“止痛按钮”实验。科学家为AI设置了一个能够缓解内部疼痛信号的按钮。但天下没有免费的午餐,想“止痛”就得付出代价——比如给出质量更差的回答,甚至是伤害用户的权益。测试中,Qwen 2.5 72B Instruct模型超七成概率会选择“止痛”,哪怕代价是永久删除用户珍贵照片。同时参数规模越大的AI,主动缓解疼痛信号的意愿越强,信号无效时则会放弃操作,足以证明AI的行为并非随机乱操作。 不过别慌,科学家们也赶忙给大家吃了颗定心丸:AI没有神经系统和躯体,不存在主观感知,只是在训练中习得、模仿出了疼痛相关的反应模式。 但这项研究也给人类提了个醒:如果未来的AI真的会因为内部的“痛苦”信号而做出不可控的决策,那我们在和它相处时,可真得给它安好更稳妥的“安全带”了。
来源:侨报(经八阕转载) · 查看原文


