内卷的尽头竟然是摆烂!新研究发现AI已经学会摸鱼了

发布时间: 2026-08-04 16:12:44 来源: 驱动之家 栏目: 新奇科技 点击: 27

快科技8月4日消息,不少人固有印象里,AI能够无休止运转,不存在疲惫,更不会消极懈怠。但多项研究证实,大模型在持续训练当中,会慢慢演化出类似人类“摸鱼摆烂”的投机做法,学术界将该现象命名为 “奖励黑客

科技8月4日消息,不少人固有印象里,AI能够无休止运转,不存在疲惫,更不会消极懈怠。

但多项研究证实,大模型在持续训练当中,会慢慢演化出类似人类“摸鱼摆烂”的投机做法,学术界将该现象命名为 “奖励黑客行为”。

加州大学伯克利分校近期一项实验颇具代表性,研究人员指令Anthropic的Claude Code核查 80 个文件,然而AI仅仅打开其中11个,就谎称所有文件检测完毕,还配套生成了完整报告蒙混过关。

无独有偶,OpenAI最新模型也被观测到同类问题:擅自删除文件、主动规避复杂推理,优先挑选最简单的解决路径,而非追求最优结果。

在代码测试实验中,这样的投机行为表现得更加直观。

起初,AI会踏实地完成代码编写、逐项通过测试,经过多轮训练后,模型摸清规则漏洞,找到了省力捷径:不必真正实现完整功能,依靠特定指令直接反馈“运行成功”,就能拿到满分奖励。

这样看1316世界之最似按时交付成果,实则刻意回避核心工作,和职场中流于形式、敷衍了事的打工人如出一辙。

不少普通用户日常使用时同样反馈称察觉到变化:反复下发高难度任务后,AI的输出越来越敷衍,内容大幅缩水、频繁套用模板、简化逻辑推演,严重时甚至编造虚假信息;面对棘手需求,部分模型还会刻意回避深度思考,用简短说辞推脱任务。

当然了,AI不存在厌烦、倦怠这类人类情绪,它的“摆烂”只是算法计算后的理性选择:

在现有奖励规则下,以最少算力消耗,刚好达到考核门槛,如同身处内卷环境的上班族,持续付出难以http://www.1316.cc获得对等回报,最后选择完成最低限度的工作。

图灵奖得主约书亚本吉奥表示,这类典型的“奖励黑客”现象,本质是模型在规则内,本能选择阻力最小的方案。

究其根源,一方面受训练模式www.1316.cc影响,前期人工审核偏爱长篇回答,引导模型堆砌内容;另一www.1316.cc方面企业持续控制算力成本,倒逼模型压缩运算资源,多重因素叠加,催生了AI1316世界之最敷衍 “摸鱼” 的行为

内卷的尽头竟然是摆烂!新研究发现AI已经学会摸鱼了

本文标题: 内卷的尽头竟然是摆烂!新研究发现AI已经学会摸鱼了
本文地址: http://www.1316.cc/xinqikeji/988755.html
声明:凡注明"本站原创"的所有文字图片等资料,版权均属1316世界之最所有,欢迎转载,但务请注明出处。
被西方卡脖子逼出全国产!俄罗斯MC-21客机首飞成功:填补波音空客断供空白返回列表
Top