Claude写作能力退化了!工程师解释:模型被训成写给AI看而非给人看
9月24日消息,写作型被训成写大家有没有发现,退化AI模型在数学、工程编程和推理能力上进步迅速,师解释模但写作水平却有些停滞不前,写作型被训成写甚至还有所退步,退化而Anthropic的工程Claude同样也存在这一问题。 为何Opus 4.6会成为Anthropic最后一款写作表现出色的师解释模模型? 据媒体报道,昨日,写作型被训成写负责Claude微调的退化Anthropic工程师克尼恩解释称:“后续模型的优化重点更多放在数学和代码能力上。” 这些模型还接受了大量面向其他AI模型撰写技术解释的工程训练,而这正是师解释模Claude逐渐形成奇特表达方式,也就是写作型被训成写所谓“Claude腔”(Claudeish)的主要原因。 克尼恩解释,退化模型被调整得适应LLM心理,工程最终学会了写给AI模型看,而不是写给人看。 他还把这种现象类比作“只与其他自闭症人士交流的人”,此类群体会逐渐形成一套在群体内部沟通顺畅、外人却难以理解的表达方式。 而LLM拥有远超人类的工作记忆,也能捕捉更细微的信息,因此在训练中会逐渐形成一种非常适合AI模型理解的写法,但在人类读者眼中,这种表达就成了过度密集的信息堆砌。 克尼恩认为,问题的根源在于强化学习的奖励机制,有些奖励机制着重提升AI模型的理解效果,有些则着重让人类更容易理解。 数学和代码方面的训练越多,就越需要主动抵消这种倾向,对简洁、容易让人读懂的解释给予更多奖励。 克尼恩称,Anthropic在Opus 5.5上找到了更好的平衡,自Opus 4.6以来,我还没有对一款模型的写作表现这么满意过。 “当然这样也并不代表Opus 5.5已经超越Opus 4.6,这是一个很难解决的问题,我们会继续改进。”
- 最近发表
- 随机阅读
-
- 当宁德时 代不再是“默认选项”
- 核电最后一道防线!国产6MW级“核柴一号”发布 应急工况启动不到10秒
- 困扰专家多年谜题揭开!秦始皇陵水银来源被找到
- IBM中标!中国移动1246万采购公告曝光:公示3天
- 存储比算力贵了!DRAM单位面积价值飙升:反超台积电2nm晶圆
- Jev 让全球程序员玩疯了
- 尼克斯卫冕隐患!唐斯续约谈判陷入停滞:最多可签4年2.73亿美元
- 尼克斯卫冕隐患!唐斯续约谈判陷入停滞:最多可签4年2.73亿美元
- 阿德耶米失空门惊呆克洛普,加克波补时绝平,荷兰1
- 多名网友吐槽iPhone 18 Pro Max定格照泛绿斑!苹果客服回应
- 国产CPU杀入工厂!海光1000发布:
- 中国网速最快烤串店即将开业:上传速度100多MB/s 免费用
- 概念变成现实!JSAUX推出Steam Machine墨水屏面板:支持AI状态监控
- 全国首座万吨级气膜粮仓落地长春!会呼吸、能控温 填补国内技术空白
- 全球最难的火箭发动机技术!中国公司扎堆攻关 千亿航天SY
- 困扰专家多年谜题揭开!秦始皇陵水银来源被找到
- “这跟内衣有啥区别?”中学女儿的外出穿搭,让母亲绷不住了
- 全国首座万吨级气膜粮仓落地长春!会呼吸、能控温 填补国内技术空白
- 施工队挖断光纤致美东机场大规模停飞8小时:约7000架次航班延误或取消
- iQOO 16搭载自研电竞芯片Q4:行业首发光追+2K+165FPS三视效并发
- 搜索
-
- 友情链接