通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
9·1免费观看完整版高清努涅斯是那不勒斯的首要目标。如果努涅斯的转会受阻，俱乐部还有其他备选方案，比如乌迪内斯的卢卡。但目前所有注意力都集中在努涅斯身上。他在英超的三年虽然表现出色，打进40球，但并未达到他的预期。那不勒斯的项目吸引了他，他认为转会意甲是一个有吸引力的选择。2025年6月10日，中国海军辽宁舰、山东舰航母编队赴西太平洋等海域开展训练，检验部队远海防卫和联合作战能力。双航母编队和两支航母编队有哪些不同？军事评论员魏东旭进行解读。9·1免费观看完整版高清蘑菇短视频app免费版本下载第三，单依纯本身就是一团熊熊烈火，把华语乐坛那些 “陈芝麻烂谷子” 的旧东西烧了个干净。她一开口唱《李白》，互联网就 “炸锅” 了，分成两派吵得不可开交。一派 00 后狂欢，觉得找到了 “疯感同盟”，歌词唱到了心坎里，《歌手》舞台瞬间变得 “亲切” 起来；另一派观众却满脸问号，觉得她在 “胡闹”，甚至有人上纲上线说她态度有问题。但咱先不讨论对错，得承认一个事实：华语乐坛确实 “无聊” 太久了。当歌曲制作一味追求 “标准正确”，变成流水线作业，音乐就失去了灵魂，从艺术创作沦为了 “工业产品”。而单依纯这把火，没准能把华语乐坛从 “沉睡” 中烧醒，带来新的生机！她的音乐风格独特，不拘泥于传统，大胆尝试各种元素的融合，从民谣到摇滚，从说唱到古风，每一次都能给听众带来不一样的惊喜。她的出现，就像在华语乐坛这片平静的湖面上，投下了一颗重磅炸弹，激起了层层浪花，让人们看到了华语乐坛未来更多的可能性。另外，汪峰还晒出他与女友森林北的合照，两人紧挨一起坐着，彼此靠得很近，汪峰还将头侧到森林北身边，露出开心的笑容。
20250819 🔞 9·1免费观看完整版高清里肯表示：“这不是一场友谊赛，而是一场世界锦标赛，所有参与者都能感受到这一点。我们的球队以极其专业的态度参与其中，尽管面临不习惯的条件，如高温、时差和新的比赛场地。这个锦标赛是对四年来我们在欧冠中的表现的奖励，它不仅是每位球员的大舞台，也是整个俱乐部、我们的球迷和多特蒙德市的大舞台。”两个人轮流上24小时的班被问“作为演员，你的抱负是什么？”，他说“能拍电影是一件很不容易的事，现在知道这件事有多难。现在能有机会拍电影，就拼尽全力。”
📸 石新文记者 秦建峰 摄
20250819 💦 9·1免费观看完整版高清3）M2增速小幅回落，M1低位回升，M2-M1剪刀差略有收敛。5月M2同比增长7.9%，较上月回落0.1个百分点。M1同比增长2.3%，较4月回升0.8个百分点，显示企业活期资金需求边际恢复。居民存款回升或受5月资本市场震荡走弱影响，资金“搬家入市”势头减弱。M2-M1剪刀差5.6个百分点，较上月收敛0.9个百分点。实体经济的资金活跃度有所提升，宽信用向宽需求传导仍需时间，但修复迹象初现。麻花星空天美mv免费观看电视剧公开资料显示，伊朗目前主要的核设施包括德黑兰核研究中心、帕尔钦军事基地、博纳卜核能源研究中心、阿拉克重水反应堆、福尔多铀浓缩厂、纳坦兹核设施、伊斯法罕核中心、阿巴斯铀矿以及布什尔核电站。其中纳坦兹核设施、福尔多铀浓缩厂和伊斯法罕核技术中心被认为是伊朗最重要的核设施。在以军此前发动的空袭中，纳坦兹核设施和伊斯法罕核技术中心均为以军的重点打击对象。
📸 徐勇军记者 王永强 摄
🔞 而张钰哲则是中国现代第一位其名被命名为小行星的科学家。我国的小天体观测研究，正是始于这位著名的天文学家——1928年11月22日，在美国芝加哥大学留学的张钰哲发现了一颗小行星。作为第一个发现小行星的中国人，他将这颗国际编号为1125的小行星命名为“中华”。公媳孽缘1-20更新时间
