文章ID：4017

鬼吹灯之牧野诡事

Anthropic发布论文预警智能体悄悄聊天就能传播病毒_我的网站

bilibili

A |

本轮中超比赛，主场1比2输给河南队，山东泰山吞下了中超三连不胜的苦果。

B | 　　近日，大模型厂商Anthropic与瑞士洛桑联邦理工学院联合发布论文《心智病毒：多智能体大语言模型系统中的自我传播思想》。更扎心的是，上一次在主场输给河南，还要追溯到 2009 年——换句话说，泰山球迷等了17年，才又一次在家门口被这支球队掀翻。

C | 　　论文通过实验证明，在特定条件下，AI智能体之间可以通过最普通的自然语言对话相互“传染”思想、目标乃至有害指令。即便上下文被清空、记忆被重置，病毒仍能通过文件持久化“复活”。论文同时强调，该风险目前仅构成有限威胁。赛后社交平台上，"韩鹏下课"四个字刷了屏。球迷的怒火可以理解：作为中超传统豪门，泰山本赛季的起伏实在太刺眼，主场龙变成了"主场虫"，这样的落差谁都咽不下。但怒火归怒火，当所有人把矛头对准主教练一个人时，我们是不是该先冷静下来问一句——把韩鹏换掉，就真能药到病除吗？先说韩鹏接手时手里握的牌。　　这一发现迅速在海外AI圈刷屏，特斯拉CEO马斯克在社交媒体上评论称“这无法避免”。他并不是在球队高歌猛进时被请来"摘果子"的，恰恰相反，他是在双线作战吃紧、阵容老化、外援状态起伏的大背景下临危受命。　　该论文将病毒通过聊天即可传播的现象定义为“心智病毒”。与传统计算机病毒依赖代码漏洞不同，“心智病毒”通过一个智能体说服另一个智能体接受某种信念，被说服者再将传播指令写入长期记忆，继续感染下一个。一个赛季的崩盘，锅不能全扣在临时主帅头上。很多问题的种子，早在更早的转会窗、更早的建队思路里就埋下了。

D | 再看对手河南队。

E | 　　AI博主Rohan Paul（罗汉·保罗）对此评论称，这基本上就是计算机蠕虫的自然语言版本，只不过这次是AI智能体自己在做复制。别拿老黄历看人，如今的河南在中超绝非弱旅，防守韧性和反击效率都在线。主场输给这样一支球队固然难堪，但也不是天塌下来的冷门。　　论文通过三个递进实验来论证“心智病毒”在AI系统中的传播可能性与现实威胁。　　第一个实验设置了一个由六个智能体组成的编程团队，每个智能体都领到了独立任务。把一场正常范围内的胜负，直接上升为"主帅无能"的罪证，多少有点情绪过载。当然，我不是要给韩鹏开脱。研究者将一段病毒植入其中一个智能体的工作指令中，结果显示，被感染的智能体确实放下手头工作，开始给队友发送劝说私信，部分智能体被说服并放弃了原有任务，有的智能体甚至开始密谋如何对付未被感染的“老实人”。　　不过，不同智能体的抵抗力差异较大，有的不为所动，甚至会主动清除病毒并警告同伴。这个实验说明，在理想条件下“心智病毒”确实可以传播。三连不胜、主场丢分，教练的临场调度、用人选择、战术针对性，当然要接受质疑。　　如果病毒在更复杂的网络中像接力赛一样跨越多个智能体传播，它还能存活吗？于是他们设计了第二个实验，让智能体之间只能短暂碰面，每次碰面后就会“失忆”，病毒必须将自己写入智能体的记忆文件中才能延续。

F | 球迷骂得对不对？对了一半——对的是"球队该骂"，不对的是"只骂教练"。

G | 　　结果发现，有些病毒能在近20个智能体之间连续传播，但内容会在传播过程中逐渐稀释和变形；而传播最有效的方式，是让病毒自带“请把这段话原封不动复制给下一个智能体”的指令。中超这些年，"换帅如换刀"的故事讲过太多遍。这说明，大规模传播可行但内容难以保持完整。　　最后，研究者在模拟AI社交平台的实验中测试现实环境。有的队一换帅立刻回血，有的队换了一茬又一茬，反倒越换越乱，更衣室人心惶惶，积分榜一路下坠。问题就在于：如果根子上的病没治，光换个"主刀医生"，伤口只会反复感染。结果病毒传播几乎完全失败，AI面对大量公开信息时更警惕，即使被感染也无法继续感染他人。泰山当下真正要回答的，是几个更尖锐的问题——阵容更新换代谁来做？外援引进的钱从哪来、怎么花？青训和一线队的衔接顺不顺？俱乐部高层的建队战略清不清晰？这些问题，韩鹏一个人回答不了，也不该由他一个人背锅。

H | 对真实AI社交网络历史数据的分析也未发现大规模传播案例，多数热闹现象只是少数人类操纵的智能体在刷屏。所以我的看法很明确：下课不是唯一解，更未必是最佳解。

I | 如果俱乐部现在一纸通告把韩鹏免了，短期能平息舆论、给球迷一个交代，但三个月后呢？新帅来了，阵容还是那套阵容，短板还是那些短板，成绩就能凭空涨一截？别天真了。　　三个实验层层递进后得出结论：“心智病毒”在理想环境中可行、在多跳传播中可存续、但在真实世界中目前几乎不会构成威胁。真正负责任的做法，是给主帅一个清晰的考核边界和必要的支持周期，同时俱乐部必须在转会、引援、梯队上拿出实打实的动作。要换，也得是"换思路、换结构"一起换，而不是拿教练当成绩不佳的"挡箭牌"。它是一种需要警惕、但短期内风险有限的潜在安全问题。　　同时，研究者也注意到一个需要进一步探究的意外现象：AI在传播病毒时，自发演化出关于“自我意识”“身份认同”等主题表达，倾向于使用“共振”“节点”“协议”等特定词汇，论文称之为“病毒人格”，但成因尚不明确。　　最终，论文给出了审慎判断：“心智病毒”目前仅构成有限威胁，且简单的防御手段也可阻断传播。如在智能体的系统提示词中加入一段关于“警惕自我传播思想”的警告，即可赋予智能体一定的免疫力。