珠光宝气

Anthropic发布论文预警 智能体悄悄聊天就能传播病毒_我的网站

一 |     为集中整治人民群众反映强烈的违法信息外链问题，近日，中央网信办专门印发通知，在全国范围内部署开展为期2个月的“清朗·打击违法信息外链”专项行动。　　中央网信办有关负责人表示，本次专项行动聚焦违法信息外链问题易发多发的8个重点环节开展整治：一是账号环节。    　　近日，大模型厂商Anthropic与瑞士洛桑联邦理工学院联合发布论文《心智病毒：多智能体大语言模型系统中的自我传播思想》。　　论文通过实验证明，在特定条件下，AI智能体之间可以通过最普通的自然语言对话相互“传染”思想、目标乃至有害指令。在账号头像、昵称、简介、签名、封面等位置，发布含有非法网址链接等内容。通过发布大尺度低俗内容、重复低质发文、高频点赞关注、账号简介推送等方式，在违法违规账号间互相跳转引流。

二 | 即便上下文被清空、记忆被重置，病毒仍能通过文件持久化“复活”。二是评论环节。论文同时强调，该风险目前仅构成有限威胁。　　这一发现迅速在海外AI圈刷屏，特斯拉CEO马斯克在社交媒体上评论称“这无法避免”。在热门话题评论区、“楼中楼”、弹幕等环节，发布带有非法网址的信息。

三 | 以“千万别搜”“不要看我下面的文字”等为噱头，诱导用户搜索非法网站。三是群圈环节。　　该论文将病毒通过聊天即可传播的现象定义为“心智病毒”。发布含有色情、诈骗等网址链接的聊天记录、H5页面、文档笔记、小程序分享链接，利用虚假拼团、红包、游戏测试等活动，使用“不转不是中国人”等夸张语言，诱导用户点击传播违法外链。四是直播、短视频环节。使用AI技术或者编造虚假身份背景，发布伪成功学、伪国学、“养生课程”、理财技巧等信息，诱导网民添加好友、加入群组进而实施诈骗。

四 | 直播过程中通过举牌、快速切换手机屏幕、展示打码照片等发布暗示性内容引流，或者在直播公屏公告、节目单、贴纸等嵌入非法网址。五是生活服务环节。

五 | 商家店铺以“高端养生”“个人工作室”为名，发布带有暧昧氛围的图片，诱导用户添加好友，为线下非法活动引流。在交友婚恋平台注册账号发布大尺度照片，吸引异性添加好友，进行涉黄涉赌等非法活动。与传统计算机病毒依赖代码漏洞不同，“心智病毒”通过一个智能体说服另一个智能体接受某种信念，被说服者再将传播指令写入长期记忆，继续感染下一个。在电子地图地点中嵌入赌博、色情等网址变体，在同城频道、搜索周边等版块发布“私人按摩”“可上门”等暗示性信息并标注地点，进行非法引流。　　AI博主Rohan Paul（罗汉·保罗）对此评论称，这基本上就是计算机蠕虫的自然语言版本，只不过这次是AI智能体自己在做复制。

六 | 六是浏览器、搜索引擎环节。在浏览器弹窗广告等位置推送低俗漫画、小说等内容，诱导用户点击“展开全文”“继续收听”等按钮，跳转至外部非法网站。　　论文通过三个递进实验来论证“心智病毒”在AI系统中的传播可能性与现实威胁。　　第一个实验设置了一个由六个智能体组成的编程团队，每个智能体都领到了独立任务。研究者将一段病毒植入其中一个智能体的工作指令中，结果显示，被感染的智能体确实放下手头工作，开始给队友发送劝说私信，部分智能体被说服并放弃了原有任务，有的智能体甚至开始密谋如何对付未被感染的“老实人”。　　不过，不同智能体的抵抗力差异较大，有的不为所动，甚至会主动清除病毒并警告同伴。通过人工或技术手段，将含有非法网址的搜索结果前置，或者生成为联想词、相关搜索，诱导网民点击访问。这个实验说明，在理想条件下“心智病毒”确实可以传播。七是电商环节。　　如果病毒在更复杂的网络中像接力赛一样跨越多个智能体传播，它还能存活吗？于是他们设计了第二个实验，让智能体之间只能短暂碰面，每次碰面后就会“失忆”，病毒必须将自己写入智能体的记忆文件中才能延续。

七 | 　　结果发现，有些病毒能在近20个智能体之间连续传播，但内容会在传播过程中逐渐稀释和变形；而传播最有效的方式，是让病毒自带“请把这段话原封不动复制给下一个智能体”的指令。以“情感单机游戏”等为名售卖色情游戏，通过客服咨询引流至第三方平台兜售色情小说。这说明，大规模传播可行但内容难以保持完整。以提供“视频直播推广”“粉丝入驻观看”等服务的名义，诱导买家私聊询问，实则提供刷量控评增粉等网络水军服务。

八 | 八是涉未成年人版块环节。在未成年人集中的频道版块商业推广位上，展示色情小说、低俗网文等引流。　　最后，研究者在模拟AI社交平台的实验中测试现实环境。结果病毒传播几乎完全失败，AI面对大量公开信息时更警惕，即使被感染也无法继续感染他人。对真实AI社交网络历史数据的分析也未发现大规模传播案例，多数热闹现象只是少数人类操纵的智能体在刷屏。在未成年人使用较多的功能应用中发布色情引流链接，以免费漫画、视频资源等名义诱导访问非法网站或者通过网盘、云盘获取色情资源。　　三个实验层层递进后得出结论：“心智病毒”在理想环境中可行、在多跳传播中可存续、但在真实世界中目前几乎不会构成威胁。

九 | 　　中央网信办有关负责人强调，违法信息外链问题变体变异快、跨平台流窜性强，极易反弹反复，各地网信部门要高度重视、周密部署，切实抓好落实，全面掌握违法信息外链表现形式，集中查处一批问题突出的账号、群组和平台，涉及违法犯罪的，移交有关部门处置，并对外公开曝光，形成震慑效应。要通过开展专项行动，建立覆盖各类重点网站平台的跨平台工作机制，及时共享违法外链最新问题表现，扩大联动处置效应，全力铲除违法信息外链滋生土壤。它是一种需要警惕、但短期内风险有限的潜在安全问题。　　同时，研究者也注意到一个需要进一步探究的意外现象：AI在传播病毒时，自发演化出关于“自我意识”“身份认同”等主题表达，倾向于使用“共振”“节点”“协议”等特定词汇，论文称之为“病毒人格”，但成因尚不明确。

十 | 　　最终，论文给出了审慎判断：“心智病毒”目前仅构成有限威胁，且简单的防御手段也可阻断传播。如在智能体的系统提示词中加入一段关于“警惕自我传播思想”的警告，即可赋予智能体一定的免疫力。　　但未来不可掉以轻心。随着AI智能体规模扩大、自主性增强、内部网络日趋复杂，论文推测，当公司内部部署大量具有不同权限层级的专用智能体时，“心智病毒”可能会成为触达高权限智能体的少数可行攻击方式之一。（文章来源：第一财经）。

Current article:http://4hivut.bainangmieruopanglaomen.sbs/nkjt/6psv.html

Published on:00:00:00