文章正文

捉迷藏

Anthropic发布论文预警智能体悄悄聊天就能传播病毒_我的网站

可凡倾听

A | 五一假期即将到来，为了能让消费者敢消费、愿消费、乐享品质消费，中国消费者协会今天（25日）发布消费提示，提醒广大消费者注意以下几点：　　交通住宿需规划　　五一期间人流、车流量大，景点、道路可能出现拥堵的情况，消费者如果选择外出游玩，应提前规划好行程，合理安排出行路线、方式和住宿酒店等，注意景点门票预售、预约信息，密切关注旅游目的地气象、交通、卫健、应急等部门发布的提示信息。　　近日，大模型厂商Anthropic与瑞士洛桑联邦理工学院联合发布论文《心智病毒：多智能体大语言模型系统中的自我传播思想》。　　论文通过实验证明，在特定条件下，AI智能体之间可以通过最普通的自然语言对话相互“传染”思想、目标乃至有害指令。即便上下文被清空、记忆被重置，病毒仍能通过文件持久化“复活”。论文同时强调，该风险目前仅构成有限威胁。

B | 　　这一发现迅速在海外AI圈刷屏，特斯拉CEO马斯克在社交媒体上评论称“这无法避免”。　　该论文将病毒通过聊天即可传播的现象定义为“心智病毒”。

C | 　　选择自驾游、长途巴士的消费者应时刻关注路况，尽量错峰出行；选择飞机、高铁出行的消费者要提前购买往返票，并通过正规平台、网站购票，如遇到有打折的车票或机票务必思考折扣是否合理，不要轻信“特价机票”“内部渠道”等宣传，防止上当受骗。与传统计算机病毒依赖代码漏洞不同，“心智病毒”通过一个智能体说服另一个智能体接受某种信念，被说服者再将传播指令写入长期记忆，继续感染下一个。　　选定酒店时要通过正规平台多方比价，并仔细查看酒店的评分和其他消费者的评价，注意酒店周围的交通和环境。　　AI博主Rohan Paul（罗汉·保罗）对此评论称，这基本上就是计算机蠕虫的自然语言版本，只不过这次是AI智能体自己在做复制。　　选择旅行社前要通过全国旅游监管服务平台查询旅行社的资质和注册信息，确保旅行社资质齐全、经营范围明确，并签订正规旅行合同，仔细审阅合同内容。

D | 　　论文通过三个递进实验来论证“心智病毒”在AI系统中的传播可能性与现实威胁。　　第一个实验设置了一个由六个智能体组成的编程团队，每个智能体都领到了独立任务。研究者将一段病毒植入其中一个智能体的工作指令中，结果显示，被感染的智能体确实放下手头工作，开始给队友发送劝说私信，部分智能体被说服并放弃了原有任务，有的智能体甚至开始密谋如何对付未被感染的“老实人”。　　购物充值要警惕　　五一期间不少商家会开展各种促销活动来吸引消费者，其中难免鱼龙混杂，消费者要审慎选择、理性消费，避免落入各种消费陷阱。　　在购买商品前，消费者应当先评估自身的消费能力，然后货比三家择优选购，面对商家的促销和宣传不要冲动，多关注商品的品质；同时秉持绿色消费的理念，主动选择包装简约、质量过硬的商品，抵制过度包装的商品。　　不过，不同智能体的抵抗力差异较大，有的不为所动，甚至会主动清除病毒并警告同伴。　　对于需要购卡充值的预付消费，消费者务必仔细审阅合同条款，明确退费、违约等事项，避免一次性充值过大金额。　　另外不要听信自称中消协帮忙办理退款、退费的电话、短信和平台传闻，中消协已在声明中多次强调此系不法分子冒充，而且正规退费流程一般会以原路返还的形式返还本人缴费账号，凡是退款时要求额外支付费用的，都是诈骗！　　饮食就餐讲卫生　　消费者外出就餐时要注意“舌尖上”的安全，树立文明健康的饮食观念，提高自我保护意识。这个实验说明，在理想条件下“心智病毒”确实可以传播。　　如果病毒在更复杂的网络中像接力赛一样跨越多个智能体传播，它还能存活吗？于是他们设计了第二个实验，让智能体之间只能短暂碰面，每次碰面后就会“失忆”，病毒必须将自己写入智能体的记忆文件中才能延续。　　消费者尽量选择经营资质齐全、就餐环境干净卫生、食品量化等级高的餐厅就餐，并关注菜品是否新鲜，不要食用“野味”和未加工处理的“生鲜”食品。　　结果发现，有些病毒能在近20个智能体之间连续传播，但内容会在传播过程中逐渐稀释和变形；而传播最有效的方式，是让病毒自带“请把这段话原封不动复制给下一个智能体”的指令。这说明，大规模传播可行但内容难以保持完整。

E | 　　购买食品时要选择包装及标签信息完整的食品，并按照说明保存和食用。　　另外，勤俭节约是中华民族优秀的传统美德，消费者要树立正确的食品消费观，把“光盘行动”作为一种时尚，从自身做起，持续做制止餐饮浪费的“先行者”。　　最后，研究者在模拟AI社交平台的实验中测试现实环境。节日与亲朋好友聚餐，不攀比、不炫耀，按需用餐，剩余饭菜打包带走，拒绝铺张浪费。结果病毒传播几乎完全失败，AI面对大量公开信息时更警惕，即使被感染也无法继续感染他人。对真实AI社交网络历史数据的分析也未发现大规模传播案例，多数热闹现象只是少数人类操纵的智能体在刷屏。　　消费纠纷留证据　　购物凭证是消费者与商家发生消费纠纷后，依法维权的重要证明。　　三个实验层层递进后得出结论：“心智病毒”在理想环境中可行、在多跳传播中可存续、但在真实世界中目前几乎不会构成威胁。它是一种需要警惕、但短期内风险有限的潜在安全问题。广大消费者在购买、使用商品或旅游消费中，一定要注意索取并妥善保留购物发票、收据、支付记录等消费凭证，当自身合法权益受到损害时，应当本着合法、正当、公平原则，首先与商家协商解决，如果和解不成，可向有关部门投诉，也可通过全国消协智慧315平台向消协组织投诉。

F | 　　（总台央视记者王婧）。　　同时，研究者也注意到一个需要进一步探究的意外现象：AI在传播病毒时，自发演化出关于“自我意识”“身份认同”等主题表达，倾向于使用“共振”“节点”“协议”等特定词汇，论文称之为“病毒人格”，但成因尚不明确。　　最终，论文给出了审慎判断：“心智病毒”目前仅构成有限威胁，且简单的防御手段也可阻断传播。如在智能体的系统提示词中加入一段关于“警惕自我传播思想”的警告，即可赋予智能体一定的免疫力。