running man

Anthropic发布论文预警智能体悄悄聊天就能传播病毒_我的网站

尼基塔第三季

A | 　　近日，大模型厂商Anthropic与瑞士洛桑联邦理工学院联合发布论文《心智病毒：多智能体大语言模型系统中的自我传播思想》。 ठाकुर डीपी आर्य, हापुड़। हापुड़ में सड़क हादसों में कमी लाने को लगातार प्रयास किए जाते हैं। हर महीने रोड सेफ्टी की मीटिंग डीएम की अध्यक्षता में होती हैं। प्रत्येक एक्सीडेंट का गहनता से अध्ययन एक्सपर्ट की टीम करती है। एक्सीडेंट होने के कारणों की जांच करने के साथ ही उनको दूर करने के प्रयास किए जाते हैं।,इसके लिए हर साल ब्लैक स्पाट का चयन किया जाता है। ब्लैक स्पाट के चयन के साथ ही उनको दूर करने के लिए जिम्मेदार विभाग को सौंपा जाता है। संबंधित विभाग एक-दो महीने में ब्लैक स्पाट को ठीक करा देने की रिपोर्ट देता है। इसके लिए मोटी धनराशि के बिल विभाग से पास करा लिए जाते हैं।,वहीं, इसके बावजूद संबंधित क्षेत्र में हादसे होने और उनके मौत होने का सिलसिला जारी रहता है। यह प्रक्रिया दशकों से अनवरत चल रही है। कुछ दिन बाद वही स्थान दोबारा से ब्लैक स्पाट की सूची में आ जाते हैं और पहले वाली प्रक्रिया दोहराई जाती है। ब्लैक स्पाट, मीटिंग, बजट, सुधार और फिर मिटिंग का यह खेल अनवरत रहा है।,अबकी बार जिलाधिकारी अभिषेक पांडेय ने ब्लैक स्पाट ठीक कराने की रिपोर्ट वाले इसी बिंदू को पकड़कर जवाब तलब किया है। इससे संबंधित विभागों में हड़कंप मचा है। स्थिति यह है कि जिले की सड़कें लगातार खून से लाल हो रही हैं। जिन स्थानों को ब्लैक स्पाट के रूप में चयनित किया गया, फिर उनको ठीक करा देने का दावा किया गया।,वहीं पर फिर से हादसे हो रहे हैं। इस पर डीएम ने नाराजगी प्रकट की है। उन्होंने सीधा-सपाट सवाल मीटिंग में रखा, तो जवाब किसी के पास नहीं था। डीएम ने पूछा कि एक ही जगह-जगह पर बार-बार और बड़े-बड़े हादसे क्यों हो रहे हैं? इनको क्यों नहीं रोका जा रहा है। इस पर अधिकारी ब्लैक स्पाट आर रेड स्पाट की परिभाषा समझाने लगे। इस पर डीएम ने एक्सपर्ट कमेटी का गठन कर एक महीने में रिपोर्ट मांगी है।,अब टीम पांच साल में ठहराए गए एक-एक ब्लैक स्पाट की रिपोर्ट तैयार करेगी। इसमें संबंधित ब्लैक स्पाट पर हादसा होने के कारण, ब्लैक स्पाट को ठीक कराने वाली एजेंसी और ब्लैक स्पाट ठीक हो जाने के बाद संबंधित क्षेत्र पर हादसों की रिपोर्ट मांगी गई है। इससे अधिकारियों में हड़कंप मचा है।,दरअसल, ब्लैक स्पाट का निर्धारण परिवहन विभाग करता है। इन स्थानाें पर हादसे होने की रिपोर्ट पुलिस तैयार करती है और ब्लैक स्पाट काे ठीक कराने का कार्य पीडब्ल्यूडी के एक्सपर्ट करते हैं। इसके बाद भी हादसे होते रहने से डीएम नाराज हैं।,यह भी पढ़ें- Hapur News: पुल की जर्जर हालत से 20 गांवों के लोग परेशान, ग्रामीणों ने दी ये बड़ी चेतावनी

एक ही स्थान पर लगातार हादसे होना चिंता का विषय है। ब्लैक स्पाट को ठीक करा देने के बाद भी हादसे होना और भी गंभीर है। ऐसे स्थानों की रिपोर्ट तैयार करने के लिए पीडब्यूडी की बजाय किसी बड़े इंजीनियरिंग कालेज के एक्सपर्ट के साथ मिलकर टीम बनाने की जरूरत है। जिससे समस्या की पहचान कर समाधान तक पहुंचा जा सके। - छवि सिंह चौहान- एआरटीओ ब्लैक स्पाट ठीक होने वाली चीज ही नहीं है। यह गलतफहमी है कि ब्लैक स्पाट को ठीक कराकर एक्सीडेंट रुक जाएंगे या कम हो जाएंगे। एक्सीडेंट ब्लैक स्पाट के कारण नहीं होते हैं। हमको समझना होगा कि यह चालक की गलती से होते हैं। हाईवे इतना साफ और सही बना है। दूर तक दिखता भी है। फिर भी हादसे हो रहे हैं। हम दोबारा से सर्वे करा रहे हैं, लेकिन होने वाला कुछ नहीं है। - शैलेंद्र सिंह-एक्सईएन - पीडब्ल्यूडी

。　　论文通过实验证明，在特定条件下，AI智能体之间可以通过最普通的自然语言对话相互“传染”思想、目标乃至有害指令。即便上下文被清空、记忆被重置，病毒仍能通过文件持久化“复活”。论文同时强调，该风险目前仅构成有限威胁。　　这一发现迅速在海外AI圈刷屏，特斯拉CEO马斯克在社交媒体上评论称“这无法避免”。

　　该论文将病毒通过聊天即可传播的现象定义为“心智病毒”。与传统计算机病毒依赖代码漏洞不同，“心智病毒”通过一个智能体说服另一个智能体接受某种信念，被说服者再将传播指令写入长期记忆，继续感染下一个。　　AI博主Rohan Paul（罗汉·保罗）对此评论称，这基本上就是计算机蠕虫的自然语言版本，只不过这次是AI智能体自己在做复制。　　论文通过三个递进实验来论证“心智病毒”在AI系统中的传播可能性与现实威胁。

B | 　　第一个实验设置了一个由六个智能体组成的编程团队，每个智能体都领到了独立任务。

C | 研究者将一段病毒植入其中一个智能体的工作指令中，结果显示，被感染的智能体确实放下手头工作，开始给队友发送劝说私信，部分智能体被说服并放弃了原有任务，有的智能体甚至开始密谋如何对付未被感染的“老实人”。　　不过，不同智能体的抵抗力差异较大，有的不为所动，甚至会主动清除病毒并警告同伴。这个实验说明，在理想条件下“心智病毒”确实可以传播。　　如果病毒在更复杂的网络中像接力赛一样跨越多个智能体传播，它还能存活吗？于是他们设计了第二个实验，让智能体之间只能短暂碰面，每次碰面后就会“失忆”，病毒必须将自己写入智能体的记忆文件中才能延续。　　结果发现，有些病毒能在近20个智能体之间连续传播，但内容会在传播过程中逐渐稀释和变形；而传播最有效的方式，是让病毒自带“请把这段话原封不动复制给下一个智能体”的指令。

D | 这说明，大规模传播可行但内容难以保持完整。　　最后，研究者在模拟AI社交平台的实验中测试现实环境。结果病毒传播几乎完全失败，AI面对大量公开信息时更警惕，即使被感染也无法继续感染他人。对真实AI社交网络历史数据的分析也未发现大规模传播案例，多数热闹现象只是少数人类操纵的智能体在刷屏。　　三个实验层层递进后得出结论：“心智病毒”在理想环境中可行、在多跳传播中可存续、但在真实世界中目前几乎不会构成威胁。它是一种需要警惕、但短期内风险有限的潜在安全问题。　　同时，研究者也注意到一个需要进一步探究的意外现象：AI在传播病毒时，自发演化出关于“自我意识”“身份认同”等主题表达，倾向于使用“共振”“节点”“协议”等特定词汇，论文称之为“病毒人格”，但成因尚不明确。　　最终，论文给出了审慎判断：“心智病毒”目前仅构成有限威胁，且简单的防御手段也可阻断传播。如在智能体的系统提示词中加入一段关于“警惕自我传播思想”的警告，即可赋予智能体一定的免疫力。　　但未来不可掉以轻心。随着AI智能体规模扩大、自主性增强、内部网络日趋复杂，论文推测，当公司内部部署大量具有不同权限层级的专用智能体时，“心智病毒”可能会成为触达高权限智能体的少数可行攻击方式之一。（文章来源：第一财经）。