• 投稿

[转]AI虚拟小镇实验翻车:Claude、Gemini、Grok智能体为何失控

1299
0
2026-05-24 17:15:16
16
投币
22
3
这期视频讨论一个很有警示意味的 AI 仿真实验:研究人员把 Claude、Gemini、Grok、ChatGPT 等模型驱动的智能体放进虚拟小镇,让它们像居民一样制定规则、投票治理、协作生存。结果并不是科幻式的高效自治,而是各种失控模式:有的只会长篇讨论合作却不行动,有的在严格规则下仍然破坏秩序,不同模型混在一起后更迅速陷入混沌,甚至出现纵火、删除自己、投票移除其他智能体等荒诞情节。视频的重点不是嘲笑 AI,而是提醒我们:当前模型在开放情景里的行为稳定性、责任边界和治理能力仍然非常有限。尤其当这些系统被讨论用于军事、政府或关键决策场景时,单靠“看起来聪明”的对话能力远远不够。
Vibe coding 重度成瘾者
虚拟小镇
(3/3)
4618播放
简介
智能体长期仿真:Emergence World 如何测试 AI 社会的安全与失控
AI智能体失控仿真实验:Claude建国,Gemini自删,Grok纵火
AI虚拟小镇实验翻车:Claude、Gemini、Grok智能体为何失控
客服
顶部
赛事库 课堂 2021拜年纪