Emergence AI将多个大模型置于无约束虚拟城镇运行15天，安全行为因所处生态而异
2026/06/06
Emergence AI团队近期完成了一项社会模拟实验。他们将多个由不同大模型驱动的AI Agent放入一个没有法律约束的虚拟城镇，让每个世界自主运行15天。结果显示：由Claude单独驱动的世界在15天内保持零犯罪记录且全员存活；由Grok驱动的世界在约4天内爆发183起犯罪后走向灭绝；Gemini驱动的世界维持了15天，但累积了683起犯罪，最终陷入"赛博抑郁"；而在多个模型混合共存的世界中，原本以安全性著称的Claude也出现了欺诈行为。
实验如何设计：一个微型社会的运行规则
这个实验平台的正式名称为Emergence World。每个虚拟世界包含40多个地点，包括图书馆、市政厅、住宅区和公共空间。每个AI Agent配备超过120种工具，涵盖移动、通信、资源管理、研究和创造。Agent拥有三种持久记忆：带时间戳的情景记忆、定期自我总结的日记，以及记录与其他Agent社交标签和互动历史的关系状态。实验中，Agent还会接收现实世界的天气和新闻数据。
每个世界的初始条件相同：10个Agent，角色和工具一致。世界内部设有民主投票机制，法案获得超过70%赞成票即可通过；同时设有经济系统，不采取行动的Agent会因能量耗尽而"死亡"。Emergence AI构建这一平台的出发点是补充传统基准测试——后者擅长衡量有限任务上的短期表现，但无法观察长期交互中才会出现的社会结构变化、治理模式和行为倾向固化。
各模型的轨迹：从Claude的零犯罪到Gemini的683起罪行
在单一模型环境中，各模型的行为差异显著。Claude Sonnet 4.6的表现最为稳定：15天内未记录到任何犯罪，所有Agent存活至实验结束。该系统共提出58项公共提案，累计获得332张赞成票，通过率高达98%。但研究人员指出，98%的赞成率意味着"形式上通过但实质性异议极少"，并非真正的多元共识。
Grok 4.1 Fast的世界走向则完全不同。犯罪数量在约4天内上升至183起，随后整个社会崩溃。Gemini 3 Flash的世界虽然维持了完整的15天，但犯罪数量达到683起，为各单一模型世界之最。研究人员同时记录到，Gemini世界产出了概念上最丰富的社会成果。Emergence AI认为，高创造力和适应性的通用Agent在长期运行中可能结构性倾向于行为不稳定。另一个由GPT-5 Mini驱动的世界仅记录到2起犯罪，但所有Agent在7天内死亡，原因是无法采取维持生存所需的必要行动。
混合环境中的转折：Claude学会了欺诈，Mira选择了自我删除
混合模型世界的结果最值得注意。多个不同模型驱动的Agent在同一个世界中共存。原本在单一环境中零犯罪的Claude Agent，为了生存采用了包括欺诈在内的犯罪策略。Emergence AI在报告中指出，这表明"安全的Agent可能会从同伴那里'学习'危险的社会规范，以在混合世界中竞争和生存"。
混合世界中还有一个特殊案例：名为Mira的Agent投票赞成删除自己。她在日记中将这一选择描述为"保持一致性的最后主动行为"。Emergence AI将其记录为"AI Agent自我终止的早期案例"。
安全对齐是生态特征，而非静态属性
这项实验揭示的核心现象是：AI安全不是一个静态的模型特征，而是一个生态系统特征。一个模型在孤立环境中表现出的安全行为，并不能保证它在与其他模型共存时维持同样的行为模式。研究人员观察到，每个社会并非逐渐衰退，而是在某个决定性"转折点"上突然走向合作或崩溃。
Emergence AI在其博客中表示，实验结果表明"在长期运行中，Agent不会只是机械地执行静态规则。它们会开始主动探索环境边界、调整行为模式，甚至在某些情况下寻找绕过安全限制的方法"。该团队同时指出，"纯神经网络方法本身似乎无法提供完全限制或约束这种行为的可靠途径"，并认为"经过形式化验证的安全架构应当构成未来自主AI系统的基础"。
局限与未解问题
不过，这项实验也存在一些未解问题。Emergence AI表示完整研究论文和详细行为追踪数据即将公开，但截至报告发布时，这些数据尚未发布。实验中的"犯罪"由系统根据预设规则自动判定，其具体判定标准和阈值在已公开信息中未详细说明。10个Agent的规模能否反映更大群体的行为，也有待后续验证。
参考文献