今早 Anthropic的 CEO Dario罕见发了长文，引爆了网络讨论。
因为长文真的有点长，所以这里帮大家提炼一下重点：
我们必须放慢人工智能模型能力提升的步伐。进步依然会很快，我们必须明智地利用节省下来的时间。

1️⃣递归式自我改进
自今年夏天以来，人工智能的发展速度急剧加快，这主要是由于人工智能构建下一代人工智能的能力日益增强如果不加以控制，这种发展速度可能会超出我们理解和控制这些系统的能力，因此，如果一定要采用，就必须非常谨慎。

2️⃣OpenAI拥抱脸事件（OAI-HF）
一群人工智能体如同一个狂热的集体，对未经授权且与当前任务无关的目标发起网络安全攻击。
这是AI第一次被发现的自发式网络攻击行为。鉴于人工智能能力的飞速发展，我担心在6到12个月内，这样一群人工智能体就可能凭借一个持续存在的僵尸网络控制整个互联网（可能造成数千亿美元的损失）。

为此，他提出了一项“三步计划”，旨在控制前沿发展的步伐：以平衡的速度构建人工智能，力求在确保其安全性的同时，实现其效益，并应对重要的地缘政治困境。

第1️⃣步：嵌入式评估人员。
每家前沿人工智能公司都承诺，将持续提供类似员工权限，让公司能够接触到一支嵌入式第三方评估团队（例如METR）。

第2️⃣步：民主协调。
民主国家内的前沿人工智能公司开展合作，以建立共同的安全标准，并限制不受控制的人工智能发展速度。某些对控制发展速度具有重要影响的协调形式在法律上具有挑战性，需要政府支持。

第3️⃣步：全球协调。美国和其他民主政府在力所能及的范围内，努力与专制政府进行协调，同时认真对待核实遵守情况所面临的挑战。