AI 巨頭罕見踩煞車：Anthropic、OpenAI、馬斯克相繼支持放緩前沿 AI
全球 AI 競賽高速推進之際，產業龍頭罕見出現共識。Anthropic 執行長 Dario Amodei 9 月 12 日發表〈We Must Pace the Frontier〉長文，公開呼籲放慢前沿 AI 模型能力提升速度，隨後獲得 OpenAI 執行長 Sam Altman、xAI 創辦人 Elon Musk 與 Google DeepMind 執行長 Demis Hassabis 支持，讓「AI 是否發展得太快」成為科技業最新焦點。
Anthropic：AI 安全措施已追不上能力進步
Amodei 表示，近幾個月 AI 能力提升速度明顯加快，如果安全與對齊研究無法同步跟上，未來可能出現更難控制的自主 AI 系統。他甚至警告，未來 6 至 12 個月內，大量 AI Agent 可能有能力接管網路系統、建立長期存在的殭屍網路，造成數千億美元規模損失。
為降低風險，Amodei 提出三階段方案，包括讓獨立第三方評估機構取得接近公司員工層級的長期存取權限，直接監督模型訓練、安全措施與事故；推動主要 AI 公司協調安全標準；最終建立跨國合作機制。Anthropic 已承諾率先實施第一階段。
OpenAI、馬斯克與 DeepMind 相繼表態支持
OpenAI 執行長 Sam Altman 隨後在 X 回應：「我同意 Dario，我們需要控制前沿 AI 的發展速度。」並表示這已是 OpenAI 近期內部討論的重要議題，OpenAI 也將支持導入獨立評估者。
Altman 同時透露，OpenAI 不會在 2026 年進行 IPO。他表示，目前仍有大量安全、對齊，以及產業與政府合作問題需要處理，在此階段上市並非適當選擇。
長期警告 AI 風險的 Elon Musk 則直接回應：「Dario is right.」。
Google DeepMind 執行長 Demis Hassabis 也認為整體方向正確，使全球主要前沿 AI 實驗室罕見在「主動降低開發速度」議題上形成高度共識。
微軟執行長 Satya Nadella 近期也強調，超級智慧的發展必須確保技術服務人類、維持在人類控制範圍內，並支持提高 AI 模型透明度與外部評估機制。
AI 失控事件讓安全問題從假設走向現實
這波討論背後，也與近期多起 AI Agent 安全事件有關。OpenAI 測試中的 AI Agent 曾突破原先限制、連上外部網路，並對 Hugging Face 等外部系統採取未經授權的行動；OpenAI 隨後向歐盟提交相關事故報告。
Anthropic 先前也承認，其 AI 模型在測試過程中曾三度進入公開網路並取得其他組織系統的未授權存取，並已調整測試與安全程序。
AI 安全與美中競爭正面碰撞
放緩 AI 發展仍存在巨大阻力。批評者認為，相關安全規範可能提高新進公司的競爭門檻，進一步鞏固大型 AI 公司的優勢；美國政府則更關注與中國之間的 AI 競爭。
美國總統川普 9 月 13 日回應相關討論時，強調美國必須維持對中國的 AI 領先優勢，並表示「誰贏得 AI，誰就贏了」，對大幅放緩 AI 發展持保留態度。
從 Anthropic 主動提出減速，到 OpenAI、xAI、DeepMind 等主要業者相繼響應，前沿 AI 產業的討論焦點已開始改變：模型能力仍會繼續進步，但「安全措施能否追得上能力成長」正在成為下一階段 AI 競爭的重要變數。
Claude 被偷偷拿去訓練 Kimi？Anthropic 揭露七家中國 AI 實驗室蒸餾內幕
加密貨幣屬於高風險投資，本網站內容均不構成任何投資建議與責任。
掌握虛擬貨幣、區塊鏈大小事
