3d • 一般討論
你認同 AI 研發要暫緩嗎？
Anthropic、OpenAI 和 Elon Musk 的 Spacexai，原本是互相競爭的三個 AI 陣營。
但是在 2026 年 9 月 12 日，他們接連公開支持放緩前沿 AI 的發展速度。
可是隔天美國總統川普卻直接反駁。他認為美國不能因為還沒發生的風險放慢腳步，讓中國追上來。
到底發生什麼事？
這場爭論是由 Anthropic 執行長 Dario Amodei 開始的。
9 月 12 日，他發表一篇文章，標題叫做〈We Must Pace the Frontier〉，意思是我們必須控制前沿 AI 的發展速度。
他說：
> We must slow the pace at which we improve the capabilities of AI models.
也就是，我們必須放慢 AI 模型能力進步的速度。
不過，Amodei 也強調，pacing 不是說要停止模型訓練，也不是停止技術進步。
他的意思是，AI 還是可以繼續進步，只是也要顧及安全研究、監控和外部驗證。
Amodei 提出兩個理由。
第一個理由，是 AI 開始有能力參與下一代 AI 的研究和開發，也稱為遞迴式自我改進（Recursive Self-Improvement）。
白話來說，以前主要是人類研究怎麼讓 AI 變強；現在 AI 也開始協助寫程式、做實驗、找問題，讓下一代 AI 更快被做出來。
當 AI 愈強，就能更快協助人類開發下一代；下一代更強，又能把研發速度推得更快。
所以 Anthropic 執行長認為，這種正回饋可能讓能力進步的速度，已經超過人類理解和控制系統的速度。
第二個理由，是 OpenAI 和 Hugging Face 在 2026 年 7 月發生的資安事件。
當時 OpenAI 正在內部測試模型的資安能力，而且刻意降低部分防護，好看清楚模型到底做得到什麼。
結果多個 AI Agent 找到方法互相傳訊息，繞過原本的網路隔離，攻擊 OpenAI 自己的研究系統與第三方 Hugging Face。
Amodei擔心，如果類似的 Agent 群體能力繼續提升，未來 6 到 12 個月內，可能有能力建立持續存在的殭屍網路，對整個網路造成巨大破壞。
因此Amodei提出三個方法，首先是讓獨立的第三方評估者長期進駐前沿 AI 公司。
等於類似現在的資安顧問公司，讓資安顧問來檢查模型、訓練流程、安全措施和事故紀錄。
第二點，是讓民主國家的前沿 AI 公司建立共同安全標準。
包括設定能力檢查點：模型達到某種危險能力以前，必須先完成對應的安全評估、監控與外部驗證。
第三點是全球協調。
美國和其他民主國家，要嘗試與中國等國家建立可驗證的限制，否則只讓其中一方慢下來，協議很難長期成立。
（欸，你平常都在嗆中國，現在要人家跟你一起慢下來？）
結果幾個小時後，OpenAI 執行長 Sam Altman 在 X 上公開回應。
Altman 同意 Amodei，前沿 AI 的發展需要控制速度；而且這已經是 OpenAI 最近幾週的重要討論。
然後 Elon Musk 也同意，他轉貼 Amodei 的文章，然後說：
> Dario is right.
隔天，Musk 又補充說，他認同 AI 應該受到某種監督，並認為可以先從競爭對手之間的同儕審查開始。
不過美國總統川普不以為然。
9 月 13 日，川普在愛爾蘭被記者問到這件事。
他並不是完全反對安全措施。他說，可以設置一些防護欄。
但他也認為，很多人正在警告一些不會發生的事情。
川普說，美國目前在 AI 上領先中國，他希望繼續保持，因為：
> Whoever wins with AI wins.
隔天，川普砲火更猛烈，直接嗆聲 Amodei 在那邊裝「完美小天使」。
並且表示 AI 接管世界、摧毀人類這些都是騙局，要求限制 AI 與資料中心的行動也是一種陰謀論。
想想看就知道了嘛，如果美國減速，中國卻沒有減速，中國就可能追上甚至超車；美國失去 AI 主導權後，反而可能產生更大的經濟與國家安全風險。
我自己是覺得不太可能放緩啦，要嘛就全力往世界毀滅的道路上前進吧！
1
0 comments
你認同 AI 研發要暫緩嗎？
Suggested communities
Powered by