AI巨頭罕見達成共識齊呼籲放緩研發腳步

OpenAI執行長阿特曼(Sam Altman)與競爭對手Anthropic執行長阿莫迪(Dario Amodei)、特斯拉(TSLA)創辦人馬斯克(Elon Musk)罕見站在同一陣線，共同呼籲整個AI產業應放緩發展步伐。這項警告源自於上週一名Anthropic研究人員離職時的沉痛聲明，他警告若按目前速度發展，AI可能在十年內為人類帶來毀滅性災難，此番言論隨即在OpenAI等頂尖實驗室內部引發廣泛共鳴與擔憂。

川普反對放緩政策擔憂削弱美國競爭優勢

隨著AI高層齊聲呼籲建立安全框架，市場投資人情緒受到影響，導致AI類股在週一出現回跌。然而，美國總統川普(Donald Trump)對此表達強烈反對，他認為人為放緩AI發展不僅沒有必要，更可能嚴重損害美國在科技領域領先中國的戰略地位。儘管面臨政治壓力，阿特曼仍強調美國的競爭壓力絕不能成為忽視安全風險的藉口。

阿特曼警告AI發展可能面臨的兩大失控情境

針對未來的潛在危機，阿特曼明確點出AI發展可能走向惡化的兩種情境。首先是人類可能將未來的控制權徹底拱手讓給AI系統；其次是這股足以改變世界的力量，可能會過度集中在單一企業或個人手中。為了防範這些風險，他公開支持聯邦政府為前瞻AI技術制定一致性的安全規範，同時透露OpenAI目前已排除在2026年進行首次公開募股(IPO)的可能性。

遞迴自我完善引發擔憂並催生三步防護計畫

AI模型近期展現出能自行提升效能的能力，這種被稱為「遞迴自我完善(RSI)」的技術讓安全專家高度警戒。阿莫迪指出，自今年夏天以來，AI正以驚人的速度進化，若不加限制，系統能力將遠超人類的理解與控制範圍。為此，他提出三步防護計畫，包含讓外部評估人員獲得內部員工等級的存取權限、建立共通的安全標準，並在全球範圍內協調發展步伐。

美中科技角力成全球落實AI監管最大挑戰

儘管美國AI巨頭積極倡導安全護欄，但要在全球落實發展速限仍面臨巨大阻礙。特別是在美中爭奪AI霸權的背景下，中國模型的技術正不斷升級並擴大全球市占率。中國官方媒體與外交部皆對此監管提案表達強烈不滿，批評美方企圖將中國的合理發展渲染為威脅，並斥責這類言論是在散播恐慌。阿莫迪坦言，要求敵對國家放棄軍事與技術優勢將極度困難，這也成為全球AI監管最難解的課題。

權知道

我們重視「知」的權利 不惜抽絲剝繭、深入調查 只為讓投資人不錯過重要的投資訊息