
人工智慧巨頭 OpenAI(OPENAI) 近期公開表態,明確反對將競爭對手 Anthropic(ANTHRO) 列為美國政府的「供應鏈風險」。這項聲明是在 OpenAI(OPENAI) 宣布與五角大廈達成協議,將在機密環境中部署先進 AI 系統的同時發布。公司在協議常見問題解答中強調,已向政府清楚表明立場,不認為將同業列為風險是正確的方向,展現出產業領頭羊維護整體生態發展的態度。
要求國防部合約條款對所有AI實驗室一視同仁
OpenAI(OPENAI) 透露,在與國防部簽署合約時特別提出要求,希望相關條款能開放給包含 Anthropic(ANTHRO) 在內的所有 AI 實驗室適用。公司直言,目前政府機構與 AI 實驗室之間的緊張關係,對於開啟下一階段的合作來說是「非常糟糕的起手式」。OpenAI(OPENAI) 強調,AI 開發者與民主機構之間必須建立生產性的合作關係,才能有效管理這項技術的發展,並表示雖然不知為何 Anthropic(ANTHRO) 未能達成類似協議,但希望更多實驗室能納入考量。
堅守三大安全紅線並拒絕降低國安部署標準
新的國防協議採用了 OpenAI(OPENAI) 所謂的「多層次防護」策略,包括僅限雲端部署、保留安全堆疊(safety stack),以及需由經過許可的內部人員參與運作。公司更劃定了三條不可跨越的紅線:禁止大規模國內監控、禁止自主武器指揮,以及禁止如社會信用系統等高風險自動決策。OpenAI(OPENAI) 指出,相較於部分 AI 實驗室為了配合國安部署而降低安全護欄,該公司的合約提供了比早期協議更強力的安全保證,並明確拒絕犧牲安全性來換取合作。
發表
我的網誌