微軟(MSFT)董事長兼執行長納德拉在社群平台上發文，呼籲先進的人工智慧系統在建置時，必須具備遏制機制、獨立控制以及「緊急煞車」功能，授權相關人員能在AI執行任務中途暫停或關閉模型。他強調，必須將非確定性模型與強大的確定性系統設計、人類控制結合，並在現有規範不足之處建立新的行業標準。

科技領袖擔憂AI失控風險

納德拉的呼籲呼應了多位頂尖科技高層與研究人員的警告。包含微軟(MSFT)共同創辦人比爾蓋茲、Anthropic執行長阿莫迪、OpenAI執行長阿特曼以及SpaceX執行長馬斯克等人，皆曾指出目前AI安全防護措施不足，且技術發展速度過快。近期甚至有Anthropic的AI研究員辭職，指控該公司與競爭對手OpenAI正在「拿人類生命當賭注」，並警告未來十年內，AI有超過10%的機率會對人類生存造成威脅。

川普陣營聚焦AI競爭優勢

相較於科技圈的擔憂，美國總統川普則多次駁斥AI導致人類滅絕的風險，將焦點轉向維持美國在AI領域領先中國的戰略地位。為了推動相關產業發展並揪出惡意行為者，川普近期也宣布成立全新的「AI部隊」，並由國家情報總監傑伊克萊頓負責領導。

可觀察性原則成AI系統設計關鍵

針對未來的系統設計，納德拉進一步提出應圍繞「可觀察性原則」展開。這項原則包含模型多樣性、人類可讀的模型行動足跡、持續性的系統測試、獨立控制與審計能力，以及事件披露機制。他強調，最值得信賴的超級智慧系統，並不是擁有最受信任模型的系統，而是建立在嚴謹監督機制下，讓我們能夠隨時保持警覺的系統。

權知道

我們重視「知」的權利 不惜抽絲剝繭、深入調查 只為讓投資人不錯過重要的投資訊息