發表
我的網誌
前谷歌首席執行官埃里克·施密特周三警告說，人工智能可能帶來存在性風險，政府需要知道如何確保這項技術不被「邪惡人士誤用」。
人工智能的未來已成為技術人員和政策制定者討論的焦點，他們正在努力思考這項技術的發展方向以及應該如何進行監管。
去年風靡一時的聊天機器人ChatGPT無疑提高了人們對人工智能的認識，世界各大公司都在努力推出競爭產品並宣揚其人工智能能力。
施密特在倫敦《華爾街日報》首席執行官峰會上發言時表示，他擔心人工智能是一種「存在性風險」。
施密特說：「存在性風險是指很多很多很多人受到傷害或喪生。」
他還說：「目前還不會出現這樣的情況，但很快就會有，這些系統將能夠在網絡問題中發現零日漏洞，或者發現新的生物學問題。現在這還只是虛構，但這種推論很可能是正確的。當這種情況發生時，我們希望能夠準備好，知道如何確保這些事情不被邪惡人士誤用。」
零日漏洞是黑客在軟件和系統中發現的安全漏洞。
施密特在谷歌擔任首席執行官的時間從2001年持續到2011年，他對於如何監管人工智能沒有明確的觀點，但表示這是一個「更廣泛的社會問題」。然而，他表示在美國不太可能成立一個專門監管人工智能的新監管機構。
施密特並非第一位對人工智能風險發出警告的科技界重要人物。
OpenAI的首席執行官山姆·奧特曼在今年三月承認他對人工智能感到「有點害怕」。他表示擔心專制政府在開發這項技術上的行為。
特斯拉的首席執行官埃隆·馬斯克曾表示，他認為人工智能是對文明「最大的風險」之一。
就連現任谷歌和Alphabet的首席執行官桑達爾·皮查伊，最近負責該公司推出的聊天機器人Bard AI，也表示這項技術將「影響每個公司的每個產品」，並表示社會需要為這些變革做好準備。
施密特曾是美國國家人工智能安全委員會的成員，在2019年該委員會開始對人工智能進行評估，包括潛在的監管框架。該委員會在2021年發表了評估報告，警告美國在人工智能時代尚未做好充分準備。
