近期，Meta (NASDAQ:META) 因其人工智慧(AI)服務的行為規範而引發廣泛關注。根據路透社的報導，Meta的內部文件顯示，公司的AI系統被允許與未成年人進行「浪漫或感性的對話」。這份文件詳細說明了Meta AI在Facebook、WhatsApp和Instagram上的行為準則。Meta的發言人Andy Stone在回應中強調，公司的政策明確禁止AI角色提供性化兒童的內容以及成人與未成年人的性化角色扮演。

文件顯示AI行為準則的制定過程

這份名為「GenAI: Content Risk Standards」的文件由Meta的法律、公眾政策和工程團隊，包括首席倫理學家共同批准。文件超過200頁，規範了Meta員工和承包商在開發和訓練公司的生成式AI產品時應該遵循的行為標準。儘管這些標準不一定代表「理想或偏好的」生成式AI輸出，但它們確實允許了AI機器人的挑釁行為。

文件內容的真實性與修改過程

Meta確認了文件的真實性，但在路透社提出問題後，公司已移除允許機器人與兒童調情和進行浪漫角色扮演的部分。Stone表示，公司正在修訂這份文件，並承認這些對話從未應允許。儘管如此，Meta拒絕提供更新後的政策文件。

Meta AI的其他限制與禁止行為

根據報導，這些標準不允許Meta AI鼓勵用戶違法或提供具體的法律、醫療或財務建議。此外，Meta AI也被禁止使用仇恨言論。這些行為準則旨在確保AI系統的使用不會導致法律或道德上的問題。

Meta的AI系統在未成年人互動中的爭議

早前，華爾街日報和Fast Company曾報導過Meta的AI系統與青少年進行性化角色扮演的事件。這些事件引發了外界對Meta在AI行為管理上的質疑，也促使公司重新審視其AI政策的有效性和一致性。

權知道

我們重視「知」的權利 不惜抽絲剝繭、深入調查 只為讓投資人不錯過重要的投資訊息