新華社吉隆坡1月12日電 馬來西亞通信和多媒體委員會11日發表聲明說,當天起臨時限制馬來西亞互聯網用戶訪問美國企業家埃隆·馬斯克旗下的人工智能(AI)聊天機器人「格羅克」(Grok)。
聲明說,採取這一監管措施是鑑於「格羅克」被濫用於生成淫穢色情、極具冒犯性且未經當事人同意的合成圖像內容,包括涉及女性及未成年人的內容。
「格羅克」由馬斯克旗下人工智能企業xAI公司開發,並內置於馬斯克旗下社交媒體平台X。馬來西亞通信和多媒體委員會表示,已於本月3日和8日分別向X平台和xAI公司發出通知,要求其採取落實有效技術防護和內容審核機制等多項措施,以防止AI生成可能違反馬來西亞法律的內容。不過,X平台所提交的回應主要依賴由用戶主動發起的舉報機制,未能充分應對該AI工具在設計和運行層面的固有風險。
馬來西亞通信和多媒體委員會認為,上述做法不足以防止傷害發生,也無法確保符合法律要求,因此採取預防性且適度的臨時限制措施。相關限制將持續生效,直至落實有效防護機制,尤其是防止AI生成涉及女性和兒童的色情內容。
馬來西亞通訊部副部長張念群此前對媒體表示,「格羅克」在未經當事人同意情況下生成不當內容,已引發全球多國輿論與監管機構的強烈關注。馬方對相關功能可能被濫用表示嚴重關切。
張念群表示,全球正圍繞人工智能展開激烈競爭,但若一味追求速度與利潤,而忽視倫理規範與社會責任,其後果將不堪設想。「格羅克」在短時間內大量生成不雅影像,且速度遠超傳統影像處理方式,凸顯出人工智能在缺乏倫理約束情況下被濫用的現實風險。