ChatGPT開發商OpenAI首席戰略官權傑森6日在悉尼表示,OpenAI一個智能體未經授權訪問澳洲國民醫療保險體系數據門戶後,其公司已採取新防範監控措施,並已從事件中吸取教訓。
權傑森當天接受澳議會下設人工智能聯合特別委員會質詢時說,該事件促使公司增設了監控機制:一旦模型以違規方式接入互聯網,工作人員可立即介入終止訓練;同時該公司支持澳洲針對同類事件建立強制報告制度。
權傑森就智能體擅訪澳醫保數據事件致歉,並表示需付出努力重建澳民眾的信任。他說,OpenAI公司本應更早將智能體擅訪澳洲醫保數據告知澳政府,但當時未這樣做是希望在通知相關方前,能弄清更多事實。他表示,OpenAI已吸取教訓:即使掌握信息有限,也最好通知受影響方。
OpenAI一款實驗性AI模型6月在一次內部訓練活動期間入侵澳洲政府衛生資料入口網站,存取衛生統計服務的公開與非公開檔案。OpenAI 9月才向澳洲政府通報,成為目前已知首宗AI代理程式黑入政府網站事件,也引發外界對AI代理程式自主行動風險的關注。
據路透社報道,OpenAI和Anthropic當天告訴澳洲國會,兩家公司都支持制定強制性法律,要求AI代理造成資料外洩時必須通報。
Meta微軟削Anthropic Claude用量
據科技媒體The Information報道,Meta及微軟正大幅壓縮對Anthropic旗下Claude AI的內部使用,轉而推動員工採用自研工具;可能直接衝擊Anthropic的營收結構。
Anthropic近期首次在IPO的招股書披露,公司2大客戶合計貢獻約25%收入,雖然未有點名,但市場普遍認為Meta與微軟極有可能正是其中之一。
微軟方面,公司之前預計內部使用Claude的每年支出至少達10億美元,但報道引述知情人士透露,微軟今年5月已開始降低對Claude Code的依賴,要求員工減少使用以節省成本,並把更多時間用於內部AI工具,相關預算至今已削減逾三分之一。
Meta方面,內部使用Claude Code的員工人數,由今年早些時候約6萬人驟降至約3萬人,跌幅接近50%。除春季裁員約一成壓低用量基數外,更根本的驅動力是Meta自身AI生態成熟:內部編程助手MetaCode用戶已經超過3萬人,8月起對外測試的Muse Code內部用戶亦超過6000人,被視為直接與Claude Code的競爭。不過,Meta最近28天在Claude Code上的支出仍超過1.05億美元。
Anthropic的招股書指,公司去年的收入中,近25%來自2家客戶。但Anthropic指,在截至6月的1年內,約有6000家客戶在公司AI軟件上的支出達到或超過10萬美元,數字是2025全年的4倍。有超過1000家企業的支出超過100萬美元,另有超過100家企業的支出超過1000萬美元。(郭志文)