Anthropic、OpenAI及其他AI企業高層，據報導正以內部演練形式探討若發生由AI引發的災難，例如網絡攻擊造成金融系統、電力供水陷入癱瘓，當局應如何應對公眾及政治反彈。美媒Axios引用業界人士指出，未來6至12個月內或出現首宗AI安全漏洞引致的重大事故。
據報導，多間AI公司認為AI系統若出現安全失誤，或對現實世界造成嚴重破壞，其中網絡攻擊被視為最大威脅。不少頂尖AI研究員與高層均預測，這些意外難以避免。一旦發生，除企業領袖將遭輿論批評，政府亦可能被追問監管責任。
南韓近期有金融機構遭黑客入侵事件，據傳兩間銀行受影響。网络安全公司CrowdStrike指出，有黑客疑似利用中國AI模型DeepSeek竊取萬計銀行客戶資料，並透過Anthropic旗下Claude Code平台尋求出售渠道。
有業界人士預計未來6至12個月內或爆發重大AI事故，目前企業主要集中進行紅隊演練及向國會議員說明。儘管監管法案短期難通過，但他們希望在首宗事件出現後能主導政策走向。美國民主黨曾提出禁用超級人工智能或暫停先進AI發展，而跨黨派支持的「緊急停止開關」方案則正被討論。
OpenAI發言人回應Axios時表示，公司確實會定期進行應變訓練，團隊討論各種潛在情景以備不時之需。這些訓練並不視事件為必然發生，而是為突發狀況作準備。Anthropic則未作評論。
