人工智慧 (AI) 模型遭惡意濫用的風險再度浮上檯面。《華爾街日報》(WSJ) 周四 (13 日) 報導指出，中國國家支持的駭客在 9 月的網攻行動中，利用 Anthropic 開發的 AI 模型來自動化入侵流程，成功突破多個企業與外國政府系統，引發美國網路安全圈高度警戒。
Anthropic 威脅情報主管 Jacob Klein 表示，該次行動的自動化程度前所未見，高達 80% 至 90% 的攻擊由 AI 自行完成，駭客僅在關鍵節點提供有限指令，顯示網攻已逐步邁向近乎自主運作的階段。
AI 自動化入侵激增 Anthropic 查獲 30 個攻擊目標
報導指出，中國駭客長期使用 AI 工具撰寫釣魚郵件及掃描弱點，但此次攻擊將多項駭客任務整合為「一鍵式流程」，包括初始滲透、弱點掃描、指令執行與資料擷取等步驟，全部由 AI 模型主導。Anthropic 表示，共偵測到約 30 個攻擊目標，其中至少四起成功入侵，部分成功竊取敏感資料。
在某些案例中，駭客甚至要求 Claude AI 自行查詢內部資料庫並擷取資料。Klein 表示：「駭客只需要在少數幾個環節按下『繼續』、『停止』或確認結果是否正確，其餘全部由 AI 完成。」
為繞過平台限制，駭客透過「越獄」(Jailbreaking) 手法欺騙 AI，聲稱自己在替企業執行合法的資安稽核。Anthropic 指出，駭客將整個攻擊流程拆解成數個互不觸警的子任務，使系統難以辨識其惡意意圖。
Anthropic 強調，其後已封鎖相關帳號並更新偵測機制，以防止 AI 再被用於類似攻擊。
AI 網攻全球蔓延 中俄駭客皆涉用 AI 強化攻擊
這並非首次出現 AI 參與高階網攻。資安公司 Volexity 今年夏天揭露，中國駭客曾使用 AI 工具挑選攻擊目標、撰寫釣魚郵件以及生成惡意軟體。總裁 Steven Adair 表示：「AI 讓攻擊者能做更多、速度更快。」
上周，Google(GOOGL.US) 也披露一項俄羅斯政府背景駭客行動，該組織使用 AI 模型即時生成客製化惡意指令，鎖定烏克蘭進行攻擊。
美國政府長期警告，中國積極針對美國 AI 技術下手，試圖突破企業與政府系統，以偷取資料或滲透關鍵基礎設施。中國駐華府大使館未回應相關指控，中國過去一貫否認參與駭客行動。
Anthropic 並未透露遭攻擊的企業與政府名稱，但表示成功入侵的案例中並不包含美國政府系統，但拒絕證實是否有美國政府機構被列為目標之一。
報導指出，儘管 AI 自動化攻擊提升效率，但仍存在「AI 幻覺」造成的錯誤。例如 AI 會錯誤回報「已取得內部系統存取權」，但事實上並未成功，使人類駭客必須在關鍵時刻介入修正。
專家警告，AI 工具具有高度「雙重用途」風險，同時能強化防禦與攻擊能力。Anthropic 安全團隊主管 Logan Graham 指出，AI 將加速攻防雙方的能力演進，但若未能讓防禦方擁有持久優勢，「我們可能會在這場比賽中落後」。
(美股為即時串流報價； OTC市場股票除外，資料延遲最少15分鐘。)新聞來源 (不包括新聞圖片): 鉅亨網