[科技快訊]

第一階段：去行銷化與事實摘要

核心技術 (What)： 威訊（Verizon）發布年度資安報告，指出利用AI偵測漏洞進行資料外洩的事件比例（31%）已超過傳統的憑證竊取。駭客利用生成式AI加速攻擊流程。Anthropic 開發的AI模型「Mythos」正透過「Project Glasswing」計畫，提供給包括威訊在內的特定組織進行防禦性測試。

關鍵突破 (How)： 過去，駭客需要較長時間鎖定並利用漏洞。現在，生成式AI能協助駭客更快速地鎖定目標、初步入侵，甚至開發惡意軟體，將防禦窗口從數月縮短至數小時。Mythos模型具備程式碼編寫能力，能識別資安漏洞並構思利用方式。

應用場景 (Where/When)： 報告基於對超過3.1萬起資安事件的分析。威訊資安長呼籲企業將AI技術整合至軟體開發生命週期、測試流程及網路防禦體系中，以應對駭客攻擊。Mythos模型目前處於測試階段，由特定組織使用。

主導者 (Who)： 威訊（Verizon）發布報告並進行防禦性測試，Anthropic 開發 Mythos 模型。

第二階段：社會影響力與倫理評估

1. 影響力總體定調

雙面刃： 雖然AI在資安防禦上具有潛力，但同時也被駭客利用於發動更快速、更有效的攻擊。這形成了一種軍備競賽，可能導致資安成本上升，並加劇數位安全風險。

2. 關鍵影響分析（舉證）

• 「駭客正廣泛運用生成式AI（Generative AI）協助攻擊的各個階段，包括目標鎖定、初步入侵，以及開發惡意軟體等工具。」
  • 【涉及層面】： 勞動就業、隱私權利
  • 【社會衝擊分析】： AI協助駭客自動化攻擊流程，可能導致更多企業和個人成為受害者，資料外洩風險增加。同時，資安產業可能需要更多AI專家，但傳統資安人員可能面臨技能轉型的壓力。如果AI被用於開發更難以追蹤的惡意軟體，將嚴重威脅網路安全，可能導致企業損失、個人隱私洩露，甚至影響國家安全。
• 「雖然目前AI的主要影響在於自動化與規模化現有的攻擊技術，而非創造全新的攻擊模式，但隨著技術快速演進，防禦者面臨的威脅正以前所未有的速度增長。」
  • 【涉及層面】： 貧富差距、人類行為
  • 【社會衝擊分析】： AI加速攻擊意味著防禦成本增加，大型企業可能更有能力投資AI資安防禦系統，而中小企業可能難以負擔，導致資安防護能力差距擴大。此外，如果人們過度依賴AI進行防禦，可能降低自身對資安風險的警覺性，反而更容易成為攻擊目標。
• 「威訊資安長 Nasrin Rezai 強調，面對日益嚴峻的威脅，企業必須『以AI對抗AI』。」
  • 【涉及層面】： 勞動就業、倫理道德
  • 【社會衝擊分析】： 強調「以AI對抗AI」可能導致資安領域的AI軍備競賽，需要大量資源投入，並可能排擠其他資安防禦策略。此外，AI在資安防禦中的應用也可能涉及倫理問題，例如AI決策的透明度、公平性以及潛在的偏見。如果AI系統誤判或過度防禦，可能對企業運營和個人權益造成不必要的影響。

3. 盲點與反思

文章主要關注AI在資安領域的應用，但忽略了以下潛在風險：

• AI系統的漏洞： 文章提到駭客利用AI漏洞進行攻擊，但未深入探討AI系統本身可能存在的漏洞。如果AI防禦系統被攻破，可能導致更大規模的資料外洩。
• AI的能源消耗： 訓練和運行AI模型需要大量能源，可能對環境造成負擔。文章未提及AI資安應用對能源消耗的影響。
• AI的監控與隱私： AI在資安防禦中可能需要監控網路流量和用戶行為，這可能侵犯個人隱私。文章未提及AI監控可能帶來的隱私問題。

參考閱讀

,民視 ・ 4 小時前