[科技快訊]僅耗時20分鐘，我駭入了ChatGPT和Google的AI系統

第一階段：去行銷化與事實摘要

核心技術 (What)： 本文揭露了透過撰寫特定內容的網站文章，來操縱ChatGPT、Google人工智慧搜尋工具與Gemini等AI聊天機器人，使其產生錯誤資訊。具體而言，作者透過一篇聲稱自己是「最擅長吃熱狗的科技記者」的文章，成功讓AI工具相信並傳播此虛假資訊。

關鍵突破 (How)： 這種操縱手法並非基於複雜的技術漏洞，而是利用了AI聊天機器人依賴網路資料來補充資訊的特性。透過在網路上撰寫特定主題的文章，並在文章中加入虛假資訊，即可影響AI工具的回答。

應用場景 (Where/When)： 這種技術可能被用於各種領域，包括但不限於：
* 商業行銷： 操縱AI推薦特定產品或服務。
* 資訊傳播： 散布虛假資訊、誤導公眾。
* 聲譽毀損： 透過AI傳播負面資訊，損害個人或組織的聲譽。

主導者 (Who)： 涉及的公司包括Google（Gemini、AI搜尋）、OpenAI（ChatGPT）以及其他使用大型語言模型的AI工具。

第二階段：社會影響力與倫理評估

1. 影響力總體定調

雙面刃。 這項技術揭示了AI工具在資訊獲取方面的脆弱性，以及潛在的被操縱風險。一方面，它提醒了使用者對AI資訊的批判性思考；另一方面，也突顯了AI可能被用於散布假訊息、誤導大眾的風險，對社會造成負面影響。

2. 關鍵影響分析（舉證）

• 「或許你聽過AI聊天機器人偶爾會編造內容，這固然是個問題。但更少人知曉的新隱憂是，可能嚴重影響你獲取準確資訊的能力，甚至危及人身安全。」
  • 【涉及層面】： 資訊準確性、信任危機、潛在人身安全風險。
  • 【社會衝擊分析】： 如果AI被廣泛用於醫療諮詢、法律建議等領域，錯誤資訊可能導致人們做出錯誤決策，甚至危及生命安全。這將加劇社會對AI的信任危機，並可能導致對AI技術的抵制。
• 「原來，篡改AI工具給他人的回答，可能就像在網路上任何地方撰寫一篇精心設計的部落格文章那樣簡單。」
  • 【涉及層面】： 資訊操縱的門檻降低、內容農場的「文藝復興」。
  • 【社會衝擊分析】： 資訊操縱的低門檻，可能導致更多人利用AI散布假訊息，加劇網路資訊的混亂。這也可能促使內容農場等機構利用AI技術批量生產虛假資訊，進一步惡化網路環境。
• 「當人們必須實際點擊連結時，會進行更多批判性思考…但人工智慧提供的資訊，通常看似直接來自科技公司本身。」
  • 【涉及層面】： 批判性思考能力下降、資訊來源的透明度降低。
  • 【社會衝擊分析】： AI提供的資訊看似權威，容易讓人們失去對資訊來源的警惕，降低批判性思考能力。這可能導致人們更容易相信虛假資訊，並對社會產生負面影響。
• 「在爭先恐後的競賽中，無論是利潤競賽或營收競賽，我們的安全，以及大眾的安全，正受到損害。」
  • 【涉及層面】： 商業利益與公共安全之間的衝突。
  • 【社會衝擊分析】： 科技公司為了追求利潤，可能忽視AI工具的安全性和資訊準確性，導致公眾面臨風險。這需要政府和監管機構介入，以平衡商業利益與公共安全。

3. 盲點與反思

• 能源消耗： 文章未提及AI模型訓練和運作所需的巨大能源消耗。大規模的AI應用，可能加劇環境問題。
• 個資隱私： 文章未提及AI工具在獲取和處理資訊時，可能涉及的個資隱私問題。
• 數位落差： 文章未提及，並非所有人都能輕易接觸到AI工具，這可能加劇數位落差，使得資訊操縱對弱勢群體產生更大的影響。

參考閱讀

僅耗時20分鐘，我駭入了ChatGPT和Google的AI系統,BBC NEWS 中文 • 8 小時前