![[科技奇點]Google Earth 淪為造假工具?AI 生成功能引發信任危機緊急下架 [科技奇點]Google Earth 淪為造假工具?AI 生成功能引發信任危機緊急下架](https://i0.wp.com/s.yimg.com/fz/api/res/1.2/pxS9tUVZecNhV90lwLmWhw--~C/YXBwaWQ9c3JjaGRkO2ZpPWZpbGw7aD0xMDY7cHhvZmY9MDtweW9mZj0wO3E9ODA7dz0xNjA-/https://s.yimg.com/bo/36f3e9cb-333d-51ba-85dc-6538ad6a1214_1785190992696.gif?ssl=1)
視覺化信任的崩塌:Google Earth AI 功能的爭議核心
Google Earth 原本是全球公認的事實查核與地理研究權威工具,然而近期推出的 AI 生成功能「Create Image」,卻因允許用戶在真實地圖上疊加虛構影像,引發了嚴重的信任危機。這項功能雖標榜提供視覺化體驗,但經媒體實測發現,僅需簡單指令即可在俄羅斯地圖上生成逼真的「彈坑」,或在巴黎市中心合成爆炸現場。這種「一鍵造假」的能力,被資安專家與事實查核機構批評為假新聞的潛在幫兇。
英國資訊韌性中心(CIR)總監羅斯(Ross Burley)直言,大眾對衛星影像的信任是花費數十年建立的,如今卻可能因這項功能而在一夜之間崩塌。面對排山倒海的輿論壓力,Google 在功能上線 24 小時內便緊急下架。此事件的癥結點在於,當生成式 AI 與高解析度衛星影像結合,原本用於驗證真實訊息的工具,反倒成為製造偽造地理場景的利器,嚴重侵蝕了公眾對地理資訊的信任。
專家示警:深偽技術對開源情報的威脅
隨著生成式 AI 與深偽技術的普及,Google Earth 此次嘗試導入的 AI 生成功能,雖旨在提供更豐富的視覺化體驗,卻因大幅降低了造假門檻,使得惡意份子能輕易偽造戰場彈坑、災難現場或敏感設施,進而嚴重威脅開源情報(OSINT)的真實性。
專家指出,科技巨頭在追求創新時,往往忽略了對地理信任基礎的潛在破壞。當「眼見不再為憑」成為現實,如何平衡技術便利與資訊韌性,已成為當前科技發展必須面對的嚴峻課題。
Google 的回應與產品策略的兩難
Google Earth 產品經理霍洛維茲(Bryan Horowitz)隨後承認,儘管該功能在專業領域有潛在應用,但觀察到用戶濫用政策的情況已無法忽視,最終選擇撤下功能。這場風波深刻揭示了科技巨頭在推動 AI 創新與維護平台資訊真實性之間的兩難。
相較於其他報導 Google AI 產品(如 Gemini Spark)時多聚焦於生產力提升的正面敘事,針對 Google Earth 此事件的報導,明顯反映出媒體對於資訊安全與社會信任維護的嚴格檢視。這提醒了開發者,在追求技術突破的同時,必須將「防濫用」機制納入產品開發的核心考量,否則創新帶來的便利,極可能成為假訊息傳播的溫床。
AI 代理的雙面刃:從輔助工具到風險源
隨著生成式 AI 技術的快速迭代,科技巨頭 Google 在產品佈局上展現了兩極化的發展。一方面推出能主動執行複雜任務的個人 AI 代理「Gemini Spark」,試圖將 AI 轉化為深入個人工作流程的夥伴;另一方面,Google Earth 卻因導入 AI 生成圖像功能,引發了嚴重的假新聞疑慮。
這兩起事件凸顯了當前 AI 技術發展的癥結點:當 AI 具備了主動執行任務與創造內容的能力,其帶來的生產力提升與潛在的資安風險往往是一體兩面。媒體報導立場的差異,反映出社會對於 AI 發展既期待又恐懼的矛盾心理,也再次驗證了 AI 技術的快速迭代在提升效率的同時,也同步放大了資訊安全與內容真實性的風險。
結語:在創新與誠信間尋找平衡點
Google Earth 的下架事件是一個警示,提醒科技巨頭在追求 AI 視覺化與自動化創新的同時,必須將「社會信任」置於優先地位。資安專家范埃斯(Henk Van Ess)與資訊韌性中心(CIR)總監羅斯(Ross Burley)均對此表達強烈憤怒,認為這不僅摧毀了 Google Earth 多年來建立的真實性信任,更可能成為假新聞的溫床。
科技創新不應以犧牲公眾對真實世界的認知為代價。建立透明且負責任的 AI 治理框架,是科技巨頭當前最迫切的任務,唯有在創新與誠信之間找到平衡點,才能確保科技發展真正造福社會。
參考閱讀
,風傳媒 ・ 6 小時前
最新Google AI預測 強大「白海豚」颱風游向日本 | ETtoday生活新聞 | ETtoday新聞雲, ETtoday東森新聞雲
Google AI代理Gemini Spark來了!即將開放台灣Pro用戶 關機也能繼續工作, 太報 · via Yahoo奇摩新聞
Google AI代理Gemini Spark台灣也能用!使用資格、方式一次看 | 3C車市 | 生活 | NOWnews今日新聞, 今日新聞網