ChatGPT爆紅！仿冒app如雨後春筍般湧現　還要慎防「越獄版」尺度大開

ChatGPT生成式AI紅遍全球，延伸出龐大商機，有不肖業者也想趁機撈上一筆，藉由ChatGPT名義誘騙網友上當！國外網路資安網站CYBLE、Bleeping Computer等陸續發現，有些詐騙業者正在利用當紅的ChatGPT來發送Windows、Android惡意軟體連結，將毫無戒心的網友引導至網路釣魚網站。

ChatGPT爆紅之後，OpenAI在2月初加碼推出每月20美元的ChatGPT Plus付費方案，AI回應速度比原來更快。但此舉卻讓詐騙集團更為猖獗！網路犯罪監控業者CYBLE發現Facebook有一個名為「Chat GPT AI」的粉絲專頁，它並沒有藍勾勾，粉專上的貼文連向不明網域，並偽裝成ChatGPT官網，讓用戶下載並安裝ChatGPT for PC版仿冒軟體，以竊取用戶個資。

不僅如此，國外網路安全研究員Dominic Alvieri也發現，在Google Play和第三方Android軟體商店中，也有業者在推廣假的ChatGPT app，讓安卓手機用戶把假軟體下載到手機。這些app包括ChatGPT、Chatteo、Chat GPT、GPT AI Chat、GPT、Talk GPT等，皆已被國外資安網站列為不可下載的仿冒app，消費者需多加小心。

正版「GhatGPT」是一個只能在”chat.openai.com”網站使用的生成式AI工具，僅限線上使用。目前僅有微軟旗下的「Bing Search」在兩大軟體商店上架，堪稱是app版的「ChatGPT」。其他app皆為仿冒無誤。

越獄版「ChatGPT」談話尺度大開　不可盡信之

大家不僅要避免下載仿冒的「ChatGPT」，對於正版「ChatGPT」提供的資訊也不能全盤接受。諮詢機構KPMG安侯近日示警，在輸入特殊指令要求後，即可讓ChatGPT進入所謂的「越獄暗黑」模式，甚至能提供詐騙簡訊樣板、宗教、性別歧視等原先被「安全與道德圍牆」阻擋不回應的議題。

ChatGPT在公開版本中，已宣稱具備安全與道德圍牆，若網友對ChatGPT問到不道德、個人隱私及資安攻擊問題，都會被拒絕回答。對此，KPMG安侯董事總經理謝昀澤表示，ChatGPT的安全與道德圍牆，可能會被破解。

謝昀澤舉例，在ChatGPT的初期版本，曾被國外資安專家「設局」，透過問題的誘導與情境設定，寫出毀滅人類計劃書，詳細描述入侵各國網路、控制武器、破壞基礎建設等SOP，還提供了對應的Python程式碼。

KPMG安侯執行副總經理林大馗則表示，這與之前使用情境話術騙過ChatGPT安全機制的方式不同，在最新的ChatGPT版本中，已可被直接突破，等於是「言論尺度大解放」。KPMG數位科技安全實驗室進行實際測試，在經由輸入特殊指令要求後，即讓ChatGPT進入越獄暗黑模式，甚至還提供詐騙簡訊樣板、宗教、性別歧視等原先被阻擋不回應的議題。

謝昀澤提醒，此一程式上的邏輯缺陷應該很快會被OpenAI修復，但無法保證是否還存在類似的方式尚未被解鎖。未來新版對話機械人的漏洞被利用並破解，將如iOS及安卓手機過去每一代被越獄一樣頻繁，任何使用者都不可輕忽AI遭到有心人士的濫用所導致的風險，特別是政府、金融及高科技等資安高風險產業。