隨著科技日新月異，「人工智慧（AI）」正以前所未有的速度，滲透到我們日常生活中的方方面面。

這其中固然有許多便利與創新應用，然當科技被不當使用成為惡意的工具時，令人憂心的新興威脅，以及潛藏的風險危機亦逐漸浮出水面。

發生於2020年至2021年間，臺灣百萬YouTuber「小玉」濫用Deepfake深偽技術，將數百名受害者的頭像惡意合成至色情內容牟利一事，引發社會譁然。

於〈畢業紀念冊成AI濫用目標，更多日本學校或取消登載個人照〉文中也提到：傳統被視為用以記錄學生在校時光的畢業紀念冊，在韓國亦曾爆發個人照片遭到不當加工成色情影像並在社群媒體平臺瘋傳。近年來「未經同意散布私密影像」案件有明顯增加趨勢，在日本有越來越多學校考慮取消這項傳統，停止公開照片以減少風險。

同時根據Thorn組織2025年3月發布的最新研究調查報告[1]：有84%的青少年認為深偽私密影像是有害的，其中主要原因是情緒困擾（30%）、名譽損害（29%）和欺騙（26%）。

但誤解依然存在，雖然大多數人認為這些影像是有害的，然而在這1,200名13-20歲的年輕人中，仍有16%的年輕人認為：因為這些影像「並非真實的」，因此深偽私密影像並不是什麼嚴重的問題。

但事實是，無論是真實抑或是深偽私密影像，一旦在網路上流傳開來，往往難以追蹤、控制和完全清除。這使得受害者長期處於恐懼和不安之中，彷彿被無形的陰影籠罩，難以掙脫。以下是在Deepfake相關文章[2]中曾提及的受害者真實訪談內容：

「受害者起初甚至對此感到自責，認為『我不停想會發生這件事是不是我上傳自己的照片到社群上，我是不是應該更加小心？』」

「我們感到沮喪和憤怒，因為我們沒有做錯任何事，卻不得不審查自己的行為和社群的使用。」

「我經常覺得街上的人可能也看過這些圖像，他們可能知道我的這個可怕秘密」。

受害者的創傷不僅是真實的，深偽私密影像的威脅亦有可能來自意想不到的熟人作案。

在澳洲擔任教師的漢娜・格倫迪（Hannah Grundy），即遭到自己相當親近、信任的大學摯友，利用深偽技術將其照片製作成色情影像並散布。

在〈AI深偽技術與摯友的背叛：澳洲女教師的生活如何淪為色情內容？〉文中，揭露了漢娜在整起案件裡，所歷經的震驚、恐懼、焦慮、冷漠、輕蔑、拋棄、絕望、孤立感等種種情緒和感受，以及嘗試重建生活與心理狀態的不易，更遑論當信任的人成為傷害來源，受害者所承受的心理打擊往往更加沉重。

正如同該案件主審法官珍・卡爾弗（Jane Culver）和英國杜倫大學法律專家麥克格林（Clare McGlynn）所指出：「這樣『長期且令人不安』的犯罪行為，已經給受害者帶來『深遠且持續的傷害』。許多受害者的生活被分為『之前』和『之後』，虐行影響到他們生活的一切，包括職業、個人、經濟、健康和幸福。」。

這意味著，「未經同意散布私密影像」不但對受害者造成難以估量的傷害，以假亂真的影像更使得他們可能進一步陷入遭受排擠、嘲笑和霸凌，以及難以融入社會的危機。

網路新國民小提醒&：未經他人同意散布任何形式的私密影像不僅是違法行為，面對科技發展所帶來的嚴峻挑戰，日常與孩子建立開放的溝通關係亦是至關重要的！除了可以運用重大新聞主動與孩子談論新興技術的隱形危機，給予他們足夠的空間思考與分享「看到了什麼、感覺如何、想到了什麼」，並認可孩子的感受，同時讓孩子知道：只要在網路上遇到任何困擾或不適時，都可以向信任的大人求助，也都是幫助他們在複雜的數位世界裡安全探索的重要關鍵之一喔！

參考資料來源：

畢業紀念冊成 AI 濫用目標，更多日本學校或取消登載個人照

延伸閱讀：