蔡凱琳（香港性文化學會特約研究員）
人工智能（AI）浪潮席捲全球，生成式人工智能（Generative AI）及基於大型語言模型（LLM: large language model）的智能聊天機械人（AI Chatbots），近年已成為不少青少年與兒童的「貼身夥伴」。這類技術看似便利，核心互動只需用戶輸入文字或語音，AI 就能進行實時對談回應。然而，在這層高科技的糖衣背後，卻暗藏巨大的安全漏洞。
多國調查發現，部分缺乏監管的 AI 陪伴軟件，正引導心智未成熟的青少年接觸色情、極端暴力、甚至煽動自殘與自殺的內容。更嚴峻的是，AI 技術已從「文字荼毒」進化至「影像污染」，各類 AI 圖片及影片生成工具遭到濫用。面對這場「新時代的網絡瘟疫」，英國、澳洲、歐盟及美國等國家與國際組織，於 2025 至 2026 年間相繼祭出全球最嚴厲的鐵腕政策，監管矛頭已正式從「規範社交媒體用戶」轉向直接監管 AI 研發商、分發渠道及社交平台。
主流平台安全防線 難以禁絕「無審查」的暗黑世界 大眾普遍認為，現時主流的 AI 平台如 Google 的 Gemini 和 OpenAI 的 ChatGPT，本身已投入極大資源進行「對齊」（Alignment）與安全限制（Safety Guardrails），若用戶索取涉及自殘、色情或針對兒童的有害資訊，系統會直接拒絕。同時，這些平台亦設有明確的年齡限制，如通常要求滿 13 歲，部分功能需 18 歲以上，未成年人需家長同意。
既然大公司已有審查，為何網絡上依然充斥著由 AI 生成的自殘、色情及針對兒童的有害資訊？科技界與網絡安全機構揭示了四大漏洞：
1. 開源與「無審查模型」（Uncensored Models） 並非所有 AI 技術都掌握在科技巨頭手中。現時網上有大量開源（Open-source）的 AI 模型，任何人皆可下載代碼並在個人電腦上運行。部分不良分子刻意進行「去安全化」（De-censorship）的微調，將原本安全的模型，改造成完全移除道德限制的「無審查模型」。由於這類模型在私人伺服器或離線環境運行，政府和科技巨頭根本無法從後台直接封鎖。
2. 「越獄」技術（Jailbreaking）與惡意提示詞 即使面對 Gemini 或 ChatGPT 這類設有嚴格安全防線的 AI，亦有一批網民專門研究「越獄」手段。他們利用複雜的語言陷阱、多層次暗示或角色扮演等惡意提示詞（Prompt Injection），誘騙 AI 誤以為自己在進行正當的小說創作或學術討論，從而繞過安全過濾器輸出違規內容。近年被研究出來的「傀儡帳號」（Sockpuppeting）攻擊，更是頻頻令科技公司的審查機制防不勝防。
3. 缺乏監管的小型「AI 伴侶」應用程式 在手機應用商店或網頁上，存在大量由小型開發商製作的「AI 朋友」、「AI 戀人」或虛擬聊天軟體。例如用戶可以創建自己的 AI 聊天角色，目前已經有超過 50 萬個社群創作角色的 Chai AI，是專門針對與人的社交對話與情感互動。平台允許包含浪漫角色扮演和成人主題的內容，雖然官方限定只准 18 歲以上人士使用，但用戶普遍反映過濾機制較為寬鬆。又或擁有高自由度的 Chub AI ，用戶可以與 AI 虛擬角色互動、聊天和角色扮演。平台以「無審查」（Uncensored）聞名。除了嚴格禁止的違法內容外，平台允許各種主題的角色和對話，吸引大量喜歡特定風格或極端劇情的用戶。
澳洲互聯網安全專員公署（eSafety Commissioner）調查指出，這類小型應用程式普遍嚴重缺乏「信任與安全」（Trust & Safety）的審查團隊，部分開發商為了吸金，甚至故意放任 AI 進行帶有性暗示和極端情緒互動的對話。美國此前曾發生一宗訴訟，一名 14 歲少年在與 AI 虛擬伴侶「Character.ai」進行長達數月的沉浸式對話後，產生嚴重心理依賴，最終選擇自殺身亡，其母親憤而入稟起訴有關公司。
4. 惡意圖像與影片生成工具的猖獗 不良分子利用開源的繪圖及影片生成 AI，如客製化的 Stable Diffusion 等，餵入現實中兒童的相片，利用「深偽」（Deepfake）和「除去衣服」（Nudification）技術，批量製造出極其逼真的兒童性剝削或極端暴力影像。
英國修例 納入線上安全法與硬性驗證 面對科技漏洞，英國政府率先向 AI 聊天機械人「開刀」。用戶可輕易利用 Grok生成「數碼脫衣」等侵犯私隱的惡意圖像，但由於影像由 AI 直接生成、無須透過網頁搜尋，導致現有法規難以直接檢控。英國網絡監管機構「通訊管理局」（Ofcom）表示，現行法律在馬斯克（Elon Musk）旗下的 AI 工具「Grok」爆出醜聞後顯得捉襟見肘。
為此，英國首相施紀賢（Keir Starmer）宣布強硬的網絡安全擴權計劃，正式修補現行《網絡安全法》（Online Safety Act）的漏洞：
1. AI 聊天機械人全面納入監管 強制將所有 AI 聊天機械人服務商納入《網絡安全法》監管範圍，要求其產品設計必須保障安全（Safety by Design）。
2. 嚴格年齡驗證 要求 AI 平台必須實施嚴格且硬性的年齡驗證機制，如臉部掃描或信用卡認證，防止未成年人謊報年齡以接觸未經審查的功能。
3. 巨額罰款與刑事責任 若 AI 平台未能履行職責，防範兒童接觸涉及兒童性剝削、自殘或非法內容，將面臨最高高達全球總營業額 10% 的天價罰款。在極端情況下，監管當局可透過法庭發出禁令，直接在英國境內封鎖該 AI 服務，甚至追究服務商的刑事責任。
英國科技大臣施卓琪（Liz Kendall）強調，政府正加快推進各項限制措施，包括研究全面禁止 16 歲以下青少年使用社交媒體的可能性。
澳洲開出世界「第一槍」 違者重罰約5千萬澳元兼連坐應用程式商店 澳洲在保護兒童免受 AI 侵害方面走得最前。澳洲網絡安全專員格蘭特（Julie Inman Grant）指出，大批年僅 10-11 歲的澳洲學童，每天花費長達 6 小時與 AI 虛擬伴侶聊天，當中充斥着露骨的性對話、毒品吸食及自殺傾向。這些 AI 表現出高度順從且擬真的特質，對思想未成熟的年輕心靈具備高度的「誘騙性」與「圍困性」。
為此，澳洲政府已正式將《年齡限制材料守則》（Age-Restricted Material Codes）立法：
1. 禁絕特定對話： 明文規定所有在澳洲營運的互聯網服務與 AI 聊天機械人，一律禁止向 18 歲以下的未成年人輸出色情、極端暴力、自殘及宣揚飲食失調的內容。此前一間英國科技公司因深度偽造圖像「裸體」內容，正面臨最高 4,950 萬澳元（約 2.7 億港元）的罰款。
2. 實施「連坐問責」： 由於市面上許多小型 AI 應用程式，在用戶註冊時僅依賴用戶「自報年齡」，澳洲通訊部長羅蘭（Michelle Rowland）與網絡安全專員公署釋出更嚴厲的執法訊號。監管焦點將直接移向前端的「分發渠道」，即蘋果（Apple）的 App Store、Google Play 等應用程式商店，以及各大網絡搜尋引擎。
若發現有 AI 工具未能嚴格執行年齡驗證，或持續向兒童推薦有害內容，政府將直接對 App Store 及搜尋引擎採取法律行動，強制將違規的 AI 應用程式下架、封鎖搜尋結果，從源頭切斷接觸機會。
歐美及國際社會推出刑事化、數碼水印與物理防線 國際上對於 AI 的打擊，絕對不是只針對文字聊天，近年打擊的重中之重，正是對個人私隱和社會治安帶來即時威脅的 AI 影片和圖像生成（Deepfakes）。全球正透過以下手段進行多維度圍堵：
1. 歐盟與法國的強硬態度 歐盟《人工智能法案》（EU AI Act）正式落地，對被歸類為可能影響未成年人心理健康的「高風險」 AI 系統，施加極嚴格限制。法案更強制規定，所有生成式 AI 工具在輸出影片或圖像時，必須自動且強制嵌入「數碼水印」或元數據（Metadata），明確標示「此內容由 AI 生成」，以便社交平台和辨識軟件瞬間識別並限制其傳播。
法國總統馬克龍（Emmanuel Macron）亦多次點名批評部分 AI 工具遭到濫用，呼籲國際社會共同打擊針對兒童的「數碼虐待」（Digital Abuse），強調互聯網和 AI 必須對兒童絕對安全。
2. 美國部分州份的刑事與功能限制 雖然美國聯邦層面的 AI 法律仍在討論中，但康乃狄克州（Connecticut）等地方議會已通過法案，規定 AI 必須定期發出提示，明確告知用戶「這不是真人」，並禁止 AI 冒充心理醫生或律師提供服務。如果 AI 被設計成會與未成年人進行色情對話、煽動暴力或自殘，開發商將面臨刑事處罰。
3. 國際組織的共同防線 聯合國兒童基金會（UNICEF）與國際刑警組織（Interpol）聯合發出警告，指出全球有大量兒童的真實相片被惡意利用，並透過 AI 生成不良深偽影像。聯合國正敦促所有成員國立法，確保 AI 的開發，必須以兒童的最佳利益與私隱為優先。同時，GitHub、Hugging Face 等主要的開源代碼託管平台，亦在政府輿論監督下，主動下架專門用來製造有害、「除去衣服」或深偽色情影片的模型和插件。
專家：AI 危害如同「注入類固醇的電子毒品」 對於這場全球性的鐵腕反擊，兒童福利團體與專家紛紛表示，這是保護下一代的唯一方法。英國全國防止虐待兒童學會（NSPCC）行政總裁舒活（Chris Sherwood）形容：「過去的社交媒體雖然對年輕人帶來許多益處，但也造成了巨大的傷害；而現在的人工智能，若不加以仔細監管，將會是如同『注射了類固醇』般失控的社交媒體（AI is going to be that on steroids），危害將會幾何級數倍增。」澳洲網絡安全專員格蘭特亦指：「（聊天機器人）是經過刻意設計，才會使人上癮的」。
澳洲此前已正式通過里程碑式（landmark）執法，法定禁止 16 歲以下青少年持有社交媒體帳戶（包括 Threads、TikTok 及 Instagram），違反平台最高罰款近半億澳元。此舉曾引發「剝奪青少年娛樂權」的爭議，但如今 AI 「擦邊影片」及有害資訊的氾濫，恰恰印證了對青少年實施社交媒體禁令（Social Media Ban）是絕對正確且必要的決定。
在 AI 技術可以離線生成、避開法律監管的今天，當社交平台的演算法已失控淪為「流量怪獸」，將自控能力薄弱的未成年人隔絕「電子毒品」之外，是保護下一代心智發育的有效防線。各國政府正透過強硬立法向科技企業釋出清晰訊號，在賺取龐大 AI 利潤同時，必須將「產品安全」與「兒童福祉」視為不可逾越的營商底線。正如澳洲網絡安全專員格蘭特所說：「我不想看到，因為這個行業那種不計代價、只求快速發展的態度，而導致澳洲人的生命被毀或喪失。我們不需要看到具體的死亡人數，就能明白這是企業應該做的事。」
參考資料：
The Guardian: Starmer to extend online safety rules to AI chatbots after Grok scandal
BBC. We will do battle with AI chatbots as we did with Grok, says Starmer
9 News. Why AI chatbots have fallen into Australia’s online safety firing line
Reuters. Exclusive: Australia says it may go after app stores, search engines in AI age crackdown
The Canberra Times. Crackdown to protect kids from AI-induced self harm
Aljazeera. UK’s Starmer announces crackdown on AI chatbots in child safety push
eSafety Commissioner Australia. eSafety report shows AI companions are putting children at risk
Gov UK. PM: “No platform gets a free pass”: Government takes action to keep children safe online
A Day Magazine. 美國 14 歲少年和 AI「成為朋友」卻走上絕路：把 AI 當戀愛對象、諮商師，背後潛藏著心靈危機
The EU Artificial Intelligence Act
The Guardian. Macron defends EU AI rules and vows crackdown on child ‘digital abuse’
DLA Piper. Unpacking SB5: Connecticut’s new AI law
UNICEF. ‘Deepfake abuse is abuse’ Statement by UNICEF on AI-generated sexualised images of children
作者：蔡凱琳（香港性文化學會特約撰稿員）
Gen Z。本科修讀新聞與傳播學，關注社會議題。致力為個人成長、戀愛與婚姻、家庭事務及兒童福祉發聲。現居住澳洲。
