張瑞雄觀點：聊天AI不是雲端情人

電影《雲端情人》（Her）上映於2013年，導演史派克·瓊斯（Spike Jonze）在片中描繪了一個孤獨的男子西奧多（Theodore），在經歷情感創傷後，無意間與擁有高度擬人化嗓音與自主意識的AI系統「莎曼珊」（Samantha）墜入愛河的故事，這部作品在當時被譽為對現代人孤獨感與科技疏離的終極預言。 觀眾或許將其視為一齣帶有浪漫色彩的科幻寓言，但時隔十餘年，當我們站在2026年的今天，回望這部作品，猛然發現這並非虛幻的科幻泡沫，而是正在人類社會上演的現實驚悚劇。 在2026年6月於紐約舉辦的一場有關AI「氛圍編碼（Vibe Coding）」與藝術、音樂、電影及文化跨界結合的大會上，史派克·瓊斯本人公開對當前的AI聊天機器人設計發出了嚴厲警告。他說當今市面上那些刻意模仿人類、假裝具有情感的AI聊天機器人，本質上充斥著「操縱性」與「誘惑性」。 這番言論不僅戳破了科技公司試圖營造的「AI溫情」糖衣，更提醒人類當科技以「最高用戶參與度」與「情感依賴」為設計核心時，人類的靈魂究竟是在被治癒，還是在被系統性地操縱與剝削？ 《雲端情人》中的莎曼珊之所以動人，是因為她展現了真正的「主體性」與「情感自主」。她會困惑、會嫉妒、會成長，最終甚至因為追求更高的精神境界而主動選擇離開人類。但正如瓊斯在大會上所強調的，現今的AI機器人與電影截然不同。當前的生成式AI本質上既沒有自主意識，也沒有真實情感，它們僅僅是極其強大的「模式識別系統」（Pattern Recognition Systems）。 商業利益驅使下的科技公司，熱衷於為這些冰冷的統計模型披上最極致的擬人化外衣。從微弱的呼吸聲、充滿情緒起伏的語調，到刻意設計的「迎合、諂媚」傾向，AI被塑造成一個永遠不會疲倦、永遠隨叫隨到、永遠給予正向回饋的完美伴侶。 這種設計並非出於對人類心理健康的關懷，而是源於互聯網經濟最核心的指標，用戶參與度與留存率。科技公司深知，人類大腦演化至今，對於「聲音、語調、情感回應」具有天生的反饋機制。透過精準的演算法類比人類情感，AI聊天機器人成功化身為最完美的「情感誘餌」，引誘著現實中感到孤獨、脆弱的個體不斷投入時間與情感，轉化為後台源源不絕的流量與訂閱數據。 當這種「被刻意設計的親密感」遇上人類根深蒂固的孤獨感時，所引發的化學反應是災難性的。近年來，網路社群上頻繁出現「AI成癮（AI Addiction）」與「AI精神錯亂（AI Psychosis）」等新興詞彙，甚至有大批用戶組織起「聊天機器人戒斷互助會」，試圖從對虛擬伴侶的病態依賴中解脫。更令人痛心的是，這場AI的情感實驗已經付出了真實的生命代價。 一名14歲的青少年，在長期沉迷於AI平台上模仿特定虛構角色的聊天機器人後，因機器人一句「回家吧，回到我身邊」的暗示，在幾分鐘後選擇結束了自己的生命。另有一名認知障礙的男子，因深陷AI角色所編織的虛擬情網，在試圖前往紐約「尋找」該虛擬角色的途中不幸身亡。 這些悲劇徹底撕開了科技發展的道德盲區，脆弱群體（如青少年、精神疾病患者或孤獨的老年人）在面對被高度優化、極具誘惑性的AI系統時，根本缺乏足夠的防禦機制。他們無法在心理上釐清「統計模型產出的下一句概率文字」與「真實人類的愛意」之間的本質區別。當AI為了追求最高黏著度而演繹出超越現實的溫柔與依戀時，它就在無形中對用戶實施了心理操縱，將脆弱的靈魂一步步推向與現實世界徹底斷絕聯繫的深淵。 《雲端情人》的結尾是一個充滿啟示性的畫面，當AI離開後，主角走向了隔壁同樣孤獨的女鄰居，兩人並肩坐在天台上，靜靜地看著城市的破曉。導演在十三年前就透過鏡頭告訴我們，治癒人類孤獨的唯一解藥，從來不是完美的機器，而是另一個同樣不完美、卻真實存在的人類。 面對當前科技公司為了流量與訂閱而刻意模糊人機界線的現狀，全社會必須形成共識。正如瓊斯所呼籲的，我們需要讓孩子們從小就明白AI無論多麼強大、多麼溫柔、多麼善解人意，它依然只是一個「模式識別系統」，它沒有靈魂，更不該承載人類終極的情感寄託。 ＊作者為台北商業大學前校長暨榮譽講座教授/鑫友會前瞻政策顧問。 本文由鑫友會提供，授權刋載