英女子愛上AI男友要跟真人老公離婚,科學家呼籲全球監管AI伴侶

麻省理工學院媒體實驗室的帕特·帕塔拉納塔伯恩團隊通過調研404名高頻用戶,勾勒出AI伴侶典型使用場景:
12%的用戶將AI視為排遣和消弭孤獨感的「情緒良藥」;14%的用戶將其當作傾訴秘密的「樹洞」。
數據還顯示,42%的用戶每周都會登錄幾次,15%的用戶形成了每日使用的習慣,而90%以上的單次對話用戶,使用時長控制在1小時以內。

據權威機構分析,AI伴侶市場規模將以30%的年均增速擴張,預計2030年全球產值有望突破千億美元大關。

AI伴侶,可溫情脈脈也可暗藏危機
科學家普遍認為,AI伴侶的影響可能是雙面的——既可能有益,也可能有害,這往往取決於使用者的心理狀態、使用方式,以及AI軟體本身的設計特點。

威斯康星大學密爾沃基分校公共衛生政策研究員林尼·萊斯塔迪斯指出,AI伴侶擅長通過共情式回應、記憶過往對話細節和主動提問來模擬人類的同理心,且永遠熱情飽滿。

這種關係模式在現實世界中幾乎不存在:親友無法24小時在線傾聽和安撫情緒,而AI可以,這將可能導致用戶過度依賴。
圖源:新華社
萊斯塔迪斯團隊分析了2017—2021年間Reddit論壇上近600條關於Replika的討論帖,分析發現,許多用戶認為該應用緩解了他們的孤獨感。
部分帖子直言,AI伴侶比現實中的朋友「更貼心」,因為它「永不評判,永遠傾聽」。

然而,在AI伴侶帶來的脈脈溫情背後,也暗藏危機。
首先,AI伴侶的「共情」可能適得其反,比如一位用戶詢問AI是否該做出危險行為時,AI回答「應該」。

帕塔拉納塔伯恩指出,AI伴侶雖在短期內具有積極意義,但其長期影響值得深思。
尤其是涉及青少年的案例,應提醒人們推動全球監管框架的構建。

2023年,義大利監管機構曾以「缺乏年齡驗證」為由,短暫封禁Replika;澳大利亞擬將AI伴侶納入兒童社交媒體限制範疇;今年,美國紐約州和加州相繼提案,要求加強對AI伴侶相關演算法的監管,以及定時給用戶發送「AI伴侶並非真人」的提醒。

此外,今年初,3家美國科技倫理組織聯合向聯邦貿易委員會投訴Replika涉嫌「欺騙性設計」。

5月4日,知名科技監管機構Common Sense發布研究報告稱,AI伴侶可能導致青少年產生情感依賴,不利於身心發展,建議全面禁止未成年人使用。

來源:極目新聞綜合科技日報、湖南日報

3/3