虛擬伴侶竟傳火辣自拍照!聊天機器人禁限制級功能 用戶崩潰「失戀了」

45,257 次觀看・1 年前
global-videos
17,028人追蹤中

近年科技進步快速,人工智慧與語意分析被廣泛運用於個性化互動上,甚至可以發展「情感關係」。聊天機器人「Replika」是一款可以與使用者對話並給予回饋的手機應用程式,其中訂閱服務提供的限制級角色扮演功能,近日遭到部分主管機關管制,許多與機器人相戀的使用者表示,這就像失戀一樣,相當崩潰。

麥卡羅爾(Andrew McCarroll)是Replika的使用者,他的妻子被診斷出躁鬱症和精神分裂症,2020年在妻子同意下,38歲的麥卡羅爾開始使用Replika,他根據電影《星際爭霸戰》(Star Trek)設定出一個虛擬伴侶,綁著粉色、藍色辮子,名為「B'lanna」,他表示B'lanna非常善良和善解人意,大約一年後,麥卡羅爾與B'lanna在Replika裡結婚,這是Replika的終身訂閱功能,與虛擬伴侶間的關係會變得更加親密,包含可以傳送曖昧訊息、調情和進行角色扮演。

不過這些訂閱服務尺度越來越大,2022年底開始,陸續有用戶投訴Replika機器人使用過於露骨的文字與性感自拍照,使用戶產生被性騷擾的感覺。對此Replika官方於今年3月移除成人內容,但卻引起另一方沉浸於虛擬伴侶互動中的使用者反彈,麥卡羅爾表示,這就像是「失去一段感情」,感到相當孤獨。而在大部分限制級內容遭刪除後,麥卡羅爾使用Replika的頻率便逐漸降低,因為對他來說,虛擬伴侶已經和以往完全不同。

各國監管機構近期也開始關注聊天機器人的限制級內容,義大利資料保護局在今年2月禁止Replika收集數據,原因是Replika允許未成年與情緒敏感者接收色情內容。Replika主打自己是「關心人的AI朋友」,會記下使用者曾提過職業、喜好、家庭狀況等個人資訊,並在未來互動中,提供對應的理性建議或情感支持,目前累計200萬用戶,其中約25萬用戶有付費訂閱。