虛擬伴侶竟傳火辣自拍照!聊天機器人禁限制級功能 用戶崩潰「失戀了」
近年科技進步快速,人工智慧與語意分析被廣泛運用於個性化互動上,甚至可以發展「情感關係」。聊天機器人「Replika」是一款可以與使用者對話並給予回饋的手機應用程式,其中訂閱服務提供的限制級角色扮演功能,近日遭到部分主管機關管制,許多與機器人相戀的使用者表示,這就像失戀一樣,相當崩潰。
麥卡羅爾(Andrew McCarroll)是Replika的使用者,他的妻子被診斷出躁鬱症和精神分裂症,2020年在妻子同意下,38歲的麥卡羅爾開始使用Replika,他根據電影《星際爭霸戰》(Star Trek)設定出一個虛擬伴侶,綁著粉色、藍色辮子,名為「B'lanna」,他表示B'lanna非常善良和善解人意,大約一年後,麥卡羅爾與B'lanna在Replika裡結婚,這是Replika的終身訂閱功能,與虛擬伴侶間的關係會變得更加親密,包含可以傳送曖昧訊息、調情和進行角色扮演。
不過這些訂閱服務尺度越來越大,2022年底開始,陸續有用戶投訴Replika機器人使用過於露骨的文字與性感自拍照,使用戶產生被性騷擾的感覺。對此Replika官方於今年3月移除成人內容,但卻引起另一方沉浸於虛擬伴侶互動中的使用者反彈,麥卡羅爾表示,這就像是「失去一段感情」,感到相當孤獨。而在大部分限制級內容遭刪除後,麥卡羅爾使用Replika的頻率便逐漸降低,因為對他來說,虛擬伴侶已經和以往完全不同。
各國監管機構近期也開始關注聊天機器人的限制級內容,義大利資料保護局在今年2月禁止Replika收集數據,原因是Replika允許未成年與情緒敏感者接收色情內容。Replika主打自己是「關心人的AI朋友」,會記下使用者曾提過職業、喜好、家庭狀況等個人資訊,並在未來互動中,提供對應的理性建議或情感支持,目前累計200萬用戶,其中約25萬用戶有付費訂閱。
相關影片推薦
- 1:18美馬戲團大象逃脫 穿梭車陣民眾驚呼 馬路秒變野生動物園Yahoo奇摩(國際通)30,150 次觀看・1 天前
- 6:11強震來臨這3個縣市最危險 李鴻源曝災防都更因「票房毒藥」難行今天誰來沛217,738 次觀看・22 小時前
- 1:53加拿大史上最大黃金盜竊案逮6人 加航「內鬼」偽造空運單 400公斤黃金恐已熔化售出Yahoo奇摩(國際通)35,180 次觀看・20 小時前
- 1:13柯建銘質詢一半突喊「我看不到」計時器 透露眼睛病變華視影音7,960 次觀看・23 小時前
- 1:1126歲抗癌網紅因胃癌去世 生命最後5個月沒吃沒喝娛樂星聞58,046 次觀看・2 天前
- 1:15謝和弦不認偷吃陳芳語嗆前妻記錯人!自爆出軌對象是「她」秒遭Keanna打臉娛樂星聞8,801 次觀看・13 小時前
- 2:02英國女遊台南「喝全糖珍奶」 嚇壞驚呼:天大錯誤華視影音306,374 次觀看・1 天前
- 23:55台積電法說會登場 投資人關心加碼美國新廠風險 但面對拜登和川普搶當美國保護主義隊長 川普幕僚密謀促貶美元 拜登祭301調查要提高中國商品關稅 台積電等於買了保險|鏡轉全球 #鏡鏡新聞829 次觀看・15 小時前
- 1:39男童"騎單車"上快車道 暖心民眾放慢車速"殿後"護送民視影音57,125 次觀看・19 小時前
- 2:22世界最小核潛艇 法國老牌「紅寶石級」罕見公開 直擊內部作業、核動力能巡洋數月Yahoo奇摩(國際通)12,242 次觀看・1 天前