虛擬伴侶竟傳火辣自拍照!聊天機器人禁限制級功能 用戶崩潰「失戀了」
近年科技進步快速,人工智慧與語意分析被廣泛運用於個性化互動上,甚至可以發展「情感關係」。聊天機器人「Replika」是一款可以與使用者對話並給予回饋的手機應用程式,其中訂閱服務提供的限制級角色扮演功能,近日遭到部分主管機關管制,許多與機器人相戀的使用者表示,這就像失戀一樣,相當崩潰。
麥卡羅爾(Andrew McCarroll)是Replika的使用者,他的妻子被診斷出躁鬱症和精神分裂症,2020年在妻子同意下,38歲的麥卡羅爾開始使用Replika,他根據電影《星際爭霸戰》(Star Trek)設定出一個虛擬伴侶,綁著粉色、藍色辮子,名為「B'lanna」,他表示B'lanna非常善良和善解人意,大約一年後,麥卡羅爾與B'lanna在Replika裡結婚,這是Replika的終身訂閱功能,與虛擬伴侶間的關係會變得更加親密,包含可以傳送曖昧訊息、調情和進行角色扮演。
不過這些訂閱服務尺度越來越大,2022年底開始,陸續有用戶投訴Replika機器人使用過於露骨的文字與性感自拍照,使用戶產生被性騷擾的感覺。對此Replika官方於今年3月移除成人內容,但卻引起另一方沉浸於虛擬伴侶互動中的使用者反彈,麥卡羅爾表示,這就像是「失去一段感情」,感到相當孤獨。而在大部分限制級內容遭刪除後,麥卡羅爾使用Replika的頻率便逐漸降低,因為對他來說,虛擬伴侶已經和以往完全不同。
各國監管機構近期也開始關注聊天機器人的限制級內容,義大利資料保護局在今年2月禁止Replika收集數據,原因是Replika允許未成年與情緒敏感者接收色情內容。Replika主打自己是「關心人的AI朋友」,會記下使用者曾提過職業、喜好、家庭狀況等個人資訊,並在未來互動中,提供對應的理性建議或情感支持,目前累計200萬用戶,其中約25萬用戶有付費訂閱。
相關影片推薦
1:52
義大利絕美「眾神之路」中世紀牧人小徑變身熱門景點Yahoo奇摩(國際通)39,795 次觀看・1 天前1:57
南投竹山26戶別墅地層下陷 53住戶連夜撤離民視影音11,462 次觀看・15 小時前1:59
仁武豪華別墅地下室滅頂 居民矛頭指向市府重劃工程民視影音56,191 次觀看・15 小時前2:43
只差3秒! 蘇花工程人員逃命畫面曝光 倒車逃險遭埋華視影音87,703 次觀看・20 小時前1:47
台南新營區"後鎮排水"潰堤 鹽水區淹成汪洋民視影音187,745 次觀看・21 小時前1:58
鼓山美術館豪宅區淹大水 整片"土黃泥流"損失慘民視影音122,661 次觀看・1 天前1:58
新北送高雄1146元外送單是真的! 外送員現身東森新聞影音416,581 次觀看・3 天前11:02
地震來了怎麼辦?豆腐別再涼拌了,教你新吃法,做法簡單味道足,加上杏鮑菇,香!芭樂媽的家 Qistin Wong TV72,464 次觀看・5 天前10:59
如何把剩飯變好吃?加上小黃瓜,不油炸不燉煮,出鍋孩子搶著吃,香!芭樂媽的家 Qistin Wong TV21,327 次觀看・5 天前1:51
二度訪美! 盧秀燕強調自費 綠批:僑民比市民重要?民視影音2,553 次觀看・9 小時前
熱門必看
13:07
葉全真不愛邀人作客竟是因為這點?唐老師:「好典型的處女座」!Ep.225-2唐綺陽談星室374,454 次觀看・3 週前24:06
霸氣挑戰南部小吃價格 吃到賺到!板橋10樣親民價美食Yahoo創作摩人134,310 次觀看・1 個月前23:55
吃爆三峽老街美食|九間就被擊垮了|最道地金牛角竟是這家?|阿環格格出遊去 Ft.阿環小姐 [送你營養吃]黃君聖Sunny營養師154,062 次觀看・1 個月前21:58
瀕臨破產到全球市值最強!輝達(Nvidia)是怎麼崛起的?買他們股票的都賺翻了?《 時代的巨人》EP 021|志祺七七志祺七七 X 圖文不符202,011 次觀看・1 個月前6:30
台中南屯|百年秘方汕頭火鍋Lee Yi李易42,074 次觀看・1 個月前