虛擬伴侶竟傳火辣自拍照!聊天機器人禁限制級功能 用戶崩潰「失戀了」
近年科技進步快速,人工智慧與語意分析被廣泛運用於個性化互動上,甚至可以發展「情感關係」。聊天機器人「Replika」是一款可以與使用者對話並給予回饋的手機應用程式,其中訂閱服務提供的限制級角色扮演功能,近日遭到部分主管機關管制,許多與機器人相戀的使用者表示,這就像失戀一樣,相當崩潰。
麥卡羅爾(Andrew McCarroll)是Replika的使用者,他的妻子被診斷出躁鬱症和精神分裂症,2020年在妻子同意下,38歲的麥卡羅爾開始使用Replika,他根據電影《星際爭霸戰》(Star Trek)設定出一個虛擬伴侶,綁著粉色、藍色辮子,名為「B'lanna」,他表示B'lanna非常善良和善解人意,大約一年後,麥卡羅爾與B'lanna在Replika裡結婚,這是Replika的終身訂閱功能,與虛擬伴侶間的關係會變得更加親密,包含可以傳送曖昧訊息、調情和進行角色扮演。
不過這些訂閱服務尺度越來越大,2022年底開始,陸續有用戶投訴Replika機器人使用過於露骨的文字與性感自拍照,使用戶產生被性騷擾的感覺。對此Replika官方於今年3月移除成人內容,但卻引起另一方沉浸於虛擬伴侶互動中的使用者反彈,麥卡羅爾表示,這就像是「失去一段感情」,感到相當孤獨。而在大部分限制級內容遭刪除後,麥卡羅爾使用Replika的頻率便逐漸降低,因為對他來說,虛擬伴侶已經和以往完全不同。
各國監管機構近期也開始關注聊天機器人的限制級內容,義大利資料保護局在今年2月禁止Replika收集數據,原因是Replika允許未成年與情緒敏感者接收色情內容。Replika主打自己是「關心人的AI朋友」,會記下使用者曾提過職業、喜好、家庭狀況等個人資訊,並在未來互動中,提供對應的理性建議或情感支持,目前累計200萬用戶,其中約25萬用戶有付費訂閱。
相關影片推薦
- 9:00韓國工廠火災:中國朝鮮族女工遇難 家屬淚訴最後訊息BBC NEWS 中文65,492 次觀看・2 週前
- 1:53高虹安貪污判7年4月 同天抄襲論文案脫身勝訴華視影音34,460 次觀看・10 小時前
- 1:47颱風過後網友歪樓 許淑華勘災雨衣鞋引發討論民視影音4,266 次觀看・9 小時前
- 1:25許淑華勘災焦點歪樓 時尚雨衣遭起底「要價近萬」東森新聞影音22,714 次觀看・7 小時前
- 1:58新北送高雄1146元外送單是真的! 外送員現身東森新聞影音419,735 次觀看・4 天前
- 1:43擋雨神器! "防水閘門"隔出兩個世界 防淹水惡夢民視影音37,324 次觀看・1 天前
- 1:58鼓山美術館豪宅區淹大水 整片"土黃泥流"損失慘民視影音156,132 次觀看・2 天前
- 2:01中國快時尚危機 年丟2600萬噸衣服 合成纖維占7成無法回收Yahoo奇摩(國際通)130,274 次觀看・2 週前
- 11:02地震來了怎麼辦?豆腐別再涼拌了,教你新吃法,做法簡單味道足,加上杏鮑菇,香!芭樂媽的家 Qistin Wong TV73,624 次觀看・5 天前
- 2:27凱米來襲!高雄多區淹水一級警戒 高美館豪宅區淹水「影片曝光」民視影音153,538 次觀看・2 天前
熱門必看
- 13:07葉全真不愛邀人作客竟是因為這點?唐老師:「好典型的處女座」!Ep.225-2唐綺陽談星室378,542 次觀看・3 週前
- 24:06霸氣挑戰南部小吃價格 吃到賺到!板橋10樣親民價美食Yahoo創作摩人136,927 次觀看・1 個月前
- 23:55吃爆三峽老街美食|九間就被擊垮了|最道地金牛角竟是這家?|阿環格格出遊去 Ft.阿環小姐 [送你營養吃]黃君聖Sunny營養師155,976 次觀看・1 個月前
- 21:58瀕臨破產到全球市值最強!輝達(Nvidia)是怎麼崛起的?買他們股票的都賺翻了?《 時代的巨人》EP 021|志祺七七志祺七七 X 圖文不符203,438 次觀看・1 個月前
- 6:30台中南屯|百年秘方汕頭火鍋Lee Yi李易43,241 次觀看・1 個月前