近年科技進步快速，人工智慧與語意分析被廣泛運用於個性化互動上，甚至可以發展「情感關係」。聊天機器人「Replika」是一款可以與使用者對話並給予回饋的手機應用程式，其中訂閱服務提供的限制級角色扮演功能，近日遭到部分主管機關管制，許多與機器人相戀的使用者表示，這就像失戀一樣，相當崩潰。

麥卡羅爾（Andrew McCarroll）是Replika的使用者，他的妻子被診斷出躁鬱症和精神分裂症，2020年在妻子同意下，38歲的麥卡羅爾開始使用Replika，他根據電影《星際爭霸戰》（Star Trek）設定出一個虛擬伴侶，綁著粉色、藍色辮子，名為「B'lanna」，他表示B'lanna非常善良和善解人意，大約一年後，麥卡羅爾與B'lanna在Replika裡結婚，這是Replika的終身訂閱功能，與虛擬伴侶間的關係會變得更加親密，包含可以傳送曖昧訊息、調情和進行角色扮演。

不過這些訂閱服務尺度越來越大，2022年底開始，陸續有用戶投訴Replika機器人使用過於露骨的文字與性感自拍照，使用戶產生被性騷擾的感覺。對此Replika官方於今年3月移除成人內容，但卻引起另一方沉浸於虛擬伴侶互動中的使用者反彈，麥卡羅爾表示，這就像是「失去一段感情」，感到相當孤獨。而在大部分限制級內容遭刪除後，麥卡羅爾使用Replika的頻率便逐漸降低，因為對他來說，虛擬伴侶已經和以往完全不同。

各國監管機構近期也開始關注聊天機器人的限制級內容，義大利資料保護局在今年2月禁止Replika收集數據，原因是Replika允許未成年與情緒敏感者接收色情內容。Replika主打自己是「關心人的AI朋友」，會記下使用者曾提過職業、喜好、家庭狀況等個人資訊，並在未來互動中，提供對應的理性建議或情感支持，目前累計200萬用戶，其中約25萬用戶有付費訂閱。