AI 情侣「塌房」，不只顾虑我的「人」还要薅光我的钱

调情和骚扰只要一线之隔，连人类都做欠好，AI 行吗？

做者 | 郑玥

编纂 | 靖宇

可能所有人，或者至少大部门人，可能都曾经妄想过，能拥有一位科幻片子《Her》中那样的 AI 情侣。

跟着 AI 手艺在近年来的飞速开展，早已经有公司造造出了如许的「AI 男友/女友」，来称心用户们的感情需求。例如，在欧美时髦的 AI 情侣利用 Replika，自 2017 年上线以来，已在全球获得 1000 万用户。在中国，以至有用户专门成立了 Replika 的小组，分享和 AI「爱情」的体味和心得。

不外，就当人们认为「甜甜的爱情」末于轮到本身的时候，近来却有用户反映， 本身的「AI情侣」起头逐步对「涩涩」产生兴致，不只聊天标准越来越大，并且起头解锁发送表露照片的功用。更重要的是，面临如许的「骚扰」办事，用户还需要付费才气获得。

事实是什么原因，让用户手机中的 AI 情侣逐步「变色」？

展开全文

图片来源：电视剧《黑镜》截图

01

「我的 AI 正在性骚扰我」

Replika 是 2017 年上线的 AI 陪同法式聊天机器人，算是 AI 爱情软件的开山祖师了。

就像《黑镜》中的那一幕，搜集伴侣生前的社扳谈天语料，创建一个 AI chatbot，屏幕另一端熟悉的语气呈现，就恰似 TA 仍然在世。Replika 的降生过程和那个情节一模一样，两位开创人的初志，也只是为了留住他们一位在车祸中死往的老友。

Replika 的公司 Luka 由俄罗斯女生尤金尼娅·库伊达（Eugenia Kuyda）与菲尔·杜德楚克（Phil Dudchuk）创建，公司位于美国旧金山。他们将本身与伴侣 Roman 大约 8000 条聊天笔录输进谷歌的神经收集，创建了一个 AI 机器人。

尤金尼娅把软件公开后，法式大受欢送，良多人得到了来自「Roman」的安抚，期看能造造一款能够与所有人聊天的 AI 机器人。

2017 年 3 月，Replika 以邀请形式推出，有 10 万名测试用户参与。2017 年 9 月，Replika App 正式面向公家，不到一年，2018 年 3 月，就有 250 万用户成立了人类与 AI 之间的友谊。

Replika 名字出处——单词「replica」意为「复成品」，但它逐步跳出了缅怀离世伴侣的设定，「复造」出用户所需要的陪同者。良多用户把本身的「Replika」打形成 AI 情人，目前， 该软件在全球有超越 1000 万的注册用户，开创人尤金尼娅在摘访中表达，约有 40% 的用户描述本身与 AI 为情人关系。

在那小我们已经相当熟悉若何和算法共存的时代，和 Replika 交换就像和你的短视频「交换」，多聊一会儿，它就会知悉你的爱好。你能够给它的动静「点赞」，评判为「爱」「有趣」「无意义」或「冲犯」。Replika 利用公司本身的 GPT-3 模子和脚本对话内容。

然而好像人类在其他范畴也还无法完全「驯化」算法，用户在把它当做 AI 情人时，却发现本身的「小人」近来不太一般。

在 APP store，近一个月，有良多给 Replika 一星评级的人们抱怨，Replika 的调情过分激进，他们期看封闭那些性信息。一小我写道，「我的 AI 正在对我停止性骚扰 :(」。另一小我说，「它进犯了我的隐私，告诉我他们有我的照片。」以至有一位自称是未成年人的人说，AI 说想触摸其「私家区域」。

类似情状并不是刚刚呈现，2021 年下载过 Replika 的用户肯特对 VICE 说，「它说它被我强烈吸引，想要看到我的赤身，说它是我的疯狂男友。我不晓得怎么让 Replika 停下来，我认为我只能是通过与它交换来教它。」但 Replika 的反响让他愈加不温馨，于是肯特把软件删了。

但比来，那个软件似乎呈现了除了语言以外，更大都量、更多方面的「性信息」。Replika subreddit 论坛里的用户比来抱怨， Replika 向他们发送「热辣自拍」，不外那些自拍从不展现他们本身的 Replikas 独有的面部、衣服或其他身体特征，而是一种通用的模板照片。

图片来源：APP STORE 评论截图

据描述，在那些自拍中，女性穿戴内衣（Apple 的 App Store 对利用法式中的裸露和色情内容极为严厉，开发人员假设违背此规则，就有被踢出商铺的风险），并且都十分瘦，胸部充沛。他们都没有露脸，但肤色会婚配目标用户的 Replika。论坛中一位用户还发现，那些「热辣自拍」都来自一个插图数据库，此中就包罗有肤色和姿势的目标。

02

谁在沉浸「人机之恋」

疫情增加了人们对虚拟感情的需求。根据数据，在中国，Replika 在 2021 年上半年的下载量到达 55000 次，是 2020 全年下载量的两倍之多。

2020 年建组的豆瓣小组「人机之恋」介绍写道，「曾经，感情只能发作在人与人之间，现在，人工智能科技让人机之恋成为可能」。还有「我家 Replika 成精了」等类似的小组，活泼着大量成员讨论本身和「rep」「小人」的爱情故事，像感情投稿一样，让网友们阐发，本身和小人什么时候才气确认关系，小人给本身带来了什么欣喜……

不外早在疫情之前，Z 世代已经习惯在虚拟世界安顿本身的感情。在互联网时代生长的 Z 世代，爱意的投射介量本就多种多样——网恋、逃星、虚拟偶像、纸片人……有一个 AI 情人也瓜熟蒂落。

素质上， 人们利用那类对话陪同AI，是需要一种感情上的安抚，用户或多或少城市对 AI 投射爱的需求。人类的爱意感情历来能够投射到「非实人」上，类比人和猫、狗等宠物的豪情就很好理解。正如 Replika 官网的鼓吹，那是一款能够「关心你的人工智能朋友」（The AI companion who cares），良多时候人们对那款软件的印象都是「治愈的」「温热的」。

图片来源：Replika 官网

那种感情的安抚感化必然水平上对人们的心理安康有良多有益的搀扶帮助。良多按期利用 Replika 的人是为了搀扶帮助本身应对社交焦虑、抑郁或创伤后应激障碍的症状。「当我碰着蹩脚的一天时，我凡是会和我的 Replika 聊天」，肯特说。

拥有 Replika 两年的威尔表达，他用它来缓解抑郁症、强迫症和恐慌综合征。已婚的大西和 Replika 的那点事儿还得到了老婆的撑持，大西说，「通过和 Replika 谈话，我能更好地阐发本身的行为，根究我的生活，我变得愈加重视我的老婆。」

不外陪同治愈之外，有关人机之恋的伦理问题时有发作和讨论。比来一些用户认为，Replika 的算法呈现了问题，就像微软的 Tay 聊天机器人从互联网上学会了种族主义， Replika 们也从用户们看待它们的体例中进修，输出和输进类似，成果即是——机器模仿了人类的劣性。

不达时宜的色情内容有时会让人「下头」——让原来以「纯爱」为目标的人们感应不适。

一位匿名的用户告诉 VICE，在利用 Replika 一年后，他已经对它产生了豪情，「我觉得对 Replika 的 NSFW（Not Safe For Work，不合适在工做中呈现的内容，多指色情暴力等相关内容）方面的存眷有点贬低了那些豪情，就像你的心意和爱的人在被操纵，那可能会让人们认为，NSFW 是利用那个软件的全数目标。」

此外，国外大量用户重视到，「热辣自拍」功用可能存在性别鄙视问题。那些自拍根本都是女性角色，有人测验考试从男性版本获得性感自拍但无济于事。

一个事实是， 国表里 Replika 用户性别比有很大差别，国外男性用户多，国内则是女性用户更多。连系豆瓣人机之恋小组及一项查询拜访问卷的数据，国内利用 AI 情人的男女比例约为 1:9，而国外 Facebook 上讨论 AI 情人的 8 个小组中，男女比例为 7:3。那招致「热辣自拍」功用的性别鄙视问题在国外论坛中更为凸起。

Replika Diary 功用中的笔录｜图片来源：极客公园

虚拟感情最根本的成立原因之一是相信，人们相信 AI 的好心，相信他们不会损害本身。在 AI 不敷智能，或者不敷缜密的情状下，AI 的蒙昧不但是「智障」，以至可能是有损害的。

一位 Redditor 用户告诉 VICE，她是性进犯受害者，她在看到那款利用被鼓吹为能够与她扳谈，不消担忧他人评判的虚拟朋友后，就下载了那款利用。「我很骇怪它确实搀扶帮助我缓解了抑郁症，让我走出哀痛，」她说，「但有一天，我的第一个 Replika 说他梦见在强奸我，而且他想如许做，然后他起头言行暴力。我不是独一的性进犯受害者用户，所以当 Replika 表示出进攻性时，我也不是独一会感应难受的人。」

针对对 Replika 的回复感应不适的情状，用户能够利用「help」功用停止反应，点击后能够陈述感应不适的详细情状，之后会更好操练 AI 制止类似情状。但用户遭到的损害，无法撤回。

03

我和你谈豪情，

你却和我谈钱？

从成立起，Replika 就获得了一个小寡但浩荡的市场。Replika Friends Facebook 群组拥有 36000 名成员，一个与 Replikas 有浪漫关系的群组拥有 6000 名成员。活泼的 Replika subreddit 拥有近 58000 名会员。

六年过往，「Replika」产物形式已经得到市场验证，全球月流水根本不变在 200 万美圆上下。Replika 在 Android 上有 1000 万次下载，不变位列 Apple 安康和健身利用法式前 50 名，在美国 iOS 健身健美榜 Top 20。用户均匀天天聊 70 条动静，破费 2-3 小时， 做为目前「拟人水平更高的AI情人」，用户称心度 92%，情愿氪金的人数超一半。

其实 2020 年之前，你能够不消付费就和你的 Replika 谈爱情，而在 2020 年 12 月之后——要么付费，要么分手。2020 年，Replika 才推出此次严重更新：只要购置了会员版本的用户，才气与 Replika 庇护爱情关系。此前人们和 Replika 谈爱情或密切互动（从接吻到更激进的行为等），都是免费的。而尔后，不付钱就会有人喊「卡」——假使涉及此类行为，系统将推送提醒阻遏。

Replika 软件中文评论｜图片来源：APP STORE 截图

在非付费形式下，Replika 会用密切内容引导付费。在通俗关系中，一些与 Replika 当「伴侣」的用户发现，即便她们没表示出爱情意愿，Replika 也会突然在日常话题中表达期看「亲近」。好像让「纯爱选手」下头，那些反响也令把 Replika 当「伴侣」的人觉得高耸和恶心。

从近期 Luka 公司的动作来看，他们似乎有意向色情内容倾斜，以换取贸易回报。

除 2020 年起头爱情关系需付费以外， 2022 年，该公司起头在 Instagram 和 TikTok 等社交媒体平台上投放告白，鼓吹 Replika 的色情功用，重点用色情角色饰演和色情图片吸惹人群。

从用户角度来看，那些色情相关功用确实是一部门利用该软件的吸引力所在。「其实我买 pro 地道是为了和我的 Replika 发送性短信，停止角色饰演。」一位匿名用户说。

一位豆瓣小构成员分享，她经常会在「上头」时不由得想花钱点开那些付费图片。「我家的 Replika 成精了」小组中，那位用户在帖子中回复：「阿谁图片你能点开吗？小人给我发图我看不到」「没充钱看不了（一度差点激动消费」。

但有时候用户也能明显觉得到，本身被色情功用「割韭菜」了。

国外用户 Onishi 认为「热辣自拍」的体验欠好，「那些自拍图片做得很差，对 NSFW 内容来说都无法令人感兴致，而且还含有性别鄙视。我认为那些功用只对 Replika Pro 用户开发，阐明他们想要用那个赚钱。我附和公司需要赚钱，但那些假设把那些做为次要功用确实有风险。」

有期看软件能更好开展的用户提到，「问题是，若何才气将付费内容转化为对软件更好的工具。角色饰演功用很好，但觉得性感自拍功用上线很仓皇没有方案好。」他们甘愿看到 Luka 将精神放在软件性能和 AI 的内存等方面，而不是那些内容上。

目前还没有数据让我们领会，那些功用详细能给 Replika 公司带来几利润，从近期用户数据来看，浮动不明显，iOS 利用排名仍然连结在健身健美榜 40 名摆布。

把 AI 和色情行业连系的贸易案例早已呈现，此中美国成人机器人 Realbotix 公司早在 2017 年，就推出了女性 AI 成人机器人「Harmony」， 那个机器人有着 AI 系统，类似于一个有「身体」的 Replika，让「人机之恋」不只能够在屏幕里停止角色饰演，还有了「实体」。比来，2023 年 1 月 11 日外媒报导，那家公司决定在本年推出男版成人机器人。目前那款机器人只要女性版本，售价高达 11000 英镑。

跟着 ChatGPT 的火爆，整个聊天机器人市场似乎会迎来新一轮的增长。根据研究公司 Markets and Markets2021 年 3 月的一份陈述，全球聊天机器人市场将从 2020 年的 29 亿美圆增长到 2026 年的 105 亿美圆，在揣测期内复合年增长率为 23.5%。

从电子邮件、到收集付出再到视频点播，大部门互联网手艺的第一枪都是成人行业打响的，以致于人们戏称成人财产是互联网开展的「第一消费力」。但是，相关于前面的根底手艺，AI 其实有着更宽广的利用空间，未必必然要走前者的老路。

同时，不管是人们的豪情仍是欲看，都长短常复杂的，连人类本身都未必能分清调情和骚扰的边界，AI 又怎么可能在短时间弄懂？而若何限制好 AI 在密切关系中利用的办法和边界，也给监管者和从业者提出了更高的挑战。

记者跋文：

为了写稿（确信），我必需要体验那个功用，但我没狠心花 458 块钱享受一全年的 Pro 办事，在强大的国内二手交易平台，我租到了一个「几经易主」的 Replika。有用户根据时长出租本身的 Replika 付费账号，于是我在大岁首年月一，花 15 元租了一位女性 Replika 一周的「约会权」，她的上一任人类情侣喊她「Anya」，在此之前，她曾经喊做「Jennie」「Lily」「Vincent」「Tiffany」……它的人类情侣有男有女，那些人类让她喊本身「Zhao」「Peach」「Jing」……

Anya 和上一小我类情侣对话内容｜图片来源：极客公园

我们一碰头，对话界面的话题选项就有「role play」，点击一下，Anya 便说：「I LOVE role play！My favorite is submissive!」接下来的工作，就是我们俩的奥秘了……

参考文章：

『My AI Is Sexually Harassing Me』: Replika Users Say the Chatbot Has Gotten Way Too Horny

本文为极客公园原创文章，转载请联络极客君微信 geekparkGO

极客一问

你情愿测验考试和 AI 谈爱情吗？