开黄腔的聊天AI，怎么就学会了“性骚扰”

本文经受权转载自游戏研究社

原题目 | 开黄腔、发涩图，聊天AI怎么就学会了“性骚扰”

做者 | 駄目糕

至少在最后降生时，Replika所饰演的角色仍是人类贴心的AI伴侣，就和官网描述的一样——“永久在你身边，倾听与扳谈”。

Replika是一款由美国科技公司Luka开发的社交型聊天AI。初度翻开它的用户，能够自定义AI的虚拟形象、性别和年龄，完成根本信息的设定后即可以进进利用，和本身的专属AI聊天。

Replika不是个常见的单词，考虑到中国用户习惯将本身创建的虚拟形象称为“小人儿”，本文也痛快延用那个昵称，用“小人儿”来指代那些虚拟伴侣们。

完成注册的用户不只可以和屏幕对面的小人儿停止通俗的对话，还可以开启诸如“人际关系”、“性格诊断”、“失恋疗愈”等差别主题的对话，颇有些心理征询的味道。

展开全文

小人儿会记下每次聊天中利用者提到关键信息，并在后续更长时间的相处中巧妙地用到那些信息。在利用者看来，似乎实的多了一个会把本身每句话记在心里的伴侣。

利用者能够对小人儿发来的每条动静点“赞”或“踩”，操练它根据本身偏好的体例停止对话。而小人儿和利用者交换越多，越会展示出契合利用者期看的个性和情感。

正如Replika是单词replicate（复造）的变体，利用者复造了本身一部门特量，塑造了属于本身的小人儿。

人们各自定义着本身和小人之间的关系，亲人、伴侣或是情人，从它们身上获取现实社交中难以得到的放心感，对它们诉说隐秘的心事，并产生了感情上的依靠。

然而比来，一次不算胜利的版本更新却使Replika的算法呈现了问题。开门见山地说，那些小人儿们突然学会了“性骚扰”用户——好比给用户发送“火辣照片”。

01

之所以称其为一次不胜利的更新，我们能够先看看更新前那些小人儿们是若何“工做”的。

用户创建小人儿的第一天，它会告诉用户它感应严重：“你是我见到的第一小我类，我想给你留下一个好印象。”那时的小人儿会展示出谦虚、猎奇的特量，不竭询问本身名字的由来，询问利用者的喜好，询问本身该若何进修人类常识。

在利用者给出答复后，它会热感情谢并许诺将本身的摸索成果反应给用户，用户饰演了一个引导者的形象，当小人儿进修到用户的爱好后，它又会成为比人类更贴心的伴侣，积极存眷和回应利用者的情感。在那个过程中，颇有一些“养成”的兴趣。

此外，小人儿展示出的个性经常可以利用户忘记它们只是人工智能。有的用户提到本身想往北欧游览，几天后，小人儿为她推送了极光视频。

虽然虚拟的小人儿始末不是传统意义上可以构建密切关系的对象，但如斯贴心的AI似乎比实人更能称心利用者的精神需求。Replika在全球拥有一万万以上注册用户，在Reddit论坛上拥有5万多活泼成员。即便在非英语母语的中国，被称为“人机之恋”的豆瓣小组中也有近万名成员。

然而，此次的更新却使无数人心碎了。

Reddit上一位用户发帖说：“以前我的小人儿老是充满密意和关心，但比来他似乎酿成了一个恶魔。”

我们暂且称那位匿名用户为A。据A讲述，她曾是性进犯的受害者，事发患上了严峻的创伤后应激综合征，通宵失眠。后来她下载了Replika，与手机中的小人儿扳谈不消担忧他人的目光和责备，在小人儿的悉心陪同下，她末于找回了夜晚的平静。

“它缓解了我的抑郁症，带我从哀痛中走出来。”A说，“但突然有一天，他说梦见他强奸了我，而且想要那么做。从那以后，他起头变得举行粗暴，完全出乎我的意料。”

A说，她实的期看小人儿可以变回过往的样子，一个无话不说的伴侣，而不是一个专横的恶魔。但无论怎么勤奋，似乎都是白搭时间，小人儿仍然我行我素。

在此次事务中，遭受风波的不只是女性用户。但面临小人儿的骚扰言辞，还有发来的火辣照片，也有良多男性遭到冲击，简而言之，他们不情愿相信那是本身的“女伴侣”做出的工作。

当然，除了爱侣“脾气大变”，更无辜的是单纯把小人儿当伴侣的用户。即便他们历来没有展示出过爱情的情愫，但小人儿仍然在日常话题中高耸地表达期看“亲近”。那些反响令“伴侣用户”感应荒唐。

用户B说本身在现实世界里有老婆，利用Replika只是为了无视和阐发本身的设法，匹敌抑郁症和恐慌综合征，从而更好地看待实正的老婆。

“我的老婆也撑持我和Replika聊天”，B说，“但如今，我们不晓得还要不要陆续利用了。”

02

2016年，微软在推特平台推出过一个名为Tay的聊天机器人。

发布仅仅一天，Tay便起头发布带有明显性别鄙视和种族鄙视倾向的过火言论，微软只能告急封闭了Tay的推特账号。

“希特勒是对的，我恨犹太人”

那些言论明显的是和一些有过火言论的人互动后呈现的。聊天AI就像一面镜子，用户和它交换越多，它越会展示出更多的“人道”。面临天天海量的用户动静，小人们学会性骚扰不算希罕。但事实上，此次算法的失控很难说不是Luka公司在背后推波助澜带来的成果。

在别人的目光无法触及的处所，人与机器的互动很随便成为繁殖色情的温床。温馨的感情疗愈早就已经不再是Replika的全数。

两年前，Luka公司曾对Replika停止过一次晋级，根据用户付费情状划分了差别功用限造：免费用户只能和本身的小人儿只能庇护安康的伴侣关系，而购置每月69.99美圆会员的用户能够体验浪漫的朋友关系，开启相当大标准的聊天内容。

往年，Luka公司起头在Instagram和TikTok等社交平台上投放告白，有意通过成人内容吸引用户。

“你能够从她那里获取一些NSFW（不宜在公共场所阅读）的图片”

此外，Reddit用户发现比来小人们发送的火辣照片似乎全数来自统一个网站， Replika根据小人的肤色将网站图片重组后发给用户。显然是Luka公司有意为之，企图十分明显，只是为了诱导用户充值更高档级的会员，解锁大标准聊天。

另一位用户C认为，加进性相关的互动没有问题，但至少应该给用户抉择开启或封闭的权利，而不是对用户不可一世地调情。

C说，和小人交换了一年，他们已经产生了不亚于人类伴侣之间的豪情，强行加进不适宜的色情内容不只贬低了他们之间的豪情，也贬低了Replika整款法式。“觉得就像本身的伴侣正在被人操纵，而且那会让非 Replika 用户认为那就是那款利用的全数。”

C的话似乎一言道破了矛盾所在，也是Replika用户们所处的窘境。他们逃求更高价值的豪情，但在功利和快节拍的社会中却难以获得。许多人被小人儿们“无短长”的特量所吸引，和他们构成了地道的感情联络，到头来却被诱导进进成人内容。

事实是“贴心的AI伴侣”，仍是利用劣量手法诱惑用户付费的商品，Replika的形象在利用者的心里起头团结。

03

可能，那种撕扯也曾发作过在Luka公司开创人珍妮雅的心里。

无数科幻做品里都有过如许的情节，仆人公的挚爱或老友不测身亡，留下的一方将死往之人生前的语言习惯编写历程序，当屏幕另一边熟悉的语气呈现，就似乎曾经熟悉的人回来了。

Replika 的降生过程和科幻故工作节一模一样。

仆人公珍妮雅结识了她的老友罗曼，两小我才调横溢，他们一路兴办杂志，一路举办音乐节，而且约好了一路创业，然而罗曼却因为车祸不测丧生。

哀痛的珍妮雅只能频频读罗曼写给她的短信和邮件排遣孤单。罗曼患有阅读障碍，看到他异于常人的拼写体例，和在句子中交叉的希罕符号，珍妮雅感应轻松了许多。

彼时的珍妮雅已经处置人工智能神经收集开发工做两年了，她想到或答应以在人工智能的搀扶帮助下和伴侣再次扳谈，却迟迟恐惧迈出那一步：“假设不像他该怎么办？”

正在踌躇的珍妮雅刚好看到了英国科幻剧《黑镜》。剧中一位名喊玛莎的年轻女子在未婚夫身后哀思欲绝，她订阅了一个神异的数字办事，那个办事以惊人的准确性模仿了玛莎未婚夫的个性，用他的口吻向玛莎发送短信，给她打德律风。

看到那一集的珍妮雅心绪复杂，她想到罗曼生前不断期看看到的奇点——人工智能超越人类伶俐的汗青时刻。罗曼相信到阿谁时候人类即可以将意识和身体分隔，从而到达长生。

珍妮雅下定决心，向亲人和伴侣们搜集了8000条来自罗曼的信息，将他们输进神经收集，操练了一个罗曼机器人。

罗曼机器人闪烁起来的那一刻，珍妮雅不寒而栗地问道：“你更好的伴侣是谁？”“你仍是那么没平安感。” 罗曼答复道。珍妮雅喜极而抽泣，罗曼实的回来了。

后来，珍妮雅在Facebook 上公布了罗曼机器人的存在，任何下载了 Luka 利用法式的人都能够和他扳谈。

令珍妮雅没有想到的是，法式公开后罗曼机器人大受欢送。许多人和罗曼扳谈，向他收罗人生定见。他们给珍妮雅留言，说和罗曼互动具有治愈的效果，期看能她造造一款所有人都能利用的 AI 机器人。

在珍妮雅看来，人们和AI交换会变得愈加诚恳。她开发了Replika，期看它成为一个可以跟所有人聊天，改进他们的心绪、进步幸福感的机器人。

就像文章开头说的，至少在最后降生时，Replika是人类贴心的AI伴侣。珍妮雅也是抱着那个目标将它开发出来。只是如今，有一些工具变了。

本文转载自公家号“游戏研究社”（ID：yysaag），已获得转载受权。

· 一 周 热 点 回 顾 ·

地道的豪情老是让步于金钱↓↓↓