我们的记忆会被窜改吗？

我们的记忆会被窜改吗？

人们曾崇奉一些普及的体味，例如“谣言行于智者” “有图有本相”，但如今好了，谣言起于“智者”——人工智能，而被用来证明本相的图片，也许自己便是谎话。本地时间4月4日，美国前总统特朗普正式以被告身份出席纽约州处所法院不法封口费案件庭审现场时，良多人的第一反响却是：“假的吧？”因为“特朗普被捕”的假动静和假照片已经传布快半个月了，当工作实的发作时，人们反而不敢相信。

之前的假照片几乎成为持续剧，天天都在上新——“特朗普在前面跑得气喘吁吁，执法人员在后面紧逃不舍”，“特朗普遭到纽约市差人围殴、拘捕，排场紊乱”，“特朗普的铁窗泪和狱中生活”，“特朗普火拼越狱”……几乎是一部合格的好莱坞大片设置装备摆设。

那些疯传的“特朗普系列”全数由AI造造生成，最早是信息查询拜访网站bellingcat开创人、英国独立记者艾略特·希金斯的恶做剧，他在网上读到特朗普可能被拘捕的动静后灵机一动，想将那一事务“可视化”。于是，希金斯在AI绘图东西Midjourney上输进响应提醒词，例如“特朗普在被捕时摔倒了；新闻报导画面。”随后，他将Midjourney生成的图像发布在社交媒体上，并在帖子中写道：“在期待特朗普被捕时，造造了特朗普被捕的图片。”

网友用AI软件造造的“特朗普被捕霎时”的假新闻照片

网友转发时可不会细看他写了什么，仅仅两天后那些内容的阅读量已打破500万次，图片在经由别人从头转发后，骗到了良多人。有用户在转发时，配上“突发新闻：特朗普今晨在曼哈顿被捕”“震动！特朗普被拘捕并押往联邦监狱”等文字。还有人迷惘地在图片下发问：“为什么特朗普被捕的事没上新闻？”

“在批量造造虚假但可信的图像方面，AI已经向前迈进了浩荡一步。”《华盛顿邮报》评论说。那么，那项手艺的才能和可获得性能否已经大大超越了监管和立法的反响以及企业的掌握，从此使得本相愈加模糊？

“我只是在胡闹罢了”

“我只是在胡闹罢了。”希金斯承受摘访时说，工作的发酵速度让那位始做俑者也始料未及，“我认为可能也就5小我会转发。”过往，造造一张假照片还需要一位photoshop高手做上整整一下战书，而如今，用户只需供给一个简单的文字提醒，那些东西就能敏捷生成以假乱实的图像，布景中往往还包罗大量令人心服的细节，更重要的是，其可以高度模仿新闻机构风气的照片。

展开全文

好比，在比来的中文互联网上，不只传播特朗普被捕的图像，还有大量AI生成的上世纪80年代、90年代的照片，那些照片中，无论是配角仍是布景，都拥有十分实在的细节，除此之外，还有人戏谑地把《星球大战》中的角色或者机器人相当实在地“镶嵌”进那些八九十年代的陌头图像之中，因为细节过于传神，看起来竟然一点都不违和。相当多的人起头担忧，也许将来不再有“实在”的汗青，人们的记忆也会被稠浊。

AI绘画：一些片子元素被“镶嵌”进上世纪八九十年代的生活场景。

有关AI对摄影界的影响，摄影师们有过讨论。起首当然是版权问题，因为生成器的数据库是通过在互联网上挠取数十亿张带有相关文本描述和标签的图像而构成的。在此中，人工智能公司Stability AI遭到了摄影师的集体侵权指控，Getty图库也备受诟病。而有关图片量量，摄影师们从专业角度认为，AI还没有可以彻底以假乱实。

曾拍摄过《算命》《老唐头》等独立纪录片的导演徐童也重视到了那些“有意思的照片”，因为本专业为新闻摄影，后来又在不竭用纪录片跟随“本相、实在、实理”，他非分特别存眷AI的开展。“人工智能生成图像还处于婴儿期间。“徐童对《中国新闻周刊》说，AI生成的图片关于专业人士而言尚不难辨认实伪，专业摄影师们似乎也不认为当下它可以对人们所需要的实在照片形成什么严重影响。但徐童也认可，AI的开展是敏捷的，也许很快就进化。在他看来，越来越传神的AI生成图像目前次要分两类，要么是很随便辨认实伪的戏谑，某种水平像是公众的黑色诙谐，要么是对实在图片的高度拟仿，例如那些80年代的街景，人们担忧的大约为后者。

但如许的图片在徐童眼中，类似于文物界的赝品，“通俗人怎么能分清《兰亭序》的实迹和《兰亭序》的赝品？分不清。但事实仍是有实迹在那，仍是有专业的人能分清晰。”而即使人们看的是“赝品”，那个拟仿到位的“赝品”其实不会笼盖“实品”，也不会使人们对“实品”自己的感触感染和印象产生什么稠浊，所以没必要对“赝品”产生恐慌。

何况人们的记忆和对汗青的理解，有时候其实不必然全数基于非虚构信息和影像。学者王学泰曾经在他的《游民文化与中国社会》等书中描画过一种现象：宋朝以后，中国社会受戏曲、曲艺影响极大，例如清末，义和团成员在严重活动中喜好将打扮服装向汗青中的忠臣名将挨近，例如黄忠、马超级，他们的服饰参考恰是戏曲中前人的样貌。承平天堂的打扮服装、官职以及做战体例都曾向汗青进修，他们进修的汗青其实是通俗文艺中所描述的汗青。

AI绘画：一些片子元素被“镶嵌”进上世纪八九十年代的生活场景。

复旦大学新闻学院传授汤景泰告诉《中国新闻周刊》，在阿谁时候，“戏曲不单建构了一些人关于古代汗青的记忆，并且在塑造他们响应的行为”，能够说，即使在有信史的情状下，虚构的工具仍然在“参与我们响应的一些集体记忆建构。”出格关于孩子和受响应教导比力少的人，恐怕不断以来都难以对虚构和非虚构内容准确地停止辨认。

因而，汤景泰认为，现在AI所造造的一切信息，最值得警惕的并不是艺术、打趣或汗青图片，而是那些被有意造造出来的，哄骗、误导别人的“谣言”，那些“谣言”会使良多无辜者受害，更令人担忧的，是以谣言为代表的各类虚假信息往往深受现实政治权利构造的影响，在潜移默化中影响特定问题的社会认知，以至引发社会动乱。

一键生成的谣言

不久前，一条“杭州市政府3月1号取缔灵活车依尾号限行”的“新闻稿”在互联网上普遍传布。后来颠末警方查询拜访，发现那是一条不实新闻——2月中旬，杭州一个小区业主群在讨论ChatGPT，一位业主开打趣说，测验考试用它写篇杭州取缔限行的新闻稿看看。随后那位业主在群里曲播了ChatGPT写做过程，还把文章发群里。没有围看全程的业主不明就里，认为是实的新闻，截图转发，最初以讹传讹。

自2004年美国传布学者拉尔夫·凯伊斯提出“后本相时代”概念、2016年《牛津英语词典》将其做为昔时的年度词汇收躲和发布以来，“后本相”就成为人们不能不无视的新现象。所谓“后本相”，是指人们不再相信本相，只相信觉得，只情愿往听、往看想听和想看的工具。汤景泰告诉《中国新闻周刊》，从阿谁时候起，新闻伦理已经起头不竭遭到挑战。跟着电脑手艺不竭开展，2018年“深度伪造”（Deepfake）概念被学界提出，那时，人工智能已经起头将图片或视频合并叠加到源图片或视频上，借助神经收集手艺停止大样本进修，将小我的声音、面部脸色及身体动做拼接合成虚假内容。

AI绘画：OpenAI CEO山姆·阿尔特曼乘坐UFO，在中国村落留影。

在国内，第一次引起人们重视的“深度伪造”可能是2019年B站的一段视频——94年版《射雕英雄传》中墨茵的脸被换成杨幂，从服饰发型到神志动做都是原演员墨茵的，只要五官成了杨幂，却丝毫不违和。那时AI的手艺已经引发人们的担忧，所以造造墨茵和杨幂换脸视频的up主“换脸哥”下架了所有视频并致歉，期看各人都尊重版权与肖像，专注于手艺自己。

两年后的2021年，刘昊然工做室向警方报案，因为有人用AI换脸手艺发布伪造欺侮刘昊然的视频。那时，AI换脸手艺利用门槛已经大幅降低，不再需要专业视频博主的造造，略微懂点手艺就能做到。以至起头构成黑色财产链，一位女明星的脸被AI换到了200多部色情视频之中，在一些平台以10块、5块一部的价格出卖，网上还有商家供给视频AI换脸的办事，根据时间长短收费。

当那项手艺开展到2023年，已经实现普通化利用，几天前，一张女子在地铁上的照片被AI“一键脱衣”，造谣图随后在网上普遍传布。

谣言是最古老的传布前言，但造造一条传神的谣言从未像今天如许随便。以ChatGPT、Midjourney等为代表的人工智能手艺不只能够造造足以乱实的文字，还能够大大进步深度伪造手艺的效率，对图片、声音、视频等各类话语类型停止伪造，实现谣言消费的多模态，谣言的传神性、侵扰认知的才能几乎到达史无前例的高度。谣言治理正面对挑战。

谣言的背后，其实反映某些实在的心理和感情。汤景泰担忧，造造过程越来越简单的谣言，会借助现实中已有的矛盾，滋长各个群体之间的进一步扯破，“特殊是谣言兵器化的趋向，那几年已经越来越凸起了。所以在那种情状之下，它一定会办事于现有的权利博弈。”例如2021年1月，特朗普撑持者遭到选举舞弊谣言的煽惑，暴力冲击美国国会大厦。本年3月“特朗普被捕照”呈现不久，收集上也呈现了“特朗普持枪反攻、活捉拜登和佩罗西”的主题假照片，十分清晰地展现出美国政治的两派斗争。

2018年，美国麻省理工学院传媒尝试室发布过一项史上规模更大的假新闻研究功效。实信息在收集空间传布所用的时间是假信息所用时间的6倍，虚假信息的传布速度、传布深度和传布范畴都要比实在信息传布得更快、更深、范畴更广，而虚假政治新闻的影响比恐惧主义、天然灾害、科学、城市传说或金融方面的虚假新闻更为明显。从传布学层面看，反复做为一种强化价值理念的体例，展现了强大的认同力量。

而揭露虚假信息其实不总能改动人们的思惟。2017年11月颁发在《Intelligence》杂志上的一项研究发现，那些认知才能较低的人在被告知一些动静为虚构或者底子与事实相反后，仍无法改动本来的印象。美国麻省理工学院的研究功效也表白：“即便揭露是由声誉优良的事实查抄组织来完成，也无助于说服那些已经相信虚假信息的人”。

用魔法打败魔法

可能是出于AI被用于欺诈、虚假信息传布等不良用处的担忧，本年3月31日意大利小我数据庇护局（DPA）公布制止利用ChatGPT。4月3日德国数据庇护专员也表达，德国可能会效仿意大利，封杀ChatGPT。亚马逊、美国银行、软银、高盛集团等世界出名企业内部，也已经限造利用ChatGPT来处置工做。

每一次手艺革命，城市给社会带来浩荡的改变、风险和机遇，现在AI似乎在饰演着类似的角色。3月29日，特斯拉CEO马斯克、硅谷人工智能出名专家盖瑞·马库斯等上千名科技人士联名颁发了一封公开信，唤吁所有AI尝试室立即暂停操练比GPT-4更强大的AI系统。马库斯说：“我如今其实不担忧‘AGI风险’（我们无法掌握的超等智能机器的风险），在短期内我担忧的是‘MAI风险’——无强人工智能（MediocreAI）是不成靠的，但被普遍摆设。”那一唤吁得到了很多存眷与回应，截至本地时间3月31日，已有超2300人签名。

AI绘画：20世纪90年代的中国情侣。

但也有一些业内人士对此持反对立场，例如Meta首席手艺官（CTO）安德鲁·博斯沃思，他认为“良多时候，你必需先领会手艺是若何开展的，然后才气晓得若何庇护人类并确保手艺平安。那（要求暂停高级AI开发）不只不现实，并且不会有效。”

但完全指看手艺来处理虚假信息的问题，布朗斯坦认为是稚嫩的，他说：“那不单单是假新闻的问题，也是相信和欠缺责备性思维的问题，那可不是仅靠手艺就能缓解的。那需要所有利益相关者的勤奋。”

然而企业原则和政府监管那一层面目前显然是缺失的，例如固然因生成“特朗普被捕”图像，希金斯的账号被Midjourney封禁，但他并未被告知违背了哪些规定。

专注于新兴手艺研究的卡内基国际事务伦理委员会研究员阿瑟·霍兰德·米歇尔在承受《华盛顿邮报》摘访时说，他担忧世界还没有为即将到来的“洪水”做好预备，涉及通俗人的伪造图像将更难遭到监管，“从政策角度来说，我不确定我们能否预备好应对如斯大规模、涉及社会各阶层的虚假信息。要末行那一场面，可能将需要迄今无法想象的手艺打破。”

2023年3月30日，结合国教科文组织颁发声明，唤吁列国政府尽快施行已通过的首份人工智能伦理问题全球性协议《人工智能伦理问题定见书》。声明说，行业自律显然不敷以制止那些伦理危害。因而，《人工智能伦理问题定见书》供给了东西，以确保人工智能的开展遵守法令，制止形成危害，并在危害发作时启动问责和弥补机造。

从人文科学与社会科学的角度看，汤景泰认为面临人工智能手艺可能带来的谣言消费与传布风险，人类仍离不开人工智能手艺的撑持，但也要看到，谣言的传布动因和心理机造有复杂的社会根底，底子症结在于难以弥合的社会不合，新闻的实在性与客看性被解构，人们更情愿相信契合群体心理预期和感情的信息。因而，破解谣言的底子在于建构一个可沟通性更强的社会。

发于2023.4.17总第1088期《中国新闻周刊》杂志

杂志题目：被AI窜改的“本相”

记者：李静