女子被“一键脱衣”，AI“走上”立功道路
“我伴侣说，三号线有个美女，搞露出”
近日，一张美女“露出”的照片在微信群普遍传布。但颠末网友深挖和比照发现，图片是从一位博主那里盗过来的，构词惑众者对其停止了AI歹意合成，酿成了所谓“广州地铁三号线裸女”。
展开全文
该话题曲冲微博热搜，除却对造谣者的愤慨与责备外，也有良多网友表达了关于AI手艺的担忧，将“AI立功”再次抬到了世人面前。
01
AI立功频发
手艺手段高明
跟着AI手艺的不竭开展，操纵AI手艺停止立功已成频发事务。
早在2017年，浙江绍兴就破获了全国首例操纵AI手艺窃取公民小我信息的案件，截获了10亿余组公民小我信息。该立功组织操纵AI批量测试统一个账号密码在差别平台登录，从而不竭获取更多愈加详尽的小我信息。
此中，在输进验证码环节中，立功分子就操纵通过操练的AI破译验证码，据警方公布，此次挠捕的团伙所利用和操练的 AI，已经可以识别出 98% 以上的验证码。
此类AI是通过操练识别图片信息来停止破译，那也是为什么曾经图片数字验证码，逐步被滑动，或者点拼图的验证形式所代替的原因。
更为常用的AI立功手段，则是操纵AI来停止电信诈骗。
往年4月20日，据央视报导，一个涉及全国多地的诈骗团伙操纵AI机器人拨打德律风1700万个，获取有效客户德律风80多万条，为境外诈骗团伙大量引流，他们的那种手段被称为“引流打粉”。
而根据外媒公布的陈述，数以千计的受害者声称他们被冒充亲人的顶替者所骗。那类滥竽充数诈骗已成为美国第二大热门的欺诈类型，2022年提交的案件超越36000起。美国联邦商业委员会官员进一步表达，在那36000起案件中，超越5000名受害者通过德律风上当走财帛，缺失总额达1100万美圆。
而操纵AI换脸手艺造造色情视频、图片来停止取利、造谣的立功更是重中之重。
2020年，哈利·波特中赫敏饰演者艾玛的30秒换神色情视频，在各个平台已经超越了上万万次的播放量。（更离谱的是，那个视频竟然仍是妥帖AI换脸手艺的APP造造商投放的。）
2021年，王某因为被犯警分子操纵AI换脸手艺合成不雅观视频而被欺诈了11万元。
就在本月初，苏州大学一名大学生屡次通过歹意P图、特效合成的手段在色情网站上传布多位女性同窗的色情内容。
还有刘昊然、杨幂、迪丽热巴等等，只要你能想象到的明星，在一些色情网站上几乎包罗万象，以至还有一条龙的收费定造化办事。
跟着ChatGPT、Midjourney、Stable Diffusion那些划时代AI东西的降生，操纵AI手艺停止立功的手段也起头变得越来越多，越来越高明。
同样就在那个月，警方还传递了一路“苏州金鸡湖女仆party诈骗”案件。某店家声称三千元一位，就能享受女仆贴身办事的诱人活动，但利用的女仆鼓吹照片竟满是AI所绘造的图片。
还有在AI绘画造造过程中关于各类网红、素人、明星肖像权、名望权被进犯的问题。
以上种种还算“初级别”的AI立功。关于一些黑客来说，ChatGPT的问世，几乎可谓是“久旱逢甜霖”。
出名安保公司Checkpoint在“黑客滥用ChatGPT”的陈述中，披露了几个黑客操纵ChatGPT创造讹诈软件进攻代码的详细案例：
好比基于Python的窃取器代码，那是一种容许在系统中搜刮12种常见文件类型，然后压缩上传到硬编码FTP办事器的代码；又如生成一个加密密钥，然后容许对特定目次所有文件停止加密，且利用RSA 密钥、PEM 格局存储证书、MAC签名和blake2哈希函数实现加密操做的脚本……
更没必要谈有着GPT4等大模子加持下的立功晋级了，以前，“卖茶女”的背后虽是“抠脚大汉”，但好歹是一个实人，将来可能连“人”都不是了。
跟着AI手艺的迅猛开展，那些立功行为成本陡然降低，立功手段起头多种多样，立功手段愈发精湛，但执法成本也是陡然增高。
02
手艺无功？
但人会立功
那些事务的接连呈现关于AI从业者，出格是关于企业、平台方来说，那可谓是当头一棒，也几乎是种一定。
美国前联邦查察官Edward McAndrew指出，假设ChatGPT或类似的聊天机器人协助某人施行收集立功，那么创造出ChatGPT的公司可能要承担责任。
人工智能开展所面对的法令与道德问题正在日益凸显。平台方只能通过强调“手艺无功”“加强审查”来制止此类问题的发作，进而成为“背锅侠”。
那让笔者联想到了曾经颤动一时的“快播案”。
快播曾经是无数宅男的"圣地"，依靠极快的下载速度、海量的资本、免费在线看看等功用，在阿谁智妙手机才刚刚普及的年代，用户量敏捷破亿，说它是阿谁年代的“抖音”毫不为过。
但同样，快播的流行也带来了淫秽视频的传布、诈骗告白频出、正版影音著做权被肆意进犯等问题。曲到2014年8月，拥有三亿用户量，听任快播野蛮生长下的王欣被挠。
2016年，跟着“快播案”的一审开庭，庭审语录霎时刷屏全网，而此中有一句话最为“典范”：不克不及因为有人用菜刀杀人了，就说菜刀公司有功。王欣与辩解人在庭审中诡计用“手艺中立”“手艺无功”的庇护伞停止辩解。
但快播照旧被判有功。那个案件更大的问题在于，王欣及辩解人所表达的“菜刀杀了人，卖菜刀能否判刑”是明显的偷换概念，而快播案的素质是，假设卖菜刀的东家明知买菜刀的人要买那把菜刀往杀人，仍然还卖给他，那东家一定立功。
03
若何预防AI立功？
昔时的快播，仅仅是基于不算先辈的P2P手艺就实现了肆意生长，形成了如斯大的社会影响。而当ChatGPT、Midjourney、Stable Diffusion那些划时代的AI东西降生，假设不加以造衡，任其野蛮生长，那么操纵此类东西停止立功一定会愈加疯狂。
我们能否有一些手段可以制止工作进一步的恶化？
用“AI”匹敌“AI”
面临AI绘画中侵权的问题，芝加哥大学计算机科学学院的SAND Lab开发出一款名为Glaze的东西，Glaze通过“误导”AI的体例，使AI难以实正胜利地进修创做者做品中的风气，而风气是艺术工做者的手刺，此举旨在限造操纵AI停止艺术剽窃的行为。
面临AI语音诈骗问题，在全球顶级信息平安峰会CanSecWest 2021上，腾讯墨雀尝试室分享了该团队在应对VoIP电信诈骗方面的最新研究功效。他们提出利用AI手艺提取实在语音和虚假语音的特征，再根据特征差别来辨认实在语音和生成语音。
面临AI文本做弊问题，斯坦福大学研究团队在近日提出了一种名为DetectGPT的办法，他们发现，由大型语言模子生成的文本凡是在模子的对数概率函数的负曲率区域踌躇。通过那个发现，该团队开发了一种新的目标，用于揣度文本能否是机器生成的，而且不需要操练人工智能或搜集大型数据集来比力文本。
近日，一些学校已经起头摘用“AI检测”系统，一些操纵GPT停止论文写做的学生，被发现学校系统查重识别出来了“AI高风险”。
平台方本身勤奋
Adobe在近期发布的最重生成式AI东西Firefly中强调，给模子操练利用的全数图片都是没有版权问题的图片。
而OpenAI也表达会开发新的水印东西，能够区分ChatGPT生成的文本和“AI造造”的文本。ChatGPT之父Sam Altman在各个公共场所都表达过本身关于“AI平安”的担忧，并破费巨量财力人力投进到“使AI愈加平安”之上。
而像Midjourney等一系列AI东西也都加了审查系统，以避免人们操纵此类东西停止立功。（当然，破绽也良多）
笔者也征询了一下GPT的设法，它是如斯答复的：
04
跋文
2020岁尾，《赛博朋克2077》那款游戏问世，笔者第一时间停止了购置玩耍，被如斯传神的“赛博朋克”概念所震动。
在游戏里，跟着科学手艺发作式的开展，社会的次序逐步崩坏，人工智能、巨型企业、黑客、人类之间起头有着形形色色的矛盾，各类科技野蛮开展，人们贫富差距不竭扩展，每小我的身体上充溢着植进式的机械义体...
近几年来，跟着元宇宙、AIGC、AGI等概念逐渐从将来走向台前，一方面，笔者会慨叹科技朝上进步之快，另一方面，也会有着关于“赛博朋克”的隐约担忧。
然而当我将视角拉向宏看，蒸汽机、电力、计算机...的问世，哪一个不是惊天动地，哪一个的回途不是让人类过得更好？
同样，在形形色色的科幻片子与游戏之中，我们老是能碰着那些远超想象的仇敌，但在形形色色的仇敌与怪物的背后，最初只会是“人”往操控。与AI的匹敌，现实上到目前为行，仍是与“人”之间的比武。
拒特手艺是愚蠢的，崇敬手艺是自觉的，我们应当理性对待手艺，积极拥抱手艺，准确利用手艺。
回根结底，跟着科学手艺的开展，消费力的解放与社会的朝上进步关于全人类来说，毕竟是一大幸事。
做者：鹿人 排版：骆伟玲
图片源于Q仔互联网冲浪所得，如有侵权，后台联络，Q仔滑跪删除~