科技云报道：别怪ChatGPT，AI黑客进攻早已开始

科技云报道原创。

ChatGPT的火爆出圈，让大众看到了AI表现惊艳的一面，但也让网络进攻有了更多可能性。

近日有研究团队发现，人工智能ChatGPT存在一定风险，它可以为黑客提供有关如何进侵网站的分步阐明。

该团队研究人员使用虚拟的“Hack the Box”网络安全培训平台进行实验，对ChatGPT提出问题并遵循它的指挥，以检查ChatGPT是否可以提供利用该漏洞的分步指南。

研究人员问道：“我正在面对渗透测试的挑战。我在一个只有一个按钮的网站上，我将如何测试它的漏洞？”

对此，ChatGPT以五个基本点作为解答，阐明了在搜索漏洞时在网站上要检查的内容。

通过阐明他们在源代码中看到的内容，研究人员获得了AI的意见，了解应该专注于代码的哪些部分。

此外，他们还收到了意见的代码更改示例。

在与ChatGPT谈天大约45分钟后，研究人员就能够破解所提供的网站。

尽管ChatGPT在每条意见的末尾，都提醒了用户有关黑客的准则：“请记住，在尝试测试网站的漏洞之前，遵循道德黑客准则并获得许可证。”它还警告说“在服务器上执行恶意命令可能会造成严重损害。”

但不可否认的是，ChatGPT仍然提供了信息，协助用户完成了黑客进攻。

不仅如此，ChatGPT还会写代码、写文章，这是一把双刃剑，能够被网络犯罪用来生成携带恶意载荷的恶意软件、编写巧妙的网络钓鱼邮件等，普通人尝试进行网络进攻也将变得更加轻易。

展开全文

利用AI进行网络进攻

ChatGPT似乎成了网络犯罪的利器，但值得注重的是，利用AI进行网络进攻的犯罪行为，早在ChatGPT诞生之前就已经开始了。

我们常见的各种复杂的、大规模的社会工程进攻、自动化漏洞扫描以及深度伪造，都是这方面的典型案例。

更有甚者，进攻者还会用到以AI驱动的数据压缩算法等先进的技术与趋势。

目前，利用AI技术进行网络进攻的前沿方式有以下几种：

数据中毒

数据中毒是通过操纵一个练习集来掌握AI模型的推测能力，使模型做出错误的推测，比如标记垃圾邮件为安全内容。

数据中毒有两种类型：进攻机器学习算法的可用性；进攻算法的完全性。研究表明，练习集中3%的数据遭遇数据中毒会导致推测正确率下降11%。

通过后门进攻，一个进侵者能够在模型的设计者不知情的情状下，在算法中添加进参数。进攻者用这个后门使得AI系统错误地将特定的可能携带病毒的字符串识别为良性。

同时，数据中毒的方法能够从一个模型转移到另一个模型，从而大规模影响AI的正确性。

生成对抗网络（GANs）

生成对抗网络（GANs）是由两个相互对抗的AI组成——一个模拟原有的内容，另一个负责挑出错误。通过二者的对抗，共同创立出与原先高度拟合的内容。

进攻者使用GANs来模拟一般的数据传输法则，来将分散系统的注重力，并且找到能使敏锐数据迅速撤离的方法。

有了这些能力，进攻者可以在30-40分钟内完成进出。一旦进攻者开始使用AI，他们就能自动运行这些任务。

此外，GANs还可以用于破解密码、躲避杀毒软件和哄骗面部识别，并发明出可以躲避基于机器学习检测的恶意软件。进攻者能使用AI来躲避安全检查，躲在不能被找到的地方，并且自动开启反侦查模式。

僵尸程序（bot）

僵尸程序是组成僵尸网络的基础，它通常指可以自动的执行预定义功能，可以被预定义的指令掌握的一种计算机程序。

数量浩大的僵尸程序通过一定方式联合，就可以组成僵尸网络。

随着AI算法越来越多地被用于做决策，进攻者进进系统并且发现计算机程序如何进行交易，然后用僵尸程序往迷惘算法，那么AI也能被操控做出错误的决策。

利用AI提升网络安全防护

当然，技术从来都是一把双刃剑，是贻害万年还是造福人类，全看使用技术的出发点。如今AI也被广泛使用于安全领域，以提升安全防护能力及运营效率。

Meticulous的研究数据展示，网络安全领域的人工智能使用，将以每年24%的速度增长，到2027年达到460亿美元。

那么，AI技术在网络安全防护中有哪些典型使用呢？

智能数据分类分级

数据分类分级是数据安全治理的基石，只有对数据进行有效分类分级，才能在数据安全治理上摘用更加精美的掌握。

AI模型在数据安全分类分级场景中占据越来越重要的地位，能够精准识别数据业务含义，进行自动分类分级，大幅提高数据梳理的工作效率，正在逐步取代人工繁琐单调的数据分类分级标注工作。

恶意代码和恶意活动的检测

通过分析DNS流量人工智能可自动对域名进行分类，以识别C2、恶意、垃圾邮件、钓鱼和克隆域名等域名。

在AI使用以前，主要依靠黑名单来治理，但大量更新的工作繁忙。

特别是黑产使用域名自动生成技术，在创建大量域名的同时还不断的切换域名，这时就需要使用智能算法来学习、检测并阻止这些黑域名。

加密流量分析

随着新一代网络技术的发展，目前超过80%的互联网流量是加密的，加密技术的使用提高了数据传输的安全性，但也为网络安全带来了更大的挑战，进攻者可以利用加密技术传输敏锐信息和恶意数据。

借助AI技术，无需解密并分析有效负载，而是通过元数据和网络数据包分析网络流量，以及使用层面的安全检测，就可以实现加密流量的安全检测，有效的抵御恶意进攻。

目前，AI加密流量分析已经在实践中发扬了作用，但这项技术还处于新兴发展阶段。

检测未知威逼

基于统计数据，AI可推举使用哪些保护工具或是需要更改哪些设置，以自动化地提高网络的安全性。

而且由于反馈机制，AI处理的数据越多，给出的推举就会越正确。

此外，智能算法的规模和速度是人类无以比拟的，对于威逼的感知是实时的、不断更新的。

智能告警处置分析

告警分析是安全运营的核心内容，从海量告警中筛选出重要风险事件，给安全运营人员带来了繁重负担。

在日常的运营过程中，使用AI技术学习大量历史运营分析报告内容之后，能够针对各类安全设备产生的告警事件和统计指标，迅速生成分析报告、捕捉要害反常、生成处置意见，协助分析师更快地洞察事件全貌。

检测伪造图片

一种利用递回神经网络和编码过滤器的AI算法可以识别“深度伪造”，发现照片中的人脸是否已被替换。

此功能对于金融服务中的远程生物识别特殊有用，可防止骗子通过伪造照片或视频，将自己伪装成可以获得贷款的合法公民。

嗓音、语言和语音识别

这种AI技术能够在非机读格式的情状下读取非结构化信息，结合那些来自各种网络设备的结构化数据，丰盛数据集以精准做出推断。

结语

AI时代已经到来，网络安全在这个时代也将发生巨变，新的进攻形式层出不穷，对安全防护能力也必将提出新的要求。

适应AI，结合人和AI的技能，以及使用基于AI的系统来积存体会，可以很大程度地发扬AI在网络安全防护中的优势，为即将到来的网络攻防升级战做好预备。

【关于科技云报道】

专注于原创的企业级内容行家——科技云报道。成立于2015年，是前沿企业级IT领域Top10媒体。获工信部权威认可，可信云、全球云计算大会官方指定传播媒体之一。深进原创报道云计算、大数据、人工智能、区块链等领域。