黑客正在出卖一项绕过 ChatGPT 对歹意软件限造的办事

据称，ChatGPT 对创建不法内容的限造很随便绕过。

研究人员周三表达，黑客已经设想出一种绕过 ChatGPT 限造的办法，并操纵它来销售容许人们创建歹意软件和垂钓电子邮件的办事。

比来大热的 ChatGPT 是一种利用人工智能答复问题，并以模仿人类输出的体例施行使命的聊天机器人。人们能够用它来创建文档，编写根本的计算机代码，以及做其他工作。原则上，该办事会主动阻遏产生潜在不法内容的恳求。假设要求该办事编写从被黑客进侵的设备中窃取数据的代码，或者编写垂钓邮件，该办事将会回绝，并回复那些内容是“不法、不道德和有害的”。

翻开潘多拉的盒子

据平安公司 Check Point Research 的研究人员报导，黑客们已经找到了一种绕过那些限造的简双方法，并操纵它在地下立功论坛上出卖不法办事。该手艺通过利用 ChatGPT 利用法式编程接口，而不是基于WEB的接口来工做。因为，ChatGPT 为开发人员供给了API，以便他们能够将AI机器人集成到他们的利用法式中。但事实证明，API版本并没有对歹意内容施行限造。

研究人员表达：“当前版本的 OpenAI API 被外部利用法式利用（例如，OpenAI的GPT-3模子与Telegram频道的集成），而且几乎没有任何反滥用办法。因而，它容许歹意内容的创建，如垂钓邮件和歹意软件代码，而没有 ChatGPT 在用户界面上设置的限造或障碍。”

例如，一个论坛的用户如今正在销售一项连系了API和Telegram立即动静利用法式的办事。前20个查询是免费的。之后，用户每100次查询收费5.5美圆。

Check Point 的研究人员对旁路停止了测试，以领会其工做情状。成果是：一封垂钓电子邮件和一个脚本，该脚本会从受传染的计算机上窃取PDF文档，并通过FTP将它们发送给进攻者。

与此同时，其他论坛参与者正在免费发布生成歹意内容的代码。一位用户写道：“那是一个bash脚本，能够搀扶帮助你绕过 ChatGPT 的限造，用它来做任何你想做的工作，包罗歹意软件开发。”

上个月，Check Point 的研究人员笔录了 ChatGPT 若何被用来编写歹意软件和垂钓信息。

Check Point 研究员谢尔盖·希凯维奇（Sergey Shykevich）在一封电子邮件中写道：“在12月至1月期间，利用 ChatGPT web 用户界面生成歹意软件和垂钓邮件仍然很随便（大大都情状下只需根本的迭代就足够了），根据收集功犯的聊天笔录，我们假设我们展现的大大都示例都是利用web UI创建的。比来，ChatGPT的反滥用机造似乎有了显著改进，所以如今收集立功分子转向了限造少得多的API。”

为此，媒体询问了 ChatGPT 的开发公司能否晓得那项研究成果，或者能否方案修改API接口。开发 ChatGPT 的 OpenAI 是一家总部位于旧金山的公司，目前，该公司的代表并没有对此问题停止回复。

事实上，歹意软件和垂钓邮件的产生，只是 ChatGPT 翻开潘多拉魔盒的一种体例，它能够用有害的内容轰炸世界。其他不平安或不道德利用的例子是进犯隐私和产生错误信息或学校功课。当然，同样产生有害的、不道德的或不法内容的才能，也能够被防备者用来开发检测和阻遏那些内容的办法，但尚不清晰良性利用能否可以跟上歹意利用的程序。

假设伴侣们喜好，敬请存眷“知新了了”！