作者：Eric Johansson，dlnews 编译：善欧巴，金色财经

(相关资料图)

自从OpenAI推出ChatGPT并颠覆创业生态系统以来的几个月里，该技术已被贴上对新闻业、编剧和国家安全的威胁。因此，欺诈者和网络犯罪分子利用大型语言模型从受害者那里盗取加密货币也就不足为奇了。尽管如此，当一个使用Tandem（一种语言共享应用程序，兼作约会平台）的人进行在线对话时，他还是遇到了这种情况。另一位健谈者很快说服他将聊天转移到WhatsApp。

无论预期的最终结果是什么，这个骗局都被一个冗长的文本搞砸了，该文本揭示了“作为‘我’的语言模型，我没有像人类那样的感觉或情感”，基本上是使用了高级聊天机器人，即使不是ChatGPT，也与它有着惊人的相似之处。这名潜在受害者感到震惊，联系了网络安全公司Sophos，该公司证实对犯罪分子利用新技术的担忧已经成为现实。

Sophos首席威胁研究员肖恩·加拉格尔（Sean Gallagher）在一份强调此案的报告中表示：“我们现在可以说，至少在杀猪盘诈骗案中，这种情况确实正在发生。”

杀猪盘是一种骗局，诈骗者试图诱骗受害者在一段时间内投资加密货币平台，承诺在兑现之前获得高额收益，从而鼓励受害者投入资金，最终导致他们遭受损失并感到羞耻。FBI估计，截至2022年，这类加密货币诈骗已经给受害者造成了超过25亿美元的损失。

然而，使用ChatGPT和类似工具将使犯罪分子“以比我们过去所见更糟糕的方式扩大规模”，加州检察官艾琳·韦斯特（Erin West）表示。她因成功追回数百万被盗加密货币而著名。这项技术将使犯罪分子能够更好地定制与受害者的对话，克服语言障碍，接触更多人并造成更大的破坏。她补充说：“ChatGPT的加入使得这种情况变得更加危险。”这一严肃警告是在有关网络犯罪分子利用类似工具快速编写恶意软件的报告之后发出的。

不是会不会发生的问题，而是何时会发生的问题

安全公司和执法部门对这一局势的发展感到不安，但我们与之交谈的人都并不感到意外。“这不是是否会发生的问题，而是何时会发生的问题，”网络安全公司SonicWall战略合作伙伴支持和集成副总裁Bobby Cornwell告诉DL News。

自从去年11月OpenAI推出ChatGPT以来，这些故事一直在酝酿。这些先进的聊天机器人经过大量数据的训练。它们利用包括书籍、代码、网站和文章在内的大型数据集，能够编写复杂的代码，甚至可以根据用户的提示进行对话。这对OpenAI来说是一个突破。截至一月份，其月活跃用户数已经达到了约1亿，成为历史上增长最快的应用程序之一。人们已经开始将它用于编写在线约会资料、恐怖故事，甚至生成视频脚本和调试代码等各种用途。包括谷歌和Meta在内的科技巨头们也在加快开发自己的对话式人工智能工具，如Bard和LLaMA。

今年7月，特斯拉首席执行官埃隆·马斯克（Elon Musk）成立了一家名为x.AI的新公司，旨在创建一个比OpenAI版本更少“唤醒”的ChatGPT版本。根据Crunchbase的数据，在2023年上半年，人工智能公司从投资者那里筹集了超过250亿美元。

ChatGPT的阴暗面

OpenAI 首席执行官萨姆·奥尔特曼（Sam Altman）并没有庆祝胜利，而是进行了一次世界巡演，警告不受限制的人工智能所带来的危险。他曾在美国国会作证，并告诉记者，他担心 OpenAI放出了众所周知的人工智能精灵，“做了一些非常糟糕的事情”，因此他失眠了。他的言论是出于真正的恐惧还是精心策划的公关策略的一部分仍然不确定。

无论奥尔特曼言论背后的动机是什么，数字暴徒已经使用ChatGPT或类似工具来支持他们的计划。网络犯罪分子甚至声称创建了自己的ChatGPT版本，不受OpenAI安装的安全措施的影响。据《连线》八月初报道，他们在暗网上宣传它们是增强网络钓鱼攻击和编写恶意软件的工具。网络犯罪分子和威胁行为者社区精通技术，积极主动，当他们看到如何发展其工具、技术和实践的优势和改进时，往往会成为新技术趋势的早期采用者。

因此，威胁行为者采用生成式人工智能也就不足为奇了，因为他们可以获得同样的生产力收益，并有可能提高他们隐藏、进行侦察、构建恶意代码、欺骗人员和安全软件等的能力。这些发展使得网络安全专家和执法机构争先恐后地应对威胁。

康威尔表示，网络安全公司必须“在我们的系统中创造更多的智能，以寻找人工智能生成的内容”，并补充说，制定此类对策需要时间。，尽管她和其他执法部门可以对这些威胁发出警告，但杀猪盘背后的犯罪集团即使在利用人工智能之前也很难被铲除。

根据全球反诈骗组织称，许多犯罪网络都是在柬埔寨、老挝和缅甸等地运营。他们的犯罪行为已经获利数十亿美元，使他们能够支付当地执法部门的费用并避免国际制裁。与这样庞大、如此富有的犯罪集团作斗争非常困难。

OpenAI并未回应我们的置评请求。