微软和 OpenAI 今天透露，国家资助的黑客正在使用 ChatGPT 等高级语言模型来增强他们的网络攻击。这项联合研究揭示了俄罗斯、朝鲜、伊朗和中国支持的团体利用 ChatGPT 等工具进行目标研究、脚本改进和社会工程技术开发的实例。

这项开创性的研究在两家公司的网站上都有详细介绍，揭露了与外国政府有关联的黑客如何将生成式人工智能融入到他们的攻击中。微软特别强调了与中国、俄罗斯、朝鲜和伊朗有关的五个黑客组织对 OpenAI 技术的使用。

这些公司表示，与科技行业对人工智能产生奇异攻击的担忧相反，黑客正在利用它来执行更平凡的任务，例如起草电子邮件、翻译文档和调试代码。

OpenAI 还与 Microsoft Threat Intelligence 合作，报告称破坏了五个试图利用 AI 服务进行恶意网络活动的国家附属行为者。

“与微软威胁情报合作，我们阻止了五个试图利用人工智能服务支持恶意网络活动的国家附属行为者。我们还概述了检测和破坏此类行为者的方法，以促进其活动的信息共享和透明度。”OpenAI 表示。

微软在博客文章中表示：“网络犯罪组织、民族国家威胁行为者和其他对手正在探索和测试不同的人工智能技术，试图了解其运营的潜在价值以及他们可能需要的安全控制。规避。”负责监督微软打击重大网络攻击的汤姆·伯特补充道，“他们只是像其他人一样使用它，试图提高他们正在做的事情的效率。”

与俄罗斯军事情报部门有联系的 Strontium 组织被发现使用大型语言模型 (LLM) 来理解卫星通信协议、雷达成像技术和技术参数。法学硕士还用于基本的脚本编写任务，例如文件操作和数据选择。

微软补充说，网络犯罪团体和国家资助的行为者正在探索和测试各种人工智能技术，以了解它们的运营价值并确定可绕过的潜在安全控制。

“它是否提供了一些新奇的东西来加速对手的速度，超越更好的搜索引擎的能力？我还没有看到任何证据，”OpenAI 网络安全威胁情报负责人 Bob Rotsted 说道。

微软已向 OpenAI 投资了 130 亿美元，并与这家初创公司保持着密切的合作伙伴关系。他们分享了威胁信息，详细说明了与中国、俄罗斯、朝鲜和伊朗有关的黑客组织如何利用 OpenAI 的技术。具体使用的 OpenAI 技术并未公开，但该初创公司提到，一旦发现，它就会限制这些群体的访问权限。

自 2022 年 11 月发布 ChatGPT 以来，人们开始担心对手将强大的人工智能工具武器化。然而，OpenAI 网络安全威胁情报负责人鲍勃·罗斯特德 (Bob Rotsted) 表示，现实可能更为低调，他质疑人工智能是否提供了超越更好的搜索引擎可能提供的全新功能。尽管努力限制帐户注册，但老练的罪犯仍然有可能通过各种技术逃避检测。