人工智能使网络犯罪对不成熟的罪犯来说更容易

一段时间以来，少数创造复杂恶意软件（如勒索软件）的网络犯罪天才的商业模式一直是在暗网上向技术不那么复杂的网络犯罪分子提供他们的恶意软件和服务，有时甚至提供传播系统，通常以收到的赎金的一定比例作为回报。然而，人工智能已经迅速改变了这种模式，因为即使是技术不那么复杂的犯罪分子也能利用人工智能实施各种诈骗。

人工智能工具可以从社交媒体和公开可用的来源收集大量数据，使网络犯罪分子能够创建专门针对性的钓鱼电子邮件，称为鱼叉式钓鱼电子邮件，这些邮件更容易被目标受害者信任，经常诱使他们提供可能导致身份盗窃的个人信息或以某种借口进行付款。

随时可用的深度伪造视频和语音克隆技术使网络犯罪分子能够实施各种诈骗，包括祖父诈骗或家庭紧急情况诈骗以及商业电子邮件诈骗，这些诈骗在过去主要依靠通过电子邮件进行的社会工程策略，诈骗者冒充公司高管，说服低级别员工在某种借口下按照诈骗者的指示授权付款。根据FBI的数据，这种诈骗主要始于2018年，在2023年10月至2023年12月期间全球造成的损失超过550亿美元。

现在随着人工智能的出现以及深度伪造技术和语音克隆技术的使用，诈骗者已经提高了赌注。2024年，工程公司Arup损失了2500万美元，这些钱被网络犯罪分子骗走，他们在深度伪造的视频通话中冒充公司的首席财务官，并说服一名公司员工转移了这笔钱。

但情况并不像你想象的那么糟糕。它们要糟糕得多。

开发Claude聊天机器人的Anthropic公司最近发布了一份报告，详细说明了其聊天机器人如何被用于开发和实施复杂的网络犯罪。该报告描述了网络犯罪分子使用人工智能的演变，不仅将人工智能作为开发恶意软件的工具，还将其作为网络攻击的主动操作者，他们称之为"氛围黑客"。报告举例说明了一个位于英国的网络犯罪分子，被描述为GTG-5004，他使用Claude通过扫描数千个VPN端点来寻找易受勒索软件攻击的公司，找出易受攻击的系统，确定如何最好地渗透公司网络，创建具有规避能力的恶意软件以窃取敏感数据，传播恶意软件，窃取数据并筛选数据，以确定哪些数据最适合用来勒索被黑客攻击的公司，甚至利用心理学来精心制作带有勒索要求的电子邮件。Claude还被用来窃取目标公司的财务记录，以确定在不公布被盗材料的情况下要求的Bitcoin数量。

在一个月内，GTG-5004使用Claude攻击了17个涉及政府、医疗保健、紧急服务和宗教机构的组织，提出了介于75,000美元和超过500,000美元之间的要求。

随后，GTG-5004开始在暗网上向其他网络犯罪分子出售按需勒索软件服务，提供不同级别的套餐，包括加密功能和帮助黑客避免被检测的方法。值得注意的是，报告指出，与过去技术复杂的犯罪分子在暗网上出售或租赁他们亲自创建的恶意软件不同，报告表明"这个操作者似乎没有能力在没有Claude帮助的情况下实施加密算法、反分析技术或Windows内部操作。"

结果是，现在一个单独的网络犯罪分子可以做以前需要一个由密码学、Windows内部和规避技术方面的专业团队才能完成的事情，即创建勒索软件并自动做出关于目标、利用和货币化的战略和战术决策，以及适应遇到的防御措施。所有这些都降低了寻求实施网络犯罪的犯罪分子的门槛。

报告还详细说明了其人工智能能力如何被朝鲜操作人员滥用，他们利用它在科技公司获得远程工作。根据报告，"传统的朝鲜IT工作者操作依赖于从朝鲜年轻时就招募和培训的高技能个人。我们的调查揭示了一个根本性的转变：人工智能已成为主要的使能者，允许技术技能有限的操作人员成功渗透并在西方技术公司维持职位。"

报告描述了使用人工智能，那些无法自己编写基本代码或用英语交流的朝鲜操作人员现在能够成功通过面试并在科技公司获得工作，每年赚取数亿美元，为朝鲜的武器计划提供资金。使情况更糟的是，通过人工智能，每个操作人员可以在美国科技公司维持多个工作职位，这在没有使用人工智能的情况下是不可能的。

Anthropic已经通过禁止与这些操作相关的账户并开发一个定制分类器来专门识别这类活动，并将检测措施纳入其已有的安全执行系统中，以应对他们识别的威胁。此外，Anthropic与其他公司以及安全和安全社区分享了其发现，以帮助他们识别和防御使用人工智能平台的犯罪分子构成的威胁。然而，人工智能用于网络犯罪的威胁依然巨大。

Anthropic的报告确实是对整个人工智能行业的一次警醒。