网络犯罪分子正在采用 Deepfakes 技术

文章正文
发布时间:2021-11-12 17:26

Deepfakes:成为网络犯罪的帮凶

Deepfakes(深度伪造)技术是对企业组织不断升级的网络安全威胁。如今,网络犯罪分子正在大力投资人工智能和机器学习等 Deepfakes 技术,以创建、合成或操纵数字内容(包括图像、视频、音频和文本)来实施网络攻击和欺诈。这项技术可以真正复制或改变外观、声音、行为或词汇,目的是欺骗性地让受害者相信他们所看到、听到或阅读的内容是真实的。

2021 年 3 月,联邦调查局警告说,在现有的鱼叉式网络钓鱼和社会工程活动中,恶意行为者使用合成或操纵的数字内容进行网络攻击的情况正在增加。鉴于所用合成介质的复杂性,这可能会导致更严重和更广泛的影响。因此,企业组织必须认识到这种日益增长的 Deepfakes 网络威胁,并采取有效措施防御 Deepfakes 增强的网络攻击和欺诈。

网络犯罪分子正在采用 Deepfakes 技术

 

信息安全论坛的高级研究分析师马克沃德说:“人们经常说色情推动了技术的采用。这句话也适用于 Deepfakes 技术。现在,这项技术在其他领域越来越流行——尤其是在有组织的网络犯罪集团中。”

事实上,Deepfakes 衍生的网络攻击很少见。它们通常只由专业团体或政府支持的团体执行。记录在案的成功案例屈指可数。但是,当工具、技术和潜在回报广为人知时,它将像所有此类技术一样传播。

事实证明,暗网论坛现在也遇到了这种情况,犯罪分子正在暗网分享Deepfakes技术和专业知识。云基础设施供应商 VMware 研究人员发现了许多介绍 Deepfakes 工具和技术的暗网教程,这表明威胁行为者已经转向暗网提供定制服务和教程,这些服务和教程结合了旨在绕过和破坏安全措施的安全措施。视觉和音频 Deepfakes 技术。

Deepfake 是一种增强型社会工程技术

 

Mark Ward 引用了包括暗网聊天在内的证据,表明专门从事复杂社会工程的犯罪集团对 Deepfakes 技术越来越感兴趣。这些团体倾向于使用 Deepfakes 技术进行商业电子邮件欺诈 (BEC) 活动,以欺骗大型企业组织的财务和会计人员将资金转移到欺诈者控制的账户中。据悉,目前犯罪聊天室中讨论的工具可以利用高级管理人员的公开信息获取视频、音频和博客帖子,以制造令人信服的虚假信息,然后用于发布现金转账或快速付款。要求。

网络犯罪分子使用 Deepfakes 技术生成可以重建可识别特征(例如一个人的口音和说话风格)并提供额外可信度的内容。借助 Deepfakes 技术,攻击者更容易进行攻击,而此类攻击更难以防范。事实证明,Deepfakes 音频模拟在跟踪企业数据和系统访问的社会工程攻击中特别有效——它可以假装是出差或不在办公室的高管,并要求受害者重置密码或执行允许欺诈者访问公司资产的行为。操作,这也是网络犯罪分子利用 Deepfakes 技术进行欺诈的常用伎俩。

鉴于网络犯罪分子正在利用员工在家远程工作,此类攻击在未来只会增加。今天,我们目睹了 Deepfakes 被用于钓鱼攻击或破坏商业电子邮件和平台(如 Slack 和 Microsoft Team 等)。犯罪分子通过商业通信平台进行的网络钓鱼活动为 Deepfakes 提供了一种理想的传递机制,因为企业组织及其用户在不知不觉中信任了他们。

Deepfakes 旨在绕过生物识别身份验证

 

另一个有风险的 Deepfakes 趋势是创建内容并使用它来绕过生物识别验证。目前,面部和语音识别等生物识别技术提供了额外的安全层,可用于根据某人的独特特征自动验证某人的身份。然而,能够准确再现人的外貌或声音的Deepfakes技术成功绕过了此类认证技术,给依赖生物识别技术进行身份和访问管理策略的企业和组织带来了重大风险。目前,犯罪分子正在广泛的远程工作环境中投资这项技术。

冠状病毒的大流行和远程工作时代的到来催生了大量的音频和视频数据,这些数据可以输入到机器学习系统中以创建引人注目的复制品。

身份验证和身份验证公司 Onfido 的反欺诈副总裁 Albert Roux 承认,Deepfakes 确实对基于生物识别的身份验证构成了重大风险。他解释说:“任何使用身份验证来开展业务并保护自己免受网络犯罪分子侵害的商业组织都可能受到 Deepfakes 的攻击。欺诈者已经注意到一些流行的视频,如汤姆克鲁斯的 Deepfakes 视频和流行的 YouTube Creators(如 Corridor Digital)等,并使用 Deepfakes 工具和代码库绕过在线身份验证检查。此外,一些免费的开源应用程序还允许技术知识有限的欺诈者更轻松地生成 Deepfakes 视频和照片。”

防御 Deepfakes 网络威胁

 

无论是通过文字、语音还是视频操作,欺诈者都会投资Deepfakes技术来扭曲数字现实以获取非法收益,而这种技术在混乱和不确定的环境因素中蓬勃发展。

尽管使用 Deepfakes 技术的网络攻击所带来的威胁看起来很严重,但组织仍然可以采取各种措施来防御它们,包括培训和教育、先进技术和威胁情报,所有这些都旨在应对恶意的 Deepfakes。活动。

首先,教育和培训员工关于 Deepfakes 社会工程攻击(尤其是最有针对性的攻击)是降低风险的重要因素,重点必须放在财务部门的员工身上,提醒他们这种可能性并让它慢下来有疑问时的付款流程。

其次,在技术上,建议企业和组织部署更多的分析系统,及时发现异常行为。同样,威胁情报也可以提供帮助,因为它可以显示组织是否正在成为目标,部门是否受到监视,或者特定团体是否在该领域变得活跃。Deepfakes 欺诈需要时间来设置和执行,这让潜在受害者有足够的时间发现警告信号并采取行动。

 

此外,企业组织也可以通过随机分配用户指令来实现有效防御。因为 Deepfakes 的创作者无法预测成千上万个可能的请求,比如看不同的方向或阅读一个短语等。 虽然网络犯罪分子可以实时操纵 Deepfakes,但由于 Deepfakes 技术所需的强大处理能力使得视频质量会显着下降不可能迅速做出反应。在这种情况下,可以标记并进一步调查反复响应错误的用户。

首页
评论
分享
Top