人工智能网络钓鱼攻击即将成为现实
发布时间：2022-06-27 16:24:57 所属栏目：安全 来源：互联网
导读：近日，来自新加坡的研究人员开展了一项实验，他们成功利用人工智能和相关API来制作令人信服的鱼叉式网络钓鱼电子邮件，而无需人工干预，该实验可验证攻击者未来可能采取的攻击策略。 GTA的网络安全副专家Eugene Lin在上周的Black Hat会议上表示：对于参与这
|
近日，来自新加坡的研究人员开展了一项实验，他们成功利用人工智能和相关API来制作令人信服的鱼叉式网络钓鱼电子邮件，而无需人工干预，该实验可验证攻击者未来可能采取的攻击策略。 GTA的网络安全副专家Eugene Lin在上周的Black Hat会议上表示：“对于参与这项研究的志愿者的测试显示，人工智能管道在三分之二的测试中显着优于手动工作流程。当我们添加个性化设置时，人工智能管道表现得更好，在第一次的个性化设置测试中达到了高达60%的点击率。” 然而，目前的人工智能管道并不完美，仍然需要一些人工编辑。尽管如此，在人工智能管道生成的鱼叉式网络钓鱼电子邮件中校订这些问题，比网络犯罪分子纯手工制作要省事得多。 众所周知，鱼叉式网络钓鱼面临问题在于，创建可信度极高的网络钓鱼电子邮件需要大量时间和创造力。研究人员还试图使用GPT-3解决这个问题： 研究人员将OpenAI的GPT-3平台与其他专注于个性分析的人工智能即服务产品结合使用，以生成适合潜在受害者工作背景和特征的网络钓鱼电子邮件。专注于人格分析的机器学习旨在根据行为输入预测一个人的倾向和心态。通过多个服务运行输出，研究人员能够开发一个管道，在发送之前整理和完善电子邮件。研究人员表示，上述结果听起来“非常人性化”，并且这些平台自动提供了令人惊讶的细节，例如在指示为居住在新加坡的人生成内容时提到了新加坡法律。 虽然测试者对合成信息的质量以及对信息的点击次数，与人工合成信息的点击次数的对比结果令人印象深刻，但研究人员指出，该实验只是第一步。样本量相对较小，目标库在就业和地理区域方面相当同质。此外，人工生成的消息和AI即服务管道生成的消息都是由办公室内部人员创建的，而不是外部攻击者。 一位安全业界专家指出，这种方法投入实际应用只是时间问题。攻击者如果将其与语音和视频合成(深度伪造)相结合，将会产生非常可怕的场景和后果。真正的风险不在于人工智能生成的网络钓鱼电子邮件与人工生成的一样好，而是这种生成规模会更加庞大。 GTA的网络安全副专家Timothy Lee 表示，提供人工智能即服务产品的公司必须作为第一道防线，制定使用条款和筛选指南，以阻止误用和滥用。此外，他建议解决方案供应商确保对其产品的使用情况进行审核和跟踪。与此同时，企业可能需要进一步加强反网络钓鱼培训，并将其作为企业安全意识规划的重要部分。 （编辑：应用网_丽江站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
浙公网安备 33038102330468号