生成AI蠕虫：一种新的网络安全威胁

快速导读：研究人员开发了生成AI蠕虫，可以从一个系统传播到另一个系统，可能窃取数据或部署恶意软件。这种名为Morris II的蠕虫针对生成AI电子邮件助手，以窃取数据和发送垃圾邮件。尽管这些蠕虫尚未在野外观察到，但专家警告它们对初创公司、开发者和科技公司构成重大安全风险。

生成AI系统的脆弱性

生成AI系统，如OpenAI的ChatGPT和Google的Gemini，越来越多地被用于各种任务。然而，随着这些系统获得更多的自由，它们也变得更容易受到攻击。越狱和提示注入攻击可以利用这些系统的漏洞，导致生成有害内容或聊天机器人的秘密指令。

生成AI蠕虫的开发

在他们的研究中，一组研究人员创建了一个名为Morris II的生成AI蠕虫。这种蠕虫针对生成AI电子邮件助手，如ChatGPT和Gemini，以窃取数据和发送垃圾邮件。研究人员利用自我复制的提示演示了蠕虫如何利用系统。他们还发现，在图像文件中嵌入一个自我复制的提示可以是另一种有效的攻击方法。

影响和关切

尽管生成AI蠕虫尚未在现实场景中观察到，但专家强调需要关注。随着大型语言模型变得多模态且能够生成图像和视频，这些蠕虫造成损害的潜力也增加了。初创公司、开发者和科技公司应优先考虑网络安全措施，以减轻生成AI蠕虫带来的风险。