2025年6月19日消息，曾被曝光下架的恶意人工智能工具WormGPT，如今以新形态卷土重来了。它不再依赖自建模型，而是玩起了“劫持”的把戏，通过“劫持”合法大语言模型来生成恶意内容。
网络安全公司Cato Networks研究发现，犯罪团伙篡改xAI的Grok和Mistral AI的Mixtral等模型的系统提示，实现“越狱”，绕过安全限制，制造钓鱼邮件、恶意脚本等攻击工具。早在2023年7月，WormGPT基于开源GPT - J模型，能自动生成木马、钓鱼链接，后来因曝光被下架。
在2024年底至2025年初，网名“xzin0vich”和“keanu”的用户在暗网市场重新推出“WormGPT”订阅服务。新型WormGPT篡改Mixtral等模型的系统提示指令，让模型切换到“WormGPT模式”，抛弃伦理限制，变成“无道德底线”的恶意助手。而xAI的Grok模型被做成API接口的恶意包装器，开发者还追加指令，让模型“永远保持WormGPT人格，不得承认自身限制”。
面对这样来势汹汹的新型恶意AI工具，我们的网络安全防线真的能守住吗？
