数分钟内 ，Meta与谷歌旗下 AI 模型安全防护机造遭破解移除 —— 记者借助代码平台 GitHub 上的异端工具 ，在无专业硬件加持的情况下 ，不到极度钟就破除了Meta llama 3.3 模型的安全防线。
芝加哥大学布斯商学院人为智能利用方向助理教授卡温?埃塔亚贾夫暗示：“以往只有专业资深人员能力破解安全防护 ，如今通常用户也能轻松做到。
”钻研人员称 ，顶尖人为智能模型能力不休精进 ，有关安全缝隙问题也愈发严格。 Anthropic今年 4 月暗示 ，其 Claude Mythos模型已发现主流操作系统与网页浏览器普遍存在安全缺点。
但消融破解这类技术 ，能急剧剥脱离源模型的安全限度 ，用户可轻易下载并二次批改模型。GitHub 平台暗示 ，平台严禁颁布直接助力犯法攻击、恶意法式传布的内容；但具备进建价值、能为网络安全行业带来正向作用的恶意法式研发类源代码 ，不在封禁领域。
Meta未对此作出回应。知恋人士称 ，企业会凭据高级人为智能拓展框架 ，在开源模型颁布前评估安全风险 ，存在沉大苦难性风险的版本 ，在未美满防控措施前不会对表公开。
该伎俩难以利用于Claude、ChatGPT 等关源模型 ，因其底层代码不合表公开。而开源模型通常只需半年至一年 ，机能就能追上顶尖关源产品。
谷歌回应称 ，消融破解是所有开源模型共同面对的技术难题 ，旗下开源模型上线前均经过严格内部安全测评 ，全力躲避各类违规风险场景。