Google安全副总裁 Heather Adkins周一宣布◈ღღღ,其大语言模型漏洞研究员 Big Sleep 在多种流行开源软件中发现并报告了 20 个漏洞尊龙凯时新版APP◈ღღღ。由公司人工智能部门 DeepMind 及其精英黑客团队 Project Zero 开发的 Big Sleep首次报告了漏洞◈ღღღ,这些漏洞主要存在于音频和视频库 FFmpeg 和图像编辑套件 ImageMagick 等开源软件中银色钻石26尊龙凯时新版APP◈ღღღ。
鉴于这些漏洞尚未修复尊龙凯时◈ღღღ!◈ღღღ,我们目前尚不清楚其影响或严重程度◈ღღღ,因为Google◈ღღღ,而这在等待漏洞修复时是常规做法◈ღღღ。但 Big Sleep 发现这些漏洞这一简单事实意义重大银色钻石26◈ღღღ,因为它表明这些工具开始取得实际成效◈ღღღ,即使此案中涉及人为因素◈ღღღ。
Google发言人金伯利·萨姆拉 (Kimberly Samra) 表示◈ღღღ:“为了确保报告的高质量和可操作性◈ღღღ,我们在报告之前会聘请一位人类专家参与◈ღღღ,但每个漏洞都是由人工智能代理发现并重现的◈ღღღ,无需人工干预◈ღღღ。”
Google工程副总裁 Royal Hansen在 X 上写道◈ღღღ,这一发现表明“自动化漏洞发现领域开辟了新领域”尊龙凯时新版APPAG尊发凯龙人生就博◈ღღღ。 基于 LLM 的工具能够查找和发现漏洞已经成为现实银色钻石26◈ღღღ。除了 Big Sleep◈ღღღ,还有RunSybil和 XBOW 等◈ღღღ。
XBOW 在漏洞赏金平台 HackerOne 的美国排行榜上名列前茅后◈ღღღ,引起了媒体的关注◈ღღღ。值得注意的是◈ღღღ,在大多数情况下尊龙凯时新版APP◈ღღღ,这些报告在流程的某个阶段都会有人工参与◈ღღღ,以验证人工智能漏洞猎人是否发现了合法的漏洞银色钻石26◈ღღღ,Big Sleep 就是这种情况◈ღღღ。
RunSybil 是一家开发人工智能漏洞猎手的初创公司◈ღღღ,其联合创始人兼首席技术官 Vlad Ionescu 介绍说◈ღღღ,Big Sleep 是一个“合法”的项目银色钻石26◈ღღღ,因为它“设计精良◈ღღღ,背后的人知道自己在做什么尊龙凯时新版APP人生就是博·(中国)z6mg◈ღღღ,◈ღღღ,Project Zero 拥有漏洞查找经验银色钻石26◈ღღღ,而 DeepMind 拥有强大的资源来支持它”银色钻石26◈ღღღ。
这些工具显然前景光明◈ღღღ,但也存在一些明显的缺陷◈ღღღ。一些维护不同软件项目的人抱怨说◈ღღღ,他们的错误报告实际上是幻觉尊龙凯时新版APP◈ღღღ,有些人甚至称其为“漏洞赏金计划”版的人工智能垃圾◈ღღღ。