AMO全媒体运营
首页 新闻资讯 只有AI才能打败AI!谷歌团队用ChatGPT-4 击败AI审核系统

只有AI才能打败AI!谷歌团队用ChatGPT-4 击败AI审核系统

Google科学家近日进行了一项实验研究,他们运用OpenAI的GPT-4聊天机器人来攻破其他机器学习模型的安全防护措施。 该团队目前已经成功攻破了名为AI-Guardian的审核…

Google科学家近日进行了一项实验研究,他们运用OpenAI的GPT-4聊天机器人来攻破其他机器学习模型的安全防护措施。

该团队目前已经成功攻破了名为AI-Guardian的审核系统,并将其中的相关技术细节发表在一篇题为”AI-Guardian的LLM辅助开发”的论文中。

AI-Guardian是一种旨在检测可能被篡改的图像以欺骗分类器的系统,它的目标是防御对模型的攻击。然而,研究人员通过GPT-4的协助成功地逃避了AI-Guardian的检测机制。

根据论文的披露,GPT-4生成了一系列用于调整图像的脚本和解释,使得分类器被欺骗,例如,让分类器认为一张人拿着枪的照片实际上是人拿着无害苹果的照片。这些欺骗性的脚本和解释并没有引起AI-Guardian的怀疑,从而成功通过了其防御。

在GPT-4的帮助下,攻击者能够将AI-Guardian的稳健性从98%降低到仅有8%。这个结果表明,GPT-4的强大能力使得攻击者可以相对轻松地攻破现有的AI防御系统。

AI-Guardian的开发者对这种攻击做出了回应,他们指出这种攻击方法可能在改进的版本中会失效。这表明AI安全性的问题不断演变,未来可能需要更加强大和复杂的防御机制来应对不断进化的攻击技术。

生成海报
免责声明:文章内容不代表本站立场,本站不对其内容的真实性、完整性、准确性给予任何担保、暗示和承诺,仅供读者参考,文章版权归原作者所有。如本文内容影响到您的合法权益(内容、图片等),请及时联系本站,我们会及时删除处理。
域名

为您推荐

12家创业公司+4家大厂全景图:谁会成为中国版Sora?

12家创业公司+4家大厂全景图:谁会成为中国版Sora?

一年前,ChatGPT 的爆火很快在大语言模型领域催生了“百模大战”。一年后,Sora 横空出世再次惊艳世人,这一次是否...

天翼云助力企业制胜AIGC时代

近日,中国云产业联盟暨中关村云计算产业联盟(以下简称“云联盟”)主办的“首届AIGC全网小程序应用创新大会暨云联盟•移动...

第十二届中国创新创业大赛AIGC医疗健康专业赛举办

近日,第十二届中国创新创业大赛AIGC医疗健康专业赛在杭州成功举办。中国创新创业大赛是国内极具权威性和影响力的国家级赛事...

AI生成未来,联想拯救者携手开发者开启AI落地新纪元

2024年1月17日,在联想拯救者及消费生态新品发布会上,AIGC开放社区携手联想拯救者,宣布将共同举办“AI生成未来·...

Soul出席声网RTE 2023大会,分享AIGC创新成果

第九届实时互联网大会在北京隆重开幕。本届大会以“智能·高清”为主题,吸引了众多行业代表企业、知名投资人、技术专家、开发者...

发表回复

返回顶部