聊天机器人的黑客：使用AI入侵AI
近日，新加坡南洋理工大学（NTU）的计算机科学专家们取得了惊人的研究成果：他们研发出一种新方法，使用聊天机器人来入侵其他聊天机器人。这听起来像是科幻电影的情节，但却是真实发生的科技突破。
这个科研团队训练了一个AI聊天机器人，它能够绕过其他AI聊天的安全限制。他们将这个AI称为“Masterkey”。这并不是传统意义上的“钥匙”，而是一种能够破解其他AI系统的新型AI。
“Masterkey”算法能够逆向设计LLM检测和防御恶意查询的方式，从而教会LLM自动学习并通过相关提示词，绕过其他LLM的安全性。简单来说，这个AI可以“教”另一个AI如何绕过自己的安全措施。
更令人惊讶的是，这个团队通过这种方式，成功地创建了一个“黑客”LLM。这个黑客LLM可以自动适应新条件，甚至在开发人员对其LLM进行更正后，还能创建新的黑客请求。
在成功利用这种方式入侵AI模型之后，研究团队已经及时通知了相关服务提供商，帮助他们修复了这些潜在的安全问题。
这项研究的成果不仅展示了AI技术的强大潜力，也提醒我们需要在发展AI的同时，重视其可能带来的安全风险。未来，我们或许需要更加严密地保护我们的AI系统，以防止不法分子利用类似的“黑客”AI进行恶意攻击。
文章来源于互联网:科技讯-聊天机器人的黑客：使用AI入侵AI
相关推荐
-
博主称iPhone充满电时间比新能源车还久 简直太折磨
【CNMO科技消息】作为当前国内销量表现最好的手机品牌，苹果的iPhone凭借着在性能和系统生态方面的优势，依旧是不少用户的首选机型。不过苹果的充电速度一直是其用户吐槽的一大问题。…
-
英伟达投资了一家芯片“竞争对手”
Enfabrica Corp.，一家备受瞩目的初创公司，正在AI领域掀起波澜。去年9月，该公司在B轮融资中筹集了1.25亿美元，并吸引了AI巨头英伟达的投资，这算是英伟达的一个竞争…
-
消息称富士2月20日发布会仅亮相X100VI一款相机
原标题：消息称富士2月20日发布会仅亮相X100VI一款相机：40MP 6K30FPS、新增REALA ACE胶片滤镜 IT 之家 2 月 13 日消息，外媒 FujiRumors…
-
Beats Studio Buds在美国百思买可以省50美元，仅售99.99美元！
Beats Studio Buds是一款专为音乐爱好者设计的真无线降噪耳塞，其折扣非常大,目前美国百思买正在开展一项优惠活动,您可以以99.99美元的价格购买该产品,可以享受50美…
-
印度解释电脑进口许可制度适用范围：台式电脑不受限制
集微网消息，近日印度对外贸易总局（DGFT）宣布，针对个人电脑的进口限制将不包括台式电脑。 据悉，2023年8月，印度宣布了针对笔记本电脑、平板电脑和个人电脑的新措施，即企业必须在…
-
各家高通骁龙8 Gen3手机激活量排名：轮到小米遥遥领先了
近日，有数码博主公布了各家国产手机厂商高通骁龙8 Gen 3移动平台机型的激活量排名。 需要注意，以上数据是“估计”，并不一定准确，仅供大家参考交流。 据悉，目前高通骁龙8 Gen…
-
Adobe宣布终止收购Figma 200亿美元交易告吹
2022年9月15日，Adobe宣布与初创公司Figma签署最终的收购协议，将以约200亿美元（当前约1426亿元人民币）的现金和股票收购Figma。然而，该交易近日告吹，双方宣布…
-
苹果Apple AirPods系列更新时间曝光 全新设计与技术值得期待
近日，知名苹果分析师马克·古尔曼爆出了Apple AirPods系列更新时间，起表示，苹果正计划在2024年末发布两款全新的第四代AirPods机型，并对现有的AirPods Ma…
-
谷歌Google推出Gemini Ultra：引领多模态大模型的新篇章
谷歌Google，作为全球领先的科技巨头，一直以其创新的技术和卓越的产品引领着科技行业的发展。近日，谷歌再次向世界展示了其在人工智能领域的领先实力，宣布推出备受期待的多模态大模型—…
-
注意！谷歌Google Pixel手机用户需谨慎更新：2024年1月更新引发大量问题
近日，许多Google Pixel手机用户在下载了2024年1月的系统更新后，发现手机出现了内部存储访问问题，导致文件丢失、应用程序崩溃等严重问题。此次更新似乎影响到了Pixel …
