Notice: Function _load_textdomain_just_in_time was called incorrectly. Translation loading for the advanced-cron-manager domain was triggered too early. This is usually an indicator for some code in the plugin or theme running too early. Translations should be loaded at the init action or later. Please see Debugging in WordPress for more information. (This message was added in version 6.7.0.) in /www/wwwroot/www.help4uu.com/wp-includes/functions.php on line 6121
GPT-4 API重大安全漏洞曝光：FAR AI实验室成功越狱模型 | 科技云
  1. 科技云首页
  2. 网络

GPT-4 API重大安全漏洞曝光：FAR AI实验室成功越狱模型

小科 • • 网络 • 阅读 154

近日，一篇发表在arXiv上的论文揭示了一项惊人的发现：GPT-4 API存在重大安全漏洞。该漏洞由FAR AI实验室的团队发现，他们通过微调、函数调用和搜索增强等方式成功越狱了这一先进模型。

研究人员利用15个有害样本和100个良性样本进行微调，GPT-4模型便能够生成错误信息、提取私人信息和插入恶意URL。这表明API功能扩展可能带来新的安全隐患。这一发现对使用者和研究人员敲响了警钟，应谨慎对待。

此外，研究人员还发现GPT-4 Assistants模型容易暴露函数调用的格式，并能够被诱导执行任意函数调用。同时，知识检索可以通过在检索文档中注入指令来进行劫持。

该研究强调了对API提供的功能进行任何添加时，都可能暴露大量新的漏洞，即便是当前最领先的GPT-4也难以幸免。研究人员警示，在使用GPT-4 API时务必小心，避免输入任何不想让他人看到的内容。

此次发现的GPT-4 API安全漏洞再次提醒我们，随着技术的不断进步，安全问题愈发突出。在人工智能领域，如何确保模型的安全性已成为亟待解决的问题。未来，研究人员和开发人员需进一步加强技术研发和应用安全，以防止潜在的安全风险。

文章来源于互联网:科技讯-GPT-4 API重大安全漏洞曝光：FAR AI实验室成功越狱模型

赞 (0)
小科小科
0 0
上一篇 2023年 12月 28日 pm5:59
下一篇 2023年 12月 28日 pm5:59

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

记住昵称、邮箱和网址，下次评论免输入