Notice: Function _load_textdomain_just_in_time was called incorrectly. Translation loading for the advanced-cron-manager domain was triggered too early. This is usually an indicator for some code in the plugin or theme running too early. Translations should be loaded at the init action or later. Please see Debugging in WordPress for more information. (This message was added in version 6.7.0.) in /www/wwwroot/www.help4uu.com/wp-includes/functions.php on line 6121

Notice: Undefined offset: 0 in /www/wwwroot/www.help4uu.com/wp-content/themes/JuseNews/themer/functions/sidebar.php on line 75

Notice: Trying to get property 'cat_ID' of non-object in /www/wwwroot/www.help4uu.com/wp-content/themes/JuseNews/themer/functions/sidebar.php on line 75
OpenAI邀请各领域专家加入“红队网络” 以提高其AI模型安全性 | 科技云
  1. 科技云首页

OpenAI邀请各领域专家加入“红队网络” 以提高其AI模型安全性

小科 • • 未分类 • 阅读 154

近日，据外媒报道，美国人工智能研究公司OpenAI宣布推出“红队网络”（Red Teaming Network），并邀请各领域专家加入其“红队网络”，以提高其人工智能（AI）模型的安全性。

OpenAI的这一举措旨在深化和扩大其与外部专家的合作，以确保其人工智能模型的可靠性和安全性。签约的专家将通过协助评估和减轻模型风险，在增强OpenAI人工智能系统的稳健性方面发挥关键作用。

尽管OpenAI之前通过漏洞赏金计划和研究人员访问计划与外部专家合作，但新推出的“红队网络”将这些努力正式化。

OpenAI表示，“红队网络”是一个由经验丰富且值得信赖的专家组成的社区，可以帮助公司更广泛地进行风险评估，而不是在主要模型部署之前进行一次性参与和选择过程。

据报道，“红队”在识别人工智能系统中的偏见和评估安全过滤器方面发挥着至关重要的作用，已经成为人工智能模型开发过程中的关键一步，尤其是在生成式技术得到更广泛采用的情况下。

OpenAI向不同领域的专家发出邀请，包括具有语言学、生物识别、金融和医疗保健背景的专家。该公司强调了各种专业知识对人工智能评估的重要性，包括但不限于认知科学、法律、网络安全、经济学和医疗保健等领域。

文章来源于互联网:科技讯-OpenAI邀请各领域专家加入“红队网络” 以提高其AI模型安全性

赞 (0)
小科小科
0 0
上一篇 2023年 12月 28日 pm6:30
下一篇 2023年 12月 28日 pm6:30

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

记住昵称、邮箱和网址，下次评论免输入