Notice: Function _load_textdomain_just_in_time was called incorrectly. Translation loading for the advanced-cron-manager domain was triggered too early. This is usually an indicator for some code in the plugin or theme running too early. Translations should be loaded at the init action or later. Please see Debugging in WordPress for more information. (This message was added in version 6.7.0.) in /www/wwwroot/www.help4uu.com/wp-includes/functions.php on line 6121

Notice: Undefined offset: 0 in /www/wwwroot/www.help4uu.com/wp-content/themes/JuseNews/themer/functions/sidebar.php on line 75

Notice: Trying to get property 'cat_ID' of non-object in /www/wwwroot/www.help4uu.com/wp-content/themes/JuseNews/themer/functions/sidebar.php on line 75
消息称OpenAI成立“防备”预警团队 监控旗下技术潜在威胁 | 科技云
  1. 科技云首页

消息称OpenAI成立“防备”预警团队 监控旗下技术潜在威胁

小科 • • 未分类 • 阅读 164

日前，OpenAI公司宣布成立新的“防备”团队，旨在监控旗下技术可能带来的潜在威胁，防止其落入坏人之手，甚至被用于制造化学和生物武器。

该团队由麻省理工学院人工智能教授亚历山大・马德里领导，将招募人工智能研究人员、计算机科学家、国家安全专家和政策专家等，对OpenAI开发的技术进行持续监测和测试。一旦发现任何危险苗头，及时向公司发出警告。

OpenAI还发布了名为“防备框架”的指导方针，强调只推出评级为“低”和“中”的模型。防备团队将反复评估OpenAI最先进、尚未发布的AI模型，根据不同类型的感知风险评为四个等级，从低到高依次是“低”、“中”、“高”和“严重”。

OpenAI的“防备”团队介于两个现有团队之间：负责消除AI系统中种族偏见等现有问题的“安全系统”团队，以及研究如何确保AI在超越人类智能的未来场景中不会伤害人类的“超级对齐”团队。

OpenAI首席执行官萨姆・阿尔特曼表示，公司将继续推进技术发展，造福社会并从中获益。马德里表示，他既不同意那些担心AI已经超越人类智能的“末日论者”，也不同意那些希望移除所有AI发展障碍的“加速主义者”。

此次成立的“防备”团队将进一步保障OpenAI技术的安全性和稳定性，为AI技术的发展提供有力支持。

文章来源于互联网:科技讯-消息称OpenAI成立“防备”预警团队 监控旗下技术潜在威胁

赞 (0)
小科小科
0 0
上一篇 2023年 12月 28日 pm6:00
下一篇 2023年 12月 28日 pm6:00

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

记住昵称、邮箱和网址，下次评论免输入