Notice: Function _load_textdomain_just_in_time was called incorrectly. Translation loading for the advanced-cron-manager domain was triggered too early. This is usually an indicator for some code in the plugin or theme running too early. Translations should be loaded at the init action or later. Please see Debugging in WordPress for more information. (This message was added in version 6.7.0.) in /www/wwwroot/www.help4uu.com/wp-includes/functions.php on line 6121
超人工智能的到来：OpenAI如何构建控制工具 | 科技云
  1. 科技云首页
  2. 新闻

超人工智能的到来：OpenAI如何构建控制工具

小科 • • 新闻 • 阅读 108

近日，OpenAI的“超级对齐”团队在NeurIPS，一年一度的机器学习会议上，展示了他们最新的研究成果。这支团队由Collin Burns、Pavel Izmailov和Leopold Aschenbrenner领衔，专注于如何控制比人类更聪明的AI系统​​。

超人工智能的到来：OpenAI如何构建控制工具

OpenAI于今年七月成立了这个团队，目的是为“超级智能”AI系统——即智能远超人类的理论系统——制定引导、监管和治理的方法。团队成员Burns表示，目前他们能够对齐的模型多数智能水平不及或与人类相当，而如何对齐超越人类智能的模型还没有明确的方法​​。

然而，对于OpenAI的技术是否会在不久的将来或将来任何时候获得可能毁灭世界、超越人类智能的能力，一些专家持怀疑态度。他们认为，关于即将到来的超级智能的说法，可能只是为了转移人们对当前AI监管问题的注意，如算法偏见和AI的倾向性​​。

该团队目前正在尝试构建适用于未来强大AI系统的治理和控制框架。这不是一个简单的任务，因为“超级智能”的定义以及特定AI系统是否已经达到这一水平，仍然是热烈讨论的话题。目前，团队采用的方法是使用一个较弱、较不复杂的AI模型（例如GPT-2）来引导一个更先进、更复杂的模型（例如GPT-4）朝着期望的方向发展，同时避免不希望的方向​​。

为了推动这方面的技术研究，OpenAI启动了一个价值1000万美元的赠款项目，支持超级智能对齐的技术研究。这些赠款将为学术实验室、非营利组织、个人研究者和研究生保留。OpenAI还计划在2025年初举办一个有关超级对齐的学术会议，届时将分享和推广超级对齐奖项的决赛选手的工作​​。

通过这篇文章，我们可以看到，OpenAI正在积极探索如何应对和控制超级智能AI的挑战，同时也在通过赠款项目和会议来促进这一领域的研究。这显示了他们对未来AI技术发展方向的前瞻性思考和对潜在风险的重视。

文章来源于互联网:科技讯-超人工智能的到来：OpenAI如何构建控制工具

赞 (0)
小科小科
0 0
上一篇 2023年 12月 28日 pm5:24
下一篇 2023年 12月 28日 pm5:24

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

记住昵称、邮箱和网址，下次评论免输入