OpenAI采取措施防止深度伪造和其他虚假信息破坏美国大选

香克斯 • 2024年 1月 17日 am10:56 • 未分类 • 阅读 138

今日，2024年美国总统大选正式拉开帷幕，爱荷华州率先举行党团会议。在这个关键时刻，生成式人工智能公司OpenAI宣布了一系列措施，以防止其工具（如ChatGPT和DALL-E）被用于创建和传播”深度伪造”和其他虚假信息，这些信息可能会被用来破坏美国总统大选，甚至是今年全球各国密集举行的大选。

OpenAI在博文中表示，该公司将确保其工具被用于提供准确的投票信息、执行有节制的政策和提高透明度。为了应对潜在的滥用问题，OpenAI设立了一个专门负责选举工作的跨职能部门，该部门汇集了公司的安全系统、威胁情报、法律、工程和政策团队的专业知识。

OpenAI明确表示，其工具将不会被用于任何政治活动或游说目的。此外，该公司还禁止使用其工具和服务创建任何旨在模拟与真实候选人或政府团体聊天的聊天机器人。为了防止散布歪曲人们在选举中的投票方式或劝阻人们投票的信息，OpenAI将采取措施阻止这些滥用行为。同时，该公司还将允许人们向OpenAI报告可能的违规行为。

除了防止滥用其工具外，OpenAI还在开发相关工具以帮助识别人工智能通过DALL-E制作的深度伪造图像。目前，该公司正在开发一种名为”出处分类器”的新工具，该工具可以帮助发现人工智能制作的图像，即使图像经过了常见类型的修改。包括记者在内的一组测试人员将很快能够试用这一工具。

最近的一份报告称，微软的Copilot聊天机器人使用了OpenAI开发的技术，经常对有关2023年选举的一些问题提供错误的答案。11月，微软宣布计划提供一款新工具，帮助各政党证明其创建的图像（如广告和视频）是真实的，没有经过人工智能工具的修改。

总体而言，OpenAI采取的这些措施表明了该公司对于防止其工具有被用于破坏选举的决心。通过跨职能部门的设立和采取防止滥用的措施，OpenAI正在确保其工具有助于提供准确的信息和执行有节制的政策。同时，该公司还在开发新的工具以帮助识别人工智能制作的深度伪造图像。这些措施有望保护美国总统大选和全球其他密集举行的大选免受虚假信息的干扰和破坏。

对于爱荷华州率先举行的党团会议和即将到来的美国总统大选，这些措施的实施将受到密切关注。随着选举的进行，我们将继续关注OpenAI和其他相关公司的动态，以了解他们如何应对潜在的滥用问题和保护选举的公正性。

文章来源于互联网:科技讯-OpenAI采取措施防止深度伪造和其他虚假信息破坏美国大选