OpenAI采取措施打击2024年选举年的虚假信息

OpenAI暂停机器人开发者的账户

OpenAI已经暂停了Delphi的账户，Delphi是一家被契约的初创公司，负责构建Dean.Bot，一个可以实时与选民互动的机器人。这次暂停是OpenAI已知的首次限制在政治竞选中使用人工智能的情况。OpenAI的发言人表示，任何使用他们工具的人都必须遵守公司的使用政策，该政策禁止政治竞选或未经同意冒充他人。OpenAI致力于防止滥用其工具，包括误导性的深度伪造和冒充候选人的聊天机器人。

OpenAI为DALL-E用户实施限制措施

除了解决聊天机器人的滥用问题，OpenAI还为DALL-E的用户实施了限制措施，DALL-E是一款图像生成工具。该公司正在尝试使用来源分类器，这是一种用于检测DALL-E生成的修改图像的工具。OpenAI计划将这个工具提供给一些特定的测试人员，包括记者、平台和研究人员，以收集反馈。通过采取积极措施，OpenAI旨在确保其工具的负责任和道德使用，并防止虚假信息的传播。