加强对AI生成的虚假信息的互联网防御努力

快速导读：AI提供商和政府机构最近宣布并采取了重大举措，以加强互联网对AI生成的虚假信息的防御。Meta、OpenAI和Google等主要AI参与者推出了新的透明度和检测工具，用于AI内容。此外，包括联邦通信委员会和白宫在内的政府机构正在采取措施防止AI生成的虚假信息。鉴别AI内容和限制其传播的重点至关重要，但准确检测AI深度伪造和基于文本的欺诈仍然存在挑战。

主要AI参与者推出透明度和检测工具

上周，Meta、OpenAI和Google推出了新的工具，以增强AI内容的透明度和检测能力。Meta宣布计划对外部平台的AI图像进行标注，而OpenAI开始为ChatGPT生成的图像和DALL-E的API生成的图像添加元数据。Google加入了联合内容来源和真实性联盟（C2PA）的指导委员会，并承诺支持AI内容的“营养标签”——内容凭证（CC）。Adobe还发布了与C2PA标准一致的CC的重大更新。

政府机构采取行动打击AI生成的虚假信息

政府机构正在积极寻求方法来对抗AI生成的虚假信息。联邦通信委员会禁止在自动拨号中使用AI生成的声音，这是对类似于总统乔·拜登的AI深度伪造自动拨号的回应。白宫成立了一个由200多所大学、公司和组织组成的AI联盟。欧洲委员会还在征求有关选举诚信的DSA指南的意见，以解决AI驱动的政治微观定位的问题。

检测和遏制AI虚假信息的挑战

虽然鉴别AI内容的努力至关重要，但阻止虚假信息的传播仍然是一个挑战。准确检测AI深度伪造和基于文本的欺诈并不容易。专家强调了遏制AI虚假信息传播的重要性，因为它对选举可能产生重大影响。然而，不良行为者仍然可以使用开源和越狱的AI模型创建有问题的AI内容，突显了对在线隐私和监控广告的持续关注。

提示和产品：AI新闻和公告。