Meta扩大努力以识别人工智能生成的图像

应对人工智能生成内容的挑战

Meta的举动是对2016年总统选举后该平台上充斥着与选举有关的虚假信息的危机的回应。该公司旨在展示对2024年选举中恶意行为者使用更先进的人工智能技术的准备。虽然一些人工智能生成的内容可以很容易地被检测出来，但识别人工智能生成的文本和图像却更具挑战性。声称能够识别人工智能生成文本的服务显示出对非英语为母语的人的偏见，而图像和视频中的人工智能生成迹象并不总是显而易见的。Meta打算与其他人工智能公司合作，通过在图像中使用隐形水印和特定元数据来减少不确定性。然而，该公司也承认需要解决去除水印的问题。

监控人工智能生成的音频和视频的挑战

监控人工智能生成的音频和视频面临更大的挑战，因为目前还没有行业标准来添加隐形标识符。Meta计划添加一个功能，允许用户在上传人工智能生成的音频或视频时自愿披露此事。未披露此类内容可能会导致公司处以处罚。此外，如果数字创建或修改的内容被认为对公众进行实质性欺骗的风险很高，Meta可能会对其应用更显眼的标签。该公司正在积极开发分类器，以自动检测人工智能生成的内容，即使没有隐形标记，同时还在探索使去除或修改隐形水印更加困难的方法。