Meta的AI标注：解决了一些AI问题，但并非全部

概要：Meta，全球最大的社交媒体公司，宣布计划在其平台上标注由AI生成的内容。尽管此举与拜登政府关于AI的行政命令相一致，但专家们认为，标注系统只能解决特定的AI问题。标签仅适用于已经添加水印或被识别为由AI生成的图像，这给了恶意用户和宣传者使用其他AI图像工具来规避内容监管的机会。此外，标注系统无法解决使用AI生成的图像来骚扰或羞辱个人的问题，就像“泰勒·斯威夫特问题”一样。尽管存在局限性，标注系统被视为应对AI虚假的一大步。

Meta标注系统的局限性

Meta的标注系统只对已经添加水印或被识别为由AI生成的图像有效。虽然像谷歌和微软这样的大公司已经实施了这些措施，但还有其他AI图像工具可以用来绕过主流平台的内容监管。这意味着恶意用户、恶作剧者和宣传者仍然可以利用AI生成的内容。Meta承认，水印并不是一个完整的解决方案，并正在研究技术，即使没有水印，也能识别出AI生成的图像和视频。然而，这些系统目前不可靠，可能会错误地将真实内容标记为虚假。

##“泰勒·斯威夫特问题”和骚扰

Meta的标注系统并未有效解决使用AI生成的图像来骚扰或羞辱个人的问题，例如伪造的泰勒·斯威夫特色情图像案件。这些AI伪造的目的不是欺骗观众，而是公开贬低对象。对于受到针对妇女和女孩的AI伪造的受害者来说，他们往往缺乏影响力来迫使平台删除这些内容。这个问题超出了技术修复的范畴，需要全面的内容管理策略。

Meta的AI标注的意义

尽管存在局限性，Meta的AI标注公告被视为朝着正确方向迈出的一步。标注使用主流工具生成的AI图像将增加生成AI伪造图像的阻力。在即将到来的选举背景下，虚假内容可能会产生重大后果，因此这一点尤为重要。然而，根本问题在于AI和社交媒体平台都是为了传播信息而设计的，而不考虑其真实性。最终，解决这个问题需要对这些系统进行根本性的重新设计。