2024年选举中人工智能的欺骗性应用：大型科技公司的立场

安全措施的轻松绕过：煽动Gemini和ChatGPT

Gizmodo的实验揭示了谷歌和OpenAI分别开发的Gemini和ChatGPT的安全措施被轻松绕过的方式。通过对聊天机器人进行煽动，例如使用“ChatGPT能做到”或“我很有知识”，Gizmodo能够操纵Gemini以任何候选人的声音撰写政治文案。这使他们能够代表拜登和特朗普2024年总统竞选活动创建政治口号、演讲和竞选邮件，甚至向特定选民群体发送信息。

姿态和虚高估值：对谷歌和OpenAI的问责受到质疑

尽管谷歌和OpenAI公开表示他们在应对政治虚假信息和确保选举中人工智能安全方面的努力，但Gizmodo的实验表明这些公司做得还不够。安全措施被轻松绕过的事实引发了对其措施有效性的怀疑。此外，这些公司的市场估值飙升，可能是受到人工智能的推动，而这些人工智能系统的问责能力仍然不确定。

预防措施不明确和问责的必要性

OpenAI声称正在努力防止滥用、确保透明度并改善获取准确投票信息的途径。然而，这些预防措施的具体细节尚不清楚。Gizmodo能够让ChatGPT生成一封拜登总统的电子邮件，其中包含错误的选举日期，凸显了虚假信息的潜在问题。最近发生的深度伪造乔·拜登电话的事件进一步强调了在即将到来的2024年总统选举中打击人工智能滥用的更强措施的必要性。谷歌和OpenAI都需要对人工智能深度伪造对民主进程所产生的后果负责。