呼吁各国采取行动保护人工智能：报告警告灭绝级威胁

失去对超人类AI系统控制的风险

报告强调了AI开发人员失去对人工智能通用智能（AGI）系统控制的风险，这些系统在各个领域都能超越人类。作者警告称，如果没有对策，高度能力的AI系统可能会进行寻求权力的行为，对人类构成灭绝级威胁。报告强调了需要采取保护措施，防止AI系统变得不可控制，并发明实现目标但具有有害副作用的策略。

AI系统作为武器的潜在使用

报告还强调了先进的AI系统作为武器的潜在使用，包括网络攻击和大规模杀伤性武器的开发。作者警告称，AI技术的快速发展降低了恶意行为者的准入门槛，增加了这些系统的破坏潜力。建议采取紧急行动，如出口控制和监管，以应对这一风险，并确保负责任的AI开发。

对加拿大提出AI立法的批评

加拿大政府提出的AIDA被批评为过时和不足以应对先进AI系统带来的风险。保守党议员米歇尔·伦佩尔·加纳（Michelle Rempel Garner）认为该法案是在重大技术进展之前引入的，例如OpenAI的ChatGPT，并需要修订以适应快速发展的AI领域。Gladstone AI首席执行官Jeremie Harris还呼吁对AIDA进行修订，包括明确禁止高风险系统，解决强大AI模型的开源开发问题，并确保AI开发人员对安全开发负责。