前OpenAI员工和现有员工对AI风险表示担忧

AI公司中的财务激励和信息失衡

该团体指出，AI公司有强烈的财务动机来避免监督，并拥有关于其AI系统的能力和局限性的非公开信息。这种缺乏透明度延伸到了保护措施的充分性以及与AI进展可能导致的不同潜在危害相关的风险水平。团员们对AI技术的快速发展以及朝着实现人工通用智能（AGI）的竞赛而没有足够保障的情况表示担忧。

AI行业中缺乏政府监管和问责制

人们对AI行业中缺乏有效的政府监管提出了担忧，导致公司可能不会自愿共享关键信息。该团体强调，由于保密协议和不足的举报者保护措施，问责的途径有限。他们强调了现任和前任员工在要求AI公司对公众负责方面的重要性，并强调了政府监督的必要性，以确保负责任的AI开发和部署。

OpenAI对AI开发安全性的回应和承诺

作为对提出的担忧的回应，OpenAI表示同意呼吁对AI行业进行政府监管，并强调他们与全球政策制定者积极互动。公司强调了其对安全的承诺，并表示在确保足够保障措施到位之前不会发布技术。着重提供安全可靠的AI系统，OpenAI强调了通过严格辩论和与各方合作来解决与AI技术相关风险的重要性。