英国研发机构揭示了对人工智能的“定量安全保证”的未来愿景

ARIA的守门人人工智能：保护高风险人工智能应用

ARIA的守门人人工智能概念由Filecoin的联合发明人David Dalrymple开发，结合了科学世界模型和数学证明，以提供关于人工智能系统行为的保证。大型人工智能公司采用的现有方法依赖有限样本，并缺乏部署保证。ARIA的守门人方法旨在在商业和学术概念之间取得平衡，利用前沿能力并遵循数学推理。ARIA为此融合所需的跨学科合作提供了便利。

ARIA：英国的高风险、高回报研究DARPA

ARIA于去年成立，资助高风险、高回报的研究项目，并被比作五角大楼的“疯狂科学”单位DARPA。ARIA的新项目类似于DARPA的HACMS计划，旨在通过形式验证创建无漏洞软件。计算机科学家Yoshua Bengio认可的“定量安全保证”概念与ARIA的目标一致。ARIA成功实施此概念将不仅推进人工智能安全，还能解决对机构预算的担忧，并吸引人工智能培训项目的潜在成本节约。