全球人工智能安全指数近日发布，通过6个方面、12个维度，评估40个国家各自在人工智能安全方面的整体状况和应对人工智能（AI）安全挑战就绪度。中国处于第一梯队。
该指数由中国科学院自动化研究所人工智能伦理与治理中心、人工智能安全与超级对齐北京市重点实验室、远期人工智能研究中心等单位联合研究。
围绕AI安全的治理环境、国家机构、治理工具、研究水平、国际参与情况以及生存风险应对，该指数评估了40个国家在AI安全方面的就绪度。相对而言，发达国家的总体表现更好，有更强的研发能力，与AI安全相关的治理框架更完善，更积极参与国际合作；多数发展中国家和新兴经济体面临更多挑战。我国处于国际第一梯队。
随着生成式AI技术的突破及其在各个领域的深入应用，AI风险事件总数激增。经济合作与发展组织的AI事件监测器统计显示，2024年的风险事件总数比2022年增加了约21.8倍，呈现快速增长态势。在2019年至2024年间发生的AI风险事件中，约74%与AI安全问题直接相关，其中，2024年的事件数量比2023年增长了约83.7%。
“AI技术在赋能社会发展的同时，也带来了潜在复杂的安全风险，各国需要充分重视AI安全并采取行动。”报告主要作者之一、中国科学院自动化所人工智能伦理与治理中心主任曾毅说。各国的AI安全研究机构以不同形式呈现快速包容性发展。被评估的40个国家中，有17个国家拥有与AI安全相关的治理工具；包括我国在内的9个国家既拥有国家层面的AI相关安全法律，也建立了技术及政策框架。“大多数技术和政策框架，是在2024年发布的，这反映了各国为解决AI安全问题所做的一致努力。”
