国内成立首个超级智能安全实验室

本文转自：人民网

人民网北京3月31日电 （记者赵竹青）3月29日，多模态超级智能安全北京市重点实验室（Beijing Key Laboratory of Super Intelligent Security of Multi-Modal Information）在中关村论坛上正式对外公开。实验室依托中国科学院自动化研究所，由人民中科等单位共同建设，人民中科首席科学家担任实验室主任。

多模态超级智能安全北京市重点实验室在中关村论坛上正式对外公开。中关村论坛供图

北京市重点实验室作为北京市科技创新体系的重要组成部分，聚焦国家重大战略和北京市高精尖产业领域、经济社会发展的重大需求。作为北京市重点支持的基础研究机构，多模态超级智能安全实验室旨在推进超级智能领域的基础研究，开展超级人工智能、人工智能安全等前沿研究，解决复杂技术和应用问题，力争建成世界一流科研平台。

超级智能（super intelligent），是指超越人类智能的机器智能系统。与当前普遍的预训练AI相比，超级智能可在极少量样本数据上自主学习，在类人直觉、规律洞察、复杂问题解决等方面极具优势，大幅拓展人类的科学边界和想象空间，在科研、金融、医疗等复杂场景有广泛需求。以科学研究的场景为例，超级智能可打破学科界限，直接分析海量实验数据，发现隐藏其中的科学规律和原理，更能打破传统科研范式中遵循既定理论框架与研究方法的固有局限，直接面向颠覆性科研任务；极大拓展了人类探索科学的范围、尺度和视角，构建全新的人机协同科研范式，将重塑世界科研格局。

我国人工智能研究和应用已处于世界先进水平，近期DeepSeek等高水平应用更引发了新一轮的人工智能热情，但目前大语言模型仍是基于Transformer架构上的创新。这种“大数据－大模型－强算力”的技术路线，依赖大量进口高性能芯片，成本高、幻觉多，难以真正落地到业务的核心，高质量数据的枯竭将进一步限制这种范式的发展潜力。为此，我国一方面需要继续挖掘现有技术路线的潜力，尤其是减少芯片和能源的消耗；另一方面，亟待加强人工智能的基础研究，提前多元布局，寻找更高效的技术架构和方法体系，精准规划弯道超车的突破点。

多模态超级智能安全北京市重点实验室以中国科学院自动化所视频安全团队与人民中科为核心组建，拟重点突破超级人工智能等技术路线，探索类脑智能、自主进化学习、超级人类对齐、自主高质量数据生成等颠覆性研究，并研究和解决隐私保护、算法偏见、责任归属等现实问题。

据介绍，实验室将重点围绕五大方向开展研究。

一是超级智能新范式构建。探索并构建有别于大数据、大模型、大算力的全新人工智能范式，寻找更高效、更具创新性的技术架构和方法体系。

二是认知能力模拟与增强。深入研究如何模拟及进一步增强超级智能的发现能力、反思能力、直觉能力以及科学规律发现能力。例如通过神经科学与人工智能的交叉研究，让机器更好地模拟人类的高级认知功能。

三是智能决策系统的优化。提升超级智能在复杂且不确定环境中做出更精准、更具前瞻性决策的能力，并在政务、金融、医疗、交通等关键领域推广应用。

四是自主性和安全性提升。研究在不同场景下提升超级智能的自主性，包括自主学习、自主规划、自主适应环境变化等，减少对人类干预的依赖；研究系统的安全性和经济型，避免潜在的风险与威胁的同时，降低算力消耗和技术成本。

五是科研范式突破与重构。借助超级智能超强的科学规律发现能力，探索如何对现有的科研范式和科学体系进行重构，突破传统科学研究的局限，开拓新的科学领域和研究方法。

当模型自我迭代能力占据主导地位以后，AI会加速度实现向超级人工智能的演化。人民中科相关负责人表示，将围绕实验室建设，开展超级人工智能的研究，并推进相关成果落地应用在国家重大战略实施和重点领域安全能力建设。