中国工程院院士邬江兴：AI 安全可分为内生安全问题和非内生安全问题

面对人工智能这把双刃剑，我们该如何掌控“安全”？吴江兴首先指出，AI算法模型存在“三个不安全”遗传缺陷，即不可解释性、不可判断性、不可推理性。

他认为，整个人工智能安全可以分为内生性安全问题和非内生性安全问题，内生性问题又分为个体问题和共性问题。当前，网络内生安全问题正在全面挑战世界生态系统的底层驱动技术。网络内生安全范式应该是人工智能可信应用系统的理论发展方向。智能时代需要正确的理论方向来保证人工智能技术的健康发展。

中国科学院院士冯登国表示，当前，人工智能技术已从相对单一的算法发展阶段，跨越到软件、硬件和应用场景相结合的全方位、集成发展阶段。人工智能算法的更新和迭代，使得传统的安全分析技术无法适应人工智能领域不断涌现的新算法和模型。

冯登国表示，应对网络空间安全形势变化，需要更加坚实灵活的网络空间安全体系。他从数据泄露、密钥保护、深度伪造、错误信息出现等角度解读大模型带来的安全风险和挑战，并从政策法规制定、前沿技术探索、信息安全三个维度思考对策。创新能力提升。

绿盟科技集团董事长兼总裁胡中华直言，近年来，不断加大数据安全、人工智能等领域的创新投入。一方面，围绕日志降噪、推理判断、自动化渗透攻击三个实际安全场景，不断迭代大安全垂直模型，通过提示词工程构建安全专家思维链，并利用搜索增强通过知识图谱提高可信度和专业性，为用户提供实用的安全检测和研判能力。

另一方面，我们不断加强技术研究和创新，从构建可信、安全的智能生态系统出发，逐步构建“大模型+小模型”协同安全运营的新体系，对安全问题进行深入研究。并发布了AI大模型安全威胁矩阵和风险评估工具，帮助用户在拥有自己的模型时管理安全风险。

教育部信息技术与新工程联盟网络空间安全工作委员会主任、杭州市​​人工智能学会副理事长胡瑞敏认为，在数据被列为第五大生产要素的今天，我们应该解决数据无法供应、流动和安全的问题。由于安全保障困难等挑战，亟需构建面向数据要素的数据生命周期安全防护体系。

胡瑞敏以数据安全风险事件为切入点，介绍了当前数据安全面临的困境，即数据分类、可信确认和数据安全利用，并进一步介绍了其团队在数据安全保护密码技术领域的研究工作。 。

国家工业信息安全发展研究中心首席专家、数据安全研究所所长李军指出，数据是数字经济时代关键的新兴生产要素，保障数据安全已成为关系到数据安全的重大问题。国家安全和经济社会发展。随着新一代信息技术与制造业深度融合，工业企业数字化、网络化、智能化不断加速，工业数据载体漏洞及后门、运维失控、数据泄露等数据安全风险日益凸显著名的。

李军表示，在此形势下，行业主管部门构建工业和信息化领域数据安全“1+5”政策体系，加快数据安全监管技术能力建设实施，有效引导工业企业提高数据安全水平。安全管理和保护级别。 （超过）