强化大模型全生命周期安全管理，助力AI行业安全发展驶入快车道

堵塞漏洞并帮助AI开发安全进入快车道

以大型模型为核心的人工智能技术是创新范式转换和工业升级的关键引擎。越来越多的机构，企业和机构已开始促进大型模型的私有化，这些模型被广泛用于公司办公室，科学和技术研发，公共服务和其他领域。但是，技术飞跃和安全风险始终在结合下发展。如何加强模型的整个生命周期的安全管理，并赋予人工智能行业发展良好和良好的能力已成为一个需要紧急解决的问题。

需要认真对待的潜在风险

最近的一些研究发现，私有部署的近90％的服务器是互联网上的“裸”，有些模型本身也很容易出现安全漏洞。目前，某些单元的所谓“强化”只是设置密码，这些密码很容易被打破，有些单元甚至没有保护密码。可以预见的是，随着大型模型在将来流行和使用，有针对性的恶意手段和风险情景将不可避免地激增。因此，网络安全保护必须与技术发展同时迭代。

- - 敏感的数据安全问题。在培训，推理和使用大型模型期间，将涉及大规模数据。例如，在输入数据时，用户不当存储和处理数据，尤其是在处理机密数据，个人隐私数据和商业敏感的数据时，在未经检验的模型中，存在非法获取和泄漏数据的风险。

- - 关键领域的安全问题。人工智能不能与高科技设备分开。如果将这些设备植入后门计划，它将使智能工厂，金融机构和能源设施等关键领域处于危险之中。如果犯罪分子恶意使用大型模型部署的安全漏洞来破坏相关系统，则可能导致恶性事件，例如公共服务中断，公司经济损失，频繁的安全事故等，干扰经济的正常运作以及社会的有序运作。

- 用户兴趣的推荐。如果普通用户使用没有保护的大型模型服务工具，攻击者还可以远程调用界面以窃取核心资产，例如模型参数，培训数据，知识库等，或删除或污染私人模型文件，从而导致模型故障或输出偏差。同时，攻击者可以通过未经授权的接口和滥用GPU资源来调用模型推理功能。如果数据处理的量太大，则大型模型服务器将由于计算能力的耗尽而瘫痪。

大型模型中安全风险的原因

- - 开源框架中存在缺点。为了快速启动服务，许多单元直接使用开源框架，并默认打开没有密码的公共网络访问模式。他们不配置合理的安全保护措施，而忽略了最基本的防火墙配置。攻击者可以通过历史漏洞自由访问模型服务，窃取敏感数据，甚至可以执行恶意说明，从而导致数据泄露和服务中断。

- 缺乏风险意识。一些经理对AI安全性的理解相对落后，有些人认为“安全是专家的业务”。他们不知道部署AI服务需要像保护银行卡密码一样谨慎。当享受AI带来的便利时，他们不会考虑其背后的隐藏风险。

- - 必须加强安全教育。一些企业和机构缺乏必要的安全预防教育，从而导致了员工的国家安全意识和识字能力，预防安全意识，缺乏对大型模型的认真管理以及对安全教育的必要理解。

- - 专门法律存在差距。近年来，我的国家发布了许多政策，法规和有关人工智能和网络数据的意见，但是随着人工智能的快速发展，出现的法律问题需要进一步改善。

国家安全机构提醒

大型模型是促进技术进步的重要力量，但暂时不能放松其安全保护。无论是开发人员，企业还是普通用户，他们都应保持警惕，并共同保护技术红利免于被恶意剥削。

- 培训安全保护并建立可靠的安全性障碍。在开发和应用大型模型的过程中，AI公司需要注意自己的安全责任和义务。通过加强与安全制造商的接触和合作，他们可以加强大型模型的安全性，可靠性和稳定性，并使用严格的安全技术保证和操作监控。

- 培养安全意识并创建一个协作的防御生态系统。在部署大型模型之前，单位和企业需要进行全面的风险评估和安全计划，并通过制定安全政策和进行安全培训来提高所有员工的安全意识。公众应在使用大型模型时提高他们的安全意识，注意学习相关的安全知识，养成良好的用法习惯，选择从官方渠道下载大型模型工具，并且在随意使用它们时不连接到不熟悉的网络，以确保安全稳定的大型模型的安全应用。