周鸿祎两会提案关注大模型安全，扶持兼具“安全+AI”能力企业

2024年全国两会大幕开启，全国政协委员、360集团创始人周鸿祎正式进入履职的第七年。作为安全科技领域的委员代表，周鸿祎两会提案关注通用大模型安全问题，建议制定通用大模型安全标准体系，鼓励兼具“安全和AI”能力的企业解聚焦攻坚，承担重担。

当前，人工智能引领的全球新一轮科技革命和产业变革加速演进，通用大模型作为推动技术变革的核心，是时代发展的关键引擎，在国家的高度重视下，我国通用大模型发展迅速。然而，安全问题随着技术的发展愈发凸显。安全与发展是一体之两翼，驱动之双轮，通用大模型的安全意义重大，关系到技术研发落地全产业链的安全，微小的安全问题便有可能引发系统性的安全风险，因此更需要国家和企业重点应对和保障。

周鸿祎将通用人工智能技术引发的复杂安全风险分为技术安全、内容安全和人类安全三个方面。其中，技术安全主要涉及大模型技术本身引发的安全问题，如网络、数据和生成内容的安全；内容安全则是对大模型的控制、滥用、误用和恶意应用等问题；而人类安全问题则是大模型强大后带来的安全可控问题。他在提案中特意加以说明，称通用大模型的发展已不是单纯的科技之争，更是国运之争，影响深远，中国应尽早未雨绸缪，重视大模型安全。

为此，周鸿祎提出三点建议。他指出目前国内的大模型安全问题不容乐观，建议有关部门采用揭榜挂帅等方式，鼓励并扶持兼具“安全和AI”能力的企业，更好发挥其解决通用大模型安全问题的重要作用。

其次，周鸿祎认为，现阶段将安全模块作为大模型外挂的做法已不可行，安全需要贯穿通用大模型的整个构建过程，确保安全措施在系统的整个生命周期中得到充分考虑和实施。建议国家研究制定保障通用大模型安全的标准体系，推动通用大模型开展安全评测、接入安全服务，降低通用大模型安全风险。

相比民营企业以及其他各类组织，政府、央国企对通用大模型的应用具有更高的安全标准，不仅关涉商业安全，更关涉国家安全。因此，他建议政府、央国企与兼具“安全和AI”能力的企业在大模型安全领域展开深入合作，发挥此类企业在人工智能安全领域的优势作用，为国家安全贡献力量。