【编者按】

在全国两会召开之际，本报今起推出“寻擎记”特别策划，聚焦“新质生产力发展图谱”，深入剖析科技创新与产业创新的共振效应。通过代表性企业样本，探索它们在科技创新、模式革新、转型升级等方面的独特之处，揭示企业如何在新质生产力赛道上领跑，成为行业引擎。

“人工智能（AI）的安全隐患，是数字安全的重要组成部分。”全国政协委员、360集团创始人周鸿祎近日在接受采访时表示，随着大模型快速迭代和成本降低，AI技术迅速普及，成为提升各行业生产力的新利器，但同时带来了AI幻觉、数据泄露、深度伪造等新型风险。

“大模型的广泛应用正重塑网络安全生态。”周鸿祎将大模型的安全问题分为基座模型安全、客户端安全、知识数据安全、智能体安全四个层面，并提出“以模制模”的解决方案，即利用安全大模型应对AI产生的安全问题，为数字世界构建安全基石。

关注大模型幻觉现象

今年，大模型领域企业竞相发布新品，性能持续提升，成本大幅下降，“大模型幻觉”成为公众热议话题。所谓“大模型幻觉”，即大模型有时会生成看似合理或可信但实则虚假的信息。这源于大模型的运行机制和训练数据的局限性。

周鸿祎指出，大模型幻觉需辩证看待。“幻觉是大模型的特性，缺乏幻觉的大模型不够智能。”他表示，大模型的幻觉赋予其类似人类的想象力，有助于剧本创作、文章撰写等。在科研领域，如DeepMind的AI模型AlphaFold，能准确预测生物分子相互作用，推动药物研发和结构生物学革命。

“然而，在金融、法律、医疗等不容失误的领域，大模型幻觉可能带来严重后果。”周鸿祎强调，随着大模型从“不可用”到“完全可用”，需采取措施防范幻觉带来的安全风险。

周鸿祎建议，大模型应用软件可通过链接互联网知识库校正信息，企业应用大模型时可接入专有知识库校正幻觉。“大模型输出结果的差异源于训练数据，将企业重要资料纳入知识库，大模型即可依据知识库提供全面信息。”

应对大模型应用安全挑战

近期，中国初创企业Deepseek发布开源推理模型DeepSeek-R1，以低成本实现高性能，引发大模型市场变革，推动大模型开源。数百家公司已接入DeepSeek大模型，涵盖运营商、云服务企业、金融机构、手机厂商、车企等。大模型应用已渗透至内容创作、金融、电信、自动驾驶等领域。

大模型推广加剧了应用安全问题。周鸿祎认为，在基座模型层面，可通过连接知识库校正幻觉。在客户端层面，需防范安全问题，防止攻击。随着智能体（Agent）的增多，人们将工作职责交给智能体，带来新安全风险。此外，知识库包含个人隐私、商业机密，需防范信息泄露。

面对大模型应用带来的新挑战，传统网络安全模式局限性凸显。周鸿祎提出“以模制模”策略，研发安全大模型管理企业知识库、智能体调用，并管理基座模型幻觉问题。

激发产业创新活力

周鸿祎认为，大模型开源将助力传统企业降本增效，推动大模型应用。他强调：“AI要引发工业革命，需深入企业、政府等场景，惠及千家万户、各行各业。”

大模型不仅拥有海量知识，还具备对话和推理能力。在医疗领域，大模型可作为个人医学顾问或慢性病专家，提供健康指导。对于传统医院，大模型加速数字化改造，缩短候诊时间。在新兴生物制造产业，大模型作为研究工具，助力未知领域探索。

从生产力角度看，大模型在决策、管理、业务流程等环节发挥作用。周鸿祎指出，大模型为企业提供决策支持，增强员工能力，改善内部管理，提升产品和服务质量，解决产业发展难题，实现降本增效。

在企业应用方面，周鸿祎建议找准方向：一是找场景，结合业务确定大模型应用场景；二是打造专业知识库，收集企业内部知识，提升大模型专业性；三是打造智能体，接入OA办公流程，形成完整应用体系。

（文章来源：中国证券报）