生成式人工智能用户达5.15亿人 需加速推动技术向 “善” 而行

人工智能技术正以前所未有的速度融入社会生产生活，而其伴生的安全问题亦日益凸显，成为全社会数字化转型进程中的“必修课”。

作为基础运营商，中国电信高度重视安全能力建设，持续加大安全核心技术自主掌控力度、推进安全产品服务创新、强化新型信息基础设施安全保障能力、赋能数字经济社会安全发展。

随着“人工智能+”行动迈向纵深，生成式人工智能技术迅速发展与迭代，新应用、新场景密集涌现，走进千家万户，赋能千行百业。

“我们家网络卡顿得不行，这个问题你们怎么解决？”智能客服自动分析问题并做回应。AI已从“能聊天的助手”进化为“会主动干活的数字员工”，AI不再只做信息交互，而是能像人类一样思考、规划，主动采取行动完成复杂任务。借助大模型，广东电信以大模型驱动服务数智化升级，提高服务质量，实现工单处理及时率突破94.5%，客户满意度达93.7%，技术方案已推广至深圳、佛山等6个地市，整体服务效率提升22.3%。

在消费端，AI硬件产品正带来更直观的智慧体验。面向大众生活，38克重的 “天翼AI眼镜” 依托星辰大模型实现景点介绍、实时翻译等多模态识别，从户外旅行、运动探险的第一视角创作与即时分享，到驾驶、会议中的免提通讯与高效记录，为用户创造看得见的智慧价值；“天翼智屏” 通过语音语义AI 大模型让老人孩子轻松操控智能家居，让全屋家居不再是散装家电，而是真正统一指挥的“家庭大脑”。

这些创新应用的背后，离不开坚实的技术底座支撑。中国电信打造了 “1+1+1+M+N” 的人工智能体系，“星辰大模型”具备 “全模态、全自研、全国产” 的显著优势，在多模态理解、生成及语音交互领域实现全双工技术突破。其中，星辰超多方言语音识别大模型目前可语音识别50种方言自由混说，为多样化应用场景奠定基础。

国务院《关于深入实施“人工智能+”行动的意见》明确要求，“强化前瞻谋划、系统布局、分业施策、开放共享、安全可控”，将安全可控作为基本原则之一。

现实中的安全实践更是屡敲警钟，杭州警方破获的全国首例 “AI 换脸” 窃取隐私案，暴露了生物识别模型鲁棒性不足的隐患；2025 年以来，Ollama 漏洞、OpenAI 大模型 “叛逆行为” 及 AI 衍生的虚假音视频等问题，进一步凸显安全治理的紧迫性。

AIGC催生了新的应用范式，相伴而生的安全风险也呈现出新特征、新形态，这使得一些传统的被动式安全方案捉襟见肘。对于生成式AI而言，安全风险贯穿全链条。

从训练阶段，数据清洗、转换、标签化、编码等环节出现漏洞，均会对模型质量造成不可逆影响。训练阶段的数据污染可能导致模型偏见。

在部署应用环节，开源工具的安全缺口可能引发数据泄露与服务滥用。据奇安信监测数据，在扫描到的6449个活跃Ollama大模型服务器中，高达88.9%缺乏基本防护，直接暴露于互联网。

艾媒咨询数据显示，2023年中国网络安全市场规模约为683.6亿元，2027年有望增至884.4亿元。可以说，生成式人工智能的发展，安全问题是重中之重。

面对AI带来的安全新挑战，“以AI赋能安全”正成为有效的破题思路。未来网络攻防，得AI者得天下。

中国电信在“端、边、网、云、数”全架构层面实现了AI安全能力的深度渗透与智能化升级，通过持续的技术创新，构建全栈AI安全能力。

AI赋能安全产品。依托阡陌数据集，研发了“见微”AI大模型安全，已实现威胁识别、告警降噪、自动化渗透测试及代码审计等场景的智能化突破，推动安全运营从人力驱动转向智能驱动，并已无偿向全社会开源，推动AI大模型健康发展，推出一站式大模型安全能力平台，基于中国电信安全公司自主研发的广目资产测绘能力和网络原生的灵犀威胁情报能力，实时动态地感知我国互联网空间中部署的大模型服务，并对其在环境、数据、模型、应用等不同层面的风险进行实时全网探测，呈现宏观的大模型风险态势，实现智算服务的风险可视可知。

AI安全绝非单一企业的 “独角戏”，需要凝聚共治力量。中国电信携手公安部第三研究所、华为公司等多家合作伙伴发布业界首部AI智能体安全治理白皮书，全面阐释了当前AI智能体所面临的安全风险，并提出对应的安全治理策略和方法；积极参与人工智能安全标准建设，天翼安全科技有限公司参与了三项AI安全领域重要国家标准的编制，包括GB/T 45654-2025《网络安全技术 生成式人工智能服务安全基本要求》、GB/T 45652-2025《网络安全技术 生成式人工智能预训练和优化训练数据安全规范》、GB/T 45674-2025《网络安全技术 生成式人工智能数据标注安全规范》，将于2025年11月1日起正式实施。

生成式人工智能的浪潮已至，在享受技术红利的同时，更需筑牢安全防线。正如中国互联网络信息中心副主任张晓所言，下一阶段，生成式人工智能有望在包括“完善治理”在内的五方面取得新成果。只有技术、安全、治理同步推进，才能真正引导生成式人工智能稳健前行，实现其“向善”发展的长远目标。（林碧涓）