中国人工智能产业发展如何“走好走稳”？

         2023年国家网络安全宣传周活动正火热进行中。其间举行的网络安全技术高峰论坛上，中国人工智能产业如何“走好走稳”等话题引发讨论。

9月10日，2023年网络安全博览会在福建省福州市举办。该博览会设置关键信息基础设施保护、数据安全、个人信息保护、网络安全产品与服务等展区，展示面积约2万平方米，参展单位70余家。图为观众观看回顾展。中新社记者 王东明 摄

　　人工智能大模型“百花齐放”

　　北京百川智能科技有限公司创始人王小川表示，今年以来，中国人工智能产业发展迅猛，包括百川在内的多家人工智能大模型产品陆续上线。人工智能技术，特别是大模型技术不仅将重塑现有产业，更将创造全新价值。

　　上海联影智能医疗科技有限公司研发副总经理沈振辉认为，当前，人工智能大模型正掀起新一轮智能革命浪潮，大型语言模型在语言理解、生成、知识推理等层面正展现出令人惊艳的能力，为其在细分垂直领域的发展提供了巨大想象空间。

　　腾讯云副总裁吴运声指出，中国人工智能大模型“百花齐放”，产业落地已过“尝鲜期”，产业落地实效成为大模型价值的重要评估维度。

　　风险与瓶颈

　　粤港澳大湾区数字经济研究院创院理事长沈向洋表示，生成式人工智能带来的安全挑战巨大。如果说搜索引擎是一个有限责任公司的话，人工智能大模型产品就是一个无限责任公司，因为前者输出的结果都是有记录，出了问题也是可溯源的；后者输出的内容都是自己生成的，容易出现所谓“一本正经胡说八道”等风险问题。

　　北京大学计算机学院教授、北京大学人工智能研究院副院长黄铁军则提到数据的重要性。黄铁军说，如果“喂”给大模型的数据质量差甚至是错误的，将严重影响大模型的输出结果。对于中文大模型来说，存在一个发展瓶颈：国际开源数据集的中文内容少。建设高质量中文数据集是中国生成式人工智能发展的基本前提。

　　呼吁构建负责任、可信赖的人工智能治理体系

　　清华大学人工智能研究院副院长朱军认为，面对挑战，中国已经开展了相关探索，加强技术理论研究，持续构建第三代人工智能，加强技术手段建设，提升训练数据质量和安全评测能力，并在人工智能安全靶场等方面取得实践成果。

　　黄铁军建议，各方共建大规模高质量中文数据库，促进中文网页数据汇聚、处理及开放，相关政府部门出台书籍、期刊论文等版权数据用于大模型训练的相关政策及规范，盘活中国高质量中文数据资源，加快数据处理相关标准、技术、工具和支撑平台研发，提高数据处理效率。

　　华为云首席技术官(CTO)张宇昕表示，当前人工智能产业发展火热，但人工智能技术带来的安全挑战也非常之高。希望各方共同努力构建一个负责任、可信赖的人工智能治理体系：一是打造多角色协同的治理体系，二是实现基于应用场景风险的分级治理，三是建立卓越的标准和测试认证能力，四是构建包容的国际多边治理机制。