两会专访丨全国人大代表、河南移动总经理楼向平：加强人工智能可信治理，以新质生产力推动高质量发展

　　3月5日，十四届全国人大二次会议在北京人民大会堂隆重开幕。国务院总理李强在政府工作报告中着重指出，要大力推进现代化产业体系建设，并特别强调了新质生产力的发展，特别是要深化大数据、人工智能等技术的研发与应用，实施“人工智能+”行动计划，旨在打造具有国际竞争力的数字产业集群。

　　当前，以ChatGPT为代表的生成式人工智能技术的崛起，正引领着通用人工智能技术的发展与创新，成为近十年来AI领域最具变革性的技术之一。这一趋势不仅预示着AI技术的巨大发展潜力，同时也对经济社会发展产生了深远的影响。全国人大代表、中国移动河南公司的高层领导楼向平在接受《人民邮电》报记者采访时，针对当前人工智能发展的现状与挑战，提出了加强人工智能可信治理的迫切需求。他强调，应以更加负责任的态度，推动发展可信、以人为本的人工智能，从而助推新质生产力的培育，并推动高质量发展。

　　当前，我国人工智能核心产业规模持续扩大，其应用已广泛渗透到通信、金融、医疗、交通、生产制造等多个领域，成为数字经济发展的重要驱动力。然而，与此同时，人工智能安全防护能力的不足和缺失也带来了诸多风险和挑战，如知识产权侵权、隐私信息泄露、AI框架安全风险、AI算法攻击以及误用滥用等问题。楼向平指出，当前在人工智能领域法律法规尚不完善，且缺乏统一的可信人工智能技术标准和评估体系。例如，关于人工智能生成物的可版权性及权利归属问题、训练数据来源的合法性问题、隐私保护问题以及虚假生成内容的责任认定等，在法律体系中均存在空白。此外，数据安全、网络安全及隐私泄露等问题已成为制约人工智能健康发展的关键痛点。

　　针对上述问题，楼向平提出了以下建议：

　　首先，构建系统化的人工智能法律法规体系：

1. 积极推动人工智能领域立法进程：建议成立国家层面的立法研究工作组，广泛吸纳学术界和产业界的意见与建议，借鉴国外立法经验，兼顾约束不当行为和营造优良产业环境的目标，积极开展人工智能专项立法研究并推动立法进程。在新法律颁布前，可通过在现有《数据安全法》《著作权法》等法律基础上制定行政法规或发布司法解释、指导性案例等方式缓解法律问题。
2. 明确生成式人工智能“事前-事中-事后”全链条监管机制：参考欧盟经验制定风险等级规范并针对不同类型和风险等级实施相应监管措施。引入算法认证标识和监管沙盒机制以支持企业在监管机构监督下创新活动。
3. 建立人工智能责任认定和追责机制：以技术使用为主线结合经济利益与责任承担形成链式责任分配机制实现生成式人工智能发展的总体可控。
4. 建立系统化治理体系：政府发挥领导作用制定政策法规和设立专门机构执行治理规定；行业协会制定技术伦理和行业规范；第三方智库提供咨询建议；社会公众形成行为准则并联合监督形成政府管理、社会监督、行业自治、企业履责和用户自律的体系化治理体系。

　　其次，构建统一的可信人工智能技术标准和评估体系并实现“生成即安全”：

1. 设立人工智能可信性指南构建可信标准框架：在训练语料库方面构建高质量中文语料库和数据集支撑国内模型训练；在数据收集和使用方面根据数据价值影响明确分类分级保护标准制定处理规则和安全措施；在存储和传输方面强化数据脱敏和加密要求降低敏感信息泄露风险；在隐私保护方面引入差分隐私等技术确保模型在隐私受限环境中训练和生成内容质量保护知识产权。
2. 依托指南建立可信AI评估机制：打造权威公平科学的评测平台构建自主可控检测工具体系面向训练数据和生成内容进行检测确保合法性和质量构建与监管工作协同机制依据检测结果对算法及应用进行评级形成分级分类商用准入许可或评估备案机制构建法律规范评估机制和监管工作协同共促的良好生态。
3. 加强安全技术攻关构建内生安全底座：强化内生防御技术赋能应用系统有效阻断控制漏洞和后门等内生安全问题加强技术攻关提升自适应防护能力应对恶意使用防范违法程序或内容输出保障稳健性和安全性。