专题首页|返回主站 欢迎来到 第一师阿拉尔市人民政府门户网站 “网信普法进网站主题活动”专题
归档时间:2023/9/28 10:26:50

专家解读|以安全助发展 以治理促创新

来源: 中国网信网 发布时间:2023-09-07 10:24:27 浏览次数: 【字体:

近日,国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》(以下称《办法》),这充分体现了国家对生成式人工智能发展和应用的高度重视,也标志着我国生成式人工智能治理迈出了坚实的一步。《办法》坚持发展与安全并重、促进创新与依法治理相结合的原则,为生成式人工智能的健康发展和规范应用提供了制度“锚点”和实践指引,在推动相关技术进步与产业落地的同时,确保生成式人工智能服务更好地造福人民。

近两年,生成式人工智能大模型在内容生成、理解推理、多轮对话等方面达到超预期的高度,将为数字经济蓬勃发展提供垂直化、场景化、个性化的应用工具,广泛赋能电子商务、创意产业、金融服务、医疗健康等领域。但目前主流的生成式人工智能属于“黑箱”模型,在应用中可能会产生有害言论、虚假信息、隐私泄露、偏见歧视等风险。发展可信安全的生成式人工智能已成为全球共识。发展与安全是一体两翼、辩证统一的关系,安全为生成式人工智能发展提出规范要求,同时也是其被市场应用、社会接受的基础。

《办法》坚持发展与安全并重、创新与治理相结合的原则,对生成式人工智能服务实行包容审慎和分类分级监管。一方面,围绕应用、研发、基础设施等多措并举打造自主开放的创新生态,鼓励生成式人工智能技术在各行业、各领域的创新应用,支持相关机构在技术创新、数据资源建设、转化应用、风险防范等方面开展协作,鼓励基础技术的自主创新,平等互利开展国际交流与合作,推动生成式人工智能基础设施和公共训练数据资源平台建设。另一方面,构建起了鼓励多方主体参与、贯穿生成式人工智能服务全流程的规范体系,对训练数据处理、生成式人工智能服务规范做了相应要求,规定了安全评估、算法备案、投诉举报等配套制度,明确了法律责任和发现违法内容的处置措施。《办法》还对国家有关主管部门的管理提出了要求,针对生成式人工智能的技术特点和服务特征,完善与创新发展相适应的科学监管方式,制定相应的分类分级监管规则或者指引。《办法》为生成式人工智能健康有序发展奠定了坚实的制度基础,也为大模型等新技术的监管做出了示范。

下一步,落实《办法》精神和相关要求,需要业内科研机构和企业一起努力,在相关部门支持下,推进重点领域攻关,打造我国生成式人工智能“发展”与“安全”的双基座。在发展基座方面,进一步研发并开源高质量的基础模型,同时构建面向大模型研发与应用的全链条开源体系,贯穿数据、预训练、微调、部署和评测各个环节,降低我国大模型研发和商用开发的门槛。在安全基座方面,推进构建生成式人工智能高质量数据集,研发相关系列标准,建设生成式人工智能评测平台,打造“数据、标准、评测”一体化的生成式人工智能大模型可信安全体系,为生成式人工智能健康发展和规范应用保驾护航。(作者:乔宇 上海人工智能实验室主任助理、教授


终审:网络舆情中心
【打印正文】