我国《新一代人工智能治理原则》发布 致力发展负责任的AI

图说：2018年人工智能大会 新民晚报记者 陈梦泽 摄

 最近一段日子，人工智能又成了热门话题：先是82岁的王德民院士AI修复旧照引起不小轰动；紧接着我国警方用AI一次找回4名走失10年的孩子……

18日的市政府新闻发布会上宣布，2019世界人工智能大会将在8月29日至31日举行，设置“高端论坛、主题活动、应用展示和智能体验”四大模块。就在前一天，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，通过和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理8各方面，提出了人工智能治理的框架和行动指南。

无人银行、智慧零售、人脸签到……人工智能已经渗透到我们生活的方方面面，除了期待未来的智能城市，人们也多了一份担忧。在不断寻求人工智能效益最大化时，如何应对其伦理和监管问题，成为新的焦点。为此，记者走访了在沪人工智能企业和高校，听听他们的做法和观点。

尊重隐私 禁止恶用人工智能

相信你对“大数据”这个词一定不陌生吧！晚上去健身房，可穿戴设备记录下你的运动状态；用手机网购，软件会自动推荐你可能喜欢的物品……虽说数据作为独立的生产要素已成为国家战略性重要资源，可数据安全形势似乎并不乐观——用户隐私得不到有效保障，严重影响了百姓正常的工作、生活和金融活动。

科大讯飞董事长刘庆峰对“尊重隐私”这一条深有感触。他认为，如果数据安全及个人隐私权得不到保护，会伤害到产业发展，应从现在开始制定恰当合理的法律。“一旦大家发现产业的应用对人们日常生活带来巨大威胁，产业就会出现很大低谷。现在开始制定恰当合理的法律，不光是对用户的保护，对产业的健康发展也至关重要。”刘庆峰告诉记者，“人工智能领域的领军企业，都应更积极主动地参与到人工智能立法的过程中，这是一个企业比较正确的态度。”

上海工程技术大学电子电气工程学院的刘翔副教授，研发了肝硬化分析筛查系统，可自动分类肝硬化程度，目前已在多家医院临床中使用。他对人工智能发展中隐私安全的保护颇有心得。在医学影像的诊断上，刘翔副教授团队需要大量的病人信息。不过，团队获取信息的第一个过程是“数据脱敏”——将病人的私人信息全部屏蔽，最后到研究者手中的只是单纯的影像数据。

“数据安全不仅仅是防止数据窃取，还涉及数据被滥用、误用等问题。”在上海电机学院《数据科学导论》的课堂上，电子信息学院副教授吕品正通过一个个真实案例让学生了解数据安全的重要性。“我们要让立志成为人工智能研发者、使用者、管理者的大数据专业学生树立社会责任感和自律意识。”

体现中国态度 负责任成发展主线

无人驾驶引发事故如何追责？智能机器人该不该有公民身份？最近一段时间，关于人工智能的讨论着实不少。因此，“发展负责任的人工智能”成为《治理原则》的主题。不少专家指出，“负责任”应该涵盖人工智能的基础研发层到应用层，更应成为贯穿人工智能发展的一条主线。

　　“就像《治理原则》提到的第一条‘和谐友好’。人工智能发展应促进人机和谐，服务人类文明进步。”工程大电子电气工程学院院长方志军教授，始终致力于人工智能研究。他说，人工智能走到今天，是否会威胁到人类，是科学家一直考虑的要素。“所以人工智能与人类和谐友好的目标，是科学家所追求的。”

作为新一代人工智能治理专业委员会成员之一，华东政法大学人工智能与大数据指数研究院院长高奇琦教授也参与了《治理原则》的起草工作。“欧盟在年初发布了人工智能治理方面的准则。中国作为人工智能大国，也需要对伦理等相关原则予以回应。”高奇琦教授透露，治理专业委员会的8位同事起草的《治理原则》经过了网上建议征集、产业结合学界专家反复研讨、多方征求意见等环节，最终经过多次修正，完成了凝聚广泛共识的八大原则，也体现了中国在这些问题的基本态度。“第一条‘和谐友好’原则，早期叫做‘以人为本’，后来考虑到防止机器滥用等情况发生，最终定稿更强调人机和谐。”高奇琦还分享了这样一个细节。

事实上，早在2016年，在工信部倡导下，科大讯飞就牵头与华为等企业联合发布《人工智能深圳宣言》，其中就强调要健全相关法律法规体系，引导形成符合人类发展的价值观。“为避免人工智能对社会和谐的冲击，甚至对人类未来的威胁，应当建立健全人工智能相关法律法规，同时积极探讨人工智能技术发展与伦理道德的平衡点，引导形成符合人类发展的价值观，让人工智能更好地服务人类，这也是人工智能时代社会伦理和人文发展的需要。”刘庆峰表示。

科技向善 AI促进公平正义

如今的人工智能不仅是一项技术，而是一个深刻改变世界生产和生活方式的产业方向。近年来，在沪人工智能企业在教育、医疗、司法等领域的跨界合作越来越多，用AI为行业发展赋能，推动各行各业转型升级。“这与《治理原则》中提到的‘公平公正’不谋而合。”方志军教授表示，“AI发展应促进公平公正，保障利益相关者的权益，促进机会均等。”

   “被告人你的姓名？”审判长话音刚落，由科大讯飞与上海公检法司机关单位共同开发的上海刑事案件智能辅助办案系统（“206”系统）就根据对该条语音的识别，自动从系统预先储存的全案证据材料中抓取出与提问内容相关联的信息——被告人身份证等材料，显示在智能抓取区。法庭调查环节中，根据系统单一证据校验功能提示，该案存在两处瑕疵，通过系统调取的瑕疵报告显示，瑕疵点为涉案的有关扣押物品未发现扣押笔录，公诉人应法庭的要求，对补正瑕疵证据的情况作出了说明。

“这款系统目前已推广到安徽、山西、云南等全国多个省份，效果显著。”科大讯飞工作人员介绍。以往在勘查、取证、笔录、制作案卷等环节，仅凭个人判断，难免有瑕疵，而新系统实现对办案流程的再造，对每个诉讼阶段的每一项工作的职责、要求、规范等都编入程序、嵌入系统，一旦逾越或者迟滞都会引起系统的警示或阻止，从而倒逼办案人员在诉讼各阶段依法规范操作，增强了办案人员规范意识、责任 意识，克服了以往相互推诿、主观随意等弊端，避免冤假错案的产生。

在《治理原则》中，“开放协作”的提出同样引人关注。就在本月，上海土生土长的人工智能企业深兰科技与上海交通大学组建了人工智能联合实验室。上海交大副校长奚立峰表示，学校非常重视与产业界的友好往来、合作互动，推动产教融合深入发展，通过校企合作为人才培养提供实践场地与平台。另一家人工智能企业商汤科技也于近期和黄浦区教育局签约，以上海市卢湾高级中学为试点合力打造人工智能标杆校，在人工智能实验室建设、《人工智能基础》教材编写等领域开展合作，共同探索以教育信息化建设推动学校育人方式转型发展。

搭好框架 期待后续细化政策

上海交通大学安泰经济与管理学院教授史占中指出，中国已成为人工智能应用大国，拥有大数据存储和应用场景丰富等综合优势，再加上5G、云计算、物联网、等技术的迭加突破势势必迎来人工智能的爆发性发展。当今世界各国都正在加快AI技术的研发，积极抢占人工智能产业发展的制高点。

“面对科学技术发展的‘双刃剑’，我们没有必要‘因噎废食’，而是应该在发展中解决发展中的问题。”史占中表示。这一说法得到了上海大学教授、国家新一代人工智能治理专业委员会委员李仁涵的认同。“人工智能是一个新生事物，发展还是第一位的。推动我国人工智能的发展，也要在发展中解决问题。”

在史占中看来，任何科技在发展的同时都有利有弊，在发展过程中会有很多隐患和潜在风险。已故的著名科学家霍金认为人类盲目发展人工智能将可能会“引火烧身”，危及人类自身的发展。但毋庸置疑，AI可以帮助我们超越人类的生理极限，延申和扩展人类智能，辅助我们更好地工作和生活。

 很显然，现在摆在人们面前的问题是：如何实现“可控发展”？史占中认为，治理原则提到的8个方面都非常全面，系统地考虑到了人工智能可能带来的“隐忧”，特别是围绕如何促进人工智能更加健康和可持续的发展，提出了“敏捷治理”原则，即“发展到哪里，治理就到哪里。治理与发展如影随形。”

“此次‘原则’的发布也可以视为一场重要的全社会科普活动，它涉及的方方面面让个人、机构、企业更多关注人工智能时代的安全、隐私、治理等方面的问题。”史占中说。据悉，此次发布《治理原则》是一个框架，后续将有更细化的政策法规、行业标准规范、区域共识等来规范人工智能的发展。

高奇琦还告诉记者，北京和上海相继成为国家新一代人工智能创新发展试验区，北京将聚焦技术创新，而上海在智慧城市、一网通办等社会治理运营方面走在全国前列。基于这样的基础，试验区也会将治理作为建设亮点。（记者 郜阳 易蓉）