热点:人工智能依法规制难题待解网络法治频道

本篇文章5749字，读完约14分钟

这次的嘉宾

孙佑海:天津大学法学院院长

高绍林:北京大学法律与人工智能研究中心专家顾问、天津市人民代表大会法制委员会原主任委员

张宜云:天津市人民代表大会立法研究所助理研究员

万勇:中国人民大学法学院教授，国家版权局国际版权研究基地研究员

曹建峰:腾讯研究院高级研究员

邓熙坤:上海厚势汽车首席执行官

里德

机器翻译、语音识别、智能家居、无人驾驶……随着人工智能技术的迅速发展，人们的生活开始深入介入，相关风险也开始暴露。 人工智能必须尽快制定法规吗？ 进行管制时，应该如何基本继承什么？ 我应该如何掌握不同细分应用行业的管制点？ 这次的“语音版”将邀请相关法律专家、领域的工人一起探讨，请关注网民。

为了比较有效地应对新型风险，需要加快立法进程

□孙佑海

年9月，第十三届全国人民代表大会常务委员会向社会公布了这次全国人民代表大会立法计划，人工智能立法进入其中，是人工智能行业具有重大历史意义的象征。 在现代人工智能迅速发展的新形势下，我们必须认识到下一代人工智能技术是时代的需要、快速发展的需要和民生的期待。 另外，要看技术短板、监管不善、应用失范等因素带来的潜在风险和给社会带来的实际危害。 只有找到、判断人工智能快速发展带来的风险点，立即采取法律应对措施，才能抓住战术机会，而且及时以危险为契机，确保社会规范秩序。

人工智能可能带来的法律风险首先有四个方面。 一是利用人工智能危害社会，引起刑事犯罪的风险。 以无人机为例，随着科学技术的进步，智能无人机的技术越来越先进，应用越来越普及，对国家安全、公共安全、个人安全也造成了严重的威胁。 近年来，无人机频繁侵入各地机场的空隙区域，航班多次延误，威胁到航空飞行的安全。 年，在中国北方的某个地方，无人机威胁到了飞行安全。 年2月2日和3日两天，中国南方某机场发生了4起无人机非法飞行。 每隔一天，附近城市的机场就有两架无人机入侵机场的间隙保护区，无人机直接跳进机场的跑道。 以上违反刑法的，必须承担刑事责任，相应的法律必须完整。 另一种“捕获格斗机器人”产品具有高度的自主性，因此可以自己攻击目标。 如果程序错误失控，可能会攻击人们，成为人类公共安全的重大风险。 这都需要立法来管制。

二是开发利用人工智能引起民事纠纷，客观上人工智能立法需要明确民事责任的界限。 例如，随着人工智能的普及，人工智能创作物的知识产权归属问题如何明确，现在有相关的例子。 以前流传的著作权法理论认为，作品是作者人格的体现，只有自然人才能创作作品。 但是，动物和机器即使其创作物具有作品的特征，也不能随时成为作者。 目前，人工智能创作对这一理论提出了挑战。 另外，自动驾驶车的安全性问题已经受到关注，从自动驾驶车的生产资格、道路许可到事故后的责任分担，现在的法律处于空白状态。 因此，人工智能汽车自动驾驶引起的交通事故需要通过立法确定责任，为处理纠纷提供比较有效的法律依据。

三是开发利用人工智能，违反行政管理规范，因此有关行政管理机关有必要对违法的管理对象进行行政处罚。 例如，利用人工智能的开发，有时需要行政许可，否则要承担责任。 这些具体情况需要以法律法规的形式规范，这是立法任务。 与此相对应，对于有关行政管理机关不作为和滥用的情况，公民、法人和有关组织可以依法提起行政诉讼，这些也需要依法规范。

四、开发利用人工智能，造成严重损害客户合法权益和社会公共利益的情况，应当依法提起公益诉讼。 但是，人工智能的开发利用对社会公共利益的损害，有其新奇性和特殊性，人类的应对措施必然不同，因此必然对人工智能的立法提出了新的要求，这也增加了人工智能立法的难度。

为了处理人工智能的迅速发展带来的新矛盾、新问题，还没有做好准备，必须加快人工智能相关法律法规的研究。 一是及时安排宏观立法。 人工智能的迅速发展离不开反映时代诉求的由人工智能法和辅助法规构成的法律法规体系。 人工智能法总体上属于行政法的范畴。 现在阶段处于人工智能技术的迅速发展期。 这个立法不能太细，但必须制定必要的大致框架，以确保法律的实施落地。

二是确定最近立法事业的要点。 目前，与人工智能的具体应用进行比较专业的立法是比较实用的立法构想。 国务院或有关部门建议对自动驾驶、图像识别、无人机管制等比较成熟的技术应用行为优先制定法规或规则，规范社会管理秩序。

三是做司法解释。 对立法业一时追不上、实际事件层出不穷的人工智能应用行业，建议用司法解释的方法解决争端，为立法业争取时间和经验。 建议在民事案件的解决中，着力处理人工智能生成副本的权利归属、人工智能损害结果的责任分担问题。 在刑事案件中，建议着力处理人工智能相关犯罪行为的定性和量刑幅度。 在知识产权案件中，建议致力于算法、芯片等核心技术的模仿、对侵权行为的责任归属和赔偿标准等问题。

弱人工智能时代立法没有基础和条件

□高绍林张宜云

随着网络、大数据和云计算的迅速发展，特别是随着5g技术的落地应用，人工智能将以前所未有的速度迅速发展。 人工智能的迅速发展，一方面可以造福人类，单从法律行业来看，人工智能可以给法律事业带来新的动能，立法、执法、司法、普法、法律服务可以通过人工智能技术大幅度提高事业的效率和质量。 另一方面，人工智能也带来了很多新的挑战，如果长时间缺乏限制，有可能导致一定的灾难性后果。 例如，无人驾驶、无人机技术可能方便杀人、走私、贩毒等犯罪行为。 人工智能程序的脆弱性可能被恶意利用，产生严重的社会安全风险。 人工智能的设计者、应用者有可能突破伦理基础设计，采用人工智能和数据泄露、算法歧视等。 因此，有必要立法规制人工智能的迅速发展，诱惑和规范人工智能健康的迅速发展。

在人工智能的立法规定中，有必要制定专业的人工智能法的观点。 笔者认为，现在的人工智能总体上是弱人工智能的时代，集中在语音识别、自动翻译、语音合成、图像识别、自动驾驶、工业机器人、聊天机器人等具体行业，短期内不会出现“通用人工智能”。 因此，完善人工智能法律制度的实践基础和客观条件还不具备。

马克思有一句“关于离婚法草案”的名言。 “立法者应该把自己看作是自然科学家，他不是在制定法律，不是在发明法律，只是在表达法律，而是在有意识的现行法律中表达精神关系的内在规则。 如果立法者用自己的推测来代替事件的本质，我们应该极端任性地责备他。 》对一个新兴行业实行专业的立法规制通常需要三个条件。 一是社会对这个新兴行业产生了实行立法规制的现实诉求。 二是在现行法律法规的框架内不能根据需要调整它。 三是立法者能认识和掌握其内在的客观规律。

从人工智能现阶段的快速发展水平来看，无论是数据、算法、计算能力还是应用场景，基本都处于探索性、试验性阶段，我们对其基本规律的研究和认知还不够。 在这种情况下，制定完美的人工智能法是不现实的。 最现实的选择是避免反复伤害的底线思考，根据人工智能迅速发展的现实需要，对现行法律制度进行必要的评级、补充。

另一方面，为了保障和促进人工智能健康的迅速发展，立法限制人工智能应该以人为中心大致重复。 确保人工智能的迅速发展可以增加人类的福利，保障人的尊严、自由和人身财产的安全。 二是快速发展和安全平衡大体上。 要解决促进人工智能的快速发展与保证社会安全之间的关系，不要使两者偏颇。 三是政府干预适度。 人工智能的开发和应用不抵触法律法规，除非危害公序良俗，否则政府不得过度干预。 第四部分是伦理底线控制。 确定人工智能安全、隐私、公平、公正等伦理基础。 五是风险容忍度大致。 人工智能的迅速发展具有非常强的探索性，即使是比较成熟的应用也有相当不明确性，必须适当地容忍其试行错误。 六是多阶段立法相辅相成。 在中国特色社会主义法律体系框架内，发挥统一、多层次立法体制的特点，从法律、行政法规、地方性法规等多层次立法规制人工智能。

从人工智能的迅速发展情况来看，目前需要采取措施的立法项目首先是全国人民代表大会及其常务委员会的立法，包括在民法的编纂中，确定人工智能相关的民事基础制度。 制定数据安全法，规定人工智能时代的数据安全和新闻保护。 制定电信法，为人工智能的快速发展提供良好的公共互联网基础设施环境。 修改道路交通安全法，规定无人驾驶车。 修改版权法、专利法，规定人工智能知识产权相关问题。 适时发表刑法修正案，规定人工智能相关犯罪。

其次国务院制定了行政法规，包括网络安全法实施条例的制定、机器人采用安全管理条例、人工智能基础设施管理条例、智能网络汽车管理条例、人工智能辅助医疗诊断和治疗管理条例、计算机软件保护条例的修改等。

人工智能产业快速发展的特点地区也可以加强地方立法，重要的是制定促进人工智能产业快速发展的地方性法规，鼓励人工智能产业快速发展，促进人工智能在政务、财税、制造等行业的应用，促进人工智能

总之，随着人工智能的高速发展，越来越多的法学家需要关注其法律问题，尽快构建人工智能伦理体系及相关法学理论体系，为人工智能法规提供理论基础。 而且立法机关必须越来越关注人工智能的立法规制问题，发挥立法的引领和推动作用，尽快将人工智能立法规制的相关立法项目提高到议事日程，为人工智能的健康和快速发展创造良好的法治环境。

人工智能产物能否构成作品

□万勇

年5月，微软的《冰淇淋》创作的诗集《阳光玻璃窗》正式发表，谷歌开发的人工智能deepdream可以画画，制作的画拍卖成功了……从外观来看，人工智能的创作 人工智能技术挑战著作权法可以说是比传统技术创新最根本和最全面的。

今年4月，北京网络法院对国内第一个人工智能作品争议案作了一审判决，为理论探讨提供了新鲜的实践素材。 关于主体资格问题，法院认为，随着科学技术的迅速发展，人工智能产物在复制、形态乃至表现方法上接近自然人，但由于现实科学技术和产业的迅速发展水平，在法律主体方面不应该有突破。 但是法院认为应该对人工智能产物给予一定的法律保护。 因为那是值得传达的。

对于人工智能产物著作权定性这一极具争议性的问题，作为社会稳定器的法院认为采取比较保守和平衡的角度是合适的。 另外，如果人工智能生成物不被认为是作品，相关主体为了将好处最大化，很有可能隐藏相关成果是人工智能创作。 这样的结果是强迫人们“恶”，即通过制造虚假来回避法律，由于在外观上无法认识，人工智能产物最终受到著作权法的保护。 不应该比堵车稀疏，也应该适用于人工智能生成物的法律规制行业。

现在有些国家积累了一点经验。 如英国《1988年版权、设计、专利法》所规定，对于电脑生成的复印件、戏剧、音乐、艺术作品，作者必须是为其作品创作作出必要安排的人。 由于该条款具有一定的开放性，赋予法院很大的自由裁量权，对比较有效地保护人工智能产物的著作权发挥了积极的作用，我国的立法也值得借鉴。

算法管理谨慎、灵活

□曹建峰

随着人工智能技术的迅速发展，数据和算法的结合开始对我们的生产生活产生广泛的影响，从新闻个性化到金融、就业、司法等行业的自动化决策到汽车驾驶等。

但是算法的应用给人们的生活带来了便利，也带来了算法歧视、责任、安全、滥用、伪造等一系列法律、伦理、社会问题。 国际社会开始呼吁建立算法管理，实现算法的透明度和问责。 这需要考虑一些问题，包括:。

第一，算法实际上是非常广义的概念，所谓的算法管理是比较机器学习等人工智能算法在特定行业中的应用，因此确定概念是算法管理的起点。

其次，算法管理需要包含谨慎灵活的思路，技术和商业模式需要迅速重复，草率立法不能期待正面的效果。 而且成文或专业立法可能很难跟上技术的迅速发展，因此应该不进行严格细致的法律要求，用事后监督管理或标准、领域条约、伦理框架、最佳做法、技术方针等方法调整算法。

第三，算法的透明度不说明算法的各步骤、技术原理和实现的细节，即使简单地公开算法系统的源代码也不能提供比较有效的透明度，相反威胁数据的隐私或算法 像欧洲联盟的《常规数据保护条例》( gdpr )那样，我们不要求解释特定的自动化决定，而是只提供关于内在逻辑的有意义的消息，要求说明自动化决定的重要性和预期结果。

第四，算法管理需要等级分类的监督管理机制，例如欧盟、加拿大等呼吁对政府和社会公共部门采用的算法系统进行比较严格的监督管理，包括建立“算法影响判断”机制。 对商业行业的算法系统，越来越多的机制在事后追究法律责任，以免过度的监管影响技术创新。

因此，我们看到社会各界以伦理的方式推进算法的管理。 在国际层面上，欧盟、oecd、g20等提出了人工智能的大致内容，目标是在国际上达成共识。 在领域一级，谷歌、微软、腾讯等提出了各自的人工智能伦理的大体，积极承担伦理责任，实行科学技术的改进，不非法利用或滥用算法。 展望未来，我们需要通过广泛的社会参与和跨学科研究判断的方法实现对算法应用的良好管理。

限制自动运行的天花板请抬起。

□邓熙坤

对于自动驾驶这一新生事物，立法必须密切注意跟踪快速发展动态，然后适当立法，而且早期立法应以奖励为主。 关于目前中国自动驾驶的迅速发展状况，一点城市已经发布了相关法规政策，允许自动驾驶车在城市的低速公路上进行道路测量，但依然有很多规定严重妨碍了中国自动驾驶的迅速发展，如自动驾驶车在高速公路泰 另外，如果不能在多个场景、更多的复杂路面上进行测试，则很难使自动驾驶技术和相关算法模型迅速成熟。 作为作业者，希望通过现在的法律规定举起天花板。 当然，这个过程一定会出现一点问题，但如何定义各方的责任很重要。 这促使企业降低发生问题的概率，而不仅仅是限制。 如果过分强调绝对不成问题，就意味着自动驾驶绝对不会迅速发展。

在根据法律政策推进自动驾驶技术的迅速发展方面，也要密切注意领域的迅速发展，如果发现有可能对人类造成极端破坏，就必须尽快制定法律法规加以限制。 以其他领域为例，例如，年发表的基因编辑儿童是非常可怕的例子，对于技术改革创新带来的这种极其负面的事情，必须尽快立法确定法律红线。 但是，在现在的自动驾驶行业的人工智能技术中，看不到对人类潜在的巨大危害的风险。 (复印整理:本报记者马树娟)

制图/高岳

标题：热点:人工智能依法规制难题待解网络法治频道    地址：http://www.leixj.com/gy/2021/0325/43313.html