热点:遏制人工智能算法的公共妨害网络法治频道

本篇文章2847字，读完约7分钟

□唐林垚

年4月5日，美国密歇根州4万居民向州政府提起了集体诉讼。 事件的原因是密歇根州政府利用集成了防止欺诈算法的综合数据化系统“米达斯”( midas )审查了该州的失业津贴申请，决定申请人是否欺诈，进行了处罚。 米达斯系统的错误率高达93%，4万多名申请人受害。 如果州政府在这场长期诉讼中败诉，密歇根州将再次“破产”。

在美国人工智能的利用史上，这不是第一次，而是由于不合理的算法设计给公众造成了极其严重的损害。 年，美国纽约州停止了采用防止家庭暴力的儿童保护预测算法。 这个算法曾经使数以万计的正常父母与其孩子分离。 其理由是算法根据数据观察这些父母有“严重的家庭暴力倾向”

算法治理的法律正当性基础

算法是人工智能应用的逻辑、核心和行为习惯。 以软件为载体，滋养大数据人工智能算法也已经悄悄地渗透到中国市民生活的方方面面——社会交流媒体包括电子身份(微博、微信、知乎)、移动软件决策活动的轨迹(高德、携程、滴滴)、电子黄页 智能金融是货币财产(智能区投、区块链、在线金融)、在线拷贝食片段时间(大数据驱动算法打破了现有的权利结构，不断改造社会关系，迈向以前传来的社会管理系统的科技型社会管理系统

对于算法可能给专业大众带来的潜在“集体危害”，学术界和实务界没有足够重视。 现在的算法干扰管理主要集中在合同的方向性上，强调利用算法程序的人和组织形式的透明性和无过失的侵权责任，除了几乎不贯通合同关系以外，算法程序给部分群体乃至整个社会带来了 与如何定性通常受到干扰的算法的公共干扰不同，应该遵循什么样的管理路径是为了为算法的公共干扰提供最佳的制度安排，确实是现在必须考虑的重大问题。

与一般合同侵权不同的算法“公共干扰”

算法应用的初衷是节约价格，提高效率实现技术普适性。 在非结构性数据破坏性收集和利用过程中，算法可能会对提供直接服务的商业客户和最终用户造成损害。 例如，运营商为了提取越来越多的佣金，对人工智能投资顾问进行编码，向顾客出售评级更低的债券。 移动软件计划不同的行驶路线，以特定地区堵车为由，有意让顾客通过支付宣传费的新百货商店。 各大搜索引擎向最收费的第三者出售关键词，刊登虚假的误解消息，对顾客的权益和健康造成了巨大的损害。 幸好以前传达的侵权责任规定和信义义务的创设足以应对很多算法干扰的情况，基本上可以在合同对方的框架内处理问题:按照“长臂规则”向算法运营商直接问责，是这样的。

在合同关系之外，算法很可能会给无辜人民带来意想不到的公共干扰。 所谓“公共干扰”，就像最典型的广场舞乱民一样，是指扰乱公共秩序、损害公共利益的行为。 算法的公共干扰可能会导致极其糟糕的结果。 除本文开头的例子外，算法在其他行业的公共干扰也不胜枚举。 例如，利用算法进行高频交易的证券企业有可能引起市场崩溃，受影响的不仅仅是交易对方，还包括全体国民经济的参加者。 长期以来，遵循特定算法向客户复制和推送的媒体软件形成了参与者的“新闻茧室”，降低了整个社会的知识。 在另一种情况下，算法可能对公众的危害更为秘密和致命，哈佛大学教授乔纳森·斯特线表示，Facebook ( Jonathan Zit Train )将长时间利用算法对跨国客户数据进行

总的来说，算法的公共干扰比合同关系内的侵权责任严重得多。 算法的公共干扰，就像工厂活动造成的环境污染一样，本质上是外部性扩散导致的社会价格向一般大众和弱势群体的不合理转嫁，伴随着公共数据系统的污染。 算法规制的终极目的是在不牺牲社会福利的情况下利用法律杠杆使算法运营商和技术开发者尽量内部化这一部分的社会价格。 因此，法律兼顾科学技术快速发展的动态效率和合法权益的静态保护，构建以人为本的道德至上的法律框架，适当限制技术黑匣子背后的合同私法自治，最终实现算法应用和社会管理的正向融合

算法“公共干扰”的管理方案

算法对公共干扰的管理应该从以下三个方面开始。

第一，应该加强重视预期效果的新闻公开，对算法运营商要求更高的透明度。 无论是集体还是个人，比较算法都妨碍提起民事诉讼面临与通常的公共干扰行为完全不同的举证困难---由于技术壁垒，原告方面直接关系到自我证明看起来中立的算法程序和自我权益的损害之间 算法应用中的新闻特征者需要对技术黑匣子的运营方法和审判机制进行外行也能理解的新闻公开。 新闻公开的核心是算法决定的运算、逻辑和分解过程，而不是源代码本身。 算法运营商需要对新闻发掘的数据源、典型特征、分类方法等进行积极、明确、直观的新闻披露。 算法程序的工作原理、代码逻辑和预期的效果可能存在的系统偏差、运行故障、修正机制。

第二，确保责任主体链的跟踪识别，为将来的责任划分留下充分的记录。 算法公共干扰的背后是盘根错节的法律关系和由此产生的许多潜在责任人。 现在，随着机器学习的进步和智能平台的相互开源，许多算法主体已经完全脱离了其创造者的默认值，但还没有获得独立的法律地位，这许多复杂性都在损害赔偿诉讼中 如果人工智能尚未被视为独立的责任主体，技术开发者对算法干扰负有首要责任，只有在说明公共干扰是由算法运营商的不当录用或拙劣的改变引起的情况下，才能免除这种责任。 另一方面，应该建立算法程序的“法律标识符”，实现对算法运用的效果跟踪和事后监督管理，最终让算法运营商事先排除一些“隐祸之心”功能的配置。

第三，必须保障特定算法程序中个人参与者的自主退出机制，为科技公司科设定更高的合规阈值。 在算法干扰中，侵害者必须通过投诉和诉讼等方法，允许算法运营商和技术开发者利用技术手段消除影响，恢复名誉，使个人特征在算法应用中“不恶化” 立法者可以参考欧盟共同数据保护条例( generaldataprotectionregulation )的立法实践，赋予侵害者无限制的清除权和遗忘权，脱离算法的公共干扰或恶意煽动。 另外，依赖智能算法提供复印推送的科技公司不得擅自形成复印对象的“新闻茧室”。 理解顾客的喜好时，以一定程度以上的特定比例推送与该喜好不同的视点和复印件，维持对象新闻接收的多样性和丰富性，防止智能算法对单一拷贝对象的不当训练。

结语

强调算法载体和技术开发者的公共责任，与国务院人工智能的快速发展计划一致。 人工智能算法具有显著的溢出效应，合理的运用可以使经济社会各行业从数字化、互联网化加速到智能化，实现社会、经济、生活的全面管理。 先进的法律制度可以建立防火墙，以免算法的应用造成压力。 本质上，这是“治理管理”。

总之，比起对当事人的“故意侵害”，算法更应该关注契约关系以外的一般大众的“公共干扰”。 如果某个中立算法的应用可能因时间或范围的叠加而上升到对整体社会利益的累积侵蚀，则该算法的应用暂时产生了极高的经济利益，即使为市民生活提供了相当大的便利，也立即受到重要的监督

(作者是中国社会科学院法学研究所的助理研究员，是博士后。 本文是中国社会科学院国情调查重大项目“网络金融风险法律规制”的阶段性成果)

标题：热点:遏制人工智能算法的公共妨害网络法治频道    地址：http://www.leixj.com/gy/2021/0324/43165.html