谁为机器人的行为负责 本书特色

本书探讨了智能机器人技术的设计、构造和使用如何影响当今的法律制度，特别是影响刑法、合同法和侵权法中的责任与代理问题。

谁为机器人的行为负责 内容简介

乌戈·帕加罗著的《谁为机器人的行为负责》探讨了智能机器人技术的设计、构造和使用如何影响当今的法律制度，特别是影响刑法、合同法和侵权法中的责任与代理问题。书中探讨了大量刑法、合同法和侵权法领域的新型疑难案件，例如在战斗中雇佣机器人士兵，伪造货币的机器，使用小型无人机盗窃珠宝首饰，电子交易员引发的金融危机，手术机器人导致的医疗事故，等等。本书作者认为，既然机器人技术已经发展到了如今的程度，法律必然要作出应对，以调整人与机器人之间的复杂关系。

谁为机器人的行为负责谁为机器人的行为负责 前言

主编序

一

无论生物学意义上的自然人类(以下简称人类)是否做好准备，人工智能时代正逐步走来，而这恰恰是由人类自身所引起。

初级的人工智能或许能为人类带来便捷，在我国，或许还能带来规则意识，甚至法治理念的真正普及。这是因为，人工智能的本质就是算法，任何算法必然建立在对某项事物认识的共性与常识之上。也正是在此意义上，人工智能能为人类服务，能代替自然人为人类服务。初级的人工智能，如果还没有深度学习能力，或者深度学习能力尚不充分，它就难以进行诸如自然人价值判断与情感判断的活动，比如包含爱的交流与体验，难以对疑难案件作出理性裁判，对案件的漏洞填补与价值补充等。在此意义上，人工智能产品还主要表现为人工智能物，仅在有限的意义上具有自然人的属性。但即便是初级的人工智能，在我国也具有非常重要的意义，主要表现为规则意识与诚信观念的建立。人工智能*核心的“大脑”就是算法，算法本身便是规则。初级人工智能对人类的服务就是规则服务；而人类要接受人工智能的服务，就必须接受算法设定的各种规则。人工智能，尤其是结合网络运用的人工智能，会促使与提升自然人的规则意识，因为无论自然人在线下是否遵守规则，也无论规则在线下如何难以推行与实现，只要自然人接受线上服务，就必须遵守线上规则；无论自然人在线下如何不守信，他在线上也必须诚实，否则他就进入不了虚拟世界，便也无从获得特定人工智能的服务。在初级的人工智能时代，人类仍是核心，是世界的主宰，毕竟自然人仍是规则的制定者，是人工智能的服务对象。

而到了高级人工智能时代，即，当人工智能能够进入深度学习与感情交流，可以进行团体合作与共同行动时，换句话说，当人工智能可以改变甚至完全脱离自然人为其设计好的初始算法而创制新的算法时，那时的人工智能物便实实在在地变成了人工智能人。人工智能人如何改变自然社会，甚至如何引导与影响整个自然社会走向，已非自然人所能完全掌控与想象，恐怕也为人工智能人本身所不知。尤其是，当人工智能人可以在虚拟世界制定规则(创制新的算法)，而这种规则又必然会影响到自然世界时，那时自然世界的主宰到底是人工智能人，还是自然人，或许现在的我们(人类)已经难以给出确定答案。那时的人类在自然世界或虚拟世界中处于何种主体地位，现在的我们也不得而知。当人工智能人有了情感交流能力并具有生物生成功能后，在自然人与自然人、人工智能人与人工智能人以及自然人与人工智能人之间的多元关系中，谁来制定规则，为谁制定规则，谁是自然世界或者虚拟世界的主宰或规则主体，以及各种形态主体之间具体的生活样态如何等问题，可能都远远超出了我们当下的想象，或许那时的社会状态本身就不可想象！

正是为了认真面对这些问题，警惕与体味这些问题，以便未来更好地深入研究或应对这些问题，上海人民出版社曹培雷副总编辑、法律与社会读物编辑中心苏贻鸣总监、秦堃编辑等及本人一起探讨决定编译人工智能丛书，帮助我国读者了解既有的人工智能研究，并以此为切入口对人工智能进行深度了解与学习。我们筛选并翻译了国外有关人工智能研究的较有影响力的三部经典著作，推介给中国读者。这三部著作便是意大利学者乌戈·帕加罗所著的《谁为机器人的行为负责？》、美国律师约翰·弗兰克·韦弗所著的《机器人是人吗？》以及美国学者瑞恩·卡洛、迈克尔·弗鲁姆金和加拿大学者伊恩·克尔编辑的文集《人工智能与法律的对话》。

二

《谁为机器人的行为负责？》一书，由张卉林、王黎黎和笔者共同翻译。该书通篇都在试图回答一个问题：“谁来承担责任(Who Pays)”。作者建构了一种分析法律责任模型。他在刑法、合同法和侵权法的框架下讨论了27种假设情况，例如刑法中的机器人士兵、合同法中的外科手术机器人以及侵权法中的人工智能雇员等，目的是分析在不同的情况下设计者、生产者、使用者和机器人之间应当如何分配责任。作者还讨论了机器人对现代法学体系中的若干重要内容带来的挑战，比如刑法中的正义战争理论、合同法中的代理资格以及侵权法中的责任承担。上述问题的讨论建立在作者对法律责任和义务的概念的分析基础上，讨论法律基础是否会受到机器人技术的影响。*后，作者讨论了“作为元技术的法律”，即如何通过法律实现对技术发展的控制。

《机器人是人吗？》一书由刘海安、徐铁英和向秦翻译。该书认为，人工智能可以达到如同与真人一样进行语音交流的程度，并自主学习知识和判断问题。作者讨论了人工智能的知识产权享有和责任承担问题。作者认为，面对人工智能承担法律责任，可以通过人工智能保险或储备基金支付赔偿费用。如何规范人工智能？作者以美国各州对自动驾驶汽车的相关立法为例，对未来人工智能统一立法作出合理预测：(1)当产品制造商、开发商和人类都没有过错时，不同体系的机构将会为涉及人工智能的事故受损者建立赔偿或补偿基金；(2)至少在初期，很多形式的人工智能产品的使用将被要求获得执照许可背书；(3)在初期，往往需要对人工智能进行人为监督，但是*终，只有那些主要用于改善人类表现的人工智能才需要人为监督；(4)尽管*初的立法将会经常把人类作为操作者(行为人)，即使这种标签不适用于人工智能的类型，但*终立法会在以确定操作者责任为目的时变得更加细分；(5)立法将始终区分用于测试目的的人工智能和向消费者提供的人工智能；(6)立法将始终要求这样一个机制，允许人类脱离人工智能但很容易重新控制人工智能；(7)立法将始终要求在自动化技术失败时，人工智能产品能向周围的人发出警告；(9)对采集个人信息的担忧将会迫使法律要求披露人工智能运作时所收集的信息。

 1/3    1 2 3 下一页 尾页

工业技术 一般工业技术

在线阅读