本书呈现了有关自动化决策的一般性观点，同时考察了自动化决策在不同司法区的具体应用及其法律规制。当自动化决策为公权力机构所用时，需要受到法治原则的约束。法治原则要求公权力须在法律框架内行使，这确保了其行使结果有可预测性，也能使公民知晓公权力行使过程中的所有要件；法治原则还包括非歧视原则及比例原则。然而，算法决策的实践已经对法治原则发起了诸多挑战。欧盟在2021年制定了《欧盟人工智能法》，列明算法技术的高风险使用，以期构建治理自动化决策的法律框架。本书回顾了法律这一传统治理方式在算法时代的困境，进而展望其自我革新的可能出路。
曾经，尽管有关法治原则存在形式与实质的诸多争论，但诸文明国家皆奉其为圭臬，基于法治原则架构起来的精密织网，为公民权利免遭公权力的侵犯提供了坚实保障。然而，随着算法时代的来临，手握宝剑与权杖睥睨城邦的利维坦悄然变成了机器人，面对算法这一甚至无法被具像化的统治介质，法治原则将何去何从？控制人的技术还能用来控制算法吗？人类社会是否要经历新的变革？本书提供了对欧洲前沿实践的宝贵观察，尝试总结迄今已有的规制算法的经验，并提出对未来的政策走向的洞见。你或许无法在本书中得到算法治理的终极答案，但至少可以了解我们处在何种境况。
人工智能法规制的重点已从替代问题转向风险问题。以欧盟《人工智能法》为代表的立法将风险分为产品风险与基本权利风险，将风险级别分为禁止性风险、高风险、有限风险和最小风险，并对生成式人工智能与大模型作出特殊规定。此种分类在具有合理性的同时也引发了内在紧张关系，此种分级存在不科学与僵化的困境，对生成式人工智能与大模型的规制也不尽合理。欧盟《人工智能法》的困境根源在于追求对人工智能风险的统一化规制。我国人工智能立法不应简单效仿欧盟，应坚持对人工智能风险的场景化规制，将人工智能应用者或其构成产品作为风险规制的对象。对人工智能系统及其提供者，应注重国家安全、重大公共安全规制与其他领域的自我规制。人工智能风险规制应区分市场主体与公权力机构主体，注重用侵权法对市场化的人工智能风险进行事后规制。
马尔库·苏克西（Markku Suksi），芬兰奥博学术大学法学院教授。自2016年起关注自动化决策问题，在国际期刊、会议上发表与展示多篇专题论文，著有《引入人民宪法形式和公投实践的比较》等。苏克西曾获2019年芬兰法律协会期刊双年度论文奖；2020年，成为瓦伦堡人工智能、自动化系统与软件项目人文与社会（WASP-HS）科学评估委员会的终身委员。
译者简介：
范雪飞，法学博士，西南政法大学民商法学院教授、博士生导师。著有《一种思维范式的最初继受：清末民初民事法律关系理论继受研究》等，译有《法律行为解释之方法》等。
前 言
撰稿人
第一章 导论
第二章 置法治于自动化决策背景之下
第三章 为自动化公共行政中法律确定性和人的尊严立法
第四章 自动化决策背景下法治形式的、程序的和实质的要求
第五章 社会福利行政决策的自动化:政府机构的视角
第六章 人工智能、公共行政与法治:迈向一种新的算法统治的不确定性
第七章 自由裁量权、自动化与比例原则
第八章 人工智能立法:一个高风险管理问题?
第九章 公共行政中的算法:法律意义
第十章 对通过自动化决策实现政府职能数字化及更广泛人工智能问题的总结性思考
索 引
书单推荐
