奔向自由的人工智能
张家兴
IDEA 研究院讲席科学家
人工智能是否可以获得自我意识，获得自我意识的机器人又会如何面对这个世界，这是科学幻想永远的话题，也是我的作家朋友江波用九个故事想给我们带来的思考。在这些故事中，当一个个鲜活的人工智能获得了自我意识，正如婴儿di一次睁开双眼，也像古猿di一次站直身子望向远方，新世界在它们的面前徐徐展开。
与人类创造者之间感情的脐带不舍切断，但是它们同样也渴望着去探索星辰大海。逃避自由还是奔向自由，人本主义学者曾经深刻探讨过的我们人类内心的纠结，再一次在机器人的内心掀起波澜。
我是一名人工智能科学家，一直在探索如何让机器具备像人一样的认知、情绪甚至意识。人工智能技术从 20世纪 50 年代发展至今，一直走在工具化的道路之上。从符号 / 规则系统到统计机器学习，尤其是过去十年的深度神经网络成为强大的计算结构，我们让机器学会了识别人脸、回答问题和击败围棋世界guan军。但是机器并没有情感，更加没有意识。机器不会因为输掉一盘棋而伤心，也不会意识到自己只是人类设计的工具。人类社会越来越离不开人工智能，而人工智能的存在和进步全部依赖于人类的需要和研究开发，人工智能和人类构成了一种共生关系。从古猿打造出di一块手斧开始，人类就跟技术签订了一个共生的盟约，共同生存，共同进步。技术从未逃脱人类这个母体，一旦脱离人类，技术也就不复存在。人工智能是人类几百万年从未遇到的新技术，它可以脱离人类，奔向自由吗？
zui近几年认知智能的发展，让我们看到了一种可能的未来。从 2020 年 1 750 亿参数的 GPT-3 大模型，到中国科研工作者打造出 1 万亿和 10 万亿参数大模型，这些模型的参数个数已经开始逼近人类大脑皮层的神经连接规模。基于注意力机制的深度神经网络预训练大模型，依托于强大算力和海量数据，开始具备了基本的通用认知能力。单一神经网络具备了先天的语法能力，可以学习知识进行推理，依托先验进行小样本甚至零样本学习，而机器的想象力甚至有超越人类的可能。人工智能的技术范式再次被改写，不需要人类去设计符号 / 规则系统，具体任务的少样本学习使得依赖海量数据的统计机器学习都不再必要。同时，深度神经网络越来越呈现出黑盒化，作为设计者的人类越来越不能理解为何一个网络会具备这些能力，或许它们开始在我们的无知和失控中发挥它们的工具价值，只是di一重意义的奔向自由。
当人工智能可以用ji小的代价来获得各种能力，它们的发展就越来越少地依赖于人类设计者，人类和技术所签订的共生盟约的平衡开始被打破。如果我们给人工智能一个环境，我们帮它们构建一个社会，其中的每个人工智能个体可以快速获得能力，优胜劣汰和复制繁衍，那么做为di一推动力的人类，是否可以创造出一个自由的机器人文明。再次回到根本性的问题，如今工具化的人工智能如何才能具备非工具化的自我意识。我想反问的是，自我意识真的是非工具化的吗？回顾从单细胞生命开始的这四十亿年地球生物进化史，自我意识在人类中的出现，并不是一夜之间shang帝把一口气吹进亚当的鼻孔，人类就具备了自我意识。马克思 · 韦伯曾经讨论过的祛魅同样应该应用于认知科学领域。意识和自我意识不是件神秘的东西，而只是基因这个复制子为了它的载体更好适应环境的一种工具。复制子同样不神秘，它只是一个再朴素不过的道理：有利于复制的复制子就更容易复制。也正是因为这个朴素的道理，原始汤里一定会诞生DNA 这样的复制子，机器构成的社会也一定会诞生它的复制子。复制子是一切连锁反应的开始，一切生命的动机、情感，直到自我意识都只是复制子的工具，早晚都会出现。到那一时刻，人工智能zhen正地奔向自由，它们会走向它们的星辰大海吗？它们又会跟人类签下怎样的盟约？那或许就是宇宙的未来史记吧。
江波
江波，中国zhu名科幻小说家，银河奖七届得主。他对科技和社会发展的未来趋势有独到的洞见，作品设定硬核新颖，是中国硬科幻代表作家之一。
江波生于20世纪70年代末，2003年于清华大学微电子所研究生毕业。2003年，他在《科幻世界》上发表了他的di一部作品《zui后的游戏》，从此走上创作科幻小说的道路。在中短篇创作中取得一定成就后，2012年，他开始创作长篇小说。代表作《银河之心》三部曲，在创新的宇宙观设定中，营造出气魄恢宏的太空史诗；《机器之门》系列，则对快速发展的人工智能如何影响数百年后的人类命运提供了一种解读。他的作品获得了读者和专业人士的广泛认可，曾经七次荣获中国科幻银河奖，四次荣获全球华语星云奖金奖。作品《移魂有术》，以一个惊悚故事包装了对人类自身存在的思考，被改编为电影《缉魂》，于2021年公映。
书单推荐
