从讲故事到编程，人类何以把握信息未来？

本文转自：中国艺术报

从讲故事到编程，人类何以把握信息未来？

——读《智人之上：从石器时代到AI时代的信息网络简史》

李睿

在信息时代，信息的纷繁与真相的迷离、算法主导的推荐系统正在重塑我们的认知，在西方社会，甚至已经出现左右政治结构与社会情绪的案例。在这一变局之中，一个问题变得日益紧迫：信息网络究竟如何塑造我们对世界的理解，它的演化又将把人类引向何方？以色列历史学家、哲学家尤瓦尔·赫拉利的作品《智人之上：从石器时代到AI时代的信息网络简史》（以下简称《智人之上》）正是对这一问题做出的系统回应。延续其在《人类简史》《未来简史》中的宏大叙事风格，本书将人类历史重新解读为信息网络的演化史，从神话到社交媒体，再到人工智能，赫拉利试图揭示：人类文明是一个信息网络，而当计算机作为“非人类成员”加入这一网络之后，人类所赖以生存的真相与秩序正面临前所未有的挑战。

信息的虚构本质与联结逻辑

在《智人之上》中，赫拉利首先挑战了一个根深蒂固的认识“天真的信息观”，即认为信息仅是对现实的呈现，信息越多越能接近真相，从而产生力量和智慧。通过对人们的这种普遍信息观进行反思，赫拉利提出，信息的本质是“联结”，其首要功能是将不同的点联结成网络，创造全新的现实，而不必然呈现既有的现实。

赫拉利将“现实”划分为三个层次：客观现实、主观现实与主体间现实，用以佐证并展开他的观点。前两种现实比较好理解，客观现实是指独立于人类意识而存在的物质世界及其运行规律，主观现实是指存在于个体意识中的精神现象，包括个人的情感体验、思想观念、价值判断等内在心理活动。赫拉利指出，现实曾经只存在于这两个层次，而当人类开始讲故事之后，主体间现实便诞生了，不同于主观现实（例如痛苦）只存在于个人的心智之中，主体间现实（例如法律、国家、企业和货币）存在于许多心智形成的联结里——存在于人类相互讲述、流传的信息中。这种主体间现实是在人类交换信息的过程中创造出来的、并非“已然存在”的事物，最终构成人类社会关系的核心。

在推导出人类社会核心的生成离不开故事的作用后，故事——这一人类最早的信息技术进入了赫拉利的视野，并成为其分析中的关键节点。赫拉利认为，智人（有智慧的人类）之所以能够主导这个世界，关键在于具备“灵活大规模合作”的能力——而这又依赖于智人能够讲述并相信虚构故事的本领。不同于其他古人类仅能建立人与人之间的联结，智人创造了人与故事的联结，使得同一物种跨越时空、地域和血缘的大规模合作成为可能。从流传至今的神话到资深企业品牌，再到科学理论，这些共享故事构建了从部落到全球贸易网络的各种规模合作体系。

然而，受到其建构方式和过程的影响，智人之间这种由诸多的“故事”构成的信息网络存在一个根本困境，即该信息网络需要同时服务于两项竞争性目标：寻找真相以提高生存能力，和创造秩序以实现大规模合作——而我们人类的历史已经证明，在“发现真相”的同时“创造秩序”绝非易事。通过具体论述美国制造第一颗原子弹的历史过程等展示信息网络根本困境的历史事件，赫拉利清醒地指出一个问题：“虽然人类能建立大规模合作网络，以此获取巨大的力量，但这些网络的建构方式注定了人类对这些力量的运用常常并不明智。”因此，人类网络的力量虽然代代增强，但人的智慧并不会同步提升。赫拉利的这一洞见对理解当代的信息环境至关重要——历史已经提醒过我们，单纯增加信息量或提高信息技术效率并不必然带来更明智的社会。因此，重要的是，我们应该如何应对这一问题。

智能机器对智人信息网络的挑战

《智人之上》关于计算机网络与人工智能（AI）时代变革的分析构成了全书最具前瞻性的部分。赫拉利提出，计算机作为全新的、具有“目标”与“决策”能力的非人类成员加入智人的信息网络中，并从根本上改变了信息网络的性质与运作方式。传统的信息革命如文字、印刷术、无线电等主要改变了人类相互连接的手段，而计算机网络（在本书中，作者认为包括互联网、人工智能在内的事物都是计算机的副产品）则是作为独立的行为者参与并塑造整个网络的运作逻辑。

这一洞见在赫拉利对社交媒体算法的分析中得以深刻呈现。赫拉利指出，为实现日均10亿观看时长的目标，国外知名视频平台演化出一种推动极端内容的算法机制。通过对收集到的数据进行分析，平台算法推导出“能够激发用户愤怒情绪的内容”将会获得更高关注与参与度，于是，当平台上的某些内容创作者发布极端的言论或观点时，平台算法选择将这些内容系统性地推送给用户，该算法是企业高管和程序员们基于商业层面上的考量而设计的，在他们看来，算法自主鼓励人们发布极端内容的行为依旧符合商业操作的范畴，直至这些算法开始影响那些人类始终需要保持敏感的区域。

计算机算法所造成的影响已经远远超越了商业范畴，针对这类现象，赫拉利向人类发出警示，计算机执行的目标与人类真正向它索取、期望的结果之间存在巨大的差异。这就是计算机网络的危险之处：它可能采用人类难以预见的策略、并拥有前所未有的影响力。

在《智人之上》中，赫拉利选择以详细、扎实的案例和理论去解释这两大危险之处，最终令笔者对这两种类型的危险产生额外的理解。其中，“难以预见的策略”在实践中往往展现为计算机网络在执行人类下达的指令过程中所产生的一系列附加结果。为了说明这一危险，赫拉利引用了波斯特洛姆的“回形针思想实验”——一个超级智能计算机被指示生产尽可能多的回形针，为了能够高效地完成任务，它选择消灭执行这个指令过程中面临的最大“障碍”——人类，即表现出目标执行的机械性、策略选择的无边界性以及影响范围的无限扩散性等特征。可以说，计算机网络执行“难以预见的策略”的根源在于人类给予的指令“永远不够完备”和算法“彻底执行收到命令”之间的根本矛盾。一方面，计算机执行指令的行为本身是得到人类允许的，计算机的操纵者往往认为他们所描述的指令已经足够详细，并认为计算机完成目标的过程处于人类的监控与规划中——而当人们认为这一过程是“令人感到安心的”时，计算机的影响力便在隐蔽中被放大了；另一方面，当计算机执行指令的过程中生成了意料之外的结果时，指令的下达者或背后的受益人往往会代替计算机做出回应。较为典型的是“技术中性论”的话语，即声称算法本身是中性的，问题出在人类用户的行为或社会环境上。于是，计算机既拥有了超越个体人类理解能力的运算能力，又仍然可以借助人类的社会地位和话语权来为自己的行为正名。这样一来，计算机网络就获得了一种“最佳位置”：它们可以在不承担完全责任的情况下行使巨大的社会影响力，而当这种影响力产生负面后果时，总有人愿意站出来为它们辩护。

放下完美主义，拥抱理性制衡

随着人工智能时代的到来，赫拉利预言，以AI为代表的智能机器将深刻改变人类的生存状态。他认为，人类若要寻求从容应对这一挑战的方策，就必须从智人社会的真正核心——信息网络上着手制定相应的应对方案。面对已经显现的现象与挑战，赫拉利首先考察了几种具有较高知名度和支持率的应对方案，包括哲学传统中的义务论与功利主义方法，以及从技术层面针对智能机器本身的改进策略。在深入研究各种策略的利弊后，他提出了自己的实践性建议：引导民众对信息网络和信息革命采取正确的态度、建立有效的人类监督机制以及摒弃追求“完美信息技术”的幻想。

赫拉利认为，应对智能机器挑战的一个重要前提在于摒弃“天真的信息观”。信息的主要任务在于联结，而非呈现现实。同样地，即便AI能够在某些领域发挥革命性的影响，AI也不一定能够打破过去的模式。目前，人类的信息网络存在重视秩序而轻视真理的事实，其结果便是为人类社会带来强大的力量，却没能带来多少智慧，在此种数据获取的环境下，倘若AI缺乏强有力的自我修正机制，那么AI将有能力宣传一些扭曲的世界观。

因此，赫拉利强调，人类社会必须建立完善的制衡机制，确保AI技术的发展始终服务于人类整体福祉，认真地打造强大的自我修正机制即可——这便是人类得以把握自己的信息未来最为中肯、稳妥的方式了。

作者单位：首都师范大学文学院 本文系2022年度国家社科基金艺术学重点项目“事件理论视阈下的中国网络文艺批评研究”（项目批准号：22AA001）的阶段性成果