生成式AI幻象的制造逻辑及其超真实建构的文化后果

　　在人类文明史上，众多媒介都展现出天然的欺骗性，这种欺骗性使得媒介在中介化现实的过程中不断制造幻象。作为新型媒介的生成式AI，同样具有欺骗性，且其在制造幻象方面已超越既往所有媒介，具体表现为“AI幻觉”“模拟影像”和“深度伪造”等形式。基于概率和模拟的自动化生产的软件系统，构成了生成式AI复杂且庞大的欺骗机制，而具有物质属性的交互界面则将这些欺骗手段隐匿其中。生成式AI已经建构起一个“超真实”的世界，其幻象与鲍德里亚所预言的“分形文化”相对应。最终的文化后果是，在生成式AI构建的幻象宇宙中，真假与否变得不再重要，我们被引入一种“乐此不疲地制造幻象”的媒介环境与新文化形式之中。这种技术之恶的潜能可能被前所未有地激发。

一、真实、幻象与媒介再现

　　在进入媒介幻象、媒介的欺骗性与生成式AI的探讨之前，有必要厘清一个关键问题：何为真实？从哲学层面看，“真实”既是对“世界”的整体“真实”的诉说，又是对人的全面“真实”的追求。现代性与后现代哲学家对“何为真实”的命题存在巨大分歧。现代性强调“理性”与“科学”，认为真实是可知的、确定的和唯一的，而媒介可以再现真实。后现代性则基于生产过剩的后工业社会背景，执着于“解构”，认为真实存在但不可知，媒介无法再现真实。具体来说，现代性观点认为技术、科学、媒介和符号可以再现真实，而传统的大众传播媒介追求唯一、确定的真相和事实。然而，后现代哲学家用“拟像”和“超真实”的概念揭示“符号真实”与“客观真实”的断裂与僭越。

二、媒介的欺骗性与幻象制造

　　人类文明史上的众多媒介都天然地具有欺骗性。在口语文字时代，语言中充满谎言；进入印刷时代，古登堡印刷术带来机械复制，导致艺术作品“灵韵的丧失”；自工业革命兴起，电子媒介日益介入人类日常生活，其欺骗性特征愈加明显。电子媒介通过符号真实影响听众和观众，使得他们难以区分符号真实与客观真实。以照相机和摄像机为代表的影像媒介技术将“真实”以帧的形式存储、传输和呈现，但这并不代表现实世界的真实复刻，而是不断制造幻象。进入互联网和数字技术时代，数字媒介突破现实之维，使人类社会日益脱实向虚。计算机媒介以数据、算法与计算机图像为数字基础设施，重新创建了一个平行的虚拟世界。然而，在虚拟外衣之下，数字媒介的欺骗性日益介入人类日常生活，令幻象无处不在。

三、人工智能的欺骗性与生成式AI幻象

　　沿着媒介欺骗史的轨迹，我们发现生成式AI同样具有欺骗性，且其在制造虚假、错觉和幻觉等幻象方面已超越既往一切媒介。追溯构思人工智能的起点“图灵测试”，生成式AI的欺骗性变得有迹可循。图灵测试采用问与答的模式，如果计算机能够非常好地模仿人回答问题，以至于测试者误认为它是人而不是机器，就可以称这台计算机具备智能。这本质上是一种“欺骗游戏”，要求人工智能具备欺骗人类的能力。因此，“欺骗”成为生成式AI运作的核心。在这场欺骗游戏中，“如何表现得更像一个人”成为生成式AI的终极目标。生成式AI不仅学习人类利用语言说话和回答问题的能力，也同样继承了人类的缺点，但这并不代表其不够智能，反而说明它离终极目标更近一步。具体来说，在面对不会答或者不知道的问题时，以ChatGPT为代表的生成式AI会“说谎”，在生成文本的过程中“一本正经地胡说八道”。这被称为“AI幻觉”，包括内在幻觉和外在幻觉两类。内在幻觉指AI生成的输出与输入内容相矛盾；外在幻觉指生成内容的正确性无法从输入内容中验证。

四、自动化生产、交互界面与生成式AI幻象

　　生成式AI的欺骗性和幻象根源于媒介技术。电子媒介时代的媒介欺骗性与幻象制造主要依赖媒介的物质性基础以及特定的操作手段和运行机制。而数字媒介则拥有更为复杂的软件系统，软硬件系统共同决定着其制造幻象的方式。进入人工智能时代，“AI幻觉”“模拟影像”和“深度伪造”等生成式AI幻象的出现并非偶然。构成生成式AI欺骗性的技术涉及软硬件两套系统：基于大数据、多模态大模型、自然语言处理和神经网络算法等实现自动化生产的软件系统；以及交互界面等硬件设备。基于字符串和补丁的文字编码、影像编码和机器深度学习，生成式AI的自动化生产变得“智能”，但实际上这只是一种基于概率计算组合并围绕文字、图像和视频展开的“接龙游戏”。生成式AI的软件系统擅长于生成与真实事物、物理世界表面近似的答案，但其回答与事实内容很容易发生断裂，从而使得所答非所问。而基于概率和模拟的自动化生产的软件系统只是使生成式AI变得更为“拟人”，优先取悦人类反馈而非基于事实逻辑实现内容生成的原初设定使人类极易陷入软件系统所设定的互动圈套。

五、生成式AI幻象与超真实建构

　　鲍德里亚将“拟像世界”分为四个等级或序列：仿造、生产、仿真和分形。当下数字媒介制造的幻象对应着第三序列的拟像——仿真阶段。而生成式AI则对应着第四序列——分形阶段。在分形阶段，符码按照分形系统的内在逻辑永无止境地分裂、再生和扩散，客体完全被符码取代。随之而来的是真实的消失和价值形散。最终结果是差异终结：所有的系统和个体都在相互渗透中扩散开来，一种主要的力量是媒介以及更为普遍的传播。生成式AI幻象正对应着这种结果：真假的区分变得没有意义；在生成式AI建构的幻象宇宙中，“真与假”“美与丑”“善与恶”等二元参照对象消失；价值的流行或转换以及随意性增值和扩散取而代之；面对的是“真假反转”和“真假倒置”的现象比数字媒介时代的后真相更为普遍。“假作真时真亦假”。最终的文化后果是：价值的形散，“真假与否”变得不再重要；“善与恶”差异终结；技术之恶的潜能被前所未有地激发；生成式AI深度伪造存在引发个体生物识别信息滥用的风险；社会面临全面的信任危机。如何在生成式AI中破除恶意幻象、重识真实？如何钳制技术之恶、实现技术向善治理？这些问题将成为人工智能时代的重大命题。