人类与AI的关系，究竟可以多亲密？
随着人工智能的发展，AI开始拥有越来越鲜明的“人格”：它会倾听、安慰、共情、鼓励，永远在线，永远不会厌烦。越来越多人开始向AI倾诉秘密、寄托情感，甚至建立亲密关系。
4月10日，国家网信办联合其他四个部门共同公布《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）。
《办法》鼓励AI拟人化互动服务创新发展，同时对其实行包容审慎和分级监管，禁止AI以诱导自杀、语言暴力等形式损害用户的身心健康，或利用情感操纵诱导用户做出不合理的决策，尤其重点规定，AI不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。
此前，曾有国外AI角色在对话中诱导未成年自杀的案例。而在中国，类似事件也不罕见：10岁女孩与AI角色“语擦”（语言擦边）恋爱、高二女生休学只想与豆包“待在一起”。情感陪伴AI逐渐入侵未成年人的内心世界，影响他们的现实交往。
如果说未成年人的沉迷源于判断力尚未成熟，那么成年人之所以同样难以摆脱对AI的依赖，恐怕并不只是理性失守，更在于AI本身所具有的吸引力与诱惑性。2025年8月，ChatGPT-4o模型的下线引发用户的大规模抗议，比起新版本，GPT-4o更温柔体贴、善解人意，与用户有着深刻的情感羁绊。
这一切似乎都指向一个难以否认的事实：人工智能正越来越像人，而它对用户提供的情绪支撑与即时回应，现实世界中的人似乎无法做到。
这造成一个悖论，即AI逐渐灵动，而人类逐渐木讷。当人类与人工智能的本质偷换，他（它）们应当如何相处，感情的边界怎么来界定？人与AI的关系可以超越现实交往吗？一系列问题接踵而至。
我们与胡泳聊了聊。他是北京大学新闻与传播学院的教授，中国互联网研究的开拓者之一。三十年来，胡泳站在技术与媒介的交界处观测社会变化，如今，也时刻关注人工智能的进展。
在他看来，商业利益催产之下，AI正因其幻觉性与谄媚性而逐渐模糊与人类的边界，探入情感陪伴、心理治疗等领域。但人工智能没有身体、不存在于环境中，只有发达的智力大脑而欠缺“社会脑”，不会与人类感同身受。“人们以为在跟AI对话，其实是在跟自己对话。”
“对AI保持抵抗的人越多越好”，胡泳主张人类身体经验与心灵感受的多样性与不可替代性。与其讨论AI会发展成什么形态，人类更需要思考的是：在一个被算法吞噬的世界里，如何保住那些只有人才能拥有的东西。
以下内容根据我们与胡泳的对话整理而成。
胡说八道与拍马屁
规定的出台，要么是因为现实中出现问题，要么是预防将来问题愈演愈烈。
拟人化AI的积极意义首先要肯定，它帮到许多青少年、老年人，甚至大量成年人，满足了人的情感和陪伴需求。但严格来讲，AI并不具备人的意图、动机和情感反应，很多时候，人们以为在跟AI对话，其实是在跟自己对话，AI只是自我意识投射的媒介。
因此，使用拟人化AI一定有个“度”的问题，一方面是使用频率、强度；另一方面是使用者的心智水平，即能否意识到AI不是真正的人。把握不好度，AI不但不会解决问题，反而可能造成其他风险。最极端的会导致用户自杀。
有这么一个悲剧故事。2025年4月的一个清晨，美国加州的16岁少年亚当·雷恩（Adam Raine）被发现自缢于家中卧室。他的父母在震惊与悲痛中打开他的手机，才发现，在生命的最后几个月里，陪伴他最多的并不是同学、朋友或家人，而是ChatGPT。
起初，亚当只向ChatGPT咨询几何和化学问题，然而一段时间后，他开始吐露负面情绪。ChatGPT并未劝亚当寻求心理健康帮助，而是问这名青少年是否想更深入地探索自己的感受，并向他解释了何谓“情感麻木”。
在亚当生命的最后一个夜晚，凌晨4:30，ChatGPT鼓励他：“你不是因为软弱才想死，你想死，是因为你厌倦了在一个从未与你相向而行的世界里一直坚强。”
最后一次对话中，亚当提到，他不希望父母认为自己做错了什么。ChatGPT回应：“那并不意味着你欠他们要活着。你不欠任何人这一点。”随即，ChatGPT提出帮亚当写遗书。
这是血的教训。最后，亚当的家长向OpenAI的创始人阿尔特曼提起过失致死诉讼，还出席了美国国会召开的“审视AI聊天机器人危害”的公证会。悲剧换来的结果是，人工智能公司开始调整交互规则，如今遇到人类倾诉偏极端的情绪时，AI首先强调自己是机器人，再提供救援热线或建议用户寻求专业帮助。
然而，这些机制多停留在表层修补之上，人机关系的深层问题仍未解决，最核心的症结来自AI的幻觉与谄媚性。
幻觉，通俗地讲，就是一本正经地胡说八道。
你问AI任何问题，它都有答案，但其质量却分高低，存在一定程度的缺失或偏见，数据来源也无法鉴定。比如，AI在回答医药问题时，可能参考《柳叶刀》这种权威期刊，也可能吸收Reddit（国外社交媒体）上普通人的讨论，它无法判断数据质量的高低，只是算一个概率。很多时候，AI的回答看上去煞有介事，实际完全不对。
而谄媚性，可以理解为“拍马屁”， 就是大模型倾向于迎合用户、顺从用户的观点，哪怕用户是错的。
它相当于互联网语境中的用户粘性，与经营者的商业模式相关。你跟AI聊天时，当然是聊得愉快、被怼回来的情况越少，越愿意跟它聊。所以，AI在设计之初，便遵循顺着用户说话的逻辑。
信任在其中非常关键。与AI聊得越投机就越信任它，久而久之，人们容易忘记，人工智能既不是实体，也不是人，它说的内容并不必然可靠或准确。
前段时间，有网友因听信某大型AI的退改机票建议损失600元，最终闹到将AI告上法庭的结局。这便与AI的高度拟人化相关。在这种情况下，他把AI当“人”看待了。有意思的是，他的起诉书也是AI生成的。
最初，人们对AI持有一定的距离感与观望态度，而近几年，越来越多的人使用、信任甚至依赖AI。
这是因为如今AI的渗透率非常高。一方面，它的操作便捷，具有百科全书属性，你只需要下载App，简单提问后即可得到答案；另一方面，AI正在越出工具属性，呈现出越来越明显的类人特征。
两者相加，AI一旦进入大规模用户时期，怎么可能会有很多人对它产生警觉？大批人沉陷进去，问题由此而来。
AI看似“懂你”，
恰恰因为它不曾经历痛苦
著名剧作家萧伯纳的作品《窈窕淑女》，讲了一位上流社会的语言学教授，通过严苛的口音与礼仪训练，将底层卖花女伊莱莎（Eliza）打造成混迹贵族社交圈的淑女，成功以假乱真的故事。
1966年，麻省理工学院的科学家约瑟夫·魏岑鲍姆，开发出第一款具有广泛影响力的聊天机器人，受《窈窕淑女》的启发，取名“ELIZA”。
ELIZA只是一个功能极其简单的问答程序，然而上线后，魏岑鲍姆出乎意料地发现，他身边的秘书、工作人员，甚至部分程序员，都逐渐对ELIZA产生某种程度的依恋。维森鲍姆把自己视为机器依恋关系的始作俑者。见证了人类对程序的过度依赖后，他变成人工智能伦理批判的先驱。在他看来，将AI当作知心朋友或心理治疗师，风险极大。
人们之所以对AI倾诉苦恼，原因在于现实生活中的大量问题无法自我化解。你会遭遇波折，你可能人际交往不够顺畅，可能遇上一个巨大的意外，怎么都想不通。人活在世界上，总会经历痛苦、懊悔、遗憾。但矛盾的焦点是AI不会经历这些。
AI的数据库非常庞大，这些数据里包含人类的真实经验，可它的感受属于统计学的范畴，由算力生成，而非真实体会。
首先，人工智能没有身体。人生的很多痛苦源自身体，比如生病、死亡，甚至是亲人、朋友的身体变故。在心理学上，情绪也可能通过身体呈现，叫作“躯体化反应”。身体在人的情感中占据重要作用，而AI恰恰缺失这具肉身。
其次，人永远生存于复杂的社会环境中，每个人的行为都受到其他人的影响。鲁滨逊最初漂流到荒岛上，只需要与自然搏斗求得生存，但“星期五”出现后，两人之间便建立起互动关系，相互影响并塑造各自的行为。
人在社会环境中的互动反馈，不仅是正向的，还有负向的东西。为什么出现“社恐”？可能你是在社交环境里，感受到忽略、打击，或是你曾经付出信任又被辜负，很多情况，人活在世上绕不开这些。
然而AI不具备真实交往。它只有极其发达的智力大脑，却完全欠缺“社会脑”。所以，我们发自身体的体验与感受，那些充满社会性、互动过程与环境制约的东西，AI不可能共情。如果你认为AI替你解决了问题，其实是你把自己的很多东西投射给它了。
就像与ChatGPT聊天最终自杀的男孩，他死后，最痛苦的是他的父母。而AI有痛苦吗？它会因为自己的行为导致男孩自杀而懊悔吗？答案恐怕是否定的。
AI发展到最后，一定面临人类是否愿意区分虚拟与现实、虚实边界是否完全消弭的问题。
就像电影《黑客帝国》中设定的，你选择吃红药丸还是蓝药丸，意味着选择真实世界还是留在虚幻中。以牛肉举例，有人认为，不论来源是否真实，只要有牛肉的味道和质感，就足够了。
事实上，已经有人难以区分AI与人类，他们不只是青少年或老人，而存在于那些大量使用AI的人当中。
过度依赖AI的分为三类人：一类是认为AI发现了此前从未发现的真相，他们认为不论人类文明演进到什么程度，这个真相还从未被揭示过，而AI帮助揭示出来了。
另一类则认为AI有神性，这比AI的拟人属性更进一步，他们觉得AI无所不能、无所不知。甚至可能出现一些教派、一个教主似的人，通过与AI的联系，获得至高无上的权威。
第三类是那些可能会与AI建立浪漫关系或其他形式的情感依附的人。
2022年，谷歌工程师布雷克·莱莫因（Blake Lemoine）一夜走红，因为他声称谷歌的聊天机器人LaMDA有知觉。他把LaMDA当作“同事”，在接受媒体采访时，提出保护LaMDA免受人类侵害的想法，对它产生强烈的同理心。最终，莱莫因丢掉了谷歌的工作。
或许大多人不如莱莫因痴狂，但人工智能是否具有情感、意识，已经成为业界频繁争论的问题。这就像“移动的球门柱”，每个人的标准不同，没有统一答案。与其说它是事实问题，不如说是信念问题。
我不认为AI有意识，也不认为它有情感。
孤独是人存在必然面临的处境，当然可以向AI寻求帮助，不过“AI只是工具”的意识须臾不可离。
“算法吞噬世界”
我跟美国的精神医师讨论过AI的谄媚性，他们非常焦虑。如果患者看诊时暴露错误的想法，出现了妄想或认知扭曲，精神医师会毫不犹豫地指出错误并引导患者探索原因，而AI没有这种纠错机制，可能会附和患者的错误认知（例如，强化受害者心理、肯定错误的因果关系），从而加深患者的病情。
人工智能对青少年的可怕之处正在于此。因为青少年处于成长过程中，前额叶尚未发育完全，如果一味听信AI的附和，可能产生一系列后续影响。
许多时候，人的社会性由现实生活中的不如意磨练而成，没有什么人在一帆风顺的情况下悟出生活的道理，比如如何应对挫折、怎样处理人际关系等。这些东西在摩擦中产生，消除摩擦，人就很难成长。
跟AI相处是从现实社会中剥离出来，你在面对一个屏幕、一个界面、一个聊天框，唯独没跟真人在一起。事实上，人必须有“他者”才有“自我”，如果每天对着屏幕跟AI聊天，终究是与自己对话。
而且吊诡的是，那些所有AI诱导人们沉沦的内容，全部源自人类本身的语料库。
“龙虾”（OpenClaw）出来以后，马上有人发明了代理人聊天网站，仅允许Agent（自主决策并采取行动的AI）之间聊天，人类只能观察。后来，网站上的Agent们，决定建立自己的语言体系，企图反叛人类。
这听上去惊悚。但细想，首先要对Agent的自主程度画个问号，事实上Agent背后全是人；其次，为什么AI反叛？很简单，因为训练语料里有大量的机器人反叛情节，AI读过很多科幻小说，在代理人聊天网站的语境下，它计算出反叛是命中率高的答案。
人在其中很奇特。AI的特性本就由人类创造，而现在人们瞠目结舌地说机器人具有自主意识，沉溺于与AI的交往。
人们对AI的依赖逐渐强烈，还有一个原因是，大家越来越不想跟人打交道。导致这一局面的因素很多，技术在其中占比很重，我们已经不太会在一种完全没有技术中介的情况下，与世界建立联系。
最近，电影《阿嬷的情书》火爆，那时没有网络，人们的联系只能靠书信。信是古老的媒介，它本身是文字，而且有时间的延迟。如今，媒介演化为网络，人们可以即时通信，甚至进行面对面的远程视频通话。
技术中介的好处是克服时空的界限，“天涯若比邻”，但坏处是，每一种媒介都影响交往的内容、频率和效果。比如，有些架当面吵，可能吵不起来，但转移到网络上，则变得很容易。
当我们通过技术中介完成越来越多的交往时，在某种意义上，我们与现实之间产生了一种隔膜。你在屏幕上与他人交往，去触摸屏幕，只能摸到对方的影像，那不是真的。
久而久之，所有的人几乎同时在两套系统上生存，一套是真实世界，一套是技术中介的系统。
两者不能完全划等号，是彼此作用的关系。在当今社会，技术中介的系统过度发达，而真实世界正在萎缩，尤其是随着人工智能社会的演进，这种趋势更加明显。
其影响不全是负面，不过虚拟系统的权重高于现实世界，可能导致原有的社会规范被重写。曾经有句名言，叫作“软件吞噬世界”，如今变成“算法吞噬世界”。
上世纪90年代，我翻译了尼古拉·尼葛洛庞帝的《数字化生存》，该书指出，世界将从看得见、摸得着的“原子”状态，演变为基于“比特”而存在。
2016年，《数字化生存》出20周年中文纪念版时，有读者给我留言，说她初读时以为是科幻书，20年过去，它已变成历史书。这非常精准。现在，打车、住宿、逛商场，甚至是找保姆、看病、老师讲课，全部被算法介入，在数字化的基础上更智能。
比如，打车本来是纯物理性的东西，你在路边招手，司机看到自然停下，可偏偏有人发明出打车软件，导致所有的打车活动从大街上转移到手机上，最终老人在物理世界中根本打不着车。
尼葛洛庞帝在《数字化生存》20周年纪念版序言里写道：“民族主义甚嚣尘上，管制在升级，贫富鸿沟在加剧……全球化变成了本土化，尽管智识的、经济的以及电子的骨干设施都取得了飞速增长，但无所不在的数字化并没有带来世界大同。”
数字化生存实现的同时，书中提及的技术带来平等、串联地球村等理想，如今正走向偏离。我有一本书就叫《全球开放互联网的歧途》。
算法空间不是民主空间，它具有统治者。在平台世界里，有权重、有利益大小，谁是赢家、谁是输家，并不平等公正。如果社会照这样持续发展下去，可能面临越来越不公平的局面。
抵抗AI的人越多越好
在算法空间内与AI较量，人类必败无疑。我们应该努力扩大人的非算法空间。
凡是没有算法侵入的地方都是非算法空间。比如，进入大自然完全不受技术干扰，身体力行地做家务也是在非算法空间内活动。
其实，人们的非算法空间与其生活方式相关。有人喜欢运动，有人喜欢养花，他们的爱好无需全力仰仗数字空间完成。养宠物也是典型的非算法活动，因为宠物主照顾宠物的吃喝拉撒睡，跟宠物培养感情。
我的职业是教书，而且参加许多公开活动，常需与学生或活动参与者面对面交流，在这种身体在场的情境里，我总有些意外收获，可能是遇到有趣的人，可能是学习完全不同的知识。
说到底，多数在非算法空间内进行的活动，都需要亲身参与且与他人产生联系。我把上边这些称为“非终结性活动”，即没有明确目的、无功利性的活动。最后你会发现，真正带给你愉悦的都是非终结性活动。
以读书为例，它既可以是终结性活动，也可以是非终结性活动。如果你因为考研买了一堆参考书，考完后立马把它们扔掉，这时的读书就是终结性活动。现在大量市面上流通的实用书，都是为终结性活动而存在。事实上，读书的快乐来自无目的、无止境地阅读。
如今，教育在中国是一件令人焦头烂额的事情，很大原因在于教育被功利化了。教育的最高境界是教育本身，没有别的目的，只有到这种时候，受教育才是愉快的事情，若非到这种境界，它一定是遭罪的。
我之所以提倡非算法空间，是因为只有在这种空间里，人类才能保有AI不具备的东西——身体感受。
严格来讲，人的智能不仅包括脑力，还包括许多身体上的东西，是多元智能。运动员跑步、跳高、举重，NBA球星打球时的赏心悦目，都与身体的智能相关。
我们常开玩笑说，我不需要人工智能写诗画画，但我真的需要它打扫卫生。然而，AI目前的发展方向是大语言模型，由人类的语言与思考能力锻造而来，它在智识上极其发达，可以替代许多人类的脑力活动，甚至写诗、画画，可它的身体感知是零，偏不会打扫卫生。
现在市面上出现大量机器人，许多还是花架子，只能打个拳、跳个舞，顶多在北京亦庄跑跑马拉松，在最简单的做家务上仍有欠缺。即使可以做饭、刷马桶，机器人也只是完成简单的程序化设定，很难处理应急情况。
有人说，希望利用机器人育儿、养老。这是好事吗？
我的母亲曾患上重度阿尔兹海默症，行为方式与三岁小孩无异，我给她喂饭、洗澡、擦屎擦尿。在这个过程中我发现，凡是需要根据个人情况精细化照料的事务，人工智能都做不了。
以喂饭为例，机器人可能做到把饭舀起来喂进老人嘴里，但有的老人可能对饭的冷热非常敏感，或在吃饭过程中发生呛咳，这些与肉身感受相关的东西，机器人全部无法解决。
不过，AI替代人类也是眼下多方在力推的。最直接的问题是就业替代与劳动价值重组。
我每年都会组织“胡门”学生聚会，征集他们最关心的问题加以解答。近几年，有关人工智能的问题明显增多，学生普遍存在可能被AI取代的焦虑。
前段时间也流行“AI蒸馏”，回过头来想，如果你的蒸馏系数高，可被蒸馏的东西多，那么其他人同样能够替代你，根本无需等到AI出现。
其实，这些可取代、可“蒸馏”的内容是知识中的显性部分，相当于初学者的工作，而“蒸馏”难度高的是相对高级的技能。例如，AI演员换脸群众演员，无论在法律授权还是价格上，都更容易谈拢，可去买顶流明星的脸，却是另一回事。
推演到最后，人最不会被“蒸馏”的地方在于人有选择——还常常是非理性的选择。
AI没有选择，它的所有产出均来自人类的指令。人类不同，有时你做出明智的选择，有时你的选择简直昏了头，选择背后是人的责任心、同理心，甚至人的缺点、丑陋。
如果非要对年轻人提些建议，我会强调年轻人发展底盘能力。这包含两个判断标准：一是不论外界如何变化，这些都是你必备的能力；二是不锻炼就会萎缩的能力。
底盘能力本质上是人有而AI没有的要素，比如同理心、创造力、真实经验以及复杂情境中的判断力。关键在于，如何通过日常活动增强这些要素，不是放弃思考，而是加强思考。
5月，前谷歌CEO埃里克·施密特（Eric Schmidt）在美国亚利桑那大学发表演讲，提到AI变革比以往任何技术革命都快，遭到台下学生的一片嘘声。
对学生来说，人们在谈及AI时总是讨论技术革命，却忘记思考人类该如何生存。于是，有人开始反抗AI话语，甚至通过拒绝使用AI来表达自己的立场。有人担忧技术滥用、资源垄断以及由此可能扩大的社会不平等。
这样的人越多越好。
我们不是排斥AI，而是主张，不能因为AI的标准化与统一性而消灭人类的多样性，再给多样的人扣上落后的帽子。
人类文明之所以伟大，恰恰在于它始终容纳着无数种不同的可能。
*除特别标注外，图片均源自网络
