如果人工智能越过某条临界线，自主进化到人类无法理解、无法干预的地步，我们该怎么办？这不是科幻情节,而是真实可能发生的未来。第一财经总编辑杨宇东对谈清华大学苏世民书院院长/教授薛澜，从失控红线到国际协作，从教育重塑到人类价值的再发现，这场对话，关乎每一个人的未来。
一、失控边缘：当AI开始"自我进化"，人类还踩得住刹车吗？
AI风险与核武器截然不同——核武器的后果人类完全知晓，但人工智能技术存在巨大的未知。尤其令人警惕的是"递归自我改进"，即AI完全可能实现自主进化，一旦越过某条临界线，危险将不可控。
杨宇东提出：面对这一可能脱缰的技术，如何建立有效的"刹车机制"？薛澜认为可以考虑设定技术标准红线，类似于核不扩散领域的国际安全准则。实际上学者们2024年就已在《科学》杂志上联名呼吁为AI加上"安全刹车"，薛澜正是署名者之一。与此同时，这一共识正在向政策层面传导——特朗普总统访华期间，中美双方就人工智能开展对话达成一致。在薛澜看来，这标志着国际社会在AI治理领域"有共识了，也愿意了"。然而，从共识到机制落地，仍有漫长的路要走。
二、治理迷局：碎片化的世界，如何找到共同的安全防线？
技术一路狂奔，治理却深陷碎片化困境。2025年巴黎人工智能峰会上，61国签署治理宣言，英美出席却未签署宣言。少数国家与巨头企业掌握着AI的核心技术与话语权，各国因宗教、利益差异而对AI治理各执一词，短期内难以调和。杨宇东在对话中指出："AI两极分化，最后可能是少数国家、少数巨头企业掌握着技术和话语权，各个主体之间没有上下级关系，甚至有冲突重叠。"
但薛澜依然相信"人类社会的理性"——二战时期人类最终团结起来，联合国等全球治理机制应运而生。他特别强调企业在治理中的角色：上世纪90年代，三星、英特尔等芯片竞争对手曾联合进行基础研究合作，成功后再在产品端竞争。这一案例表明，即便在激烈竞争中，企业也能在安全领域建立共同标准。薛澜呼吁改变"猫鼠关系"——政府与企业不应是对立双方，而应成为共建安全的合作伙伴。
三、认知重塑：当AI比人类更"聪明"，我们的价值何在？
当AI可以一键生成文章、代码、图像，人类正在经历一场悄无声息的"认知卸载"。信息茧房、深度伪造诈骗、隐私侵蚀之外，更深层的危机是人类智识的悄然退化。杨宇东表达了他的担忧："智商都下来了，知识也不需要了，因为知识都在AI上。"人类如何面对这场退化？
而在AI安全方面，2024年初，香港发生迄今最大AI诈骗案，涉及两亿港元——诈骗分子利用AI生成虚假高管形象，成功诱导财务员转账。薛澜指出，政府已要求AI生成内容打水印、标识，但这类技术手段远远不够，更深层的问题需要全社会共同警醒。
除此之外，教育将迎来根本性重塑。薛澜认为，读了十年书积累的知识，如今只需几个指令即可获取，传统文理分科模式将逐渐淡化，未来教育可能是高度个性化的。
而面对杨宇东提出的“人类存在的独特价值何在”的问题？薛澜的答案是：同理心、好奇心、审美、共情能力、判断力、创造力作为一个集合体落在人类身上——或许才是无法被硅基生命完全替代的最后堡垒。更多深度解析，敬请关注8月19日晚22：30东方卫视《两说》节目。
举报 相关阅读
换挡与重构：内外需再平衡与新增长逻辑丨两说2026年已经过半，中国经济在实现一季度“开门红”后，二季度压力渐显。新能源、人工智能等新动能增势强劲，而投资消费承压、传统产业艰难转型。如何看待这种分化？提振消费的关键在哪里？外贸与人民币国际化如何实现再平衡？敬请关注8月5日22:30东方卫视《两说》节目，聆听宏观经济领域专家学者们的声音。
3555 08-05 14:22
机器人：灵活的“肢体”和有趣的“灵魂”，一个都不能少丨两说本期《两说》节目，第一财经主持人刘晔对话上海交通大学讲席教授、国家“973计划”首席科学家高峰教授，深入探讨机器人的躯体与灵魂如何从设计源头走向深度融合，揭示“一个都不能少”背后的科学逻辑与工程智慧。
6159 07-28 19:21
大一统国家：重解中国经济的深层逻辑丨两说过去四十多年里，中国走出了一条在全球经济学界都堪称“意料之外”的增长路径，几乎没有任何现成的经典理论，能完整预判到我们从低收入经济体一路成长为全球第二大经济体的全过程。反而每隔一段时间，就会有看衰中国经济的言论冒出来。我们邀请到了复旦大学经济学院院长张军教授。站在当下的历史节点，一起重新梳理中国经济崛起的特有逻辑。
197181 07-22 13:07
执掌2万亿美元，他说：三年后你会后悔今天没做这个选择丨两说本期东方卫视《两说》，第一财经主持人尹凡对话施礼诚，直击当前全球资本市场最核心的一组矛盾，以及藏在其中的机会与风险。
86573 07-14 16:45
资本新丝路：欧亚交易所的“向东看”丨两说近日，第一财经独家对话布加勒斯特证券交易所总经理拉杜•汉加（Radu Hanga）、北马其顿证券交易所首席执行官伊万•什捷里耶夫（Ivan Shteriev）以及亚美尼亚证券交易所首席执行官海克•叶加尼扬（Hayk Yeganyan）。三位欧亚资本市场核心人物，以各自市场的真实处境和战略选择，拆解了“向东看”背后的逻辑、挑战与野心。
3896 07-07 13:43 一财最热 点击关闭银河配资提示：文章来自网络，不代表本站观点。
