智能反动到来，人类必需防患未然

《智能反动后的天下：AI技巧与人类社会的运气》，刘永谋著，重庆出书社2024年11月出书，订价：78元■刘永谋我的旧书《智能反动后的天下：AI技巧与人类社会的运气》，实验对一些智能反动与人类将来的成绩停止答复。它是我计划的“AI时期三部曲”的第一部，接上去的两部拟题为“AI性别”“AI与人”，前者聚焦“生涯天下的智能化”，后者探讨“AI时期人的呆板化”。我为什么会执着于AI的跨学科反思？由于包含我在内，越来越多的学者以为，跟着智能反动的急速推动，人类社会正在产生天翻地覆的变更。对此，一些人欢喜鼓励，自称为“呆板人引路党”；而另一些人则深感末日降临，呐喊停息乃至取消某些AI研讨。无论怎样，少少有人否定智能反动的伟力正在彰显。一在我看来，人类社会自20世纪下半叶就曾经进入呆板人休息社会。天生式人工智能（GAI）的崛起，标记着智能社会开端进入AI帮助生活社会。也就是说，很快人类就将处于AI帮助生活的情况中。在AI帮助生活社会中，人类的生涯、进修跟任务，比方计划游览、给引导写稿子、进修编程，都将在AI的辅助下实现。接上去，兴许不须要100年时光，有人乃至估计是20年，呆板人便有才能代替人类全部的膂力休息跟绝年夜局部的脑力休息。彼时，假如呆板人火力全开，完整能够将科技出产力晋升到明天的人们不可思议的高度。于是，AI帮助生活社调演化为AI替换休息社会，实践上人类基础不再须要休息。依照马克思主义道理，以呆板人休息为基本的新质出产力，必定激发经济轨制变更，接着是政治、社会、生态跟文明等各个方面的片面改革。比方，在经济方面，咱们将面对两年夜成绩。一是AI增加极限成绩，即地球资本终极设定了人类经济增加的“天花板”，而24小时不眠不休的呆板人休息会很快到达这一“天花板”。二是AI富饶社会成绩，即AI科技出产力所出产的物资财产远远超越社会成员舒服生涯所需时，成绩的重心就会越来越急切地转向怎样公平而公道地调配，而不是之前的怎样出产更多的产物。假如能处置好经济轨制翻新成绩，接上去的成绩就是：如斯宏大的出产力不克不及仅限于满意人类的愿望，要不要寻觅更高的开展目的，怎样从地球文化向星际文化跃迁？比方，在常识方面，人工智能驱动科研（AI for science）将极年夜进步科研运动的效力，有人乃至担忧它会大批代替人类科研运动；而人工智能出产内容（AIGC）使得网上种种虚伪信息众多。明天的成绩曾经不再是缺少常识，相反人类社会开端患上“常识的冗余症”，常识带来的利益与它发生的费事开端处于对峙状况。将来人们将越来越多地为常识太多而忧?，我称之为“常识的银屑病”，搜寻引擎就是治疗此病的一味药。更主要的是，常识不只过载，还呈现品质越来越差的情形。二我以为，相似的剖析还不敷深刻。咱们正处于十字路口，从基本上说，在于智能反动改革天然跟社会的力气深刻到人自身。智人在肉身跟观点两个方面正在产生剧变，某种“新人类”一定在智能反动之后退场。在肉身方面，估计存在两品种型：一是赛博格，二是数字人。所谓赛博格退路，实质上是人与AI的融会，人类成为字面意思上的智能呆板。所谓数字人退路，指的是一些人主意经由过程数字回生或认识上传的方法，使人在元宇宙中实现长生，人类彻底解脱肉身的约束。智能反动对人类肉身的转变曾经开端。比方，自我丈量、量化自我越来越风行。手上戴着手表，家里备着血压计、装着摄像头，吃货色有食谱，买货色看配料表，一直从本人身上牟取种种数据，与尺度量表绝对照，并计划迷信的塑身计划。跟着智能反动一直推动，越来越多的人支撑应用新科技对智人肉身停止改革或强化，即所谓“身心计划”。他们重要有3个来由：第一，想在呆板人休息社会中与AI停止休息竞争，不至于成为“无用之人”，不得不停止身心计划。第二，AI一直“退化”，加剧智人身心的退化，如人越来越笨拙，须要用身心计划抑止。第三，将来与硅基性命的竞争中，作为碳基性命的智人处于显明优势，须要身心计划来改变。身心计划论者主意的是一条“人的呆板化”之路。智能社会最年夜的成绩，不再是呆板的人化，而是人的呆板化。更进一步，产生剧变的不只是人的身材，咱们的精力也在产生剧变。一言以蔽之，我称之为“迷信人突起”。比方，越来越多的人探讨能动者、探讨呆板人权力。这阐明各人开端信任，人跟呆板人均为能动者，呆板人也有权力，人只是另一种智能呆板。相似的新观点的风行，彰显出人对本身懂得的事实改变。什么是人呢？人们不再佩服哲学、文学、宗教、神话、巫术以致科学的说明，越来越多地告急于新科技对智人研讨的新结果。人类行动与感情被复原为物理、化学跟生物参数，将人道瑕疵视为畸形的演变缺点。譬如，恋情基本不是源于苔丝的纯情或卡门的猖狂，而是某些化学物资如多巴胺、内啡肽的排泄。这些新结果勾画出“迷信人”的抽象，而“人的呆板化”不外是“迷信人突起”的实际表征。“迷信人”的中心观点在于——人能够也应当被丈量、把持跟改革。那些对于人的弗成测的货色，如魂魄、意志、心灵呢？它们将被叱责为过剩的形而上学“阑尾”，早晚要全体被切除。迷信人信任，人形呆板挺好的，纯粹而无辜，相反人却有一颗被玷辱而蒙尘之心。韩国科幻剧《人类消亡讲演书》中有个情节，说的是寺庙中的呆板人先于跟尚得道涅槃，跟尚们得向它求教。三在奔向将来的路程中，存在一道宏大的“AI文化危崖”。21世纪以降，良多思维家都开端关心当下的文化能否存在全局性的瓦解，乃至灭尽的生活性危险，使得人类社会如跌落绝壁个别，忽然堕入暗中乃至长夜之中？这就是广为探讨的“文化危崖成绩”。常常被说起的生活性危险重要有气象变更、核战斗跟新发病毒，而超等AI的要挟并未被严正看待。固然我以为，AI的生活性危险确实很难排在后面，然而AI与寰球性灾害融会在一同，将极年夜增添文化危崖的危险。比方，AI+核年夜战、AI+生化兵器，以及GAI加剧动力危急等。在AI时期，咱们怎样防止跌落文化危崖呢？人文研讨应存眷新科技开展对社会的打击，尤其要猜测危险、预感成绩，提示社会防患未然，防患于未然，关照社会福祉跟大众好处。无论何时，人类都要尽力把持包含AI在内的全部新科技开展，使之有利于人类福祉。假如不断定AI的某一开展能否真正有利，就应当结束、改变跟重置此种AI开展退路，此即我称之的“AI开展的无限主义退路”。从基本上说，这并非以人文为名妨碍新科技开展，而是以新科技安康开展为目的的保驾护航之举。（作者系中国国民年夜学吴玉章讲席教学） 　　申明：新浪网独家稿件，未经受权制止转载。 -->