上海夜店网

正在阅读:

womenbuzhishibuxinrenai,womenbiciyebuxinren | zhuanfang

saoyisaoxiazaijiemianxinwenapp

我们不只是不信任AI,我们彼此也不信任 | 专访

《zaijianzhiren》zuozhewuguanjunrenwei,zaijishuchengzhishujifazhandedangxia,quefadeshizhengzhizhihui。womenbixuhuyuyicizhengzhizhihuidediedai,buzaizhibuyurenleizhuyideguyoukuangjia。

界面新闻记者 | 尹清露

界面新闻编辑 | 黄月

chatgptdeguangfanyingyong、nuojiangbanjirengongzhinenglingyuxuezhe、meiguodaxuanshoudeepfakeyingxiang……jishinibutaiguanzhujishuhuati,yebudebuchengren,rengongzhinengyijingshendujuanrulewomendeshijie。raner,kanzhe“ai”recimantianfei,dakejigongsizhanjuxinwentoutiao,womendaodiyaoruhejieshirengongzhinengdezhenzhengyiyi,yijirenleishenchuqizhongdeweizhi?

《zaijianzhiren:jishu-zhengzhiyuhourenleijingkuang》zuozhe、huadongshifandaxuezhengzhiyuguojiguanxixueyuanyuanzhangwuguanjunrenwei,zaijishuchengzhishujifazhandedangxia,quefadeshizhengzhizhihui;duirengongzhinengdexinrenweiji,qishigenzhiyurenleibicidexinrenweiji。shuzhongfenxilejishujiasu、zhihuiqueshidailaidekunjing:daliang“wuyongjieji”shiyezhebuzaibeishehuixuyao,daguohuxiangzhengdou,“zhiren”de“zhi”buzaimingfuqishi,renleibenshenyechengweilerengongzhinengwenmingdexuqu。

jiemianwenhuaduiwuguanjundezhuanfang,bujinshejile“aiyurenleidechuangzaoliruhebutong”dengyizhibeitaolun、congweiyoudaandechouxiangyiti,yecongtelangpuyumasikedelianhe、nuojiangweiyuanhuidexuanze、xuelibianzhidengjinqireyidehuatichufa,bububijinneitiaozuizhongdedaolu:jintian,womenbixuhuyuyicizhengzhizhihuidediedai,ruguowomenyiaiweiqifa,gengxinsiweifanshi,buzaizhibuyurenleizhuyideguyoukuangjia,neime,zhirenbianyouyixianshengji,zaixindedipingxianshangkanjianziji。

吴冠军近照。图片来源:华东师范大学官网

01 人不只是不信任AI,彼此也不信任

界面文化:与尤瓦尔·赫拉利侧重于人工智能的信息与联结不同,《再见智人》侧重人工智能的技术-政治面向。为什么研究人工智能需要强调政治?

吴冠军:巧合的是,我和赫拉利的新书都是在9月10号出版,我们都是1976年生人。《再见智人》和《智人之上》两个书名也具有鲜明的互文性(intertextuality)。赫拉利作品的原名是“Nexus”(联结),就像我在那本书的推荐序中所写,这个关键词恰恰有一个具体的政治面向。

亚里士多德说,men by nature are political animals(人天生就是政治的动物)。“政治”的词根在希腊语里是polis,指的是城市,人是在城市生活的动物。亚里士多德认为政治是人的定义性特征,政治对智人来说是唯一关键的、自我界定的向度。意味着人能够以共同体群居,而不是独立生存。所以,政治不是很多人理解的暴力争斗,这恰恰是缺乏政治智慧的表现。动物为了交配殊死争斗,这不是政治,而是政治的反面,是政治向度的缺失。

现在有了人工智能,我们就更清楚智人是怎么回事了。一种可能是我们离智慧越来越远,智人本身被边缘化,也就是“再见智人”了。年轻人倾向于躺平和自我放逐,毕业找工作时,发现自己还比不过人工智能,而人工智能尽职尽责、知识面广、工作效率又高,信息整合能力也很强。

lingyizhongkenengshi,womenzaixindedipingxianshangzhongxinkandaorenzhizhi,yejiushilingyizhongyiyide“zaijianzhiren”。zairengongzhinengyiranchaoyuerenzhizhinengdeneixielingyu,womenshifounenggoufazhanchuyuzhihezuodefangshi?haishijianchizhanzairenleizhongxindeweizhijurenqichaochurendezhineng?keshihenduorenjiushizheimexiangde:woburangnifazhan,yinweiwopanibiwogengqiang。weilebaituozheizhonggenshendigudesiweimoshi,womenxuyaozhirenduyoudezhihui,neijiushixingchenggongtongtidezhihui。suiranmuqianrengongzhinengyijinghenlihai、danrangtatichujiejuedangxiazhongdongwentihuoewuchongtudefangan,kongpatarenglisuobudai。

《再见智人:技术-政治与后人类境况》
吴冠军 著
北京大学出版社 2024-9

“zaijianzhiren”shiyigeshuangguanyu:yigeshihezhirensay goodbye,zhirenwenmingshikenenghuijieshude,meiyoubentilunbaozhengshitahuiyizhichixuxiaqu,renleikenengzhishijishufazhandeyigejieduaneryi;danshi,renleiyekeyifazhanchuhuozhongxinshiqirengongzhinengrengranmeibanfaqudaidenengli,“zaijianzhiren”keyizhisee you again。“jishu-zhengzhi”zheigecihenhao,jishuhezhengzhishirenleidelianggenguaizhang。suiranhelalizaishuzhongmeiyoumingxianshiyong“zhengzhi”cihui,danshi“lianjie”jiushiyizhongzhengzhixing。lianjieyiweizhetongguogezhongfangshihudong,wulunshitongguoshenhuagushihaishixinxijishu,lianjieyidanzhongduan,genggaocengcidewenmingfazhanjiuhuibiandekunnan。

zuijinrengongzhinengzhuanyehenremen,zhengzhizhuanyequefeichangbianyuanle,waiyuzhuanyeyesihubuzaizhongyao,yinweiaifanyizugouqiangda。danwomenmianduideyigehexinwentishi:yihouyaoruheyuzheixie“hourenlei”hezuoheduihuani?worenwei,beizhujianhushidezhengzhixueqiaqiashiyinggaizhongshide。zhengzhimeiyouzhongjidaan,tabuduanmianlinxinwenti,yebunengjiandandichaoxihuotaoyongyiwangdedaan,yongyuanshiyigechixudiedaideguocheng。

《智人之上》
[以色列] 尤瓦尔·赫拉利 著 林俊宏 译
中信出版社 2024-9

界面文化:一方面AI技术非常先进,另一方面我们的思维模式还是互相争斗。这让我想到你在书中强调的信任,而信任其实是一个没有理性支撑的跳跃。你为什么会这样强调?人工智能这一新成员的加入,会怎样影响信任缺失的现状?

吴冠军:很多人提出要做trustworthy AI(可信任的人工智能),或者停止开发AI,因为AI内部是一个黑箱。但是我们不妨想想,人类的大脑也是黑箱,AI的人工神经网络作为一种仿生学概念,模拟的是人类脑神经网络,人脑中有大约800亿个神经元,它们通过电信号相互交流。脑科学能够监测到大脑皮层中哪些区域很活跃,但是无法还原为脑海里在想的内容。

我们不断从新闻中看到这种事情:在西方社会,一个人昨天还是你的同学,今天拿起枪在校园里扫射。美国政府最怕的不是群体作案,那样还有办法监控,最怕的是一个个脑海黑箱式的“独狼”。

当地时间2023年12月6日,美国内华达大学拉斯维加斯分校发生枪击事件,肖恩·哈斯科克(右)和米歇尔·阿什利在两人为枪击案受害者留下蜡烛后亲吻。图源:视觉中国

keshi,renleishifouyinweidanaozhongdeheixiangertingzhihezuoleni?bingmeiyou。beihoudeyuanyinjiushixinren,wochengzhiweiyizhongzhengzhixingzhihui。xinrenzheijianshibingmeiyoujichu,ruguowonengzhangwoni100%dexinxi,neiwojiushishangdile,ershangdishibuxuyaoxinrentarende,zhiyourencaixuyaoxianghuxinren。keshi,meiyourenhebentilunlaibaozhengrendexiangfayidingfuhehabeimasisuoshuodesincere(zhencheng)hecommunicative(kejiaoliude),womenzhinengduixinrentazhezuochuyigeyuebu(leap)。

ranerjintian,wulunshiquanqiucengmiandeguojizhengzhi,haishisirencengmiandefuqiguanxi,zhengzhizhihuidoubiandehenxibo。womenzaimianduirengongzhinengshihainengdandeqi“zhi”rendeshenfenma?womenbuzhishibuxinrenai,womenbiciyebuxinren。

02 人工智能发展出慢思考是极有可能的

界面文化:虽然人类和人工智能都是黑箱,但如你在书中所写,这是两种完全不同的黑箱,比如人类懂得爱和创造;与人工智能相比,人类有一种本体论上永远无法被完全实现的潜能。关于这一点也有不同观点,比如赫拉利认为,机器也可以进行文化创造。你对此怎么看?

吴冠军:我们称人类的大脑为“湿件”(wet ware),既不是硬件也不是软件,而是一团肉。它有一个关键的有趣之处,也就是可塑性(plasticity),大脑虽然被认为利用率已经很高,实际上仍有很大的可塑性。而人工智能模型完成预训练后,它的能力也就基本定型了,你要么重新再训练一个更高级的模型,比如从GPT-3到GPT-4。

2023年3月15日,上海,一位年轻人访问和试用OpenAi最新推出的GPT-4。图源:视觉中国

suoyi,jibianrenleizaizhishiguangdushangcharengongzhinenghenyuan,danshiwomenyongyouyigeduyoudeqianneng,neijiushikeyibuduandizaishengcheng、zaizuzhi。jugelizi,mangrenshiqushijueshuruhou,shijueshenjingchuliquyuhuizhujianbiandebuhuoyue,danjishishizaoyulezheiyangdechuangshang,danaohaishihuiyijijidefangshiquyingdui,biruzhongxindiaoyongchujuexinhao,rangnijingguoxunlianhounengdudongmangwen,zheiduishilizhengchangderenlaishuoshibukesiyide。zaibiruduiwenkexuezhelaishuo,nianjidaleyihou,jinguanshengwuxueyiyishangshenjingyuanzongshizaibianshao,youyuciqiandejileiyuxianghujifa,haishijinyibunengshuchugenghaodexiangfa。

congshengwuxueshanglaishuo,getizaiyanhuaguochengzhongbushihenzhongyao,yanhuashiyizhongkuaisucankudediedaiguocheng,shengwanhaizijibenjiuwanchenglednachuanchengdeshiming。danshi,youyurenleijuyouzaixuexihebuduanzhongxinxunlianzijidenengli,renleijiuyongyouleyigedutezhichu——getishengmingbiandefeichangzhongyao,erbushijuxianyujiandandeshengwuchuancheng。chufeinifangqizijidanaodeqianneng,tangpingzuoyigechihuo——neijiuxiangdangyuzaozaojieshulezishendeyanhuakenengxing。

界面文化:人工智能是否能够进化出更多潜能?你在书中谈到,人工智能的大语言模型是一种前意识的快思考,只有人类能够慢思考,但是随着近日OpenAI开发出o1模型,人工智能也能进行慢思考了。

吴冠军:这种情况相当有可能。2022年之前,我们都不曾想到,人工智能竟然能具备如此强大的生成能力。有时我们取笑人工智能数学不行,比如有次它认为18.18大于18.8,错误地将18视作两位数。但问题是人类普遍也是数学不行,人类最擅长的思维模式就是快思维。我们看到长得像蛇的东西会认为很危险,先逃跑再说;有人对你说了有攻击性的话,你马上会感到不快,如果对可能的威胁与危险没有快思维,根本就活不下来。

生成式人工智能的强大,就在于它用快思维的方式,在很多方面能做到人类只能通过慢思维才能做到的输出,尤其是文本处理方面。你读完一本书后写书评,需要在脑海中提炼书的核心内容,而人工智能可以将复杂的思维过程转化为迅速的输出。人类的快思考是无法处理抽象的文字,然而人工智能的快思考能够直接针对具体的象征性符号,直接处理抽象语言。从这方面上来看,它可能真的是一个更厉害的species(物种),而o1这样的模型显示出人工智能发展出慢思考是极有可能的。

当地时间2024年5月21日,美国华盛顿州,微软Build 2024开发者大会上,OpenAI首席执行官萨姆·奥特曼在微软总部华盛顿州雷德蒙德举行的微软Build大会上发表讲话。图源:视觉中国

03 比起民族国家,“人类命运共同体”是更好的政治智慧

界面文化:特朗普胜选后与马斯克的一系列联合、硅谷精英集体转向右翼,都似乎说明技术威权主义十分盛行。你如何看待当下的情况?

吴冠军:我的理解是,事情都是在变化中的。很多人没想到,马斯克竟然会和特朗普合作,他们两人在很多地方分歧很大,马斯克做新能源车和SpaceX,核心诉求是改变能源结构和探索火星,为人类文明留后路。但是,特朗普代表的是气候变化的拒认者,他决定让美国退出《巴黎气候协定》,认为人类可以继续过往的方式发展,不需要做什么改变。特朗普宣布退出协定的第二天,马斯克就退出了总统顾问委员会,他认为特朗普是一个大忽悠。然而今天,他们又达成了合作,这是很有意思的。

当地时间2024年10月5日,宾夕法尼亚州巴特勒,特斯拉和SpaceX首席执行官埃隆·马斯克(右)在一场竞选集会上跳上舞台,与前美国总统及共和党总统候选人特朗普(左)同台亮相,图源:视觉中国

我的分析是,马斯克对人类文明怀有一种危机意识。比如9月30日,他为特朗普单独搞了一场竞选演讲的背书,表示西方文明可能面临终结。他认为,民主党是更加不作为的,过于关注政治正确如性别议题,忽视了其他人类的大问题,民主党上台可能又是白白浪费四年。马斯克尤其痛恨“觉醒文化”。我们暂且不评论马斯克的认知本身,在他的认知中,首先就没有那么多时间可以浪费。

再反过来看特朗普是一个怎样的人。特朗普非常在乎“赢”这件事,他甚至说过一句话:“我认为竞选总统比做总统更有意思。”并且,特朗普是商人出身而不是政治家出身,他的施政就可能不会被此前的说法和做法所绑架,说出的话也经常随便改口。他可能会愿意谈判,只要他认为他能赢。但如果按照政治正确的标准,很多话是不能说的,稍微说错就会被贴上标签。

所以,这就产生了一种可能性:当特朗普和哈里斯势均力敌时,马斯克在关键时刻给予助力,让特朗普获得了很大的优势,那么接下来,马斯克就可能拥有很大的政治介入空间、能够深入影响政治议程,比如带来技术和生态方面的改变。我们也已经看到,特朗普在很多场合都带着马斯克,比如和泽连斯基通话、参加巴黎圣母院的重开仪式。

这是件好事吗?我觉得还是蛮好的,今天的时间常常浪费在政客们彼此指责、彼此起外号的话语中,但我们需要能够实际地带来变化的人。至于怎样变化还无法预测,但至少会有新的可能性。

你可以不喜欢马斯克,但他的确是一个思考者,一旦想好以后执行力也很强。比如在此之前,没有人认为去火星这件事可以由私营公司来完成,但是他承担了下来,并且做得有声有色。

界面文化:虽然马斯克是一个思考者和行动者,推出了Neuralink脑机接口等非常科幻的技术,但如你在书中所说,他的愿景归根结底是超人类主义的,会导致权贵精英最先享受到增强技术,进一步加剧全球不平等,马斯克对AI的恐惧也仍然根植于“人类-AI”的二元对立。与之相反,后人类主义则是激进地打破了二元对立。可以简单谈谈两种框架的区别吗?

另一个问题是,如今,真正掌握技术的人才许多都被招至OpenAI等科技公司,他们也会不可避免地进入技术-商业精英的框架;而还在想象“后人类”未来的,似乎是并不拥有技术的“文科生”。即使我们知道后者才是努力的方向,但是在提出理论之余,还应该怎么做?

吴冠军:这是一个很值得探讨的问题。首先要讲一下超人类主义和后人类主义的区别。人类主义一种基于生物性身份的思维逻辑超人类主义是人类主义的延伸,当马斯克看到人工智能的挑战,他会想:不能让人工智能比我更强大,所以要通过脑机接口等方式,使它成为我思维的一部分,从而驾驭它。人类主体是一个基座,其他所有东西都往上加,目的是提升我的能力。经常出现两种心态,一种是对人工智能充满恐惧、不让它发展;另一种寄希望于人工智能来解决人类的问题,这也是一种人类主义,叫做有效加速主义。

zaicizhiwai,womenhaikeyiduozouyibulu,tichulingyizhongsiweifangshi。renleiduizijidenenglijuyouxinxindelishibingbuyoujiu,zhiyousiwubainian,zaiwangqianqishibingbushizheiyang。xifangwenhuazhongyouquanzhiquannengdeshangdi,fanshenlunzhongshanyoushanshen、shuyoushushen,xuduoshiwudoubiwomenlihai,《xiyouji》lidetangsengkandaoyikexingshulideshujingdouyaohesile,suoyirenleimeishenmelebuqide。danshijibainianlai,renleixingchengleyidingyaozuozaizhongxindesiweifangshi,dangzhinengyoukenengbeichaoyueshi,jiubunengpingxinjingqididuidaile。

yinci,“hourenlei”degainianhenhao,tabushifanrenleizhuyi,ershiyaozairenleizhihou,kankanbuyiyangdekenengxing,youmeiyoubeirenleizhuyisuoyangaihehushidecunzaizhidetansuohehezuo。tayebushiqudaiguanxi,buzaishizhongxin-bianyuandekuangjia,ershiyongbaoduoyangxing,dakaizhutijianxing、wenmingjianxing、wuzhongjianxinghezhinengjianxing。ruguoshijieshangzhiyouyizhongzhineng,qishiniyehengudu,zheiyiweizhenihennanzaitishengle。

图源:视觉中国

jugelizi,renleidechengjiuyuqitashengwudehezuomiqiexiangguan,tongshentizhongchangdaojunqundehezuoxingchenglewomendejiankangzhuangtai。congguojijiaodulaishuo,qieduanguojiazhijiandehezuobingjinru“qiabozi”zhuangtai,shiyizhonghenyuchundexingwei。henduorenliulianrenleizhuyiyehenzhengchang,jiuxiangshiliulianguxiang,danwomenyinggaiyougengdadesikaogeju,xuehuiqianbei,qukandaoyikaishirangnibushufudecunzaizhe。bingqie,dangrenleiwenmingbiandeyuelaiyuechenfu、laohua,gonggongpingtaishangchongchizhegezhongduisihemanma,hainengchuxianzheimeyouyisidekenengxing,zheibushihenhaoma。

界面文化:奇怪的是,人工智能技术本身是去中心化、跨学科的,可现实却是,它成为了一种中心化和威权化的技术。按照书中的观点,如果全球资本主义秩序、民族国家格局没有改变,人工智能趋于中心集权化的未来是否就无法改变?

吴冠军:这是人类的自我组织的两种主流方式,两种方式彼此依存,延续的时间很长,同时也构成了我们当前的僵局。

我们先从民族国家的角度来谈起斯特伐利亚合约以来,欧洲国家进入了民族国家状态,这种状态后来主导世界。尽管联合国呼吁了许多事情,但它的力量很弱我们仍处于不断擦枪走火的局面中。

曾经,民族(nation)让世界有了新的可能性。通过这个概念,我们能够建立连接,形成想象的共同体,连结许多氏族和种姓,打破了以往不可合作的壁垒。随着时间的推移,它反而成了纷争的源头。政治智慧是没有最终结论的,今天可以被视为一个迭代政治智慧的阶段,比起民族国家,“人类命运共同体”是一个更好的政治智慧。它超越了传统的民族框架,在人类乃至行星的意义上思考共同的命运,它更可以开启各个物种命运共同体的后人类视角。

另一个关键问题是资本主义。资本主义的生存依赖于外部,资本主义不能自给自足地增长,它一定要开辟新的市场、发现新的方式。今天全球化的程度越来越高,既有的市场越来越饱和,各种资源也已经被深度开发,那要如何找到新的地方呢?于是,技术变得极为重要,一有新技术出现资本就扑了过去。

图源:视觉中国

过去的世界是广阔的,但今天的行星变得越来越小、已经变成“地球村”了,导致了许多矛盾。尽管中国和美国地理上相隔遥远,但地球变小使得他们很近,有人就会感觉对方多吃了一口肉,我就会少吃到一口。在这个意义上,资本主义和民族国家共同形成了一个巨大的矩阵,严重制约了人类文明的进步,也让我们陷入危险的边缘,比如生态危机。

在资本主义中,什么都要算一算利润,生态问题的成本就很高,例如,实现碳中和的成本就很昂贵。而民族国家的模式让局面变得更糟糕,特朗普认为,美国凭什么要承担责任?但问题是,生态问题主要是经历过工业革命的发达国家造成的,而不是南方国家。在这个意义上,民族国家与资本主义结构使很多事情无法做成。

技术也是一样,AI原本是一个非常好的讨论平台,但现在AI本身变成了一场军备竞赛。所以,我们要呼吁一次政治哲学的大的迭代。上一次的政治智慧迭代是三四百年前,在以往等级化的社会中,很多人的幸福指数很低,活着就是吃饱这一件事,但那时的启蒙哲学家们发明了一组新概念,让我们进入了现代性,人类也取得了许多成就。现在我们又到了一个关头。

04 就算人类输给人工智能,也不意味着一切都结束了

界面文化:你在写这本书时,诺贝尔物理奖和化学奖授予与人工智能领域相关的学者的消息还未公布。但你也在书中写到,技术已经不再是科学、政治、艺术等维度之一,而是凌驾于这些维度,成为主导性维度。在你看来,诺奖委员会的选择是技术凌驾于科学的表征之一吗?你如何评价这一选择?

吴冠军:诺奖物理学奖公布后,我的朋友圈几乎炸了。我的一个朋友是有名的哲学教授,本科学的是物理学,他非常生气,说:“诺贝尔奖委员会疯了,杰弗里·信顿和约翰·霍普菲尔德都是搞人工智能的,计算机科学有图灵奖,怎么又跑来抢诺贝尔物理学奖,他们又没有受过物理学的学术训练。”

我的分析是,这次的诺奖既激进又保守。激进在于,他们竟然大踏步冲破学科的壁垒,关注研究者跨学科的贡献,而不是物理学归物理学,计算机科学归计算机科学。人工智能本身就是跨越学科的,ChatGPT或者Sora可以是物理学家,也可以是人类学家。

保守在于,诺奖委员会在评选时仍然要证明这是人类获的奖,人类中心主义的思维仍然存在。这导致了某种扭曲——约翰·乔普是AlphaFold的首席科学家,他并不是做结构分子生物学的,然而他领衔做出来的计算机模型是一位很棒的结构分子生物学家。但诺奖委员会无法认可一位连“脸”都没有的科学家的成就。同样,辛顿在人工神经网络方面的一组奠基性工作使得物理大模型有了可能性,但并不意味着他是这个领域的专家,所以信顿接到获奖电话时还以为这是一个玩笑。

当地时间2024年10月8日,瑞典斯德哥尔摩,在宣布2024年诺贝尔物理学奖的新闻发布会上,物理学家约翰·霍普菲尔德(左)和杰弗里·辛顿的照片出现在屏幕上。图源:视觉中国

界面文化:我读过一篇诺贝尔物理学奖评奖委员会委员Ulf Danielsson的专访,他也认为AI只是工具,不能自己推动科学前进。

吴冠军:我这本书也是一个努力,希望慢慢打开我们的格局。我们只是倚赖生物性的快思考的时候,格局比现在更小,看到不同肤色的人会感到警惕或恐惧。所以人工智能要用起来、不同国别民族的朋友交起来,互相学习才是解决生物性恐惧的方式。就算人类最终输给了人工智能,那也没关系,不意味着一切结束了,我们人类还可以regroup(重新部署),就像爱因斯坦去到普林斯顿大学后进行了重新调整,相对早年物理科研上进展有限,但他成为了一个伟大的公共知识分子。

今天的情况是相反的,学者在论文署名时,还是不允许给AI共同署名;由于不能署名,学者使用了ChatGPT进行文献梳理,结果就被抓出来说成抄袭。这都是很猥琐的事情,有好的工具为什么不允许使用呢?

05 当下是人类文明史上政治智慧和技术智能最脱轨的时代

界面文化:你在书中着重写了AI时代的教育问题,认为在AI取代人类工作、知识更新迭代加快的当下,教育应该从实体学校的单线灌输式教学,转变为网络状结构的终身教育,所有人都是教-学实践的行动者,需要时时与网络互动,这样才不会被淘汰。关于AI对教育的启发,可以再展开谈谈吗?

吴冠军:今年1月份的Nature杂志有一篇很棒的文章,题目叫做《It Taks Two to Think》(要二才能思)。人类的思考过程从来不是孤立的,看似是“吴冠军”写的书,但这建立在我阅读了许多优秀著作、向很多深具洞见的作者进行思想交流的基础上,只是在人类的写作传统中,“作者”不能写上几百个,所以我的书“后记”变得很重要,里面有在我生命中那些重要的交流者。

法国哲学家拉图尔有一个“行动者网络理论”,个体并不是以自我为本体论根基的行动者,而是在互动中才产生了行动者。并不是首先有两个个体在彼此互动,而是通过互动才有了这样的你和我。所以,改变和互动是最根本的,关键不是你是谁、有怎样的理念,关键是你做了什么。

2024年9月,香港科技大学推出首批“AI讲师”。图源:视觉中国

界面文化:一个疑惑在于,在学历贬值、毕业即失业的严峻情况下,以上讨论对大部分人的意义是什么?清华大学基础科学讲席教授刘嘉也提到,在AI时代,教育应该从就业导向变为跨学科的通识教育。可是能做到这一点的,似乎仍然是精英群体,你怎么看?

吴冠军:可以从两个角度回答。第一个角度指向自我、我该怎么做;另一个角度是整个社会应该怎么部署,使我们能够更好的合作,而不是互相伤害或产生大量失业。

congziwochufajiushilunlixue,congshehuijiegouchufajiushizhengzhixue。ranerzaijintian,zheilianggexuewendoujihutingzhibuqian。zhengzhixuebeibianyuanhua,womenyebuzenmejianglunlile,faneryaoqiurengongzhinengjiangjiulunli。

congziwochufa,jintianmianduishijiedeweiyikenengxingjiushizhongxingoujianrenzhiditu。yiqian,womenshizaitongxue、fumudeguidaoshangxuexi,danshilejierengongzhinengdexueximoshihou,womenkeyifansirenleidexuexizhidu。chuantongshang,renleidexuexizhouqishi20duonian,gongzuohoujiutingzhixuexile。raner,xuexibenshenshiyizhongzhongyaodelunlishijian,rengongzhinengyeyaotongguoxuexishengchengxinneirong,yinci,xuexiyinggaishizhongshenxingdetouru,bingqieyaoyugezhongren、hourenleiduihua。

suirannitidaojingyingyufeijingyingdequfen,danfanguolaiyekeyishuo,niyuanbuyuanyitishengzijini?xuexidequehenleiren,yinweimansikaohuixiaohaonengliang,yebufuherendebenneng,rendeyanjingbushanzhangshulichouxiangwenzi,gengshanzhangchulituxiang,suoyishuaduanshipinhenkaixin,dantongshiniyesangshilehenduo。erlunlixueyaoqiuwomenzouchushushiquan,bujinjinmanzuyudangyige“chihuo”。

congzhengzhixuechufa,womenmianlindeyidatiaozhanshi,daliangderenbuzaibeixuyao。yiqianzhishizaitilishangbubeixuyao,birugongyehuashengchandaitilemujiangdeshougongyi,danrujin,aizaizhinengfangmiandebiaoxianyejingchangchaoguorenlei。zaiwenmingshishang,yiyoudegezhongshehuixingtaidougaoduyilairenli(tiliyuzhili),lianzhanzhengyexuyaorenli,danshixianzaiwurenjijishuyijinghenchengshu。weilai,dangagi(tongyongrengongzhineng)deshidaizhenzhenglailin,tazaigegelingyuchaoguo85%shenzhi90%derenlei,neimechulezuiyiliuderenleirengyoujiazhihehuayuquan,shengxiadejuedaduoshuzenmeban?

kexideshi,womenrengranzaiyonglaofangfayingduixinwenti。telangpuhairenweishiyiminqiangletamendegongzuo,bijingmeiyoulianderengongzhinengmeifabeizhijiekandao,jishuhaizaiyizhishujifazhan,zheishirenleiwenmingshishangzhengzhizhihuihejishuzhinengzuituoguideshidai。

helalishuo,zonghuichuxianxindegongzuo,keshixingongzuodexuexichengbensheilaizhifu?renmenbenlaijiubuyuanyixuexi,xuexichengbenhaibiandeyuelaiyuegao。zuihouhaishiyaotongshiluodaojishuyuzhengzhi,yaoqujiakuaidiedaizhengzhizhihui,tongguozhexuelaichuangzaogainian,bingbaxingainianandunjinwomendeshijiezhong,fouzezhendeyaogaobiezhirenle。ruguowomennengzuohao,neimezaihourenleidedipingxianshang,womenjiangzaicijiandaozhirendeshenying。

未经正式授权严禁转载本文,侵权必究。

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

我们不只是不信任AI,我们彼此也不信任 | 专访

《zaijianzhiren》zuozhewuguanjunrenwei,zaijishuchengzhishujifazhandedangxia,quefadeshizhengzhizhihui。womenbixuhuyuyicizhengzhizhihuidediedai,buzaizhibuyurenleizhuyideguyoukuangjia。

界面新闻记者 | 尹清露

界面新闻编辑 | 黄月

chatgptdeguangfanyingyong、nuojiangbanjirengongzhinenglingyuxuezhe、meiguodaxuanshoudeepfakeyingxiang……jishinibutaiguanzhujishuhuati,yebudebuchengren,rengongzhinengyijingshendujuanrulewomendeshijie。raner,kanzhe“ai”recimantianfei,dakejigongsizhanjuxinwentoutiao,womendaodiyaoruhejieshirengongzhinengdezhenzhengyiyi,yijirenleishenchuqizhongdeweizhi?

《zaijianzhiren:jishu-zhengzhiyuhourenleijingkuang》zuozhe、huadongshifandaxuezhengzhiyuguojiguanxixueyuanyuanzhangwuguanjunrenwei,zaijishuchengzhishujifazhandedangxia,quefadeshizhengzhizhihui;duirengongzhinengdexinrenweiji,qishigenzhiyurenleibicidexinrenweiji。shuzhongfenxilejishujiasu、zhihuiqueshidailaidekunjing:daliang“wuyongjieji”shiyezhebuzaibeishehuixuyao,daguohuxiangzhengdou,“zhiren”de“zhi”buzaimingfuqishi,renleibenshenyechengweilerengongzhinengwenmingdexuqu。

jiemianwenhuaduiwuguanjundezhuanfang,bujinshejile“aiyurenleidechuangzaoliruhebutong”dengyizhibeitaolun、congweiyoudaandechouxiangyiti,yecongtelangpuyumasikedelianhe、nuojiangweiyuanhuidexuanze、xuelibianzhidengjinqireyidehuatichufa,bububijinneitiaozuizhongdedaolu:jintian,womenbixuhuyuyicizhengzhizhihuidediedai,ruguowomenyiaiweiqifa,gengxinsiweifanshi,buzaizhibuyurenleizhuyideguyoukuangjia,neime,zhirenbianyouyixianshengji,zaixindedipingxianshangkanjianziji。

吴冠军近照。图片来源:华东师范大学官网

01 人不只是不信任AI,彼此也不信任

界面文化:与尤瓦尔·赫拉利侧重于人工智能的信息与联结不同,《再见智人》侧重人工智能的技术-政治面向。为什么研究人工智能需要强调政治?

吴冠军:巧合的是,我和赫拉利的新书都是在9月10号出版,我们都是1976年生人。《再见智人》和《智人之上》两个书名也具有鲜明的互文性(intertextuality)。赫拉利作品的原名是“Nexus”(联结),就像我在那本书的推荐序中所写,这个关键词恰恰有一个具体的政治面向。

亚里士多德说,men by nature are political animals(人天生就是政治的动物)。“政治”的词根在希腊语里是polis,指的是城市,人是在城市生活的动物。亚里士多德认为政治是人的定义性特征,政治对智人来说是唯一关键的、自我界定的向度。意味着人能够以共同体群居,而不是独立生存。所以,政治不是很多人理解的暴力争斗,这恰恰是缺乏政治智慧的表现。动物为了交配殊死争斗,这不是政治,而是政治的反面,是政治向度的缺失。

现在有了人工智能,我们就更清楚智人是怎么回事了。一种可能是我们离智慧越来越远,智人本身被边缘化,也就是“再见智人”了。年轻人倾向于躺平和自我放逐,毕业找工作时,发现自己还比不过人工智能,而人工智能尽职尽责、知识面广、工作效率又高,信息整合能力也很强。

lingyizhongkenengshi,womenzaixindedipingxianshangzhongxinkandaorenzhizhi,yejiushilingyizhongyiyide“zaijianzhiren”。zairengongzhinengyiranchaoyuerenzhizhinengdeneixielingyu,womenshifounenggoufazhanchuyuzhihezuodefangshi?haishijianchizhanzairenleizhongxindeweizhijurenqichaochurendezhineng?keshihenduorenjiushizheimexiangde:woburangnifazhan,yinweiwopanibiwogengqiang。weilebaituozheizhonggenshendigudesiweimoshi,womenxuyaozhirenduyoudezhihui,neijiushixingchenggongtongtidezhihui。suiranmuqianrengongzhinengyijinghenlihai、danrangtatichujiejuedangxiazhongdongwentihuoewuchongtudefangan,kongpatarenglisuobudai。

《再见智人:技术-政治与后人类境况》
吴冠军 著
北京大学出版社 2024-9

“zaijianzhiren”shiyigeshuangguanyu:yigeshihezhirensay goodbye,zhirenwenmingshikenenghuijieshude,meiyoubentilunbaozhengshitahuiyizhichixuxiaqu,renleikenengzhishijishufazhandeyigejieduaneryi;danshi,renleiyekeyifazhanchuhuozhongxinshiqirengongzhinengrengranmeibanfaqudaidenengli,“zaijianzhiren”keyizhisee you again。“jishu-zhengzhi”zheigecihenhao,jishuhezhengzhishirenleidelianggenguaizhang。suiranhelalizaishuzhongmeiyoumingxianshiyong“zhengzhi”cihui,danshi“lianjie”jiushiyizhongzhengzhixing。lianjieyiweizhetongguogezhongfangshihudong,wulunshitongguoshenhuagushihaishixinxijishu,lianjieyidanzhongduan,genggaocengcidewenmingfazhanjiuhuibiandekunnan。

zuijinrengongzhinengzhuanyehenremen,zhengzhizhuanyequefeichangbianyuanle,waiyuzhuanyeyesihubuzaizhongyao,yinweiaifanyizugouqiangda。danwomenmianduideyigehexinwentishi:yihouyaoruheyuzheixie“hourenlei”hezuoheduihuani?worenwei,beizhujianhushidezhengzhixueqiaqiashiyinggaizhongshide。zhengzhimeiyouzhongjidaan,tabuduanmianlinxinwenti,yebunengjiandandichaoxihuotaoyongyiwangdedaan,yongyuanshiyigechixudiedaideguocheng。

《智人之上》
[以色列] 尤瓦尔·赫拉利 著 林俊宏 译
中信出版社 2024-9

界面文化:一方面AI技术非常先进,另一方面我们的思维模式还是互相争斗。这让我想到你在书中强调的信任,而信任其实是一个没有理性支撑的跳跃。你为什么会这样强调?人工智能这一新成员的加入,会怎样影响信任缺失的现状?

吴冠军:很多人提出要做trustworthy AI(可信任的人工智能),或者停止开发AI,因为AI内部是一个黑箱。但是我们不妨想想,人类的大脑也是黑箱,AI的人工神经网络作为一种仿生学概念,模拟的是人类脑神经网络,人脑中有大约800亿个神经元,它们通过电信号相互交流。脑科学能够监测到大脑皮层中哪些区域很活跃,但是无法还原为脑海里在想的内容。

我们不断从新闻中看到这种事情:在西方社会,一个人昨天还是你的同学,今天拿起枪在校园里扫射。美国政府最怕的不是群体作案,那样还有办法监控,最怕的是一个个脑海黑箱式的“独狼”。

当地时间2023年12月6日,美国内华达大学拉斯维加斯分校发生枪击事件,肖恩·哈斯科克(右)和米歇尔·阿什利在两人为枪击案受害者留下蜡烛后亲吻。图源:视觉中国

keshi,renleishifouyinweidanaozhongdeheixiangertingzhihezuoleni?bingmeiyou。beihoudeyuanyinjiushixinren,wochengzhiweiyizhongzhengzhixingzhihui。xinrenzheijianshibingmeiyoujichu,ruguowonengzhangwoni100%dexinxi,neiwojiushishangdile,ershangdishibuxuyaoxinrentarende,zhiyourencaixuyaoxianghuxinren。keshi,meiyourenhebentilunlaibaozhengrendexiangfayidingfuhehabeimasisuoshuodesincere(zhencheng)hecommunicative(kejiaoliude),womenzhinengduixinrentazhezuochuyigeyuebu(leap)。

ranerjintian,wulunshiquanqiucengmiandeguojizhengzhi,haishisirencengmiandefuqiguanxi,zhengzhizhihuidoubiandehenxibo。womenzaimianduirengongzhinengshihainengdandeqi“zhi”rendeshenfenma?womenbuzhishibuxinrenai,womenbiciyebuxinren。

02 人工智能发展出慢思考是极有可能的

界面文化:虽然人类和人工智能都是黑箱,但如你在书中所写,这是两种完全不同的黑箱,比如人类懂得爱和创造;与人工智能相比,人类有一种本体论上永远无法被完全实现的潜能。关于这一点也有不同观点,比如赫拉利认为,机器也可以进行文化创造。你对此怎么看?

吴冠军:我们称人类的大脑为“湿件”(wet ware),既不是硬件也不是软件,而是一团肉。它有一个关键的有趣之处,也就是可塑性(plasticity),大脑虽然被认为利用率已经很高,实际上仍有很大的可塑性。而人工智能模型完成预训练后,它的能力也就基本定型了,你要么重新再训练一个更高级的模型,比如从GPT-3到GPT-4。

2023年3月15日,上海,一位年轻人访问和试用OpenAi最新推出的GPT-4。图源:视觉中国

suoyi,jibianrenleizaizhishiguangdushangcharengongzhinenghenyuan,danshiwomenyongyouyigeduyoudeqianneng,neijiushikeyibuduandizaishengcheng、zaizuzhi。jugelizi,mangrenshiqushijueshuruhou,shijueshenjingchuliquyuhuizhujianbiandebuhuoyue,danjishishizaoyulezheiyangdechuangshang,danaohaishihuiyijijidefangshiquyingdui,biruzhongxindiaoyongchujuexinhao,rangnijingguoxunlianhounengdudongmangwen,zheiduishilizhengchangderenlaishuoshibukesiyide。zaibiruduiwenkexuezhelaishuo,nianjidaleyihou,jinguanshengwuxueyiyishangshenjingyuanzongshizaibianshao,youyuciqiandejileiyuxianghujifa,haishijinyibunengshuchugenghaodexiangfa。

congshengwuxueshanglaishuo,getizaiyanhuaguochengzhongbushihenzhongyao,yanhuashiyizhongkuaisucankudediedaiguocheng,shengwanhaizijibenjiuwanchenglednachuanchengdeshiming。danshi,youyurenleijuyouzaixuexihebuduanzhongxinxunlianzijidenengli,renleijiuyongyouleyigedutezhichu——getishengmingbiandefeichangzhongyao,erbushijuxianyujiandandeshengwuchuancheng。chufeinifangqizijidanaodeqianneng,tangpingzuoyigechihuo——neijiuxiangdangyuzaozaojieshulezishendeyanhuakenengxing。

界面文化:人工智能是否能够进化出更多潜能?你在书中谈到,人工智能的大语言模型是一种前意识的快思考,只有人类能够慢思考,但是随着近日OpenAI开发出o1模型,人工智能也能进行慢思考了。

吴冠军:这种情况相当有可能。2022年之前,我们都不曾想到,人工智能竟然能具备如此强大的生成能力。有时我们取笑人工智能数学不行,比如有次它认为18.18大于18.8,错误地将18视作两位数。但问题是人类普遍也是数学不行,人类最擅长的思维模式就是快思维。我们看到长得像蛇的东西会认为很危险,先逃跑再说;有人对你说了有攻击性的话,你马上会感到不快,如果对可能的威胁与危险没有快思维,根本就活不下来。

生成式人工智能的强大,就在于它用快思维的方式,在很多方面能做到人类只能通过慢思维才能做到的输出,尤其是文本处理方面。你读完一本书后写书评,需要在脑海中提炼书的核心内容,而人工智能可以将复杂的思维过程转化为迅速的输出。人类的快思考是无法处理抽象的文字,然而人工智能的快思考能够直接针对具体的象征性符号,直接处理抽象语言。从这方面上来看,它可能真的是一个更厉害的species(物种),而o1这样的模型显示出人工智能发展出慢思考是极有可能的。

当地时间2024年5月21日,美国华盛顿州,微软Build 2024开发者大会上,OpenAI首席执行官萨姆·奥特曼在微软总部华盛顿州雷德蒙德举行的微软Build大会上发表讲话。图源:视觉中国

03 比起民族国家,“人类命运共同体”是更好的政治智慧

界面文化:特朗普胜选后与马斯克的一系列联合、硅谷精英集体转向右翼,都似乎说明技术威权主义十分盛行。你如何看待当下的情况?

吴冠军:我的理解是,事情都是在变化中的。很多人没想到,马斯克竟然会和特朗普合作,他们两人在很多地方分歧很大,马斯克做新能源车和SpaceX,核心诉求是改变能源结构和探索火星,为人类文明留后路。但是,特朗普代表的是气候变化的拒认者,他决定让美国退出《巴黎气候协定》,认为人类可以继续过往的方式发展,不需要做什么改变。特朗普宣布退出协定的第二天,马斯克就退出了总统顾问委员会,他认为特朗普是一个大忽悠。然而今天,他们又达成了合作,这是很有意思的。

当地时间2024年10月5日,宾夕法尼亚州巴特勒,特斯拉和SpaceX首席执行官埃隆·马斯克(右)在一场竞选集会上跳上舞台,与前美国总统及共和党总统候选人特朗普(左)同台亮相,图源:视觉中国

我的分析是,马斯克对人类文明怀有一种危机意识。比如9月30日,他为特朗普单独搞了一场竞选演讲的背书,表示西方文明可能面临终结。他认为,民主党是更加不作为的,过于关注政治正确如性别议题,忽视了其他人类的大问题,民主党上台可能又是白白浪费四年。马斯克尤其痛恨“觉醒文化”。我们暂且不评论马斯克的认知本身,在他的认知中,首先就没有那么多时间可以浪费。

再反过来看特朗普是一个怎样的人。特朗普非常在乎“赢”这件事,他甚至说过一句话:“我认为竞选总统比做总统更有意思。”并且,特朗普是商人出身而不是政治家出身,他的施政就可能不会被此前的说法和做法所绑架,说出的话也经常随便改口。他可能会愿意谈判,只要他认为他能赢。但如果按照政治正确的标准,很多话是不能说的,稍微说错就会被贴上标签。

所以,这就产生了一种可能性:当特朗普和哈里斯势均力敌时,马斯克在关键时刻给予助力,让特朗普获得了很大的优势,那么接下来,马斯克就可能拥有很大的政治介入空间、能够深入影响政治议程,比如带来技术和生态方面的改变。我们也已经看到,特朗普在很多场合都带着马斯克,比如和泽连斯基通话、参加巴黎圣母院的重开仪式。

这是件好事吗?我觉得还是蛮好的,今天的时间常常浪费在政客们彼此指责、彼此起外号的话语中,但我们需要能够实际地带来变化的人。至于怎样变化还无法预测,但至少会有新的可能性。

你可以不喜欢马斯克,但他的确是一个思考者,一旦想好以后执行力也很强。比如在此之前,没有人认为去火星这件事可以由私营公司来完成,但是他承担了下来,并且做得有声有色。

界面文化:虽然马斯克是一个思考者和行动者,推出了Neuralink脑机接口等非常科幻的技术,但如你在书中所说,他的愿景归根结底是超人类主义的,会导致权贵精英最先享受到增强技术,进一步加剧全球不平等,马斯克对AI的恐惧也仍然根植于“人类-AI”的二元对立。与之相反,后人类主义则是激进地打破了二元对立。可以简单谈谈两种框架的区别吗?

另一个问题是,如今,真正掌握技术的人才许多都被招至OpenAI等科技公司,他们也会不可避免地进入技术-商业精英的框架;而还在想象“后人类”未来的,似乎是并不拥有技术的“文科生”。即使我们知道后者才是努力的方向,但是在提出理论之余,还应该怎么做?

吴冠军:这是一个很值得探讨的问题。首先要讲一下超人类主义和后人类主义的区别。人类主义一种基于生物性身份的思维逻辑超人类主义是人类主义的延伸,当马斯克看到人工智能的挑战,他会想:不能让人工智能比我更强大,所以要通过脑机接口等方式,使它成为我思维的一部分,从而驾驭它。人类主体是一个基座,其他所有东西都往上加,目的是提升我的能力。经常出现两种心态,一种是对人工智能充满恐惧、不让它发展;另一种寄希望于人工智能来解决人类的问题,这也是一种人类主义,叫做有效加速主义。

zaicizhiwai,womenhaikeyiduozouyibulu,tichulingyizhongsiweifangshi。renleiduizijidenenglijuyouxinxindelishibingbuyoujiu,zhiyousiwubainian,zaiwangqianqishibingbushizheiyang。xifangwenhuazhongyouquanzhiquannengdeshangdi,fanshenlunzhongshanyoushanshen、shuyoushushen,xuduoshiwudoubiwomenlihai,《xiyouji》lidetangsengkandaoyikexingshulideshujingdouyaohesile,suoyirenleimeishenmelebuqide。danshijibainianlai,renleixingchengleyidingyaozuozaizhongxindesiweifangshi,dangzhinengyoukenengbeichaoyueshi,jiubunengpingxinjingqididuidaile。

yinci,“hourenlei”degainianhenhao,tabushifanrenleizhuyi,ershiyaozairenleizhihou,kankanbuyiyangdekenengxing,youmeiyoubeirenleizhuyisuoyangaihehushidecunzaizhidetansuohehezuo。tayebushiqudaiguanxi,buzaishizhongxin-bianyuandekuangjia,ershiyongbaoduoyangxing,dakaizhutijianxing、wenmingjianxing、wuzhongjianxinghezhinengjianxing。ruguoshijieshangzhiyouyizhongzhineng,qishiniyehengudu,zheiyiweizhenihennanzaitishengle。

图源:视觉中国

jugelizi,renleidechengjiuyuqitashengwudehezuomiqiexiangguan,tongshentizhongchangdaojunqundehezuoxingchenglewomendejiankangzhuangtai。congguojijiaodulaishuo,qieduanguojiazhijiandehezuobingjinru“qiabozi”zhuangtai,shiyizhonghenyuchundexingwei。henduorenliulianrenleizhuyiyehenzhengchang,jiuxiangshiliulianguxiang,danwomenyinggaiyougengdadesikaogeju,xuehuiqianbei,qukandaoyikaishirangnibushufudecunzaizhe。bingqie,dangrenleiwenmingbiandeyuelaiyuechenfu、laohua,gonggongpingtaishangchongchizhegezhongduisihemanma,hainengchuxianzheimeyouyisidekenengxing,zheibushihenhaoma。

界面文化:奇怪的是,人工智能技术本身是去中心化、跨学科的,可现实却是,它成为了一种中心化和威权化的技术。按照书中的观点,如果全球资本主义秩序、民族国家格局没有改变,人工智能趋于中心集权化的未来是否就无法改变?

吴冠军:这是人类的自我组织的两种主流方式,两种方式彼此依存,延续的时间很长,同时也构成了我们当前的僵局。

我们先从民族国家的角度来谈起斯特伐利亚合约以来,欧洲国家进入了民族国家状态,这种状态后来主导世界。尽管联合国呼吁了许多事情,但它的力量很弱我们仍处于不断擦枪走火的局面中。

曾经,民族(nation)让世界有了新的可能性。通过这个概念,我们能够建立连接,形成想象的共同体,连结许多氏族和种姓,打破了以往不可合作的壁垒。随着时间的推移,它反而成了纷争的源头。政治智慧是没有最终结论的,今天可以被视为一个迭代政治智慧的阶段,比起民族国家,“人类命运共同体”是一个更好的政治智慧。它超越了传统的民族框架,在人类乃至行星的意义上思考共同的命运,它更可以开启各个物种命运共同体的后人类视角。

另一个关键问题是资本主义。资本主义的生存依赖于外部,资本主义不能自给自足地增长,它一定要开辟新的市场、发现新的方式。今天全球化的程度越来越高,既有的市场越来越饱和,各种资源也已经被深度开发,那要如何找到新的地方呢?于是,技术变得极为重要,一有新技术出现资本就扑了过去。

图源:视觉中国

过去的世界是广阔的,但今天的行星变得越来越小、已经变成“地球村”了,导致了许多矛盾。尽管中国和美国地理上相隔遥远,但地球变小使得他们很近,有人就会感觉对方多吃了一口肉,我就会少吃到一口。在这个意义上,资本主义和民族国家共同形成了一个巨大的矩阵,严重制约了人类文明的进步,也让我们陷入危险的边缘,比如生态危机。

在资本主义中,什么都要算一算利润,生态问题的成本就很高,例如,实现碳中和的成本就很昂贵。而民族国家的模式让局面变得更糟糕,特朗普认为,美国凭什么要承担责任?但问题是,生态问题主要是经历过工业革命的发达国家造成的,而不是南方国家。在这个意义上,民族国家与资本主义结构使很多事情无法做成。

技术也是一样,AI原本是一个非常好的讨论平台,但现在AI本身变成了一场军备竞赛。所以,我们要呼吁一次政治哲学的大的迭代。上一次的政治智慧迭代是三四百年前,在以往等级化的社会中,很多人的幸福指数很低,活着就是吃饱这一件事,但那时的启蒙哲学家们发明了一组新概念,让我们进入了现代性,人类也取得了许多成就。现在我们又到了一个关头。

04 就算人类输给人工智能,也不意味着一切都结束了

界面文化:你在写这本书时,诺贝尔物理奖和化学奖授予与人工智能领域相关的学者的消息还未公布。但你也在书中写到,技术已经不再是科学、政治、艺术等维度之一,而是凌驾于这些维度,成为主导性维度。在你看来,诺奖委员会的选择是技术凌驾于科学的表征之一吗?你如何评价这一选择?

吴冠军:诺奖物理学奖公布后,我的朋友圈几乎炸了。我的一个朋友是有名的哲学教授,本科学的是物理学,他非常生气,说:“诺贝尔奖委员会疯了,杰弗里·信顿和约翰·霍普菲尔德都是搞人工智能的,计算机科学有图灵奖,怎么又跑来抢诺贝尔物理学奖,他们又没有受过物理学的学术训练。”

我的分析是,这次的诺奖既激进又保守。激进在于,他们竟然大踏步冲破学科的壁垒,关注研究者跨学科的贡献,而不是物理学归物理学,计算机科学归计算机科学。人工智能本身就是跨越学科的,ChatGPT或者Sora可以是物理学家,也可以是人类学家。

保守在于,诺奖委员会在评选时仍然要证明这是人类获的奖,人类中心主义的思维仍然存在。这导致了某种扭曲——约翰·乔普是AlphaFold的首席科学家,他并不是做结构分子生物学的,然而他领衔做出来的计算机模型是一位很棒的结构分子生物学家。但诺奖委员会无法认可一位连“脸”都没有的科学家的成就。同样,辛顿在人工神经网络方面的一组奠基性工作使得物理大模型有了可能性,但并不意味着他是这个领域的专家,所以信顿接到获奖电话时还以为这是一个玩笑。

当地时间2024年10月8日,瑞典斯德哥尔摩,在宣布2024年诺贝尔物理学奖的新闻发布会上,物理学家约翰·霍普菲尔德(左)和杰弗里·辛顿的照片出现在屏幕上。图源:视觉中国

界面文化:我读过一篇诺贝尔物理学奖评奖委员会委员Ulf Danielsson的专访,他也认为AI只是工具,不能自己推动科学前进。

吴冠军:我这本书也是一个努力,希望慢慢打开我们的格局。我们只是倚赖生物性的快思考的时候,格局比现在更小,看到不同肤色的人会感到警惕或恐惧。所以人工智能要用起来、不同国别民族的朋友交起来,互相学习才是解决生物性恐惧的方式。就算人类最终输给了人工智能,那也没关系,不意味着一切结束了,我们人类还可以regroup(重新部署),就像爱因斯坦去到普林斯顿大学后进行了重新调整,相对早年物理科研上进展有限,但他成为了一个伟大的公共知识分子。

今天的情况是相反的,学者在论文署名时,还是不允许给AI共同署名;由于不能署名,学者使用了ChatGPT进行文献梳理,结果就被抓出来说成抄袭。这都是很猥琐的事情,有好的工具为什么不允许使用呢?

05 当下是人类文明史上政治智慧和技术智能最脱轨的时代

界面文化:你在书中着重写了AI时代的教育问题,认为在AI取代人类工作、知识更新迭代加快的当下,教育应该从实体学校的单线灌输式教学,转变为网络状结构的终身教育,所有人都是教-学实践的行动者,需要时时与网络互动,这样才不会被淘汰。关于AI对教育的启发,可以再展开谈谈吗?

吴冠军:今年1月份的Nature杂志有一篇很棒的文章,题目叫做《It Taks Two to Think》(要二才能思)。人类的思考过程从来不是孤立的,看似是“吴冠军”写的书,但这建立在我阅读了许多优秀著作、向很多深具洞见的作者进行思想交流的基础上,只是在人类的写作传统中,“作者”不能写上几百个,所以我的书“后记”变得很重要,里面有在我生命中那些重要的交流者。

法国哲学家拉图尔有一个“行动者网络理论”,个体并不是以自我为本体论根基的行动者,而是在互动中才产生了行动者。并不是首先有两个个体在彼此互动,而是通过互动才有了这样的你和我。所以,改变和互动是最根本的,关键不是你是谁、有怎样的理念,关键是你做了什么。

2024年9月,香港科技大学推出首批“AI讲师”。图源:视觉中国

界面文化:一个疑惑在于,在学历贬值、毕业即失业的严峻情况下,以上讨论对大部分人的意义是什么?清华大学基础科学讲席教授刘嘉也提到,在AI时代,教育应该从就业导向变为跨学科的通识教育。可是能做到这一点的,似乎仍然是精英群体,你怎么看?

吴冠军:可以从两个角度回答。第一个角度指向自我、我该怎么做;另一个角度是整个社会应该怎么部署,使我们能够更好的合作,而不是互相伤害或产生大量失业。

congziwochufajiushilunlixue,congshehuijiegouchufajiushizhengzhixue。ranerzaijintian,zheilianggexuewendoujihutingzhibuqian。zhengzhixuebeibianyuanhua,womenyebuzenmejianglunlile,faneryaoqiurengongzhinengjiangjiulunli。

congziwochufa,jintianmianduishijiedeweiyikenengxingjiushizhongxingoujianrenzhiditu。yiqian,womenshizaitongxue、fumudeguidaoshangxuexi,danshilejierengongzhinengdexueximoshihou,womenkeyifansirenleidexuexizhidu。chuantongshang,renleidexuexizhouqishi20duonian,gongzuohoujiutingzhixuexile。raner,xuexibenshenshiyizhongzhongyaodelunlishijian,rengongzhinengyeyaotongguoxuexishengchengxinneirong,yinci,xuexiyinggaishizhongshenxingdetouru,bingqieyaoyugezhongren、hourenleiduihua。

suirannitidaojingyingyufeijingyingdequfen,danfanguolaiyekeyishuo,niyuanbuyuanyitishengzijini?xuexidequehenleiren,yinweimansikaohuixiaohaonengliang,yebufuherendebenneng,rendeyanjingbushanzhangshulichouxiangwenzi,gengshanzhangchulituxiang,suoyishuaduanshipinhenkaixin,dantongshiniyesangshilehenduo。erlunlixueyaoqiuwomenzouchushushiquan,bujinjinmanzuyudangyige“chihuo”。

congzhengzhixuechufa,womenmianlindeyidatiaozhanshi,daliangderenbuzaibeixuyao。yiqianzhishizaitilishangbubeixuyao,birugongyehuashengchandaitilemujiangdeshougongyi,danrujin,aizaizhinengfangmiandebiaoxianyejingchangchaoguorenlei。zaiwenmingshishang,yiyoudegezhongshehuixingtaidougaoduyilairenli(tiliyuzhili),lianzhanzhengyexuyaorenli,danshixianzaiwurenjijishuyijinghenchengshu。weilai,dangagi(tongyongrengongzhineng)deshidaizhenzhenglailin,tazaigegelingyuchaoguo85%shenzhi90%derenlei,neimechulezuiyiliuderenleirengyoujiazhihehuayuquan,shengxiadejuedaduoshuzenmeban?

kexideshi,womenrengranzaiyonglaofangfayingduixinwenti。telangpuhairenweishiyiminqiangletamendegongzuo,bijingmeiyoulianderengongzhinengmeifabeizhijiekandao,jishuhaizaiyizhishujifazhan,zheishirenleiwenmingshishangzhengzhizhihuihejishuzhinengzuituoguideshidai。

helalishuo,zonghuichuxianxindegongzuo,keshixingongzuodexuexichengbensheilaizhifu?renmenbenlaijiubuyuanyixuexi,xuexichengbenhaibiandeyuelaiyuegao。zuihouhaishiyaotongshiluodaojishuyuzhengzhi,yaoqujiakuaidiedaizhengzhizhihui,tongguozhexuelaichuangzaogainian,bingbaxingainianandunjinwomendeshijiezhong,fouzezhendeyaogaobiezhirenle。ruguowomennengzuohao,neimezaihourenleidedipingxianshang,womenjiangzaicijiandaozhirendeshenying。

未经正式授权严禁转载本文,侵权必究。