查看原文
其他
继续滑动看下一个
向上滑动看下一个

思想的碰撞   民声的回鸣

有品格  有良知  有深度  有温度


泰德·卡辛斯基被捕现场  图源网络

一个数学天才的预言,人类沦为困在AI和算法里的一个齿轮

文/河岸

最近ChatGPT大火,我上篇文章发出后,有读者反馈说开始担忧人类的命运。今天这篇正好想探讨这个话题。


关于科学技术对于人类社会的影响,必须要提到一个人,就是泰德·卡辛斯基(Ted Kaczynski),这个名字大家可能比较陌生,但如果说到Unabomber,相信很多留美学生都会有印象。我也是很多年前听LD说起过这个人。911之前,美国人几乎是无所畏惧的,但说到邮包炸弹,还是心有余悸。


卡辛斯基,Unabomber是美国历史上著名的连环邮包炸弹手。1942年卡辛斯基出生在芝加哥一个波兰裔家庭,他是一个数学天才,智商高达167,他本科毕业于哈佛大学,并获密西根大学博士,后任职于伯克利数学系。1969年,卡辛斯基从伯克利辞职,1978年,卡辛斯基开始手工制造邮包炸弹,并寄送给大学和航空公司等目标,导致3人死亡,23人受伤。因为他袭击的目标大多是大学理工科教授和航空公司,因此被冠之以Unabomber的称呼,中文翻译成“航校炸弹客”。当年FBI 动用了大量的人力物力,派出500名特工,查访上万人次,接了2万多通检举电话,还抓了200多名嫌疑犯,花费500万美元还是未能抓到他。可见卡辛斯基思维链条很长,事先想到各种可能状况,因而未留下任何线索。


我的一位朋友是数学教授,他还认识教过卡辛斯基的老师,他说这位数学博士寄炸弹寄了将近20年没被抓到,炸得来劲,自信心爆棚,1995年给纽约时报寄了一篇3万5千字的檄文《Industrial Society and Its Future》,他威胁华盛顿邮报或者纽约时报登载,否则再寄炸弹。华盛顿邮报居然全文刊登。结果炸弹客的弟弟读了文章,发现文章的语气像极他在蒙大拿隐居的哥哥,便告发给FBI 并协助警方逮捕了他。1996年,卡辛斯基在蒙大拿荒山野岭的一间小木屋里被捕,被控制造多起邮包炸弹事件,并被判处终身监禁。



图源网络


卡辛斯基在那篇檄文里痛述现代工业社会对人类和自然的破坏,对人类自由和尊严的威胁,呼吁人们反对科技和工业发展,重新回到自然状态下生活。当年许多人读到这篇文章时都觉得很有说服力,《大西洋》、《纽约客》等主流刊物还专门发评论文回应这篇文章。据说当年他的哈佛同学聚会时,他不能参加,但还是寄来了地址,就是他的囚室号码,把一帮精英们气得哇哇叫。他在狱中这么多年一直也没闲着,已经出版了三本书籍。2016年出版的政治哲学大作《Anti-Tech Revolution: Why and How》,Amazon上评分高达4.7/5。2017年,他的故事被改编成电视剧《Manhunt》,好评如潮。



图源网络


卡辛斯基的思想和行为引起了广泛的关注,成为反技术主义和极端主义的代表。我记得我上研究生的时候有个老师,是个白人老头,他非常不喜欢科技,说他 hate technology,他是个不苟言笑的人,经常带着一把伞。或许他也是受到了卡辛斯基的影响。


今天,当ChatGPT如此强势地出现在我们面前,重读他这篇文章,真是颇为震撼,ChatGPT俨然正在应验这位数学天才近三十年前的预言。他的有些观点虽然有失偏颇,但对社会发展的思考非常深刻和超前,对于未来的预见和智能机器对人类的影响有很多真知灼见,观点独到,富有哲思和前瞻性,且逻辑清晰严密,行文简练,正是我喜欢的风格。


文章开篇就是“工业革命及其后果为人类带来了极大的灾难。“ 他说”新技术改变社会,最后人们会发现,自己将被强制去使用它。人们不再拥有不使用新技术的自由了。“ 的确正如他所预言的那样,今天,我们如此依赖汽车,依赖智能手机,依赖微信,依赖数据,以至于哪怕是离开它们一小会儿,我们就坐立不安。2020年刷屏的一篇文章是”外卖骑手,困在系统里”,其实,我们每一个人都已然成为困在人工智能和算法里的一个齿轮。社会成为一个不停转动的大机器,我们每一个人都是其中的一个齿轮,且这个齿轮的转动越来越不以我们个人的意志为转移。


互联网和社交媒体把人们的视野打开,把更多的人联系在一起,但同时带给我们海量的信息和垃圾。30年前,电子邮箱还没有普及的时候,一个个体的死亡只有极少人知道,我们和父母还用手写的书信联系。现在,各种真消息假消息实时大面积的传播,许多无用的东西推到我们面前,让我们不得不迅速地浏览,人们的注意力越来越短。几年前,人们还在看书,但现在别说书了,长一点的文章都看不下去,都在刷小视频了。人们在各种社交媒体之间转换,思维也变得跳跃,有朋友称之为游牧式思维。这种思维短、平、快,和传统线性深入的思维格格不入,或者这也能解释为什么年轻一代更喜欢《瞬息全宇宙》。社交软件用算法提炼出你的喜好,然后推送类似的文章和视频,让你深陷其中,越来越身不由己,人们陷入了一个用技术构建的网络世界,“在这个世界中,普通人的命运不再掌握在他自己手中,而是掌握在政客、公司主管、技术人员和官僚手中”。


技术让我们的世界越来越相似,随处可见的麦当劳,星巴克和连锁店。大家都在用类似的手机和软件。卡辛斯基说"最终技术完全控制地球上的一切,人类自由基本上将不复存在,因为个人无法对抗用超级技术武装起来的大型组织。只有极少数人握有真正的权力,但甚至就连他们的自由也是十分有限的,因为他们的行为也是受到管制的。"


近三十多前,卡辛斯基对于智能机器的推测是这样的,假设 "计算机科学家成功地开发出了智能机器,这些机器无论做什么事都比人类强。在这种情况下,大概所有工作都会由巨大的、高度组织化的机器系统去做,而不再需要任何人类的努力。"


而现在,ChatGPT等AI技术是不是朝着这个方向飞速行驶?结果会如何呢?


卡辛斯基说:"如果我们允许机器自己做出所有的决策,人类的命运那时就全凭机器发落了。人们也许会反驳,人类决不会愚蠢到把全部权力都交给机器。但我们既不是说人类会有意将权力交给机器,也不是说机器会存心夺权。我们实际上说的是,人类可能会轻易地让自己沦落到一个完全依赖机器的位置,沦落到不能做出任何实际选择,只能接受机器的所有决策的地步。随着社会及其面临的问题变得越来越复杂,而机器变得越来越聪明,人们会让机器替他们做更多的决策。仅仅是因为机器做出的决策会比人的决策带来更好的结果。最后,维持体系运行所必需的决策已变得如此之复杂。以至于人类已无能力明智地进行决策。在这一阶段,机器实质上已处于控制地位。人们已不能把机器关上,因为我们已如此地依赖于机器,关上它们就等于是自杀。"



泰德·卡辛斯基 图源网络


看看ChatGPT的迅速迭代,机器是不是变得越来越聪明?而强大的运算力和学习能力只会让机器越来越聪明。还记得AlphaGo打败围棋冠军有多快吗?智能绘图软件MidJourney的画进步有多快吗?而这句话尤其令人惊心:”我们已如此地依赖于机器,关上它们就等于是自杀。”更糟糕的是,机器的控制权会落到一小部分人手里。


就像卡辛斯基说的:”一般人也许可以控制自己的私人机器,如他的汽车或计算机,但对于大型机器系统的控制权将落入一小群精英之手----就像今天一样。由于技术的改进,精英对于大众的控制能力将会极大提高,因为人不再必需工作,大众就成为了多余的人,成为了体系的无用负担。如果精英集团失去了怜悯心,他们完全可以决定灭绝人类大众。如果他们有些人情味,他们也可以使用宣传或其他心理学或生物学技术降低出生率,直至人类大众自行消亡,让这个世界由精英们独占。"


听起来是不是有些恐怖?高度依赖机器的结果就是个体慢慢丧失了自主意识和自由。而机器越来越强大,强大到极少数人可以用这个工具控制其它绝大多数人。是不是像极了我上一篇文章里提到的刘慈欣的《赡养人类》?整个地球都是由一个人控制,连空气都是属于他的,这些极权人物利用机器来统治人类,奴役人类。


当然,也有可能这些精英集团不是希特勒那样的独裁者,而是软心肠的自由派人士,那情况又将如何?卡辛斯基说:“他们将注意保证每个人的生理需求都得到满足,每一个孩子都在心理十分健康的条件下被抚养成人,每一个人都有一项有益于健康的癖好来打发日子,每一个可能会变得不满的人都会接受治疗以治愈其'疾病'。当然,生活是如此没有目的,以致于人们都不得不经过生物学的或心理学的改造,以去除他们的权力欲,或使他们的权力欲'升华'为无害的癖好。这些经过改造的人们也许能在这样一个社会中生活得平和愉快,但他们决不会自由。他们将被贬低到家畜的地位。”


看看今天的马斯克,扎克伯格,盖茨,还有谷歌的创始人们,是不是正是这种软心肠的自由派人士?而我们,会不会成为那些被驯服的家畜?回想农业社会初始,野猪野狗不也是被人类一点点驯服,被圈养,最后被任意屠宰吗?


"对于那些找到工作的人,就业的要求会越来越高。他们将需要越来越多的训练,越来越强的能力,他们将不得不越来越可靠、越来越规矩、越来越驯服,因为他们将越来越像巨型有机体的细胞。”


看看现在,面对ChatGPT,我们讨论的不就是怎么提高自己的能力,把自己武装起来,成为最难被淘汰的人吗?


而那些没有掌握技能的人,被机器豢养或者是被淘汰的人又会如何?”他们会去寻找危险的其他渲泄途径(毒品、犯罪、邪教、仇恨群体等),除非他们经过生物学或心理学的设计改造后适应了这种生活方式。"这就是卡辛斯基预测的人类的命运。


技术正在成为一把双刃剑,带来方便和高效的同时,也把我们带入困境。而不断更新的技术似乎并不能解决它随之带来的各种问题。"一项新技术被引入社会时,将会引发一长串其他变化,这些变化之中的大部分是不可预见的。历史经验告诉我们,技术进步给社会带来新问题的速度,远比它解决旧问题的速度要快。技术已将人类带入了一条无法轻易逃脱的死胡同。"


卡辛斯基预测的未来似乎正一点点变成现实。诚如他所言,科技虽然极大地增加了人类寿命,但也破坏了社会稳定性,剥夺了人类的尊严和自由,令许多人生活空虚。


根据美国National Survey on Drug Use and Health的数据,美国得过比较严重抑郁的人口比例从2005年的6.6%增加到2019年的 to 7.9%。今天周围抑郁症患者之多,年龄之小,真的令人震惊。前几天还看到群里一位朋友转的帖子,北京一个13岁的孩子从17层楼跳楼自杀,硅谷的著名高中Gunn high几乎每年都有高中生卧轨自杀,三年疫情对于人类心理健康的破坏也是有目共睹的。


技术迅速的更新迭代,世界越来越同质化,人们的生活方便,舒适,但人类的心理健康越来越糟糕,也变得越来越不自由。”因为在技术与自由之间不可能实现持久的妥协,因为技术是远远更为强大的社会力量,它将通过不断的强迫妥协来侵蚀自由。“就这样,人类的命运就是一点点沦为困在人工智能和算法里的一个齿轮,沦为被机器或者说掌握机器的极少数人豢养的家畜。


当然,这毕竟只是卡辛斯基的一家之言。虽然人工智能发展迅速,但还是有很多工作,智能机器还没有那么快会替代,或者是永远无法替代的。未来的社会生态,经济生态和政治生态会受到多大的影响,也没有人知道。毕竟,我们要等到那一天才能证实他说的是否准确。未来真的会成为卡辛斯基预测的那样吗?人类真的会自己把自己玩死吗?面对如此强大的科技,人类该采取什么行动呢,我下一篇接着说。

(未完待续)



河岸写在后面:大家好,从今天起,二湘空间的几个平台做出一些调整。六维以后只发我一个人的文章(偶尔发别的作者)。我的兴趣广泛,话题涉及时事电影哲学科技等领域,觉得我的文章对口的朋友欢迎锁定“二湘的六维空间”。我之前的个人公号“河岸的左岸”还会继续刊发一些比较尖锐的文章,也欢迎大家关注:


“二湘的七维空间”和“二湘的十一维空间”继续刊发名家大伽如方方,陈行甲,郝景芳,韩松,罗翔,罗新,艾芬等的文章,另外还有许多普通作者的文章,他们的文字功底都很好,文采斐然,各具特色,欢迎六维的读者关注这两个空间:



这是我最近写的一些文章:

河岸:GPT-4出来了,更聪明,更强大,科技会把我们引向何方
河岸:《瞬息元宇宙》不是我的菜,但杨紫琼太酷了 
河岸:俄乌战争一周年,泽连斯基还能坚持多久
河岸:嘲笑北大女生不过是五十步笑百步

河岸六维专辑    河岸十一维专辑 

河岸七维专辑    河岸个人公号专辑



作者简介河岸:欢迎来到河岸的精神咖啡馆,记录一点现象和思索,在时间的河岸上找寻一些不太切实际的梦想。个人公号“河岸的左岸”。

平台原创文章均为作者授权微信首发,文章仅代表作者观点,与本平台无关。

~the end~

更多往期精粹

顾城,当生活选择背叛,我选择决绝

逝者顾德裕,两个天真的人不同的道路和60年的友谊

传《翦商》作者身患重疾,我最关心的是被报道删除的这段话

河岸:GPT-4出来了,更聪明,更强大,科技会把我们引向何方

梅朵:我为什么喜欢《瞬息全宇宙》:救赎、成长和蜕变


欢迎大家关注河岸的左岸”和“我们的天空之城”以防失联。

投稿点击此链接,记得公号加星标

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存