- A+
XM外汇快讯：
大家都知道，上周差评君去WAIC上看机器人去了，但其实咱也顺便看了看诺奖得主，AI教父辛顿的一个演讲。
XM外汇财经新闻：
话里话外的总结一下就是，老爷子又实行担忧了。
根据公开数据显示，
现在AI太厉害了，已经有点控制不住了，各国得赶紧想办法给它管管，可不能养虎为患。
说到底，
当然很多差友估计也都知道，这也不是老爷子第一次这么说，这两年他一直觉得自己打开了潘多拉魔盒，跟叶文洁似的，点燃了火，却控制不了它。
其实，
该说不说，AI这玩意儿到底安不有保障，会不会突然长脑子，把咱人类给一波团灭了，其实一直是这行里最前沿的话题之一，谷歌的哈萨比斯前几天也担忧过。
据报道，
虽然每次大家一说AI要成精了，科学家们都会站出来辟谣，让大家冷静冷静。但是诸位要较真，未来AI到底会不会有意识，毁灭人类？那他们可就不好说了，科学家里也有信的有不信的。
XM外汇认为：
这里边儿最核心，大家都公认的事其实就一个，AI现在确实太强了。不过咱今天想跟大家唠的是，让这些大佬感到恐惧的，究竟是什么。
简要回顾一下，
中国现代有个哲学家叫赵汀阳，这人说诸位要讨论AI有保障性这块儿，那就得话分两头。一个叫意识的威胁，另一个叫能力的威胁，先别把这两件事搞混。
咱就拿辛顿这次讲话来说，首先第一个前提，他觉得这人脑，跟现在的大语言模型（LLM）其实差不多，都一个类型。
其实这也好理解，深度学习、神经网络啥的说白了，它本来就是带点模仿生物的样子做的嘛。咱编辑部不少有育儿经验的同事也觉得，小孩刚实行学语言啥就跟训练大模型很像很像。
XM外汇专家观点：
故而诸位要这么去推理，AI这玩意他很可能也就跟小孩一样，能发展出来自我意识，那它就也有青春期，也会叛逆啊。看过动漫的都知道，中二小孩谈个对象都得毁天灭地的，万一这AI学歪了，那不就完蛋了。
故而像这种，这就叫意识的威胁。
然而，
举个例子，22年谷歌有个事儿闹挺大。说是有个谷歌工程师，跟谷歌的LaMDA模型聊天，聊着聊着发现这东西太像人了，什么都懂，还说自己有意识，不想被关掉。于是这哥们儿就吓到了，一封预警信交上去，结果谷歌反手把他给开了。当时就搞得一堆人说，谷歌这老小子有阴谋啊，搞智械危机啊。
必须指出的是，
然而在工程师眼中，这属实是有点san值太低了。乃因LaMDA其实跟别的模型没啥区别，只是规模更大了，语言更流畅，故而刚实行接触到的测试者就被吓晕了。
令人惊讶的是，
但在三年后的现在，各家的大模型其实都比LaMDA会说话，甚至像GPT-4o啥的，还专门要测一个情商分。
至于大家觉得像人，当时有认知科学家就分析，说这是乃因人类天然有拟人化的偏见，会把有人类特征的东西投射在非人实体上，这种事在视觉上其实更常见，比如这张图。
总的来说，
那有朋友可能就要问了，诸位咋就能确定模型没有自我意识呢，万一这些模型其实都有意识，只不过装的清纯无害呢？
老实说，要这么问，那这状况其实没法回答。
XM外汇消息：
现代哲学上有一个叫哲学僵尸的概念，啥意思呢，就是假设诸位身边有个伪人，跟活人一毛一样，他也会说话，也会拉屎，下雨也知道往家走，诸位跟他讲笑话他也跟着笑，诸位俩看恐怖片他也抖，但是以上这些所有动作都是它装的，其实它没有自我意识，内心毫无波澜，只是个有这种逢场作戏的条件反射的躯壳。
反过来看，
那么状况来了，诸位怎么判断诸位身边这个朋友是活人还是伪人呢？
这个思想实验就是说，对个体而言，诸位其实没法判断对面的人是不是真有自我意识，那就更不要说AI和机器人了。
更重要的是，
故而对于AI会不会产生意识的讨论，说白了辩论双方再怎么讨论也是鸡同鸭讲眼碌碌。
其实，
用连线杂志主编，技术预言家凯文凯利的话来说，大家对意识本身几乎一无所知，大家甚至不知道大家自己的意识是什么，故而去讨论它们“有没有”意识其实非常困难。
故而，对意识的恐惧，其实目前更多还是在哲学的层面上，也确实不好讨论。那既然不用讨论，辛顿这些大佬是不是就搁这儿杞人忧天呢？恰恰相反。
这咱就得说到另一边儿，能力的威胁。
简要回顾一下，
还是拿辛顿来讲，老头呢这次的第二个观点就说， 这大模型啊，他学知识学的太快了，吓银。
拿大家人类比，刘慈欣的小说乡村教师里就写，大家人类是靠声带在空气里传播振动来交换信息的物种，一秒的传输量才几个比特，哪怕诸位从中专实行学说唱，完事儿诸位叭叭半天，信息量都赶不上百度网盘下载速度。
很多人不知道，
而且就算诸位讲出来，听的人能不能学会还两码事呢。不少信息都是左耳进右耳出，这咱上过学的都懂。
与其相反的是，
但是这AI它就不一样。首先人家在电脑里，信息速度那首先海了去了，就不说在电线里跑，这次WAIC上连光通信的都有了，这诸位咋比。
说到底，
再一个，人家学的也快。不光是人家能力进步快，一秒读完好几本书这种，关键AI这东西哪怕互相学习，它也快。
根据公开数据显示，
比方诸位有一很牛的大模型，诸位怎么让小模型也学会呢？只需要蒸馏一遍，这小模型就能全掌握，变成大模型的样子。
故而这辛顿就担忧，那要照这么发展下去，人类不就迟早玩成了AI的玩物了？这回演讲中他就说，大家搞这个是养老虎，别看它现在小，以后长大了迟早要吃人。
XM外汇消息：
该说不说，辛顿这话确实有道理，听得有点后背发凉是不。
不妨想一想，
就拿现在用的最多的聊天AI来说，光这玩意负面新闻就也不少了，有宣传纳粹思想的，有教唆青少年自杀的，有让小孩子加入邪教献祭仪式的。
再比如，《侏罗纪公园》的作者以前写过一篇科幻小说，说是某天人类发明了一个医用机器人，允许自己制造打印材料，制造新的机器人。但有一天出了个bug，机器人实行从环境里掠食有机物来复制，于是就把地球上所有生命（包括诸位我）都团灭了。
可能你也遇到过，
故而哪怕这AI它就算没有意识，但就这个成长速度，未来AI跟硬件互联还能控制机器人，那出点儿什么事，我是想都不敢想。
站在用户角度来说，
那看到这，可能有朋友得生气了，听诸位这么一说，合着发展AI就是个错呗，那大家干脆学波尔布特行了。
综上所述，
然而诸位瞅瞅外边儿，这AI大趋势夺么火热，就知道那肯定不是所有人都这么想的。比方说马克·安德里森，人就觉得AI就纯粹是一软件，能“给人类带来无限繁荣”的“有史以来最好的东西”，吹上天了这一块。
XM外汇消息：
不过在凯文·凯利（KK）看来，甭管是辛顿还是马克·安德里森，其实都没说到点子上。
但实际上，
在他十年前出版的《必然》一书中认为，乌托邦和反乌托邦其实都更像是基于对未来盲目，这种盲目或许只是现代社会难以逃避的苦恼，乃因技术的发展实在是太快了。
很多人不知道，
而真正的未来，反而是当下就能看到的、正在“形成”这种进程的产物（protopia）。
XM外汇消息：
故而他倒是觉得，AI更像一种软件，最终发展估计就像电一样，会成为大家生活里的一个基础设施。那家用电还能短路起火灾呢，有本事诸位别用啊。
照他的意思，它不是来取代人类的，是来增强人类的。AI下棋软件的出现，并没有让国际象棋完蛋。反而是在这些超强软件的帮助下，下棋的人数、比赛的数量、棋手的水平，全都达到了历史最高，棋力碾压古人。
不妨想一想，
这么想，未来一定是人和AI融合的，就像大家离不开手机一样。
请记住，
图源Bilibili: 野路子梗画师
反过来看，
其实说白了， 任何大有作为的新发明都会有反对者，而且作为越大，反对声也越大。 现在大家对AI的恐慌，研究技术奇点带来会毁灭还是狂欢，这场面倒特像50年前大家讨论互联网。
1994 年,《时代周刊》认为 互联网“并非为商业设计,也不能优雅地容忍新终端”，故而永远不会成为主流。。。
1995年2月,《新闻周刊》在标题里更是直接开大， 互联网？我呸！ XM官网 (Internet ? Bah!)。这资料还认为在线购物和网络社区有违常识，都是不切实际的幻想，觉得在线数据库不会取代报纸。
诸位瞅瞅这脸打的。
据报道，
不过虽然凯文·凯利认为AI的主要性不亚于火、印刷术和工业革命，然而他也说，100年后估计AI会真的有大众理解的那种意识，而且会是与人类完全不同的模式，他称之为异人意识(alien consciousness)。
其实，
实际上，甚至在互联网尚未起步的时代，科幻作家和哲学家们就已经实行担忧机械智能毁灭人类了，比如战锤40k里的铁人叛乱。
XM外汇财经新闻：
用哲学家赵汀阳的话说，以前的技术革命，只是理性的技术升级，但人工智能和基因编辑不仅仅是技术革命，而且是存在论水平上的革命，技术的无限进步也许是一场不可信任的赌博。
尤其值得一提的是，
不过要我说，无论是觉得有没有意识，啥样的意识，还是认为AI是养老虎或者新电力，我觉得咱还是得从务实的角度来看。
目前大多数人都同意一件事是，这玩意的力量确实超乎人类想象，那就绝不能放任自流，该管还得管。这就好比核能。核裂变允许发电，但核武器的威胁一天都没离开过大家，上个月美国还为这事飞B2呢。
XM外汇消息：
大国之间既然允许通过协商，制订条约来限制核武器，那在AI这块儿其实也一样。人类需要一起坐下来，给它订一个防火墙，来防止那个可能发生在100年后的危机。
不可忽视的是，
比方说马斯克就老琢磨，AI这玩意儿以后估计要都集中在几个巨头手里，那万一哪家AI叛变了，剩下的也够呛打得过。 故而他要去搞开源的OpenAI，觉得人人有枪那它就不乱，提出一些美国方案。
需要注意的是，
这方案好不好咱先不说，但这讲解，大家已经实行认真思考如何建墙的状况了。
但实际上，
故而在我看来，AI这事儿，诸位要说它是天网降临那有点过，要说天下太平也不至于。
更重要的是，
就像KK说的， 大家现在就像站在1984年，看着一堆刚刚报名的.com域名一样，一脸懵逼又满心激动。本世纪前半叶最伟大的事物已经出现在大家面前，只不过那些奇迹般的发明，都在等着人类用卓识远见和智慧来采摘那些累累果实。
技术爆炸的未来注定是一场冒险，而大家，全人类，都是这未来的一份子。
撰文：纳西
事实上，
编辑：江江 & 面线
美编：萱萱
简要回顾一下，
图片、资料来源：
令人惊讶的是，
《必然》，电子工业出版社
从某种意义上讲，
《猎物》，译林出版社
容易被误解的是，
《5000天后的世界》，中信出版社
其实，
《智能与智慧——人工智能遇见中国哲学家》，中信出版社
更重要的是，
李建忠对话 KK 凯文·凯利《AI 的进化和颠覆》实录
尽管如此，
赵汀阳：技术的无限进步也许是一场不可信任的赌博
但实际上，
Marc Andreessen：Why AI Will Save the World
Lex Fridman：Demis Hassabis: Future of AI, Simulating Reality, Physics and Video Games
尤其值得一提的是，
科学网，theRegister，钛媒体等，部分图源网络返回搜狐，查看更多
