AI末日论:区块链能拯救人类吗?


Episode Artwork
1.0x
0% played 00:00 00:00
May 27 2023 79 mins  

本期请到一位“觊觎”已久的嘉宾——孟岩老师(不是投资业界“有知有行”的孟岩,而是在区块链业界“知行合一”的孟岩)。孟岩老师不仅观点经常让我醍醐灌顶,而且是和Will老师唱“二人转”的最佳人选——两位都很有“web3说书人”潜质。
今天还是“AI三人行”系列,算是文理两开花第六次讨论AI。前五次大多是怀着对其惊叹、赞美的情绪,试图更多理解其背后的运行逻辑。今天却想从情绪的另一面——“末日情结”来聊一聊AI的危险性,以及人类可能的对策。
AI领域其实一直有“乐观”、“悲观”两派。前几期的嘉宾朱老师是乐观派,也可能AI专业人士对本轮ChatGPT的突飞猛进实在太激动,还没时间悲观;而Will老师看起来好像是乐观派,但似乎也有悲观的情绪混入——事已至此,想多了也没用,不如但行诸事,莫问前程吧。
我肯定是悲观派,已经抓住一切机会给大家灌毒鸡汤了。但奇怪的是,国内似乎很少看到悲观的观点,而大部分“doomsday”的观点都来自国外那几位AI教父,和尤瓦尔赫拉利这样的人类学家。但我“欣慰”地发现,孟岩老师和我一样悲观,甚至觉得人类只是智能的一个载体,是硅基生命的引导程序,白驹过隙,不足挂齿。
但孟岩老师更有建设性,也在积极寻找解决办法。在他《强人工智能时代,区块链还有戏吗?》这篇文章中,将区块链在人类对抗“AI无声侵入”这场“数字战争”中可能扮演的角色,总结的清晰明了。
我们今天就来听听:区块链将如何拯救人类?
 
BGM:Day Late and A Dollar Short, by Land of Loops
嘉宾:孟岩。Solv Protocol联合创始人。
时间戳:
1:30
AI感性坐标系:乐观派、悲观派、乐观悲观派、悲观乐观派、和“但行诸事莫问前程”派。
5:44
孟岩老师的三个观点:(1) ChatGPT已经发现了强人工智能的新大陆,完成了“从零到一”的转变;(2) 强人工智能对于人类的存在构成威胁;(3) 区块链可以帮助人类跟AI协作,成为规范AI行为的一个工具。
8:42
“暴击式威胁”和“无痛死亡”。尤瓦尔赫拉利:“AI不需要意识就可以毁灭人类文明”,我们面对的是“甜蜜、渐进式的攻击”、“超级政府”。
14:00
人工智能之父杰夫辛顿后悔了吗?
18:00
罗素的“Human compatible”(《AI新生》)书中涵盖了市面上的各品类“担忧”。基本可以归为三类:(1)假信息:有目的(为了实现自己的目标)控制人的思想;(2)夺走人的工作,让“人”失去意义。“智人”让位;(3)成为自动杀人武器。
AI专家们从技术上到底在怕什么?(1)学习能力无限复制;(2)未来智商不可预知,能通过阅读人类书籍来学习如何操纵人类,能轻易绕过人类设定的限制,且人类甚至不能感知到被 AI 操控;(3)一旦有了创建子目标的能力,很快会意识到控制人类可以帮其助它实现其他目标。
25:10
从现有价值观的“另一面”看看:两颗原子弹拯救了一亿日本人?因为有了核武器,世界才得以保持和平?
科技具有“强制理性”作用,会强制人类用理性去思考和看待世界。科技从来没有辜负过人类,是人类自己在“作”。
32:30
AI是否能让人类社会分裂、分化?从而“分而治之”?“Code is Law”——通过代码和加密技术能为机器人“立法”吗?
39:04
人类目前的对策有以下几种:
(1)呼吁类:联名上书
(2)威胁类:辞职以身作则
(3)教导类:把人类的道德约束灌输给AI,教AI怎么做人
(4)鸵鸟类:把威胁合理化,科幻小说看多了
(5)防御性:全民基本收入UBI、World Coin、“proof of human”
(6)主动进攻类:主动调整和干预 AI 的工作方式
45:10
人类基本原则的缺失:“打不过就合理化”,再把合理化后的结果宣称为人类文明的进步。
AI的未来本来就不可预料——消灭了人类的工作,人类不正好可以躺平,天天让机器注射多巴胺,飘飘欲仙的过完一生,不好吗?
人类还来得及做一些事情,至少给后代人类文明留下一些基本原则。
50:00
“消极防御”法:区块链这个“白盒子”能用来给人工智能这个“黑盒子”划红线。
56:20
区块链是给机器人准备的。它能发挥最大威力的地方,应该是在数字世界。区块链不是用来约束碳基生命,而是”对付“硅基生命?
1:00:23
身份与契约:AI是数字世界的“个体科技”,而区块链是数字世界的“关系科技”。
1:05:20
人类需要改变认知:数字世界不再是“服务于现实世界的附庸“,以后我们得尊重一下数字世界,升级自己在数字世界中的生存技能。
1:13:02
对接两个世界的“平行世界之桥”:不用等到下一代,五年到十年的时间里面,我们就会看到很强的连接出现?
 

关于《文理两开花》:

《文理两开花》是文科生思维和理科生思维在科技、经济、文化、哲学、货币、数字资产、元宇宙、Web3.0中的碰撞。当下的时代精神是“混沌”,我们试图在混沌中寻找秩序。
Twitter:
@LeiSalin_XP
@Will42W

TG群(开放)t.me
收听平台:
小宇宙:文理两开花
苹果播客|Spotify | Google Podcast | 等泛用型平台搜索收听《文理两开花(海外版)》(苹果播客中国区可复制https://open.firstory.me/rss/user/cl0roqwc0000l0hzje7se6f28手动添加节目)
文字稿和延伸阅读:
微信公众号《文理两开花播客》
《文理两开花》newsletter。欢迎订阅:https://wenli.substack.com
其他平台:
即刻:文理两开花
微博:文理两开花播客
《文理两开花》微信群:请添加文理小助手微信w_ruy_ 注明:文理两开花

留言告訴我你對這一集的想法: https://open.firstory.me/user/cl0roqwc0000l0hzje7se6f28/comments



Powered by Firstory Hosting