关于AI第四次讨论:GPT-4、RLHF、OpenAI插件、和未来产业发展的可能性


Episode Artwork
1.0x
0% played 00:00 00:00
Apr 05 2023 98 mins  

每天都是生产力革命。一觉醒来,AI推搡着人类社会和科技史又向前奔跑了,还是加速度。AI专家们兴奋的舍不得睡觉,工具人们跟的上气不接下气。
而《文理》对AI的思考似乎也停不下来——本来和百度人工智能专家朱老师的一次特别版嘉宾讨论,变成了“AI锵锵三人行”,提纲上的问题似乎永远讨论不完,还越拉越长。有位听友总结的相当经典:我们的节目似乎变成了“web3 + AI 两开花”。
于是我们迎来了对AI话题的第四次讨论,再请朱老师返场,一起深入探讨最近发生的几个标志性事件:GPT-4发布、OpenAI插件、“新的iPhone时刻”、科学家联名呼吁暂停AI开发六个月、当然还有大家最关心的——未来产业发展的可能性。
本期嘉宾:
朱凯华:百度集团智能助手首席架构师,小度CTO
时间戳:
01:55
什么是GPT?Sam Altman在和Lex Fridman对话中的有趣回答:“多年以后,我们回头看GPT,会把它定义为:一个非常早期的人工智能,很慢,有很多bug,很多事情做得不太靠谱——但是早期计算机也是这样。它给我们指了一条路,这条路会通往所有人生活中的巨变。”
05:14
GPT-4为什么会让朱老师感到“地动山摇”?报告中哪一张图“秒杀了很多东西”,让朱老师感受到巨大冲击?OpenAI的“科学炼丹”是什么?为什么要给AI模型“写宪法”?
09:23
GPT-4的多模态是AI能够达到人类智能的一个阶段。《皇帝的新脑》中的观点被推翻了吗?
13:53
能看梗图,能解释笑点——为什么很厉害?这体现出了什么能力?
15:46
那副关于GPT-4参数的著名“模因图”——”big circle, small circle”:GPT-4有100万亿个参数,到了GPT-5,规模更加不可想象,甚至出现了机器人一家在博物馆里看“人类文明最后的发言痕迹”的漫画:”GPT-5 isn’t that impressive.”
这张模因图的源头出自哪里?参数到底有多重要?
20:12
大模型足够大一定能产生好效果,但做出这么一个大模型,还能让它正常运转——难度非常大的。
24:14
什么是“世界模型”(the World Model)?为什么预测下一个词的能力显示了对世界的理解程度?
世界模型能涵盖博尔赫斯的知识宇宙——“巴别图书馆”吗?
28:04
微软研究院:《通用人工智能的火花:GPT-4早期实验》中的一个有趣发现:AI无法写出英文“回文句”(最后一句和第一句话的单词相同,但顺序颠倒,且语法正确;比如“叶落天落叶”)。侯世达在GEB中提到巴赫的《螃蟹卡农》,正反演奏都成立。AI无法生成”回文句“,能说明这是人类特有能力吗?
31:27
朱老师对《通用人工智能的火花:GPT-4早期实验》的精彩总结:14行诗、素数证明、用JavaScript画抽象画、用圣雄甘地的口气给老婆写信——体现出了GPT的什么能力?
44:18
什么是RLHF(Reinforcement Learning with Human Feedback)?“人类指导的科学”(the science of human guidance)是种什么体验?
47:44
合作比对抗强,GAN和RLHF——一个是“鸡娃式家长”,一个是“鼓励式家长”。
52:04
给外星人一本《红楼梦》,它能学会使用中文吗?RH模型中的“grounding”(锚点)如何帮助外星人实现目标?
56:25
GPT Plug-in(插件):“新的iPhone时刻”到来了吗?
和菜头把把GPT比作《沉默的羔羊》中高智商罪犯汉尼拔,被关在死牢最深处;把插件比作克拉丽丝——授权的FBI探员,可以带着最新的资料来请教汉尼拔,插件就是一堆得到OpenAI授权的公司——这个比喻正确吗?
59:04
Will老师认为和菜头老师的比喻“说反了”:其实是GPT把插件软件“学透了”。朱老师认为,“汉尼拔”就像超级智能,人类根本无法把它“关起来”,它很可能把你玩转。
01:05:36
OpenAI“智能接口”的惊奇之处:实现了自然语言编程,并且具有良好的推理能力,可以根据用户需求进行思考,将需求分解为一步一步的操作,调整操作以满足用户需求。
01:09:22
插件是否全面打击了我们熟悉的互联网商业模式?如果GPT抢占了所有人的注意力,大家还会愿意打开其他应用程序或网站吗?
01:12:55
Will老师比较乐观:GPT的出现改变了人们寻求“扩展”的行为模式,虽然可能导致失业,但从社会分工的角度,人类本来就习惯于“分离”和“分工”的方式。
01:19:47
1000多名AI专家的联名上书,要求所有与AI相关的实验室暂停工作6个月。威胁是否真的如此严重?联名上书是否有效?
朱老师和Will老师的态度鲜明:不同意,不可能,阻止不了。
小跑则为文科生发声:从弗兰克斯坦、普罗米修斯、亚当夏娃的故事,再到法国大革命的现实,总有一批右脑在和极度理性做斗争,认为人类“创造生命”的结果是扭曲可怕的。 数学不可怕,科学不可怕,AI也不可怕,但是人类追求极度理性时的狂热、忘我、和不自知的偏执才是可怕的。
虽然但是,如果AI已经可以摆脱人类能自行发展,那就算人类克服了偏执狂热又有什么用呢?“核不扩散条约之后,我们应该有个”AGI不扩散条约“吗?
01:31:47
关于维特根斯坦的小“battle”:AI的神经网络是否能超越真值表的逻辑体系?

《文理两开花》终于要和大家线下见面啦!
初次见面,我们特别选在了香港web3 festival的盛大节日期间,在香港中环地标“百年冰窖”——藝穗會(Fringe Vault)里,和大家相聚畅聊!
4月15日下午,Will老师和我会和大家:一起回顾过去一年做《文理》播客的心得和“幕后故事”、畅聊一下我们的未来规划(包括即将出版的书、未来节目和社区规划)、还会现场录制一场播客节目;聊一聊web3,AI,科技,金融和我们的未来。当然不限时不限题目的Q&A!
我们还为大家准备了我自己的著名滞销书,和藏书票套装礼盒,送给幸运的听友们~
详细活动信息请见我们置顶在小宇宙节目主页上的通知,或者前往《文理两开花》公众号查看。
那么4月15日,我们香港见啦!
(封面图:人类最后一条推文)
=================
活动信息:
时间:4月15日(星期六)下午3:00-6:00pm
地点:藝穗會 Fringe Vault,香港中環下亞厘li畢bi道二號藝穗sui會 (中環地鐵站D出口)
现场:免费饮料和小零食
报名方式:请见公众号文章。
 =================
关于《文理两开花》:

《文理两开花》是文科生思维和理科生思维在科技、经济、文化、哲学、货币、数字资产、元宇宙、Web3.0中的碰撞。当下的时代精神是“混沌”,我们试图在混沌中寻找秩序。
Twitter:
@LeiSalin_XP
@Will42W

TG群(开放)t.me
收听平台:
小宇宙:文理两开花
苹果播客|Spotify | Google Podcast | 等泛用型平台搜索收听《文理两开花(海外版)》(苹果播客中国区可复制https://open.firstory.me/rss/user/cl0roqwc0000l0hzje7se6f28手动添加节目)
文字稿和延伸阅读:
微信公众号《文理两开花播客》
《文理两开花》newsletter。欢迎订阅:https://wenli.substack.com
其他平台:
即刻:文理两开花
微博:文理两开花播客
《文理两开花》微信群:请添加文理小助手微信:w_ruy_ 注明:文理两开花

留言告訴我你對這一集的想法: https://open.firstory.me/user/cl0roqwc0000l0hzje7se6f28/comments



Powered by Firstory Hosting