去搜搜
头像
如何理解 GPT-4 是推理引擎?|荐读
2023-04-15 10:00

如何理解 GPT-4 是推理引擎?|荐读

文章所属专栏 全球科技纵览·趋势必读 第二季
释放双眼,听听看~
00:00 06:52

作者|赵赛坡

头图|视觉中国


本期围绕三个话题,提供若干长文和播客推荐:


数据迷思与 GPT-4:为什么人类如此迷恋数据、如何理解 GPT-4 是推理引擎?


中东的热钱与监控:硅谷风险投资重新追捧中东地区、AI 与监控技术的结合,正在定义个体与国家的新关系;


量子计算:从网络安全到大脑研究再到宇宙认知,量子计算会如何改变你我对世界的认知?


“More Reading, Less Junk”,欢迎进入本周的深度阅读时间。


数据时代的迷思


人类历史发展过程中,至少有四类分类和存储知识的方式,就像是文件柜上的不同抽屉,自上而下分别是“神秘”、“事实”、“数字”和“数据”四个抽屉。


这四个抽屉从不同维度定义了人类的信息形式,比如“神秘”属于某一类神才能了解的知识,因此放在最上面,再比如“数据”的抽屉最“年轻”,它所存放的是计算机被广泛应用之后才出现的信息或知识。



这篇《纽约客》(链接免费镜像、40 分钟阅读时长)的长文以此为切入点,谈到当下人类正在进入到一个以数据为中心的新时代,这使得“数据”抽屉里的信息变得越发重要,想象一下 ChatGPT 如何处理信息。作者进一步指出,人类还有三个“抽屉”的信息,不同层级的信息对应着不同的处理方式,复杂的人类社会,远非简单的“数据”抽屉可以应对。


ChatGPT 的横空出世让很多不了解 AI 发展的人以为这是一项重大技术突破,但像及了历史上的任何一项技术,ChatGPT 也经历了诸多发展阶段,我非常推荐这篇梳理 GPT 技术历史进展的长文(链接、20 分钟阅读时长),作者以第一代 GPT 出现的 2018 年为起点,通过总结重点技术发展的论文,勾勒出 GPT 技术进化的轨迹。


遗憾的是,在这项技术的早期,几乎看不到中国公司的影子,但在这个春天,中国已经遍布了各类版本的“中国 ChatGPT”,它们从哪里来的?


我在很多场合谈到一个错误认知——把大模型当作一类搜索工具——这多少和微软快速推出大模型驱动的 Bing 有关,以至于让很多用户误以为,某个模型是否强大,取决于其能否回答出特定问题。


但大模型的能力远不止于此,这篇长文(链接、30 分钟阅读时长)是我近期读到的最具启发性的文章,作者将思考分为推理和知识两个阶段,受限于数据训练的规模和时效,大模型——比如 GPT-4——现阶段并不能正确回答所有问题(特别是涉及到时效性的问题),但以 GPT-4 为代表的模型已经具备了推理的雏形,这意味着,倘若可以接入特定领域的数据,GPT-4 能够展示出惊人的“智能”。


作者进一步谈到,大模型领域未来会有两个有趣的方向,其一是特定知识库或数据库与基础大模型的结合,会创造巨大的产业机会;


其二是提供特定数据整合与处理的个人或企业,也将变得更有价值。


作者最后指出,我们现在过于关注大模型的“输出”,比如“提示词”的火热,本质上还是让大模型如何更好、更快“输出”,但“输入”的重要性同样不容忽视,没有合适的“输入”,“输出”可能会变得毫无意义。


中东地区的热钱与升级的监控


中东地区正在成为风险投资新的“金主”,两篇长文从不同角度展示了这个现象。


第一篇文章(链接免费镜像、15 分钟阅读时长以硅谷风险投资公司近期的动向为观察视角,一批又一批的风险投资公司派代表前往中东——主要是沙特、阿联酋、卡塔尔——寻找资金,a16z 创始人之一的 Ben Horowitz 公开为沙特及其王储 MBS 展台。


就在不久之前,这些硅谷精英还会考虑吸引中东资本的道德风险,毕竟,这些国家在诸如言论自由方面有较大争议,但现在,硅谷的风险资本,特别是大型风险投资公司,不得不向金钱低头。


第二篇文章(链接免费镜像、15 分钟阅读时长)切换到中东国家的叙事角度,2023 年中东热钱流向欧美科技行业的情况令人想起 2008 年,当时中东国家主权基金成为美国众多银行的“救星”之一,但今年的情况并不一样。


文章采访了多位中东国家主权基金的高管和部分政府官员,他们透露出的是一种更自信的发展战略,减少机会主义投资、增加战略性投资会成为今年该地区主权基金的投资方向。


过去几年,人工智能与监控技术的结合,已经深刻改变了包括中国在内的众多国家的治理方式,这篇文章(链接免费镜像、15 分钟阅读时长)借助一场在迪拜举办的全球警察技术展览,提供了一个观察新技术如何定义人与国家新关系的维度。



可远程启动的无人机、可识别人群聚集的摄像头、能快速破解手机系统的软件产品等等,当数字硬件、软件与代码代替了警棍甚至手铐,国家(社会)安全与公众隐私之间的关系也变得非常微妙,这是正在发生在世界各地的真实场景。


再分享两个探讨中东国家的故事:


沙特如何“控制”Twitter,这是 2020 年的一则故事(链接、20 分钟阅读时长),很有谍战片的感觉,两名前 Twitter 员工被沙特王室收买,利用自己在公司的权限,获取某些用户的地理位置以及私信,被发现后踏上了逃亡之路,整个过程跌宕起伏;


那些为卡塔尔世界杯献出生命的尼泊尔人:和其他追逐财富的故事一样,当尼泊尔工人踏上前往卡塔尔的航班时(链接免费镜像、25 分钟阅读时长),人人都充满了梦想,但对很多人来说,卡塔尔成了他们生命的终点。这当然不能简单责怪卡塔尔或海湾国家,整件事更像是一种劳工产业链的阴谋……


一档量子计算的播客


Tech Tonic 是 FT 旗下的播客节目,每一季专注一个主题,以有声纪录片的形式探讨科技之于世界的影响——无所谓好与坏。


最新一季的主题是量子计算,共分为六集,每集探讨一个特定主题:


网络安全:如何理解量子计算机带来的安全冲击(链接、26 分钟收听时长)?


量子计算机的研发进展:记者深入到微软和 Goolge 的量子计算实验室,了解这一类机器所面临的机遇和挑战(链接、21 分钟收听时长);


量子计算背后的物理学:这一集会邀请几位物理学家探讨量子物理(链接、25 分钟收听时长);


量子计算的应用:分享了一个以洛杉机港口为例的应用案例链接、25 分钟收听时长);


量子计算与大脑研究:这是我非常推荐的一集,量子计算与大脑研究的结合,可能会破解大脑的秘密(链接、22 分钟收听时长);


量子计算和宇宙:最后一集的话题非常宏大,也比较烧脑,听着有一种“科学的尽头是神学”的感叹(链接、24 分钟收听时长);


更进一步,如果你对美国科技巨头如何布局量子计算感兴趣,不妨看看 CB Insights 的这份分析报告(链接、30 分钟阅读时长)。

本内容未经允许禁止转载,如需授权请微信联系妙投小虎哥:miaotou515
如对本稿件有异议或投诉,请联系tougao@huxiu.com
评论
0/500 妙投用户社区交流公约
最新评论
这里空空如也,期待你的发声