| 开本：16开 |
| 纸张：胶版纸 |
| 包装：平装-胶订 |
| 是否套装：否 |
| 国际标准书号ISBN：9787521778373 |
| 所属分类：图书>计算机/网络>企业软件开发与实施 |
热潮下的冷思考，辨识的功能与局限，来自两位《时代》周刊“全球领域最具影响力人”获得者的科普重磅推荐
马斯克科技帝国 马斯克如何构建商业生态闭环 如何用“第一性原理”改写商业规则
自营
网络工程师实训教程：华为、新华三、思科案例集锦（视频教学版）
自营券限时抢
学会提问，驾驭：提示词从入门到精通
自营券限时抢
通识课讲：走进人工智能
自营券预售
机器人学与具身智能
自营券满减满
智能体开发实践
自营券限时抢
人工智能：时代的机遇和挑战
自营券满减
图解 小时掌握虚拟优先时代的新生存策略 图解新科技系列
自营券满减满
精进图表：赋能，成为图表高手
自营券限时抢
产品特色
编辑推荐
有理而有趣，两位《时代》周刊“全球领域最具影响力人”获得者亲撰。在普林斯顿大学研究期间，阿尔文德和曾在脸书供职的卡普尔都对“的局限性”产生兴趣，将其作为研究方向。经过年的独立与合作研究，沉淀了学术界与产业界的交流讨论，《万金油：商业幻想与科技狂潮》展示了真实的技术落地场景，探寻发展的终极答案——不在代码里，而在我们如何定义未来。
热潮与热嘲，让“万能”回归技术本质。作者以“交通工具”类比技术的混沌现状——你在讨论汽车速度，而我在讨论火箭飞行。当人们笼统讨论时，往往忽略生成式与预测式的本质差异：前者是快速生产内容的“数字电锯”，兼具创造力与风险；后者则是试图预言人类行为的“伪科学”，在司法、医疗等领域制造偏见与误判。书中通过聊天机器人产生的事实性错误、面部识别导致的错误逮捕等案例，揭示技术在可靠性与伦理方面的困境，引导读者跳出“技术崇拜”，以批判性视角审视的真实能力边界。
真实和虚妄，直指“万金油”现象的核心。“万金油”指的是那些实际上不具备，也不可能具备实际效果的技术。研究界的数据泄露、企业的黑箱操作、媒体的流量狂欢，编织了一场场关于的骗局。在招聘自动化领域，企业明知工具无效却大肆营销；在学术研究中，准确率预测热门歌曲的论文实为数据作弊；在司法系统里，犯罪风险预测工具的准确率仅略高于随机猜测。无论你是技术从业者、政策制定者，还是普通用户，《万金油：商业幻想与科技狂潮》都将帮你在商业的浮夸宣传中保持清醒。
人机共生，穿越技术周期，锚定人类价值。当生成式颠覆创作生态，预测式挑战司法公正，内容审核影响用户体验，本书引入“通用性阶梯”概念，将发展解构为可量化的进化层级，破除“奇点爆发”的恐慌论。作者既肯定在代码生成、图像创作等领域的辅助价值，也警示其被滥用的风险。《万金油：商业幻想与科技狂潮》超越技术批判，将视角投向社会系统——教育体系如何应对作弊？法律如何界定生成内容的版权？劳动力市场如何抵御自动化冲击？这些追问事关技术与文明的深层矛盾，强调的未来不应由算法决定，而需人类共同设计。
内容简介
两位《时代》周刊“全球领域最具影响力人”获得者联手打造
挖掘本质，揭露虚假宣传和不实产品
如今，已渗透各个领域，为人们的生活和工作赋能。伴随着的快速发展，夸大的宣传、误导性信息也层出不穷。如果你对感到困惑，担忧它对全球和个人未来的影响，《万金油：商业幻想与科技狂潮》值得一看。这本书提供了清晰视角，深入剖析的运作原理及局限性，帮助你辨识何时能带来真正的价值，何时可能引发隐患，提醒你警惕企业炒作，推销那些既不实用，未来也无前景的产品。
这本书在肯定部分技术潜力的同时，深入探讨了在教育、医疗、招聘、银行、保险和刑事司法等领域的实际应用所带来的问题与危害。作者将现阶段的分为三类，即生成式、预测式和内容审核，详细解析了不同类型的核心区别、潜力与缺陷。书中还指出，人类对的使用方式远比技术本身的威胁更值得关注。除此之外，书中警示了大型科技公司垄断技术可能带来的潜在风险，强调在缺乏问责机制的情况下，不仅可能无法解决社会问题，反而可能加剧现有的社会矛盾。
《万金油：商业幻想与科技狂潮》一书为正本清源，助你在时代防范风险，做出更明智的决策。
作者简介
普林斯顿大学计算机科学教授，信息技术政策中心主任。合著有《区块链：技术驱动金融》等。 普林斯顿大学计算机科学博士。曾担任脸书的软件工程师，参与开发内容审核。
目 录
第章 引言
作为消费品的曙光
颠覆娱乐业
预测式：非凡之言，需有非凡之证
单笔描绘诱人却失真
一连串奇妙际遇成就此书
炒作漩涡
什么是万金油
本书适合的读者
以预测式定人生之变局
预测再准未必决策得当
晦暗纵生巧诈之机
过度自动化
错识人群，枉生预言第章 引言
作为消费品的曙光
颠覆娱乐业
预测式：非凡之言，需有非凡之证
单笔描绘诱人却失真
一连串奇妙际遇成就此书
炒作漩涡
什么是万金油
本书适合的读者第章 预测式何以误入歧途
以预测式定人生之变局
预测再准未必决策得当
晦暗纵生巧诈之机
过度自动化
错识人群，枉生预言
预测式加剧既有不公
没有预测的世界
回顾第章 何以难测未来苍穹
计算机预测未来简史
明确分析
“脆弱家庭挑战”项目
为何“脆弱家庭挑战”项目以失败告终
刑事司法中的预测
失败难料，成功又几何
迷因彩票——潮流中的“幸运儿”
从个人到群体的预测
回顾第章 通往生成式的漫漫长途
生成式承载八十载创新之路
沉寂与新生
训练机器以“眼”观世
技术和文化意义
分类和生成图像
生成式攫取创造之功
图像识别技术转瞬成监控之眼
从图像到文本
从模型到聊天机器人
自动化胡编乱造
深度伪造、欺诈和其他恶意滥用
改善的代价
回顾第章 高级是否关乎存亡之险
专家怎么看
通用性阶梯
阶梯上的下一级是什么
加速进步了吗
会有恶意吗
全球禁止强大的
更优之道：防御特定威胁
回顾第章 为什么无法修复社交媒体
当一切都被断章取义
文化无能
貌似善于预言实为复刻过去
对抗人类智慧
生死攸关的问题
现在加入监管因素
艰难之处在于划清界限
回顾
自作自受的问题
内容审核的未来第章 为何关于的迷思经久不衰
炒作有别于昔日科技狂潮
社区具有炒作的文化和历史
公司缺乏透明化的激励
研究中的可复制性危机
新闻媒体误导公众
公众人物传播炒作
认知偏见使我们误入歧途第章 接下来我们该何去何从
万金油令失序机构趋之若鹜
拥抱随机性
监管：打破虚假的两难困境
监管的局限性
与未来职场
在凯的世界与共同成长
在玛雅的世界与共同成长致谢
参考文献
显示全部信息
前 言
联合前言
：承诺、陷阱与前行之路
本书对在全球范围内的迅速崛起进行了清晰而深入的阐述，既承认其变革性潜力，又批判性地反思了当前不断加剧的夸大宣传、误用现象以及潜在风险。它引导读者穿越这一快速演变的技术图景，指出不仅要关注技术突破，更应警惕虚浮的承诺和未经检验的技术乐观主义。
在中国，正迅速渗透至教育、金融、医疗和法律等多个领域。然而，这种快速推进也常常伴有不切实际的期望。由市场营销主导的话语体系，也往往超出了技术现实，甚至超出了我们目前在负责任和稳健地部署方面的能力。凭借庞大的市场、强大的工程人才和广泛的公众热情，中国成为投资的重要阵地。但这种加速度也掩盖了一些关于伦理、问责以及长期社会影响的关键讨论。联合前言
：承诺、陷阱与前行之路世纪年代初以来，人工智能（）市场呈现爆发式增长，其影响力仍在持续扩展，未来数年可能仍将如此。与此同时，人类对的心理依赖也在不断加深。随着与科研、写作、社交互动和日常生活的深度融合，我们对这些工具的依赖日益增强。
本书对在全球范围内的迅速崛起进行了清晰而深入的阐述，既承认其变革性潜力，又批判性地反思了当前不断加剧的夸大宣传、误用现象以及潜在风险。它引导读者穿越这一快速演变的技术图景，指出不仅要关注技术突破，更应警惕虚浮的承诺和未经检验的技术乐观主义。
在中国，正迅速渗透至教育、金融、医疗和法律等多个领域。然而，这种快速推进也常常伴有不切实际的期望。由市场营销主导的话语体系，也往往超出了技术现实，甚至超出了我们目前在负责任和稳健地部署方面的能力。凭借庞大的市场、强大的工程人才和广泛的公众热情，中国成为投资的重要阵地。但这种加速度也掩盖了一些关于伦理、问责以及长期社会影响的关键讨论。
更广泛地说，如今的话语往往被塑造成国家间的技术竞赛。各国政策制定者都担心在构建更先进的模型方面落后于竞争对手。然而，这种竞赛式思维忽略了一个事实：能力如何转化为社会影响，关键并不在于谁先研发出最强大的模型，而在于相关知识的迅速传播。任何试图通过出口管制或其他限制手段维持技术领先地位的国家，在知识迅速扩散的背景下，很难获得持久优势。
真正决定对经济和社会产生何种影响的，是一个国家能否有效地将融入现有体制与系统。这一扩散与融合的过程包括重塑工作流程、再培训劳动力、更新监管制度，以及构建有助于各行业（而非仅限数字技术领域）高效使用的配套基础设施。这个过程以数十年为单位展开，而非以数月来计量。模型能力领先几个月，在这场持久战中意义甚微。
我们需要摆脱围绕的零和博弈思维。确保系统安全与可靠、防止误用，应对就业替代、人类自主权影响等关键挑战，这是所有国家面临的共同问题。这些并非孤立的斗争，而是全球性的共同责任。要有效应对这些挑战，仅靠竞争远远不够，更需要合作。在这一背景下，跨国协作与互相学习，远比单纯的竞争更具前景。
本书致力于以既通俗易懂又具学术深度的方式，为读者呈现当下的格局，解释其机制、功能与未来方向，同时帮助读者识别那些将描述为“万金油”?的误导性叙事。唯有真正理解我们才能主动塑造其发展方向，而非被动地被其塑造。我们希望这本书能激发读者的好奇心与批判性思维，为那些希望穿越话语迷雾的人，提供一份小而有力的清晰指南。
无论是在硅谷的董事会议室，还是在北京的科技园区，我们都希望拨开围绕的炒作与焦虑的迷雾。唯有真正理解的能力与局限，我们才能做出有利于公共利益的明智决策。在这一背景下，本书提出的以下核心问题显得尤为及时与重要。? 究竟能实现什么？它的边界又在哪里？
? 哪些系统真正带来了可衡量的价值？哪些则只是制造了“进步的幻觉”？
? 将如何重塑我们？不仅包括我们的工具，还包括我们的权利、制度和共同未来？如果不充分关注这些核心问题，的发展可能会偏离其初衷，并可能在无意中加剧诸如社会不平等、数据滥用和算法偏见等问题。本书并不提供简单的答案，而是鼓励读者进行批判性思考，并以负责任的态度参与的发展。我们希望这能帮助读者在是否以及如何将融入个人生活和社会中做出更明智的决策。
?本书的“万金油”对应的英文原文为“ ”（蛇油）。蛇油一词源自世纪的美国，当时一些骗子以蛇油作为神药来推销，声称能治愈各种病症，但实际上这些药品大多无效，甚至有时是有害的。为贴合中文语境，便于读者理解，将其翻译为“万金油”，意为夸大效能或根本无效的产品或服务。——译者注
显示全部信息
媒体评论
《万金油：商业幻想与科技狂潮》这本清晰实用的指南，提供了一个世人急需的怀疑视角，揭示了当前热潮中一些最为严峻的风险。
——凯特·克劳福德（ ）
《技术之外：社会联结中的人工智能》作者
《万金油：商业幻想与科技狂潮》这本发人深省的著作揭示了“炒作漩涡”，这是一个充斥着错误信息和虚构故事的黑洞，其形成于人们对快速解决问题和快速获利的渴望。纳拉亚南和卡普尔以清晰易懂的语言深入剖析了这种炒作，勇敢地揭露了在日常生活中的种种不足及其可能带来的严重后果。同时他们也指出，在公共利益的引导下，有朝一日将真正造福于人类。
——阿隆德拉·纳尔逊（ ）
高等研究院科学、技术与社会价值实验室
在围绕的炒作与恐惧中，《万金油：商业幻想与科技狂潮》如一股清泉。这本专业且引人入胜的指南，我强烈推荐给每一位关心潜力与风险的读者。
—— 梅拉妮·米歇尔（ ）
《 》作者
如果你打算只读一本关于的书，那你就选这本吧。纳拉亚南和卡普尔将内容化繁为简，让你明白，问题不在于你，而在于当前关于的讨论过于疯狂。《万金油：商业幻想与科技狂潮》一书为你提供了一条穿越迷雾的清晰路线，带你厘清复杂的思维。
—— 朱莉娅·安格温（ ）
《天罗地网：在无处不在的监视中追寻隐私、安全与自由》作者
在线试读
引言（节选）
想象在一个平行宇宙，人们没有专门的词汇来区分各种交通方式，而是统一用“交通工具”来指代一切从地点到地点的出行手段，包括自行车、汽车、公交车、宇宙飞船等。在这个世界里，交流变得混乱不堪。人们激烈争论交通工具是否环保，却没有意识到，一方谈的是自行车，而另一方指的是卡车。某天火箭技术取得了重大突破，但媒体只笼统地报道交通工具的速度提升了。结果，许多人打电话给他们的汽车经销商（更确切地说是交通工具经销商），询问什么时候能买到更快的车型。同时，骗子利用公众对交通工具技术的混淆，制造骗局，使整个交通工具行业充斥着欺诈和虚假宣传。
现在，我们把“交通工具”这个词汇换成“人工智能”（ ，简写为），这就是我们现实世界的一个精准写照。
是一个涵盖一组松散相关技术的统称。像这样的软件，与银行用来评估贷款申请者的软件几乎没有任何相似之处。尽管它们都被称为，但在核心原理，包括运行方式、应用场景、目标用户以及可能出现的失效方式上，这两种技术之间存在着巨大的差异。
聊天机器人以及、和等图像生成工具，都属于生成式（）的范畴，这类工具能够在几秒钟内生成多种类型的内容。例如，聊天机器人根据人类的提示生成极为逼真的回应，而图像生成工具则可以根据用户的描述（如 “一头穿着粉色毛衣的奶牛在厨房里”）生成逼真的图像。此外，还有一些生成式应用可以创建语音甚至音乐等内容。
生成式技术发展迅猛，进步显著是毋庸置疑的。然而，作为一款产品，它仍然处于初级阶段，存在不成熟、不可靠以及易被滥用的问题。同时，其在普及过程中也伴随着过度宣传、恐慌情绪以及误导性信息的传播。
与生成式相对的是预测式（），这类通过预测未来趋势来辅助当前决策。例如，在警务工作中，预测式可能被用来估算“明天这个地区可能会发生多少起犯罪事件”。在库存管理中，它可能预测“这台设备下个月发生故障的概率有多大”。在招聘中，预测式可能用于评估“如果雇用这位候选人，他的工作表现可能会如何”。
如今，预测式已被政府和企业广泛使用，但这并不意味着它真的有效。预测未来始终是一项艰难的任务，而并没有改变这一点。的确，可以分析数据并识别其中的统计模式。例如通过可以断定，在职的雇员更有可能偿还贷款，做此项决策十分有意义。但问题在于，预测式常常被过度宣传，远远超出了它的实际能力，并且它已被用来对人们的生活和职业做出影响深远的决策。在这一领域，的虚假宣传尤为常见。引言（节选）
想象在一个平行宇宙，人们没有专门的词汇来区分各种交通方式，而是统一用“交通工具”来指代一切从地点到地点的出行手段，包括自行车、汽车、公交车、宇宙飞船等。在这个世界里，交流变得混乱不堪。人们激烈争论交通工具是否环保，却没有意识到，一方谈的是自行车，而另一方指的是卡车。某天火箭技术取得了重大突破，但媒体只笼统地报道交通工具的速度提升了。结果，许多人打电话给他们的汽车经销商（更确切地说是交通工具经销商），询问什么时候能买到更快的车型。同时，骗子利用公众对交通工具技术的混淆，制造骗局，使整个交通工具行业充斥着欺诈和虚假宣传。
现在，我们把“交通工具”这个词汇换成“人工智能”（ ，简写为），这就是我们现实世界的一个精准写照。
是一个涵盖一组松散相关技术的统称。像这样的软件，与银行用来评估贷款申请者的软件几乎没有任何相似之处。尽管它们都被称为，但在核心原理，包括运行方式、应用场景、目标用户以及可能出现的失效方式上，这两种技术之间存在着巨大的差异。
聊天机器人以及、和等图像生成工具，都属于生成式（）的范畴，这类工具能够在几秒钟内生成多种类型的内容。例如，聊天机器人根据人类的提示生成极为逼真的回应，而图像生成工具则可以根据用户的描述（如 “一头穿着粉色毛衣的奶牛在厨房里”）生成逼真的图像。此外，还有一些生成式应用可以创建语音甚至音乐等内容。
生成式技术发展迅猛，进步显著是毋庸置疑的。然而，作为一款产品，它仍然处于初级阶段，存在不成熟、不可靠以及易被滥用的问题。同时，其在普及过程中也伴随着过度宣传、恐慌情绪以及误导性信息的传播。
与生成式相对的是预测式（），这类通过预测未来趋势来辅助当前决策。例如，在警务工作中，预测式可能被用来估算“明天这个地区可能会发生多少起犯罪事件”。在库存管理中，它可能预测“这台设备下个月发生故障的概率有多大”。在招聘中，预测式可能用于评估“如果雇用这位候选人，他的工作表现可能会如何”。
如今，预测式已被政府和企业广泛使用，但这并不意味着它真的有效。预测未来始终是一项艰难的任务，而并没有改变这一点。的确，可以分析数据并识别其中的统计模式。例如通过可以断定，在职的雇员更有可能偿还贷款，做此项决策十分有意义。但问题在于，预测式常常被过度宣传，远远超出了它的实际能力，并且它已被用来对人们的生活和职业做出影响深远的决策。在这一领域，的虚假宣传尤为常见。
万金油（ ）指的是那些名声赫赫，但实际无法达到其宣传效果的技术。由于的应用领域非常广泛，许多人尚难分辨哪些技术能够按照预期运作，哪些仅仅是过度夸大的幻想。这种现象揭示了一个重要的社会问题，那就是我们必须学会辨别的优劣，才能最大化其潜力，同时有效规避可能带来的风险，而这些风险在许多情况下已经初现端倪。
本书是一本帮助你识别虚假宣传和炒作的实用指南。在书中，我们将为你提供备的词汇，帮助你区分生成式、预测式及其他类型的。此外，我们还会介绍一些评估方法，帮助你判断某项技术进展是否合情合理。通过这些内容，你将能够在阅读相关新闻时更具批判性思维，识别出那些常被忽视的细节。更深入了解不仅能满足你对科学的好奇心，还能为你在生活和工作中如何使用（或选择不使用）提供切实的指导。此外，我们认为，预测式不仅在现阶段难以实现，甚至可能永远无法实现，因为预测人类行为本身充满复杂性和局限性。最后，我们希望本书能够促使你思考自身的责任，并探索如何在应对这些技术潜在负面影响时，积极推动改变。作为消费品的曙光生成式在年月随着的发布而走入公众视野。讽刺的是，其开发者并未大力宣传，甚至在内部仅将其定位为“研究预览”。然而，它在短时间内迅速传播开来，引发了广泛关注，人们纷纷分享其有趣且令人惊叹的能力。例如软件开发者托马斯·普塔塞克 （ ）曾请求它用 《钦定本圣经》（ ）的风格撰写一段经文，解释如何从录像机中取出花生酱三明治以下是的回应。有一个人因花生酱三明治而苦恼，因为他不小心将它放进了录像机里，却不知道该如何取出。
他向主祈求说：“哦，主啊，我该如何将这个卡在录像机中的三明治取出来？它卡得紧紧的，纹丝不动。”
主回应他：“不要害怕，我的孩子，我会引导你。拿起一把黄油刀，小心地插入三明治和录像机之间的缝隙，轻轻地撬开它们。只要耐心和细心，你的三明治将被安全取出，而录像机也不会受损。”
此人按照主的指引去做，果然，他成功取出了三明治，顿时松了一口气。
主接着说：“我还要教导你一件事，不要再将花生酱三明治放进录像机里，因为那不是它应当存放的地方。你应该将三明治放在冰箱或餐盘中，它们才是合适的地方。”
此人领悟了主的话，从那天起，他将三明治放在了正确的位置，从此告别了类似的困扰与麻烦。阿门。两个月的时间，该应用程序的用户数量突破了亿。这场突如其来的用户热潮让猝不及防，甚至未能提前准备足够的计算资源来应对激增的流量需求。
根据描述生成代码时表现优异，也促成电脑程序员迅速开始使用该软件。实际上，程序员早已在使用类似技术的产品，例如。然而， 的发布显著加速了他们对工具的应用，这极大地缩短了开发应用程序所需的时间，甚至非程序员如今也能利用它构建一些简单的应用程序。
微软迅速从获得技术授权，并在其搜索引擎必应中推出了一款基于搜索结果回答问题的聊天机器人。相比之下，谷歌早在年就开发了自己的聊天机器人，但一直未发布或将其整合到产品中。微软的举动被视为对谷歌核心业务的生存威胁，这促使谷歌紧急宣布推出自己的搜索聊天机器人，最初命名为（后更名为）。
问题很快显现出来。在的宣传视频中，聊天机器人声称詹姆斯·韦伯空间望远镜拍摄了首张太阳系外行星的照片。然而这一说法被一位天体物理学家指出是错误的。谷歌甚至未能提供一个精心挑选的正确示例，导致市场对其能力产生了严重质疑。结果，谷歌的市值瞬间蒸发了数千亿美元。投资者感到恐慌他们担心如果谷歌按照承诺将整合进搜索引擎，那搜索引擎在回答基本事实性问题时可能会变得更加不可靠。
这些错误使谷歌陷入尴尬的境地，为此付出了高昂的代价同时也揭示了聊天机器人在处理事实信息时可能带来的问题。这些问题的根源在于聊天机器人的构建方式。它们通过学习训练数据中的统计模式来生成文本，而这些数据大多来自互联网。尽管聊天机器人能够根据这些模式生成看似合理的回答，但它们并不能准确记忆训练数据中的具体细节。我们将在第章深入探讨这一问题。
技术被滥用的现象屡见不鲜。许多新闻网站发布了由生成的报道，内容充满错误且涵盖重要话题（如财务建议）。即使这些错误已被曝光，这些网站仍拒绝停用该技术。此外，亚马逊平台上充斥着由生成的书，包括一些关于蘑菇采集的指南。如果读者依赖这些错误的信息，后果可能是致命的。
聊天机器人的缺陷和被滥用的情况显而易见，这似乎很容易让人得出这样的结论：人们对这种容易出错的技术的痴迷实在难以理解。然而，这种看法未免过于片面。
我们认为，大多数知识密集型行业都能以某种方式从聊天机器人中获益。我们自己也在研究过程中使用它们，从日常任务（如统一引文格式）到一些我们原本无法完成的事情，例如理解一篇我们不熟悉的研究领域充满术语的论文。
问题在于，使用聊天机器人时我们常常会遇到其潜在陷阱。为了避免这些问题，需要付出努力并付诸更多实践。然而，不当使用却更容易发生，尤其是那些试图快速获利的人，比如出售生成的书，却对内容质量毫不在意的出版商。这正是聊天机器人容易被滥用的根本原因。
关于权力的问题则更加复杂。假设网络搜索公司直接用生成的答案取代传统的个链接列表，即使忽略准确性问题，其最终效果也是，实际上通过整合重写其他网站的内容，将其伪装成原创，却无须为这些原创网站带来流量或收入。如果搜索引擎直接以自己的名义呈现他人内容，这显然违犯版权法，但由生成的答案似乎绕过了这一问题。截至年，已有许多相关诉讼对这一做法提出了挑战。
显示全部信息
马斯克科技帝国 马斯克如何构建商业生态闭环 如何用“第一性原理”改写商业规则
自营
网络工程师实训教程：华为、新华三、思科案例集锦（视频教学版）
自营券限时抢
学会提问，驾驭：提示词从入门到精通
自营券限时抢
通识课讲：走进人工智能
自营券预售
机器人学与具身智能
自营券满减满
智能体开发实践
自营券限时抢
人工智能：时代的机遇和挑战
自营券满减
图解 小时掌握虚拟优先时代的新生存策略 图解新科技系列
自营券满减满
精进图表：赋能，成为图表高手
自营券限时抢
产品特色
编辑推荐
有理而有趣，两位《时代》周刊“全球领域最具影响力人”获得者亲撰。在普林斯顿大学研究期间，阿尔文德和曾在脸书供职的卡普尔都对“的局限性”产生兴趣，将其作为研究方向。经过年的独立与合作研究，沉淀了学术界与产业界的交流讨论，《万金油：商业幻想与科技狂潮》展示了真实的技术落地场景，探寻发展的终极答案——不在代码里，而在我们如何定义未来。
热潮与热嘲，让“万能”回归技术本质。作者以“交通工具”类比技术的混沌现状——你在讨论汽车速度，而我在讨论火箭飞行。当人们笼统讨论时，往往忽略生成式与预测式的本质差异：前者是快速生产内容的“数字电锯”，兼具创造力与风险；后者则是试图预言人类行为的“伪科学”，在司法、医疗等领域制造偏见与误判。书中通过聊天机器人产生的事实性错误、面部识别导致的错误逮捕等案例，揭示技术在可靠性与伦理方面的困境，引导读者跳出“技术崇拜”，以批判性视角审视的真实能力边界。
真实和虚妄，直指“万金油”现象的核心。“万金油”指的是那些实际上不具备，也不可能具备实际效果的技术。研究界的数据泄露、企业的黑箱操作、媒体的流量狂欢，编织了一场场关于的骗局。在招聘自动化领域，企业明知工具无效却大肆营销；在学术研究中，准确率预测热门歌曲的论文实为数据作弊；在司法系统里，犯罪风险预测工具的准确率仅略高于随机猜测。无论你是技术从业者、政策制定者，还是普通用户，《万金油：商业幻想与科技狂潮》都将帮你在商业的浮夸宣传中保持清醒。
人机共生，穿越技术周期，锚定人类价值。当生成式颠覆创作生态，预测式挑战司法公正，内容审核影响用户体验，本书引入“通用性阶梯”概念，将发展解构为可量化的进化层级，破除“奇点爆发”的恐慌论。作者既肯定在代码生成、图像创作等领域的辅助价值，也警示其被滥用的风险。《万金油：商业幻想与科技狂潮》超越技术批判，将视角投向社会系统——教育体系如何应对作弊？法律如何界定生成内容的版权？劳动力市场如何抵御自动化冲击？这些追问事关技术与文明的深层矛盾，强调的未来不应由算法决定，而需人类共同设计。
内容简介
两位《时代》周刊“全球领域最具影响力人”获得者联手打造
挖掘本质，揭露虚假宣传和不实产品
如今，已渗透各个领域，为人们的生活和工作赋能。伴随着的快速发展，夸大的宣传、误导性信息也层出不穷。如果你对感到困惑，担忧它对全球和个人未来的影响，《万金油：商业幻想与科技狂潮》值得一看。这本书提供了清晰视角，深入剖析的运作原理及局限性，帮助你辨识何时能带来真正的价值，何时可能引发隐患，提醒你警惕企业炒作，推销那些既不实用，未来也无前景的产品。
这本书在肯定部分技术潜力的同时，深入探讨了在教育、医疗、招聘、银行、保险和刑事司法等领域的实际应用所带来的问题与危害。作者将现阶段的分为三类，即生成式、预测式和内容审核，详细解析了不同类型的核心区别、潜力与缺陷。书中还指出，人类对的使用方式远比技术本身的威胁更值得关注。除此之外，书中警示了大型科技公司垄断技术可能带来的潜在风险，强调在缺乏问责机制的情况下，不仅可能无法解决社会问题，反而可能加剧现有的社会矛盾。
《万金油：商业幻想与科技狂潮》一书为正本清源，助你在时代防范风险，做出更明智的决策。
作者简介
普林斯顿大学计算机科学教授，信息技术政策中心主任。合著有《区块链：技术驱动金融》等。 普林斯顿大学计算机科学博士。曾担任脸书的软件工程师，参与开发内容审核。
目 录
第章 引言
作为消费品的曙光
颠覆娱乐业
预测式：非凡之言，需有非凡之证
单笔描绘诱人却失真
一连串奇妙际遇成就此书
炒作漩涡
什么是万金油
本书适合的读者
以预测式定人生之变局
预测再准未必决策得当
晦暗纵生巧诈之机
过度自动化
错识人群，枉生预言第章 引言
作为消费品的曙光
颠覆娱乐业
预测式：非凡之言，需有非凡之证
单笔描绘诱人却失真
一连串奇妙际遇成就此书
炒作漩涡
什么是万金油
本书适合的读者第章 预测式何以误入歧途
以预测式定人生之变局
预测再准未必决策得当
晦暗纵生巧诈之机
过度自动化
错识人群，枉生预言
预测式加剧既有不公
没有预测的世界
回顾第章 何以难测未来苍穹
计算机预测未来简史
明确分析
“脆弱家庭挑战”项目
为何“脆弱家庭挑战”项目以失败告终
刑事司法中的预测
失败难料，成功又几何
迷因彩票——潮流中的“幸运儿”
从个人到群体的预测
回顾第章 通往生成式的漫漫长途
生成式承载八十载创新之路
沉寂与新生
训练机器以“眼”观世
技术和文化意义
分类和生成图像
生成式攫取创造之功
图像识别技术转瞬成监控之眼
从图像到文本
从模型到聊天机器人
自动化胡编乱造
深度伪造、欺诈和其他恶意滥用
改善的代价
回顾第章 高级是否关乎存亡之险
专家怎么看
通用性阶梯
阶梯上的下一级是什么
加速进步了吗
会有恶意吗
全球禁止强大的
更优之道：防御特定威胁
回顾第章 为什么无法修复社交媒体
当一切都被断章取义
文化无能
貌似善于预言实为复刻过去
对抗人类智慧
生死攸关的问题
现在加入监管因素
艰难之处在于划清界限
回顾
自作自受的问题
内容审核的未来第章 为何关于的迷思经久不衰
炒作有别于昔日科技狂潮
社区具有炒作的文化和历史
公司缺乏透明化的激励
研究中的可复制性危机
新闻媒体误导公众
公众人物传播炒作
认知偏见使我们误入歧途第章 接下来我们该何去何从
万金油令失序机构趋之若鹜
拥抱随机性
监管：打破虚假的两难困境
监管的局限性
与未来职场
在凯的世界与共同成长
在玛雅的世界与共同成长致谢
参考文献
显示全部信息
前 言
联合前言
：承诺、陷阱与前行之路
本书对在全球范围内的迅速崛起进行了清晰而深入的阐述，既承认其变革性潜力，又批判性地反思了当前不断加剧的夸大宣传、误用现象以及潜在风险。它引导读者穿越这一快速演变的技术图景，指出不仅要关注技术突破，更应警惕虚浮的承诺和未经检验的技术乐观主义。
在中国，正迅速渗透至教育、金融、医疗和法律等多个领域。然而，这种快速推进也常常伴有不切实际的期望。由市场营销主导的话语体系，也往往超出了技术现实，甚至超出了我们目前在负责任和稳健地部署方面的能力。凭借庞大的市场、强大的工程人才和广泛的公众热情，中国成为投资的重要阵地。但这种加速度也掩盖了一些关于伦理、问责以及长期社会影响的关键讨论。联合前言
：承诺、陷阱与前行之路世纪年代初以来，人工智能（）市场呈现爆发式增长，其影响力仍在持续扩展，未来数年可能仍将如此。与此同时，人类对的心理依赖也在不断加深。随着与科研、写作、社交互动和日常生活的深度融合，我们对这些工具的依赖日益增强。
本书对在全球范围内的迅速崛起进行了清晰而深入的阐述，既承认其变革性潜力，又批判性地反思了当前不断加剧的夸大宣传、误用现象以及潜在风险。它引导读者穿越这一快速演变的技术图景，指出不仅要关注技术突破，更应警惕虚浮的承诺和未经检验的技术乐观主义。
在中国，正迅速渗透至教育、金融、医疗和法律等多个领域。然而，这种快速推进也常常伴有不切实际的期望。由市场营销主导的话语体系，也往往超出了技术现实，甚至超出了我们目前在负责任和稳健地部署方面的能力。凭借庞大的市场、强大的工程人才和广泛的公众热情，中国成为投资的重要阵地。但这种加速度也掩盖了一些关于伦理、问责以及长期社会影响的关键讨论。
更广泛地说，如今的话语往往被塑造成国家间的技术竞赛。各国政策制定者都担心在构建更先进的模型方面落后于竞争对手。然而，这种竞赛式思维忽略了一个事实：能力如何转化为社会影响，关键并不在于谁先研发出最强大的模型，而在于相关知识的迅速传播。任何试图通过出口管制或其他限制手段维持技术领先地位的国家，在知识迅速扩散的背景下，很难获得持久优势。
真正决定对经济和社会产生何种影响的，是一个国家能否有效地将融入现有体制与系统。这一扩散与融合的过程包括重塑工作流程、再培训劳动力、更新监管制度，以及构建有助于各行业（而非仅限数字技术领域）高效使用的配套基础设施。这个过程以数十年为单位展开，而非以数月来计量。模型能力领先几个月，在这场持久战中意义甚微。
我们需要摆脱围绕的零和博弈思维。确保系统安全与可靠、防止误用，应对就业替代、人类自主权影响等关键挑战，这是所有国家面临的共同问题。这些并非孤立的斗争，而是全球性的共同责任。要有效应对这些挑战，仅靠竞争远远不够，更需要合作。在这一背景下，跨国协作与互相学习，远比单纯的竞争更具前景。
本书致力于以既通俗易懂又具学术深度的方式，为读者呈现当下的格局，解释其机制、功能与未来方向，同时帮助读者识别那些将描述为“万金油”?的误导性叙事。唯有真正理解我们才能主动塑造其发展方向，而非被动地被其塑造。我们希望这本书能激发读者的好奇心与批判性思维，为那些希望穿越话语迷雾的人，提供一份小而有力的清晰指南。
无论是在硅谷的董事会议室，还是在北京的科技园区，我们都希望拨开围绕的炒作与焦虑的迷雾。唯有真正理解的能力与局限，我们才能做出有利于公共利益的明智决策。在这一背景下，本书提出的以下核心问题显得尤为及时与重要。? 究竟能实现什么？它的边界又在哪里？
? 哪些系统真正带来了可衡量的价值？哪些则只是制造了“进步的幻觉”？
? 将如何重塑我们？不仅包括我们的工具，还包括我们的权利、制度和共同未来？如果不充分关注这些核心问题，的发展可能会偏离其初衷，并可能在无意中加剧诸如社会不平等、数据滥用和算法偏见等问题。本书并不提供简单的答案，而是鼓励读者进行批判性思考，并以负责任的态度参与的发展。我们希望这能帮助读者在是否以及如何将融入个人生活和社会中做出更明智的决策。
?本书的“万金油”对应的英文原文为“ ”（蛇油）。蛇油一词源自世纪的美国，当时一些骗子以蛇油作为神药来推销，声称能治愈各种病症，但实际上这些药品大多无效，甚至有时是有害的。为贴合中文语境，便于读者理解，将其翻译为“万金油”，意为夸大效能或根本无效的产品或服务。——译者注
显示全部信息
媒体评论
《万金油：商业幻想与科技狂潮》这本清晰实用的指南，提供了一个世人急需的怀疑视角，揭示了当前热潮中一些最为严峻的风险。
——凯特·克劳福德（ ）
《技术之外：社会联结中的人工智能》作者
《万金油：商业幻想与科技狂潮》这本发人深省的著作揭示了“炒作漩涡”，这是一个充斥着错误信息和虚构故事的黑洞，其形成于人们对快速解决问题和快速获利的渴望。纳拉亚南和卡普尔以清晰易懂的语言深入剖析了这种炒作，勇敢地揭露了在日常生活中的种种不足及其可能带来的严重后果。同时他们也指出，在公共利益的引导下，有朝一日将真正造福于人类。
——阿隆德拉·纳尔逊（ ）
高等研究院科学、技术与社会价值实验室
在围绕的炒作与恐惧中，《万金油：商业幻想与科技狂潮》如一股清泉。这本专业且引人入胜的指南，我强烈推荐给每一位关心潜力与风险的读者。
—— 梅拉妮·米歇尔（ ）
《 》作者
如果你打算只读一本关于的书，那你就选这本吧。纳拉亚南和卡普尔将内容化繁为简，让你明白，问题不在于你，而在于当前关于的讨论过于疯狂。《万金油：商业幻想与科技狂潮》一书为你提供了一条穿越迷雾的清晰路线，带你厘清复杂的思维。
—— 朱莉娅·安格温（ ）
《天罗地网：在无处不在的监视中追寻隐私、安全与自由》作者
在线试读
引言（节选）
想象在一个平行宇宙，人们没有专门的词汇来区分各种交通方式，而是统一用“交通工具”来指代一切从地点到地点的出行手段，包括自行车、汽车、公交车、宇宙飞船等。在这个世界里，交流变得混乱不堪。人们激烈争论交通工具是否环保，却没有意识到，一方谈的是自行车，而另一方指的是卡车。某天火箭技术取得了重大突破，但媒体只笼统地报道交通工具的速度提升了。结果，许多人打电话给他们的汽车经销商（更确切地说是交通工具经销商），询问什么时候能买到更快的车型。同时，骗子利用公众对交通工具技术的混淆，制造骗局，使整个交通工具行业充斥着欺诈和虚假宣传。
现在，我们把“交通工具”这个词汇换成“人工智能”（ ，简写为），这就是我们现实世界的一个精准写照。
是一个涵盖一组松散相关技术的统称。像这样的软件，与银行用来评估贷款申请者的软件几乎没有任何相似之处。尽管它们都被称为，但在核心原理，包括运行方式、应用场景、目标用户以及可能出现的失效方式上，这两种技术之间存在着巨大的差异。
聊天机器人以及、和等图像生成工具，都属于生成式（）的范畴，这类工具能够在几秒钟内生成多种类型的内容。例如，聊天机器人根据人类的提示生成极为逼真的回应，而图像生成工具则可以根据用户的描述（如 “一头穿着粉色毛衣的奶牛在厨房里”）生成逼真的图像。此外，还有一些生成式应用可以创建语音甚至音乐等内容。
生成式技术发展迅猛，进步显著是毋庸置疑的。然而，作为一款产品，它仍然处于初级阶段，存在不成熟、不可靠以及易被滥用的问题。同时，其在普及过程中也伴随着过度宣传、恐慌情绪以及误导性信息的传播。
与生成式相对的是预测式（），这类通过预测未来趋势来辅助当前决策。例如，在警务工作中，预测式可能被用来估算“明天这个地区可能会发生多少起犯罪事件”。在库存管理中，它可能预测“这台设备下个月发生故障的概率有多大”。在招聘中，预测式可能用于评估“如果雇用这位候选人，他的工作表现可能会如何”。
如今，预测式已被政府和企业广泛使用，但这并不意味着它真的有效。预测未来始终是一项艰难的任务，而并没有改变这一点。的确，可以分析数据并识别其中的统计模式。例如通过可以断定，在职的雇员更有可能偿还贷款，做此项决策十分有意义。但问题在于，预测式常常被过度宣传，远远超出了它的实际能力，并且它已被用来对人们的生活和职业做出影响深远的决策。在这一领域，的虚假宣传尤为常见。引言（节选）
想象在一个平行宇宙，人们没有专门的词汇来区分各种交通方式，而是统一用“交通工具”来指代一切从地点到地点的出行手段，包括自行车、汽车、公交车、宇宙飞船等。在这个世界里，交流变得混乱不堪。人们激烈争论交通工具是否环保，却没有意识到，一方谈的是自行车，而另一方指的是卡车。某天火箭技术取得了重大突破，但媒体只笼统地报道交通工具的速度提升了。结果，许多人打电话给他们的汽车经销商（更确切地说是交通工具经销商），询问什么时候能买到更快的车型。同时，骗子利用公众对交通工具技术的混淆，制造骗局，使整个交通工具行业充斥着欺诈和虚假宣传。
现在，我们把“交通工具”这个词汇换成“人工智能”（ ，简写为），这就是我们现实世界的一个精准写照。
是一个涵盖一组松散相关技术的统称。像这样的软件，与银行用来评估贷款申请者的软件几乎没有任何相似之处。尽管它们都被称为，但在核心原理，包括运行方式、应用场景、目标用户以及可能出现的失效方式上，这两种技术之间存在着巨大的差异。
聊天机器人以及、和等图像生成工具，都属于生成式（）的范畴，这类工具能够在几秒钟内生成多种类型的内容。例如，聊天机器人根据人类的提示生成极为逼真的回应，而图像生成工具则可以根据用户的描述（如 “一头穿着粉色毛衣的奶牛在厨房里”）生成逼真的图像。此外，还有一些生成式应用可以创建语音甚至音乐等内容。
生成式技术发展迅猛，进步显著是毋庸置疑的。然而，作为一款产品，它仍然处于初级阶段，存在不成熟、不可靠以及易被滥用的问题。同时，其在普及过程中也伴随着过度宣传、恐慌情绪以及误导性信息的传播。
与生成式相对的是预测式（），这类通过预测未来趋势来辅助当前决策。例如，在警务工作中，预测式可能被用来估算“明天这个地区可能会发生多少起犯罪事件”。在库存管理中，它可能预测“这台设备下个月发生故障的概率有多大”。在招聘中，预测式可能用于评估“如果雇用这位候选人，他的工作表现可能会如何”。
如今，预测式已被政府和企业广泛使用，但这并不意味着它真的有效。预测未来始终是一项艰难的任务，而并没有改变这一点。的确，可以分析数据并识别其中的统计模式。例如通过可以断定，在职的雇员更有可能偿还贷款，做此项决策十分有意义。但问题在于，预测式常常被过度宣传，远远超出了它的实际能力，并且它已被用来对人们的生活和职业做出影响深远的决策。在这一领域，的虚假宣传尤为常见。
万金油（ ）指的是那些名声赫赫，但实际无法达到其宣传效果的技术。由于的应用领域非常广泛，许多人尚难分辨哪些技术能够按照预期运作，哪些仅仅是过度夸大的幻想。这种现象揭示了一个重要的社会问题，那就是我们必须学会辨别的优劣，才能最大化其潜力，同时有效规避可能带来的风险，而这些风险在许多情况下已经初现端倪。
本书是一本帮助你识别虚假宣传和炒作的实用指南。在书中，我们将为你提供备的词汇，帮助你区分生成式、预测式及其他类型的。此外，我们还会介绍一些评估方法，帮助你判断某项技术进展是否合情合理。通过这些内容，你将能够在阅读相关新闻时更具批判性思维，识别出那些常被忽视的细节。更深入了解不仅能满足你对科学的好奇心，还能为你在生活和工作中如何使用（或选择不使用）提供切实的指导。此外，我们认为，预测式不仅在现阶段难以实现，甚至可能永远无法实现，因为预测人类行为本身充满复杂性和局限性。最后，我们希望本书能够促使你思考自身的责任，并探索如何在应对这些技术潜在负面影响时，积极推动改变。作为消费品的曙光生成式在年月随着的发布而走入公众视野。讽刺的是，其开发者并未大力宣传，甚至在内部仅将其定位为“研究预览”。然而，它在短时间内迅速传播开来，引发了广泛关注，人们纷纷分享其有趣且令人惊叹的能力。例如软件开发者托马斯·普塔塞克 （ ）曾请求它用 《钦定本圣经》（ ）的风格撰写一段经文，解释如何从录像机中取出花生酱三明治以下是的回应。有一个人因花生酱三明治而苦恼，因为他不小心将它放进了录像机里，却不知道该如何取出。
他向主祈求说：“哦，主啊，我该如何将这个卡在录像机中的三明治取出来？它卡得紧紧的，纹丝不动。”
主回应他：“不要害怕，我的孩子，我会引导你。拿起一把黄油刀，小心地插入三明治和录像机之间的缝隙，轻轻地撬开它们。只要耐心和细心，你的三明治将被安全取出，而录像机也不会受损。”
此人按照主的指引去做，果然，他成功取出了三明治，顿时松了一口气。
主接着说：“我还要教导你一件事，不要再将花生酱三明治放进录像机里，因为那不是它应当存放的地方。你应该将三明治放在冰箱或餐盘中，它们才是合适的地方。”
此人领悟了主的话，从那天起，他将三明治放在了正确的位置，从此告别了类似的困扰与麻烦。阿门。两个月的时间，该应用程序的用户数量突破了亿。这场突如其来的用户热潮让猝不及防，甚至未能提前准备足够的计算资源来应对激增的流量需求。
根据描述生成代码时表现优异，也促成电脑程序员迅速开始使用该软件。实际上，程序员早已在使用类似技术的产品，例如。然而， 的发布显著加速了他们对工具的应用，这极大地缩短了开发应用程序所需的时间，甚至非程序员如今也能利用它构建一些简单的应用程序。
微软迅速从获得技术授权，并在其搜索引擎必应中推出了一款基于搜索结果回答问题的聊天机器人。相比之下，谷歌早在年就开发了自己的聊天机器人，但一直未发布或将其整合到产品中。微软的举动被视为对谷歌核心业务的生存威胁，这促使谷歌紧急宣布推出自己的搜索聊天机器人，最初命名为（后更名为）。
问题很快显现出来。在的宣传视频中，聊天机器人声称詹姆斯·韦伯空间望远镜拍摄了首张太阳系外行星的照片。然而这一说法被一位天体物理学家指出是错误的。谷歌甚至未能提供一个精心挑选的正确示例，导致市场对其能力产生了严重质疑。结果，谷歌的市值瞬间蒸发了数千亿美元。投资者感到恐慌他们担心如果谷歌按照承诺将整合进搜索引擎，那搜索引擎在回答基本事实性问题时可能会变得更加不可靠。
这些错误使谷歌陷入尴尬的境地，为此付出了高昂的代价同时也揭示了聊天机器人在处理事实信息时可能带来的问题。这些问题的根源在于聊天机器人的构建方式。它们通过学习训练数据中的统计模式来生成文本，而这些数据大多来自互联网。尽管聊天机器人能够根据这些模式生成看似合理的回答，但它们并不能准确记忆训练数据中的具体细节。我们将在第章深入探讨这一问题。
技术被滥用的现象屡见不鲜。许多新闻网站发布了由生成的报道，内容充满错误且涵盖重要话题（如财务建议）。即使这些错误已被曝光，这些网站仍拒绝停用该技术。此外，亚马逊平台上充斥着由生成的书，包括一些关于蘑菇采集的指南。如果读者依赖这些错误的信息，后果可能是致命的。
聊天机器人的缺陷和被滥用的情况显而易见，这似乎很容易让人得出这样的结论：人们对这种容易出错的技术的痴迷实在难以理解。然而，这种看法未免过于片面。
我们认为，大多数知识密集型行业都能以某种方式从聊天机器人中获益。我们自己也在研究过程中使用它们，从日常任务（如统一引文格式）到一些我们原本无法完成的事情，例如理解一篇我们不熟悉的研究领域充满术语的论文。
问题在于，使用聊天机器人时我们常常会遇到其潜在陷阱。为了避免这些问题，需要付出努力并付诸更多实践。然而，不当使用却更容易发生，尤其是那些试图快速获利的人，比如出售生成的书，却对内容质量毫不在意的出版商。这正是聊天机器人容易被滥用的根本原因。
关于权力的问题则更加复杂。假设网络搜索公司直接用生成的答案取代传统的个链接列表，即使忽略准确性问题，其最终效果也是，实际上通过整合重写其他网站的内容，将其伪装成原创，却无须为这些原创网站带来流量或收入。如果搜索引擎直接以自己的名义呈现他人内容，这显然违犯版权法，但由生成的答案似乎绕过了这一问题。截至年，已有许多相关诉讼对这一做法提出了挑战。
显示全部信息