佩小姐的奇幻城堡

新智元报道

Anthropic「巴拿马计划」曝光了！2024年4月13日，Anthropic内部传阅了一份文档。

C | 里面有这么一句：我们用一个「软代号」，因为不想让人知道我们在做这件事。代号叫巴拿马计划（Project Panama），这件事，是破坏性扫描全世界所有的书。盖茨写：人工智能“要么成为有史以来最大的平等器，要么成为最糟的不公来源”。两年后，秘密曝光，这句话彻底失效了。

D | 他还列了三条已经同时出现的风险：大量工作岗位永久消失、作恶门槛下降、儿童成长与人际关系被替代。政府是否立法、税怎么改、哪些岗位留给人，目前都没有拍板。　　盖茨改口：三年前说“可管理”，现在说岗位会少一大块　　三年前，盖茨曾写过，人工智能带来的就业冲击会“颠簸”，但过渡仍“可管理”，技术会帮人把活干得更有效率。周三对 Semafor 他说，自己处在一种震惊里：“我差不多是第一个站出来说‘这太疯狂了，这太荒唐了’的人。”“我被沉默震聋了。”　　他对 Axios 说，好事走得偏慢，除了机器人，“坏事已经近在眼前”。2026年1月，法官下令解封四千多页诉讼文件，外媒直接把备忘录原文登了出来。

E |

人类写的书籍

正被拆解为ASI的数据集「巴拿马计划」真正疯狂的地方，其实不只是切掉了多少本书。

F | 按当前路线，净负面结果的概率非常高。他同时说，自己认识的业内人士几乎都在担心；对 GeekWire，他补了一句：他所认识的人里，“基本上除了埃隆，人人都担心”。　　长文把就业冲击写成结构性问题，而不是一轮经济周期里的失业。

G | 盖茨引用1933年美国大萧条时约25%的失业率作对照，写明人工智能“未必到这个水平”，但冲击“不会随着经济周期消失”。它正在把几百年来，人类写进书里的知识、经验和思想，一页页拆成下一代AI的训练数据。

一个作者花十年写下的一本书，一位学者穷尽半生整理出的知识，一整个时代留下的语言、观念和叙事，进入扫描流水线之后，都会被OCR、切碎、Token化，最终汇进模型的参数。白领里，客服、软件工程、律师助理会先被替换；蓝领一侧，他写“很多美国人没意识到灵巧机器人进步有多快”，建筑和酒店业的部分体力活，到本十年末可能开始和人对打。没有干预的情况下，新创造的岗位会“远少于”今天的就业总量。转型会在大约十年里完成，而不是几代人。　　他对 Semafor 说，多数职业里，人最终会“远远不如做这份工作的人工智能”。对于正在向ASI狂奔的硅谷大厂来说，书架其实是一座还没被彻底开采的「人类知识矿山」。

尤其是2022年以前出版的纸书，经过作者、编辑、出版社层层筛选，长文本结构完整，又几乎没有AI生成内容污染。

H | 他问，岗位消失之后的反弹会有多大：“会让数据中心那档事看起来像小事。

I | ”基金会解决不了社保缺口。互联网越被AI文本淹没，这批「纯人类语料」反而越稀缺。

J | 所以，当Anthropic说要拿到「世界上所有的书」，它想收集的其实是一份尽可能完整的、人类文明训练集。他说，政府规模大约是全部慈善的20倍；盖茨基金会一年约100亿美元，“远远不够”。回应不能是“行业自己搞定”。

K | 　　三条风险已经并排写进同一篇长文　　第一条是工作。

L | 盖茨写，最危险的是入门级和中间层级岗位，新岗位大多要求要学很多年才能掌握的技能。接下来发生的一切，也就顺理成章了。

M |

一开始

Anthropic根本没打算买2021年，公司成立第一年的Anthropic，压根没想过花钱买书。联创Ben Mann先下载了Books3，约18.3万份；同年6月从LibGen拿走至少500万份；2022年7月，Pirate Library Mirror再拿至少200万份。

N | 他特别点到年轻人：入门岗位先没，再就业的台阶跟着变窄。

o | 三笔加起来，超700万份盗版电子书。等待“人已经被挤走或就业不足”再动手，会太晚。毕竟，拿，比买省事。　　第二条是作恶能力下降。判决书里，CEO达里奥直言：本来有很多地方可以买，但走正规采购要面对一堆法务、实操和商务上的麻烦。

p | 2024年2月，Anthropic把Tom Turvey招了进来，任务便是拿到「世界上所有的书」，还得绕开那堆麻烦。诈骗、深度伪造、虚假信息、监控，会先进入日常生活。网络攻击的资源门槛在下降，医院和电网这类基础设施被点名为薄弱点。他没再谈授权，直接从图书分销商和零售商手里批量买货：数千万美元，数百万本，很多是二手的。

q | 书运到之后是固定的三步。生物一侧，他写人工智能会加快药物和疫苗，也会让设计致命新疾病变得更容易，“正面能力和危险能力很难拆开”。

r | 对 GeekWire，他把过去业内口头划过的警戒线又数了一遍：更容易做生物武器、更容易发动网络攻击、做出让人情感依赖的机器、抹掉大量岗位、技术本身失控。“我们正在越过每一条线。”　　第三条是孩子和关系。液压切纸机削掉书脊，高速扫描仪把散页扫成可搜索的PDF，纸张进回收车。长文引用斯坦福与卡内基梅隆一项超过1100人的研究：用人工智能伴侣越重，自我报告的幸福感越差。盖茨写，自己小时候花力气学社交、交朋友，“如果当时就有人工智能伴侣，我怀疑自己不会下同样的功夫”。

s | 判决书第15页写得很清楚：剥离装订、裁切书页、扫描，然后丢弃每一本纸质原件。

t | 他还提到，初步调查显示，用得越重，批判性思维越弱，年轻群体更明显。　　他把这几类风险说成“黄灯或红灯已经在闪”。

u | 他批评现行自愿安全安排：阈值是什么、越过之后做什么，“整套东西在我看来空空如也”。斥资15亿美元，换来一张「通行证」去年6月，法官William Alsup的判决把这件事拆成三块。

v | 若一直没有红线和后果，“我们回头看，会把现在当成风暴眼里的片刻”。有人拿出可信的全球减速方案，他写自己“多半会支持”，但“不认为这会发生”。用书训练模型：合理使用。地缘和政治力量太大。买来的纸书一对一转成不外传的数字副本：也是合理使用——一本进，一份出，原件已经销毁，副本总数没有变多。从盗版站下载还永久留存，不受保护，为此Anthropic赔了15亿美元。

判决书第15页：Anthropic及其供应商剥离装订、裁切书页，扫描后丢弃每一本纸质原件。　　他提出三件事：新机构、给人留岗、向代币和机器人征税　　第一件是建新机构。

w | 盖茨写，现有机构不是为一种同时碰到就业、安全、卫生、能源和选举的技术设计的。

x | 他要国内新设能跨部门定优先级的机构，国际上要有一个组织，零件分别来自核检查、民航规则和臭氧层条约。

y | 对照Anthropic现在9650亿美元的估值，这笔钱占0.16%。更要紧的是它放行了什么：不是「切书」，是「买来的一本，换成一份」。原件必须消失，这套论证才成立。这是倡议，不是已经成立的机构。

z | 也就是说，切，是这条链的承重墙，不是图省事。对 Axios，他评美国两党：“两边对这件事都谈不上懂，也谈不上认真想过。

硅谷大厂跟风

开始买旧书过去十年，AI公司抢的是网页、代码、图片，抢完原件还在。现在抢的是纸书，切一本少一本，最核心的因素是「干净」。

| ”对 GeekWire，他问“白宫这边该找谁谈”。

| 华盛顿的立法日程没有因此改写。　　第二件是“人类保留”（Human Reserved）岗位：机器已经能干，社会仍决定留给人。语料里最稀缺的是没被AI写过的字，行业里流行的说法是，2022年前出版的纸书不可能混进大模型生成的内容。比喻是自然保护区——地可以盖楼修路，但选择不盖，因为失去的东西太大。《华盛顿邮报》拿到的文件里还有一层：Anthropic偏爱纸书，是因为出版物文笔好，不带那股「低质量互联网腔」。解封文件里另有一条采购要求：优先买「不那么常见」（less common）的书。例子包括儿童看护、陪审，以及告知“你得了不治之症”。他写：“技术上没有理由做不到。但不该这么做。不常见，往往就是绝版、印量小、市面难找。需求烧到了大西洋另一头。英国旧书商，最先感觉到了异常。”照料失智父亲的护工，被他写成“无法被替代的人的工作”。

| 教育和医疗不要全面禁止人工智能，而是岗位受保护、人继续掌舵、工具给人用。保留可以分两种：一种永远由人做；一种是临时保护转行困难的人，比如职业生涯后段的制造业工人。他们这几个月是真赚到钱了。极端情形下，他告诉 Axios，起初可以想象把约40%的岗位划给人，“这是我能想到的上限”。诺森伯兰郡Barter Books的Stuart Manley告诉BBC，他平时一周卖两三千本，最近一笔来自加拿大公司的订单，一单就抵得上一周。具体划哪些、怎么执行，长文写明“必须公开讨论”。干了30年二手书生意，他说没见过这种事。各国进度可以不同，可以分年、分十年推进，而不是第二天全部替换。今年7月，图书数据服务商ISBNdb挂页面对AI公司喊话：世界上最好的AI训练数据正躺在书架上，可承接1000本到100万本的订单，为买家保密身份。页面上还有一句自白：观感问题是真实存在的，「某AI公司销毁两百万本书」不是一个能博得同情的标题。就在最新404 Media报道中，公布了另一条线。这些都还不是法律。　　第三件是税。盖茨主张对人工智能代币（模型把文本和其他数据切成的计费单位）和机器人征税，用来减弱“用机器替人”的财务激励，并给再培训和安全网筹资。

| 现行税制是：雇人要缴工资税，买机器人通常可以当作经营开支抵扣。“税制在推你用机器换人。

| ”他对 Axios 说，这等于“我这辈子见过的最大一次税制改动”，又碰上“我这辈子见过的最分裂的政治”。一位书商在旧书平台Biblio接到一笔约1000本的匿名订单，书目毫无关联，买家不还价。

| 他在其中一本书里夹了一枚苹果AirTag。追踪器从加州出发，最后停在拉斯维加斯的亚马逊LAS8设施。那栋楼平时干的是按需印刷——有人下单，这里印一本新书发出去。北端有块叫VGT3的区域，门上贴着一只霸王龙，爪子抠进书里。机器人税他九年前就提过，当时被广泛搁置，现在仍坚持。

| 一名员工在内部论坛写：我们的任务就是扫书，有人负责切书，有人负责收货扫条码。

| 他承认这不“经济最优”，但创新加速后，社会付得起一点效率损失，用来把人留在岗位上。

| （图源：404 Media）">

亚马逊拉斯维加斯LAS8设施VGT3区域的入口标志，一只红色霸王龙爪子扣进书里。（图源：404 Media）同一栋楼，南边印新书，北边毁旧书。

谁来负责把书留下来同样是扫书，互联网档案馆的目的正好相反：不为训练，只为把书留下，让所有人都能读到。

| 税率、税基、谁征、钱怎么分，长文没有给出法案文本。　　盖茨基金会仍按既定的20年计划往下花剩余约2000亿美元，还剩19年，并会把人工智能用到卫生、农业和教育项目里。

| 他同时说，慈善填不上国家层面的安全网。模型公司“不是政策的人”，对外谈自家产品的负面时“有一点回避”。

| 行业自己解决不了这件事。它用的是Scribe扫描仪，一页一页人工翻。他们试过机器人翻页，但对稀有书行不通，最后还是靠人手。　　已经发出的是警告，还没有落地的是规则　　盖茨把这篇长文写成系列的第一篇，后续还要单独写生物风险。一位操作员十年扫了大约一万八千本书，是七十名Scribe工人中的一个。70岁的他说，自己三十多岁时觉得五六十岁的人什么都不懂，现在由他来发这种警告“有点怪”，但“我非常担心。整个档案馆用了二十年，扫到第二百万本。

| 一对一谈话时，他们也是”。他对自己的就业判断愿意押声誉：“我希望有人说服我看错了就业市场，但没有。这件事对就业市场会非常糟。（图源：Wikimedia Commons）">

互联网档案馆的Scribe扫描工作站，书放在V形托上，人工逐页翻拍。

| ”　　周三发出的是一份个人倡议和一组访谈口径：风险三条已经写死，减速方案他不指望出现，国内新机构、国际组织、人类保留岗位、代币税和机器人税都还停在纸上。

| 哪些岗位划给人、税征多少、白宫对接人是谁，长文和采访都没有给出已经生效的规则。

| 责任编辑：龙运翔。全球约70名Scribe操作员，一台一台这样干了二十年。（图源：Wikimedia Commons）同样是扫书，亚马逊VGT3的流水线刚上了工时定额。一边二十年扫了两百万本，一边恨不得一天清掉一卡车。

| 销毁与存留之间的速度差，十分刺目。

| 但真正的问题不在快慢，而在于切下去的是哪本书。爱丁堡McNaughtan's书店的Derek Walker心中有一笔账。一本只印了100册、其中75册已经进了图书馆的学术书，市面上确实罕见，但毁掉一本，谈不上多大的损失。

| 可他店里也卖出去过18世纪的某个版本，全世界只此一本。它们如果进了切纸机，性质完全不同。Barter Books的Stuart Manley说得实在。世界确实不再需要五百万本《达芬奇密码》，那些书堆在库房里二十年卖不掉，现在有人整批拉走，对他是好事。

| 但Walker卖出的18世纪唯一孤本，一旦切开就没了。更可怕的是，AI公司只按ISBN收货，是畅销书还是孤本，对于它们并没有什么区别，在那些匿名订单里是不做区分的。如果真有一本孤本进了切书机，我们大概率永远不会知道。

|