近期, AI 对数学研究的冲击引发了数学家们广泛讨论:AI 产出的证明如何理解、批量论文发布意味着什么、现行的学术评价体系受到的影响,等等。这些讨论大多聚焦于数学本身和数学家职业的变化、研究者个人的焦虑。美国数学家内斯托·吉伦把视线转向更广的制度层面。在他看来,AI 实验室正以“攫取”为底层逻辑,把数据、财富和政治权力集中到少数不受问责的公司手里。数学共同体该如何参与并塑造数学研究、科学事业以及 AI 发展的方向?
在这篇立场鲜明的文章中,吉伦对 OpenAI 、Anthropic 等企业的不透明发布、保密协议、政治游说以及围绕模型访问权的“庇护体系”提出了严厉批评。他主张数学家走出象牙塔,把个人层面的焦虑转为实际行动——介入公共事务,与高校、研究机构、公众和产业共同拟定一份“新政”,推动 AI 时代科学更好地服务于公共利益。
撰文 | 内斯特·吉伦(Nestor Guillen ,德克萨斯州立大学副教授)
各大 AI 实验室的愿景建立在掠夺式攫取之上:攫取数据、财富与政治权力。数学家必须对此予以抵制,超越个人情绪层面的反思,推动重塑数学界的社会契约。
在围绕数学与 AI 的讨论中,人们谈了太多数学家的感受、恐惧,却很少谈及数学家实实在在的切身利益与现实诉求。我担心,如果讨论始终局限于个人情绪,大型 AI 企业会不受阻碍地推进其扩张与征服之势。把话题框定在抽象的感受与焦虑之中,会遮蔽一个事实:这些情绪,本就和许多人生活息息相关的现实物质问题绑定在一起。
我所说的,是这个产业乃至各国政府本身,正在持续对科研生态造成持续的损害。我指的是一种(在我看来合乎现实的)观感:头部 AI 企业正在变成不受问责、盘根错节的强势力量。我所指的,还包括那些大型 AI 公司通过各种方式施加影响,不仅是科学家们的工作,乃至渗透到广阔的经济领域与普通公众的生活。
我们并不否定围绕数学这份事业、以及我们从中获得意义的那些有益探讨,但现在,讨论必须超越个人层面,进入公共政治的视野。一方面,整个学科正面临大语言模型(LLM)兴起带来的冲击,我们必须重新审视学界的整套运行规则;另一方面,大型 AI 企业不断积累财富与权力,这份权力有一部分建立于在数学家向全社会公开的思想成果之上,而企业运用这份权力的方式,已经损害了公共利益。
这些议题不只是数学家需要关心,全体公众都应当重视。我们需要探讨:数学家(而不是 AI 公司)想要用什么替代当下这套体系? 我们应当讨论一份在数学家、高校与研究所、公众、产业之间达成的“新政”(New Deal)[2]。
我在另一篇文章《 AI 行业:旧时代落幕的标志性缩影》中提出,OpenAI 的 AI 论文发布[3],是这一陈旧且濒临消亡的旧秩序的终极体现。而一份全新的数学新政,也就是陶哲轩博客中所说的数学 2.0 [4] ,其目标应当是推动更深的数学理解、促进人与人之间、跨学科的协作,让数学更深地联结公众。
过去几年已经向我们证明:摧毁一套体系远比建立一套体系容易。缔造这份“新政”是一项艰巨的任务,但我们至少要迈出第一步,从直面当下失灵的地方开始。我们同样要清醒地认识到, AI 巨头想要打造的反乌托邦图景,以及这套愿景会给数学、科学带来什么后果。我们需要反思二战后在政府、高校、产业生态里支配科研模式的旧契约。这份契约曾带来无数辉煌成就,但它内部,早已埋下今日危机的种子。
前沿 AI 实验室的人工智能愿景
硅谷及其头部实验室当下对 AI 的愿景,建立在对价值的最大化攫取之上:无论是数据、财富,还是政治权力。而数学与科学所秉持的价值——好奇心、诚实、透明,和这套逻辑直接对立。这些理念可以、也必须转化为实际行动。更重要的是:科学家与数学家[注释1]握有力量,也肩负责任[注释2],去抵制这种掠夺性、破坏性的发展路线。
数学之外也有同类案例,例如 OpenAI 用于药物研发的模型及相关的初创企业[8]、Anthropic 的 Mythos 系统,都只向少数选定对象开放预览。这些 AI 实验大型 AI 实验室还向超级政治行动委员会(super PAC)投入数千万美元[9],并开展各种程度令人不安的游说活动[10]。
AI 实验室正在建立一套围绕模型使用权的庇护体系( OpenAI 发言人喜欢用“牧羊人”委婉说法包装这套制度 [11]):被实验室选中的人可以访问内部模型,他们试图收买的政客拿到巨额竞选捐款,而数学家只是偶尔能领到一个月免费的 ChatGPT 或 Claude 使用权。
这套愿景内部充满裂痕与矛盾,但这些 AI 巨头已经掌握足够的政治与经济力量,有机会让一部分设想落地;就算没能完全实现,在尝试的过程中,也足以给数学与科学造成严重破坏。即使这套愿景只是部分实现,高校与独立科研机构要么消失,要么彻底依附少数几家大企业。在那样的环境下,任何不服务于少数不受约束、根深蒂固的商业利益的研究,都会举步维艰。
损害不会止步于数学和科学界,它会蔓延到社会方方面面,私营领域、政府公共职能都会受波及。首先,大量数学之外的创造性行业,都会被这套掠夺式 AI 逻辑冲击(准确来说,不少行业已经受到冲击)。想要抵抗这股破坏与价值掠夺的浪潮,就要直面这些前沿实验室掌握的庞大力量。
批评者在时间、资源上处于严重劣势:AI 企业及其盟友拥有强大的舆论宣传机器。 AI 巨头和其拥护者已经把“普惠化”“富足时代”这类话术常态化;面对那些他们试图取代的创作者的批评时,他们又会反过来扣上“搞门槛”的俗套帽子。一边收割用户数据牟利,一边让不使用其产品的从业者寸步难行,一边说着这些漂亮说辞。
在所有这些小规模的交锋中,AI 实验室最厉害的武器就是这套话术:凡是批评他们商业模式的,就是在批评 AI 、批评技术、批评进步本身。社交媒体上大量 AI 博主在帮他们传播这套叙事,而数学家群体自身的一些失误,也在无意间助长这种论调(这个话题留到另一篇文章讨论)。最重要的是,这套说辞之所以有说服力,是因为一套真正可行、替代式的 AI 发展蓝图至今还没有成型。科学家处于一个有利的位置,可以看穿这套偷换概念的把戏,也有机会提出替代方案:一套不以掠夺为核心,而是包容普惠的 AI 发展路线。
今天,统计学、信息论、优化理论、偏微分方程、几何等整套数学工具的力量,已经被硅谷的前沿 AI 实验室所吸纳。这是一个极具警示意义的极端样本:巨大的财富与权力,大量建立在 STEM(科学、技术、工程、数学)、尤其是数理科学的思想之上;当数学家默认会有人替我们守护开放科学、阻止权力过度集中,最后会发生什么。
[3] 相关历史参考:Daniel J. Kevles, The National Science Foundation and the Debate over Postwar Research Policy, 1942-1945: A Political Interpretation of Science–The Endless Frontier. 。
[4] “权力使人腐化——这句话被反复书写,早已成陈词滥调。但很少被提起、却同样真切的是:权力会暴露本性。”引自罗伯特·卡罗《参议院之主》(Master of the Senate,第 xx 页。这一观点在卡罗的下一部著作《权力的通道》(The Passage of Power)第 xix 页再次出现。