Tianjin RARESOFT TECHNOLOGY

IT新闻

聚合微软、Windows、企业 IT、云服务与 AI 应用等方向的最新动态,帮助企业及时了解平台变化、功能更新与潜在风险。

只用了 5% 的时间:AI 已经让你的内存更贵,如今 OpenAI 的山姆·奥特曼又称,你的 Windows 电脑内存被浪费了

2026.11.09
OpenAI首席执行官萨姆·奥特曼与微软首席执行官萨蒂亚·纳德拉对AI应在数据中心还是个人电脑上运行持有不同看法萨姆·奥特曼与萨蒂亚·纳德拉对AI应在数据中心还是个人电脑上运行持有不同看法

OpenAI首席执行官萨姆·奥特曼表示,如果每个人都把全球有限的DRAM留在自己的个人电脑里,而这些内存只有5%的时间在使用,那就“相当糟糕”;AI数据中心本可以更充分地利用它。在遭到埃隆·马斯克调侃、并把X上的名字改成Ram Altman(显然是这个名字)之后,他现在表示自己的话被断章取义了。

与此同时,OpenAI的长期合作伙伴微软一直在宣传相反的观点。萨蒂亚·纳德拉希望每张办公桌上都有“用之不竭的智能”,让AI模型在个人电脑上运行,并在需要时连接云端。两位首席执行官都希望AI无处不在,但对于AI应该在哪里运行、全球RAM应该如何分配,他们的看法并不一致。

微软希望将用之不竭的智能带到每张办公桌、每个家庭微软希望将用之不竭的智能带到每张办公桌、每个家庭

为什么萨姆·奥特曼认为,个人电脑的RAM放在AI数据中心里利用率更高

奥特曼是在10月29日播出的《Cheeky Pint》节目中发表这番言论的,节目由Stripe总裁约翰·科利森主持。两人当时在讨论内存短缺为何迟迟得不到缓解。就在科利森开玩笑说英特尔可能会“按惯例”重返内存业务后,奥特曼提到了本地AI。

“很多人想要本地推理。不知为何,他们觉得问题现在已经解决了,因为我们会有开源模型,可以在自己的电脑上运行它们,所以不再需要数据中心里的那些东西。但从全球资源分配的角度来看,让每个人都把大量全球有限的DRAM放在自己的电脑里,而且只在5%的时间里使用,确实相当糟糕。如果你想应对这种供应极度受限的情况,就应该尽可能充分地利用云端资源。”

萨姆·奥特曼参加《Cheeky Pint》播客萨姆·奥特曼参加《Cheeky Pint》播客(视频来自YouTube)

萨姆·奥特曼的观点可以用出版业来类比。想象一下,如果我们把文章写在纸上、印出来,再像报纸那样直接送到你家,会是什么情形。这会很有趣,但并不高效。因为我们已经拥有网站、互联网、社交媒体、WordPress,以及高效的线上出版生态系统。

不过,本地模型不够好用的日子已经过去了。如今我们拥有能够运行这类模型的强大系统。

如果你正在打造通用人工智能(AGI),并且能决定每一GB内存的去向,那么他的观点确实有道理。但没人能做这个决定。市场说了算,人们会为了玩游戏、剪视频而购买RAM;就我而言,我需要开近100个Edge标签页做研究。我那台16GB内存的笔记本电脑,RAM使用率过去经常徘徊在90%到95%之间,所以奥特曼所说的5%,对我来说简直恰恰相反。

“Ram Altman”收回了部分说法,但他的论点并未改变

这段视频很快在PC玩家中传播开来,而他们已经在为内存支付更高的价格。11月1日,埃隆·马斯克发布了一张《无耻混蛋》中汉斯·兰达的表情包,上面写着:“你在把DRAM留在云端之外,对吧?”他还补充道:“人民也应该拥有自己的RAM!”

埃隆·马斯克嘲讽萨姆·奥特曼的表情包

11月4日,应一位用户的要求,奥特曼把X上的名字改成了Ram Altman,并写道:“我确实希望全世界拥有大量内存,大家也能在自己的电脑里装上想要的内存。我的话被断章取义,真他妈让人恼火。我一直在主张全球提高内存产量。”他还在另一条回复中补充说:“我希望你拥有超多RAM”,以及“让我们多造一些。”

公平地说,奥特曼在播客中也把内存制造商过于谨慎、不愿扩大产能归咎于他们。但我看了整期节目,上面那段话就是当时的上下文;即使他希望所有人都能拥有更多内存,也不改变他认为稀缺的DRAM放在云端更能发挥作用这一观点。

萨蒂亚·纳德拉希望每张办公桌、每个家庭都拥有用之不竭的AI

微软过去的使命是“让每张办公桌、每个家庭都拥有一台电脑”,而纳德拉为这个使命加入了AI元素。他在6月表示:“我们的目标是借助Windows,让每个家庭、每张办公桌都能享有用之不竭的智能。”

萨蒂亚·纳德拉谈用之不竭的智能

在2026年年度报告的致股东信中,纳德拉写道:“想象一下,随着越来越强大的模型在本地运行,智能将能在多大程度上变得取之不竭。”工作负载则通过“自动路由”在云端和个人电脑之间调度。所谓用之不竭,意味着由你的个人电脑完成工作,因此你不必为本地模型生成的每个词元付费;不过,电脑本身还是要花钱买的,而且如今电脑贵得令人心痛!

微软将此称为混合智能。在10月7日的一篇博客文章中,Windows负责人帕万·达武卢里将Windows描述为“一个平台,智能体可在适合时于本地运行,需要时则连接云端”。获得你的许可后,Copilot可以读取电脑上的相关内容、在Windows中执行操作,并针对合适的任务使用本地模型。纳德拉表示,这能让“你的词元发挥更大作用”。

https://www.windowslatest.com/wp-content/uploads/2026/10/Hybrid-Intelligence-working-on-a-Copilot-PC.mp4

显然,微软并不反对云端。Copilot的Cowork和Autopilot采用按使用量计费的云服务,而微软自2019年投资10亿美元以来一直支持OpenAI。雷德蒙德只是希望Windows别沦为连接他人数据中心的简陋终端。

微软配备128GB内存的Surface Laptop Ultra,展示了本地AI需要多少RAM

简单来说,本地模型运行在个人电脑的CPU、GPU或NPU上。微软的Windows ML文档称,这样可以“保护数据隐私、免除云端费用,并且无需互联网连接即可运行”,但电脑必须有足够的内存来容纳模型。

微软正式发布Surface Laptop Ultra微软正式发布Surface Laptop Ultra。图片:微软

微软最好的例子是Surface Laptop Ultra,其NVIDIA RTX Spark芯片可让CPU和GPU共享最多128GB统一内存,足以运行参数量高达1200亿的AI模型。128GB版本售价为5899.99美元。

11月4日,奥特曼正忙着在X上改名,微软工程师则介绍了如何在RTX Spark上运行MAI-Code-1.1-Flash。这个拥有1379亿参数的编程模型(每个词元激活68亿参数)在16位精度下需要276GB内存;通过量化,也就是用更少的位数存储每个权重,可将其压缩为53GiB的检查点文件。不过,它仍然需要额外内存来存放KV缓存,以保存代码上下文。

通过GitHub Copilot在Surface Laptop Ultra上本地运行MAI-Code-1.1-Flash通过GitHub Copilot在Surface Laptop Ultra上本地运行MAI-Code-1.1-Flash。图片:微软

在微软的配置中,面对12万个词元的输入,它的生成速度中位数为每秒51.12个词元。工程师写道:“我们的目标是在现有资源范围内提供更有用的智能,而不是以牺牲准确性或响应速度为代价减少位数。”

AI数据中心正是你下一台电脑RAM涨价的原因

奥特曼发表这番言论时,正值PC买家处境艰难之际。TrendForce预计,2026年第四季度传统DRAM合约价格将环比上涨10%至15%,并表示随着“更多产能转向服务器应用”,2027年PC DRAM供应量可能会下降。AI服务器使用的HBM并不是你笔记本电脑里的DDR5,但两者都在争夺少数几家内存制造商的工厂产能。

值得注意的是,上一季度PC出货量暴跌了约20%。

奥特曼说得没错,数据中心对每GB内存的利用率确实比我的笔记本电脑高。但我买电脑不是为了最大限度地提高全球DRAM利用率,而是为了按照自己的方式工作和娱乐。在我看来,微软的混合方案更好——只要“每张办公桌都拥有用之不竭的智能”,最后别变成一张价值5899美元的办公桌就行。

你希望AI在个人电脑上运行,还是在云端运行?