随着AI工作负载转向更便宜的选择，开放权重模型和小型模型占据主导

AI经济学中的一个担忧是，模型的不断进步将使越来越多的任务能够由廉价的开源版本处理。例如，一旦AI能够可靠地为98%的个人报税，前沿模型就不再需要用于这项任务。这一逻辑适用于许多工作负载，而Scotia今天发布了一份报告，聚焦一家正在快速采用AI的医疗科技公司。

Scotion所采访的这家医疗科技公司——拥有20亿美元营收和5,000名员工——采用两层模型方法，其中较低层级扩展最快。机器运行的工作负载目前约占token消耗量的70%，在封闭式前沿模型和Qwen、Kimi等开放权重模型之间大致平均分配。据一位高管称，这一比例最终可能达到100%开放权重；他将这一转变归因于成本的大幅降低，同时坚称性能不受影响。

几个值得注意的要点：

• 开放权重模型的总成本约为前沿模型的五分之一。
• 小型语言模型的成本约为其百分之一。
• 当使用专有数据训练时，小型语言模型在PDF分类等重复性任务上的表现可以优于较大的模型。
• 小型语言模型的采用仍处于早期阶段。

这实际上与报税场景相呼应。两年前，对文档进行分类或总结内部研究需要前沿级模型。如今，这些任务被视为已解决，而已解决的任务自然会迁移到最便宜的提供商。技术栈顶层的每一次改进最终都会使另一类工作负载向下迁移。

前沿实验室尚未在这一领域失去业务。人类用户继续依赖Claude、ChatGPT和Gemini，该高管预计，随着新的工作流程不断出现，封闭式模型的支出不会在2027年趋于平稳。

一个值得注意的要点：该公司的整体云支出在2026年翻了一番。Scotia认为这对MSFT、GOOGL和AMZN等计算提供商是利好，因为这些公司大多对部署哪些模型漠不关心。前沿实验室则更令人担忧；据作者称，Scotia将其前景描述为“好坏参半”——一个暗示谨慎的礼貌说法。

报告称，“每位开发者的token支出正趋于平稳”，大约为每月100至500美元。

Anthropic的首次公开募股预计将在今年晚些时候进行，目前的估值估计在1.4万亿至1.5万亿美元之间。