買幣
行情
🔥
預測市場

隨著AI工作負載轉向更便宜的選擇,開放權重模型與小型模型佔主導地位

一家醫療科技公司正將大部分AI工作負載轉移到開放權重模型與小型模型,在維持效能的同時實現了大幅成本節省。

2026-10-20 14:14約 3 分鐘閱讀

AI經濟學中的一個擔憂是,模型的持續進步將使愈來愈多的任務能由廉價的開源版本處理。例如,一旦AI能可靠地為98%的個人報稅,前沿模型就不再需要用於這項任務。這個邏輯適用於許多工作負載,而Scotia今天發布了一份報告,聚焦一家正迅速採用AI的醫療科技公司。

Scotion所訪談的這家醫療科技公司——擁有20億美元營收和5,000名員工——採用雙層模型方法,其中較低層級擴展最快。機器運作的工作負載目前約佔token消耗量的70%,在封閉式前沿模型與Qwen、Kimi等開放權重模型之間大致平均分配。據一位高階主管稱,這個比例最終可能達到100%開放權重;他將此轉變歸因於成本大幅降低,同時堅稱效能不受影響。

幾個值得注意的要點:

  • 開放權重模型的整體成本約為前沿模型的五分之一。
  • 小型語言模型的成本約為其百分之一。
  • 以專有資料訓練時,小型語言模型在PDF分類等重複性任務上的表現可優於較大型模型。
  • 小型語言模型的採用仍處於早期階段。

這在實務上呼應了報稅情境。兩年前,將文件分類或總結內部研究需要前沿級模型。如今,這些任務被視為已解決,而已解決的任務自然會遷移到最便宜的供應商。技術堆疊頂層的每一次改進最終都會讓另一類工作負載向下遷移。

前沿實驗室尚未在這一領域流失業務。人類使用者繼續依賴Claude、ChatGPT與Gemini,該高階主管預計,隨著新的工作流程持續出現,封閉式模型的支出不會在2027年趨於平穩。

一個值得注意的點:該公司的整體雲端支出在2026年翻了一倍。Scotia認為這對MSFT、GOOGL與AMZN等運算供應商是正面的,因為這些公司大多不在意部署哪些模型。前沿實驗室則更令人擔憂;據作者稱,Scotia將其前景描述為「好壞參半」——一個暗示謹慎的禮貌說法。

報告指出,「每位開發者的token支出正趨於平穩」,約為每月100至500美元。

Anthropic的首次公開募股預計將於今年稍晚進行,目前估值估計介於1.4兆至1.5兆美元之間。

分享至

免責聲明:本文內容來源於第三方媒體,僅供參考,不構成任何投資建議。加密貨幣及其他金融產品存在較大價格波動風險,請謹慎決策。

相關文章