Jev AI 的無幻覺宣稱在 RLHF 創造者承認後招致審查

Diogo Almeida，自稱 ChatGPT「共同創造者」，正在為新 AI Jev 進行病毒式行銷推廣。該模型基於他在 RLHF 上的工作，RLHF 是 OpenAI 聊天機器人的核心技術。

然而，他現在承認自己的創作存在缺陷。

Almeida 的初創公司 TypeSafe 本月走出隱身模式，獲得了 4000 萬美元的種子輪融資。該公司的推介聲稱，他解決了在 ChatGPT 工作中遇到的幻覺問題。

但 Jev 模型本身的推介不那麼令人信服，並引發了一些疑問。

首先，他聲稱自己「共同創造了 ChatGPT」的說法並不完全準確。

Almeida 在 2022 年 InstructGPT 論文的 20 位作者中排名第四，該論文在語言模型上使用了 RLHF。那篇論文只是 ChatGPT 開發者藉鑑的眾多資源之一。

他在 PDF 中的一個腳註中進一步被削弱，該腳註將 Almeida 列為九位「主要」作者之一，而非主導者。

此外，RLHF 本身在那篇論文之前幾乎五年就已存在，其基礎方法由六位不同的研究人員開發。

Jev：一個建立在職業缺陷之上的 AI 模型

Almeida 試圖通過承認 RLHF（他自己的發明）「沒有用」來推出 Jev 並吸引資金。

他將 ChatGPT 描述為「在沒有人類監督的情況下不可靠」，並將諸如「模式丟棄、過度自信和整體缺乏可靠性」等問題歸咎於 RLHF。

Almeida 還藉此機會斷言 Jev「不會產生幻覺」。

然而，他關於防幻覺技術的斷言在審查下很快瓦解。

根據 Jev 自己的文檔，其對幻覺的防禦來自於一種設計，該設計選擇選項而非生成句子，且嚴格限制為 255 個選項——而非任何非凡的程式碼或演算法飛躍。

Jev 本質上作為一個基本的決策選擇器，從一組受限的選項或預設輸出中進行選擇，例如估算機率百分比。

由於 Jev 不透過傳統聊天機器人生成文字，它不會產生幻覺——幻覺涉及生成構成句子或事實斷言的短語。

Jev 只能從預定的輸出中選擇，並且不生成可解釋的句子。因此，Almeida 誇耀說，在 Jev 中幻覺本質上是不可能的。

Jev 僅誕生幾天，仍處於早期訪問階段。輸入令牌每十億個成本為 42 美元，而輸出令牌目前作為補貼的一部分免費。Almeida 表示，Jev 在速度、成本與品質方面比競爭對手具有優勢。