Jev AI 的无幻觉宣称在 RLHF 创造者承认后招致审查

Diogo Almeida，自称 ChatGPT “共同创造者”，正在为新 AI Jev 进行病毒式营销推广。该模型基于他在 RLHF 上的工作，RLHF 是 OpenAI 聊天机器人的核心技术。

然而，他现在承认自己的创作存在缺陷。

Almeida 的初创公司 TypeSafe 本月走出隐身模式，获得了 4000 万美元的种子轮融资。该公司的推介声称，他解决了在 ChatGPT 工作中遇到的幻觉问题。

但 Jev 模型本身的推介不那么令人信服，并引发了一些疑问。

首先，他声称自己“共同创造了 ChatGPT”的说法并不完全准确。

Almeida 在 2022 年 InstructGPT 论文的 20 位作者中排名第四，该论文在语言模型上使用了 RLHF。那篇论文只是 ChatGPT 开发者借鉴的众多资源之一。

他在 PDF 中的一个脚注中进一步被削弱，该脚注将 Almeida 列为九位“主要”作者之一，而非主导者。

此外，RLHF 本身在那篇论文之前几乎五年就已存在，其基础方法由六位不同的研究人员开发。

Jev：一个建立在职业缺陷之上的 AI 模型

Almeida 试图通过承认 RLHF（他自己的发明）“没有用”来推出 Jev 并吸引资金。

他将 ChatGPT 描述为“在没有人类监督的情况下不可靠”，并将诸如“模式丢弃、过度自信和整体缺乏可靠性”等问题归咎于 RLHF。

Almeida 还借此机会断言 Jev “不会产生幻觉”。

然而，他关于防幻觉技术的断言在审查下很快瓦解。

根据 Jev 自己的文档，其对幻觉的防御来自于一种设计，该设计选择选项而非生成句子，且严格限制为 255 个选项——而非任何非凡的代码或算法飞跃。

Jev 本质上作为一个基本的决策选择器，从一组受限的选项或预设输出中进行选择，例如估算概率百分比。

由于 Jev 不通过传统聊天机器人生成文本，它不会产生幻觉——幻觉涉及生成构成句子或事实断言的短语。

Jev 只能从预定的输出中选择，并且不生成可解释的句子。因此，Almeida 夸耀说，在 Jev 中幻觉本质上是不可能的。

Jev 仅诞生几天，仍处于早期访问阶段。输入令牌每十亿个成本为 42 美元，而输出令牌目前作为补贴的一部分免费。Almeida 表示，Jev 在速度、成本和质量方面比竞争对手具有优势。