Jev AIの幻覚否定主張、RLHF作成者の認めた後に精査を浴びる

ChatGPTの「共同作成者」を自称するDiogo Almeidaは、Jevと呼ばれる新しいAIのバイラルマーケティングキャンペーンを展開している。このモデルは、OpenAIのチャットボットの中核技術であるRLHFに関する彼の研究に基づいて構築されている。

しかし、彼は今、自身の作品に欠点があることを認めている。

AlmeidaのスタートアップTypeSafeは今月、ステルス状態から脱し、4000万ドルのシード資金を獲得した。同社のピッチでは、ChatGPTに取り組む中で直面した幻覚問題を解決したと主張している。

しかし、Jevモデル自体のピッチは説得力に欠け、いくつかの疑問を引き起こしている。

まず、彼が「ChatGPTを共同作成した」という主張は完全に正確ではない。

Almeidaは、言語モデルにRLHFを使用した2022年のInstructGPT論文の20人の著者中4番目に登場する。その論文は、ChatGPT開発者が参照したいくつかのリソースの1つに過ぎない。

彼の役割は、PDFの脚注によってさらに縮小される。その脚注では、Almeidaは9人の「一次」著者の1人としてリストされており、主導者ではない。

さらに、RLHF自体はその論文のほぼ5年前に存在し、その基本手法は6人の異なる研究者によって開発された。

Jev：キャリアの欠点に基づいて構築されたAIモデル

Almeidaは、自身の発明であるRLHFが「有用ではない」と認めることで、Jevを立ち上げ、資金を集めようとしている。

彼はChatGPTを「人間の監督なしでは信頼できない」と説明し、RLHFに「モードドロップ、過信、および全体的な信頼性の欠如」などの問題があるとしている。

Almeidaはまた、この機会を利用して、Jevは「幻覚を起こさない」と主張している。

しかし、幻覚防止技術に関する彼の主張は、精査によってすぐに崩れる。

Jev自身のドキュメントによると、幻覚に対する防御は、文を生成する代わりにオプションを選択する設計に由来し、厳格な255の選択肢の制限がある。顕著なコードやアルゴリズムの飛躍によるものではない。

Jevは基本的に、確率パーセンテージの推定など、制限されたオプションまたはプリセット出力のセットから選択する基本的な決定セレクターとして機能する。

Jevは従来のチャットボットを介してテキストを生成しないため、幻覚を起こすことはできない。幻覚は、文または事実の主張を形成するフレーズを生成することを伴う。

Jevは事前に決められた出力からのみ選択でき、解釈可能な文を生成しない。したがって、AlmeidaはJevでは幻覚は本質的に不可能だと自慢している。

Jevはまだ数日しか経っておらず、早期アクセスのままである。入力トークンは10億あたり42ドルで、出力トークンは現在補助金の一部として無料である。Almeidaは、Jevは競合他社よりも速度、コスト、品質において優位性を提供すると述べている。