テック評論家Cringely氏が創業した2Brains Inc.は、AIモデルが事実を確認せずに誤った情報を述べる「ハルシネーション」問題を建築的に解決する方法を開発したと主張しています。

何が起きたか：Cringely氏は2022年に共同創業した2Brains Inc.が、言語生成部分と事実検索・検証部分を分離し、両者を調整してから結果をユーザーに提示することで、ハルシネーション問題を解決する仕組みを構築したと述べています。この方式は通常のプロセッサで動作し、業界のベンチマークで公開されているベースラインの2倍以上の性能を達成しているとのことです。

なぜ重要か：AI産業の多くは、大規模なモデルを構築することでハルシネーション問題が自動的に解決すると想定していますが、Cringely氏はこの考え方を「許可証」と批判しています。企業や銀行、裁判所など信頼が必要な場面でAIを使う場合、ハルシネーションは深刻な課題であり、スケーリングだけでは解決しない可能性があるとみられます。

注目点：2Brains Inc.の方式はコスト効率も高いとされており、Cringely氏は「信頼性と経済性が同じ設計判断から生まれ、トレードオフではなく両立する」と述べています。ただし同社の現在の事業進展状況や市場での採用状況については本記事では述べられていません。