OpenAIが精神健康AI評価基準

GPT-6.1 SolとMentalHealthBenchが同時期に公開されたことで、著者が対比する能力とインパクトの構図が生まれた。これまで生成AIの評価は、数学を解く、コードを書く、事実に正確に答える、推論するなど、モデルの賢さが中心だった。著者はその競争が成熟段階に入る一方、AIの社会的影響は単純な問答を超えたと論じる。

OpenAI自身、人間関係の悩み、ストレス対処、家族の問題、難しい決断などAIが使われる状況を列挙し、ChatGPTのユーザーは週10億人を超えるとしている。すると問いは答えが正しかったかではなく、その会話が人に何をもたらしたかになる。著者は人がAIに打ち明ける理由も挙げる。判断しない、いつでも応答する、関係に利害がなさそうに見えるからだ。

そう見ると、ユーザーの自律性を重んじるこのベンチマークは、有害コンテンツや幻覚の防止を超えたAI安全研究の次のテーマを指し示す。これが業界標準になるかは未知数で、歴史はモデルよりベンチマークを評価するという著者の判断も一つの見解にすぎない。だが示す方向性は、人と密接に働くAIエージェントを構築・導入する者にとって最も重要になりそうだ。