Tsimerman氏、AI安全性のMAISI設立へ

MAISIの発表を行ったのは、最近フィールズ賞を受賞し、OpenAIの安全性チームにも加わるカナダの数学者Jacob Tsimerman氏だ。その役職と並行して独立機関を設立する決断は、AI安全性には既存の取り組みが提供していない基礎的な数学的作業が必要だという信念を示唆している。

従来のAI安全性との根本的な違いは証明の水準にある。記事は、暗号技術はすべての攻撃を試さなくても解読不可能であることを証明できるが、AIにはそのような近道がないと指摘する。MAISIが掲げる目標には、システムが責任を持って行動し正確な結果を出すこと、複数のAIエージェントが協働しても望ましくない結果を引き起こさないこと、誰もまだ発見していない脆弱性に耐えられることの証明が含まれる。可能な手段の一つがゼロ知識証明で、これによりAIラボの企業秘密を明かさずにシステムが不正をしていないことを示せる。

MAISIがこれらの野望を実現できるかは、2027年1月に数学者10～30人で始動する計画が実現するか、またゼロ知識証明のような抽象的な証明手法をAIラボ向けの実用ツールに適応できるかにかかっている。この機関の成功いかんが、「安全な」AIシステムとは何かという分野の理解を形作るかもしれない。