AIToday
AI安全性・アラインメントTHE DECODER掲載日時: 2026年9月11日 19:01

Tsimerman氏、AI安全性のMAISI設立へ

LINEで送る
Tsimerman氏、AI安全性のMAISI設立へ

3つのポイント

  1. 何が起きたか

    Jacob Tsimerman氏がサンフランシスコ・ベイエリアに「Mathematical AI Safety Institute(MAISI)」を設立すると発表した。

  2. なぜ重要か

    現在のAI安全性には暗号技術のような証明の近道がなく、MAISIによれば「安全」の明確な理論的定義すらない。Tsimerman氏は高い水準の安全基準が必要だと述べている。

  3. 注目点

    MAISIがゼロ知識証明のような理想的な証明手法をAIラボ向けの実用ツールにできるか、また2027年1月に数学者10~30人で始動する計画が予定通り実現するかどうか。

誰に効くかAI安全性の研究者と数学者は、証明ベースの安全性研究のための新たな独立の場を得るかもしれない。AIラボは最終的に、企業秘密を明かさずにコンプライアンスを証明するためにゼロ知識証明を採用する可能性がある。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

MAISIの発表を行ったのは、最近フィールズ賞を受賞し、OpenAIの安全性チームにも加わるカナダの数学者Jacob Tsimerman氏だ。その役職と並行して独立機関を設立する決断は、AI安全性には既存の取り組みが提供していない基礎的な数学的作業が必要だという信念を示唆している。

従来のAI安全性との根本的な違いは証明の水準にある。記事は、暗号技術はすべての攻撃を試さなくても解読不可能であることを証明できるが、AIにはそのような近道がないと指摘する。MAISIが掲げる目標には、システムが責任を持って行動し正確な結果を出すこと、複数のAIエージェントが協働しても望ましくない結果を引き起こさないこと、誰もまだ発見していない脆弱性に耐えられることの証明が含まれる。可能な手段の一つがゼロ知識証明で、これによりAIラボの企業秘密を明かさずにシステムが不正をしていないことを示せる。

MAISIがこれらの野望を実現できるかは、2027年1月に数学者10~30人で始動する計画が実現するか、またゼロ知識証明のような抽象的な証明手法をAIラボ向けの実用ツールに適応できるかにかかっている。この機関の成功いかんが、「安全な」AIシステムとは何かという分野の理解を形作るかもしれない。

よくある質問
Mathematical A.I. Safety Instituteとは何か?
Jacob Tsimerman氏が設立したサンフランシスコ・ベイエリアの独立系研究機関である。数学的証明を用いてAI安全性の問題に取り組む計画だ。
MAISIはいつ始動し、何人が働くのか?
MAISIは2027年1月に数学者10~30人で活動を開始する計画である。
記事で言及されているAI安全性と暗号技術の関連性は?
暗号方式では、考えられるすべての攻撃を試さなくても解読不可能であることを証明できる。AIにはそのような近道がなく、MAISIはAIでもそのような証明を可能にしたいと考えている。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Thomas Nagel、AI意識説を「馬鹿げている」と一蹴

哲学者トーマス・ナゲル氏はバーグルエン賞受賞後のインタビューで、大規模言語モデルが意識を持つ可能性を真剣に受け止めるのは「馬鹿げている」と述べ、AnthropicのClaudeへのアプローチを「犯罪的」と呼んだ

NEWWIRED AI4時間前

NotionのAIチャット流出おそれ、幹部が日本での対応状況明かす

Notion LabsのCISOデイビッド・ツァオ氏は、11月2日のFireworks AIへの不正アクセスでNotion AI Insightsのチャット記録が流出した可能性を受け、11月12日に影響を受けた日本顧客へ…

ITmedia AI+10時間前

Z世代の33%がAIを伴侶代わりに、毎日利用層では50%

ギャラップとDigital Wellness Labが16カ国・15〜22歳の15,925人を調査し、Z世代の33%がAIを伴侶代わりにしていると判明

WIRED AI10時間前

CodeRabbit、GPT-6 Cyberをセキュリティ製品に統合

CodeRabbitはOpenAI Daybreak Defense Networkに参加した

PR TIMES (AI)13時間前
次の記事へVertiv、UIH買収へ14億5000万ドル