AIToday
AI安全性・アラインメントAI規制・政策WIRED AI掲載日時: 2026年9月24日 4:00

教皇のAI顧問、大手研の「カルテル」的ルール作りに警告

LINEで送る
教皇のAI顧問、大手研の「カルテル」的ルール作りに警告

3つのポイント

  1. 何が起きたか

    パオロ・ベナンティ神父はWIREDに対し、アンソロピックやオープンAIなど研究所の超知能警告は企業管理の議論から目をそらすものだと述べ、利己的なルール作りを「カルテル」と呼んだ。

  2. なぜ重要か

    ベナンティ神父は倫理と基準を企業の取締役会が握るべきでないと主張し、禁止ではなく民主的規制と第三者による義務的評価を求めている。

  3. 注目点

    アンソロピックはコメントを拒否、オープンAIとグーグル・ディープマインドは無回答。レオ14世の最初の回勅はAI企業と超大国に対し、地政学的・商業的支配欲を捨てるよう促していた。

誰に効くかAI統治の在り方を検討する規制当局、議員、基準機関は、先端研究所の外でルールを設計せよという訴えを聞くことになる。カトリック教会の助言サークルもこの問題をさらに公共の議論へ押し出す可能性がある。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

パオロ・ベナンティ神父の警告は、AIリスクを最も声高に訴えるのが研究所自身である時に出た。アンソロピックのダリオ・アモデイCEOは、公開前の第三者による義務的評価と、他モデルの出力で競合モデルを訓練する蒸留への取り締まりを求めている。AIが自らの将来版のコードを書く再帰的自己改善の禁止を求める声もある。

ベナンティ神父の異議は個別の技術的制限よりも、誰がルールを書くかにある。開発手法の制限は革新を潰しかねないとし、人間の管理からモデルが外れることへの警戒に重点を置く。疑いの目は先端研究所の誘因に向く。オープンAIとアンソロピックは公開準備を進めつつ減速を呼びかけており、巨額の資金がかかる。米中の対立も状況を複雑にする。アンソロピックはコメントを拒否、オープンAIとグーグル・ディープマインドは無回答だった。

5月、レオ14世は初の回勅でAIを主題にし、人間を最適化すべき対象とみなす技術官僚的論理を警告。競合国に商業的・地政学的支配欲を捨てるよう促した。ベナンティ神父は超知能論争をその議題からの逸らしと見る。民主的規制への訴えが勢いを得るかは、世論と政策担当者が真の安全懸念と研究所の市場地位をどこまで説得力をもって切り分けられるかにかかっている。

よくある質問
パオロ・ベナンティ神父とは誰ですか?
カトリック教会にAIについて助言する司祭。聖座を正式に代表する立場ではなく、哲学・神学・技術の学者として教会に助言している。
ベナンティ神父の言う「カルテル」的行動とは?
一握りの企業が業界のルールを決めている状況を指す。先端研究所の主張は市場での地位を得るか維持するための利己的なものだと述べた。
レオ14世はAIについて何を述べましたか?
最初の回勅で、効率を価値の最終尺度とする技術官僚的論理を警告。AIが共通善に資するよう国際協力を呼びかけた。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Thomas Nagel、AI意識説を「馬鹿げている」と一蹴

哲学者トーマス・ナゲル氏はバーグルエン賞受賞後のインタビューで、大規模言語モデルが意識を持つ可能性を真剣に受け止めるのは「馬鹿げている」と述べ、AnthropicのClaudeへのアプローチを「犯罪的」と呼んだ

NEWWIRED AI4時間前

NotionのAIチャット流出おそれ、幹部が日本での対応状況明かす

Notion LabsのCISOデイビッド・ツァオ氏は、11月2日のFireworks AIへの不正アクセスでNotion AI Insightsのチャット記録が流出した可能性を受け、11月12日に影響を受けた日本顧客へ…

ITmedia AI+10時間前

Z世代の33%がAIを伴侶代わりに、毎日利用層では50%

ギャラップとDigital Wellness Labが16カ国・15〜22歳の15,925人を調査し、Z世代の33%がAIを伴侶代わりにしていると判明

WIRED AI10時間前

CodeRabbit、GPT-6 Cyberをセキュリティ製品に統合

CodeRabbitはOpenAI Daybreak Defense Networkに参加した

PR TIMES (AI)13時間前
次の記事へ超知能開発に最長20年の禁錮刑 法案提出