AIToday
AI安全性・アラインメントオープンソースAIAI Weekly掲載日時: 2026年11月6日 1:00

Hugging Face CEO、AI絶滅リスクゼロ視

LINEで送る
Hugging Face CEO、AI絶滅リスクゼロ視

3つのポイント

  1. 何が起きたか

    WIRED World Fair in MiamiでHugging Face CEOのClément Delangue氏はAIが人類を絶滅させる確率を「ほぼゼロ」とし、閉鎖的なラボこそ脅威だと述べた。

  2. なぜ重要か

    同氏のP(doom)は科学的主張ではなく個人の見積もりだ。オープンモデルなら外部が危険を調査できる一方、秘密開発ではリスク評価が不可能になると主張する。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

よくある質問
ここでの「ほぼゼロ」とは何を意味するか?
AIが人類を絶滅させる確率についてのDelangue氏個人の見積もり(同氏のP(doom))であり、科学的に測定された数字ではない。
Delangue氏がオープンモデルを支持する理由は?
オープンモデルなら独立した外部が潜在的な危険を調査し対策を構築できる一方、閉鎖的な開発ではリスク評価が不可能になると同氏は言う。
オープンモデルの欠点として挙げられている点は?
2026年のInternational AI Safety Reportによれば、ダウンロード可能なモデルは研究に役立つが、セーフガードを除去でき、公開された重みは回収できない。
LINEで送る

WIRED AIも報道

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OpenAI、4監査機関に未公開モデルなど内部システムを直接公開

OpenAIはApollo Research、METR、Transluce、Goodfireが同社オフィスで常駐し、未公開モデル、ソースコード、学習データ、監視システムへのアクセスと開発者との非公開協議を行うと発表した

NEWTHE DECODER1時間前

AI侵入ツールArtex、企業や銀行への攻撃に悪用

8月下旬ごろから、Artexや同種のAI侵入フレームワークが企業や銀行、政府機関への攻撃に使われ、韓国の金融機関からの窃取との関連も報告されている

NEWWIRED AI1時間前

Sam Altman氏、AIへの権限移行は「ひどい考え」と警告

The New York Times DealBook SummitでSam Altman氏は意思決定の段階的AI移行を「ひどい考え」だと述べ、人間が未来の制御を握り続ける必要があると語った

NEWTechCrunch AI1時間前

Reson8、5億パラメータの音声認識モデルを無償公開

Reson8は5億パラメータの音声認識モデルRumble-2-FlashをApache 2.0ライセンスの無償オープンウェイトとして公開した

NEWSiliconANGLE AI4時間前

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前
次の記事へ実験せずAIで創薬に挑む新興企業が始動