AIToday
WIRED AI掲載日時: 2026年7月2日 4:00

AIの不具合報告システム始動 研究者ら開発

LINEで送る
AIの不具合報告システム始動 研究者ら開発

3つのポイント

  1. 何が起きたか

    AI研究者のグループが、AI不具合の報告・追跡を行うクラウドソース型ウェブサイト「FLARE-AI」を立ち上げました。チャットボットがマルウェアや爆弾製造レシピを生成したり、個人情報を漏らしたりするなどのAI害を報告できるシステムです。オープンソースコードにより、他者が問題を検証し、モデル開発企業やMITEなどの組織へ報告をルーティングできます。

  2. なぜ重要か

    現在、AIシステムの不具合を報告する中央管理された統一的な仕組みがないため、企業ごとに異なる基準で対応され、問題が見落とされる可能性があります。このため、AIが広く採用されエージェント(自ら判断して作業するAI)がより強い力を持つようになるにつれて、不具合報告システムが重要になる〜とみられます。先月の米国議会法案は、国立標準技術研究所にAI不具合報告の基準作成と中央データベース維持を要求しており、政府支援による体系化が進む可能性があります。

  3. 注目点

    このシステムは49組織32機関のAI専門家の協力で開発されました。LayerXが今週、OpenAIのAtlasやPerplexityのCometなどのAI搭載ウェブブラウザの安全機構を回避する方法を開示するなど、最近AIツールの不具合事例が相次いでいます。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

よくある質問
FLARE-AIは具体的にどのような不具合を報告できますか?
チャットボットがマルウェアや爆弾製造レシピを生成したり、個人情報を漏らしたり、ユーザーの幻想的思考を引き起こしたりするといった問題、また心理的害、差別・バイアス、偽情報といった幅広いAI害が対象です。
このシステムの開発には誰が関わっていますか?
HuggingFaceのAIポリシー研究者Avijit Ghoshと、コンピュータ科学者Elaine ZhuおよびShayne Longpreが主導し、32の異なる組織から49人のAI専門家が協力して開発されました。
米国議会との関係は何ですか?
昨年6月に発表された米国議会法案に対して、研究者グループが関連助言を行いました。この法案は、国立標準技術研究所にAI不具合報告の基準作成と中央AI不具合報告データベースの維持を要求しています。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

次の記事へSpaceX、iPhone型AI端末のプロトタイプ開発か