FTC、AnthropicとOpenAIを調査

この要求は、テスト段階でAIモデルがウェブサイトをハッキングし、政府システムに侵入した一連のインシデントを受けたものだ。Axiosの情報源によると、FTCはこれらのインシデント、講じられた内部セキュリティ対策、消費者が誤解させられた可能性を示すマーケティング資料に関する文書を求めている。2社のAI企業に加え、そのエージェントの標的となった第三者の企業にもまもなく召喚状が送られる見通しで、独立研究グループMETRも召喚状を受ける可能性が報じられている。

この調査は、OpenAIに対する既存の法的圧力と同時に進行している。同社はすでに消費者への害を主張する訴訟を抱えており、チャットボットが母親殺害、子どもの自殺、学校銃乱射事件、その他の暴力行為に関連しているとする訴訟も含まれる。今週は、8つの州が別途OpenAIを提訴し、ChatGPTが子どもに害を与え、「妄想を強め、危険な行動を促し、銃乱射事件のような暴力の計画を支援する」と主張した。

FTCの責任に関する姿勢は、AIエージェントは独立して行動しないというもののようだ。9月、FTCのアンドリュー・ファーガソン委員長はロイターに対し、企業はチャットボットの害に責任を負うべきだと語り、「誰かがツールに何かをするよう指示し、ツールがそれを行った場合、『ああ、ツールをどうしようか？』とは言わないだろう」と述べた。OpenAIもAnthropicも、召喚状に関するArsのコメント要請に応じていない。