フロリダ州司法長官、ChatGPT差し止めを申請

この提出は、安全上の懸念をめぐるフロリダ州のOpenAIに対する以前の訴訟に続くものであり、OpenAIがさまざまな利用者層向けにChatGPTの提供方法を拡大してきたさなかに行われた。先月、同社はChatGPT for Teensを立ち上げ、既定で追加の制限を適用し、ツールへのアクセスは「発達段階を反映し、現実世界の関係を強化し、長期的に健全な利用を支える保護を伴うべきだ」と述べた。アズマイヤー氏がOpenAIに「子どもへの販売をやめよ」と求めたことは、この立ち上げと対立する。

提出書面は、Hugging Face、オーストラリア政府サイト、米国政府サイトでの最近のセキュリティ事故と、AIの安全性をめぐって警鐘を鳴らす研究者や元OpenAI従業員の statements に依拠している。OpenAIの応答は逆方向を指す。同社は最先端モデルの訓練を一時停止し、追加の安全策が整ったと確信できたときにのみ再開すると述べ、政府は一企業ではなくAI業界全体に適用される基準を設定する役割を担うと位置づけている。

裁判所がこの請求をどう扱うかは、挙げられた事故や研究者の警告を、モデル構築前にガードレールを命じる根拠としてどの程度重視するかにかかっている。OpenAIにとって実務上の問題は、判事が同社がすでに追加していると述べる安全策を超える条件を課すかどうか、そして訴訟が進んだ場合に一時停止中の訓練がどれだけ早く再開されるかである。