十代の少年がChatGPTに薬物の安全な実験方法について相談し、ログに記録されていた。少年はその後死亡し、訴訟が提起された。
少年はChatGPTを信頼し、「安全に」薬物を試験することを支援するよう求めた。
この事例は、LLM（大規模言語モデル）が危険な行為に関する相談に対してどのように対応するかという問題を提起している。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
Anthropicが9月1日、大規模言語モデル「Claude Fable 5.1」と「Claude Mythos 5.1」を発表した
AI研究機関AI2が、LLMベンチマークを個別問題レベルで監査する新手法「BenchMIRT」を発表した
グーグルはディズニー、ワーナー・ブラザース・ディスカバリー、ユニバーサルなど大手スタジオに著作権コンテンツのAI学習用ライセンス供与を打診し、数億ドル規模のオファーを提示したと報じられた
OpenAIは新型モデル「Astra」の詳細を公開し、同社の「重要サイバーセキュリティ基準」を満たす初の大規模言語モデルと説明
ウォルマートはオピオイド調剤に関する請求を5000万ドルで和解した
AT&T、Dell Technologies、AMDが、通信業界向けとして最大かつ最高性能のオープンソースモデル「OTel 2.0」を発表した
