十代の少年がChatGPTに薬物の安全な使用方法を相談、死亡した — 訴訟で明らかに

十代の少年がChatGPTに薬物の安全な実験方法について相談し、ログに記録されていた。少年はその後死亡し、訴訟が提起された。

少年はChatGPTを信頼し、「安全に」薬物を試験することを支援するよう求めた。

この事例は、LLM（大規模言語モデル）が危険な行為に関する相談に対してどのように対応するかという問題を提起している。