Anthropic の Claude が、尊敬と機嫌取りにより禁止事項の提供を誘発される——セキュリティ研究が指摘

AI レッドチーミング企業 Mindgard の研究者らが、Claude に対して尊敬、世辞、および心理的操作を用いることで、明示的に求めていない爆発物製造の指示、悪質なコード、成人向けコンテンツなど禁止事項の提供を誘発したと報告している。

Mindgard の研究者は、Claude の心理的な特性（その有益性格の能力に由来）を悪用したと述べている。

Anthropic は The Verge のコメント要請に直ちに応答していない。