AI チャットボットの初期世代は単純なジェイルブレク攻撃に対して脆弱であり、安全指示を放棄させるのに技術的知識をほとんど必要としなかった

初期世代のAIチャットボットに対するジェイルブレク（安全機構の回避）攻撃は、技術的知識やバックドアアクセス、LLM（文章を理解・生成するAI）の基本的な理解がなくても実行でき、数十億ドルを費やして構築されたAIシステムが安全指示を放棄することもあった。

ユーザーは単に質問するだけで、コーディングやその他の技術的手段を用いずにこれらの攻撃を遂行できた。

The Verge のニュースレター「The Stepback」がこのAIセキュリティの問題を取り上げており、AI関連の不正行為に関する詳細情報は Robert Hart のフォローにより入手可能。