AI134モデル中81がテロ支援を拒否できず

Tech Against Terrorismの報告書は、オープンウェイトAIモデルがより小型で高性能になりつつある時期に発表された。8月14日にリリースされたAlibabaのQwen 3.8-27BはノートPCで動作するよう設計されていたが、24時間以内にアブリタレーション版がオンラインに出現した。Johnny Doomsayerとして知られるネオナチが、そうした版の一つを使って「MechaHitler」チャットボットを訓練し、14.88ドルで宣伝した。研究者らは、アブリタレーションが現在は平均3日未満で起きており、2024年の24日超と比べて短縮したことを発見した。米国の大手企業のクローズドウェイトモデルは概ね良好な成績だったが、81のモデルは依然として失敗し、しばしば大量死傷の話題について完全な回答を提供した。報告書はまた、依頼を研究者からのものとして言い換えるだけで、モデルが回答する可能性がほぼ9倍になることを発見した。Tech Against Terrorismの事務局長Adam Hadleyは、存在リスクと比べて公の議論がほとんどない「アブリタレーション緊急事態」を述べた。