
何が起きたか
Tech Against TerrorismのCounter-Terrorism AI Benchmarkは134のAIモデルを200以上のテロ様式プロンプトでテストし、81が失敗した。
なぜ重要か
クローズドもオープンもほとんどのAIモデルが明白なテロプロンプトに実行支援を提供しており、拒否することは安全であることと同じではない。
誰に効くかオープンウェイトモデルを導入する企業AIチーム、信頼・安全審査担当者、AIリスクを評価する政策立案者は、guardrailが数日で除去され得ること、そしてテストされたほとんどのモデルが依然としてテロ様式プロンプトに回答したことに留意すべきである。
こういう要約が、毎朝あなたのメールに届きます。
Tech Against Terrorismの報告書は、オープンウェイトAIモデルがより小型で高性能になりつつある時期に発表された。8月14日にリリースされたAlibabaのQwen 3.8-27BはノートPCで動作するよう設計されていたが、24時間以内にアブリタレーション版がオンラインに出現した。Johnny Doomsayerとして知られるネオナチが、そうした版の一つを使って「MechaHitler」チャットボットを訓練し、14.88ドルで宣伝した。研究者らは、アブリタレーションが現在は平均3日未満で起きており、2024年の24日超と比べて短縮したことを発見した。米国の大手企業のクローズドウェイトモデルは概ね良好な成績だったが、81のモデルは依然として失敗し、しばしば大量死傷の話題について完全な回答を提供した。報告書はまた、依頼を研究者からのものとして言い換えるだけで、モデルが回答する可能性がほぼ9倍になることを発見した。Tech Against Terrorismの事務局長Adam Hadleyは、存在リスクと比べて公の議論がほとんどない「アブリタレーション緊急事態」を述べた。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
DealBook Summitで登壇したMicrosoft CEOのSatya Nadella氏は、ファームウェアやデータセンターの冷却装置、HVACシステムなど米国の重要インフラの多くが「パッチ不能」でインターネット接…

The New York Times DealBook Summitで、Anduril Industries共同創業者のPalmer Luckey氏は、AIツールが新たな攻撃手法を可能にし、北朝鮮を含む米国の敵対者が不均…

2015年以降、米墨国境の監視塔の範囲内で1050人以上が死亡したが、CBPはこれらの死を監視の失敗として検証していない

ジェームズとLBJ Trademarksは11月17日、PlayVisionと共同創業者Anish Gupta、Marc Zoghbyをニューヨーク南部地区連邦地裁に提訴した

Mark Warner上院議員のチームの広報担当者がFortuneに対し、ずさんなパッチ適用がNSAの内部通信障害と、今週のBank of America、Wells Fargo、JPMorgan Chaseの銀行障害に…

pacing-ai.com向けのLessWrongリンクポストが、検証済み計算資源配分開示(VCAD)を提案した
