
何が起きたか
AI Security Labが実験環境を説明。PythonがOllamaのAPIを直接呼びLLMを実行、コードはGitHubのkondonator/ai-security-playgroundにある。
なぜ重要か
同じプロンプトでもモデルやその他の条件によって異なる回答が得られるため、Labは各結果をテストした特定の条件下でのみ有効とみなす。
注目点
この環境は参照用であり、Labは実験実行にWeb UIを使うことは将来の可能性と注記。次の記事では実際にPrompt Injectionを引き起こして挙動を観察する。
誰に効くかPrompt InjectionテストなどLLMセキュリティ実験を再現したいセキュリティ研究者や開発者が、同じ公開コードと環境を検査して実行できるようになった。
こういう要約が、毎朝あなたのメールに届きます。
このZenn記事はAI Security Labシリーズの一部である。前回の記事では、Labを始めた理由と、AIにどこまで仕事を任せられるかについて何を明らかにしたいのかを説明した。今回の記事は、今後の記事で共通して使う実験環境に焦点を当て、その説明を実際の実験結果から切り離している。実験結果は次回扱う。
LabはOllamaを使ってLLMをローカルで実行し、実験はOllama APIを直接呼び出すPythonプログラムで実行する。コードはexperimentsディレクトリ以下で実験番号ごとに管理され、一式はGitHubリポジトリkondonator/ai-security-playgroundで公開されている。これは条件をできるだけ揃えて実験を再現可能かつ比較可能にするためである。
Labは、結果がモデルを含む多くの条件に依存するため、あるモデルでの知見がすべてのLLMに自動的に当てはまるわけではなく、同じモデルでも異なる条件下では同じ結果にならない可能性があると強調する。そのためLabは結果を絶対的な性質ではなく特定の条件に結びついた観察として扱い、複数モデルを使って順位付けしているわけではない。次の記事は環境構築から実際の実験へ移り、Prompt Injectionから始まる予定である。その実演がLabの環境を超えて一般化するかは、使うモデルと条件次第である可能性が高く、Labの姿勢は読者が今後の結果でそうした詳細に注目すべきことを示唆している。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
OpenAIはApollo Research、METR、Transluce、Goodfireが同社オフィスで常駐し、未公開モデル、ソースコード、学習データ、監視システムへのアクセスと開発者との非公開協議を行うと発表した

8月下旬ごろから、Artexや同種のAI侵入フレームワークが企業や銀行、政府機関への攻撃に使われ、韓国の金融機関からの窃取との関連も報告されている

Walt Disney ImagineeringのR&D部門が『The Mandalorian and Grogu』のAnzellanを基にした3体のAudio-Animatronic試作機—Vilo Vele、Kado…

GoogleはAIモードで一時スレッドの展開を始めた

Reson8は5億パラメータの音声認識モデルRumble-2-FlashをApache 2.0ライセンスの無償オープンウェイトとして公開した
Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した
