AIモデル用サンドボックスをオープンソース化へ

nFOX Labは今週ステルスから姿を現し、AI機能は欲しいが機密情報を外部事業者に渡すことにためらいを感じる企業を狙う提案を打ち出した。モデルを社内で動かせばデータを自社で管理できるが、そのモデルを支えるソフトウェアとインフラのセキュリティ確保も自社の責任になる。nFOXの答えがBlockhouseだ。アプリケーション層の下で動作し、モデルに避けるべきことを指示するのではなく、Linuxのセキュリティ機構を使ってケイパビリティを剥奪するサンドボックスである。「根本的にその行為をできないようにするだけのことです」とAllott氏は述べた。

システムは通信をPorthole経由にし、リクエストが実行される前に監視された経路で確認できるようにするほか、実行時クレデンシャルと監査制御をモデルプロセスの外に置く。Blockhouseはモデルの完全性も検証し、承認済みファイルは配信前にSHA-256ハッシュで封印され、ファイルが変更されると組み込みのチェックが配信を停止する。ただし管理者が悪意ある宛先を誤って承認する可能性があり、人為的ミスを排除するものではないとAllott氏は認めた。

nFOXは自己資金で運営しているが、ベンチャーキャピタルによる調達を目指している。Allott氏によると、有料のベータパイロット顧客はいるがまだ黒字ではないという。同氏は、エージェントのセキュリティ確保に焦点を当てた類似技術としてNvidiaのOpenShellを挙げ、ロードマップがエージェント保護へ広がる中でnFOXも取り込む意向を示した。