Survival LLM、オフラインで緊急時回答

Survival LLMはシンプルなトレードオフの上に成り立っている。クラウドAIサービスの広範な能力を捨てる代わりに、他に何も動かないときでも使えるようにした。オンラインになるのはセットアップの段階だけだ。インストーラーがAIエンジン、モデル、資料をダウンロードするのに、マシンと回線速度に応じて20分から2時間半かかるが、実際に手を動かす部分は5分ほどだ。

資料は公開ライセンスかパブリックドメインの素材に意図的に絞っており、だからこそ配布でき、即座に検索できる。Wikipediaに加えて、WikiMed、MedlinePlus、UK Medicines A to Z、救急医学のWikEM、Ready.govとCDCの旅行ガイダンス、米軍の医療・サバイバルマニュアル、wikiHow、iFixitの修理ガイド、Appropedia、家庭修理・料理・園芸・アウトドア・アマチュア無線に関するStack ExchangeのQ&Aを同梱する。ユーザーは自分のPDF、Word文書、電子書籍、メモを検索対象に追加でき、それらのファイルもローカルに留まる。

回答例からは、このツールが目指す文体がうかがえる。停電時の冷蔵庫の食品について、ドアを閉めたままなら約4時間は安全、温度計が40°F（4℃）以下ならまだ安全、それを超えた状態が2時間続いたものは捨てるべきだとし、確認のために味見をしてはいけないと明示的に警告する。満杯の冷凍庫は約48時間、半分なら約24時間持つ。大量出血では直接圧迫、脚の挙上、湿ったガーゼを剥がさずに新しいガーゼを重ねる、ショックの兆候の観察、最終手段として止血帯とその装着時刻の記録、という手順を説明する。

消費電力は控えめで、MacBook Proで回答生成中は約100W、1問あたり5～40秒。フル充電でおよそ100～300問に相当し、小型発電機やポータブル電源でも動かせるという。内蔵の更新ボタンで、モデルや資料、追加ファイルを残したままアプリを更新できる。