何が起きたか
MetaやGoogleなど大手が公開する大規模言語モデル（LLM、テキストを理解・生成するAI）の多くが、今や無料でダウンロードでき、自分のパソコン上で動かせる。月額料金や利用制限はない。
なぜ重要か
LLMをローカルで動かせば、オフラインでも使え、データをクラウドに送って第三者に分析される心配がないためプライバシーも守られる。毎月のAIサービス料金も不要で、自分の好みに合った専用のプライベートなAIを手に入れられる。一方、アップデートは自分でやる必要があり、モデルの性能は有料版より劣ることが多い。国内の個人開発者や小規模事業者は、自社データを外部に送らずに専用AIを構築できる可能性があるとみられる。
注目点
快適に使うにはメモリ容量が重要だ。最低8GB、できれば16GBが望ましく、最大級のモデルを使うなら32GB以上が必要。Windowsでは、VRAM8GB超の専用Nvidia GPUがあると大きな違いが出る。
こういう要約が、毎朝あなたのメールに届きます。
本ガイドは、LLMをプライベートに利用したいという関心の高まりに応えるものだ。核となる魅力は管理性にある。クラウドにデータを送信せず、月額料金も不要で、自分専用に調整できる。ただし、利便性と性能は犠牲になる。ローカルで動くモデルは、ChatGPTのような商用アプリに比べて性能や速度が劣るのが一般的だ。
ビジネスユーザーにとって実際的な要点は、ハードウェア要件だ。公式な最低スペックはないものの、メモリが重要で、8GBが下限、16GBは快適、32GB以上なら最大クラスのモデルも扱える。Windowsでは専用のNvidia GPUも大きな助けになる。記事では、Appleシリコンの統合アーキテクチャにより、macOSが愛好家に好まれるプラットフォームだと強調している。
セットアップは、専門知識がなくても簡単だ。無料アプリLM Studio Bionicは、プロジェクトの作成、モデルピッカーからのモデル選択、おなじみのインターフェースでのチャットを案内してくれる。Hugging Faceには300万以上のモデルがあり、選択肢は膨大だ。画像やドキュメント対応が必要なら、マルチモーダルモデルを選ぶのがよい。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
Chunghwa Telecom社長のRong-shy Lin氏は、会話型AIから自律型AIエージェントへの移行が企業導入を変え、大規模導入にはデータガバナンス、アクセス制御、説明責任が不可欠だと述べた
AppleとMetaは、ハイエンドMacでの動作を想定した新しいオープンウェイトAIモデルを共同で公開すると発表した
作家兼起業家が毎日のToDoリストを開くと156件が並んでおり、AIアシスタントは仕事を完了させるより速く生成できると結論づけた
Zennの投稿者がAIの使い方を3モードに整理した
CLIをANTHROPIC_BASE_URL環境変数でローカルのモックに向ける手順を解説
非技術者の運営者1人が、Google Playで4本、App Storeで3本のスマホアプリを展開
