実行プログラムと拡張機能

完全オフラインローカルAIの構築:エアギャップのインストールとアップデート手順

インターネット回線を抜くよりも更新経路を設計する方が重要

完全オフライン環境はモデルのみコピーして終了しません。ランタイム1と依存関係、ハッシュ、ライセンス、更新、および元に戻すまで、一括で準備する必要があります。

実行条件と要点
  • オンライン準備ゾーンと内部実行ゾーンを分割します。
  • モデル・パッケージ・設定とハッシュを一括で保管します。
  • 外部通信なしで開始から回答までテストします。
  • 新しいバージョンは、既存の環境の横にインストールして元に戻すことができます。

インポートバンドルにモデル以外のファイルをまとめる

チェックポイント2、トークナイザー、ランタイム、GPU3ドライバ、オペレーティングシステムに合ったパッケージ、設定ファイル、ライセンスとソースを1つのリストにします。インストール中にインターネットから自動的に受信するファイルが1つでもある場合は、オフラインで停止します。

各ファイルのハッシュとバージョンを記録し、オンライン準備機器から新しいストレージメディアにコピーします。内部インポート前にマルウェアスキャンと整合性チェックを経て、後でどのファイルが実行されたかを追跡できます。

実績のあるローカルAIインストールバンドルを隔離されたワークルームにインポートするための通路
オンライン準備ゾーンで検証されたバンドルのみが内部実行ゾーンに移動されます。

内部環境ではネットワークレス再インストールまでテストします

すでにインストールされているキャッシュに期待されないように、クリーンな環境で起動します。モデルのロード、最初の要求、再起動後の自動起動、ログの保存、フェイルバックを外部通信なしで確認します。

文書RAG4を一緒に運営する場合、埋め込みモデルとインデックスツールもインポートバンドルに含まれます。外部テレメトリとアップデートチェック機能はオフになり、失敗したときにユーザー画面に内部パスが表示されないことがわかります。

外部接続なしでストレージからローカルAIをインストールするコンピュータ
既存のキャッシュがないクリーンな環境で最初から実行されていることを確認してください。

アップデートは交換よりも並んでインストールされます

新しいモデルやランタイムを既存の環境の上に上書きしません。新しいバージョンを別々のパスにインストールし、同じ評価の質問とパフォーマンステストに合格した後、サービスポインタのみを切り替えます。

問題が発生した場合は、以前のバージョンに戻すことができるはずです。チェックポイントだけでなく、設定、プロンプト、インデックスバージョン、ドライバの組み合わせも一緒に保存する必要があり、同じ状態を回復できます。

新しいバージョンと古いバージョンを一緒に保存したローカルAI機器
新しいバージョンは隣にインストールし、問題が発生した場合は以前の状態に戻ることができます。

運営記録は内部で完結する

誰がどのバージョンをインポートし、いつ検証したか、どのデータにアクセスしたかを残します。ログには、原文全体ではなく要求識別子とエラーステップのみを残すなど、機密レベルに合った保存規則を設定します。

オフラインという理由だけで安全ではありません。 USBインポート、管理者アカウント、ローカルツールの実行権限が新しい攻撃パスになる可能性があるため、最小権限とインポート承認手順を一緒に実行します。

用語の注釈

  1. ランタイム — プログラムの実行時に必要な機能を提供するソフトウェア環境です。ローカルAIではモデル実行エンジンを指すこともあり、GPUランタイムライブラリと完成したサービングアプリは別の構成要素です。

    本文に戻る
  2. チェックポイント — 学習済みモデルの重みなどを保存したファイルです。同じモデル系列でも、版や用途によって異なるチェックポイントを使うことがあります。

    本文に戻る
  3. GPU — 多くの計算を並列に処理するプロセッサーです。AIモデルの実行ではモデル計算を担います。

    本文に戻る
  4. 検索拡張生成 — 質問に関連する資料を検索してモデル入力に加え、回答を生成する方式です。検索範囲や資料の品質は実装によって異なります。

    本文に戻る