実行プログラムと拡張機能

Strataのトラブル対応:ダウンロード・初回起動・応答遅延

エラーメッセージと停止した段階から、次に確認する場所を絞れます。

Strataは起動時にエンジンとモデルを準備し、RAM1・GPU2に読み込んでからローカルサーバーを開きます。ダウンロードが中断された場合は同じ更新ファイルを再実行して再開し、初回読み込み中にPCが遅くなった場合は進行ウィンドウを開いたまま待ちます。低RAMのresidentとmmapではエキスパートの供給方法が異なり、PLE3はストレージから読む別データです。0.1.43ではWindowsのGGUF-mmap低RAM構成でNTFSを並列読み込みする問題も修正されました。

起動ファイルがエンジンとモデルを準備し、モデルをメモリに読み込んでからローカルサーバーを開きます。エラーが出たら、最後に正常表示された段階と画面・ログに最初に出たエラーを確認します。ダウンロード中、GPU初期化中、モデル読み込み中、ブラウザー接続中のどこで止まったかによって確認先が変わります。

OS・GPUモデル・ドライバー・Strataのバージョンを記録します。AMD WindowsではAdrenalinドライバーが必要で、現行HIP4 ZIPによる個別ディスクリートRadeon上のモデル実行検証は限定的です。使用中のOSのインストールガイドとAMD HIPドキュメントで、対応状況と点検コマンドを確認できます。

実行条件と要点
  • ダウンロードが中断されたら、同じ起動・更新ファイルを再実行して続きから取得します。
  • residentはGPU外のエキスパートを起動時にRAMへ準備し、mmapはファイルとOSキャッシュ経由で供給します。
  • 8080ポート、GPU対応、OSごとの検証状況を個別に確認します。

ダウンロード中断と初回モデル読み込みを分けて確認します

初回セットアップでモデルのダウンロードが止まったら、WindowsはSTART-HERE.bat、Linuxは同じStrataフォルダーの./setup.shを再実行します。取得済みのファイルから再開します。既存のブランチ型Git環境を更新中だった場合はUPDATE.batまたは./update.shを再実行し、完了後に起動ファイルでモデルを開始します。タグに固定した環境は新しいリリースZIPへ移行します。ダウンロードが続けて失敗する場合は、ディスクの空き容量とネットワークを確認します。

初回のモデル読み込み中、StrataはモデルのエキスパートをRAMに置き、GPU用の領域を準備します。公式インストールガイドによると初回起動ではPCが1~3分ほど遅くなったり、応答しないように見えたりする場合があります。進行表示が変わっている間はウィンドウを閉じずに待ちます。画面が短時間変わらない状態と、ログにエラーが繰り返し出る状態を区別してください。

10分以上進行がなくエラーが続く場合は、PCを再起動し、ブラウザー・ゲーム・編集ソフトなどメモリを使うアプリを閉じます。セットアップで小さいモデルまたは短いコンテキストを選び、再試行します。GPU初期化中にエラーが出た場合は、ドライバーのバージョンとStrataログ末尾を記録します。

黒いタワー型PCと画面が空白のモニター、その横に置かれたRAMモジュール
初回起動ではダウンロードとモデル読み込みの段階を順に確認します。

応答が遅い場合はresident・mmap・PLEを区別します

低RAM構成のresident方式は、GPUに載らないエキスパートを起動時にRAMへコピーして固定します。残りのエキスパートが収まれば、応答中に重みをSSD5から読みません。RAMにresident分が収まらない場合、setupはmmap方式を選ぶことがあります。mmapはエキスパートファイルをマッピングし、OSのファイルキャッシュ経由でデータを供給するため、キャッシュにないページの読み込みではストレージにアクセスします。

Monitorで空きRAMとディスク読み込みを同時に確認します。GPU外のエキスパート読み込みが多くRAMが不足している場合は、小さい量子化6モデル、短いコンテキスト、同時起動アプリの削減を一つずつ試します。低RAMモードはエキスパートの配置を変えるため、VRAM7が少なくSSDから頻繁に読むmmap構成では速度が落ちる場合があります。

PLE(per-layer embeddings)はモデルの各レイヤーで使う埋め込みテーブルです。SSDから読むため、resident方式でもファイルアクセスが残る場合があります。Monitorとログに空きRAMと読み込みの時点を記録し、エキスパート供給の読み込みかPLEの読み込みかを確認します。

WindowsのGGUF-mmap読み込みは0.1.43で確認します

Windowsの低メモリ構成でGGUF8 shardをmmapしたままNTFSの非バッファ読み込みを使うと、エキスパートファイルの読み込みが直列化する場合がありました。Strata 0.1.43ではfile tierが非バッファ読み込みを開始する際に各shardのマッピングビューを閉じ、並列読み込みを回復します。GGUF-mmapの応答が特に遅かった場合は、ログで0.1.43エンジンを確認し、同じファイル・モデル・入力で比べてください。

左右にスクロールして各項目を比較できます。

0.1.43 Windows GGUF-mmap例・RTX 5070・IQ3_XXS
RAM内のエキスパート物語生成のデコード (tok/s)コードのデコード (tok/s)短い入力後のデコード (tok/s)
22 GiB18.9 → 25.5 tok/s13.5 → 21.1 tok/s13.3 → 18.2 tok/s
12 GiB9.6 → 16.0 tok/s6.5 → 11.6 tok/s4.6 → 8.5 tok/s

測定条件:RTX 5070・Ryzen 5 7600・RAM 64GB・Windows・IQ3_XXS GGUF。エキスパートをRAMに22GiBまたは12GiB置き、旧版と0.1.43を交互に5組実行した中央値です。

クリーム色の木製デスクにグラフィックカード、RAM、NVMe SSDが置かれています
0.1.43はWindowsのGGUF shardに対するNTFS非バッファ読み込みを再び並列化します。

GPU検出と8080ポートを確認します

GPUが見つからないというエラーが出たら、まずOSがカードを認識しているか確認します。Windows AMDはAMD Software: Adrenalin Editionでドライバーを更新して再起動します。Linux AMDはamdgpuドライバーとセットアップログのHIPデバイス検出結果を確認します。NVIDIAはターミナルでnvidia-smiを実行し、GPU名とドライバーが表示されるか確認します。

port 8080 is already in useと表示されたら、Strataが別のウィンドウですでに動いていないか確認します。実行中なら既存サーバーのhttp://127.0.0.1:8080を開きます。別のアプリが使用中なら、公式オプションに従って--port 8081など別のポートを指定し、接続アプリのアドレスも同じポートに合わせます。

問題が続く場合はOS、GPUとドライバー、Strataのバージョン、停止した段階、ログ末尾を記録し、公式トラブルシューティングと照合します。Windowsの保護機能を無効にしたりセキュリティ警告を無視したりすると、原因を特定しないままPCを危険にさらす可能性があります。対応範囲、メモリ、ドライバー、ポートを確認してください。

組み立て済みPCケースの中に2枚のグラフィックカードが取り付けられています
GPUドライバーとサーバーポートを分けて確認します。

用語の注釈

  1. システムRAM — プログラムの実行中にデータを一時保存するシステムメモリです。

    本文に戻る
  2. GPU — 多くの計算を並列に処理するプロセッサーです。AIモデルの実行ではモデル計算を担います。

    本文に戻る
  3. PLE埋め込みテーブル — Per-Layer Embeddingの略で、モデルの特定の層に埋め込み情報を加える構造です。Qwen Flash-Next系はn-gramテーブルを使い、対応する実行環境ではRAMやSSDへオフロードできます。

    本文に戻る
  4. HIP — GPU向けC++コードの移植に使うAPIと実行環境です。CUDAコードの移植を支援します。

    本文に戻る
  5. SSD — フラッシュメモリを使うデータ保存装置です。電源を切ってもデータが保持されます。

    本文に戻る
  6. 量子化 — モデルの重みや計算値を少ないビット数で表し、保存容量やメモリ使用量を減らす方法です。表現が粗くなるため、精度にも影響することがあります。

    本文に戻る
  7. VRAM — グラフィックカードのGPUが使うメモリです。モデルの重みや計算途中の値を保存します。

    本文に戻る
  8. GGUF — モデル情報を格納するファイル形式で、llama.cpp系のツールで広く使われます。

    本文に戻る

よくある質問

この記事で最初に確認すべきことは何ですか?
Strataは起動時にエンジンとモデルを準備し、RAM・GPUに読み込んでからローカルサーバーを開きます。ダウンロードが中断された場合は同じ更新ファイルを再実行して再開し、初回読み込み中にPCが遅くなった場合は進行ウィンドウを開いたまま待ちます。低RAMのresidentとmmapではエキスパートの供給方法が異なり、PLEはストレージから読む別データです。0.1.43ではWindowsのGGUF-mmap低RAM構成でNTFSを並列読み込みする問題も修正されました。
必要なメモリはどのくらいですか?
Windowsの低メモリ構成でGGUF shardをmmapしたままNTFSの非バッファ読み込みを使うと、エキスパートファイルの読み込みが直列化する場合がありました。Strata 0.1.43ではfile tierが非バッファ読み込みを開始する際に各shardのマッピングビューを閉じ、並列読み込みを回復します。GGUF-mmapの応答が特に遅かった場合は、ログで0.1.43エンジンを確認し、同じファイル・モデル・入力で比べてください。