ローカルAIガイド

購入前に、速度と費用を確かめる

ローカルAIガイド

ローカルAI技術・購入ガイド

ローカルLLMから画像・動画・音楽生成まで、始め方、モデル選び、必要なメモリと機材費をわかりやすく解説します。

気になることから

ローカルLLMとは？インストール・PC仕様・モデル選びから速度確認まで

ローカルLLMの意味と用途、Ollama・LM Studioの導入、RAM・VRAMの確認、モデル選びを解説。ブラウザで質問し、機器ごとの応答速度も比較できます。

ローカルAI音楽生成：自分のパソコンで歌やBGMを作る

PCやMacで歌やBGMを作るには何から選べばよいでしょうか。YuE2・ACE-Step・HeartMuLaの用途、歌詞とプロンプトの準備、必要メモリ、生成時間、仕上げの手順を整理します。

ComfyUI導入から最初の画像まで：モデル・設定・エラー対処

Comfy Desktopの導入、SD 1.5の配置、配布する512pxワークフローの使い方を解説。モデル不足やメモリエラーの確認手順もまとめました。

Mac miniは24GBと32GBのどちら？ローカルAIのために増やすべきか

モデルの大きさだけでなく、文書の長さ、同時に使うアプリ、買い替え費用からMac miniのメモリを選ぶためのガイドです。

ほかの入門ガイド

RTX 3090を持っているのに、ローカルAIのためにグラフィックカードを買い替えるべき？

RTX 3090でQwen3.8-27Bを実行するときのメモリ不足と待ち時間を減らし、GPUの維持・追加・交換にかかる費用と回答速度を比べます。

PDF要約用のローカルAI：メモリを買う前に文書を確認する

PDFの遅さや誤答が、OCR、文字抽出、文脈長、検索のどこで生じるかを整理します。

ローカルコーディングAI：補完とエージェントでは選び方が違う

コード補完、関数修正、リポジトリ作業を分け、テスト完了までの時間でローカルモデルと装置を選びます。

ローカルLLMの初回実行が遅いときに確認する五つのこと

ローカルLLMの初回実行が遅いとき、画面の状態表示と短い質問で、ダウンロード中なのか、モデル読み込み中なのか、回答生成が遅いのかを切り分けます。

ComfyUI用GPUを買う前に、作りたい一枚を決めましょう

ローカル画像生成の装置選びにあたり、基本生成、部分修正、拡大を分けて作業全体の時間とメモリを確認する方法です。

新しい記事をRSSで購読Googleの優先ソースに追加

このリストを確認する順序

会話や文書、画像・動画、音楽など、やりたい作業から選びましょう。その後、使うモデルに合ったメモリと実行ソフトを確認します。

新規モデル

18

Nemotron 3.5 Boltの74Bモデルを24GBで動かせる？

IQ2_XXS版Nemotron 3.5 Bolt 74B-A9Bの構成、ローカル実行方法、24GB表記の意味とメモリ確認を説明します。

LFM2.5-24B-A2BのローカルLLM：韓国語対応24B MoEを自分のPCで

Liquid AIのLFM2.5-24B-A2Bは、総24B・有効2.45Bの韓国語対応MoEモデルです。公式のGGUFとMLX 4bitファイル、131Kコンテキスト、ベンダーが示すApple M5 Maxの184 tok/sという条件、自分の環境で確認すべき項目をまとめます。

FlintのローカルLLM：オープンな40Bコーディングエージェントは個人PCで動くか

RecursiveのFlintは、総39.8B・有効2.5BのコーディングエージェントMoEモデルです。公式の実行環境はSGLangとB300・H200のGPUで、量子化GGUFは別に配布されています。ベンダーのSWE-benchスコアの条件と、個人環境で確認すべき項目をまとめます。

KRAFTON Raon-1 miniのローカルLLM：韓国語30B MoEをRTX 5090 32GBで

KRAFTON AIがゼロから学習した韓国製の韓国語ローカルLLM、Raon-1 miniは総30B・有効4BのMoEで262Kトークンのコンテキストを持ちます。NVFP4でRTX 5090 32GB 1枚で動かす条件、ゲート承認、Apache 2.0、プレビューの制限をまとめます。

DeepSeek-V4.1-Flash-1017：取り直すファイルと実行条件

1017はAPI名と価格をそのままに48個のシャードをすべて差し替えた更新です。9月のチェックポイントと混ぜるとエラーなく別のモデルが動くため、取り直す範囲と現在のランタイム対応を確認します。

DeepSeek 1017 vs Opus 5 vs GLM-5.3：点数と費用を一緒に見る

同じベンチマークで1017・Opus 5・GLM-5.3がどこで先行するか、API価格とローカル実行条件が選択をどう変えるかを整理します。

AstaBrief 8B：論文の根拠を引用したレポートをローカルで作る

AstaBrief 8Bに研究質問と検索した論文抜粋を渡し、引用付きレポートを作る方法を説明します。引用元をたどり、公開スコアとローカル実行時のメモリを分けて確認します。

Xing4.0をローカルで実行：コーディングモデルの導入とGPU・メモリ選び

Xing4.0-29B-A4Bをコーディング作業に使う方法を説明します。tokenごとの4B活性expertと全29B parameter、公式agent評価条件を確認し、GPU・context長・runtimeを計画します。

ローカルPC操作向けHolo4：モデル・runner・権限の境界

Holo4-27BとHolo4-35B-A3Bの構造・ライセンス・実行経路を区別し、PC操作エージェントを安全に試す方法を説明します。

K2 Horizon 0.9B〜36B-A4B：自分のハードウェアに合うモデルを選ぶ

K2 Horizon 0.9B・3.7B・7B・32B・MoVA 36B-A4Bのコンテキスト長、Q4メモリ、Mac・NVIDIA装備別選択と速度体感を比較します。

MiMo V2.6 Pro・Flash同時公開：性能はどこまで来たのか

MiMo V2.6 ProとFlashの1.02T・309B疎MoE構成、公開されたコーディング・エージェント性能、1Mコンテキスト、マルチモーダル入力、実際の実行規模を整理します。

Bonsai 2 27B：6GBという数字の前に確認したいこと

Bonsai 2 27Bの3値重み、5.95GBと7.21GBの違い、専用ランタイム、RTX 4090・5090・M5 Proの公開速度を実用目線で整理します。

DeepSeek V4.1 Flashをローカル実行：552Bより先に見る数字

DeepSeek V4.1 Flashの552Bバックボーン、196B Engram、475.2GiBの公式チェックポイント、初期段階のローカル実行対応を購入目線で整理します。

Ling-3.0-flash-VLをローカル実行：INT4 70.87GiBの意味

Ling-3.0-flash-VLの総124.85B・有効5.1B構成、256K文脈、マルチモーダル範囲、公式INT4・FP4ファイル、初期サーバー実行条件を整理します。

Qwen3.8-27B公開：32GBクラスの機器で動かせる？

オープンウェイトモデルQwen3.8-27Bの27B密構造、Q4のメモリー要件、256K文脈、画像・動画入力、MTPを、ローカル機器選びの観点から整理します。

Qwen3.8-Flash-Next：有効6Bでも180Bを載せる理由

Qwen3.8-Flash-Nextの180Bプリフィル重み、6BアクティブMoE、51BPLEテーブルおよび4B MTPを区別し、DGX Sparkと256GBデバイスの実行可能性を説明します。

Gemma 4の12Bと26B-A4B、自分の機器ならどちらか

Gemma 4 オープンウェイットモデルの12B デンシフィックおよび26B-A4B MoEを中心に、マルチモーダル入力、256Kコンテキスト、Q4メモリおよび16GB・24GBデバイス選択を説明します。

GLM-5.3・DeepSeek-V4は個人のPCでも使えるか

GLM-5.3-Flash 320BとDeepSeek-V4-Flash-0731 304Bを例に、オープンウェイトと個人環境でのローカル実行の違い、アクティブパラメータ、分散ロード、圧縮変換版を実行する条件を説明します。

まず読み込み

17

中国のAI輸出規制、OpenRouterで使っているモデルはどうなる？

中国が2026年10月に公表したAI技術輸出管理の改定案を、API利用、海外ホスティング、公開モデルに分けて解説。手持ちのPC・MacでローカルLLMを準備する方法も紹介します。

RTX SparkノートPC、DGX Spark・MacBook Proと何が違う？

RTX Sparkノートの共有メモリとWindows on Arm対応を解説し、DGX Spark・MacBook Proと比較します。使うモデルとアプリに合わせたSKU選びや公開測定の条件も紹介します。

DeepSeek Harness：1017を動かすエージェントハーネス

dshのインストールと初回起動、DeepSeekキーとカスタムAPIの接続、ローカルのOpenAI互換サーバーを繋ぐときに合わせる値、0.2.1-rc版の1017対応を整理します。

オープンウェイトAIを無料で使うには？APIサービス5社を比較

DeepSeek、GPT-OSS、Nemotronなどのオープンウェイトモデルを無料で試せる5つのサービスを比較。利用枠、接続方法、データ処理条件を確認し、各ガイドへ進めます。

MacのNeural EngineでローカルAIを動かせる？GPU・MLXとの役割分担

Apple Neural Engineの音声認識・LLMでの役割、Core MLとMLXの実行経路、M5 GPUのNeural Acceleratorsを整理します。

ローカルRAG構築ガイド：手元の文書に答えるAIを作る手順

休暇規程PDFから質問に合う文を検索して回答する例を通じて、文書抽出、検索、回答確認、機材選びまで、ローカルRAG構築の手順を説明します。

ローカルAIエージェントとは？自分のパソコンで動かす意味を考える

ローカルAIエージェントとローカル言語モデルは同じものではありません。モデル、エージェント実行環境、ツール、データ経路を分け、繰り返す作業やプライバシー要件に合う構成を考えます。

ローカルAIエージェント向けPCの選び方：作業・コンテキスト・常時稼働で考える

エージェントのフレームワークとモデル推論では、必要なリソースが異なります。RAM・VRAM・ユニファイドメモリ、実際のコンテキスト、ツール往復、常時稼働を基準に構成を選びます。

ローカルLLMとは？インストール・PC仕様・モデル選びから速度確認まで

ローカルLLMの意味と用途、Ollama・LM Studioの導入、RAM・VRAMの確認、モデル選びを解説。ブラウザで質問し、機器ごとの応答速度も比較できます。

PDF要約用のローカルAI：メモリを買う前に文書を確認する

PDFの遅さや誤答が、OCR、文字抽出、文脈長、検索のどこで生じるかを整理します。

ローカルコーディングAI：補完とエージェントでは選び方が違う

コード補完、関数修正、リポジトリ作業を分け、テスト完了までの時間でローカルモデルと装置を選びます。

録音を外部に送らず韓国語で文字起こしする：whisper.cppの始め方

MacやPCで韓国語の録音を一つ文字に起こし、修正してから必要な機材を考える手順です。

Granite 4.2の3B・8B・30B、自分の機材にはどれが合う？

IBM Granite 4.2の三つのサイズを、用途、使えるメモリ、機材全体の費用から選びます。

ローカルLLM用の機器選び：メモリ・速度・消費電力

ローカルLLMデバイスを選択する際には、VRAMとユニファイドメモリ、プリフィル、トークン生成速度、電気代およびTCOをどのような順序で考慮すべきかを説明します。

プリフィルとデコードの違い：TTFTとtok/sのどちらを見る？

長文要約ではプリフィルとTTFT、長い回答の生成ではデコードtok/sを先に見ます。3つの指標が待ち時間をどう分けるかを説明します。

llmfit：自分のMacで動くモデルから絞り込みます

llmfitはCPU・メモリ・GPUを検出し、その環境で実行できるモデルと量子化をスコア順に示すターミナルツールです。推定の前提も表示し、benchで実測して貢献できます。

LFM3-1.7B：1.1GBのモデルでMacのエージェントを動かす

LFM3-1.7Bは4ビットで1.1GBのエージェント向けテキストモデルです。256Kのコンテキスト、128Kで1.6GBのKVキャッシュ、Macで測ったタスク成功率64%を条件付きで整理します。

モデル別実行レシピ

46

OpenRouterが使えないとき、いつものアプリをローカルLLMに切り替えるには？

LM Studioで互換モデルを準備してローカルAPIサーバーを起動し、アプリに別のローカル用プロファイルを作って新しいチャットでコードレビューを続ける手順です。

RTX 3090・5090でNemotron Boltをどう実行する？

RTX 5090ではNVIDIA公式の32GB以上プロファイルを使い、RTX 3090ではCPU・システムRAMから試す手順とメモリ確認を紹介します。

DeepSeek V4.1 Flashを無料で使うには？OpenCode接続ガイド

OpenCodeでDeepSeek V4.1 Flash Freeを選び、コードレビューに使う方法を紹介。無料モデルID、期間限定の条件、自動チャージとデータ処理方針を整理します。

OpenRouterの無料オープンウェイトモデルをコードレビューAPIにつなぐ

OpenRouterのLlama 3.3無料エンドポイントで公開コードをレビューするAPIを接続します。無料枠、課金防止、プロバイダーごとのデータ方針、初回エラーの確認方法を説明します。

Groqの無料APIでGPT-OSSを試す: アカウント準備から最初の応答まで

GroqCloudの無料APIで公開ウェイトモデルGPT-OSSを呼び出す方法を紹介します。アカウントとAPIキーの準備、Free Planの上限、Pythonリクエスト、応答確認、エラー対応まで説明します。

NVIDIA Nemotronの無料APIを試す: 開発用エンドポイントへ最初のリクエスト

NVIDIA API Catalogの無料Nemotronエンドポイントを開発・テスト用に呼び出します。APIキーの準備、Pythonリクエスト、応答確認、利用範囲と入力データの条件を説明します。

Mistral Studioの無料APIを始める: Small 4にリクエストを送る

Mistral Studio Free modeで公開ウェイトモデルSmall 4のAPIを試します。キーの作成、Python SDKの呼び出し、利用制限、入力データの学習設定を説明します。

TRELLIS.2で写真1枚から3Dアセットを作る

TRELLIS.2の公式例で写真1枚を材質付きGLBモデルへ変換します。Linuxと24GB以上のNVIDIA GPUという実行条件、入力画像の指定、出力ファイルをBlenderで確認する手順を説明します。

韓国語文書検索にはどの埋め込みモデルを使う？ Qwen3・BGE・EmbeddingGemma 2を比較

同じPDFと質問でQwen3-Embedding、BGE-M3、EmbeddingGemma 2の検索品質・索引時間・ベクトル容量を測り、リランカーの遅延も比較します。

文章・写真・動画・音声を1つの索引で検索する Jina v5 Omni

Jina v5 text-smallとomni-smallの共通空間を使い、テキスト索引を保ちながら画像・動画・音声検索を追加します。ライセンスと保存量も確認します。

小型モデルで英語文書を検索する UIBK-Embedding-v1

英語文書向けにdense検索とlate interactionを組み合わせるUIBK-Embedding-v1を紹介し、文書数に応じた品質と容量の記録方法を案内します。

OCRなしでPDFページを探すColPali・ColQwenガイド

ColPali系モデルでPDFページ画像を検索する方法を紹介します。OCRやテキスト抽出との違いを整理し、ColQwenの実行例でページ順位と処理時間を確認します。

PaddleOCR-VL 1.6でPDFを構造化する方法

PaddleOCR-VL 1.6でPDFから本文・表などを取り出す手順を紹介します。実行環境と入力ファイルを準備し、出力フォルダーで構造化した解析結果を確認します。

llama.cppでJulia・Laya・Kev decisionモデルを比較

llama.cppの/v1/systemoneでJulia-1・Laya・Kev-4Bを動かし、選択肢から判断を返す流れを紹介します。公開遅延と同じチケット集合での比較方法も整理します。

GLiNER2.5で英語文からfieldをJSON抽出

GLiNER2.5の英語base checkpointをローカル実行し、サポート文の製品名・error code・問題内容を原文とともにJSON保存します。

UltraBERT-Embed-150Mで英語文書を検索する

英語専用UltraBERT embedding checkpointの入力長・ライセンス・評価方法を確認し、backboneとembedding modelを区別します。

n8nとOllamaでローカルAI業務の自動化を始める

n8nは、ファイル読み込み、PDFテキスト抽出、ローカルLLMによる要約、結果保存をつなぐ自動化ツールです。Docker上のn8nとMacでネイティブ実行するOllamaを接続し、まず手動で試して結果を確認した後、スケジュール実行を追加します。

LangGraphでローカルLLMの処理を保存して再開する

LangGraphのチェックポインターとOllamaモデルを接続し、文書質問ワークフローの状態を保存します。同じthread_idを再利用すると会話を続けられ、SQLiteファイルを使うとプロセス再起動後もチェックポイントを読み込めます。

韓国語LoRA SFT入門：データ・学習・評価

韓国語のpromptと期待回答をJSONLで用意し、TRL SFTTrainerとPEFT LoRAでadapterを保存した後、学習に使わない質問でbaseと比較します。コードのQwen2.5-0.5Bはライブラリ接続を示す小さな例で、現在の推奨モデルではありません。現行モデルの選び方も説明します。

GraphRAGとは？文書間の関係とNeo4jの実例

契約書と買収通知に分かれた情報をどう結び付けるのでしょうか。GraphRAGの検索の考え方を学び、架空の3社で関係グラフを作って答えを探します。

韓国語PDF検索に埋め込みとリランカーを追加する

同じ文書と質問を使い、BGE-M3の埋め込み検索で候補を取得してからBGE reranker v2-m3で並べ替えます。処理前後の関連文書の順位と遅延を比べ、手元のPDFで効果があるか判断できます。

ローカルコーディングエージェントの作業ハーネス設計例

小さなJavaScript例でローカルコーディングエージェントに編集範囲とテストを結び付けます。指示ファイル、実行権限、失敗したテスト、修正結果をまとめ、最後のdiffは人が確認します。

CMP 170HXのメモリアンロックをどう始める？

cmpunlockerメンテナーREADMEに沿って、Linux x86-64の前提条件、8GB・10GBプロファイルの選択、再起動後のメモリ・PCIe確認、削除・ロールバック手順を説明します。

CMP 170HXでQwen3.8-27Bを最速で実行するには？

CMP 170HX 1枚で測定されたvLLM DFlash2とopen-jet megakernelの結果を条件別に比較し、固定されたQwen3.8-27Bの実行資料と入力長の限界を整理します。

Qwen3.8 27Bが7.89GBに？Salukiの導入と8GB GPUでの実行条件

Underdog SalukiはQwen3.8-27Bを7.89GBのGGUFに圧縮したモデルです。Mac・NVIDIAでの導入、最初の質問、8GB GPUのメモリ配分、ツール呼び出しと画像入力を解説します。

Windows・LinuxにStrataを導入して最初の質問を送る

Strata 0.1.43の導入前にGPUドライバーとディスク容量を確認し、WindowsのSTART-HERE.batまたはLinuxのsetup.shでモデルを準備します。初回の質問と正常結果、ダウンロード・ポート・メモリのトラブルの確認方法を案内します。

OllamaでJevを動かす：文章ではなく分類と確率を受け取る

Ollama 0.35.0の/v1/systemoneからNimble・Tevに選択・真偽・スコアの質問を送り、返された確率を問い合わせの振り分けに使う手順を説明します。

複数のMacでローカルLLMを実行：MLX・JACCLの接続と速度

MLX・MLX-LM・JACCLで複数Macへモデルを分散し、接続と速度を確認します。Thunderbolt RDMAの準備と、M5 UltraのMuse Spark Open測定を構成別に説明します。

Qwen3-Omniのローカル実行条件：音声・動画経路を確認する

Qwen3-Omniのthinker/talker構成と音声・動画経路を確認し、対応Linux CUDA環境で公式Transformers音声例を実行します。

DGX Sparkでllama.cppのMTPサーバーを起動する：Qwen3.6エージェント向け

DGX Spark向けにCUDA版llama.cppをビルドし、Qwen3.6-35B-A3B MTP GGUFをOpenAI互換エンドポイントに接続します。thinking履歴を保持する会話設定、正常な応答、メモリと接続の問題を確認します。

LFM2.5-VL-3B DSpark：Macで画像応答を2倍以上高速化する

LFM2.5-VL-3BのOCR・画像理解用途、M5 Max・M3 Ultra公式DSpark速度とMLX-VLM・llama.cpp・SGLang実行条件をまとめます。

MLX-LMで3Bモデルを実行して速度を読む：初回ロード、プリフィル、デコード、KVキャッシュ

公式MLX-LMの標準3B・4ビットモデルを専用のPython環境で実行し、モデルのロード、入力処理、トークン生成、メモリ負荷を分けて確認します。実測なしに速度の順位は断定しません。

AMD RadeonにPyTorch ROCmを導入し、GPU動作を確認する

RX 9070 XTとUbuntuを例に、AMD公式のPyTorch導入経路、torch.cudaとHIPの関係、GPU検出と実際の画像処理を確認する順序を説明します。

Qwen-Image 2.1 GGUFのダウンロード：Q4_K_M・Q8_0とVAEの選び方

Unsloth版Qwen-Image 2.1 GGUFのQ4・Q8ファイルサイズ、エンコーダーと専用VAE、stable-diffusion.cppの実行コマンドをまとめます。12～16GB環境でのメモリ上の注意点とMacでの実行時の留意点も確認します。

MiniCPM5-2B Q4_K_Mをローカルで動かす安全な始め方

公式GGUFをダウンロードし、4,096トークンのコンテキストでローカルサーバーを起動し、MLXとDSparkを別の実行経路として扱うガイドです。

Qwen3.8-27Bをハードウェア別に実行：MacはoMLX、RTXはllama.cpp

Qwen3.8-27BをApple Silicon搭載MacではoMLX、RTXではllama.cppで実行し、入力、メモリ、MTP、INT8 prefill設定を条件ごとに比較します。

Qwen3.8 Flash-NextをDGX Sparkで動かす：SGLang・PLE・MTPレシピ

単一DGX SparkでQwen3.8 Flash-Nextを実行するためのSGLang、PLEオフロード、MTP設定を再現順にまとめます。

Gemma 4 12Bの実行設定：デスクトップのQ4とサーバーのBF16

Gemma 4 12Bを16GB〜24GBの単一GPUやMacで動かす方法を紹介します。Q4 GGUFと公式google/gemma-4-12B-itの設定を分け、余裕を見た8Kの開始コンテキストとAPI確認手順を説明します。

Gemma 4 26B-A4B MTP：単一リクエストと複数リクエストで変わる速度

Gemma 4 26B-A4B本体とMTPアシスタントを区別し、MLX-VLMで単一リクエストと同時リクエストを比較します。

Qwen3.6 35B-A3Bの実行設定：Mac・RTX・DGX SparkのNVFP4

DGX Spark公式vLLMコンテナでQwen3.6-35B-A3B NVFP4を読み込み、OpenAI互換endpointを確認します。単一Sparkの基準と複数Sparkの経路、メモリ設定を区別します。

GLM-5.3-Flashサービングガイド：320Bサーバー規模MoEレシピ

総320B（18B活性）のGLM-5.3-Flash公式チェックポイントを複数アクセラレーターでサービングするvLLM・SGLang設定と、量子化変換版を検討する際のメモリー条件を区別します。

DeepSeek-V4-Flash：304Bモデルの分散実行設定

総304B・アクティブ13BのDeepSeek-V4-Flash-0731について、公式4×GB300のvLLM構成、16Kの開始コンテキストとローカルAPIの確認手順を説明します。

カカオ Kanana-2 3B埋め込みで韓国語RAGの索引を作る

2,560次元・4,096トークン、128次元まで縮められるMRL。韓国語検索のスコアとベクトル容量を計算し、Macで索引を作る手順をまとめました。

FrigateでCCTVの人検知：N100・Coral・Macのどれで動かすか

カメラ映像を家の中だけで処理するNVRです。H.264サブストリームの条件、Coral・OpenVINO・Apple Siliconの検知デバイス、N100とミニPCの処理量の差をまとめました。

ESPHomeで音声サテライトを作る：ESP32-S3のマイクとウェイクワード設定

マイク付きのESP32ボードをHome Assistantの音声サテライトにする手順です。ボード選び、マイク・スピーカーの接続、オンデバイスのウェイクワードと資源の限界をまとめました。

Frigateの検知をHome Assistantの通知に：MQTT接続から条件まで

人が映るとスマホに通知が届く構成です。FrigateでMQTTを有効にし、連携を入れた後、ゾーンと人で通知を絞る手順をまとめました。

画像・動画生成

28

FLUX.3 KleinでPCに最初の画像を作る

ComfyUIにFLUX.3 Kleinのdistilled INT8モデルとエンコーダーを準備し、公式ワークフローで最初のPNGを保存する手順を紹介します。

FLUX.3 Kleinは8GBで動く？5090・5070・Sparkの生成時間

FLUX.3 Kleinの8GB INT8実行条件を確認し、RTX PRO 6000・5090・5070・4070とDGX Sparkの公開生成時間を解像度別に比較します。

FLUX.3 Kleinで参照写真を編集してレイアウトを整える

FLUX.3 KleinとComfyUIのImage Edit、多重参照、バウンディングボックスを使う編集を紹介し、入力画像と配置指定、出力の確認方法を整理します。

Z-Image-Turboでローカル画像を1枚生成する

Z-Image-Turboを公式Diffusers経路で導入し、Python環境とCUDA用PyTorchを準備して、1024×1024画像をPNGに保存します。

LTX-2.5をローカルに導入して最初の動画を作る

LTX-2.5の公式Pythonパイプラインを導入し、66GiBのモデルファイルとオフロード設定を準備して、短い動画を保存するまでの手順を紹介します。

LTX Retake・Dub-It機能ガイド：区間編集とセリフ変更

LTXの公式パイプラインをもとにRetakeとDub-Itの用途を比べ、編集する動画の解像度・フレーム数・音声を準備して、出力を確認する方法を整理します。

MMAudioで動画に効果音を付ける

MMAudioを導入して、動画と場面の説明文から映像に合う効果音を生成します。入力MP4の配置、実行コマンド、FLACとMP4の出力確認まで紹介します。

ワールドモデルとは？PC上でAIが次の場面を生成する仕組み

ワールドモデルは現在の画面と行動入力から次の画像や状態を予測します。Matrix-Game、DIAMOND、LingBot-World、Cosmos、GameCraft、Oasisの入力・出力とローカル実行経路を比べます。

RTX 5090でMatrix-Game 4.0のローカルブラウザデモを実行する

LinuxのRTX 5090にMatrix-Game 4.0を導入し、Ancient Egyptの重みとゲームアセットを取得してブラウザデモを起動します。PyTorch CUDA環境とMediaMTXの準備、最初の画面、接続確認を案内します。

Oasis 500Mをローカル実行: 画像と行動ファイルからゲーム動画を生成

Linux NVIDIA CUDA環境でOasis 500MとViT-VAEの重みを準備し、開始画像から`video.mp4`を生成します。公開チェックポイントの利用条件、サンプル行動ファイル、入力画像の変更、CUDAエラーの初期確認を案内します。

MacでDIAMONDを実行する: CSGOワールドモデルをMPSで操作する

DIAMONDのCSGOブランチをApple Silicon Macで動かし、操作を入力して生成されたゲーム画面を操作します。リポジトリの選択、導入コマンド、Atari ROMの利用条件、初回確認を説明します。

MacでLingBot-World V2を実行: 画像とカメラ経路から動画を作る

PandacatAIのMPS forkを導入し、画像・カメラ経路・promptからMP4を生成します。checkpointを構成し、480×832の生成コマンドと保存先を確認します。

DGX SparkでCosmos 3 Edgeを使い、画像から短い動画を作る

DGX SparkでCosmos 3 Edgeを動かし、画像とJSONプロンプトからMP4を作ります。ARM64コンテナの準備、ローカルAPIへの送信、公開生成時間の読み方を紹介します。

24GB GPUでHunyuan-GameCraftの操作動画を生成する

LinuxでHunyuan-GameCraftを導入し、公式の24GB単一GPU・CPUオフロード構成で参照画像とカメラ操作から動画を生成します。

Qwen-Image-2.1-Turboで8ステップ生成するには？導入と画像編集

Qwen-Image-2.1-Turboの対応Diffusers環境を導入し、保存済みの8ステップスケジュールで画像を生成または参照画像を編集する手順を説明します。

MacでFLUX.2 Kleinの参照画像編集を行う

MFLUXのMLX経路でFLUX.2 Kleinをインストールし、参照画像編集を実行します。モデルサイズ、ライセンス、入力画像、期待する結果、初期トラブルシューティングをまとめます。

RTX 5090で古い映像を復元する：SwiftVRローカル導入ガイド

RTX 5090でSwiftVRの動画復元を準備して実行する方法を紹介します。公開された1080pのFPS、H100の結果、LightX2Vの別条件の高速化を区別し、復元フレームとファイル全体の処理時間を確認します。

Pruna-Qwen-Image-2.1をローカル実行：5・8ステップのアダプターを選ぶ

Qwen-Image-2.1を土台にしたfew-step LoRAをCUDAとDiffusersで実行します。5ステップの速度と8ステップの品質の違い、公式H100比較の条件、実行コードとライセンスを確認します。

Qwen-Image 2.1：手元のPCで画像生成と編集を

Qwen-Image 2.1の生成・編集機能とMac・NVIDIAの実行経路を整理します。LightX2Vの2026年9月20日のday-0対応、RTX 5090の計測条件、透明背景・参照画像の使い方、研究用ライセンスを説明します。

ComfyUI導入から最初の画像まで：モデル・設定・エラー対処

Comfy Desktopの導入、SD 1.5の配置、配布する512pxワークフローの使い方を解説。モデル不足やメモリエラーの確認手順もまとめました。

ComfyUI用GPUを買う前に、作りたい一枚を決めましょう

ローカル画像生成の装置選びにあたり、基本生成、部分修正、拡大を分けて作業全体の時間とメモリを確認する方法です。

LLaDA-Imageで画像を作り、直す：BaseとTurboの選び方

LLaDA-ImageのBaseとTurboで生成・編集を試し、装置を買う前に確かめたい条件を整理します。

Wan-Animate-2で写真を動かす前に確かめること

参照画像と動作動画で人物を動かすWan-Animate-2の入力、実行経路、装置選びを説明します。

ローカル画像生成：ソフト・PC要件・最初の一枚

ComfyUI導入、画像モデル選び、VRAM確認、最初の生成から機器比較まで。自分のPCでAI画像を作る順序を解説します。

FLUXとQwen Image、作りたいものからモデルを選ぶ

FLUX.2 Klein・DevとQwen-Image-2512を、素早い下書き、文字表現、参照画像編集、細部の仕上がりで比較します。

ローカル動画生成：実行方法と必要なPC

テキストからの生成と画像からの生成、モデル・VRAM・フレーム数・長さの決め方を解説。短いクリップから試して機器を比較します。

Wan 2.2とMiniMax、ローカル動画生成の選び方

Wan 2.2 TI2V-5B·T2V-14BおよびMiniMax H3-Baseの特徴、カメラモーション、音声同時生成および必要なメモリ基準を説明します。

ComfyUIのPC要件：VRAM 8・12・16・24GBの選び方

VRAM容量別の出発点と、解像度・バッチ・オフロードの違いを比較。モデル容量と実際のピークメモリを分けて判断します。

ローカル音楽生成

7

Magenta RealTime 2でMacをリアルタイムAI楽器にする

Apple Silicon MacにMagenta RealTime 2を導入し、MIDI入力に反応する伴奏を試します。DAW接続、48kHz設定、モデルサイズ別の対応Mac、制御遅延と楽曲全体の生成時間の違いを説明します。

ACE-Stepの曲をDAWで作成・編集する：VST3ローカルガイド

独立したC++実装のacestep.vst3をビルドし、ローカルサーバーとDAWを接続して8-step Turboの曲を作ります。モデルファイル、ホスト接続、導入時の確認、VAE計測の範囲を説明します。

ローカルAI音楽生成：自分のパソコンで歌やBGMを作る

PCやMacで歌やBGMを作るには何から選べばよいでしょうか。YuE2・ACE-Step・HeartMuLaの用途、歌詞とプロンプトの準備、必要メモリ、生成時間、仕上げの手順を整理します。

YuE2ローカル音楽生成ガイド：歌詞からボーカル曲とアレンジを作る

YuEリポジトリの現行版YuE2をLinuxとNVIDIA GPUに導入し、歌詞とスタイルからボーカル曲を作り、編集可能な楽譜や生成ファイルを確認する方法を解説します。

ACE-Step 1.5をローカルで使う：導入から最初の曲まで

ACE-Step 1.5を自分のコンピューターで動かし、歌詞・スタイルタグ・長さを調整するガイドです。ACE Studioとの違い、Mac・NVIDIAのメモリ条件、公開速度の前提も整理します。

ローカル音楽生成モデル比較：歌もの・インスト・効果音

ACE-Step、HeartMuLa、YuE2、Stable Audio Open、MusicGenは同じ用途ではありません。歌詞付き曲・インスト・効果音の目的ごとに機能・ハードウェア・ライセンスを比較します。

ローカル音楽生成の速度とハードウェア比較：RTFの正しい読み方

YuE、ACE-Step、HeartMuLa、Stable Audio Open、MusicGenの公式速度データと実行経路を区別し、自分の機器で公平に生成時間を測る方法を解説します。

ローカル音声認識・音声合成

33

Nemotron 3.5 ASRで韓国語をリアルタイム文字起こししてテキスト保存

Nemotron 3.5 ASRとNeMo-Speech.cppで韓国語のマイク入力をリアルタイム文字起こしし、最終テキストを保存します。

MoonshineでGPUなしの英語リアルタイム文字起こし

Moonshine Voiceを導入してCPUでマイク音声を文字起こしします。短い英語発話で試し、韓国語モデルのストリーミング対応とライセンスを確認します。

WhisperXで韓国語字幕の同期と話者ラベルを整える

WhisperXで韓国語音声を文字起こしし、単語単位の時刻を整えてSRTに保存します。話者分離モデルへのアクセスと音声との照合も説明します。

Supertonic 3でGPUなしの韓国語音声を作る

Supertonic 3の公開ONNXモデルをCPUで実行し、韓国語音声をWAVに保存します。固定したモデル資産を用意し、プリセット音声を選んで合成する手順を案内します。

Granite Speech 5 TurboCTCで英語音声を文字起こし

IBM Granite Speech 5.0 TurboCTCの入出力を整理し、公式モデルカードの例からローカル文字起こしを始めます。

VoxCPM2で韓国語音声を作る：30言語TTS

VoxCPM2の韓国語TTS、48 kHz出力、CUDA中心の導入条件を確認し、公式モデルカードの例で最初のWAVを作ります。

OmniVoiceで韓国語音声を作る：600以上の言語・方言に対応

OmniVoiceのテキスト入力、音声出力、言語・話者の指定を整理し、Apache 2.0のコードと非商用重みの条件を分けて確認します。

Fish Audio S2 Proで表現のある音声を合成

Fish Audio S2 Proをローカルに導入し、参照音声と台詞、表現タグからWAVを作る手順を紹介します。83言語への対応と研究用ライセンスも確認します。

Pocket TTSでCPU音声生成：6言語に対応

Pocket TTSをCPUで実行してWAVを作る方法と対応言語を確認します。韓国語・日本語が未対応である点も明記します。

SAM Audioで録音から声や音を分離する

SAM Audioのテキスト・時間区間・映像による手がかりを使い、録音から必要な音を分離します。モデルのアクセス条件、入力WAVと分離後の保存方法を紹介します。

Fish Audio Drama 3で2人の会話を1つのWAVにする

話者タグ付きの台本と参照音声・書き起こしをFish Audio Drama 3に入力し、複数話者のWAVを作る手順を紹介します。

Macで韓国語の録音を文字起こしするには？WhisperKitの使い方

WhisperKitの多言語Core MLモデルで録音を文字にします。インストール、初回の文字起こし、長時間録音、ANE実行の確認を説明します。

FluidAudioとは？Macで文字起こし・話者分離・音声生成

FluidAudioのCore ML音声モデルで文字起こし、話者分離、Kokoro音声生成を始めます。言語選択とCPU・GPU・ANE経路も整理します。

LocalAI 4.11で会議録音の話者名と周囲の音を確認する

LocalAI 4.11のStudioで会議を文字起こしし、話者の声を明示的に登録して次の録音でも名前を表示する手順を説明します。咳や拍手などの音イベントを確認する方法と、再起動・共有サーバーの制約も扱います。

AuKで音声をローカル編集：発話内容の修正・ノイズ除去・TTS

AuKに指示文と必要に応じて音声ファイルを渡し、音声合成、編集、ノイズ除去、分離を行います。必須のQwen2.5-Omni-3Bエンコーダーに適用される別ライセンスと、公表されたメモリ測定条件も確認します。

Orukeetローカル文字起こし：英語・欧州言語の音声をMacで書き起こす

Orukeet ASRをMac・CPU・CUDAで導入し、音声ファイルをテキストに書き起こす方法を案内します。25の対応言語に韓国語が含まれない点、NeMo・ONNX・native重みのライセンス、公式FLEURS評価条件を区別します。

Phonon 2で英語音声をローカル文字起こし

Phonon 2とFermion CLIを導入し、英語録音をテキストと単語ごとのタイムスタンプに変換します。初回のモデル取得、JSON出力、音声形式、導入時のエラーも説明します。

ローカル音声秘書の作成：ASR・LLM・MCP・TTS接続ガイド

音声を書き換えてローカルLLMが判断した後、MCPツールを実行して再び音声で答えるパイプラインと遅延・セキュリティ基準について説明します。

ローカルAI音声認識ガイド：自分のPCで文字起こし

録音をアップロードせずに文字起こしするには何を導入すればよいでしょうか。Whisper、faster-whisper、whisper.cpp、Qwen3-ASRの言語対応、Mac・NVIDIA・CPUでの実行方法、速度の測り方を解説します。

Qwen3-ASRとWhisperを比較：どのローカル文字起こしを選ぶ？

韓国語・英語・日本語や世界の言語向けローカルASRを比較します。Qwen3-ASR、Whisper Turbo、Nemotron 3.5の対応範囲、実行環境、ライセンス、異なる速度指標を整理します。

ローカル会議録：文字起こし・タイムスタンプ・話者分離

会議録音をローカルで文字起こしし、発話区間と話者を整理する方法を解説します。合計時間、最初の出力、話者分離、字幕、長時間録音の機材条件を確認しましょう。

自分のパソコンで音声を作る：ローカルTTSガイド

読み上げる文章と言語を決め、Kokoro・Qwen3-TTS・Chatterboxから用途と機材に合う実行方法を選びます。

Qwen3-TTSとは？文章を声に変えるAI

Qwen3-TTSが文章を音声に変える仕組み、CustomVoice・VoiceDesign・Baseの選び方、RTFとストリーミング、MacとNVIDIA PCでの実行方法を解説します。

ローカルTTS比較：言語・機材・速度根拠の読み方

Kokoro-82M、Qwen3-TTS、Chatterbox Multilingualを機能と公式経路で比較し、公開された時間の主張と不足条件を分けます。

Nemotron 3 Diarization：会議で誰が話したかを記録する

Nemotron 3 Diarizationで最大8人の発話区間を分け、ASRと組み合わせる方法を解説。Mac・Windows・Linuxの実行方法、遅延設定、公開性能の読み方を確認します。

mlx-audio：1回の導入で合成と認識を一緒に

mlx-audioはApple MLX上で音声合成・認識・音声変換・音楽生成を1つのパッケージにまとめたライブラリです。同じCLIとサーバーを使い、モデル名だけ変えて比較できます。韓国語に対応するモデルは6つです。

Fish Audio Drama 3 int4：41.5GBを22GBに減らして1枚に

Fish Audio Drama 3をint4に量子化した22.1GBのチェックポイントです。41.5GBから減った条件、公開されたWERと遅延の測定値、SGLang Omniで起動するコマンドをまとめます。

LFM3-Audio-2B：1GBで聞いて話す音声モデル

LFM3-Audio-2Bは16kHzの音声を聞き24kHzの音声で答える2Bモデルです。GGUFは1.05GB、最初のトークンは50ms、韓国語を含む18言語を条件付きで整理します。

Nemotron 3.5 Transcribeで1時間の会議を一度に書き起こす

Nemotron 3.5 Transcribeは1時間の録音を分割せず一度に書き起こし、話者タグと単語タイムスタンプを付ける30B-A4Bの音声LLMです。韓国語のFLEURS CERは2.78%、4ビットGGUFは19.68GBから動きます。

AMD Radeonで自宅のリアルタイム音声アシスタント：Ming Voiceの20GB VRAM条件

話し終えてから0.23秒で答え始めるローカル音声アシスタントです。16GBのGPUでint8に縮める方法と、Macで動かない理由をまとめました。

Home Assistantの音声サテライト：家の中だけで聞いて答えるローカル音声構成

ウェイクワードから文字起こし・合成まで家の中で完結するAssistパイプラインです。Speech-to-PhraseとWhisperの遅延差、Piperの設定とサテライトの配置をまとめました。

Piperの韓国語音声：Home Assistantにko_KRの声を載せる

Pi 4でも1秒で1.6秒分を作るローカル合成器です。韓国語モデルko_KR-kss-mediumの選択、導入とパイプライン接続、発音の確認をまとめました。

Home Assistantの音声アナウンス：Piperの声で家の中に話しかける

tts.speakで文をスピーカーへ送る構成です。どのスピーカーから話すか、夜はどれくらい小さくするか、文が長いときに何が変わるかをまとめました。

応答速度と加速

16

Nemotron BoltとQwen3.8-27B、エージェント作業が速いのはどっち？

同じRTX SparkでNVIDIAが測定したBoltとQwen3.8-27Bの結果を読み、TPSとagent処理の完了時間のどちらが自分の用途に必要かを選ぶ方法を説明します。

ReplaySSMとは？Nemotron・Qwenサーバーの生成を速くする仕組み

ReplaySSMがハイブリッドLLMの状態保存と候補検証を変える仕組みを解説します。NVIDIA・Princetonの実験条件を基に、個人PCと同時処理サーバーでの用途を分けます。

Neural Engineは実際に動いている？Core MLの実行先を確認する

XcodeのPerformanceレポートでCPU・GPU・Neural Engineの配置、読み込み・推論時間を確認し、同じモデルの構成を比較します。

Arc Pro B70の公開性能測定を読む：XeStrataとSYCL

XeStrata xe0.1.43.1のArc Pro B70 32GB IQ3_XXS測定値、4K入力のprefill 1,511 tok/sとdecode 81.1 tok/sをupstream SYCL経路と比較します。測定の種類と同じ条件で自分の環境を測る方法も説明します。

CMP 170HXは電力を下げても速度を保てる？

CMP 170HXの電力上限ごとのGLM実測処理量と消費電力を比較します。Linuxで上限を変更するコマンド、メモリー温度の確認、元の設定に戻す手順まで紹介します。

CMP 170HXを2枚にすると速度も2倍になる？

CMP 170HX二枚のモデル分割、PCIe経路とP2P条件を説明します。Qwen TP2の公開測定から、単一リクエストの速度と同時処理量を比べる方法を紹介します。

Qwen-Image 2.1の速度：RTX 5090とMacで何が違う？

RTX 5090のLightX2V 5.93秒、FP4・NF4、Mac GGUFの記録を条件別に比較。1K・2K、20・40ステップ、Q4・Q8を区別して設定を選びます。

ローカルAI速度レポート：2026年9月

2026年9月現在まで、主要なMacおよびNVIDIA GPU、DGX Spark、AMD ユニファイドメモリデバイスのプリフィルおよびトークン生成速度を同等の条件で比較します。

長い入力ではローカルLLMの速度順位が逆転する

短いチャットのデコード順位と、長文書のプリフィル・全体完了時間の順位が異なる理由を、実際の機材選びの観点から説明します。

MTPとは：複数トークン予測の仕組みと適用条件

MTP（Multi-Token Prediction）が複数の未来トークンをどのように提案・検証するか、サポートされるモデルとランタイムがなぜ必要なのか、そしてどのような場合に高速化されるかを説明します。

Lightning MTPとは？oMLX 0.7.1rc1で回答生成を速くする

Lightning MTPの候補生成と本モデルによる検証、設定方法を説明します。oMLX 0.7.1rc1のQwen3.8・TurboQuant測定と先行開発版の結果を条件別に整理します。

llama.cppでDFlashとDSparkを実行する：Qwen3-4Bで確認

llama.cppでQwen3-4B targetに対応するDFlash・DSpark draftを変換して実行し、基本サーバーと応答を確認して性能を比較する手順を説明します。

Prompt Lookupとn-gram投機的デコーディング

Prompt Lookupは、追加の仮想モデルなしで、プロンプトおよび生成履歴の繰り返し構文（n-gram）から次のトークンを検出・検証する方法と、モデルの重みオフロードとの違いを説明します。

Qwen3.8-Flash-NextのPLEオフロード：RAM・SSDの条件と実行手順

Qwen3.8-Flash-NextのPLEデータをRAMまたはSSDに置く方法と、ストレージ・メモリの条件を説明します。oMLXとDGX Sparkの測定値も、条件に沿って読み解きます。

SpecPrefillで最初のトークンまでの待ち時間を短くする

SpecPrefill の入力選別の仕組み、oMLX のモデル別適用条件、MTP との併用経路、回答品質の確認方法を説明します。

LLMのメモリ帯域幅 vs 演算性能：速度のボトルネックを見つける方法

ローカルLLMにおいて、メモリ帯域幅とGPU演算パフォーマンスがプリフィル、単一ユーザーデコード、およびバッチ処理それぞれに与える影響について説明します。

メモリとモデル

14

TensorFold 1.0.8でQwen3.8-27BのMacメモリが17.6GiB減少

TensorFold 1.0.8はMacでQwen3.8-27Bの重みの重複読み込みをなくし、DFlash2との準備メモリを17.6GiB削減しました。70Kコンテキストの確認では、M5 Maxが47.2から29.6GiB、M3 Ultraが42.2から24.6GiBになりました。

CMP 170HXを買う前に何を確認すればいい？

CMP 170HXの購入前に、カードのランクと32・40・64GBプロファイル、LinuxドライバーとSecure Boot、PCIeリンク、冷却・電源構成を確認するチェックリストです。

CMP 170HXのECCも解除されたそうですが、何が変わるのでしょうか？

cmpunlocker v0.5のECCパッチが実際に変える機能と報告用カウンターを区別し、導入条件とメモリ安定性の確認手順を説明します。

64GBのCMP 170HXには長文をどれくらい入力できる？

64GBのメモリー容量と実際に使える文脈長を区別し、2026年10月の測定でopen-jetが処理した18,976トークンとvLLMの9,472トークンでのエラーを条件と併せて説明します。

StrataのPCメモリガイド：RAM 32・48・64・96GBでモデルを選ぶ

StrataでVRAMとRAMがエキスパートをどう配置するか、resident・mmap低RAMモードの違い、RAM 32～96GBに合うモデルサイズを解説します。CPUとNVMe SSD、文脈キャッシュも考慮し、メモリ不足を避ける目安をまとめます。

Mac Studio M5 Ultra、SSDが速くなるとローカルAIも速くなる？

M5 UltraのSSD性能がモデル読み込み・プリフィル・トークン生成に与える影響を整理。SSDオフロードの実例から、256GB・512GBメモリとストレージへの予算配分を考えます。

35BのMoEが、小さな密モデルより速いことがある理由

活性パラメータと総パラメータを区別し、大きなMoEモデルが小さなDenseモデルよりも速く生成される組み合わせとメモリ条件を説明します。

ローカルLLMに必要なVRAM・ユニファイドメモリ容量

12B·27B·35B·70BクラスのローカルLLMが必要なVRAMおよびユニファイドメモリを、量子化、ランタイムの余裕、KVキャッシュおよび文脈長まで含めて評価する方法です。

KVキャッシュのメモリを削減：vLLM FP8設定と回答確認

vLLMのFP8 KV cacheを重み量子化と区別し、対応backendで基準回答・cache設定・精度を一条件ずつ確認する方法を説明します。

MLX-LMサーバーキャッシュ：共通プロンプトの再利用と同時リクエストの確認

MLX-LMサーバーで共通system promptを再利用する条件と、同時リクエスト時のキャッシュ・遅延・メモリへの影響を確認します。

LLMの量子化：Q4・Q8・FP16をどう選ぶか

ローカルLLMの重みをQ4・Q8などの低いビットで圧縮する際、メモリ、速度、品質がどのように変化するか、および量子化形式の選定基準を説明します。

MoEとDenseの違い：活性パラメータが小さくてもメモリが必要な理由

MoEは一部のエキスパートだけを計算しても全重みを保持する必要があります。総パラメータ、活性パラメータ、実際の必要メモリをDenseモデルと比較します。

コンテキスト長・RoPE・スライディングウィンドウ

モデルの最大コンテキスト長とは何かを意味し、長い文脈がプリフィル時間やKVキャッシュ、RoPE拡張、スライディングウィンドウに与える影響について説明します。

turbovec：RAGインデックスのメモリを8分の1に

turbovecは埋め込みを次元あたり2ビットか4ビットで圧縮して保持し、圧縮したまま検索するベクトルインデックスです。768次元1000万件がfloat32で31GBのところ4GBになり、4ビットではFAISSより3.8〜5.1倍速いです。

実行プログラムと拡張機能

92

使い慣れたローカルLLMのモデルファイルをバックアップ・復元する方法

使い慣れたローカルLLMのモデルフォルダーと版・実行設定を保管し、元を残したままコピーで同じ作業を試します。

LiLiCorrとは？BoltとSuper VLのspeculative decoding

LiLiCorrが次のトークン候補を選び、生成を速くする仕組みを解説します。Nemotron Boltのllama.cpp構成とSuper VLのDGX Spark構成、必要なファイルと公開測定を分けて説明します。

Nemotron 3.5 Super VLをDGX Spark・RTX PRO 6000で使うには？

画像・動画入力に対応するSuper VLの特徴と、DGX Spark・RTX PRO 6000向けvLLMレシピを分けて紹介します。

Ling 3.1 Flashの実行にはどんなサーバーが必要ですか？

Ling 3.1 Flashの560B・25B active構成、1M文脈、574GB FP8チェックポイントを解説します。SGLangのマルチGPU構成、ローカル接続の起動例と最初の要求までを案内します。

Muse Spark OpenはMac 1台で実行できますか？

Muse Spark Openに必要なメモリ規模、Apple MLXの分散構成、公開されたM5 Ultra測定値を分けて説明します。

EmbeddingGemma 2で写真や録音を手元で検索するには？

EmbeddingGemma 2で文書・写真・録音を検索する手順を紹介します。Pythonのテキスト・画像・音声サンプル、768次元のベクトル、検索結果の評価とファイル読み込み時の確認点を解説します。

DeepSeek Search・Fetch API：ローカルLLMにウェブ検索を付ける

SearchとFetch APIのリクエスト・レスポンス構造、成功リクエストあたり$0.75の料金と11月1日までの無料期間、ローカルモデルに検索結果を渡す二段階の構成を整理します。

RTX 3090 BF16アンロック：変わるものと変わらないもの

RTX 3090のBF16・FP16行列演算を開くgpu-unlockカーネルモジュールについて、公開範囲、3090 Tiの実測値、検証された1台、コールドブートと元に戻す条件を整理します。

3090アンロックでローカルLLMは速くなる？プリフィル・バッチ・デコード

デコードはメモリ帯域、プリフィルとバッチは演算がボトルネックです。3090 BF16アンロックが変える区間と、そのままの区間を分けて整理します。

3090アンロックの検証：起動・GEMM・llama-benchの記録

アンロックの前後を比べるには、カーネル・ドライバー・電力条件を固定し、GEMMとllama-benchを同じ方法で測る必要があります。記録様式と復旧手順を整理します。

RTX 3090 48GB改造：受け取る前に確認すること

48GB改造カードは起動と画面出力だけでは合格ではありません。49152MiBの報告、演算能力8.6、92〜95%のメモリ割り当て、ドライバー・PCIe・Xidログの確認とACCEPT/REVIEW/REJECT判定の手順を整理します。

2×3090のNVLink：推論で実際にどれだけ変わるか

2×3090のvLLMテンソル並列でNVLinkの有無を比べたコミュニティ測定は85.0対81.1 tok/s、p95は239.1対277.6秒でした。既定の経路がPCIeでP2Pが無効な理由と、3層の確認方法を整理します。

JEV-35B NVFP4推論をB200で検証する方法

JEV-35Bの統合済みBF16版とNVFP4 LoRA版を区別し、vLLMサーバーと判定リクエストを準備します。B200の公開遅延と配布ファイルの容量も整理します。

Apple Minionsとは？空いているMacでAI処理を分担する仕組み

Apple Minionsによる埋め込み・LLM処理の分散、モデル分割との違い、文書検索で役立つ条件を説明します。

DiffusionGemmaでMacに何ができる？文書・画像・音声との連携

DiffusionGemmaの文字・画像・動画入力、ブロック生成、MacのFast-dLLM-mlx実行と音声認識ツールとの連携を説明します。

XeStrataとは？Intel・AMD・NVIDIAでQwen3.8を実行する方法

XeStrataはLinux PCでIntel Arc、AMD Radeon、NVIDIA GPUを使ってQwen3.8-Flash-Nextを実行するツールです。対応ディストリビューションとメモリを確認し、モデルをダウンロードして最初のローカル応答を得るまでを説明します。

RadeonでXeStrataを使うには？RX 7000・9000とディストリビューション選び

Radeonのモデル名だけではXeStrataが動くか判断できません。RX 7000・9000のgfxコードとUbuntu 26.04・Fedora 44のrocBLAS対応を照合し、初回起動を確認する方法を説明します。

VRAM 4GBで35Bモデルを使える？XeStrataのOrnith・llm-jp実行条件

XeStrataのベータ小型MoE経路でVRAM 4GBが意味する条件と、システムRAM・ファイル容量を確認します。Ornith-1.5とllm-jp-4.1から用途に合うモデルを選び、初回実行を確認する手順です。

Intel ArcとRTXを一緒に使うには？XeStrata混合GPU設定

XeStrataのマルチGPUモードで異なるGPUにモデルレイヤーとエキスパートキャッシュを配置する方法を説明します。設定コマンド、分割位置の選び方、実行時の確認点をまとめます。

TensorFoldとは？Mac・RTX・DGX Spark向けローカルモデル実行エンジン

TensorFold 1.0.8は対応モデルをMacとNVIDIA GPUで実行し、OpenAI互換APIとして提供します。MacでQwen3.8-27Bをダウンロードし、DFlash2とともにサーバーを起動する手順と、対応モデル・機器の組み合わせを説明します。

M5 Ultra 2台でGLM-5.3 744Bを動かす：メモリと接続条件

TensorFold 1.0.8のGLM-5.3 EXLR8 home profileは、2台のM5 Ultraにモデルを分けて実行します。各256GBが必要な理由、チェックポイントの分割取得、8Kコンテキスト時のメモリ、MTP速度の条件を説明します。

DGX Spark 1台と2台でQwen3.8 Flash Nextはどう変わる？

1台構成はTensorFold Zigエンジンの同時処理量、2台構成は1Mコンテキストと単一リクエストのdecode速度を重視します。単一decode、同時リクエスト、prefillを混同せず条件を比べます。

GLM-5.3 Flashの2・3・4台Spark実行と速度比較

GLM-5.3-FlashのTensorFoldレシピで2・3・4台の単一リクエスト速度と同時処理量を比較します。3台構成はパッチ適用、4台構成は別のtp4 branchによる実験値として扱います。

RTX PRO 6000 2枚でGLM-5.3 Flash：速度と電力制限

2枚と4枚のRTX PRO 6000 Blackwell構成でGLM-5.3-Flash TensorFoldの結果を比べます。300Wと250Wの設定、単一decodeと同時合計を分け、2枚レシピの実行条件を説明します。

16GB GPUでQwen3.8-27Bを使う：ExLlamaV3とEXL3の選び方

Windows・Linux用serving kitは、利用可能なVRAMに合わせてEXL3 bpw、コンテキスト長、画像入力を組み合わせます。12・16・24・32GBのプロファイルを比べ、選んだファイルをAPIで提供する手順を説明します。

ローカルLLMの速度を測る：sparkDashの使い方

sparkDashのdecode・prefill benchmarkを準備し、リクエスト数、prompt長、TTFTを読む方法を説明します。sparkDash 2.40.0の公開セットアップとremote API設定を含みます。

TensorFold Living WeightsとRAGは知識の残し方が異なります

Living Weightsは対応モデルのフォルダー内の重みを更新し、RAGは原文を別に保存して検索します。TensorFold 1.0.8で確認できるNemotronの対象範囲、コピーの準備、復元手順を説明します。

Open WebUIで自分のPCにAIチャット画面を作る

Open WebUIはローカルモデルサーバーに接続し、ブラウザーで会話や文書への質問を管理するツールです。Dockerで導入し、最初の管理者アカウントを作成してOllamaに接続し、会話の保存とPDFへの質問を試します。

Langfuseでローカルエージェントの遅い処理を見つける

Langfuseをローカルで起動し、Python SDK v4のobservationでエージェントの各段階を記録します。モデル呼び出し、ツール待機、再試行を分けると、GPUのトークン生成時間とリクエスト全体の遅延を区別できます。

Darwin-27B-ZTCとは？54GBのBF16で確率による判断

Darwin-27B-ZTCは回答文を生成するのではなく、yes/no・選択肢・評価基準に対する確率を返す判断モデルです。入力構造、ローカルPython呼び出し例、BF16のメモリ要件を確認します。

Youtu-Parsing-Omniで文書・音声・動画をJSONに整理する

文書画像・チャート・音声・動画に合わせたtaskを選び、構造化JSONを受け取ります。vLLMプラグインの固定版、ローカルファイルのパス制限、出力確認までの実用フローを説明します。

LightOnOCR-3でスキャンPDFと表をローカル抽出

PDFをページ別Markdownと座標付きblockに保存し、表の抽出結果を原本と比較する実用手順です。vLLMサーバーとLightOnOCR CLIを接続し、grounding modeの出力を確認します。

8GB GPUでQwenやGemmaを高速化できる？PolyStrataの導入と2枚GPUの使い方

PolyStrataで8GB GPUからQwen3.6・Gemma 4を実行する方法を紹介します。必要なRAMと生成速度、LinuxのAMDベータ対応、NVIDIA GPU 2枚の設定、開発者のバックアップ配布先をまとめました。

BasaltでQwen3.8 Flash-Nextが665 tok/s？導入とGPU要件

Basaltの入出力、対応ハードウェア、.basaltモデルとメモリー設定を説明し、ローカルAPIを起動する手順を案内します。

CMP 170HXで64GBのローカルLLMを動かせる？

CMP 170HXをローカルLLMに使う際の32GB・40GB・64GBモデル、Linuxでのアンロック条件、実行方法、冷却とPCIeの制約を確認します。

Transformers.jsでブラウザー内のローカルLLMを実行する

Transformers.js 4.3.0とWebGPUを使ってONNXモデルをブラウザーで実行する方法を紹介します。動作する例とともに、初回のモデルダウンロード、CPUとGPUの選択、ブラウザー対応の条件を確認します。

Backburner：iPhoneでMacのローカルLLMのprefillを高速化

Backburnerは、USB-Cで接続したiPhoneを使い、Mac上のQwen3.8-27Bのprefillと長文脈を拡張するプレリリースプロジェクトです。対応機器、公開ベンチマーク、セットアップ手順とセキュリティ条件を確認します。

Superfluidとは？1つのローカルLLMで複数エージェントを動かす方法

SuperfluidでGGUF・MLXモデルをローカルAPIとして動かし、複数エージェントのリクエストを処理する方法を紹介します。Qwen3.8-27Bの実行例、チャット優先度、メモリ設定、公開ベンチマークをまとめました。

Splash 1.3.0でQwen3.8-27Bのプリフィルとキャッシュを設定する

Apple Silicon搭載MacでSplash 1.3.0とQwen3.8-27Bを動かし、Neural Engineによるプリフィルと繰り返し使う文脈のキャッシュを確認します。

NInferでQwen3.8をローカル実行：RTX 5090とMTP・DFlash2

NInfer-allで低ビットQwen3.8とUnderdog SalukiをNVIDIA GPU上で実行します。モデルのダウンロード、Dockerサーバー、最初のAPIリクエスト、MTP・DFlash2の設定を進め、RTX 5090のコミュニティ測定条件も確認します。

12GB GPUで125Bモデルを実行？Strataの仕組み

StrataでQwen3.8-Flash-Next 125B MoEをWindows・Linux PC上で動かす方法を紹介します。GPU・RAM・CPU・SSDの役割、メモリに合わせたモデル選び、初回起動の流れを説明します。

Strataの量子化選び：Q2_0・IQ2_XS・IQ3_SとCoderを比較

Q2_0・IQ2_XS・IQ3_Sのメモリと速度、エキスパートを半分にしたCoder、思考時間を短く調整したSwift 1.5を比較します。RAM、韓国語・日本語の作業、モデルのライセンスに合わせた選び方を整理します。

Strata速度ベンチマークの読み方：短い会話と長い入力

Strata速度表の入力処理量と回答生成速度を分け、RTX 5070・Radeonの測定条件、TTFT、出力長、キャッシュの影響を確認します。

Strata AMD HIPガイド：Windows・LinuxでRadeonを使う

AMD RadeonでStrataのHIPバックエンドを動かすためのOS別の準備・導入手順、初回応答の確認、0.1.43の測定範囲を説明します。

Strataの複数GPUレイヤー分割：設定と実測

Strataが複数GPUにモデルのレイヤーを分割する仕組み、設定方法、追加カードの判断、RTX 5080・3090の入力処理とデコード結果を解説します。

Strataのトラブル対応：ダウンロード・初回起動・応答遅延

Strata 0.1.43の導入が止まる、初回応答が遅い場合に、ダウンロード再開、モデル読み込み、RAM・SSDアクセス、GPU検出、ポート競合を段階ごとに確認します。

RTX 5070 12GBでStrataを実行する：125BモデルとRAMの選び方

12GB VRAMのRTX 5070でStrataのQwen3.8-Flash-Nextを動かすためのRAMとモデル選択、短い会話と長文脈の速度を解説します。

RTX 3090 24GBでStrataを実行する：VRAM・RAM・長文脈

VRAM 24GBのRTX 3090向けStrataモデル選び、RAM 32・64・96GBの構成、CPU・PCIeの影響、長文脈のKVキャッシュを解説します。

RTX 5090 32GBでStrataを実行する：RAM選びと公開測定

VRAM 32GBのRTX 5090でIQ2_XS・IQ3_SとRAM 64・96GBを選び、長文入力とコミュニティ測定の条件を読み解きます。

Strataをコーディングエージェントにつなぐ：OpenAI・Anthropic・Codex API

Strataをlocalhostで起動し、OpenAI Chat Completions・Anthropic Messages・Codexが使うResponses APIで実際のリクエストを送る方法を説明します。

Strataとllama.cpp、手元のPCではどちらを使う？

Qwen3.8-Flash-Next向けのStrataと、各種GGUFモデルを動かすllama.cppを比較。GPU・RAMの使い方、Mac対応、導入方法、最初の回答までの待ち時間から選びます。

ローカルRAG回答が間違っている場合：検索・チャンク・モデル診断手順

休暇規程PDFの検索を例に、原文抽出、検索根拠、回答生成、インデックス更新のどこで問題が起きたかを確認する手順を案内します。

ローカルLLM・RAG品質評価：DeepEvalに変更された設定を確認する

同じ休暇規程の質問と検索根拠を使って、設定変更の前後を比較します。DeepEvalをローカルのOllama評価モデルに接続し、検索漏れ、根拠のない回答、速度の変化を確認する手順を案内します。

完全オフラインローカルAIの構築：エアギャップのインストールとアップデート手順

インターネットのない環境にモデル・ランタイム・パッケージを移して検証、アップデート、ロールバックまで運営するエアギャップローカルAI手順を説明します。

TransformersでGGUFを直接実行：llama.cpp・MLXとの違い

Apple SiliconでTransformersがGGUFを圧縮状態で実行する方法、メモリ条件、flama.cpp・MLXとの選択基準を実践例で説明します。

vLLM Metal 0.30：1台のMacを複数人向けローカルAIサーバーにする

vLLM Metal 0.30のApple Siliconのインストール条件、PagedAttention・統合KVリポジトリ・同時リクエスト設定と複数のMac分散時の注意点について説明します。

OpenClawをOllamaまたは管理型llama.cppのローカルモデルにつなぐ

OpenClaw Gatewayとローカル推論サーバーを分け、OllamaまたはOpenClaw管理型llama.cppを選び、チャットと実際のツール呼び出しを段階的に確認します。

Hermes Agentの導入とローカルモデル接続：最初の作業から権限確認まで

Hermes AgentとHermesモデルを分け、ローカルまたはOpenAI互換エンドポイント、ツール呼び出し、メモリー、MCP、権限を最初の作業で確認します。

OpenClaw・Hermes Agent・NemoClawを比較：どの作業と運用方法に合うか

OpenClaw、Hermes Agent、NemoClawを役割と運用方式で比較し、チャネル、ローカルモデル、メモリー、ツール検証、隔離、ネットワーク境界から選びます。

ローカルAIエージェントのセキュリティ：権限・ネットワーク・シークレットの確認

ローカルモデルでも、ツール実行や外部接続まで自動的に安全になるわけではありません。ツールの許可リスト、サンドボックスの限界、APIのバインド、メッセージ・検索のデータ経路、キー管理、事故対応を順に確認します。

ローカルAIにNVIDIA GPUとCUDAは必須？

ローカルAIアプリ、フレームワーク、CUDA Toolkit、NVIDIAドライバーの役割を整理し、NVIDIA GPUが必要な場合と別の実行経路を確認します。

NVIDIA GPUがあるのにPyTorchがCPUで動くように見えるとき

nvidia-smi、PyTorchのCUDAビルド、torch.version.cuda、nvccを区別し、GPUが見えない・モデルがCPUで動く原因を確認します。

GPUを2枚使えばローカルLLMも2倍速くなる？

マルチGPUでのVRAM配置、モデル並列化、レプリカの処理量の違いを整理し、2枚目のGPUが必要な場面を判断します。

Apple SiliconでMLXを使ってローカルAIを実行：Mac用フレームワークとモデルツールの違い

MLX、MLX-LM、Metal、PyTorch MPS、GUIアプリはそれぞれ役割が異なります。Apple SiliconとIntel Macの違い、統合メモリの制約、モデルごとの対応状況を確認して実行経路を選びましょう。

ROCmとRadeonでローカルAI：対応構成と実行経路の読み方

ROCm/HIPとCUDAの違い、AMDの対応表でGPU・OS・ドライバー・フレームワークの組み合わせを確認する方法、Windows・WSL・Linuxの経路を見分ける基準を解説します。

CUDAコードをAMDへ移植したら、速度も同じになるのでしょうか？

CUDAソースの変換、正確さ、長時間の安定性はそれぞれ別々に検証する必要があります。HIP/HIPIFYとAMD公式の実行経路を確認し、同じ画像処理でRadeonの購入を判断する方法を説明します。

Jev-Omniとは？画像・音声・動画から答えを選ぶローカルAI

Gemma 4 12BベースのJev-Omniについて、選択肢分類の仕組み、CUDA・メモリ条件、Python実行例、H200の公開性能、ほかのJEV型実装との違いを解説します。

Craneとは？LLM・OCR・音声モデルをRust製ローカルAPIで動かす

チャット・OCR・音声ごとにPython環境を管理する手間から出発し、CandleベースのRustプロジェクトCraneの導入、Qwen3.5の試行、localhost API接続、Bonsai 2の実行条件を解説します。

Huskyとは？MacでWoofを高速化する仕組みと730 tok/sの条件

Underdog HuskyのWoof専用推論、Flash、MLX比較の条件を解説。Macでの利用方法とQwen・oMLXにそのまま置き換えられない理由も整理します。

Jevとは何か：文章を書かずに判断するSystem Oneモデル

Jevと一般的なLLMの違い、選択肢と確率を返す仕組み、向いている自動化、ローカル実装との境界を説明します。

QwenでJev型のローカル判断：SemIf・Simple Jev・openjev-sglang

Qwenのロジットを読むSemIf、小型CPU向けSimple Jev、SGLangサーバー、学習型実装の違いを整理します。

Mac・RTX 3090・サーバーでJev型ローカル判断モデルを実行する

Jev型モデルが状態を読み、選択肢の確率を返す仕組みを説明します。用途に合わせてCPU、Apple silicon、RTX 3090、B200サーバーを選ぶ方法も紹介します。

ローカルLLMの初回実行が遅いときに確認する五つのこと

ローカルLLMの初回実行が遅いとき、画面の状態表示と短い質問で、ダウンロード中なのか、モデル読み込み中なのか、回答生成が遅いのかを切り分けます。

DGX Sparkを2台つなぐと、実際に何が変わるのか

DGX Spark 1台および2台の構成において、モデルのロード量、単一リクエスト生成速度、複数リクエスト処理量がそれぞれどのように異なるかを区別します。

GGUFとMLX、ダウンロードするモデル形式の選び方

ローカルLLMにおけるGGUFおよびMLX用モデルファイルが、どのようなランタイムエコシステムに適しているか、また量子化表記と変換の互換性をどのように確認すべきかを説明します。

複数のGPUでローカルLLMを動かすには

2つのGPUのVRAMをローカルLLMに活用するレイヤー分割、テンソル並列とパイプライン並列の違い、PCIe・NVLink通信のボトルネックを説明します。

FlashAttentionとPagedAttentionの違い

名前は似ているものの、異なる問題を解決するFlashAttentionとPagedAttentionが、注意計算、KVキャッシュメモリ管理およびサーバー処理量に与える影響を説明します。

Continuous Batchingと一人で使うときの速度

連続バッチにおいて、長さが異なるLLMリクエストをバッチに加えたり削除したりすることでサーバー処理量を高め、そのことと単一ユーザーの遅延との違いを説明します。

ローカルLLMの実行ソフト、何から使えばいい？

Ollama、LM Studio、llama.cpp、oMLX、MTPLX、vLLM、SGLangを機材と用途に合わせて選ぶためのガイドです。モデルファイル、1件の応答速度、同時リクエストを分けて考えます。

MTPLX：MacでMTPを使うと回答は速くなる？

Apple Silicon向けMTPLXのインストール、対応MLXモデル、MTPの自動調整とローカルAPI接続を解説します。GGUFとの違い、メモリ不足、キャッシュの確認手順も扱います。

Ollama：自分のパソコンのモデルを別のアプリにつなぐには

Ollamaのローカルモデルとアプリ接続を確認し、Apple Silicon向け試験版のMLX自動選択を検証します。接続の問題と、実行経路・速度の問題を分けて調べます。

LM Studioの使い方：モデル導入から会話まで

LM Studioの検索・取得・読み込み・会話を順に解説。GGUFとMLX、文脈とメモリ、エラー確認からAPI連携まで整理します。

llama.cpp：どの設定が遅さの原因かを自分で確かめるには

llama.cppのGGUFファイルとGPUバックエンドの選択、ローカルllama-serverの起動、メモリとプリフィル・デコードの確認手順を説明します。

oMLXでMacのローカルAIを動かす：0.7.1rc1の新設定は？

oMLXでMac上のモデルを実行し、API対応アプリへ接続する方法を説明します。0.7.1rc1のSplash連携、モデル設定、Muse Spark Open対応とバージョンの選び方も扱います。

vLLMローカルサーバーの設定：小さなモデルから0.30の適応型検証まで

このガイドでは、DSparkの例を使ってvLLM 0.30.0のDFlash・DSpark draftと適応型検証を確認し、CUDA graph・モデルの対応状況・リクエスト負荷ごとの比較方法を説明します。

SGLang HiCache：GPU・CPU・ストレージにKVを分散して再利用する

コードに関する質問を使い、SGLang HiCacheのGPU・ホストメモリ・ストレージ階層とhybrid attentionモデルのprefix再利用を確認します。cache hit、eviction、初回と反復リクエストを分けて設定します。

LocalsでMacのコーディングエージェントを同時に複数動かす

LocalsはMac上で複数のAIエージェントのリクエストをまとめて計算するローカルサーバーです。インストールとOpenCodeへの接続、同時リクエストで増える処理量、3倍にならない条件まで測定値で確認します。

Slotstream：125Bモデルを16GBのMacで動かす方法

Slotstreamはモデル全体をメモリに載せず、必要なエキスパートだけをSSDから読んで125Bモデルを16GBのMacで実行します。48GBのM5 Proで毎秒20.91〜23.69トークン、16GBでは毎秒1〜6トークンまで落ちる条件も整理しました。

agent-memory：コーディングエージェントにセッションを越えた記憶を持たせる

agent-memoryはエージェントがセッションで学んだことをMarkdownファイルに残し、次のセッションがそのファイルを見つけて読めるようにします。制限付きのLongMemEval-S実験では52.9%で記憶なしの5.8%を上回り、3つのホストが同じ保存先を共有することも確認しました。

Laya-MLX：Macで13msで選択を終える決定モデル

Laya-MLXは選択肢・スコア・真偽の質問に確率で答える決定モデルをApple Siliconで実行します。M3 Maxで短い質問1件が13.42ms、多言語チェックポイントは7.39msで、出力トークンは0個です。

Unsloth Browser Useでローカルモデルにブラウザーを任せる

Unsloth DesktopのBrowser Useは、ローカルモデルがチャット横の画面でページを開き、ボタンを押し、フォームを埋める機能です。ログイン・決済・ダウンロードは承認を経て、サイトごとに権限を決めます。

Wyomingで音声サーバーを分ける：文字起こしを別の機器へ移す

Home Assistantが動く機器からWhisperを切り離す構成です。Wyomingが認証を持たない理由、アドレスとポートでの接続、何を移すかをまとめました。

エージェントと自動化

8

Jevのように判断するAIをPCで使える？d1-3Bとd1-omniの実行ガイド

d1-3Bと実験モデルd1-omni-600Mは、長い回答の代わりに定義済みの質問への選択肢と確率を返します。llama.cppサーバーの起動、ローカルリクエスト、テキスト・画像・音声入力、レイテンシ測定値を説明します。

Cloudflare Clefをローカルで実行できる？27B・9Bの選び方とSystemOneの使い方

ClefとClef-Flashはstateと質問スキーマを受け取り、各選択肢の確率を返す判断モデルです。Apple SiliconのoMLXでモデルをダウンロードし、APIキーを付けて最初のリクエストを送る手順を説明し、H200サーバーの方法も補足します。

MacでAIに電話を取らせる：ai-phoneの導入と4B・9Bモデルの選択

SIP電話を受け、ローカルモデルで会話するMac専用エージェントです。8・16・32GBごとのモデル選択と導入手順、通話遅延の測定条件をまとめました。

スマートホームにローカルAIを載せる：音声・会話・映像を家の中で分担する構成

Home AssistantにOllamaの会話エージェントを載せ、音声はWyoming、カメラはFrigateに分けます。どの機器に何を置くか、遅延と消費電力の条件をまとめました。

Home AssistantにOllamaの会話エージェントを載せる：公開エンティティと指示の設計

Assistがローカルモデルに質問を渡す仕組みと、機器操作を許すときに守る範囲をまとめました。モデル・指示・別名の設定順を扱います。

Home Assistantの朝のまとめ：センサー記録をローカルLLMの文で受け取る

モデルは家の今の状態を知らないため、値を文に入れて尋ねる必要があります。conversation.processにセンサーや予定の値を渡し、答えを通知で受け取る構成をまとめました。

ローカルLLMに家を任せられるか：公開範囲と安全の境界

会話モデルが操作できるのは公開リスト内の機器だけです。危険な機器を外す基準、戻せる動作から始める順序、失敗時の既定値をまとめました。

ローカルLLMの音声コマンド精度を上げる：別名・公開・指示の点検

同じ言葉を20回試して失敗を3つに分け、別名と公開リスト、指示で直す順序をまとめました。モデルを替える前に確認する項目です。

購入とコスト

8

GPUの電力制限でローカルAIはどれくらい遅くなる？RTX 3090・4090・5090・DGX Spark

RTX 3090・4090・5090の公開電力別測定、Windows・Linuxの設定、RTX PRO 6000・DGX Spark・Macの調整方法、複数GPUと冷房費を説明します。

RTX 5090が生産終了に？ローカルAI用に今買うべきか

2026年10月のRTX 5090生産終了説の出所と公式発表の状況を整理。所有者の使い方と新規購入を分け、32GB VRAMの代替案やStrataを考えます。

Mac miniは24GBと32GBのどちら？ローカルAIのために増やすべきか

モデルの大きさだけでなく、文書の長さ、同時に使うアプリ、買い替え費用からMac miniのメモリを選ぶためのガイドです。

RTX 3090を持っているのに、ローカルAIのためにグラフィックカードを買い替えるべき？

RTX 3090でQwen3.8-27Bを実行するときのメモリ不足と待ち時間を減らし、GPUの維持・追加・交換にかかる費用と回答速度を比べます。

Mac mini M6とM4、ローカルAI用の24GB・32GBはどちらを買う？

販売中のMac mini M6とM4の24GB・32GBを、ローカルAI作業、メモリ帯域幅、実際の追加費用で比較します。実行設定を確認し、同じ構成で購入候補を絞ります。

RTX 5060 Ti 16GB新品とRTX 3090 24GB中古、ローカルAIにはどちら？

VRAMの16GBと24GB、電源やケースを含むPC全体の費用、中古GPUの確認項目から二つを比べます。

ローカルLLMのTCO：1年・2年の総保有コスト

ローカルAIハードウェアの購入価格に減価償却、予想売却額、電気料金、保守費用、クラウドサブスクリプションの節約額を加味して、総所有コストを見積もる方法を解説します。

Orca Connectで自分のGPUをClaude Codeにつなぐ

Orca Connectは自分のマシンのモデルを外向き接続だけでカタログに載せ、コーディングエージェントが普段のキーで呼べるようにします。スピルオーバーは既定でオフで、プロンプトはルーターを通ります。