エージェントと自動化

ローカルLLMに家を任せられるか:公開範囲と安全の境界

安全性を決めるのはモデルの賢さより、どの機器を見せたかです。

ローカルLLM1は文を解釈して機器操作を試みますが、実際の実行はHome AssistantのAssist API2が担います。安全性はモデルの性能ではなく、公開リストと自動化の条件で決まります。危険な機器を外し、戻せる動作から入れる順序を扱います。

実行条件と要点
  • 実行権限は公開リストが決め、モデルはその中からしか選べません。
  • 錠・ガレージドア・暖房など、誤動作が危険な機器は外します。
  • 戻せる照明・スイッチから入れ、センサーは読み取り専用にします。

モデルは提案し、実行はHome Assistantが行う

会話モデルは文を読み、どの機器をどうするかを決めます。しかしその判断がそのままスイッチを押すわけではありません。Home AssistantがAssist APIを通じて公開エンティティだけを実行します。

モデルを替えても危険の範囲は変わりません。逆に公開リストを広げると、弱いモデルでも危険が増えます。安全の調整つまみはモデルではなくリストです。

モニターの波形と文書が鍵のかかった本体に入り、クラウドへ向かう点線にはX印がついた図
モデルが選べる機器は公開リストの中に限られます。

外す機器と残せる機器

錠、ガレージドア、暖房、換気扇のように、誤動作で人がけがをしたり物損が出る機器は公開リストから外します。センサーは値を読むだけなので、先に公開しても危険は小さいです。

照明とスイッチは、誤って点いても消せば済みます。最初は1部屋の照明だけを入れ、言葉が通じるようになったら部屋を増やします。

戻せる動作から

ドアを施錠することと照明を点けることは、失敗したときの結果が違います。前者は戻すのに鍵や暗証番号が要りますが、後者はもう一度言えば済みます。

自動化で一段包む方法もあります。モデルが「夜に全部消して」を実行しても、自動化が決められた機器だけを消し、他は触らないようにすれば範囲を狭められます。

透明な箱の中のロボットの横にルーター、収納箱、書類が置かれている
錠とガレージドアはリストから外し、照明から始めます。

家の外へ出る経路を塞ぐ

ローカルモデルなら質問は外に出ません。外部APIモデルを選ぶと、文と機器の状態がそのサーバーへ送られます。どちらを使っているか設定で確認します。

Wyoming3でつないだ音声サービスには認証がありません。信頼できる家の中のネットワークにだけ置き、ルーターで外へポートを開けないでください。

失敗したときの既定値を決める

モデルが変な答えをしたり応答しないときに備え、重要な動作は文トリガーで別に用意します。モデルが止まっても照明を消すことは動きます。

実行の記録を残すと原因を後から探しやすくなります。どの文がどの機器を動かしたかをログで確認し、変な動作が繰り返されるならその機器をリストから外します。

ノートPCの前の人物の周りに、文書・表計算・フォルダー・画像・設定画面と小さなロボットがつながっている
重要な動作はモデルなしでも動くよう別に用意します。

用語の注釈

  1. 大規模言語モデル — 大量のテキストデータから言語パターンを学び、文脈に沿ったテキストを処理・生成するモデルです。

    本文に戻る
  2. API — 別のコードからプログラムの機能を呼び出すための決められたインターフェースです。

    本文に戻る
  3. Wyoming — Home Assistantと音声サービスが音声とテキストをやり取りするプロトコルです。認証も暗号化もないため、信頼できるネットワークでだけ使います。

    本文に戻る

よくある質問

この記事で最初に確認すべきことは何ですか?
ローカルLLMは文を解釈して機器操作を試みますが、実際の実行はHome AssistantのAssist APIが担います。安全性はモデルの性能ではなく、公開リストと自動化の条件で決まります。危険な機器を外し、戻せる動作から入れる順序を扱います。