ローカルAIとクラウドAIの使い分け:作業別の振り分け判断表

4軸で何を比べるか

データの置き場所

ローカル実行では、入力した文章は基本的に自分のPCの中で処理されます。OllamaのFAQには、ローカルで動かしている間はプロンプトやデータを運営側は見ない、という趣旨の説明があります。また標準ではサーバーが 127.0.0.1 で待ち受け、同じPC内からのみ使えます。OLLAMA_HOST で待ち受けアドレスを変えるとネットワーク経由で接続できる設定にできるため、変更した場合は、他の端末からも届く状態になっていないか確認が必要です。

LM Studioも、ダウンロード済みのモデルをMac・Windows・Linux上で動かせ、文書とのチャット機能もオフラインで使えると説明しています。モデル検索・ダウンロードにはネット接続が必要です。

注意点が二つあります。

• Ollamaには、クラウド上で動くモデルを使う機能もあります。FAQでは OLLAMA_NO_CLOUD=1 などでクラウドモデルとWeb検索を無効にでき、変更後は再起動が必要とされています。「Ollamaを使っている=ローカル」とは限らないので、使うモデルの実行先と、連携する検索・外部ツールへの送信先を確認してください。
• クラウドAIでは、学習利用の可否に加え、保存期間・閲覧条件・委託先・処理地域を、契約するプランの規約やプライバシーポリシーで確認します。未公表の条件は保証されていると考えず、提供元に確認してください。個人情報保護委員会の法令・ガイドライン一覧には、第三者提供や外国にある第三者への提供などのガイドラインがあります。同委員会の2023年6月2日の注意喚起本文は、事業者に対し、個人情報の入力が利用目的の達成に必要な範囲内かの確認を求めています。また、本人の同意なく入力した個人データが応答出力以外に使われる場合の法違反の可能性を示し、機械学習に利用されないこと等の確認を求めています。実際の入力では、各サービスの規約と社内ルール、必要なら専門家の判断に当たってください。

性能

性能は、候補モデルに同じ依頼文と資料を渡し、必要な品質を満たすかで比べます。複雑な推論、長い資料の統合、コード修正、要約・分類でも、正確さ、処理できる入力の長さ、待ち時間を作業ごとに確認してください。実行場所だけで品質の優劣は決められません。

ローカルでは設定にも注意が要ります。Ollamaのコンテキスト長の説明では、既定値はVRAM容量に応じて設定され、コンテキストを広げるほど必要なメモリが増えるとされています。長い文書を入れる前に、ollama ps の CONTEXT 欄で割り当てを確認し、必要なら OLLAMA_CONTEXT_LENGTH などで調整してください。モデルの対応上限も確認し、全文が処理対象に収まるかを確かめます。

費用

費用は、同じ作業量と利用期間を決めて見積もります。具体的な金額は変わりやすいため、この記事では扱いません。比較する項目は次のとおりです。

• ローカル:PCやGPUの追加購入、電気代、候補モデル・ソフトのライセンス条件と料金
• クラウド:契約するプランの月額・従量料金、利用上限、追加機能の料金
• 共通:設定・保守・出力確認・手直しにかかる時間

既存PCを使う場合も、処理時間や電力、手直しを含めて比べます。大量処理という理由だけで安い方を決めず、未公表の料金条件は提供元に確認してください。

手間

ローカルは、モデル選び、ダウンロード、メモリに収まるかの確認、コンテキスト長の設定、更新の確認が必要です。クラウドは、候補サービスで必要な契約・設定を確認します。一方でクラウドにも、機密情報の置き換え、契約や規約の確認、利用上限の管理といった手間があります。

作業別の判断表

説明用の例として、よくある作業を挙げます。各方式の欄は読者用の記入欄です。候補モデル・プランごとに「品質の合否／総費用／準備・手直し時間」を記入してください。外部送信できない候補は「対象外」、必要な機能や品質を満たさない候補は「不向き」とし、条件を満たす候補から選びます。

• 顧客名や住所を含む問い合わせの分類、先に確認する条件：入力の利用目的・外部送信可否、分類の正確さ、ローカルの結果：［記入］、クラウドの結果：［記入］、選択：［記入］
• 公開済み記事の要約・言い換え、先に確認する条件：利用条件、事実の保持、文章の品質、ローカルの結果：［記入］、クラウドの結果：［記入］、選択：［記入］
• 社内メモ・議事録の要約、先に確認する条件：社内ルール、機密の有無、要点の漏れ、ローカルの結果：［記入］、クラウドの結果：［記入］、選択：［記入］
• 数百ページ規模の資料の横断読解、先に確認する条件：入力上限・検索機能、資料間の関係を正しく読めるか、ローカルの結果：［記入］、クラウドの結果：［記入］、選択：［記入］
• 最新の情報を踏まえた調査、先に確認する条件：必要な日付の情報源にアクセスでき、出典を確認できるか、ローカルの結果：［記入］、クラウドの結果：［記入］、選択：［記入］
• 数千件の定型データの整形・タグ付け、先に確認する条件：形式・ラベルの遵守、全件の処理時間・総費用、ローカルの結果：［記入］、クラウドの結果：［記入］、選択：［記入］
• 難しいバグ調査や大規模なコード修正、先に確認する条件：コードの送信可否、修正後のテスト結果、ローカルの結果：［記入］、クラウドの結果：［記入］、選択：［記入］
• 小さなスクリプトの補助・コード補完、先に確認する条件：コードの送信可否、動作・安全性の確認、ローカルの結果：［記入］、クラウドの結果：［記入］、選択：［記入］
• 企画の壁打ち・アイデア出し、先に確認する条件：未公開情報の有無、目的に合う案が出るか、ローカルの結果：［記入］、クラウドの結果：［記入］、選択：［記入］
• 回線のない場所での簡単な作業、先に確認する条件：モデル取得済みか、必要な機能がオフラインで動くか、ローカルの結果：［記入］、クラウドの結果：［記入］、選択：［記入］

たとえば長文読解では、章ごとに分けて要約させ、あとで統合する手順も比較できます。その場合は、分割による要点の漏れと、追加の手間も記録してください。最新情報の調査では、ローカル・クラウドともに検索機能や参照資料を確認します。

併用時の振り分けルール例

次のルールは、上から順に当てはめる使い方を想定した、説明用の例です。自分の環境に合わせて書き換えてください。

1. 個人データ・取引先の機密・未公開情報を含む → このルール例ではローカルのみ。 利用目的、端末の管理、外部送信しない設定を確認する。迷ったらここに入れる。置き換えてもよいと決めた場合だけ、手順2へ進む。
2. 置き換え可能なら、名前・番号・金額などを仮の値に変える。 置き換え後の文面を人が確認し、外部送信が許されると判断できた場合だけクラウドの候補にする。対応表はクラウドへ送らず手元で管理し、結果を戻すときに使う。
3. ローカルで一度試し、基準を満たせばそのまま採用。 基準は事前に決める。例:要約に原文にない事実が入っていない、分類ラベルが指定の語彙だけ、など。
4. 基準を満たさない、または文脈が長すぎる場合は、外部送信が許される範囲でクラウドを試す。 クラウドも同じ基準で確認し、両方が満たさない場合は手順の見直しや人による作業に戻す。ローカルで試した時間と費用も比較に含める。
5. クラウドの出力は、数字・固有名詞・引用を人が元資料と照合する。 ローカルの出力も同じ。どちらが出したかで確認を省かない。

人が確認する点は、どちらの方式でも共通です。事実の裏取り、機密の混入、権利関係(他人の文章をそのまま使っていないか)です。著作物の扱いは文化庁の資料などで確認できますが、個別の適法性は状況によるため、この記事では判断しません。

手順2で使う、置き換えの依頼文

ローカルのモデルに、クラウドへ送る前の下ごしらえを任せる使い方もあります。次はそのための依頼文の例です。実際に実行した結果ではなく、使い方を示すための説明用です。

次の文章から、個人名・会社名・住所・電話番号・メールアドレス・金額を探し、
[人物A]、[会社B]、[住所C]のような記号に置き換えてください。
- 置き換えた箇所と元の語の対応表を、本文とは別に表で出してください。
- 迷った語は置き換えて、対応表の備考欄に「要確認」と書いてください。
- 本文の意味は変えないでください。

【文章】
(ここに本文を貼る)

渡す情報は本文だけです。AIに任せるのは候補の洗い出しで、置き換え漏れがないかは人が目で確認します。固有名詞以外にも、役職や地名、案件名の組み合わせから個人や取引先が推測できてしまう場合があります。置き換えで足りるかどうかの判断は、AIではなく人が行ってください。

入力例(説明用の架空データ)

「[人物A]様より、[会社B]の請求書の金額[金額C]について、支払期日を延ばせないかという問い合わせがありました。」

これは置き換えた文面の例です。記号に変えただけで、外部送信できるとは判断できません。日付や社内でしか通じない案件名が残っていれば、それだけで特定できることもあります。

最初に試す小さな検証手順

判断表を鵜呑みにせず、自分の作業で次の順に確かめると、無理のない使い分けが見えてきます。

1. 普段の作業から、外部送信が許されるサンプルを選ぶ(または説明用の架空文書を作る)。
2. 同じ依頼文を、ローカルとクラウドの両方に渡す。
3. 出力を「事実の誤り」「指定形式の遵守」「手直しにかかった時間」の3点で見比べ、メモを残す。モデル名・設定・プラン・確認日と、準備・処理時間、同じ作業量での総費用も判断表に記入する。
4. ローカルで基準を満たし、費用と手間も許容できる作業は、ローカルを標準にする。それ以外は、外部送信可否とクラウドでの結果を確認して決める。

LM StudioとOllamaは、ローカルサーバーでOpenAI互換APIを提供し、両方で /v1/chat/completions を利用できます。Ollamaが対応するのはAPIの一部です。切り替える際は、接続先URL・モデル名に加え、使うパラメーターと機能の対応を各公式ドキュメントで確認してください。

迷ったときの早見

• 出せないデータがある:外部送信を止めたローカル環境で扱えるか確認する
• 出してよいが、品質が最優先:同じ課題で候補モデルを比較する
• 同じ処理が大量:必要な品質を満たす候補の総費用と処理時間を比べる
• 長大な資料や最新情報が必要:入力上限・検索機能・出典確認の可否で絞る
• 設定や保守に時間を割けない:準備と運用の手間が許容できる候補を選ぶ

ローカルかクラウドかは一度決めて終わりではなく、作業ごとに見直せます。まず機密性で分け、次に品質基準を満たせるかで絞る、という順を守れば、判断は大きくぶれません。