LM Studioでモデルを探して動かす:コマンドなしでローカルAIと会話する手順

始める前に:自分のPCが対象かを確認する

公式のシステム要件ページには、次の内容があります(System Requirements)。

• Mac:Apple Silicon(M1〜M4)で、macOS 14.0以降が必要です。RAMは16GB以上が推奨で、8GBでも小さいモデルなら動くとされています。
• Windows:x64とARM(Snapdragon X Elite)に対応しています。x64のCPUはAVX2対応が必須です。RAMは16GB以上、専用VRAMは4GB以上が推奨です。
• Linux:x64とARM64に対応しています。配布形式はAppImageで、Ubuntu 20.04以降が必要です。

最初に確認するのは、搭載メモリ(RAM)と、GPUがあれば専用メモリ(VRAM)の量です。次の章でモデルのサイズを選ぶときの基準になります。

手順1:Discoverでモデルを探す

インストールして起動したら、モデル検索の画面を開きます。公式ドキュメントによると、DiscoverタブへはMacなら⌘+2、Windows/Linuxならctrl+2で移動できます(Download an LLM)。

検索欄には次のどれでも入力できます。

• llama、gemmaのようなキーワード
• ユーザー名/モデル名の形式
• Hugging FaceのモデルページのURL

最初の1本は、キーワードで検索して一覧から選ぶ方法が簡単です。検索結果の名前には、4Bや8Bのように「パラメータ数」を示す表記が付くことがあります。パラメータ数が大きいモデルほど、一般にメモリを多く必要とします。

最初の1本の選び方(編集上の目安)

次の表は公式の仕様ではなく、初回で失敗しにくくするための編集上の目安です。

• 8GB前後、最初に試すサイズ：数B(パラメータ数が数十億)の小さいモデル、理由：公式でも小規模モデル向けとされているため
• 16GB前後、最初に試すサイズ：数B〜8B前後、理由：余裕を残して動作を確認しやすいため
• 32GB以上、または大きめのVRAM、最初に試すサイズ：慣れてから大きいモデルに、理由：まず動作を確認してから上げるほうが原因を切り分けやすいため

選ぶ基準は、ダウンロードするファイルのサイズです。ファイルのサイズがメモリの空きに収まらないモデルは、読み込みが難しくなります。OSや他のアプリが使う分も考えて、ファイルサイズは搭載メモリの半分程度に収めると安全です。この「半分程度」も編集上の目安であり、公式の数値ではありません。

手順2:量子化の表記を見てダウンロードする

モデルを選ぶと、Q3_K_SやQ8_0のようなファイルの選択肢が並びます。これは量子化と呼ばれる圧縮の違いです。公式ドキュメントでは、量子化によってファイルサイズが小さくなる代わりに、品質がある程度下がると説明されています。マシンが対応できるなら、4ビット以上の選択肢を選ぶよう案内されています(Download an LLM)。

初回の判断は次のとおりです。

1. 名前にQ4が付く選択肢を探します。
2. そのファイルサイズが、前章の目安に収まるか確認します。
3. 収まるなら、ダウンロードを実行します。
4. 収まらないなら、同じシリーズでパラメータ数がひとつ小さいモデルに替えます。Q3などビット数の低い量子化に落とす方法もありますが、品質が下がります。

ダウンロードしたモデルは「My Models」に並びます。保存先を変えたいときも、同じ画面から変更できます。システムのドライブに空きが少ない場合は、先に変更しておくと安心です。

手順3:Chatタブでモデルを読み込んで話しかける

ダウンロードが終わったら、Chatタブに移ります。公式の説明では、Chatタブでモデルローダーを開き、ダウンロード済みのモデルを選んでメモリに読み込みます。読み込みが終われば、会話を始められます(Get started)。新しいチャットは、Macなら⌘+N、Windows/Linuxならctrl+Nで作れます(Manage Chats)。

最初のメッセージは、動作確認が目的なので短くて構いません。次は説明用の例です。

自己紹介を2文でお願いします。そのあと、「ローカルで動くAIの利点」を3つ、箇条書きで挙げてください。

返答が日本語で返ってくるか、箇条書きの形式を守っているかを見てください。ここで動いたら、次に少し長めの依頼で速度と品質を確かめます。これも説明用の例で、書かれている文面は架空です。

次のメモを、会議の議事録として3項目に整理してください。
メモ:来週の定例は水曜に変更。資料は前日までに共有。担当はAさんとBさん。

入力には、実在の個人情報や社内の機密を入れないでください。最初の動作確認は、上のような作り物のメモで十分です。

返答が物足りないとき

返答の品質が低いと感じたら、依頼文やモデル、量子化の設定を見直します。モデルや量子化によって返答は変わるため、別のモデルや高いビットの量子化を試す方法があります。どちらもメモリに収まる範囲で行います。

公式ドキュメントによると、モデルが参照するのはチャットの内容と、システムプロンプトなどの設定で渡した内容だけです(Manage Chats)。以前の会話や最新のニュースを自動で知っているわけではないので、必要な情報は毎回依頼文に書いてください。

つまずいたときの対処メモ

• モデルを読み込めない、エラーになる、考えられる原因：モデルがメモリに収まらない、対処：パラメータ数の小さいモデルか、低ビットの量子化に替える。他のアプリを閉じる
• 返答が極端に遅い、考えられる原因：大きすぎるモデル、またはGPUを使えていない、対処：小さいモデルで再確認する。「My Models」の歯車アイコンから、GPUオフロードの設定を見直す
• 長い文章を入れると途中から内容を忘れる、考えられる原因：コンテキストサイズが足りない、対処：モデルごとの設定でコンテキストサイズを確認する。大きくするとメモリ消費も増える
• 検索しても目的のモデルが出ない、考えられる原因：名前の綴りが違う、または対象外の形式、対処：ユーザー名/モデル名かHugging FaceのURLで検索する
• 起動すらしない(Windows)、考えられる原因：CPUがAVX2に非対応の可能性、対処：システム要件のAVX2対応を確認する
• ディスクの空きが減った、考えられる原因：モデルのファイルが大きい、対処：「My Models」で不要なモデルを整理するか、保存先を変更する

GPUオフロード、コンテキストサイズ、Flash Attentionの設定は、「My Models」タブの歯車アイコンから、モデルごとの初期値として保存できます。ロード時に一時的に変えることもできます(Per-model Defaults)。初回は初期値のままで動かし、問題が出た項目だけ触れば十分です。

保存されるデータの場所

チャットの履歴は、Mac/Linuxでは~/.lmstudio/conversations/、Windowsでは%USERPROFILE%\.lmstudio\conversationsにJSON形式で保存されます。公式ドキュメントは、手動での編集を勧めていません(Manage Chats)。共有PCで使う場合は、この場所に会話が残ることを知っておいてください。

最初の30分でやることのチェックリスト

1. メモリ(RAM/VRAM)の量を確認する。
2. Discoverタブで、小さめのモデルを1つ探す。
3. 名前にQ4が付く選択肢で、ファイルサイズがメモリの半分程度に収まるものをダウンロードする。
4. Chatタブでモデルを読み込み、短い依頼文で動作を確かめる。
5. 動いたら、日本語の長めの依頼で速度と品質を比べ、必要に応じてモデルを上下させる。

この記事の依頼文や表の数値の目安は、実際に操作して測ったものではありません。ご自身のPCで、最初は小さいモデルから試してください。