Gemma 4とは？
Googleが公開しているAIモデル。
LM Studioで動かしてみた
Model Searchからgoogle/gemma-4-e2bを探してダウンロード。
LM Studioで表示されるパラメータ数は「51億」なので本来は「5b」だが、「23億」が脳みそで残りは辞書なので、「2b」相当で動くということらしい。
チャット
動作は軽快で、日本語でのやりとりも問題なし。ただし、より精度の高い回答を返してもらうためには、プロンプトの工夫が必要そう。
チャット上でコードを書かせた場合、長いコードだと途中で切れる。
これは出力トークンの上限によるもので、LM Studioで上限を上げることが可能（gemma-4-e2bは最大131072トークンまで）だが、メモリ消費が増すので端末に合わせたチューニングが必要。
途中で切れても「続きお願い」と依頼すれば続きを出してくれるので何とかなる。
その場合は、前振り不要でそのままコードの続きを出してもらえるようプロンプトを工夫すると良い。
なぜ、出力トークンが増すとメモリ消費があがるのかというと、文章を生成する過程で過去の文脈を参照するために、キャッシュ（特にKVキャッシュと呼ぶ）をメモリに保存しているかららしい。
画像
広告の画像からテキストを抜き出すことができたので、OCRとしての活用はじゅうぶんいけそう。
RAG
架空の物語をテキストファイルで渡して内容について質問してみると、正しく答えた。
RAG（検索拡張生成）を使用すると、AIが学習していない内容でも回答できるようにできる。
LM Studioが質問に関係しそうな箇所を抽出してGemmaに渡してくれるので、Gemmaは考えることに集中でき、メモリが節約できているらしい。
全体を俯瞰して回答させる（たとえば要約させる）場合は、RAGによる抽出によって情報が欠落する可能性があるため、RAGを使用せずチャットに直接中身をコピペしたほうがよさそう。