結論：96GBのMac Studioで、ollamaの約4倍の速さが出ました
新しいAIエンジン「Strata」を、うちの Mac Studio（M5 Ultra・メモリ96GB）で動かしてみました。比べる相手は、いつも使っている ollama（自分のMacでAIを動かすための無料ソフト）です。
先に結果を書きます。
- Strata は思考レベル「ミディアム」で1秒に約126〜162トークン。ollama の約4倍の速さでした
- いちばん小さい2ビット版は、日本語の答えにときどき中国語が混ざりました
- ひとまわり大きい3ビット版は、速さが1割ほど落ちるかわりに、中国の簡体字は一度も出てきませんでした
- 思考レベルを最大にすると、考えすぎて答えが長くなったり、字数を数える考えが堂々巡りになったりしました
96GBあるなら、3ビット版を思考レベル「ミディアム」で使うのがおすすめです。
Strataとは：Qwen3.8 Flash Next を速く動かすための無料エンジン
Strata は、アリババの AI「Qwen3.8 Flash Next」を家のパソコンで速く動かすためのエンジンです。GitHub で無料で公開されていて、Mac 用のアプリもあります。
エンジンの説明書き（ヘルプ）を読むと、速さの工夫はざっくり言うと2つです。
- AIの中身の一部（大きな表）をメモリに載せず、SSDから必要なところだけ読む
- 次に来そうな言葉を先回りして予想し、まとめて確かめる（投機的デコーディングと呼ばれる方法です）
今回使ったのは Strata 0.2.6 です。アプリは公式の GitHub のリリースページから入れて、ファイルが配布元のものと同じかどうかも確かめました。ネットの解説でよく見る「コマンドを1行貼り付けて入れる方法」は使っていません。
うちの Mac Studio はメモリが96GBあるので、小さく詰めた版だけでなく、ひとまわり大きい版も載せられます。せっかくなので、両方を比べてみることにしました。
比べたAI：2ビット版66.4GB、3ビット版83.6GB、ollamaの27B
AIのファイルは、Hugging Face で研究グループの ISTA-DASLab が公開している版を使いました（Qwen の公式ではありません）。同じAIを、どこまで小さく詰めるか（量子化）で2種類に分けて試しています。
- 2ビット版（Q2_0）：66.4GB。公開されている中でいちばん小さい版です
- 3ビット版（IQ3_S）：83.6GB。2ビット版より細かく残してあるぶん、大きくなります
- ollama：Qwen3.8 の27B（Q8_0・29GB）
ollama 側は、同じ Qwen3.8 でも別の作りのAIです。今回は、ollama にすでに入れていた同じ世代の Qwen と比べました。エンジンの差だけを比べたわけではない点は、頭に入れておいてください。
ちなみに、ファイルは2つに分かれていて、2つ目の28.8GBはどちらの版でもまったく同じファイルでした。なので、3ビット版を足すときは1つ目の54.8GBだけを追加で落とせば済みました。
使ったのは macOS 27.0.1、ollama 0.40.7 です。ディスクの空きが足りなかったので、前回の記事で使った gpt-oss-120b はいったん消しました（汗）。
質問：普段AIに頼みたいことを3つ
- 短文：「明日の朝、上司に『体調不良のため午前休をいただきます』と伝えるメッセージを、丁寧な言葉で3行以内で書いてください。」
- 説明：「Macのデスクトップに散らかったスクリーンショットを、撮った月ごとのフォルダに整理する方法を、初心者向けに手順で説明してください。」
- 長文：「小さなカフェの店主が、AIを使って毎日の日報づくりと仕入れの管理を楽にするための3か月の計画を、日本語で1500字程度で書いてください。」
Strata では、AIが答える前に考える量（思考レベル）を「ミディアム」と「最大（high）」の2段階で試しました。短文と説明は3回ずつ、長文はミディアムで2回、最大で1回です。ollama は考える機能をオンにして、同じ質問を投げました。
速さ：ミディアムでStrataは1秒に約126〜162トークン、ollamaは約33トークン
思考レベル「ミディアム」での、1秒あたりに出す量（トークン数＝文字数の目安）と、答え終わるまでの時間です。数字は各回の平均です。
短文（午前休の連絡）
- Strata 2ビット版：162.1トークン・1.7秒
- Strata 3ビット版：143.2トークン・2.1秒
- ollama：33.2トークン・11.9秒
説明（スクリーンショットの整理）
- Strata 2ビット版：147.3トークン・8.3秒
- Strata 3ビット版：134.1トークン・9.0秒
- ollama：32.3トークン・50.9秒
長文（カフェの3か月計画）
- Strata 2ビット版：134.3トークン・7.6秒
- Strata 3ビット版：125.9トークン・6.9秒
- ollama：33.0トークン・54.5秒
1秒あたりの量で比べると、Strata は ollama の3.8〜4.9倍、だいたい4倍の速さです。説明や長文の答えが10秒もかからずに返ってくるのは、正直びっくりしました！ ollama だと同じ質問で50秒前後かかります。
3ビット版は2ビット版より6〜12%遅くなりました。ファイルが大きいぶん、計算する量が増えるからだと思います。ただ、答え終わるまでの時間の差は1秒もありませんでした。
ひとつ気づいたのが、Strata は同じ質問には毎回ほぼ同じ答えを返すことです。2ビット版は、どの条件でも毎回一字一句同じ文章でした。設定を変えていないので、最初から答えがぶれない作りになっているようです。ollama は毎回少しずつ違う文章を返しました。
中国語の混入：2ビット版はときどき混ざり、3ビット版はゼロだった
Qwen は中国のアリババが作ったAIなので、日本語で頼んでも中国語が混ざらないかが気になっていました。そこで、答えの中に日本語では使わない漢字（中国の簡体字）がいくつあるかを数えました。
- 2ビット版：6つの条件のうち2つで混ざった
- 3ビット版：6つの条件すべてでゼロ
- ollama：8回のうち1回で、1字混ざった
2ビット版の、ミディアムでのカフェの計画にはこんな言葉がありました。
供应商との沟通
「仕入れ先とのやりとり」のことです。日本語の文章の中に、急に中国語の単語が出てきます（笑）。ほかにも「AI助手を1つ选定し」や、スクリーンショットの説明の「共通的第一步です」のような言い回しがありました。ollama も1回だけ、「ターミナル」を「终端（ターミナル）」と書いていました。
3ビット版の答えには、日本語で書けない漢字は一度も出てきませんでした。午前休の連絡は、3つとも中身はちゃんとしていました。ただ、2ビット版だけは「おはようございます。」で始めておいて、「明日午前休を申請いたします。」と書いていました。朝に送るなら「本日」のはずなので、ちょっとちぐはぐです。3ビット版はこうでした。
おはようございます。
本日、体調不良のため午前中を休ませていただきたく、ご連絡いたしました。
午後より出社いたしますので、何卒よろしくお願いいたします。
りょう速さはほぼ同じで日本語がきれいなら、3ビット版一択だよね
数え方は、日本語の文字コード（Shift_JIS）では書けない漢字を数えるというものです。Strata は同じ条件ならほぼ毎回同じ答えを返すので（違ったのは3ビット版の「最大×説明」だけでした）、回数ではなく「6つの条件」で数えています。
思考レベル最大：考えすぎて、答えが長くなったり堂々巡りになったり
思考レベルを最大にすると、説明と長文ではミディアムとかなり違う結果になりました（短文はどちらも50字前後で、大きな差はありませんでした）。
説明（スクリーンショットの整理）
- 2ビット版：77.8秒・答えは4,646字（ミディアムは8.3秒・1,688字）
- 3ビット版：平均106.9秒・答えは5,884〜6,565字（ミディアムは9.0秒・1,563字）
答えが出るまでの時間が10倍ほどに増えて、答えもミディアムの約2.8〜4.2倍の長さになりました。初心者向けの手順なのに、ここまで長いと読むのが大変です。2ビット版は、考えている途中で同じ英語の一文を16回も繰り返していました。
長文（カフェの3か月計画）
- 2ビット版：117.8秒・24,922トークン・答えは628字
- 3ビット版：75.0秒・11,016トークン・答えは1,518字
2ビット版は、考えている中身が途中から文字数を数える作業の繰り返しになっていました。「カ 1, ー 2, ー? It is」のような1文字ずつの数え直しを、ひたすら続けています。1500字ちょうどに合わせようとして、抜け出せなくなったようです。
最後は「I have thought about this long enough; time to give my answer.（もう十分考えたので、答えを出します）」と自分で切り上げていました。でも答えは628字で、頼んだ1500字の半分にも届いていません。
3ビット版も字数を数えてはいましたが、「Total 1499. Good.」と数え終えて、1,518字の答えを返してくれました。ほぼ注文どおりです。
ミディアムなら、2ビット版は1,347字、3ビット版は1,136字の答えが7秒前後で返ってきました。普段使いはミディアムで十分だと思います。最大で試したのは長文が1回ずつなので、毎回こうなるかまでは分かりません。
メモリ：3ビット版でも空きは最小30%
計測の前と後に、メモリの空きとスワップ（メモリが足りないときにSSDを代わりに使う仕組み）を記録しました。
- 2ビット版：Strata が使ったメモリは約43〜49GB・空きは最小47%
- 3ビット版：Strata が使ったメモリは約61〜63GB・空きは最小30%
- ollama：空きは最小57%
空きの割合は、ほかに動いているアプリの分も合わせた数字で、回によってかなり上下しました。スワップは計測前から約36GB使われていて、どの回でも増えも減りもしませんでした。
2ビット版は66.4GBのファイルなのに、Strata のプロセスが使っていたメモリは50GBに届きませんでした。ファイルの大きさより、かなり少なめです。
3ビット版でも空きは30%残り、スワップも増えなかったので、96GBなら動かすぶんには困りませんでした。メモリが少ないMacだと、3ビット版は厳しいかもしれません（96GB以外では試していません）。
SSDへの書き込みは、Mac全体で1回あたり多くても約620MBでした。
まとめ：96GBあるなら3ビット版を「ミディアム」で
Strata は、ollama で同じ世代の Qwen を動かすより約4倍速く答えてくれました。1000字を超える説明や文章が10秒もかからずに返ってくるので、待たされている感じがほとんどありません。
96GBのメモリがあるなら、3ビット版がおすすめです。速さは2ビット版と1割ほどしか変わらず、今回数えた範囲では中国語が一度も混ざりませんでした。2ビット版を使う場合は、仕事の文章に使う前に、中国語が混ざっていないか読み直したほうがいいと思います。
思考レベルは、普段はミディアムで十分です。最大にすると、答えが長くなりすぎたり、字数を数える細かい作業で考えすぎたりすることがありました。
同じ Mac Studio で、gpt-oss-120b と Gemma 4 を比べた記事もあります。あちらは ollama での比較なので、合わせて読んでみてください。
今回の質問は3つだけなので、賢さまで比べられたわけではありません。次は、仕事で使う文章をいろいろ書かせて、3ビット版の実力を確かめてみたいです！
コメント