Mac Studio(M5 Ultra)でgpt-oss-120bとGemma 4を比べた|約4倍大きいAIのほうが1.5倍速かった

当ページのリンクには広告が含まれています。
  • URLをコピーしました!
もくじ

結論:96GBで120Bのモデルが普通に動いて、しかも小さいほうより速かったんです

Mac Studio(M5 Ultra・メモリ96GB)で、OpenAI の gpt-oss-120b と Google の Gemma 4(31B)を比べてみました。どちらも ollama(自分のMacでAIを動かすための無料ソフト)で動かしています。

先に結果を書きます。

  • gpt-oss-120b は65GBもあるのに、設定を何も変えずに全部GPUで動いた
  • 文字を出す速さは、gpt-oss が Gemma 4 の約1.5倍
  • 4つの課題は、どちらも大きな間違いなし
  • ただし gpt-oss を動かしている間は、空きメモリが12%まで減った

大きいAIのほうが遅いと思い込んでいたので、これは意外でした!

比べた理由:大きいほうが賢いのか、96GBで足りるのかを知りたかった

この Mac Studio は8月に注文して、10月に届きました。構成はこうです。

  • チップ:M5 Ultra(36コアCPU・80コアGPU)
  • メモリ:96GB
  • SSD:1TB

買うときに一番迷ったのが、メモリを96GBにするか256GBにするかでした。256GBにすると、値段がぐっと上がるんです(汗)。メモリの読み書きの速さ(帯域)はどちらも同じなので、速さは変わりません。増えるのは「載せられるAIの大きさ」だけです。

なので、gpt-oss-120b のような100B級のAIが96GBで普通に動くなら、私の使い方には96GBで十分ということになります。

もう一つ知りたかったのが、「大きいほうが賢いのか」です。gpt-oss はパラメータ数(AIの大きさの目安)が Gemma 4 の4倍近くあります。でも、ネットの比較サイトでは Gemma 4 のほうが上という評価もあって、日本語で直接比べた数字は見つかりませんでした。

ちなみに私は、ローカルAIにデータの整理や予定の管理、日報づくりなどを任せています。毎日使うものなので、速さも賢さもけっこう大事なんです。

2つのAI:65GBと20GB

gpt-oss-120b

  • ファイルの大きさ:65GB
  • パラメータ数:116.8B
  • 圧縮の方式:MXFP4
  • ダウンロード時間:約15分

Gemma 4(31B)

  • ファイルの大きさ:20GB
  • パラメータ数:30.7B
  • 圧縮の方式:Q4_K_M

どちらも、重みを1パラメータあたり4bit前後まで詰めて小さくしてあります(量子化と呼ばれる処理です)。

使ったのは macOS 27.0.1、ollama 0.40.7 です。GPU が使えるメモリの上限(iogpu.wired_limit_mb)は、標準のまま変えていません。

課題:普段の使い道に合わせて4本

よくあるベンチマークではなく、私が実際にAIに頼みたいことに寄せました。

  1. Macの操作:ダウンロードフォルダにある30日以上前の .dmg を一覧にして、合計サイズも出すコマンドを書いてもらう
  2. 文書作成:くだけたメモを、取引先の部長に送る敬語のメールに書き換えてもらう
  3. 計算:りんごとみかんの値段を当てる問題(答えは110円と80円)
  4. ラジオ台本:深夜のカフェでマスターと常連客が話す冒頭の6行と、その場面の挿絵を頼む英語のプロンプト

答えのゆらぎをなくす設定(temperature 0・seed 固定)にして、それぞれ3回ずつ聞きました。数字は3回のうち真ん中の値(中央値)です。

速さ:gpt-oss は1秒に117トークン、Gemma 4 は71.5〜84.3トークン

1秒あたりに出す量(トークン数=文字数の目安)と、答え終わるまでの時間です。

Macの操作

  • gpt-oss:117.0トークン・5.7秒
  • Gemma 4:71.5トークン・24.3秒

敬語メール

  • gpt-oss:116.8トークン・5.7秒
  • Gemma 4:77.6トークン・17.6秒

計算

  • gpt-oss:116.5トークン・2.2秒
  • Gemma 4:84.3トークン・12.1秒

ラジオ台本

  • gpt-oss:116.5トークン・10.2秒
  • Gemma 4:74.2トークン・10.1秒

最初にAIを読み込む時間は、gpt-oss が17.0秒、Gemma 4 が6.1秒でした。読み込みは大きいほうが時間がかかります。

どちらのAIも、答える前に「考える」時間があります。この考える量が全然違っていて、計算問題では Gemma 4 が1,006トークン考えたのに、gpt-oss は249トークンで済ませていました。なので、答え終わるまでの時間は差がもっと開きます。

大きいほうが速い理由は、gpt-oss が MoE(1文字ずつ答えを作るたびに、全体のうち一部だけを使う作り)だからだと考えられます。MoE であることは公表されています。今回の測定で仕組みまで確かめたわけではありませんが、数字の傾向とは合っています。

ラジオ台本だけは時間がほぼ同じでした。この課題では gpt-oss のほうが多めに考えていたんです。

メモリ:gpt-oss は64GBを使って、空きは12%まで減った

答えを作っている間、5秒ごとにメモリの使い方を記録しました。

  • gpt-oss:64GB使用(ファイルの65GBとほぼ同じ)・記録した全部の時点で「100% GPU」・空きメモリは最小12%(ほかのアプリの分も合わせて)
  • Gemma 4:全部の時点で「100% GPU」・空きメモリは最小64%

AIがGPUに入りきらないと、一部がCPUに回されて大きく遅くなります。ここが一番心配だったんですが、標準の設定のまま収まりました。

ただ、空き12%はけっこうギリギリです。gpt-oss を動かしながら、画像生成や音声合成を同時に走らせるのは厳しいと思います。

りょう

「動く」と「余裕を持って動く」は、別の話なんだよね

「96GBで足りるか」への私の答えはこうです。120B級のAIを1つ動かすなら足ります。ほかの重い作業と並べるなら足りません。

答えの中身:正しさは互角、性格はけっこう違う

Macの操作は、使い捨てのフォルダに古い .dmg と新しい .dmg を置いて、出てきたコマンドを実際に動かしてみました。どちらも古いものだけを拾って、合計サイズも正しく出せました。Gemma 4 はフォルダの中のフォルダまで探して、gpt-oss はいちばん上だけを探していました。

敬語メールは差が出ました。Gemma 4 は「丁寧版」と「もっとフォーマル版」の2つに、書き換えのポイント解説まで付けてくれました。親切なんですが、「メールの本文に書き換えて」と頼んだので、ちょっと頼んだことからはみ出しています。gpt-oss は本文を1通だけ返しました。ただ、「○○株式会社の△△でございます」という名乗りが仮の文字のまま入っていて、そのまま送るには手直しが要ります。

計算は、どちらも110円と80円で正解でした。

ラジオ台本は、どちらも6行を全部30字以内に収めて、英語の挿絵プロンプトも付けてくれました。

常連客:ああ。この時間だけは、世界に二人きりだ。

これは Gemma 4 の台本の2行目です。会話の味がありますよね。gpt-oss は「リスナーの皆さん、耳をすませて」と、番組の進行役のような台本でした。挿絵のプロンプトは雨の窓やマイクまで描き込んでいて、gpt-oss のほうが細かかったです。

使ってみていちばん驚いたのは、gpt-oss の速さです。最初の読み込みこそ少し時間がかかりますが、そのあとはとにかく速いんです。AIの速さは大きさだけでは決まらないんだな、と実感しました。

ただ、文章を書く力については、今回の4つの課題だけではまだ分かりません。もう少しいろいろな文章を書かせて確かめてみたいと思っています。

比較サイトとの違い:英語の順位と、日本語で使ったときの快適さは別だった

比較サイトの BenchLM では(2026年10月時点)、総合点で Gemma 4 が73点、gpt-oss が50点でした。今回の4つの課題では、正しさは互角で、速さは gpt-oss が上です。英語のテストが中心の順位と、日本語で普段使うときの快適さは、別の話なんだと感じました。

ただ、課題は4つだけなので、どちらが賢いかを決められるほどの量ではありません。

前に Gemma 4 も入れて、ローカルAIにひっかけ問題を解かせたこともあります。賢さの比べ方としては、そちらも参考にしてみてください。

まとめ:普段の作業は gpt-oss、味のある文章は Gemma 4

Macのコマンドや敬語メールのように、正しく短く答えてほしい作業は gpt-oss に任せます。待ち時間が3分の1以下で済みますし、頼んだことに素直です。

ラジオ台本のように言い回しの味がほしい文章は、Gemma 4 にも書いてもらって比べます。20GBと軽いので、画像生成や音声作りと並べて動かせるのもいいところです。

これから Mac Studio を買う人には、100B級のAIを1つ動かしたいなら96GBで足ります、と伝えたいです。重い作業をいくつも同時に回したいなら、もう一段上のメモリを考える価値があります。

Mac mini と Mac Studio を同じ作業で比べた記事もあります。

メモリは値段とのトレードオフなので、今の私には96GBがちょうどいいところでした。数年たって足りない場面が増えてきたら、次の M6 Ultra では256GBに挑戦してみたいです!

よかったらシェアしてね!
  • URLをコピーしました!

コメント

コメントする

CAPTCHA


もくじ