コンセントを抜いても、手元の大きなモデルにコードを書かせる — RTX Spark ノートの「電源なし」の報告を読む

朝にバッテリー 70% で作業を始め、夕方に残っていたのは 31% ¹。netrunner さん(@plotarmordev)は返信でそう書き、「悪くない」と添えています ¹。

取り組んでいたのは、NVIDIA の大きなモデル Nemotron 3.5 Bolt を Windows のノート PC で動かすこと。本人のポストは、それが「まもなく」バッテリー駆動のままネイティブに動く、と書いています ²。コンセントを探さずに、手元の大きなモデルにコードを書かせる。その入口に立った人の報告を読んでみます。

何をどう組んだのか

本人のポストによれば、動かしているのは RTX Spark N1X 上の TensorFold です ³。そこに Mia さん(@MiaAI_lab)のレシピと NVIDIA の LiLiCorr ドラフターを足すと、コードの生成が最大 2.8 倍速く、100 tok/s になる、と本人は書いています ⁴。自分の移植とバグ修正は PR として出した、とのことです ⁵。

登場する部品を並べます。

• Nemotron 3.5 Bolt: NVIDIA のモデルで、総パラメータ 74B のうちアクティブは 9B です [[F404]]。2 ビット量子化で 24GB に収め、ほかのアプリと並べて手元で動かす設計だと説明されています [[F403]]
• LiLiCorr: 単体の言語モデルではなく下書き役です。下書きのトークン候補を出し、本体が確かめて文章を出します [[F409]]
• TensorFold: Apache-2.0 のライセンスで、言語モデルを手元で動かす推論エンジンです [[F400]] [[F401]]
• Mia さんのレシピ: DGX Spark で動かすためのレシピです [[F411]]

つまり、DGX Spark 向けのレシピを、作者が Windows on Arm のノートへ持ってきた形です。作者の PR では、Windows 11 の ARM64 上で、RTX Spark N1X のノートを使ってネイティブにビルドして動かしています ⁶。Docker も WSL も使っていません ⁷。

実測表の読み方

数字の裏づけは、レシピに添えられた Windows 手順書の実測表です。計測はバッテリー駆動で、Windows の電源プランは「バランス」でした ⁸。各 1 回の計測で、中央値ではありません ⁸。思考はオフ、応答は 512 トークンです ⁹。

1 本の生成では、TensorFold 単体とこのレシピで、次の速度が並んでいます ⁹。

• 文章(greedy): 39.3 tok/s から 59.9 tok/s [[F417]]
• コード(greedy): 36.4 tok/s から 100.1 tok/s [[F417]]
• 文章(sampled): 36.6 tok/s から 47.6 tok/s [[F417]]

4 本を同時に走らせた場合は、91.7 tok/s から 117.6 tok/s(1 本あたり 41.9)です ¹⁰。読み込みには 66 秒かかり ¹¹、この設定で GPU が使ったメモリは、画面表示の分も含めて 33.2GB でした ¹²。

ポストの「最大」の倍率は、こうした条件の中での本人の言い方です ⁴。表の数字は、この手順・この機の結果として読むのが筋でしょう。

読むときに外せない限定があります。

• 確かめた機は 1 台で、64GB の RTX Spark N1X ノートのうち 40GB を GPU に割り当てています [[F413]]
• 確かめたのは文字のチャットだけです。画像・動画・構造化出力は未ビルドと書かれています [[F421]]

本人のポストは、まもなく Windows ノートでネイティブに動く、という書き方です ²。レシピと PR のリンクは、本人の返信にまとまっています ¹³。

電源なしで使う道具としての RTX Spark ノート

では、そういう使い方を想定すると、どんなノートが手元に来るのでしょう。Gizmodo US の Kyle Barr 氏が、Lenovo Yoga 9n 2-in-1 の上位構成の実機レビューを書いています ¹⁴。ギズモード・ジャパンが翻訳を載せています。

見出しは「こいつの魅力はペンだ」です ¹⁵。Barr 氏によれば、画面とトラックパッドの両方でペンが使えるノートは初めて見たそうで ¹⁴、ペンは傾きを検知し、最大 8,192 段階の筆圧に対応します ¹⁶。画面にペンで描きながら、裏では手元のモデルが回っている。そんな組み合わせを思い浮かべたくなります。

電源まわりについて、Barr 氏が挙げるのは、この石の売りは電源につないでもつながなくてもほぼ同じ性能が出るという約束(promise)だ、という点です ¹⁷。実測値ではなく、約束という言い方です。そのうえで、Barr 氏のレビュー機では次のようなことが書かれています。

• 静かさ: GPU に負荷をかけても、ファンの音は図書館のささやき声を超えない [[F425]]
• 割り切り: 最大 TDP は 70W で、Surface Laptop Ultra の 110W より低い [[F426]]。3DMark の Speed Way では Surface より約 13% 低く、Port Royal では差が 19% 近くになった [[F427]]
• メモリ: GPU に回すメモリは既定 32GB、最大 48GB まで増やせたが、ベンチマークはほとんど変わらなかった [[F428]]
• 大きさ: 64GB の機で Qwen 3.8 27B のような中規模モデルが比較的速く動き、裏でエージェントの作業を回せる [[F429]]。もっと大きなモデルを安心して使うなら 128GB 版が要る [[F430]]
• バッテリー: 省電力モード・中程度の明るさで、ブラウザで書き続けて 8 時間強 [[F443]]。負荷を上げると 6〜7 時間かそれ以下で、ゲームや GPU を回すなら長くて 3 時間 [[F442]]

最後の項目は、電源なしの時間が使い方で大きく変わることを示しています。冒頭の netrunner さんの「朝 70%、夕方 31%」は、Barr 氏のレビュー機とは別の、本人の返信での報告です ¹。

別の媒体の測定も添えておきます。Mobile01 は MSI Prestige N16 Flip AI+ の最上位構成で、電源接続時とバッテリー時の性能差は大きくないと書いたうえで、AI 推論やレンダリングが多いなら電源につないで使うよう勧めています ¹⁸。ITmedia PC USER が ASUS ProArt P14 で測った動画再生は、画面輝度 100%・電源プラン「バランス」で 1 時間のバッテリー消費が 7% でした ¹⁹。同じペースなら約 13 時間 34 分駆動できる計算だと ITmedia は書きます(±1 時間程度の誤差つき)²⁰。どちらも測った機種・条件での結果です。ITmedia の数字は動画再生のもので、AI の負荷をかけた場合ではありません。

3 種類目の Windows PC

ASCII の塩田紳二氏は、コラム「Windows Info」で、この流れをもっと大きな視点から見ています。

ポストによれば、Microsoft は RTX Spark 搭載の Surface Laptop Ultra を発表し、大規模言語モデルも扱える RTX Spark 搭載 PC が Windows や PC・スマートフォン・タブレットをどう変えるのかが論点です ²¹。塩田氏の見立ては次のとおりです。

• これまで Windows が動く Arm のマシンは Snapdragon に限られていた [[F434]]
• Windows 11 の PC は、非 AI PC・Copilot+ PC・Spark クラス PC の 3 種類になる [[F435]]
• Copilot+ PC が扱えるのは小・中規模の言語モデルまで。Spark クラス PC は大規模言語モデルを扱えるスペックを持つ [[F436]]
• すぐに広く受け入れられることはないが、開発者やクリエーター向けには他にない性能があり、一定の需要はあるはず [[F437]]
• クラウドの AI のコストが膨らめば、PC・スマートフォン・タブレットを持つ企業はローカル推論へ移ってくるだろう [[F438]]

これは塩田氏の意見です。この見立てを読んだあとでポストに戻ると、大きなモデルを手元で、しかも電源につながずに、という試みの意味が少し違って見えてきます。

自分の机(と鞄)に置くなら

NVIDIA は製品ページで、手元で動かせば API 料金がかからず、データは手元に残る、と書いています ²²。NVIDIA Blog は、RTX Spark 上のエージェントが Isaac Lab・Hermes Agent・Nemotron 3.5 Bolt 74B を使う場面も紹介しています ²³。

電源なしで大きなモデルを回したい人が、買う前に見ておきたい点を並べます。

• 何を載せたいか: 1 つの量子化モデルを使うなら 64GB、モデルや同時実行数が増えるなら 128GB、と PC Watch は ASUS ProArt P16 の 64GB 版のレビューで書いています [[F196]]。Barr 氏も、大きなモデルには 128GB 版を挙げています [[F430]]
• 使いたいアプリの対応: Barr 氏は、ブラウザでのカクつきといった小さな不具合を挙げています [[F431]]。Call of Duty はアンチチートの Ricochet が未対応で、NVIDIA は対応を「coming later」としています [[F432]]。InDesign と Illustrator は Microsoft の Prism エミュレーター経由です [[F433]]
• 専門ソフト・開発ツール: Mobile01 は、購入前にネイティブ対応や動作を確認するよう強く勧めています [[F231]]

動かしたいツールが、その機・その OS で使えるかは、買う前に公式で確かめてください。

モデルのファイルを持ち歩くなら、外付けのストレージがあると楽です。Nemotron 3.5 Bolt は 24GB に収める設計とはいえ ²⁴、いくつかのモデルを入れ替えて試すなら、置き場所は別に用意しておきたいところです。

Amazon で RTX Spark 搭載ノートを探すこともできます。

次に読む

手元のエージェントにどこまで触らせるかは、手元の AI エージェントに、どこまで触らせるかへ。メモリ容量で迷っているなら、メモリ容量を各誌の実測で比べた記事へ。ゲームや 3D の話は、RTX Spark ノートでゲームと 3D はどこまで動く?へ。