なぜ1ビットAI「Bonsai」はiPhoneを"賢い助手"に変えたのか

iPhoneで動く8B AIの衝撃

2026年4月、あなたのiPhone 17 Pro Maxのポケットには、80億のパラメータを持つAIが収まっている。そのAIは毎秒44トークンを出力する——人間の読む速度（1秒に3〜5ワード程度）を軽く超えるペースで、クラウドを一切使わずに。

この数字を聞いたとき、直感的に「何かがおかしい」と感じる人も多いだろう。「8Bモデルを動かすには最低でも16GBのメモリが必要」というのが、2年前まで誰もが信じていた常識だったからだ。それが今、わずか1.15GBという驚異的なサイズで動いている。カリフォルニア工科大学（Caltech）発のスタートアップPrismMLが2026年3月にリリースした1ビットLLM「Bonsai 8B」は、そのすべての前提を静かに、しかし根本から刷新してしまった。

なぜ1ビットという発想がここまで強力なのか、そしてこの変化はAIの「使い方」だけでなく「誰がAIを使えるか」という問いそのものを塗り替えようとしている。

訓練方法が覆した量子化の限界

AIモデルの重みを1ビット（-1か+1のみ）に落とすという発想は、直感的に「精度を著しく損なう」はずだった。通常の大規模言語モデルは、各パラメータを32ビットや16ビットの浮動小数点数で表現する。細かく表現できるほど賢くなれる、という直感は正しく思えた。

実際、「ポスト学習量子化（PTQ）」と呼ばれる手法——学習後にモデルを圧縮する方法——では、精度の劣化は避けられなかった。圧縮すればするほど、モデルは「知識の角が丸くなる」ように振る舞う。この壁が、長年の研究者たちを縛っていた。

転機は2024年2月だった。マイクロソフトリサーチが発表した論文「The Era of 1-bit LLMs」が、一つの問いを立てた——「学習後に圧縮するのではなく、最初から1ビットで学習するとしたら？」。この発想の転換が「ネイティブ1ビット訓練」だ。Bonsai 8Bはまさにこの原理で動いている。すべての重みは学習の開始時点から-1と+1の2値だけで構成され、精度は「失われた」のではなく「そもそも違う形で存在する」のだ。

では、その「違う形」は実際どれほどの性能を持つのか。数字がすべてを語る。

14倍小さく10倍賢い逆転スコア

PrismMLが公開した性能データは、「サイズと精度のトレードオフ」という業界の常識を正面から否定する。

標準ベンチマーク平均スコアでBonsai 8Bは70.5点を記録した。同クラスのMeta社Llamaは67.1点、Ministral 3Bは71.0点だ。Bonsaiは業界最先端モデルと同等の性能を持ちながら、メモリ消費量は14分の1にすぎない。

より直感的な指標が「知性密度（Intelligence Density）」だ。1GBあたりの性能スコアで測ると、Bonsai 8Bは1.06点/GB。対するQwen3 8Bは0.10点/GB——10倍以上の差が開く。

エネルギー効率もデータが明快だ。マイクロソフトリサーチが測定した推論エネルギーは、BitNet b1.58方式で1回あたり0.028ジュール。比較対象のQwen2.5は0.347ジュール。約12倍の差はスマートフォンのバッテリー持ちに直結する。2026年1月に公開されたbitnet.cppのアップデートでは、x86 CPUでの推論速度が2.37〜6.17倍に向上し、エネルギー消費は71.9〜82.2%削減されることが確認された。

これだけのデータが揃うと、次の問いが浮かぶ——専門家はこの変化をどう評価しているのか。

CPU1台で100Bが動く日

WirelessWire Newsの技術解説は「DeepSeek以来の台風の目になることは間違いない」と断じた。DeepSeekが「効率的な訓練コスト削減」で産業界を驚かせたとすれば、Bonsaiは「推論コストの構造的な破壊」という点で同等の意義を持つ、という評価だ。

Qiitaで2026年4月に公開された実地検証記事は、日本語要約タスクでBonsai 8Bが「Qwen3 235Bに次ぐ3位」に入ったと報告した。235Bとは2,350億パラメータ——Bonsaiの約30倍の規模のモデルだ。

そしてGPUが不要になる点が最大の転換点だ。マイクロソフトのbitnet.cppは、CPUだけで100Bパラメータのモデルを毎秒5〜7トークン（人間の読む速度に相当）で処理できると公表している。数十万円のGPUマシンや月額数千円のクラウドAPIなしに、手元のPCで「100Bクラスの知性」が動く。PrismMLはさらにスケーリングを進め、800億パラメータ相当のモデルも視野に入れていると報告されている。

この技術変化が可能になったとき、問われるのは「なぜ動くのか」だけでなく「何が変わるのか」だ。

クラウド離脱がAI民主化の本質

冒頭の問いに戻ろう。なぜBonsaiはiPhoneで動くのか。

答えは「圧縮の哲学の転換」にある。従来モデルは「賢く作ってから小さくする」発想だった。Bonsaiは「最初から1ビットで賢さを構築する」という逆の発想だ。全重みを-1と+1に限定することで、乗算処理が加算に置き換わり、メモリアクセスが激減し、CPUでも高速推論が成立する。93%の圧縮率は副産物ではなく、設計思想そのものの結果である。

この変化が問い直すのは、データのプライバシーだ。医療相談、財務記録、個人の日記——センシティブな情報をインターネットに送らずにAIが処理できるとしたら、その意味は計り知れない。

2026年春、AI民主化の本質は「誰でもAPIを使えること」から「クラウドを必要としないこと」へと移行しつつある。ポケットの中の1.15GBが、次のAI革命の震源地だ。