わずか0.43GBでスマホ動作可能なAI「Ternary Bonsai 2」シリーズがオープンモデルとして登場、iPhone 18 Pro Maxで毎秒120トークンの高速処理が可能

そんなPrismMLが、Qwen3.5 2Bをベースとした「Ternary Bonsai 2 2B」、Qwen3.5 4Bベースの「Ternary Bonsai 2 4B」、Qwen3.5 9Bベースの「Ternary Bonsai 2 9B」を2026年10月15日に公開しました。各モデルはベースモデルを「-1」「0」「1」の3値で処理できるように改造したモデルであり、メモリ使用量はTernary Bonsai 2 2Bが0.43GB、Ternary Bonsai 2 4Bが0.95GB、Ternary Bonsai 2 9Bが2GBで、ベースモデルの9分の1以下に抑えられています。

各モデルはローカルで動作するAIアシスタントとして有用なものとなるように、「指示に従う」「処理ループへの突入を避ける」「適切なツールを呼び出す」「不要な出力を避ける」という要素に焦点を当てて設計されているとのこと。

各モデルとベースモデルの各種ベンチマークスコアをまとめた表が以下。ベースモデルからの性能低下を抑えられているだけでなく、一部のテストではベースモデルを上回っています。

「Ternary Bonsai 2 27B」「Ternary Bonsai 2 9B」「Ternary Bonsai 2 4B」「Ternary Bonsai 2 2B」「Qwen3.5 9Bの16bit版」「Qwen3.5 9Bの4bit版」の各デバイスでの秒間処理トークン数をまとめた図が以下。新モデル3種はiPhone 18 Pro Maxでも動作し、Ternary Bonsai 2 2Bは秒間120トークンという非常に高速な処理が可能です。

iPhone 18 Pro MaxでTernary Bonsai 2 9Bを実行してエージェントタスクを処理するデモ動画が以下。

Here is Bonsai 2 9B running locally on an iPhone, performing agentic tasks. It’s a practical example of bringing reasoning and tool use directly into a mobile application.

On iPhone 18 Pro Max, Bonsai 2 9B reaches up to 34 toks/sec, while the 2B model reaches up to 120 toks/sec. pic.twitter.com/q3RLVV6h4R

— PrismML (@PrismML) October 15, 2026

すでに無料アプリの「Locally AI」が各モデルの実行に対応しており、iPhoneおよびiPadで手軽に試すことができます。

Meet the new @PrismML Bonsai 2 model family.

Available in 2B, 4B, and 9B. Based on Qwen 3.5, these new models are more efficient and designed for everyday devices.

Update your app on iPhone and iPad to try them out. pic.twitter.com/iA4ELs5q81

— Locally AI - Local AI Chat (@LocallyAIApp) October 15, 2026

Locally AIの開発者であるAdrien Grondin氏はiPhone 18 ProでTernary Bonsai 2 2Bを実行する動画をXに投稿しています。

The new Bonsai 2 2B model reaches up to 120 tk/s on iPhone 18 Pro

It’s better than Qwen 3.5 2B (4-bit) and runs twice as fast while using almost half the memory pic.twitter.com/KpKLQh2wPr

— Adrien Grondin (@adrgrondin) October 15, 2026