Edge0 は、大きな MoE(mixture-of-experts)のモデルを手元の機材で動かすためのオープンソースの推論フレームワークだ。 2026年11月13日に、1450億パラメータの Edge0 145B と、1200億パラメータの Edge0 120B を公開した。仕組みの要は、1トークンを処理するときに使う「専門家(エキスパート)」だけを GPU に流し込むことにある。145B のうち、1トークンで実際に動くのは約101億パラメータだけだ。

Edge0 のロゴ。暗い空を背景に、色の帯でできた山の上に edge0 の文字が浮かんでいる

30秒でわかる Edge0

  • ・何か:MoE のモデルを、使う専門家だけ VRAM に置き、残りを RAM や SSD から流して動かす推論エンジン。GitHub のスターは約1.1万(2026年11月15日)
  • ・何ができる:145B のモデルを、24GB の GPU 1枚か Apple Silicon の Mac で動かす。OpenAI・Anthropic 互換の API で使える
  • ・必要な機材:CUDA 13 の NVIDIA GPU(Linux・Windows)か Apple Silicon。145B の Q3_K 版は重みだけで 40.81 GiB
  • ・ライセンス:コードは Apache-2.0。モデルは独自のライセンスで、商用の推論サービスなどには許可が要る

ローカル LLM の全体像と、ツールの選び方は ローカルLLMとは?おすすめモデル・ツールの選び方と必要なPCスペック、無料で動かす方法【2026】 にまとめている。

Edge0 の仕組み:使う専門家だけを GPU に流し込む

WHAT IT REPLACES何が違うか

全部を載せずに、使う専門家だけを GPU に流し込む

ふつうのローカル実行

重みを VRAM と RAM に載せきる

  • 145B なら数十 GB の VRAM が要る
  • GPU 1枚に収まらない
  • 収まらない分は極端に遅くなる

Edge0(edge0-strata)

1トークンで使う専門家だけを動かす

  • 145B のうち動くのは約101億
  • よく使う専門家を VRAM、残りを RAM や SSD に
  • GPU 1枚(24GB)か Apple Silicon で動く
出典: Edge0-AI/Edge0 README・docs/models/edge0-145b.md(2026-11-14時点)

MoE のモデルは、層ごとにたくさんの「専門家」と呼ばれる小さなネットワークを持ち、トークンごとにその一部だけを使う。Edge0 145B は、各層に512の専門家を持ち、1トークンで使うのは10個と、共有の1個だけだ。

Edge0 はこの性質を使い、よく呼ばれる専門家を GPU の VRAM に置き、残りを PC の RAM に、さらに足りなければ SSD に置く。必要になった専門家だけを GPU に送るので、費用はモデル全体の大きさではなく、VRAM に置いている専門家の数で決まる、と公式の資料は説明している。

Edge0-145B の構成図。48層のトランスフォーマーで、各層は注意機構のあと、入力を小さな幅に圧縮し、512の専門家から10個を選び、共有の専門家と合わせて元の幅に戻す。右側に総パラメータ145B、トークンあたり10.12B、コンテキスト256Kなどの仕様がある(出典:Edge0-AI/Edge0、Apache-2.0)

145B は、Qwen3.8-Flash-Next をもとに作られ、4ビットで学習されている。専門家への入力を 2560 次元から 1792 次元に圧縮する「latent MoE」という構造で、専門家1つあたりの大きさを小さくしている。動かすエンジン(edge0-strata)は、Strata という OSS をもとにしたものだ。

項目 Edge0 145B Edge0 120B
総パラメータ 145B 120B
1トークンで動くパラメータ 10.12B 8.64B
専門家 各層512(10個+共有1個を使う) 同じ
コンテキスト 256K 256K
重みのサイズ(Q3_K) 40.81 GiB 27.98 GiB
重みのサイズ(NVFP4) 47.79 GiB 32.96 GiB

Edge0 145B に必要な機材とメモリ

話題になった「ノートパソコンのメモリ29GBで145Bが動く」という説明は、公式の資料からは確かめられなかった。公式の対応環境と、公表されている計測の構成は次のとおりだ。

環境 145B・120B への対応
Linux・Windows CUDA 13 の NVIDIA GPU
macOS Apple Silicon(Metal)。Q3_K 版だけ
iOS・Android 対象外(以前の 35B は対応)

公表されている計測のうち、最も小さい構成は「VRAM 16GiB・RAM 20GiB」だ。これは RTX 5090 D 24GB を cgroup で制限して測ったもので、別の GPU ではない。メモリを減らす設定として、RAM に置く専門家の上限を決める --resident-budget-gib と、置ききれない専門家を SSD から読む --mmap-experts がある。

VENDOR BENCHMARKEdge0 の公称値

145B(Q3_K)は RTX 5090 D で毎秒121トークン

RTX 5090 D 24GBエージェント用途の生成

121.2

RTX 4090 24GB同上

91.7

Apple M2 UltraMetal

57.0

VRAM 16GB+RAM 20GB5090 D を制限して計測

44.9

RTX Spark N1X 60GB同上

36.7
出典: docs/models/edge0-145b.md の Speed(tok/s、Agent decode、Edge0 自身の計測)。当サイトでは再計測していない

速さはすべて Edge0 自身の計測だ。品質の比較表では、145B が SWE 系やターミナル操作の評価で元の Qwen3.8-Flash-Next を上回るとしているが、これも当サイトでは確かめていない。

Edge0 を動かす手順

公式の手順では、エンジン(edge0-strata)と、起動用の edge0-infer を自分でビルドする。Windows と macOS には、モデルのフォルダを選ぶだけで使えるデスクトップアプリ(Edge0 Chat)も GitHub Releases にある。

git clone https://github.com/Edge0-AI/Edge0.git edge0

ビルドしたあと、edge0-infer/ で、ダウンロードしたモデルのフォルダを指定して起動する。OpenAI と Anthropic の形式の API が 127.0.0.1:8000 で開く。

build/cpu/bin/edge0-infer serve --model /path/to/Edge0-145B-q3k

起動したら、OpenAI 形式のエンドポイントに送って確かめる(公式の README の例)。

curl localhost:8000/v1/chat/completions -H 'content-type: application/json' -d '{"model":"edge0_145b","messages":[{"role":"user","content":"hi"}],"max_tokens":64}'

本記事で確かめたのは、リポジトリの取得と、資料・ライセンスの中身までだ。ビルド、起動、API の応答、速度は未検証で、上の起動とリクエストのコマンドは公式の README のものをそのまま載せている。

既存のツールとの違いは次のとおりだ。

  Edge0 Ollama・LM Studio llama.cpp
得意なこと 大きな MoE を小さな VRAM で 手軽に色々なモデルを動かす 細かく調整して動かす
対応モデル Edge0 用のモデルだけ 多数 多数(GGUF)
載せきれない分 専門家を RAM・SSD から流す CPU・RAM に回す(遅くなる) 層ごとに CPU に回す
ツールのライセンス コード Apache-2.0(モデルは独自) Ollama は MIT、LM Studio は無料の独自アプリ MIT

手軽さを優先するなら Ollamaとllama.cppの違い2026|ローカルLLMはどちらで動かすべきか徹底比較 や LM Studioとは?使い方をインストールから解説|モデル選び・lms・API・MCP・Ollamaとの違い の道具のほうが向いている。

Edge0 のライセンス:コードとモデルで違う

LICENSE使える範囲

オープンなのはコード。モデルには商用の制限がある

対象

条件

対象: フレームワークのコード

条件: Apache-2.0(自由に使える)

対象: モデル:個人・研究・社内利用

条件: Edge0 Community Model License で可

対象: モデル:生成物の商用利用

条件: 可

対象: モデル:推論サービス・有料配布・商用のコーディング支援

条件: Edge0 の書面の許可が必要

対象: 元になった Qwen の部分

条件: Qwen のライセンスにも従う

出典: Edge0-AI/Edge0 README の License(2026-11-14時点)。正確な条件はライセンス本文を参照

「オープンソース公開」と紹介されることが多いが、Apache-2.0 なのはフレームワークのコードだけだ。モデルの重みには Edge0 Community Model License 1.0 が付き、次の用途には Edge0 の書面の許可が要る。

・モデルの販売・有料配布:アダプタや差分、モデルを主な価値とする商用の組み合わせを含む
・商用のモデルサービス:料金・購読・広告などで成り立つ推論や微調整の提供
・独立した商用のコーディング支援・事務支援の製品:サーバーで動かすか利用者の端末で動かすかを問わない

元になった Qwen の部分には、Qwen Community License 1.0 も別に適用される。社内で試すだけなら問題は少ないが、製品に組み込むなら、ライセンス本文で条件を確かめてから使う。

参照ソース

・Edge0-AI/Edge0(GitHub)
・Edge0 145B and Edge0 120B(docs/models/edge0-145b.md)
・Edge0 Community Model License 1.0(GitHub)
・The Other Half of the Memory Wall: Serving 35B MoEs from SSD with Trained Routing Prediction(arXiv 2609.18063)