Skip to content

README.ja.md

Latest commit

 

History

History
385 lines (274 loc) · 33 KB

README.ja.md

File metadata and controls

385 lines (274 loc) · 33 KB
Raw

Strata

English · 简体中文 · 日本語 · Deutsch · Français · Español · Português

最先端のモデルを、手元のゲーミングPCで動かす

NVIDIA、AMD、Intel に対応 · Windows、Linux、Mac · 無料のオープンソース

Latest release MIT license GitHub stars

A voxel pagoda garden that Strata's model wrote, running in the browser
ボクセルの塔の庭園。1回のプロンプトで生成し、RTX 5070 上の Strata で動かしています（IQ3_S、128K コンテキスト） · 動画全体（49秒）

Strata は Qwen3.8-Flash-Next を動かします。1250億パラメータのモデルで、 ふつうはサーバーが必要ですが、Strata なら一般的なPCで使えます。チャット、コード作成、画像の読み取りができ、 お使いのアプリやコーディングエージェントとも連携します。チャットとファイルはPCの外に出ません。

はじめての方へ。 まず必要な環境を確認して、アプリをインストールしてください。

  • ゲーミングPCで動きます。 RAMとグラフィックスメモリの合計が32 GBあれば始められます。
  • お使いのツールと連携します。 OpenAI と Anthropic の API に対応しているので、Claude Code、Codex CLI、OpenCode などのエージェントから接続できます。
  • 画像を読めます。 初期設定でオンです。
  • 無料です。 MIT ライセンス。アカウントもクラウドも不要です。
  • プライバシーを守ります。 テレメトリはありません。Strata が何をダウンロードするか、いつインターネットを使うか、ダウンロードをどう検証するかは docs/SAFETY.md に書いてあります。

バージョン 0.2.1 · エンジン 0.1.46

必要な環境

RAMとグラフィックスメモリ（VRAM）の合計が、少なくとも32 GB必要です。 MacやRyzen AI Maxでは、ユニファイドメモリがその量にあたります。 メモリが多いほど、大きなモデルを使えたり、速く動いたりします。

  • RAM 32 GBのPCに12〜16 GBのグラフィックスカードがあれば、Coder が動きます。
  • RAM 64 GBなら、どのサイズも動きます。
お使いのPC 詳細
NVIDIA GeForce RTX 20、30、40、50 シリーズ（12 GB以上） アプリまたはターミナル版をインストールしてください。
AMD Radeon RX 6800 以降、Radeon AI PRO R9700（12 GB以上） AMD のカード
Intel Arc Intel Arc、Intel エンジン
Apple Silicon の Mac（M1 以降、macOS 15 以降） Mac
AMD Ryzen AI Max（Strix Halo） などのユニファイドメモリ搭載機 Strix Halo
古いカードやプロセッサ 古いGPU、古いCPU

そのほかに必要なもの:

  • 約80 GBの空きディスク容量（SSDなら初回の起動がずっと速くなります）
  • Windows 10 / 11、Linux、または macOS
  • 最新のグラフィックスドライバー

同じメーカーのカードを2〜3枚使って、1つのモデルを動かせます（マルチGPU）。NVIDIA と AMD のカードにまたがってモデルを分けることはありません。 一覧は docs/INSTALL.md にあります。

インストール

3つの方法から1つ選んでください。どれも同じエンジンを起動し、同じモデルを使います。

方法A: Strata アプリ

いちばん簡単な方法です。エンジンはアプリに入っているので、インストールしてモデルを選べばチャットを始められます。お使いのOSとグラフィックスカードに合うファイルを リリースページからダウンロードしてください。どれか分からない場合は、表の下の説明を見てください。

OS グラフィックスカード ダウンロードするファイル
Windows 10 / 11 NVIDIA RTX、ドライバー 580 以降 Strata-0.2.1-windows-cuda13.exe
NVIDIA、古いカード、またはドライバーが 580 より古い場合 Strata-0.2.1-windows-cuda12.exe
AMD Radeon RX 9000 シリーズまたは Radeon AI PRO R9700 Strata-0.2.1-windows-hip.exe
AMD Radeon RX 7000 シリーズまたは Ryzen AI Max (Strix Halo) Strata-0.2.1-windows-hip-rdna3.exe
Linux NVIDIA RTX、ドライバー 580 以降 Strata-0.2.1-linux-nvidia-cuda13.AppImage
NVIDIA、古いカード、またはドライバーが 580 より古い場合 Strata-0.2.1-linux-nvidia-cuda12.AppImage
AMD Radeon RX 9000 シリーズまたは Radeon AI PRO R9700 Strata-0.2.1-linux-amd-rx9070.AppImage
AMD Radeon RX 7000 シリーズ Strata-0.2.1-linux-amd-rx7900.AppImage
AMD Ryzen AI Max (Strix Halo) Strata-0.2.1-linux-amd-strixhalo.AppImage
Mac（Apple Silicon、macOS 15 以降） 内蔵 Strata-0.2.1-mac.dmg

迷ったときは: NVIDIA の場合、ドライバーがバージョン 580 以降なら cuda13、それより古ければ cuda12 を選びます。cuda12 は古いカードと古いドライバー向けです。 hip と amd のファイルは AMD のカード用です。それ以外の AMD カード（RX 6000）には、まだ用意されたアプリがありません。 AMD のカードを見てください。

そのあとの手順:

  • Windows: .exe を実行します。ユーザー単位でインストールされ、管理者権限は不要です。「Windows によってPCが保護されました」と表示されたら、 詳細情報を選び、実行を選んでください（インストーラーにはまだコード署名がありません）。
  • Linux: ファイルを実行可能にして（chmod +x）起動します。FUSE 2 が必要です。sudo apt install libfuse2（Ubuntu 22.04） または libfuse2t64（Ubuntu 24.04 以降）を実行してください。
  • Mac: .dmg を開き、Strata を「アプリケーション」にドラッグします。

最初の画面で、アプリがPCを調べて合うモデルをすすめます。インストールを押してください。モデルは大きく（約40〜70 GB）、中断しても続きからダウンロードできます。 ウィンドウを閉じると、Strata とエンジンが止まります。

方法B: ターミナル（1行）

ターミナル版は strata コマンドです。スクリプトやサーバー、AI エージェント向けです。

Linux と Mac:

curl -fsSL https://github.com/Niko1221/Strata/releases/latest/download/install.sh | sh

Windows（PowerShell）:

irm https://github.com/Niko1221/Strata/releases/latest/download/install.ps1 | iex

スクリプトはPCを調べ、ターミナル版をダウンロードし、SHA-256 を検証して、ホームフォルダに展開します。管理者権限は不要です。Windows では、終わったら 新しいターミナルを開いてください。そのあと Strata を起動します。

strata launch

質問は1つずつ表示されます。モデル、コンテキスト、画像、接続を許可する相手の順です。そのあと、お使いのグラフィックスカード用のエンジン （署名付きで、使う前にテスト起動します）とモデルをダウンロードして、サーバーを開始します。スクリプトや AI エージェントからは、フラグを使います。

strata launch --model q2_0 --yes --no-tui

実行前にインストールスクリプトを読みたい場合は、先に curl -fsSL <address> -o install.sh でダウンロードし、内容を確認してから sh install.sh を実行してください。すべての画面とフラグは docs/TERMINAL_LAUNCH.md にあります。

方法C: AI にセットアップを任せる

Claude Code、Cursor、Codex、GitHub Copilot などのコーディングアシスタントに、次の文を貼り付けます。

Set up Strata on this PC for me: https://github.com/Niko1221/Strata - follow docs/AI_SETUP.md in that repository.

AI はグラフィックスカード、RAM、ディスクを調べ、合うモデルを選んで、インストールと起動をし、アプリの接続方法を教えてくれます。 AI ツールは MCP サーバーを通じて、Strata のインストール、起動、停止もできます。

自分でビルドしたい方はソースからビルドを見てください。

モデル

アプリと strata launch は、メモリ量に合うモデルをすすめます。モデルは1つで、圧縮の度合いが違う複数のサイズがあります。 小さいサイズは速く、大きいサイズは少し賢くなります。

メモリが少ないなら Gyro

Gyro（agentionai 製）は、このモデルをいちばん小さく動かせる方法です。

サイズ 必要なメモリ（RAM + VRAM） ダウンロード 内容
Gyro-S 27.6 GB 58.5 GB ほかのサイズが入らないPC向け。品質は IQ2_XS より下がります。
Gyro-M 35 GB 92.0 GB 品質は IQ3_XXS 程度で、GPUメモリの使用量は約20%少なくなります。12 GBのカードと R9700 では、回答の書き出しが Q2_0 より17〜21%遅くなります。

Gyro は NVIDIA と AMD のカードで動きます（AMD は実験的）。Intel Arc と Mac では動きません。詳細と測定結果は docs/GYRO.md にあります。strata launch --model gyro-s で起動します。

ほかのサイズ

メモリ（RAM + VRAM） 選ぶモデル 備考
32 GB Gyro-S、またはコード向けの Coder Coder はRAM 32 GBが必要で、エキスパートを半分だけ保持するため、コード以外は弱くなります
40 GB Swift 1.5 IQ2_XS（39.2 GB）、または Gyro-M（35 GB） Swift は答える前に考える時間が短くなります。Gyro-M は品質が IQ3_XXS に近いものの、回答の書き出しは Q2_0 より17〜21%遅くなります
48 GB IQ3_XXS（47.0 GB） 遅くなりますが、品質は上がります
64 GB IQ3_S（54.8 GB）、オリジナルまたは Swift 1.5 いちばん遅く、いちばん高品質です。公開されているテストでは完全版と同等です
96 GB 以上 Unsloth の UD-IQ4_XS（RAM 約72 GB）から Q8_0（約136 GB）まで、4〜8ビット 完全版に近づきます。RAM が足りないと、Strata は一部を SSD から読むため、ずっと遅くなります

表の行より RAM が少なくても動くことがあります。Strata は自動で低RAMモードに切り替わります。 速度は落ち、グラフィックスカードが小さいとさらに大きく落ちます。

そのほかの選択肢:

  • Swift 1.5 はファインチューン版で、答える前に考える時間が短くなります。品質と RAM の必要量はほぼ同じです。
  • NVFP4 は NVIDIA カード向けの NVIDIA 製4ビット版です。すべてのエキスパートを RAM に置くには、約80 GBの RAM が必要です。
  • Qwen3.6-35B-A3B は、より小さい別のモデルです。画像を読め、複数のリクエストに同時に答えられます。
  • OrcaRouter の Uncensored IQ3_XXS は手動で設定します。

すべてのサイズ、ダウンロード、どの構成で何が動くかは docs/MODELS.md にあります。

どのくらい速い？

12 GBのグラフィックスカード（RTX 5070、Ryzen 5 7600、RAM 64 GB）での数値です。ほかのカードの結果は 各モデルの速度、コミュニティの結果を見てください。

モデル 回答が出る速さ プロンプトを読む速さ
Q2_0 ████████████ 94 tokens/s ████████████ 2,650 tokens/s
IQ2_XS ██████████░░ 79 tokens/s █████████░░░ 2,090 tokens/s
IQ3_XXS ████████░░░░ 62 tokens/s ████████░░░░ 1,750 tokens/s
IQ3_S ███████░░░░░ 53 tokens/s ███████░░░░░ 1,620 tokens/s
Coder ███████░░░░░ 55 tokens/s ██████████░░ 2,180 tokens/s

1トークンは英単語の約¾にあたるので、毎秒60トークンは読む速さより速くなります。「プロンプトを読む速さ」は、長い文書やコード、チャット履歴を Strata が取り込む速さです。

16 GBの AMD カード（RX 9070 XT、Ryzen 9 3900X、RAM 47 GB）での測定値:

モデル 回答が出る速さ プロンプトを読む速さ
Q2_0 ████████░░░░ 60 tokens/s █████░░░░░░░ 1,160 tokens/s
IQ2_XS ███████░░░░░ 52 tokens/s █████░░░░░░░ 1,110 tokens/s
Coder ██████░░░░░░ 44 tokens/s ██████░░░░░░ 1,420 tokens/s

バーは2つの表で同じ目盛りです。VRAM が多いカードほど速くなり、RTX 3090（24 GB）なら毎秒100〜140トークンほどになるはずです。各数値のエンジンのバージョンは DETAILS.md にあります。

使い方

アプリで

アプリには、チャット、モデルとGPU・CPU・RAMの状態を見るモニター、モデルページ、設定があります。チャットはPC上のフォルダで作業できます。 手動モードでは、ファイルを変更したりコマンドを実行したりする前に確認します。/loop 10m <やること> と入力すると、チャットを開いている間、メッセージを10分ごとに繰り返し送ります。

チャットは DuckDuckGo（または Bing）でウェブ検索ができ、アカウントは不要です。設定、ツールで検索キーを追加することもできます。 検索は、PCの外に何かを送る唯一の機能で、送られるのは検索語です。

2つのモデルを動かすには、複数のモデルを実行をオンにして、それぞれのモデルに同じメーカーのカードを1枚ずつ割り当てます。

The Strata app: a chat where the agent built a small voxel pagoda garden, with the page open in the preview on the right
Strata アプリでのチャット。エージェントが小さなボクセルの塔の庭を 1 つの HTML ファイルとして書き、そのページが会話の横のプレビューで開きます

ターミナルで

The Strata Terminal monitor overview while the model writes a reply
モデルが返信を書いている間の strata monitor。速度、GPU、メモリ、最近のリクエストが表示されます

strata launch                                  # ガイド付きの画面: モデル、コンテキスト、画像、アクセス、そして開始
strata launch --model q2_0 --yes --no-tui     # 質問なし: 開始し、アドレスを表示して戻る
strata launch --plan --model q2_0              # 実行内容を表示するだけで、何も変更しない
strata launch --status                         # 今、何が動いているか
strata launch --stop                           # 停止する
strata monitor --url http://127.0.0.1:8080     # 速度、GPU、メモリ、リクエストを見る
strata update --check                          # 新しいエンジンがあるか確認（strata update でインストール）
strata doctor                                  # インストール済みのエンジンファイルを調べる

strata --help ですべてのコマンドを確認できます。起動とサーバーの稼働では、何もダウンロードしません。ダウンロードするのは、インストール、 strata launch（モデルを選んだとき）、strata update だけです。スマートフォンや別のPCから Strata に接続するには、 strata launch --access lan を使います。API キーが作られ、キーがない状態ではネットワーク上で起動しません。--open を付けない限り、ブラウザは開きません。 ガイド: docs/TERMINAL_LAUNCH.md。クライアント全体: docs/TERMINAL.md。

AI エージェントと使う

エージェントは、方法Bの1行コマンドで Strata をインストールし、 strata launch --model NAME --yes --no-tui を実行します。手順、フラグ、終了コードは docs/AI_SETUP.md に、 リポジトリのルールは AGENTS.md にあります。

ほかのアプリをつなぐ

アプリの種類 ベース URL
OpenAI 互換（ほとんどのアプリとエージェント） http://127.0.0.1:8080/v1（API キーもモデル名も何でも可）
Anthropic API（Claude Code など） http://127.0.0.1:8080、/v1 は付けません。これらのアプリは /v1/messages を自分で付けます。Claude Code: ANTHROPIC_BASE_URL=http://127.0.0.1:8080
OpenAI Responses API（Codex CLI） http://127.0.0.1:8080/v1/responses（設定方法）

strata connect は、OpenCode、Codex CLI、Claude Code、oh-my-pi、pi、Hermes Agent、OpenClaw の正確な設定を表示します。 strata connect opencode --write は、確認したうえでファイルを書き込み、バックアップを残します。

画像

画像を読めるモデルでは、画像は初期設定でオンです。チャットに画像を添付または貼り付けるか、アプリから送ってください。 グラフィックスカードが24 GB未満のときは、画像リーダーがプロセッサで動きます（画像1枚につき数秒、カードのメモリは使いません）。24 GB以上のときはグラフィックスカードで動きます。 このルールは NVIDIA と AMD で同じです。画像はモデルごとにオフにでき、--vision off、--vision gpu、--vision cpu でリーダーを選べます。

このルールの根拠となる数値です。Radeon AI PRO R9700 では、カードのリーダーは260トークンの画像に57 ms、プロセッサのリーダーは3.1秒かかりました。 16 GBのカード（Tesla P100 と RTX A4000、Linux）では、カードのリーダーを使うとテキストの速度が3〜5%下がりました。 本来モデルが使う約1.4 GBをリーダーが占めるためです。Mac ではメモリ量にかかわらず GPU が読み取ります（32 GB の M4 で260トークンの画像に0.45秒、共有メモリを約1.2 GB使います）。プロセッサでは1枚あたり約50秒かかるため、--vision cpu を指定したときだけ使います。

知っておくと便利なこと

  • 思考のレベル（off、low、medium、high）は、チャットのメニューか、お使いのアプリの「reasoning effort」で選びます。off がいちばん速くなります。
  • Strata は初期設定では、一度に1つのリクエストに答えます。同時に複数処理するには、strata launch で --parallel N を使うか、設定に "parallel": 2 を書きます（BATCHING.md）。12 GBのカードでは、1つずつの回答が遅くなります。
  • Strata はチャットの最初のメッセージを全文読みます。30,000トークンあたり約1分かかります。続きのメッセージは数秒で始まります。
  • チャットの保存場所と API 全体: docs/INSTALL.md、docs/DETAILS.md。

ソースからビルド

リポジトリから Windows、Linux、Mac 用にビルドする

Strata をダウンロードして展開するか、git clone します。 Windows: START-HERE.bat をダブルクリックします。Linux: Strata フォルダで ./setup.sh を実行します。

Mac（Apple Silicon、macOS 15 以降）: 最初に一度、xcode-select --install で Apple のコマンドラインツールをインストールします （Xcode 本体は不要です）。Strata フォルダでターミナルを開き、./setup.sh を実行します。Mac 用エンジンをお使いの Mac 上でビルドし （約7分）、同じ質問をして、モデルをダウンロードし、起動します。2回目以降は ./setup.sh ですぐに起動します。 お使いの Mac に合うサイズは docs/MAC.md を見てください。

インストーラーはカードを見つけて、合うエンジンを設定します。どのモデルとサイズにするか、コンテキストをどれだけにするか（モデルが一度に覚えておけるテキストの量）、 画像を読ませるかを聞かれます。おすすめの答えでよければ Enter を押します。そのあとモデル（約70 GB）をダウンロードして起動します。 ダウンロードが止まったら、もう一度実行すると続きから再開します。ブラウザで http://127.0.0.1:8080 の Strata ページが開きます。

モデルの起動中は、PCが1〜3分ほど（初回がいちばん長い）遅くなったり、応答しなくなったりすることがあります。Strata は35〜55 GBをRAMに読み込み、 その一部をグラフィックスカード用に固定するためです。ウィンドウを閉じずに待ってください。

次回からは START-HERE.bat（または ./setup.sh）をもう一度実行するだけです。すぐに起動し、同じものを2回ダウンロードすることはありません。ウィンドウを閉じるとモデルが止まります。 UPDATE.bat（./update.sh）は、起動せずに Strata を更新します。更新、Docker、複数のカード、ファイルの保存先、すべてのオプションは docs/INSTALL.md にあります。

PCの性能を測るには、BENCH.bat（./bench.sh）を実行します。5〜10分かかり、共有できるレポートが作られます （方法）。

オプション: モデル全体がRAMに入るとき、1枚のカードをさらに速くする。 RubenTorney による、自分でオンにする2つの設定です（#1904、#1905）。 グラフィックスカードが1枚で、RAM がすべてのエキスパートを保持できるときに効果があります。たとえば64 GBのPCでの Q2_0 や IQ3_XXS です。 Strata のデータフォルダにある strata-<model>.json（場所）を開いて、次を追加します。

  • "args" のリストに "--adapt-async", "1" を追加します。エキスパートキャッシュが、回答を止めずに補助スレッドで更新されます。 RTX 5070（Windows、Q2_0）での測定: デコードが4〜5%、コードや長い文書では7〜10%速くなりました。回答は初期設定と少し違うことがありますが、実行ごとの結果は変わりません。
  • "env" ブロックに "STRATA_PIN_BY_NEED": "1" を追加します（Windows）。Windows ではグラフィックスカード用に固定できる RAM が半分ほどしかありません。 この設定は、カードが最初に必要とするエキスパートを優先して固定します。RTX 5070 での測定: プロンプトの読み取りが4.4%速くなりました。
"args": [ ..., "--adapt-async", "1" ],
"env": { "STRATA_PIN_BY_NEED": "1" }

変更したら Strata を再起動してください。元に戻すには、2つの項目を削除します。

仕組み

このようなモデルは、ふつう数百GBのグラフィックスメモリを持つサーバーで動きます。お使いのグラフィックスカードは12〜24 GBです。Strata は、PC全体で作業を分担して、モデルを収めます。 図書館にたとえてみます。

  • モデルは、24,576人の小さな専門家（「エキスパート」）からなるチームです。24,576冊の参考書のようなものです。1つの単語に必要なのは、そのうち10冊だけです。
  • グラフィックスカードは机です。 小さくて速く、最もよく使う約4,000冊が開いて置いてあります。
  • RAM は閲覧室の書棚です。 24,576冊すべてがここにあります。単語に必要な本が机になければ、プロセッサがすぐに書棚から読み、その間もカードは作業を続けます。
  • SSD は書庫です。 29 GBの参照テーブルがしまってあります。モデルは単語ごとにその数行だけを読むので、RAM に置いておく必要はありません。

The model's 24,576 experts: the busiest on the graphics card, all of them in RAM, a lookup table on the SSD

小さな助手が、次の数単語も予想します。大きなモデルがそれをまとめて確認し、正しいものだけを残します。答えは同じで、1.6〜1.8倍早く返ります。 長い文章は、一度に最大8,192トークンの大きな塊で、毎秒1,000トークンを超える速さで読みます。

A small helper guesses the next words; the big model checks them all at once and keeps the right ones

詳しい説明は docs/HOW_IT_WORKS.md にあります。各部分と数値は 詳細と論文を見てください。

うまくいかないとき

  • Strata を初めて起動したときに、PCが固まりました。 モデルを RAM に読み込んでいます。ウィンドウを閉じずに待ってください。10分たっても固まったままなら、 PCを再起動し、ほかのプログラムを閉じてからもう一度試すか、小さいサイズを選んでください。
  • ダウンロードやインストールの途中で止まりました。 アプリか strata launch をもう一度起動するか、START-HERE.bat（または ./setup.sh）をもう一度実行してください。止まったところから再開します。
  • とても遅い、ディスクのランプが点滅し続ける、または「エンジンが予期せず停止しました」と表示される。 PCの空き RAM が足りません。 ほかのプログラムを閉じるか（ブラウザはメモリを多く使います）、Q2_0 や IQ2_XS のような小さいサイズを選んでください。
  • このPCに合うエンジンがないと表示される。 アプリでは、設定、エンジンを開いてエンジンを更新を押します。ターミナルでは strata update を実行します。strata doctor で、どのエンジンファイルがインストールされているか分かります。
  • ポート 8080 はすでに使われていると表示される。 Strata がすでに動いています。ウィンドウを探してください。

そのほかの問題と対処法は docs/TROUBLESHOOTING.md にあります。それでも解決しない場合は、 issue を作成してください。アプリでは、設定、エンジン、診断、ログを見る、ログを保存で作られるファイルを添付します。 ターミナルでは、strata doctor の出力を貼り付けます。ソースから動かしている場合は、Strata フォルダの strata-<model>.log を添付してください。 セキュリティ上の問題は、非公開で報告してください: SECURITY.md。

クレジットとライセンス

モデルは Qwen チームの Qwen3.8-Flash-Next です。圧縮は ISTA-DASLab、UkisAI（Swift 1.5）、agentionai（Gyro）、 Unsloth が行いました。Strata は llama.cpp / ggml の一部を使っています。すべてのクレジットは docs/HOW_IT_WORKS.md にあります。Strata は MIT ライセンスのオープンソースです。一部のコンポーネントと すべてのモデルには、それぞれのライセンスがあります（該当するもの）。

コントリビューション

バグを見つけた、変更やベンチマークを送りたい、という方は、先に CONTRIBUTING.md を読んでください。 ほかの人があなたの成果を確認できるように、何を書くべきかが説明してあります。

Strata を応援する

Strata は無料で、MIT ライセンスです。私が入手できるハードウェアで開発とテストをしています。お使いのPCで快適に動いたなら、コーヒー1杯分の支援は、 新しいカードのテストと、報告いただいた不具合の修正を続ける助けになります。無理のない範囲で大丈夫です。使って、気づいたことを報告してもらえるだけでも同じように助かります。

Buy Me A Coffee

Strata のスポンサーに関心がある方は、GitHub から連絡してください。