Silicon Optimizer：Macに合わせてローカルAIを選び、動かす

まずはMacで実際に動かせる範囲を知る

Silicon Optimizerは、モデル一覧を眺めるより先に「このMacで無理なく動かせるのはどれか」を考えるためのアプリです。チップ、メモリ、GPUコア、ストレージの情報を読み取り、候補モデルがどの程度収まるかを計画します。

大きなモデルをダウンロードする前に、メモリ使用量、コンテキスト長、速度の目安を比較できます。アプリが有力な候補を提案しても、別のモデルを選んだり設定を調整したりする余地は残されています。

内蔵カタログとHugging Faceのモデルを探す

Appleシリコン向けに選ばれたモデルカタログが、最初の候補を探す助けになります。単にモデルの公称サイズを見るのではなく、手元のMacのリソース枠に照らして、実用的に動かせそうなモデルを比べられます。

Hugging Face上のGGUFモデルも検索できます。プロジェクトによると、完全な重みを取得する前にモデルファイルのヘッダーを読み、構造と必要メモリを推定します。数GBのダウンロードを始める前に、未知のモデルが候補になるか確かめられます。

単なる入力欄ではない、ツールを使うローカルチャット

Chatタブでは素のローカルチャットのほか、エージェント用ハーネスを選べます。READMEには内蔵モード、既定のDeepSeek Harness、Codex、Qwen Codeが記載されています。ハーネスを使うと、Webページの取得や検索、指定フォルダ内のファイルの閲覧・編集、コマンド実行が可能です。

CodexやQwen Codeでは、コマンドやファイル変更の前に承認を求める仕組みが案内されています。ローカルのプロジェクトをエージェントに扱わせる際に便利ですが、ローカル実行だから安全と決めつけず、要求された操作を確認してください。

推論用のllama.cppとハーネスチャット用のNode.jsはアプリに同梱されており、基本的なローカル利用で別エンジンやAPIキーを用意する必要はありません。検索機能や任意の外部プロバイダーには、別途ネット接続や認証情報が必要です。

エキスパートストリーミングと詳細なメモリ調整

対応するMixture of Expertsモデルでは、llama.cppのエキスパートストリーミングを使い、一部をメモリに置き、必要な重みをディスクから読む方式を利用できます。READMEは36 GBのMacで117 GB級のモデルを動かす例を挙げていますが、特殊なトレードオフであり、どの大型モデルも快適に動くという保証ではありません。

詳細設定ではコンテキスト長、キャッシュ精度、バッチサイズ、GPUレイヤー、スレッド数、エキスパート枠などを調整できます。変更に応じてメモリ計画が更新され、実行できない組み合わせはモデルの読み込み前に警告されます。

テキストの先にある画像・音声・動画・3D

このワークベンチには、ローカル画像生成、音声合成、音楽や効果音、音声認識、画像からの3D生成も含まれます。利用できる機能はモデルとバックエンドによって異なり、モデルの重みで大きなディスク容量を使うこともあります。

一部の機能には追加準備が必要です。MLX-LMは任意の言語モデルエンジン、MFLUXは画像生成用として案内されています。動画生成では別のローカルノードや外部モデルの重みを使う場合があります。アプリを入れればすべての制作機能がすぐ使える、という意味ではありません。

動画やポートレートアニメーションでは、NVIDIA GPUを搭載したWindows PCをペアリングし、重い描画を任せることもできます。3D生成では、作成したメッシュを内蔵ビューアで回転させ、ターンテーブル画像やスナップショットをコピーできます。

MCPクライアントや別のマシンとつなぐ

Silicon OptimizerにはMCPブリッジがあり、対応するアシスタントからMacのハードウェアを調べたり、モデルを検索・読み込みしたり、状態を確認したり、ローカルモデルを使ったりできます。リポジトリではClaude Desktop、Claude Code、Codexなどへの設定方法を説明しています。

リモートアクセスでは、Silicon Buddyやswarm機能がTailscaleネットワークを使い、Macの制御APIを一般のインターネットへ公開しない設計です。これらは任意機能です。どのペア端末やノードが何にアクセスできるかを理解してから有効にしてください。

ローカル中心でも、すべてがオフラインではない

Mac上で動くモデルを選べば、推論はローカルで完結できます。一方、モデルの重みをダウンロードするにはネット接続が必要で、Webページの取得や検索も当然インターネットを使います。

TypeSafeによる判断、外部プロバイダー、別マシンのノードといった任意の経路もあります。選んだリクエストがMacの外へ送られる場合があり、TypeSafeは従量課金です。機密情報を扱う前にプロバイダーとルーティング設定を確認し、ローカル限定が必要ならローカル設定を選んでください。

任意の場所にあるエンジンを起動し、モデルファイルを読むため、アプリはサンドボックス化されていません。承認するファイルやコマンドにアクセスできる強力なローカルツールとして扱い、制限されたビューアと混同しないことが大切です。

macOS 14以降、公式v0.5.0 DMGから導入

AppleシリコンのM1以降を搭載し、macOS 14以降を実行するMacが必要です。このアプリと開発者に対応するMac App Store版は見つかりませんでした。そのため、同名の別アプリではなく公式GitHub Releaseを主な導入先にします。

公式v0.5.0 DMGをダウンロードするか、v0.5.0のリリース情報を確認してください。DMGを開き、Silicon Optimizer.appをアプリケーションフォルダへ移動します。プロジェクトのHomebrew caskはReleaseがGatekeeperを通過する想定で、警告を回避せず、再ダウンロードして問題を報告するよう案内しています。

アプリはMIT、モデルには個別のライセンス

アプリのソースはMITライセンスで公開されています。一方、モデルや同梱コンポーネントには別の条件があり、プロジェクトはGemma Terms of UseやLlama Community Licenseなどを案内しています。モデルを再配布・商用利用する前に、それぞれのライセンスを確認してください。

導入方法と機能の境界はSilicon OptimizerのリポジトリとREADME、公式v0.5.0 Release、ライセンスファイルで確認できます。

# Download the official v0.5.0 DMG:
open https://github.com/OGZamasu/silicon-optimizer/releases/download/v0.5.0/Silicon.Optimizer.dmg

# Open the DMG and move Silicon Optimizer.app to /Applications.