Silicon Optimizer: Lokale KI passend zu deinem Mac planen und starten

Zuerst klären, was auf deinem Mac wirklich läuft

Silicon Optimizer setzt nicht bei einer weiteren Modellliste an, sondern bei der praktischen Frage: Was kann dieser Mac betreiben, ohne raten zu müssen? Der Planer liest Chip, Arbeitsspeicher, GPU-Kerne und Speichereigenschaften aus und schätzt ab, wie ein Modell auf die Maschine passt.

So lassen sich Speicherbedarf, Kontextlänge und erwartete Geschwindigkeit vergleichen, bevor ein großer Download beginnt. Die App kann ein starkes Modell empfehlen, lässt dir aber die Wahl und ermöglicht eigene Anpassungen.

Katalog und Modelle von Hugging Face durchsuchen

Der eingebaute Katalog ist ein kuratierter Einstieg für Apple-Silicon-Macs. Silicon Optimizer gleicht die Kandidaten mit dem Ressourcenbudget deines Rechners ab, statt nur auf die angegebene Modellgröße zu schauen.

Auch GGUF-Modelle auf Hugging Face lassen sich durchsuchen. Laut Projekt liest die App zunächst den Dateikopf, um Architektur und Speicherbedarf einzuschätzen, bevor sie die vollständigen Gewichte lädt. So kannst du ein unbekanntes Modell prüfen, bevor mehrere Gigabyte heruntergeladen werden.

Lokaler Chat mit Werkzeugen statt bloßem Eingabefeld

Im Chat-Tab gibt es einen einfachen lokalen Chat und Agenten-Harnesses. Die README nennt den integrierten Modus, DeepSeek Harness als Standard, Codex und Qwen Code. Damit können Agenten Webseiten abrufen und durchsuchen, Dateien in einem ausgewählten Ordner lesen oder bearbeiten und Befehle ausführen.

Für Codex und Qwen Code beschreibt das Projekt Bestätigungen vor Befehlen und Dateiänderungen. Das ist nützlich, wenn ein Agent an einem lokalen Projekt arbeitet, aber lokale Ausführung ist nicht automatisch risikofrei: Prüfe jede angeforderte Aktion.

llama.cpp für die Inferenz und Node.js für den Harness-Chat sind in der App enthalten. Der einfache lokale Weg benötigt daher keine separate Engine und keinen API-Schlüssel. Suche und optionale externe Anbieter haben eigene Netzwerk- und Zugangsvoraussetzungen.

Mit Expert Streaming den Speicher weiter ausreizen

Bei unterstützten Mixture-of-Experts-Modellen kann llama.cpp Expert Streaming einsetzen: Nur ausgewählte Experten bleiben im Speicher, weitere werden bei Bedarf von der Festplatte gelesen. Das Projekt beschreibt damit ein 117-GB-Modell auf einem Mac mit 36 GB RAM. Das ist ein spezieller Kompromiss und kein Versprechen, dass jedes große Modell schnell läuft.

Im erweiterten Modus kannst du unter anderem Kontextlänge, Cache-Präzision, Batchgröße, GPU-Layer, Threads und Expert-Slots anpassen. Der Speicherplan reagiert auf Änderungen und markiert nicht mögliche Kombinationen, bevor der Ladevorgang startet.

Bild, Audio, Video und 3D über Text hinaus

Zum Funktionsumfang gehören lokale Bildgenerierung, Sprachsynthese, Musik und Soundeffekte, Spracherkennung sowie 3D-Modelle aus Bildern. Welche Funktionen verfügbar sind, hängt von Modell und Backend ab; Modellgewichte können viel Speicherplatz belegen.

Einige Funktionen benötigen zusätzliche Einrichtung. MLX-LM ist als optionale Sprachmodell-Engine aufgeführt, MFLUX für die Bildgenerierung. Video kann einen separaten lokalen Node und externe Modellgewichte verwenden. Diese Erweiterungen sind nicht automatisch direkt nach der Installation einsatzbereit.

Für Video und Porträtanimation kann ein gekoppelter Windows-PC mit NVIDIA-GPU die aufwendigen Renderings übernehmen. Bei 3D-Modellen zeigt der integrierte Viewer das Ergebnis; eine Turntable-Animation oder ein Standbild lässt sich in die Zwischenablage kopieren.

MCP-Clients und eigene Rechner verbinden

Silicon Optimizer enthält eine MCP-Brücke. Damit können kompatible Assistenten die Mac-Hardware abfragen, Modelle suchen und laden, den Status prüfen oder das lokale Modell verwenden. Das Repository dokumentiert unter anderem Claude Desktop, Claude Code und Codex.

Für den Fernzugriff verwenden Silicon Buddy und die Swarm-Funktionen ein Tailscale-Netzwerk, statt die Steuerungs-API des Macs im öffentlichen Internet freizugeben. Diese Funktionen sind optional. Aktiviere sie erst, wenn klar ist, welches gekoppelte Gerät oder welcher Node welche Werkzeuge erreichen darf.

Lokal ausgerichtet heißt nicht vollständig offline

Wenn du ein Modell auswählst, das auf dem Mac läuft, kann die Inferenz lokal bleiben. Das Herunterladen der Modellgewichte benötigt jedoch eine Netzwerkverbindung; auch Webseitenabruf und Suche greifen auf das Internet zu.

Zusätzlich gibt es optionale Wege über TypeSafe-Entscheidungen, externe Anbieter und Nodes auf anderen Rechnern. Ausgewählte Anfragen können dabei den Mac verlassen; TypeSafe wird nach Nutzung abgerechnet. Prüfe vor sensiblen Aufgaben Anbieter und Routing, und wähle bei Bedarf ausschließlich lokale Verarbeitung.

Die App ist nicht sandboxed, weil sie Engines aus wählbaren Pfaden startet und Modelldateien lesen muss. Sie ist ein leistungsfähiges lokales Werkzeug mit Zugriff auf freigegebene Dateien und Befehle, kein eingeschränkter Viewer.

macOS 14+ und der offizielle Download v0.5.0

Benötigt wird ein Apple-Silicon-Mac ab M1 mit macOS 14 oder neuer. Für diese App und diesen Entwickler wurde kein passender Mac-App-Store-Eintrag gefunden. Der vorgesehene Installationsweg führt daher zum offiziellen GitHub-Release, nicht zu einer ähnlich benannten fremden App.

Lade die offizielle DMG-Datei v0.5.0 herunter oder lies die Release-Notizen v0.5.0. Öffne die DMG und verschiebe Silicon Optimizer.app in den Programme-Ordner. Laut Homebrew-Cask des Projekts soll das Release Gatekeeper passieren. Wenn macOS es blockiert, die Warnung nicht umgehen, sondern erneut herunterladen und den Fehler dem Projekt melden.

MIT für den App-Code, eigene Lizenzen für Modelle

Der Quellcode der App steht unter der MIT-Lizenz. Modell-Dateien und gebündelte Komponenten können andere Bedingungen haben; das Projekt nennt etwa die Gemma-Nutzungsbedingungen und die Llama Community License. Prüfe die jeweilige Lizenz, bevor du ein Modell weitergibst oder kommerziell verwendest.

Aktuelle Installationshinweise und Grenzen findest du im Repository und in der README von Silicon Optimizer, im offiziellen Release v0.5.0 und in der Lizenzdatei.

# Download the official v0.5.0 DMG:
open https://github.com/OGZamasu/silicon-optimizer/releases/download/v0.5.0/Silicon.Optimizer.dmg

# Open the DMG and move Silicon Optimizer.app to /Applications.