Hilfe für Offgrid Coder
Die App ist in Entwicklung. Diese Seite beschreibt die vorbereitete erste Version.
Mac und Editor einrichten
Dieselbe Anleitung steht in der App unter „Mac & VS Code einrichten“ und zeigt dort, welche Schritte bereits erledigt sind.
- Offgrid Coder Companion laden, die Datei öffnen, „Offgrid Coder Companion“ in „Programme“ ziehen und von dort starten.
- iPad per USB-C-Kabel verbinden, entsperren und „Diesem Computer vertrauen“ bestätigen.
- Koppeln: am iPad „Kopplungscode zeigen“, im Companion unter „Gateway & Kopplung“ den Code eingeben und „Koppeln“ wählen.
- Am iPad unter „Server“ ein Modell wählen, „Server starten“ tippen und warten, bis READY angezeigt wird.
- Im Companion unter „Gateway & Kopplung“ das Loopback-Gateway mit „Starten“ einschalten. Es läuft dann auf
http://127.0.0.1:18080/v1. - In Visual Studio Code unter „Erweiterungen“ die Erweiterung „Continue“ installieren.
- Im Companion unter „Einrichtung“ „Vom Gateway holen“, dann „Reiseprofil einrichten“ und „Sichern und schreiben“ wählen. Deine bisherige Continue-Konfiguration wird vorher gesichert; „Rollback“ stellt sie wieder her.
- In Visual Studio Code das Continue-Symbol öffnen und im Modellwähler „Offgrid Coder (…)“ wählen – dasselbe Modell, das am iPad läuft. Eine Anmeldung ist nicht nötig.
- Frage stellen.
Andere Werkzeuge lassen sich von Hand anbinden: Anbieter „OpenAI-kompatibel“, Adresse http://127.0.0.1:18080/v1, als Schlüssel das lokale Gateway-Token aus dem Companion.
Modelle laden und importieren
Aus dem Katalog: am iPad unter „Server“ bei den Modellen „Aus Katalog laden“. Das ist die einzige Stelle, an der die App das Internet nutzt; die Dateien kommen von huggingface.co und werden per SHA-256 geprüft.
Ohne Internet: iPad per Kabel an den Mac, im Finder das iPad wählen, Reiter „Dateien“, den Modellordner auf „Offgrid Coder“ ziehen. Die App bietet den Ordner dann zum Import an und fragt danach, ob die Kopie in der Dateifreigabe gelöscht werden soll. Der Ordner muss ein Modell im MLX-Format mit config.json enthalten.
Welches Modell passt?
- Qwen3.5 9B – Empfehlung für Code, mit langem Kontext und Werkzeugaufrufen. Braucht ein iPad mit viel Arbeitsspeicher.
- Qwen2.5 Coder 7B – Coding-Modell, etwas genügsamer.
- Qwen3 4B – schnell, auch für iPads mit weniger Arbeitsspeicher.
- Qwen3 0.6B – nur für den Funktionstest.
Die App prüft vor jedem Start, ob das gewählte Modell samt Ladespitze in den Arbeitsspeicher passt, und lehnt den Start sonst mit einer Begründung ab. Andere Apps zu schließen schafft Platz.
Kopplung
Die Kopplung läuft über das USB-C-Kabel. Der Code ist 120 Sekunden gültig und erlaubt höchstens fünf Versuche. Ein iPad ist mit genau einem Mac gekoppelt; eine neue Kopplung ersetzt die alte.
Im Betrieb
- Offgrid Coder bleibt im Vordergrund. Wechselst du die App oder sperrst das Display, pausiert iPadOS den Server.
- Ein Netzteil ist empfohlen. Bei Hitze oder knappem Akku hält der Ressourcenschutz das Modell an und zeigt einen Alarm mit Ursache und Empfehlung.
- Es wird eine Anfrage zur gleichen Zeit bearbeitet; eine zweite erhält den Hinweis „Belegt“.
- Nach längerer Inaktivität stoppt der Server von selbst. „Server starten“ lädt das Modell neu.
- Unter Dauerlast drosselt iPadOS die Leistung; die Antworten werden dann langsamer, bleiben aber vollständig.
Wenn es nicht klappt
- Der Editor erreicht nichts unter 127.0.0.1:18080: Im Companion das Gateway mit „Starten“ einschalten.
- „401“ oder „Unauthorized“: Im Companion „Reiseprofil einrichten“ erneut ausführen – das Gateway-Token hat sich geändert.
- „Message exceeds context limit“: ebenfalls „Reiseprofil einrichten“ erneut ausführen, damit Continue die Kontextgrenze des laufenden Modells kennt.
- „Modell nicht geladen“: In Continue das Modell wählen, das am iPad läuft.
- Keine Antwort: Läuft der Server am iPad (READY)? Ist die App im Vordergrund und das Display entsperrt? Steckt das Kabel?
- Antwort bricht bei sehr langen Anfragen ab: Bleibt die Erzeugung 60 Sekunden ohne Fortschritt stehen, endet die Anfrage mit einer Teilantwort. Kürzere Anfrage stellen oder weniger Dateien als Kontext mitgeben.
- Modell startet nicht: Die Vorprüfung nennt den Grund – meist zu wenig freier Arbeitsspeicher oder eine beschädigte Datei (Prüfsumme). Im zweiten Fall das Modell neu laden.
Daten löschen
„Alle Chats löschen“ entfernt gespeicherte Unterhaltungen. Modelle lassen sich einzeln in der Modellliste löschen. Wer die App entfernt, löscht alles: Modelle, Kopplung und Verlauf.
Kontakt
Fragen, Fehler oder Ideen: info@zerfas.de. Bitte iPad-Modell, iPadOS-Version, App-Version und das verwendete Sprachmodell nennen – aber keinen vertraulichen Quelltext mitschicken.