Es ist wieder Zeit für das wöchentliche Tagebuch. In meiner Freizeit habe ich fleißig Ordnung in mein Kubernetes gebracht. Ich habe etwa 8 Stunden für die Aufgaben aufgewendet.
Caddy -> Traefik 🦫
Ich habe den Webserver in meinem Kubernetes-Cluster ausgetauscht. Früher: Caddy, jetzt: Traefik. Der Hauptvorteil dieses Wechsels ist: Traefik ist tiefer in k3s und Kubernetes integriert. Er wird standardmäßig “out of the box” installiert und hört auf Port 80. Die Konfiguration muss in YAML-Dateien definiert werden. Wir lieben YAML-Dateien alle, oder? Ich habe auch noch eine Zwischenkonfiguration mit Nginx ausprobiert, aber die Anfragen waren darauf langsamer, obwohl ich eine Beschleunigung erwartet hatte.
HTTP-Anfragen pro Sekunde:
- Caddy: 310
- Nginx: 250
- Traefik: 310 ◀️ hier sind wir jetzt
Pi.dev 🟦
Ich nutze aktiv eine neue (für mich) Software für LLM-Coding. Das Programm heißt pi.dev und arbeitet in Kombination mit dem lokalen Modell Qwen 3.6 27B. Der Hauptunterschied zu anderen Programmen ist die Einsparung von Kontext. Der ursprüngliche System Prompt ist sehr klein, fast leer.
Vergleich der Token im System Prompt:
- GitHub Copilot: 15k
- OpenCode: 10k
-
Pi.dev: 1k
- Subagent-Modus: 4k
Je kleiner der System Prompt ist, desto mehr Kontext bleibt für die Aufgabe übrig. Bei einem lokalen Ansatz ist das besonders wichtig, da der Speicher auf heimischen Grafikkarten ständig nicht ausreicht. Beide Migrationen (Nginx und Traefik) habe ich mit pi.dev programmiert 🐈
Ob der Subagent-Modus einen Nutzen hat – dazu bin ich noch nicht entschieden. Theoretisch sollte er nützlich sein, aber oft habe ich das Gefühl, dass der Agent in diesem Modus eher dummagliert. Der „einfache“ Modus hingegen, bei dem der Agent alle Daten in einen großen Kontext lädt, läuft stabiler.
Außerdem nutze ich noch diesen Hack: Alle grundlegenden Unix-Befehle habe ich in den PATH aufgenommen, obwohl ich unter Windows arbeite. Das ermöglicht es dem LLM-Agenten, einfacher zu arbeiten. Übrigens kann der Agent in pi.dev beliebige Befehle ohne Bestätigung ausführen, daher ist es besser vorsichtig zu sein und genau zu beobachten, was er tut 🖥️🧐
