Meine persönliche Website 🌐
Letzte Woche habe ich 16 Stunden damit verbracht, meine persönliche Website zu programmieren. Dabei habe ich folgende Aufgaben bewältigt:
-
Wechsel von LM Studio zu Ollama für die Übersetzung von
Texten und Überschriften in Fremdsprachen
- Hauptgrund für den Wechsel: Ollama verbraucht keinen VRAM
-
Wechsel vom Modell Aya Expanse 8B zu Gemma 4 12B QAT
- Das aktuelle Modell ist neuer und leistungsstärker. Das vorherige Modell wurde erst 2024 veröffentlicht.
-
Wechsel von HTML zu Markdown für die Speicherung meiner
Blogposts
- Jetzt verarbeitet das LLM meine Texte besser, da LLMs stärker auf Markdown optimiert sind.
- Hauptgrund für den Wechsel: Früher gab es oft Probleme bei der Textgenerierung. Das Modell hat Fehler gemacht und unsauberes HTML ausgegeben oder versuchte, HTML in Markdown umzuwandeln, obwohl ich das nicht angefordert hatte.
Lokales LLM 🤖
Ich habe erneut versucht, ein lokales LLM für die Programmierung einzurichten. Diesmal habe ich das Modell GPT OSS 20B ausprobiert. Das Modell funktioniert zwar, ist aber teilweise schwach und fehleranfällig. Zum Beispiel hat es mir einen Regex generiert, aber vergessen, das *\* für das ? hinzuzufügen – ein Anfängerfehler. Infolgedessen funktioniert der Regex nicht. Aber die Geschwindigkeit freut mich: Ich erhalte ausreichend Tokens pro Sekunde, da das gesamte Modell in den VRAM passt 👌
Ich verwende die Kombination aus LM Studio + OpenCode.
Das Wochenende ist vorbei 🗓️🫡
Am Samstag und Sonntag habe ich im Tracker ziemlich viele Stunden gesammelt. 8 + 8 = 16; das bedeutet, ich habe am Wochenende fast einen kompletten Arbeitstag verbracht. Die Zeit ist jedoch ohne Stress verstrichen, da ich die Aufgaben für mein Projekt sehr langsam und entspannt mit Pausen erledigt habe.
