Персональный веб-сайт 🌐
На прошлой неделе потратил 16 часов на кодинг моего персонального веб-сайта. Осилил такие задачки:
-
Переход с LM Studio на Ollama для переводов текста на
иностранные языки и заголовков
- Основная причина для перехода: Ollama не тратит VRAM
-
Переход с модели Aya Expanse 8B -> Gemma 4 12B QAT
- Теперь модель более новая и мощная. Предыдущая модель была релизнута в 2024 году.
-
Переход с HTML на Markdown для хранения моих блог постов
- Теперь LLM лучше обрабатывает мои тексты, ибо LLM больше заточена под Markdown
- Основная причина для перехода: Раньше частенько были казусы с генерацией текста. Модель косячила и выдавала корявый HTML; либо пыталась преобразовать HTML в Markdown, хотя я об этом не просил.
Локальный LLM 🤖
В очередной раз пытался настроить локальный LLM для кодинга. На этот раз испробовал модель GPT OSS 20B. Модель рабочая, но отчасти слабая и косячная. К примеру, она сгенерировала мне Regex, но забыла добавить *\* для ? - ошибка дилетанта. В итоге, Regex не рабочий. Зато скорость радует: токенов в секунду получаю придостаточно, ибо вся модель помещается в VRAM 👌
Использую связку LM Studio + OpenCode.
Выходные пришли и ушли 🗓️🫡
В субботу и воскресенье насобирал в трекере довольно таки много часов. 8 + 8 = 16; значит, я прожил практически полный рабочий день в выходные. Впрочем, время прошло без напряжения, ибо задачки по моему проекту я делал очень медленно и расслабленно, с перерывами.
