Zeit für mein wöchentliches Logbuch
-= LeetCode =-
Diese Woche habe ich 13 Aufgaben gelöst:
- 188. Best Time to Buy and Sell Stock IV 📘 TypeScript
- 189. Rotate Array 📘 TypeScript
- 190. Reverse Bits 📘 TypeScript
- 191. Number of 1 Bits 📘 TypeScript
- 192. Word Frequency 🐧 BASH
- 193. Valid Phone Numbers🐧 BASH
- 194. Transpose File 🐧 BASH
- 195. Tenth Line 🐧 BASH
- 196. Delete Duplicate Emails 🔰 SQL
- 197. Rising Temperature 🔰 SQL
- 198. House Robber 📘 TypeScript
- 199. Binary Tree Right Side View 📘 TypeScript
- 200. Number of Islands📘 TypeScript
Es stellt sich heraus, dass es auf LeetCode Aufgaben gibt, die in der Programmiersprache BASH gelöst werden müssen 🧐 Für mich war das eine Überraschung.
-= KI =-
Ich generiere weiterhin verschiedene Dinge für mich selbst, lade sie aber nirgendwo hoch. Vor einiger Zeit habe ich von Quantisierungen (Quants) für KI-Modelle erfahren. Das bedeutet, dass es nicht zwingend erforderlich ist, die Originalversion des Modells zu verwenden. Wenn man sucht, kann man im Internet verschiedene Versionen finden, die mit einer bestimmten Anzahl von Bits kompiliert wurden:
- fp16, fp8
- Q8, Q6, Q4, Q3, Q2
Die Zahl gibt die Anzahl der Bits an, und viele Modelle können in der Q4-Version fast ohne Qualitätsverlust verwendet werden. Diese Version ist halb so groß wie fp8 und viertel so groß wie fp16 😏 Der einzige Nachteil ist, dass man diese Versionen auf den „Dateimüllhalden“ von Huggingface und CivitAI suchen muss und darauf hoffen muss, dass ein netter User die gewünschte Zusammenstellung im passenden Format erstellt und hochgeladen hat. Aus meiner Erfahrung ist es für die beste Qualität vorteilhafter, ein starkes Modell in Q4 zu wählen als ein schwaches in Q8 oder fp16. Bei den Stufen Q3 und darunter beginnen jedoch Artefakte und Halluzinationen 🥵
-= Ziele für Januar =-
- Bis zur Aufgabe Nummer 200 auf LeetCode gelangen, mindestens ✅ erledigt
- Eine neue Funktion für meine persönliche Webseite schreiben: 🔎 Textsuche über alle Beiträge ⌛ noch zu tun
- Alle meine Cloud-Dateien und deren Backups sortieren ⌛ noch zu tun
