Entscheidungshilfe
Erst die Aufgabe. Dann die Hardware.
Eine gute lokale KI-Entscheidung beginnt mit Modell, Kontext, Nutzerzahl und Zielgeschwindigkeit — nicht mit dem Datenblatt.
Ich habe Hardware
Prüfe, welche Modelle und Kontexte darauf realistisch laufen.
Ich will kaufen
Vergleiche NVIDIA, AMD, Apple, CPU, NPU und Edge nach Aufgabe.
Ich brauche ein Setup
Starte mit Budget-, 24-GB-, Dual-GPU- oder Apple-Profilen.
Kurzantwort
Für 7–8B Q4 reichen oft 12 GB. Für 14B sind 16–24 GB praktisch. Für 32B Q4 plane 32 GB oder mehr. Für 70B Q4 brauchst du typischerweise 48–64 GB schnellen Speicher — plus Reserve für Kontext und Nutzer.