Inhalt
- Aktuelle Produkte
- Grafikkarte
- Prozessor
- Mainboard
- Arbeitsspeicher (RAM)
- SSD / Speicher
- Netzteil
- Kühlung
- Benötigte Software
Grafikkarte
Für lokale KI ist vor allem der verfügbare VRAM entscheidend. Je größer das Modell, desto mehr Grafikspeicher wird benötigt. Deshalb sollte die Auswahl nach dem geplanten Einsatz erfolgen – nicht nur nach dem Preis oder der Gaming-Leistung.
Wie viel VRAM brauchst du?
| VRAM | Geeignet für |
|---|---|
| 8 GB | Kleine Modelle, erste Tests und einfache lokale KI |
| 12 GB | Guter Einstieg für viele kleinere und mittlere Modelle |
| 16 GB | Mehr Spielraum für größere Modelle und längere Kontexte |
| 24 GB | Sehr gut für größere lokale Modelle und anspruchsvollere Nutzung |
| 32 GB+ | Workstations, große Modelle und spezielle KI-Systeme |
Worauf du bei der Grafikkarte außerdem achten solltest
- CUDA-/Software-Unterstützung
- Speicherbandbreite
- Stromverbrauch
- Netzteil-Anforderungen
- Kühlung
- Größe der Grafikkarte
- Treiber-Unterstützung unter Linux/Windows
Prozessor (CPU)
Für lokale KI muss die CPU nicht das teuerste Modell sein. Wichtiger sind genügend Kerne, eine aktuelle Architektur und genug Leistung für Datenvorbereitung, Hintergrundprozesse und CPU-Offloading.
Worauf du bei der CPU achten solltest
- Anzahl der Kerne / Threads
- Aktuelle CPU-Architektur
- PCIe-Unterstützung
- Stromverbrauch / TDP
- Kompatibilität zum Mainboard
- Leistung bei CPU-Offloading
Mainboard
Das Mainboard entscheidet vor allem darüber, welche CPU, wie viel RAM und wie viele Erweiterungskarten du später nutzen kannst. Für einen KI-Rechner sind genügend PCIe-Steckplätze und gute Erweiterungsmöglichkeiten besonders wichtig.
Worauf du beim Mainboard achten solltest
- Passender CPU-Sockel
- Genügend PCIe-Steckplätze
- PCIe-Version und Lane-Aufteilung
- Maximale RAM-Kapazität
- Anzahl der M.2-Steckplätze
- Ausreichend Anschlüsse für Lüfter und Pumpen
- Genügend Platz zwischen den PCIe-Slots für große GPUs
Arbeitsspeicher (RAM)
Für lokale KI ist genügend Arbeitsspeicher wichtig, besonders wenn Modelle teilweise auf den RAM ausgelagert werden oder mehrere Dienste gleichzeitig laufen. 32 GB sind ein guter Einstieg, 64 GB bieten deutlich mehr Spielraum.
Wie viel RAM brauchst du?
| RAM | Geeignet für |
|---|---|
| 32 GB | Guter Einstieg für kleinere lokale Modelle und normale Nutzung |
| 64 GB | Sehr guter Allrounder für lokale KI und mehrere Dienste gleichzeitig |
| 128 GB | Für größere Modelle, starkes CPU-Offloading und umfangreiche Workloads |
| 256 GB+ | Für Workstations, sehr große Modelle und spezielle KI-Systeme |
SSD / Speicher
KI-Modelle brauchen schnell viel Speicherplatz. Eine NVMe-SSD sorgt dafür, dass Modelle, Daten und Container schnell geladen werden. Für einen KI-Rechner sind 1 TB ein brauchbarer Einstieg, 2 TB oder mehr meist deutlich angenehmer.
Worauf du bei der SSD achten solltest
- NVMe statt SATA für schnellen Zugriff
- Mindestens 1 TB Kapazität
- Besser 2 TB oder mehr bei vielen Modellen
- Hohe Lese-/Schreibgeschwindigkeit
- Ausreichende TBW / Haltbarkeit
- Passender M.2-Steckplatz auf dem Mainboard
- Kühlung / Heatsink bei schnellen NVMe-SSDs
Netzteil
Das Netzteil sollte genügend Leistung und Reserven für CPU und Grafikkarte bieten. Gerade leistungsstarke GPUs können kurzfristig hohe Lastspitzen erzeugen, deshalb sollte das Netzteil nicht zu knapp dimensioniert sein.
Worauf du beim Netzteil achten solltest
- Ausreichende Gesamtleistung in Watt
- Genügend Reserve für Lastspitzen
- Passende Anschlüsse für die Grafikkarte
- 80-PLUS-Zertifizierung
- Hochwertige Schutzschaltungen
- Genügend PCIe-/12V-2×6-Anschlüsse
- Möglichst modular für sauberes Kabelmanagement
Kühlung
Ein KI-Rechner kann unter Last viel Wärme erzeugen. Entscheidend ist deshalb nicht nur die CPU-Kühlung, sondern der gesamte Luftstrom im Gehäuse. Eine Wasserkühlung kann sinnvoll sein, ist aber nicht grundsätzlich notwendig.
Worauf du bei der Kühlung achten solltest
- Ausreichender Airflow im Gehäuse
- Passender CPU-Kühler zur TDP
- Genügend Gehäuselüfter
- Freier Luftweg zur Grafikkarte
- Platz für große GPU-Kühler
- Bei Wasserkühlung passende Radiatorgröße
- Temperaturen und Lautstärke unter Dauerlast beachten
Benötigte Software
Die Hardware allein reicht nicht. Für lokale KI brauchst du ein passendes Betriebssystem, aktuelle Treiber und die Software, mit der Modelle geladen und ausgeführt werden.
Welche Software brauchst du?
- Betriebssystem: Ubuntu oder Windows
- Aktuelle GPU-Treiber
- CUDA bei NVIDIA-Grafikkarten
- Ollama für lokale Sprachmodelle
- Python
- Docker
- Optional: PyTorch
- Optional: vLLM oder Transformers
Aktuelle Komponenten
Hier findest du aktuelle Hardware-Beispiele zu den einzelnen Komponenten. Die Auswahl dient als Orientierung – entscheidend sind immer deine Anforderungen und die technischen Daten.
Grafikkarten
16 GB VRAM – Einstieg
16 GB VRAM
16 GB GDDR7 · 256 Bit · PCIe 5.0 · 300 W
16-GB-Klasse mit CUDA; guter Mittelweg für lokale KI und aktuelle Modelle.
2 unterschiedliche Quellen · 2 aktuelle Erwähnungen
16 GB VRAM
16 GB GDDR7 · 256 Bit · PCIe 5.0 · 360 W
Moderne 16-GB-Karte mit CUDA-Unterstützung für viele lokale KI-Modelle.
2 unterschiedliche Quellen · 2 aktuelle Erwähnungen
16 GB VRAM
16 GB GDDR6 · 256 Bit · PCIe 5.0 x16 · 304 W
16 GB VRAM und hohe Speicherbandbreite; Software-Unterstützung für KI vorher prüfen.
2 unterschiedliche Quellen · 2 aktuelle Erwähnungen
24 GB VRAM – größere lokale Modelle
24 GB VRAM
24 GB GDDR6X · 384 Bit · PCIe 4.0 · 350 W
Ältere, aber wegen 24 GB VRAM weiterhin interessante Karte für lokale KI.
25 unterschiedliche Quellen · 46 aktuelle Erwähnungen
24 GB VRAM
24 GB GDDR6X · 384 Bit · PCIe 4.0 · 450 W
Sehr leistungsstarke 24-GB-Karte für anspruchsvolle lokale KI-Workloads.
19 unterschiedliche Quellen · 26 aktuelle Erwähnungen
24 GB VRAM
24 GB GDDR6 · 384 Bit · 355 W
Viel VRAM und hohe Speicherbandbreite; Kompatibilität des gewünschten KI-Backends prüfen.
15 unterschiedliche Quellen · 18 aktuelle Erwähnungen
32 GB+ VRAM – Workstation / große Modelle
32 GB+ VRAM
32 GB GDDR7 · 512 Bit · PCIe 5.0 · 575 W
32 GB VRAM für große lokale Modelle und anspruchsvolle Workstation-Nutzung.
25 unterschiedliche Quellen · 26 aktuelle Erwähnungen
32 GB+ VRAM
48 GB GDDR6 ECC · 384 Bit · PCIe 4.0 x16 · 300 W
48 GB VRAM für große lokale Modelle und professionelle KI-Workloads.
19 unterschiedliche Quellen · 21 aktuelle Erwähnungen
32 GB+ VRAM
96 GB GDDR7 ECC · 512 Bit · PCIe 5.0 x16 · 600 W
96 GB VRAM für sehr große lokale Modelle und professionelle KI-Systeme.
19 unterschiedliche Quellen · 22 aktuelle Erwähnungen
Prozessoren
Desktop-Prozessor
Sehr starke Desktop-CPU für lokale KI-Systeme, Multitasking und anspruchsvolle Workloads.
16 Kerne / 32 Threads · AM5 · bis 5,7 GHz · 170 W
17 unterschiedliche Quellen · 26 aktuelle Erwähnungen
Desktop-Prozessor
Sehr schnelle Desktop-CPU für rechenintensive Begleitaufgaben und leistungsstarke Workstations.
24 Kerne / 32 Threads · LGA1700 · bis 6,0 GHz · 125 W Basis
18 unterschiedliche Quellen · 23 aktuelle Erwähnungen
Desktop-Prozessor
Aktuelle High-End-Desktop-CPU mit hoher Multicore-Leistung für KI-nahe Workloads.
24 Kerne / 24 Threads · LGA1851 · bis 5,7 GHz · 125 W Basis
14 unterschiedliche Quellen · 15 aktuelle Erwähnungen
Mainboards
Mainboard
High-End-AM5-Mainboard mit viel PCIe- und M.2-Ausbau für leistungsstarke KI-Systeme.
AMD X870E · Sockel AM5 · DDR5 bis 192 GB · 2× PCIe 5.0 x16 · 5× M.2
17 unterschiedliche Quellen · 23 aktuelle Erwähnungen
Mainboard
High-End-Intel-Plattform mit vielen M.2-Steckplätzen und umfangreicher Erweiterbarkeit.
Intel Z890 · Sockel LGA1851 · DDR5 bis 256 GB · PCIe 5.0 x16 · 6× M.2
18 unterschiedliche Quellen · 20 aktuelle Erwähnungen
Mainboard
Sehr umfangreich ausgestattetes AM5-Board für Workstations und Systeme mit mehreren Erweiterungskarten.
AMD X870E · Sockel AM5 · DDR5 bis 256 GB · 2× PCIe 5.0 x16 · 5× M.2
14 unterschiedliche Quellen · 17 aktuelle Erwähnungen
Arbeitsspeicher (RAM)
DDR5 Arbeitsspeicher
64 GB sind für lokale KI besonders interessant, wenn Modelle teilweise in den RAM ausgelagert werden.
64 GB · DDR5 · 2× 32 GB · Dual-Channel
9 unterschiedliche Quellen · 15 aktuelle Erwähnungen
DDR5 Arbeitsspeicher
Praktische 64-GB-Lösung für lokale Modelle und Systeme mit hohem Arbeitsspeicherbedarf.
64 GB · DDR5 · 2× 32 GB
6 unterschiedliche Quellen · 17 aktuelle Erwähnungen
DDR5 Arbeitsspeicher
Leistungsfähiges 64-GB-Kit für Workstations, lokale KI und speicherintensive Anwendungen.
64 GB · DDR5 · 2× 32 GB · Dual-Channel
6 unterschiedliche Quellen · 15 aktuelle Erwähnungen
SSD / Speicher
NVMe SSD
Sehr schnelle PCIe-5.0-SSD für Workstations und datenintensive KI-Projekte.
2 TB · NVMe · PCIe 5.0 x4 · M.2 2280
16 unterschiedliche Quellen · 20 aktuelle Erwähnungen
NVMe SSD
Solide Hochleistungs-SSD für lokale KI, Softwareentwicklung und große Modelldateien.
2 TB · NVMe · PCIe 4.0 x4 · M.2 2280
16 unterschiedliche Quellen · 19 aktuelle Erwähnungen
NVMe SSD
Interessante 2-TB-NVMe-Lösung für preisbewusste lokale KI-Systeme.
2 TB · NVMe · PCIe 4.0 x4 · M.2 2280
15 unterschiedliche Quellen · 19 aktuelle Erwähnungen
Netzteile
1000-W-Netzteil
Leistungsstarkes 1000-W-Netzteil für moderne High-End-Systeme. Die seitlichen modularen Anschlüsse können das Kabelmanagement erleichtern.
1000 W · 80 PLUS Gold · ATX 3.1 · vollmodular · 140-mm-Lüfter
14 unterschiedliche Quellen · 18 aktuelle Erwähnungen
1000-W-Netzteil
1000-W-Netzteil mit nativem PCIe-5.0-GPU-Anschluss und hoher Leistungsreserve für starke Single-GPU-Systeme.
1000 W · 80 PLUS Gold · ATX 3.0 · vollmodular · PCIe 5.0 16-Pin
13 unterschiedliche Quellen · 15 aktuelle Erwähnungen
1000-W-Netzteil
Effizientes und leises Netzteil für leistungsstarke KI-Rechner und aktuelle High-End-Grafikkarten.
1000 W · 80 PLUS Platinum · ATX 3.1 · vollmodular · 135-mm-Lüfter
12 unterschiedliche Quellen · 16 aktuelle Erwähnungen
Kühlung
CPU-Kühlung
Großer Luftkühler für leistungsstarke Systeme, wenn eine wartungsarme Alternative zur Wasserkühlung gewünscht ist.
Dual-Tower · 8 Heatpipes · 2 Lüfter · AM5 / AM4 · LGA1851 / LGA1700
15 unterschiedliche Quellen · 21 aktuelle Erwähnungen
CPU-Kühlung
Leistungsstarke 360-mm-Wasserkühlung für CPUs mit hoher Dauerlast und leistungsstarke Workstations.
360-mm-AIO · AM5 / AM4 · LGA1851 / LGA1700 · PWM-Steuerung
11 unterschiedliche Quellen · 18 aktuelle Erwähnungen
CPU-Kühlung
Moderne 360-mm-AIO mit hoher Kühlleistung für leistungsstarke CPUs und Workstation-Systeme.
360-mm-AIO · 3× 120-mm-Lüfter · 300–2100 U/min · AM5 / AM4 · LGA1851 / LGA1700
10 unterschiedliche Quellen · 16 aktuelle Erwähnungen