Mein PC ist zu langsam
Wir prüfen, ob Aufrüsten reicht oder ein neuer Rechner sinnvoller ist.
Ich brauche einen neuen Rechner
Finde den passenden PC für das, was du wirklich damit machen willst.
Ich möchte KI lokal nutzen
Welche Hardware brauchst du für lokale KI – und was kannst du dir sparen?
Mein Technik -problem lösen
Verständliche Lösungen für Hardware, Software, Linux und Netzwerk.
Beliebte Lösungen
Praktische Hardware, clevere Anleitungen und KI-Hilfe für den Alltag. Verständlich erklärt, direkt umsetzbar und mit ehrlicher Einschätzung, was sich wirklich lohnt.
-
64 GB VRAM für lokale KI? Der verrückte CMP-170HX-Hack
NVIDIA CMP 170HX als ungewöhnliche GPU für lokale KI Die NVIDIA CMP 170HX ist keine typische Grafikkarte für Desktop-PCs, aber in den letzten Monaten hat sie unter KI-Enthusiasten eine unerwartete Aufmerksamkeit bekommen. Ursprünglich für das Ethereum-Mining gebaut, hat sie eine Eigenschaft, die sie für lokale große Sprachmodelle (LLMs) interessant macht: einen großen HBM2e-Speicher. Allerdings ist…
-
API-Router für KI-Modelle: Anfragen sinnvoll verteilen
API-Router für KI-Modelle: Anfragen sinnvoll verteilen Was ist ein API-Router? Ein API-Router ist eine Vermittlungsschicht zwischen deiner Anwendung und den APIs der KI-Modelle. Deine Anwendung schickt eine Anfrage an den Router, der entscheidet, an welches Modell sie weitergeht. Das Modell sendet seine Antwort zurück an den Router, und der Router reicht sie an deine Anwendung…
-
DeepSeek-R1 lokal ausführen: Wie viel RAM und VRAM brauchst du wirklich?
DeepSeek-R1 lokal ausführen – die Ausgangslage DeepSeek-R1 ist ein hochmodernes LLM mit 671 Milliarden Parametern (Mixture of Experts). In dieser Form brauchst du für den Betrieb ein Rechenzentrum. Für den lokalen Einsatz sind die Distill-Varianten interessant, die auf kleineren Qwen-/Llama-Modellen basieren. Wir zeigen dir, welche Hardware du für die verschiedenen Größen wirklich benötigst. So berechnest…
-
Die besten Cloud-Router für KI-Cluster: Wie du Engpässe bei der API-Inferenz verhinderst
Warum der Cloud-Router zum Flaschenhals wird Bei KI-Clustern denken die meisten zuerst an GPU-Kapazität, VRAM oder Modellgröße. Doch in der Praxis ist die Netzwerk-Infrastruktur – insbesondere der Cloud-Router – oft der limitierende Faktor für API-Inferenz. Ein Router, der nicht für hochfrequente, latenz-sensitive Kommunikation ausgelegt ist, erzeugt genau die Engpässe, die du mit zusätzlichen GPUs nicht…
