Wie viel RAM braucht dein Laptop für lokale KI?

Ein 3,4-GB-Download namens qwen3.5:4b-q4_K_M (ein LLM, ein grosses Sprachmodell) beantwortet heute Abend auf einem ganz normalen 16-GB-Laptop eine Frage – ohne Cloud-Konto. Lade das Modell mit Ollama, stell ihm eine Frage mit 4K-Kontext, und schon läuft ein echtes KI-Modell lokal auf der Hardware, die du bereits besitzt. Es verarbeitet Text und Bilder. Dabei geht es um Inferenz, nicht um Training: Das Modell lernt nichts Neues, sondern antwortet einfach.

Ein vager "AI PC"-Aufkleber auf dem Laptopkarton ersetzt keine belastbaren technischen Daten. Entscheidend sind RAM, der Speicher, den die GPU nutzen kann, Speicherplatz und echte Software-Unterstützung. 16 GB Arbeitsspeicher sind ein solider Einstieg in kleine KI-Modelle – kein Wert, den du sofort abhaken musst, aber auch kein Versprechen für alles, was ein Datenblatt bewirbt. Mehr Speicher bringt mehr Kontext und mehr Spielraum fürs Multitasking. Mit 16 GB kannst du loslegen.

Die Downloadgrösse eines Modells und sein RAM-Bedarf während der Ausführung sind zwei verschiedene Dinge. Wer beides verwechselt, macht den häufigsten Fehler beim Laptopkauf für KI. Die 3,4 GB von qwen3.5:4b-q4_K_M sind die Datei auf der SSD. Zum Laden braucht das Modell echten Arbeitsspeicher. Das gilt auch für das Kontextfenster, also den laufenden Gesprächsverlauf, den das Modell während der Antwort im Speicher hält, den sogenannten KV-Cache. Dazu kommen die Engine selbst und alles andere, was dein Betriebssystem und andere Apps bereits belegen.

Ollama lädt standardmässig einen Kontext von 4.096 Tokens, und du kannst ihn erhöhen. Wenn mehrere Anfragen gleichzeitig laufen, steigt der Speicherbedarf für den Kontext grob mit der Zahl der parallelen Anfragen. Auf dem Datenblatt eines Modells stehen vielleicht 128K oder 256K Tokens Kontextfenster. Sieh das als Obergrenze des Modells – nicht als Zusage, dass dein 16-GB-Laptop das alles gleichzeitig stemmen kann.

Apple-Silicon-Chips nutzen Unified Memory: CPU und GPU greifen auf denselben gemeinsamen Pool von 16, 24 oder 32 GB zu. Es gibt also keinen separaten Grafikspeicher, der knapp werden kann. Ein typischer Windows- oder Linux-Laptop mit dedizierter NVIDIA-GPU funktioniert anders. System-RAM und der eigene VRAM der GPU sind zwei getrennte Speicherpools – 16 GB Arbeitsspeicher plus eine 8-GB-GPU ergeben also nicht einfach einen frei nutzbaren 24-GB-Pool für ein Modell.

Wenn ein Modell nicht komplett auf die GPU passt, läuft ein Teil davon stattdessen auf der CPU. Dieses teilweise Offloading kann ein Modell, das sich technisch noch laden lässt, spürbar ausbremsen. Mit ollama ps siehst du genau diese CPU/GPU-Aufteilung für alles, was gerade geladen ist.

Kapazität ist nur die halbe Geschichte. Genauso wichtig ist, wie schnell sich dieser Speicher ansprechen lässt: Apple nennt 153 GB/s Speicherbandbreite für das MacBook Air M5. Genau diese Bandbreite, nicht nur die Grösse, ist ein Grund dafür, dass sich Unified Memory reaktionsschnell anfühlt und nicht bloss gerade so reicht.

Quantisierung steckt hinter diesem 3,4-GB-Download: Wenn die Gewichte eines Modells mit geringerer numerischer Präzision gespeichert werden, schrumpft die Datei. Beim 9B-Modell von Qwen3.5 sieht man die Spanne besonders deutlich. Dasselbe 9B-Modell wird als Q4_K_M mit 6,6 GB heruntergeladen, als Q8_0 mit 11 GB und mit voller BF16-Präzision mit 19 GB. Dasselbe Modell, dieselbe Parameterzahl – aber drei sehr unterschiedliche Downloadgrössen. Und wieder gilt: Das ist die Dateigrösse, nicht der RAM-Bedarf während der Ausführung.

Geringere Präzision kostet in der Regel etwas Qualität. Wie viel genau, hängt aber von der Aufgabe ab und nicht von einem festen Prozentsatz. Bevor du Qwen als erstes Modell auswählst, solltest du noch etwas wissen: Manche Nutzer:innen berichten, dass der "Thinking"-Schritt eine spürbare Verzögerung erzeugt, bevor eine Antwort erscheint, verglichen mit Modellen, die direkter antworten. Am besten probierst du beide Ansätze mit deinen eigenen Aufgaben aus, statt einfach anzunehmen, einer sei grundsätzlich besser.

NVIDIAs Laptop-GPUs tragen dieselben Namen wie Desktop-Karten – und der Name verrät weniger, als man denkt. Die RTX 5060 Laptop GPU bringt 8 GB GDDR7-Speicher und einen veröffentlichten Leistungsbereich von 45 bis 100 Watt mit. Die RTX 5070 Ti Laptop GPU bietet 12 GB GDDR7 und 60 bis 115 Watt. Ein Online-Ergebnis für eine Desktop-RTX-5070-Ti lässt sich also nicht einfach auf eine Laptop-RTX-5070-Ti übertragen, auch wenn der Name das nahelegt.

Im selben Namen steckt noch eine zweite Falle. Zwei Laptops können beide eine "RTX 5070 Ti Laptop GPU" haben und sich unter Dauerlast trotzdem unterschiedlich verhalten: Ein dünnes, leichtes Gehäuse und ein dickeres, schwereres Modell führen Wärme unterschiedlich ab. Derselbe GPU-Name garantiert deshalb nicht dieselbe Praxisgeschwindigkeit, sobald die Lüfter eine Weile laufen. Prüfe immer die genaue VRAM-Angabe und die konkrete Leistungskonfiguration des Laptops – nie nur den Namen der GPU-Familie.

AMDs Ryzen-AI-Max+-395-Prozessor unterstützt je nach Konfiguration des fertigen Laptops bis zu 128 GB LPDDR5x-Arbeitsspeicher. Das ist eine andere Speicherarchitektur, die man kennen sollte – allerdings mit einem Haken: In Ollamas Linux-ROCm-Supportliste taucht dieser Chip auf, in der Windows-ROCm-Liste aktuell nicht.

Das ist kein Grund, den Chip pauschal abzuschreiben. Bei einem konkreten Laptop solltest du aber den tatsächlich verbauten Speicher, das Betriebssystem, das GPU-Backend, den Treiber und das Verhalten mit Ollama genau prüfen, bevor du ihn empfiehlst. Sieh einen AMD-Laptop mit viel Speicher als interessante Alternativarchitektur, die sorgfältige Recherche verdient – nicht als automatischen Erstkauf für alle, die lokale KI gerade erst ausprobieren.

Ollama ist der einfachste Weg, ein Modell auf deinem eigenen Rechner zum Laufen zu bringen: Du lädst ein Modell und startest es – schon beantwortet ein lokaler Server Anfragen, ganz ohne Cloud-Konto für ein heruntergeladenes Modell. Hinter allen Beispielen hier steckt genau dieses Tool.

LM Studio ist die grafische Alternative mit eigenem Modellbrowser und Chatfenster. Das Tool nennt auch seine Mindestanforderungen: mindestens 16 GB RAM auf dem Mac oder unter Windows sowie AVX2-Unterstützung unter Windows x64; unter Windows werden ausserdem 4 GB dedizierter VRAM empfohlen. Beide Werkzeuge sauber einzurichten, ist noch einmal ein eigenes Thema.

Ein wichtiger Hinweis, bevor du irgendeiner einzelnen Geschwindigkeitsangabe im Netz vertraust: Das offizielle Tool llama-bench trennt die Geschwindigkeit der Prompt-Verarbeitung von der Generierungsgeschwindigkeit und zeigt Schwankungen über mehrere Durchläufe statt nur einer einzigen Zahl. Ein Forenbeitrag mit einer einzelnen Tokens-pro-Sekunde-Angabe verrät meist nicht, welcher der beiden Werte gemeint ist oder wie oft überhaupt gemessen wurde.

Wenn du gezielt für lokale KI kaufen oder aufrüsten willst, prüfe die konkreten Details statt des Marketings.

Exaktes GPU-Modell und VRAM: Prüfe nicht nur den Namen der GPU-Familie, sondern auch die genaue Laptop-Variante und ihre konkrete Speicherausstattung. Hinter demselben Namen können unterschiedliche VRAM-Grössen stecken.

Verlöteter oder aufrüstbarer RAM: Bei manchen Laptops kannst du später Speicher nachrüsten, bei vielen modernen dünnen und leichten Geräten nicht. Das solltest du vor dem Kauf wissen.

Freier SSD-Speicher: Modelldownloads reichen von unter einem Gigabyte bis deutlich über zehn Gigabyte. Eine wachsende Sammlung summiert sich neben deinen übrigen Dateien schnell.

Thermisches Verhalten unter Dauerlast: Ein Modell, das eine einzige Frage beantwortet, und ein Laptop, der mehrere Anfragen hintereinander bearbeitet, sind zwei verschiedene Tests. Lüftergeräusche und Drosselung nach wiederholten Prompts sagen mehr aus als eine einzelne kurze Demo.

Betriebssystem- und Treiberunterstützung: Prüfe, ob deine konkrete Kombination aus GPU-Backend und Betriebssystem von Ollama oder LM Studio unterstützt wird, statt die Unterstützung vorauszusetzen.

Die NPU-TOPS-Zahl auf dem Karton ist keine Garantie für den Durchsatz. Das ist ein Marketingwert, kein getestetes Ergebnis der Engine, die du tatsächlich nutzen wirst. Ein vages "AI PC"-Label ersetzt keine der Prüfungen oben.

Brauche ich eine dedizierte GPU, um KI lokal auszuführen?

Nein. Ein kleines Modell läuft auf vielen 16-GB-Laptops auch auf der CPU oder mit integrierter Grafik, nur mit grösseren Unterschieden bei der Geschwindigkeit als auf einem Laptop mit dedizierter GPU. Starte mit einem 2-4B-Modell, bevor du überhaupt davon ausgehst, dass du dedizierte Grafik brauchst.

Reichen 8 GB RAM aus?

Für die hier besprochenen Modelle ist das nicht komfortabel. 16 GB sind der realistische Einstieg, wenn du berücksichtigst, dass Modell, Kontextfenster, Engine und Betriebssystem denselben Speicher teilen.

Ist es dasselbe, ein Modell lokal auszuführen und es zu trainieren?

Nein. Alles oben ist Inferenz: Du stellst einem bereits trainierten Modell Fragen. Beim Training wird ein Modell von Grund auf aufgebaut, und dafür braucht es deutlich mehr Hardware als alles, was hier vorgestellt wird.

Garantiert mehr RAM schnellere Antworten?

Nein. Mehr Speicher schafft Spielraum für grössere Modelle, längeren Kontext und mehr geöffnete Apps. Die tatsächliche Geschwindigkeit hängt aber von Speicherbandbreite, GPU-Backend und dem konkreten Modell ab – nicht allein von der Speichergrösse.

Bleiben meine Daten privat, wenn ein Modell lokal läuft?

Ja – in dem Sinn, dass deine Prompts auf deinem Rechner bleiben und nicht an einen Cloud-Anbieter gehen. Ollama ist standardmässig an deinen eigenen Laptop gebunden und sendet keine Anfragen an andere Orte, solange du nicht bewusst Cloud-Zugriff einrichtest.