KI hat RAM bereits verteuert; laut OpenAI-Chef Sam Altman nutzen Windows-PCs ihn nur 5 % der Zeit
OpenAI-CEO Sam Altman sagt, es sei „ziemlich furchtbar“, wenn jeder die weltweit begrenzten DRAM-Bestände im eigenen PC vorhalte, wo sie nur zu 5 % der Zeit genutzt würden, obwohl KI-Rechenzentren sie besser einsetzen könnten. Nach einem Seitenhieb von Elon Musk und einem neuen Namen auf X – natürlich Ram Altman – erklärt er nun, seine Äußerungen seien aus dem Zusammenhang gerissen worden.
MS, der langjährige Partner von OpenAI, wirbt unterdessen für den entgegengesetzten Ansatz. Satya Nadella möchte „unbegrenzte Intelligenz“ auf jedem Schreibtisch sehen, wobei KI-Modelle auf PCs laufen und bei Bedarf auf die Cloud zugreifen. Beide CEOs wollen KI überall verfügbar machen, sind sich jedoch uneinig darüber, wo sie ausgeführt werden und wohin der weltweite Arbeitsspeicher fließen sollte.
Warum Sam Altman glaubt, dass der Arbeitsspeicher Ihres PCs in KI-Rechenzentren besser aufgehoben ist
Altman äußerte sich in der am 29. Oktober veröffentlichten Folge von Cheeky Pint, moderiert von Stripe-Präsident John Collison. Die beiden diskutierten darüber, warum sich der Speichermangel nicht von selbst löste. Kurz nachdem Collison gescherzt hatte, Intel könne „wie es Tradition ist“ wieder in die Speicherproduktion einsteigen, brachte Altman das Thema lokale KI zur Sprache.
„Viele Menschen wünschen sich lokale Inferenz. Und irgendwie gehen sie davon aus, dass das Problem jetzt gelöst ist. Denn wir werden Open-Source-Modelle haben. Wir werden sie auf unseren Computern ausführen können. Und deshalb werden wir die ganze Infrastruktur im Rechenzentrum nicht mehr benötigen. Aus Sicht der globalen Ressourcenverteilung ist es jedoch ziemlich furchtbar, wenn jeder einen Teil des weltweit begrenzten DRAM-Angebots in seinem eigenen Computer vorhält und dieser nur zu 5 % der Zeit genutzt wird. Wenn man mit diesem stark angebotsbeschränkten Umfeld umgehen will, sollte man eine maximale Auslastung in der Cloud anstreben.“
Sam Altmans Argument lässt sich mit dem Verlagswesen vergleichen. Stellen Sie sich vor, Artikel auf Papier zu schreiben, sie auszudrucken und wie Zeitungen direkt an die Leser nach Hause zu schicken. Das wäre zwar reizvoll, aber nicht effizient, denn wir verfügen bereits über Websites, das Internet, soziale Medien, WordPress und ein hocheffizientes Ökosystem für Online-Publikationen.
Die Zeiten, in denen lokale Modelle nicht gut genug waren, sind jedoch vorbei, und leistungsstarke Systeme können solche Modelle inzwischen bewältigen.
Altman hat recht, wenn man AGI entwickelt und entscheiden kann, wohin jedes Gigabyte fließt. Doch niemand kann diese Entscheidung allein treffen. Das übernimmt der Markt, und Menschen kaufen Arbeitsspeicher für Gaming, Videobearbeitung oder, wie in meinem Fall, um bei der Recherche fast 100 Edge-Tabs geöffnet zu halten. Mein Laptop mit 16 GB lag früher konstant bei einer RAM-Auslastung zwischen 90 % und 95 %, womit Altmans Wert von 5 % fast das genaue Gegenteil meiner Erfahrung darstellt.
„Ram Altman“ rudert zurück, doch sein Argument bleibt unverändert
Der Clip verbreitete sich schnell unter PC-Spielern, die bereits mehr für Arbeitsspeicher bezahlen müssen. Am 1. November veröffentlichte Elon Musk ein Meme mit Hans Landa aus Inglourious Basterds, der fragte: „Sie enthalten der Cloud DRAM vor, nicht wahr?“ Musk fügte hinzu: „Die Menschen verdienen ebenfalls ihren RAM!“
Am 4. November änderte Altman auf Wunsch eines Nutzers seinen Namen auf X in Ram Altman und schrieb: „Ich möchte tatsächlich, dass die Welt über riesige Mengen an Speicher verfügt und die Menschen so viel davon in ihre Computer einbauen können, wie sie wollen, und es ist verdammt ärgerlich, dass dies aus dem Zusammenhang gerissen wurde. Ich setze mich schon seit Langem dafür ein, dass die weltweite Speicherproduktion hochgefahren wird.“ In einer weiteren Antwort fügte er hinzu: „Ich möchte, dass du so viel RAM hast“ und „Lasst uns mehr davon bauen.“
Fairerweise muss man sagen, dass Altman im Podcast auch die Speicherhersteller dafür kritisierte, bei der Ausweitung der Produktion zu vorsichtig zu sein. Ich habe mir jedoch den gesamten Podcast angesehen, und das obige Zitat liefert den relevanten Kontext. Der Wunsch nach mehr Speicher für alle ändert nichts an seiner Ansicht, dass knapper DRAM in der Cloud einen größeren Nutzen bringt.
Satya Nadella will unbegrenzte KI auf jedem Schreibtisch und in jedem Zuhause
MSs frühere Mission lautete „ein Computer auf jedem Schreibtisch und in jedem Zuhause“, und Nadella hat sie mit einem KI-Schwerpunkt aktualisiert. „Unser Ziel ist es, mit Windows unbegrenzte Intelligenz in jedes Zuhause und auf jeden Schreibtisch zu bringen“, sagte er im Juni.
In seinem Begleitschreiben zum Jahresbericht 2026 schreibt Nadella: „Stellen Sie sich nur vor, wie viel Intelligenz praktisch unbegrenzt verfügbar werden kann, wenn immer leistungsfähigere Modelle lokal ausgeführt werden“, wobei Arbeitslasten durch „automatisches Routing“ zwischen Cloud und PCs verschoben werden. Unbegrenzte Intelligenz bedeutet, dass der PC die Arbeit übernimmt und somit nicht für jedes von einem lokalen Modell erzeugte Token bezahlt werden muss. Allerdings müssen Nutzer weiterhin den PC selbst bezahlen, und PCs sind inzwischen schmerzhaft teuer geworden.
MS bezeichnet diesen Ansatz als Hybrid Intelligence. In einem Blogbeitrag vom 7. Oktober beschreibt Windows-Chef Pavan Davuluri Windows als „eine Plattform, auf der Agenten lokal ausgeführt werden können, wenn es sinnvoll ist, und auf die Cloud zugreifen können, wenn sie sie benötigen“. Mit Zustimmung des Nutzers kann Copilot relevante Inhalte auf einem PC lesen, Aktionen in Windows ausführen und lokale Modelle für geeignete Aufgaben verwenden, was laut Nadella dazu beiträgt, „mehr aus Ihren Tokens herauszuholen“.
MS ist eindeutig nicht gegen die Cloud. Copilots Cowork und Autopilot arbeiten mit einer nutzungsbasierten Cloud-Abrechnung, und MS unterstützt OpenAI seit seiner Investition von 1 Milliarde US-Dollar im Jahr 2019. Redmond will lediglich verhindern, dass Windows zu einem simplen Terminal für das Rechenzentrum eines anderen Unternehmens wird.
MSs Surface Laptop Ultra mit 128 GB zeigt, wie viel RAM lokale KI benötigt
Zur Einordnung: Ein lokales Modell läuft auf der CPU, GPU oder NPU eines PCs. Laut MSs Dokumentation zu Windows ML sorgt dieser Ansatz dafür, dass „Daten privat bleiben, Cloud-Kosten entfallen und die Nutzung ohne Internetverbindung möglich ist“. Der PC muss jedoch über genügend Arbeitsspeicher verfügen, um das Modell vollständig zu laden.
MSs eindrucksvollstes Beispiel ist der Surface Laptop Ultra, dessen NVIDIA-RTX-Spark-Chip bis zu 128 GB gemeinsamen Arbeitsspeicher zwischen CPU und GPU bereitstellt – genug für KI-Modelle mit bis zu 120 Milliarden Parametern. Das Modell mit 128 GB kostet 5.899,99 US-Dollar.
Am 4. November, während Altman sich auf X umbenannte, erklärten MS-Ingenieure, wie sie MAI-Code-1.1-Flash auf RTX Spark ausführen. Das Coding-Modell mit 137,9 Milliarden Parametern und 6,8 Milliarden aktiven Parametern pro Token benötigt bei 16-Bit-Präzision 276 GB. Durch Quantisierung, bei der jedes Gewicht mit weniger Bits gespeichert wird, schrumpft es auf einen 53-GiB-Checkpoint. Das Modell benötigt dennoch zusätzlichen Speicher für den KV-Cache, in dem der Kontext des Codes vorgehalten wird.
In MSs Konfiguration erzeugte das Modell bei einer Eingabe von 120.000 Tokens im Median 51,12 Tokens pro Sekunde. „Das Ziel ist mehr nützliche Intelligenz innerhalb der verfügbaren Ressourcen und nicht weniger Bits auf Kosten von Genauigkeit oder Reaktionsfähigkeit“, schrieben die Ingenieure.
KI-Rechenzentren sind der Grund, warum der RAM Ihres nächsten PCs mehr kosten wird
Altmans Äußerungen kamen zu einem schwierigen Zeitpunkt für PC-Käufer. TrendForce erwartet, dass die Vertragspreise für konventionellen DRAM im vierten Quartal 2026 gegenüber dem Vorquartal um 10 % bis 15 % steigen werden. Außerdem könnte das Angebot an PC-DRAM im Jahr 2027 zurückgehen, „da mehr Kapazitäten auf Serveranwendungen verlagert werden“. Das in KI-Servern verwendete HBM ist zwar nicht dasselbe wie das in Laptops verbaute DDR5, doch beide konkurrieren bei einer kleinen Zahl von Speicherherstellern um Produktionskapazitäten.
Erwähnenswert ist außerdem, dass die PC-Auslieferungen im vergangenen Quartal um etwa 20 % zurückgingen.
Altman hat recht damit, dass ein Rechenzentrum aus jedem Gigabyte mehr Nutzen zieht als mein Laptop. Doch ich kaufe keinen PC, um die globale DRAM-Auslastung zu maximieren. Ich kaufe ihn, um zu meinen eigenen Bedingungen zu arbeiten und zu spielen. Meiner Ansicht nach ist MSs hybrider Ansatz die bessere Idee – vorausgesetzt, dass „unbegrenzte Intelligenz auf jedem Schreibtisch“ am Ende nicht einen Schreibtisch für 5.899 US-Dollar bedeutet.
Möchten Sie KI auf Ihrem PC oder in der Cloud ausführen?
Windows Latest ist auf Leser wie Sie angewiesen. Machen Sie uns zu Ihrer bevorzugten Quelle bei Google Discover und in der Google-Suche und helfen Sie unserer unabhängigen Berichterstattung, mehr Menschen zu erreichen.
