Die Grenze liegt außerhalb des Modells.
Stromnetze, Kühlung und Effizienz entscheiden mit, wie weit AI tatsächlich skalieren kann.
Wenn über Fortschritt bei AI gesprochen wird, schauen wir fast automatisch auf Modelle: mehr Parameter, größere Kontextfenster, bessere Benchmarks. Für mich greift das zu kurz. Jedes Modell läuft auf sehr konkreter Infrastruktur. Es braucht Chips, Strom, Netzanschlüsse und ein Kühlsystem, das die entstehende Wärme zuverlässig abführt. Je nach Standort und Bauweise spielt dabei auch Wasser eine Rolle.
Rechenleistung ist kein abstrakter Rohstoff
Ein neues Rechenzentrum lässt sich nicht allein per Software skalieren. Netzanschlüsse, Umspannwerke, Transformatoren und Genehmigungen brauchen Zeit. Selbst wenn ausreichend Energie erzeugt wird, muss sie am richtigen Ort und zur richtigen Zeit verfügbar sein. Damit wird die Stromversorgung zu einem Teil der AI-Architektur – ebenso wie Speicher, Netzwerk und Rechenbeschleuniger.
Das bedeutet nicht, dass jedes größere Modell zwangsläufig die falsche Richtung ist. Es bedeutet, dass Fortschritt nicht nur an Modellqualität gemessen werden sollte. Entscheidend ist auch, welche Leistung ein System pro Watt, pro Anfrage und über seinen gesamten Lebenszyklus liefert.
Effizienz ist Teil der Produktentscheidung
Mich interessiert deshalb zunehmend die gesamte Kette: kleinere spezialisierte Modelle, Quantisierung, bessere Auslastung, Caching und die Frage, ob eine Anfrage überhaupt ein großes Modell benötigt. Auch der Standort eines Rechenzentrums und die Art seiner Kühlung sind keine Details außerhalb des Produkts. Sie bestimmen mit, wie belastbar und skalierbar es ist.
Der Fortschritt von AI wird nicht allein durch Algorithmen bestimmt. Die nächste Grenze kann ein Transformator, eine Kühlanlage oder ein fehlender Netzanschluss sein. Wer AI-Systeme baut, sollte deshalb nicht nur die Intelligenz im Modell optimieren, sondern die physische Realität darum herum mitdenken.