Ki-explosion: suleyman warnt vor exponentiellem wachstum
Die künstliche Intelligenz entwickelt sich mit einer Geschwindigkeit, die selbst die leisesten Intuitionen übertrifft. Mustafa Suleyman, aktueller Kopf der KI-Abteilung bei Microsoft, beschreibt die Entwicklung als eine 'revolutionäre' und 'monströse' Zunahme der Rechenleistung – eine Entwicklung, die unsere Vorstellungskraft sprengt.
Der sprung nach oben: von 10¹⁴ zu 10²⁶ flops
Suleyman vergleicht den Trainingsprozess von KI-Modellen mit einer gigantischen Menschenmenge, die mit Taschenrechnern arbeitet. Was einst durch die Erhöhung der Anzahl der Rechenersteller begrenzt war, hat sich nun in einer exponentiellen Explosion der Rechenleistung manifestiert. Von 10¹⁴ FLOPS in den frühen Systemen bis heute über 10²⁶ FLOPS bei den leistungsstärksten Modellen – der Unterschied ist schlichtweg überwältigend.
Die Entwicklung ist nicht nur ein Wachstum, sondern eine explosive Entwicklung, so Suleyman. Die Fortschritte in der Hardware, insbesondere die Nvidia-Chips mit ihren 2.250 Teraflops – ein Vielfaches des 2020er-Niveaus – und der Microsoft-Chip Maia, der pro Euro 30% mehr Leistung bietet, sind dabei entscheidend.
Die architektur der intelligenz: mehr als nur 'mehr leute'
Doch die reine Erhöhung der Rechenleistung reicht nicht aus. Die Revolution liegt darin, dass die Rechenersteller nun stets aktiv sind und als eine einzige, riesige ‘Gehirn’ zusammenarbeiten. Die HBM-Speichertechnologie, die Daten mit unglaublicher Geschwindigkeit bereitstellt – bis zu dreifachem Anstieg des Bandbreiten – ist hierbei ein Schlüsselfaktor. Zusammen mit Technologien wie NVLink und InfiniBand, die Tausende von GPUs in superrechenende Systeme verbinden, schaffen diese Innovationen eine Infrastruktur, die jenseits von Science-Fiction liegt.
Schmidt warnt: wir stehen erst am anfang
Eric Schmidt, ehemaliger CEO von Google, mahnt, dass wir uns noch in den frühen Phasen dieser Entwicklung befinden. Er prognostiziert, dass wir erst 10-15% der tatsächlichen Auswirkungen der KI erleben. Die Microsoft, Nvidia und die Jagd nach der Superintelligenz (ASI) stehen dabei im Zentrum dieser Transformation.
Die jährliche Zunahme der Rechenleistung beträgt derzeit fast 4x, während sie im Jahr 2020 bereits um 5x zugenommen hat. Bis 2027 sollen 100 Millionen H100-Chips – ein Anstieg von zehnfach in nur drei Jahren – verfügbar sein. Diese Entwicklung ist nicht nur beeindruckend, sondern auch beunruhigend, da sie die Potenziale der KI unvorstellbar steigert.
Die Entwicklung ist unaufhaltsam und wird die Art und Weise, wie wir arbeiten, leben und interagieren, grundlegend verändern. Es ist eine Geschichte technologischer Entwicklung, die gerade erst beginnt – und sie verspricht, alles zu übertreffen, was wir uns bisher vorgestellt haben.