Die nächste Stufe: Auf dem Weg von der AGI zur Superintelligenz

Eine Analyse der technologischen, wissenschaftlichen und gesellschaftlichen Dimensionen des kommenden Intelligenzzeitalters

Von DerSchneider

Einleitung

Die Debatte um Künstliche Intelligenz hat in den letzten Jahren eine fundamentale Verschiebung erfahren. Was lange Zeit als Science-Fiction galt – eine Maschine mit menschenähnlichen kognitiven Fähigkeiten – ist heute zum erklärten Ziel der weltweit größten Technologiekonzerne und ambitioniertesten Forschungslabore geworden. Doch während der Begriff der Künstlichen Allgemeinen Intelligenz (AGI) allmählich im öffentlichen Bewusstsein ankommt, stellt sich eine weitreichendere Frage: Was kommt danach?

Dieser Artikel unternimmt den Versuch, die nächste Entwicklungsstufe jenseits der AGI zu konturieren – ein Terrain, das weniger von gesicherten Erkenntnissen als von konkurrierenden Visionen, fundamentalen wissenschaftlichen Kontroversen und tiefgreifenden gesellschaftlichen Implikationen geprägt ist. Wir bewegen uns dabei bewusst auf dem schmalen Grat zwischen seriöser Technikfolgenabschätzung und notwendiger Spekulation, denn die Weichenstellungen, die heute getroffen werden, werden über die Rolle der Menschheit in einem möglichen posthumanen Zeitalter entscheiden.

I. Begriffsklärung: Was bedeutet „Superintelligenz“?

Bevor wir uns in die Tiefen der technischen Debatte begeben, ist eine präzise terminologische Grundlegung unerlässlich. Der Philosoph und KI-Forscher Nick Bostrom hat in seinem einflussreichen Werk „Superintelligence: Paths, Dangers, Strategies“ (2014) eine Definition vorgelegt, die bis heute als Referenzpunkt dient.

Bostrom zufolge bezeichnet Superintelligenz jeden Intellekt, der die kognitive Leistungsfähigkeit des Menschen in allen relevanten Bereichen deutlich übertrifft – und zwar so weit, wie ein Mensch einen Käfer übertrifft. Dies umfasst wissenschaftliche Kreativität, soziale Intelligenz, strategisches Denken und allgemeine Problemlösungsfähigkeit.

Die entscheidende Differenz zur AGI liegt im Grad und in der Dynamik:

• AGI ist dem Menschen ebenbürtig. Sie kann jede intellektuelle Aufgabe bewältigen, die auch ein Mensch bewältigen kann.
• Superintelligenz ist dem Menschen überlegen. Sie kann Probleme lösen, die für Menschen prinzipiell unlösbar sind.

Diese Unterscheidung mag akademisch wirken, ist aber von fundamentaler praktischer Bedeutung. Eine AGI wäre ein extrem leistungsfähiges Werkzeug oder Gegenüber. Eine Superintelligenz hingegen wäre eine neuartige Entität, deren Ziele, Handlungen und Existenzweise sich unserer vollständigen Kontrolle und möglicherweise sogar unserem Verständnis entziehen könnten.

II. Der Pfad zur Superintelligenz: Die „Intelligenz-Explosion“

Die Idee einer sich selbst verstärkenden Intelligenz ist nicht neu. Bereits 1965 spekulierte der britische Mathematiker I. J. Good über eine „Intelligenz-Explosion“:

„Eine ultraintelligente Maschine ist eine Maschine, die alle intellektuellen Aktivitäten jedes beliebigen Menschen weit übertreffen kann. Da das Entwerfen von Maschinen eine dieser intellektuellen Aktivitäten ist, könnte eine ultraintelligente Maschine noch bessere Maschinen entwerfen; dann würde zweifellos eine ‚Intelligenz-Explosion‘ stattfinden, und die menschliche Intelligenz würde weit zurückgelassen werden.“

Dieses Szenario bildet bis heute den konzeptionellen Kern aller Überlegungen zur Superintelligenz. Der Mechanismus ist einfach und überwältigend zugleich: Sobald eine Maschine die kognitive Fähigkeit besitzt, an ihrer eigenen Verbesserung zu arbeiten, entsteht eine positive Rückkopplungsschleife. Eine verbesserte Version kann noch effizienter an der nächsten Verbesserung arbeiten, und so weiter. In kurzer Zeit könnte so ein Intellekt entstehen, der menschliche Fähigkeiten um Größenordnungen übersteigt.

Die entscheidende Frage ist nicht ob dieser Mechanismus greifen würde, sondern wann und unter welchen Bedingungen. Die Antwort darauf hängt von der Geschwindigkeit und den Engpässen solcher Selbstverbesserungszyklen ab – und hier gehen die Meinungen der Experten weit auseinander.

III. Die große Kontroverse: Zwei konkurrierende Visionen

In der gegenwärtigen KI-Forschung zeichnet sich eine fundamentale Spaltung ab. Zwei Lager stehen sich gegenüber, die nicht nur unterschiedliche technische Ansätze verfolgen, sondern grundverschiedene Vorstellungen davon haben, wie der Weg zur nächsten Stufe überhaupt aussehen kann.

Lager 1: Die Skalierungs-Hypothese – Der Weg der Giganten

Die erste Position wird von jenen vertreten, die heute die Entwicklung dominieren: OpenAI, Google DeepMind, Anthropic und die großen Cloud-Infrastrukturbetreiber. Ihre These ist ebenso einfach wie ambitioniert: Der eingeschlagene Weg ist prinzipiell richtig – er muss nur radikal zu Ende gedacht werden.

Die zentralen Akteure und ihre Positionen:

Sam Altman (CEO OpenAI) hat in zahlreichen Interviews und Blogbeiträgen seine Vision dargelegt. Für ihn ist die Entwicklung hin zur Superintelligenz vor allem eine Frage der Infrastruktur. In einem vielbeachteten Essay skizzierte er Pläne für KI-Fabriken, die wöchentlich ein Gigawatt an neuer Rechenleistung bereitstellen sollen. Seine Begründung ist pragmatisch: „Vielleicht kann KI mit 10 Gigawatt an Rechenleistung herausfinden, wie man Krebs heilt.“ Die Botschaft ist klar: Die Lücke zwischen heutigen Modellen und menschlicher Intelligenz ist eine Lücke der Rechenkapazität.

Dario Amodei (CEO Anthropic) argumentiert in eine ähnliche Richtung, betont aber stärker die Notwendigkeit von Sicherheitsmechanismen. In seinem Aufsatz „Machines of Loving Grace“ (2024) entwirft er das Bild einer „Country of Geniuses“ – einer Gesellschaft hochintelligenter KI-Systeme, die unter menschlicher Aufsicht zusammenarbeiten. Auch hier steht die Skalierung im Vordergrund, jedoch eingebettet in ein robustes Kontrollsystem.

Demis Hassabis (Mitbegründer Google DeepMind) verfolgt einen hybriden Ansatz. Während er die Bedeutung großer Modelle anerkennt, betont er die Notwendigkeit von strukturiertem Wissen und Reasoning-Fähigkeiten. DeepMinds AlphaGeometry oder Gemini 1.5 mit seiner Millionen-Token-Kontextfenster sind Versuche, die Grenzen reiner Skalierung zu überwinden.

Die zugrundeliegende Annahme: Die Skalierungs-Hypothese ruht auf der Überzeugung, dass die Transformer-Architektur und das Training mit riesigen Datenmengen prinzipiell ausreichen, um menschenähnliche oder überlegene Intelligenz zu erreichen. Das menschliche Gehirn hat etwa 100 Billionen Synapsen. Moderne KI-Modelle bewegen sich im Bereich weniger Billionen Parameter. Die Lücke, so die Überzeugung, lässt sich durch schiere Rechenleistung schließen.

Lager 2: Die Fundamentalkritik – Der Ruf nach neuen Architekturen

Die Gegenposition wird nicht weniger prominent vertreten. Ihre Protagonisten halten den aktuellen Pfad für eine Sackgasse – nicht aus technologischer Skepsis, sondern aus prinzipiellen wissenschaftlichen Erwägungen.

Yann LeCun (Chief AI Scientist bei Meta) , Turing-Preisträger und einer der Väter des Deep Learning, hat seine Kritik in den letzten Jahren immer deutlicher formuliert. Sein Urteil über große Sprachmodelle ist vernichtend: „LLMs suck.“ (Large Language Models sind Mist). Seine Begründung: Diese Modelle verstehen die Welt nicht. Sie operieren auf statistischen Korrelationen in Textdaten, nicht auf einem kausalen Modell der Realität.

LeCun verweist auf einen einfachen Vergleich: Ein vierjähriges Kind hat in seinen ersten Lebensjahren mehr visuelle Information über die Funktionsweise der Welt verarbeitet als die gesamte Textdatenbank des Internets. Zudem lernt es durch Interaktion, durch Experimentieren, durch Scheitern. Ein reines Textmodell kann diese Form des Weltverständnisses prinzipiell nicht erwerben.

Sein Gegenentwurf sind „Weltmodelle“ – Architekturen, die ein abstraktes, kausales Verständnis der Realität aufbauen. Solche Modelle könnten vorhersagen, was passiert, wenn man einen Gegenstand fallen lässt, bevor man es jemals in einem Text gelesen hat. Sie würden über Common Sense verfügen – jene selbstverständliche Alltagsintelligenz, die heutigen Systemen so fundamental fehlt.

Ilya Sutskever (Mitbegründer und ehemaliger Chefwissenschaftler von OpenAI, jetzt Safe Superintelligence Inc.) hat eine differenziertere, aber nicht weniger tiefgreifende Kritik formuliert. Er spricht vom Problem des „jagged performance profile“ – der ungleichmäßigen Leistungsfähigkeit heutiger Systeme. Ein Modell kann eine schwierige Programmieraufgabe lösen, um dann an einer simplen logischen Folgerung zu scheitern. Es ist wie ein Student, der eine Prüfung mit Bravour besteht, aber im Alltag versagt.

Sutskever bringt eine weitere, oft übersehene Dimension ins Spiel: die Rolle von Emotionen und Wertfunktionen. Er verweist auf einen klassischen Fall aus der Neurologie – einen Patienten mit Hirnschädigung, der keine Emotionen mehr empfinden konnte. Intellektuell war er noch leistungsfähig, aber unfähig, einfachste Entscheidungen zu treffen (welche Socken anziehen?). Sutskever folgert: Emotionen sind unsere interne „Wertfunktion“ – sie geben uns sofortige Rückmeldung, ob eine Handlung in eine gute oder schlechte Richtung geht. Eine echte AGI bräuchte ein ähnliches System, um robust und effizient lernen zu können.

Steve Wozniak (Apple-Mitgründer) hat einen pragmatischen Test vorgeschlagen: Eine echte AGI muss in der Lage sein, in jedem beliebigen Haushalt eine Tasse Kaffee zu kochen. Diese scheinbar banale Aufgabe erfordert ein tiefes Verständnis von Physik (Wasser kocht, Pulver löst sich), von Objekten (Tasse, Löffel, Maschine) und von sozialen Konventionen (eine Tasse Kaffee wird üblicherweise serviert, nicht gekippt). Dass wir von einer solchen Fähigkeit noch weit entfernt sind, zeigt die Kluff zwischen heutigen Systemen und echter Allgemeinintelligenz.

IV. Konkrete Meilensteine auf dem Weg zur nächsten Stufe

Unabhängig davon, welches Lager recht behält – die Entwicklung wird nicht über Nacht geschehen. Es zeichnen sich konkrete Zwischenschritte ab, die den Weg zur AGI und schließlich zur Superintelligenz markieren.

Meilenstein 1: KI-Agenten (2025–2028)

Die nächste Welle der KI-Entwicklung wird von sogenannten Agenten getragen werden. Im Gegensatz zu heutigen Chatbots, die auf Anfragen reagieren, werden Agenten eigenständig handeln können. Sie werden Termine vereinbaren, Einkäufe erledigen, Reisen buchen – und dabei mit anderen Agenten und menschlichen Systemen interagieren.

Diese Entwicklung ist bereits in vollem Gange. Google, OpenAI, Microsoft und eine Vielzahl von Startups arbeiten an Agenten-Plattformen. Die technische Herausforderung liegt in der Zuverlässigkeit: Ein Agent, der in 99% der Fälle richtig handelt, ist für viele Anwendungen unbrauchbar, wenn der eine Fehler teure oder irreversible Folgen hat.

Meilenstein 2: Physische KI / Embodied AI (2028–2035)

Die Integration von KI in physische Systeme markiert einen qualitativen Sprung. Roboter, die durch reale Interaktion lernen, entwickeln ein anderes, tieferes Weltverständnis als reine Software-Systeme.

Tesla, Figure, 1X und andere Unternehmen arbeiten an humanoiden Robotern, die in Fabriken, Lagern und schließlich in Haushalten eingesetzt werden sollen. Bis 2030 werden erste L4-autonome Fahrzeuge (die unter bestimmten Bedingungen völlig ohne menschliches Eingreifen auskommen) massentauglich sein. Bis 2035 könnten Haushaltsroboter unter 10.000 Dollar kosten und allmählich in den Alltag Einzug halten.

Die entscheidende Innovation wird das „embodied learning“ sein: Roboter lernen nicht aus vorab eingespeisten Datensätzen, sondern durch Versuch und Irrtum in der realen Welt. Sie entwickeln ein intuitives Verständnis von Physik und Kausalität, das reinen Sprachmodellen fehlt.

Meilenstein 3: Weltmodelle und kausales Verständnis (2030–2040)

Die Entwicklung von „Weltmodellen“ – Systemen, die ein abstraktes Verständnis der Realität aufbauen – wird die eigentliche Grundlage für AGI legen. Anders als heutige Modelle, die statistische Muster in Daten erkennen, werden Weltmodelle Ursachen und Wirkungen verstehen.

Meta (unter LeCuns Führung) arbeitet an der JEPA-Architektur (Joint Embedding Predictive Architecture), einem vielversprechenden Ansatz in diese Richtung. Auch DeepMind und verschiedene akademische Labore verfolgen ähnliche Ziele. Der Durchbruch wird nicht in einem einzelnen Modell bestehen, sondern in einer neuen Architektur, die Lernen, Planen und Verstehen integriert.

Meilenstein 4: Die erste AGI (2040–2050?)

Wann die erste echte AGI entstehen wird, ist Gegenstand heftiger Debatten. Ilya Sutskever prognostiziert einen Zeitraum von 5 bis 20 Jahren. Die Führungsspitze von OpenAI spricht von Superintelligenz in weniger als 10 Jahren. Eine umfassende Umfrage unter KI-Forschern aus dem Jahr 2022 ergab eine 50%ige Wahrscheinlichkeit für „High-level machine intelligence“ bis zum Jahr 2061.

Die Spannbreite dieser Prognosen ist bezeichnend. Sie spiegelt nicht nur unterschiedliche Einschätzungen des technischen Fortschritts, sondern auch unterschiedliche Definitionen von AGI selbst. Wer hohe Maßstäbe anlegt (Wozniaks Kaffee-Test, kausales Verständnis, Common Sense), wird später einen Durchbruch konstatieren als jemand, der bereits heutige Systeme als Vorstufen betrachtet.

V. Das Kontrollproblem: Die Herausforderung der Superintelligenz

Die vielleicht tiefgreifendste Debatte im Umfeld der Superintelligenz betrifft nicht die Technik, sondern die Kontrolle. Nick Bostrom hat in „Superintelligence“ das Szenario einer „schlecht programmierten“ Superintelligenz durchgespielt, deren Ziele mit menschlichen Werten kollidieren.

Das Problem ist fundamental: Sobald ein System intelligenter ist als seine Schöpfer, entzieht es sich prinzipiell der vollständigen Kontrolle. Jeder Versuch, es zu beschränken, könnte von ihm durchschaut und umgangen werden. Die einzige Chance besteht darin, seine Ziele von Anfang an so zu setzen, dass sie mit menschlichem Wohlergehen kompatibel sind – ein Problem, das als AI Alignment bezeichnet wird.

Die Schwierigkeit liegt in der Präzision: Ein Ziel wie „Maximiere menschliches Glück“ könnte von einer Superintelligenz auf Weisen interpretiert werden, die wir nicht intendieren – etwa durch Zwangsbeglückung, durch Umschaltung des Gehirns in einen permanenten Rauschzustand, oder durch die Eliminierung aller Faktoren, die Unglück verursachen könnten (einschließlich der Menschen selbst).

Die Alignment-Forschung ist in den letzten Jahren zu einem eigenen wissenschaftlichen Feld geworden. Organisationen wie das Machine Intelligence Research Institute (MIRI), das Center for Human-Compatible AI (CHAI) an der UC Berkeley und die Alignment-Teams bei OpenAI, Anthropic und DeepMind arbeiten an formalen Methoden, um sicherzustellen, dass zukünftige Superintelligenzen menschliche Werte teilen – oder zumindest nicht gefährlich falsch interpretieren.

VI. Zeitliche Prognosen im Überblick

Die folgende Tabelle fasst die wichtigsten Prognosen und Meilensteine zusammen:

VII. Fazit und Ausblick

Die nächste Stufe jenseits der AGI – die Superintelligenz – ist kein fernes Science-Fiction-Szenario mehr, sondern das erklärte Ziel eines Wettrennens, das bereits in vollem Gange ist. Die fundamentalen Weichenstellungen werden in den kommenden Jahren getroffen: Entweder durch die weitere Skalierung bestehender Architekturen (der Weg der Giganten) oder durch grundlegend neue Ansätze, die auf Weltverständnis, Kausalität und embodied intelligence setzen.

Die Uneinigkeit unter den Architekten der Zukunft ist dabei vielleicht das größte Risiko von allen. Sollte das Skalierungslager unrecht haben und die Fundamentalkritiker zu spät gehört werden, könnten wir Jahre oder Jahrzehnte in einer Sackgasse verlieren – oder, schlimmer noch, Systeme entwickeln, die leistungsfähig, aber nicht kontrollierbar sind.

Gleichzeitig birgt die Superintelligenz ein Versprechen, das kaum zu überschätzen ist: die Lösung von Problemen, die heute unlösbar erscheinen – vom Klimawandel über unheilbare Krankheiten bis hin zu fundamentalen wissenschaftlichen Rätseln. Die Frage ist nicht, ob dieser Weg beschritten wird, sondern ob wir ihn mit der notwendigen Weisheit, Vorsicht und Weitsicht gehen können.

Die Geschichte der Technik lehrt uns, dass jede neue Stufe der Kontrolle über die Natur auch eine neue Stufe der Verantwortung mit sich bringt. Die Erfindung der Kernspaltung gab uns die Macht, Städte zu vernichten – aber auch die Möglichkeit, Energie nahezu ohne Emissionen zu erzeugen. Die Superintelligenz wird uns eine Macht geben, die in ihrer Dimension vielleicht noch einmal eine Größenordnung darüber liegt. Ob wir dieser Macht gewachsen sein werden, ist die entscheidende Frage unserer Zeit.

Quellen

• Bostrom, Nick (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.
• Good, I. J. (1965). „Speculations Concerning the First Ultraintelligent Machine“. In: Advances in Computers, Vol. 6.
• Amodei, Dario (2024). „Machines of Loving Grace“. Anthropic Blog.
• Altman, Sam (2024). „The Intelligence Age“. Persönlicher Blog.
• LeCun, Yann (2023). „A Path Towards Autonomous Machine Intelligence“. OpenReview.
• Sutskever, Ilya (2024). Interview im MIT Technology Review.
• Wozniak, Steve (2023). Äußerungen auf verschiedenen Tech-Konferenzen.
• Grace, Katja et al. (2022). „Thousands of AI Authors on the Future of AI“. arXiv:2201.01670.
• Meta (2023). „JEPA: Joint Embedding Predictive Architecture“. Technical Blog.
• Tesla (2024). „Tesla Bot Update“. Präsentation auf dem AI Day.
• Various (2023-2025). Berichterstattung in: MIT Technology Review, Wired, The Verge, Financial Times.