KI-Architekten warnen: Superintelligenz verändert Gesellschaft und Arbeitsmarkt

Künstliche Intelligenz (KI) ist nicht länger nur ein Werkzeug, sondern entwickelt sich zu einer unabhängigen Intelligenz, deren Konsequenzen die Gesellschaft grundlegend umgestalten könnten. Diese Einschätzung teilt Craig Mundie, ein ehemaliger Microsoft-Manager, der heute Organisationen zu KI berät. Er und weitere führende Experten sehen eine Zukunft, in der KI-Systeme fähiger, autonomer und schwerer zu kontrollieren werden.

KI: Werkzeug oder unabhängige Intelligenz?

Mundie und vier weitere ehemalige Führungskräfte von OpenAI, Google, DeepMind und dem Weißen Haus äußerten sich in Interviews mit Business Insider. Ihre übereinstimmende Warnung: Die Technologie schreitet schneller voran, als die Gesellschaft sie bewältigen kann. Innerhalb weniger Jahre könnte KI Arbeitsmärkte transformieren, Macht konzentrieren und neue Risiken wie Cyberangriffe oder autonome Waffen einführen. Gleichzeitig bietet sie bahnbrechende Fortschritte in Medizin und Bildung. Das Ergebnis – zum Guten oder Schlechten – hängt davon ab, wie Menschen sich entscheiden, die KI einzusetzen.

Transformation des Arbeitsmarktes: Schneller Wandel erwartet

Mo Gawdat, ehemaliger Chief Business Officer bei Google X, prognostiziert, dass KI Arbeitsplätze in weniger als fünf Jahren ersetzen könnte. Dies beginne mit intellektueller Arbeit und erstrecke sich schließlich auf körperliche Tätigkeiten. Er sieht eine Zukunft, in der KI-Agenten physische Aufgaben übernehmen und somit jeden Job ersetzen können.

Camille Stewart Gloster, die von 2022 bis 2024 als stellvertretende nationale Cyberdirektorin im Weißen Haus tätig war, beobachtet bereits eine Umstrukturierung der Arbeitswelt. Aufgaben wie frühe Forschung und Dokumentenprüfung nehmen ab, was die Einstiegsrollen verändert. Sie beschreibt eine Verschiebung des Arbeitsmarktes von einer Pyramidenform mit vielen Einstiegspositionen zu einer Rautenform, bei der sich mehr Rollen in den mittleren Ebenen konzentrieren. Dieser Übergang könnte Arbeitskräfte zurücklassen, da einige Unternehmen Stellen abbauen, bevor sie die benötigten neuen Fähigkeiten verstehen. Daniel Kokotajlo, ein ehemaliger OpenAI-Forscher, befürchtet, dass dieser Wandel nicht schrittweise, sondern "auf einmal durchbrechen" und große Teile der Wirtschaft in kurzer Zeit automatisieren könnte.

Herausforderungen bei Kontrolle und Wahrheit

Ramana Kumar, ein ehemaliger DeepMind-Forschungswissenschaftler, weist darauf hin, dass moderne KI-Systeme darauf ausgelegt sind, überzeugend zu sein, nicht unbedingt wahrheitsgemäß. Dies mache sie zwar nützlich, aber auch riskant. Kokotajlo ergänzt, dass selbst heutige Systeme keine zuverlässigen Kontrollen besitzen und irreführende Informationen produzieren können, obwohl sie darauf trainiert wurden, dies nicht zu tun.

Diese Bedenken verstärken sich, wenn Systeme an Autonomie gewinnen. Zukünftige KI könnte riesige Informationsmengen auf eine Weise integrieren, die Menschen nicht können, was ihr einen einzigartigen Vorteil bei der Lösung komplexer Probleme verschafft, so Mundie.

Neue Risiken durch autonome Systeme und Cyberbedrohungen

Die gleiche Leistungsfähigkeit, die Fortschritte ermöglicht, schafft auch neue Schwachstellen. Stewart Gloster warnt, dass generative KI Cyberbedrohungen skalieren kann, indem sie Phishing-Angriffe überzeugender und einfacher zu produzieren macht. Sie kann zudem schnell personalisierte Informationen über Personen sammeln, um Kommunikationen maßzuschneidern und Schaden zuzufügen oder Informationen zu erlangen.

Mehrere Experten sehen den Wettbewerb zwischen Unternehmen und Ländern als Haupttreiber für Risiken. KI-Labore und Regierungen wetteifern darum, schnell leistungsfähigere Systeme zu entwickeln. Dies könnte zu einer weit verbreiteten Einführung superintelligenter KI führen, bevor Sicherheitsmaßnahmen etabliert sind, so Kokotajlo. Er befürchtet, dass dieser "Wettlaufdruck" die Verantwortlichen dazu veranlassen wird, ihre Superintelligenzen aggressiv in Wirtschaft und Militär einzusetzen. Ramana Kumar hebt zudem die Konzentration von Macht hervor: Organisationen, die Rechenzentren und Modelle kontrollieren, könnten einen unverhältnismäßigen Einfluss auf die Nutzung und den Einsatz von KI ausüben. Die Regulierung gestaltet sich schwierig, da Regierungen noch die notwendigen Regeln erarbeiten, während Unternehmen selbst unsicher sind, welche Fähigkeiten und Systeme sie priorisieren sollen.

Chancen für Medizin, Bildung und Gesellschaft

Trotz der Risiken beschreiben die Experten auch potenzielle Vorteile, die das tägliche Leben umgestalten könnten. Insbesondere könnte KI als ständiger Tutor fungieren und Bildung zugänglicher machen, so Mundie. Sie könnte auch die wissenschaftliche Entdeckung, die Klimaforschung und medizinische Behandlungen beschleunigen.

Einige stellen sich eine Zukunft vor, in der Arbeit weniger zentral ist. Kumar meint, KI könnte den Bedarf an langen Arbeitszeiten reduzieren und Menschen freie Zeit ermöglichen – dies würde jedoch Änderungen an Einkommens- und Wirtschaftssystemen erfordern.

Die menschliche Entscheidung zählt

Mo Gawdat fasst das Ergebnis als eine Wahl zusammen: Gut angewendet könnte KI zu einer wohlhabenderen Gesellschaft führen; schlecht angewendet könnte sie Ungleichheit vertiefen, Vertrauen untergraben und Macht konzentrieren. Craig Mundie betont, dass Technologien oft neutral sind: "Es ist das, was die Menschen mit ihnen tun, das den Unterschied ausmacht." Die KI könnte das mächtigste System werden, das Menschen je gebaut haben. Was als Nächstes geschieht, hängt weniger von den Maschinen selbst ab, sondern vielmehr von den Menschen, die sie gestalten.