Menschliches Feedback bleibt für KI-Training auf Jahrzehnte unverzichtbar

Die Vorstellung, dass künstliche Intelligenz (KI) sich bald selbstständig trainieren wird und menschliches Eingreifen überflüssig macht, ist ein weit verbreitetes Missverständnis in der Branche. Führende Persönlichkeiten aus dem Bereich des KI-Trainings betonen jedoch, dass menschliches Feedback und Urteilsvermögen auf Jahrzehnte hinaus eine entscheidende Rolle spielen werden. Dies gilt insbesondere für die Entwicklung von GenAI-Systemen, die komplexe Aufgaben und kulturelle Kontexte verstehen müssen.

Menschliche Expertise bleibt unverzichtbar für KI-Training

Matt Fitzpatrick, CEO des Datenbeschriftungs-Startups Invisible Technologies, äußerte sich kürzlich im "20VC"-Podcast zu diesem Thema. Er erklärte, dass die Annahme, synthetische Daten würden menschliches Feedback in wenigen Jahren ersetzen, aus "ersten Prinzipien" heraus keinen Sinn ergebe. Fitzpatrick, der letztes Jahr zu Invisible Technologies kam, war zuvor Senior Partner bei McKinsey und leitete dort QuantumBlack Labs, den Bereich für KI-Forschung und Softwareentwicklung.

Er argumentiert, dass die Vielfalt der Aufgaben, die KI in der Welt bewältigen soll, zu groß ist, um sie allein mit künstlich erzeugten Daten präzise zu lösen. Insbesondere sprachliche und kulturelle Kontexte sowie nicht-öffentliche Informationen, wie sie beispielsweise in der Rechtsbranche vorkommen, erfordern weiterhin menschliche Beteiligung. "Auf der GenAI-Seite werden wir über Jahrzehnte hinweg Menschen in der Schleife brauchen", so Fitzpatrick.

Synthetische Daten: Ergänzung, kein Ersatz

Synthetische Daten sind künstlich erzeugte Informationen, die zum Training von KI- oder Machine-Learning-Modellen verwendet werden. Sie kommen oft zum Einsatz, wenn reale Daten knapp sind oder aus Datenschutzgründen nicht genutzt werden können. Menschliches Feedback hingegen beinhaltet, dass reale Personen KI-Antworten filtern, bewerten und trainieren.

Invisible Technologies, das im September 2025 eine Finanzierungsrunde von 100 Millionen US-Dollar bei einer Bewertung von 2 Milliarden US-Dollar abschloss, konkurriert mit Unternehmen wie Scale AI und Surge AI. Diese Startups haben in den letzten Jahren Milliardenbeträge eingesammelt, da Technologiegiganten um die für das KI-Training benötigten Daten wetteifern. Sie beschäftigen Millionen menschlicher Auftragnehmer, die den Modellen Mathematik, Naturwissenschaften, Programmierung sowie Eigenschaften wie Humor und Empathie beibringen.

Spezialisierung statt Generalisierung

Andere CEOs von Datenbeschriftungs-Startups teilen Fitzpatricks Ansicht über die Notwendigkeit menschlicher Anstrengung. Brendan Foody, CEO von Mercor, betonte im September 2025 die Bedeutung von Datenqualität und "phänomenalen Mitarbeitern, die man unglaublich gut behandelt".

Garrett Lord, CEO von Handshake, einem Job-Portal, das sich 2025 auf KI-Training umorientierte, erklärte im Juli 2025, dass Menschen weiterhin für das KI-Training benötigt werden, sich aber die Anforderungen ändern. Die Branche verschiebt sich von Generalisten hin zu hochspezialisierten Experten, auch in Mathematik und Naturwissenschaften. Lord merkte an, dass die Modelle mittlerweile "den gesamten Korpus des Internets und jedes Buch und Video aufgesogen" haben, wodurch Generalisten weniger gefragt seien.

Menschliche Neugier als entscheidender Faktor

Aravind Srinivas, CEO des KI-Such-Startups Perplexity, unterstreicht ebenfalls die einzigartige Rolle des Menschen. Er erklärte in einem Podcast, dass Maschinen zwar hervorragend darin sind, Probleme zu lösen, aber immer noch auf Menschen angewiesen sind, um zu entscheiden, welche Probleme überhaupt verfolgenswert sind. Neugier und die Fähigkeit, Fragen zu formulieren, blieben einzigartige menschliche Stärken.

Srinivas betonte, dass KI-Systeme zwar effizient Lösungen optimieren und verifizieren können, aber nicht eigenständig bedeutungsvolle Probleme identifizieren. Er beschrieb Neugier als eine zutiefst menschliche Eigenschaft, die wissenschaftliche Entdeckungen und intellektuellen Fortschritt untermauert. Bislang habe kein KI-System die Fähigkeit gezeigt, grundlegende Fragen aus reiner Neugier zu stellen, was die aktuelle Grenze zwischen künstlicher und biologischer Intelligenz markiere.

Die KI-Blase und überzogene Erwartungen

Die rasante Entwicklung und die hohen Investitionen in KI haben auch zu Diskussionen über eine mögliche "KI-Blase" geführt. Sam Altman, CEO von OpenAI, äußerte im August 2025 die Meinung, dass Investoren als Ganzes "übermäßig begeistert von KI" seien. Er verglich die aktuelle Situation mit der Dotcom-Blase, bei der "kluge Leute von einem Kern der Wahrheit übermäßig begeistert" waren.

Diese Einschätzung folgte auf eine im Juli 2025 veröffentlichte MIT-Studie, die besagte, dass 95 % der Unternehmen, die in generative KI investierten, "keinen Ertrag" erzielten. Auch wenn die Studie nuancierter war als die Schlagzeilen, nährte sie die Skepsis. Altmans eigene Prognose, dass KI-Agenten 2025 "der Belegschaft beitreten" und die Unternehmensleistung "materiell verändern" würden, sowie Kevin Weils (OpenAI Chief Product Officer) Versprechen, dass ChatGPT 2025 "Dinge in der realen Welt für Sie erledigen" würde, haben sich bisher nicht in vollem Umfang bewahrheitet.

Lokale KI-Systeme und Energieeffizienz

Aravind Srinivas von Perplexity sprach auch über die Zukunft der KI-Infrastruktur. Er schlug vor, dass Fortschritte bei lokal laufenden KI-Systemen die Dominanz großer Rechenzentren herausfordern könnten. Die größte Bedrohung für zentralisierte Rechenzentren würde entstehen, wenn Intelligenz effizient auf lokale Chips gepackt werden könnte, die direkt auf Benutzergeräten laufen, wodurch die Notwendigkeit einer zentralisierten Inferenz im großen Maßstab entfiele.

Srinivas hob den Kontrast zwischen menschlicher und künstlicher Intelligenz in Bezug auf die Energieeffizienz hervor. Das menschliche Gehirn verbraucht nur einen Bruchteil der Energie, die moderne Rechenzentren für vergleichbare Aufgaben benötigen. Er führte diese Lücke nicht nur auf die Biologie zurück, sondern auch auf menschliche Eigenschaften wie Neugier, Intuition und die Fähigkeit, Annahmen zu hinterfragen, die den aktuellen KI-Modellen fehlen.