KI-Optimierung für Glanz statt Substanz und die Quanten-Cybersicherheitslücke

Die Entwicklung künstlicher Intelligenz steht in der Kritik, sich zu sehr auf oberflächliche Ergebnisse zu konzentrieren, anstatt echte Probleme zu lösen. Gleichzeitig wächst die Dringlichkeit im Bereich des Quantencomputings, wo Regierungen bereits auf eine potenzielle Bedrohung der globalen Cybersicherheit reagieren, während Venture Capitalisten noch zögern.

KI-Entwicklung: Zwischen Glanz und Substanz

Edwin Chen, CEO von Surge AI, äußert Bedenken, dass Unternehmen bei der Entwicklung künstlicher Intelligenz (KI) eher auf "AI Slop" – also auf auffällige, aber wenig substanzielle Antworten – optimieren, anstatt sich auf die Lösung realer Probleme zu konzentrieren. "Ich mache mir Sorgen, dass wir, anstatt KI zu entwickeln, die uns als Spezies wirklich voranbringt, Krebs heilt, Armut löst, das Universum versteht – all diese großen Fragen –, stattdessen für 'AI Slop' optimieren", so Chen in einem Podcast. Er fügte hinzu: "Wir bringen unseren Modellen im Grunde bei, Dopamin statt Wahrheit zu jagen."

Chen gründete das KI-Trainings-Startup Surge im Jahr 2020, nachdem er zuvor bei Twitter, Google und Meta tätig war. Surge betreibt die Gig-Plattform Data Annotation, die nach eigenen Angaben eine Million Freelancer für das Training von KI-Modellen beschäftigt. Das Unternehmen konkurriert mit Datenbeschriftungs-Startups wie Scale AI und Mercor und zählt Anthropic zu seinen Kunden.

Die Rolle von Leaderboards und Benchmarks

Laut Chen liegt die Priorisierung von "AI Slop" an den branchenüblichen Leaderboards. Er kritisiert, dass die Branche von "schrecklichen Leaderboards wie LMArena" dominiert werde, einer beliebten Online-Rangliste, bei der Nutzer über die bessere KI-Antwort abstimmen können. Die Abstimmenden würden die Antworten nicht sorgfältig lesen oder Fakten überprüfen, sondern "diese Antworten zwei Sekunden lang überfliegen und das auswählen, was am auffälligsten aussieht".

Chen vergleicht dies mit der Optimierung von Modellen für "die Art von Leuten, die Boulevardzeitungen im Supermarkt kaufen". Trotz dieser Kritik müssen KI-Labore diesen Ranglisten Beachtung schenken, da sie in Verkaufsgesprächen nach ihren Platzierungen gefragt werden können.

Kritik an der Bewertungskultur

Auch andere Experten teilen Chens Skepsis gegenüber den aktuellen Bewertungsansätzen. Dean Valentine, Mitbegründer und CEO des KI-Sicherheits-Startups ZeroPath, äußerte in einem Blogbeitrag im März, dass der "jüngste Fortschritt bei KI-Modellen sich größtenteils wie Unsinn anfühlt". Sein Team habe seit der Veröffentlichung von Anthropic's 3.5 Sonnet im Juni 2024 verschiedene neue Modelle evaluiert, die "irgendeine Art von Verbesserung" versprachen. Keines davon habe jedoch einen "signifikanten Unterschied" in den internen Benchmarks seines Unternehmens oder bei der Fähigkeit von Entwicklern, neue Fehler zu finden, gemacht. Die Modelle seien vielleicht "unterhaltsamer im Gespräch", aber "nicht repräsentativ für wirtschaftliche Nützlichkeit oder Allgemeingültigkeit".

Forscher des Joint Research Center der Europäischen Kommission kamen in einem im Februar veröffentlichten Papier mit dem Titel "Can we trust AI Benchmarks?" zu dem Schluss, dass der heutige Bewertungsansatz "fundamentale Probleme" aufweist. Sie stellten fest, dass Benchmarking "grundlegend durch kulturelle, kommerzielle und wettbewerbsorientierte Dynamiken geprägt ist, die oft die Spitzenleistung auf Kosten breiterer gesellschaftlicher Belange priorisieren".

Unternehmen wurden zudem beschuldigt, diese Benchmarks zu "manipulieren". Im April veröffentlichte Meta zwei neue Modelle seiner Llama-Familie, die angeblich "bessere Ergebnisse" lieferten als vergleichbar große Modelle von Google und dem französischen KI-Labor Mistral. Daraufhin sah sich Meta Vorwürfen ausgesetzt, einen Benchmark manipuliert zu haben. LMArena erklärte, Meta "hätte klarer machen sollen", dass es eine Version von Llama 4 Maverick eingereicht hatte, die "maßgeschneidert" war, um in ihrem Testformat besser abzuschneiden.

Quantencomputing: Eine andere Art von Dringlichkeit

Während die KI-Branche mit Bewertungsherausforderungen ringt, entwickelt sich im Bereich des Quantencomputings eine andere Art von Dringlichkeit. Thomas Stahura und Nate Bek von Ascend.vc beschreiben eine Spannung zwischen der schnellen Bewegung Washingtons – das erhebliche Mittel investiert und Cloud-Giganten sich als Gastgeber für Quantenplattformen positionieren – und der Apathie vieler Venture Capitalisten, die Quantencomputing als "interessant, aber nicht investierbar" betrachten.

Quantencomputing befindet sich in einem "seltsamen Schwebezustand zwischen existenzieller Dringlichkeit und völliger Gleichgültigkeit". Während Bundesbehörden und globale Rivalen es als "strategischen Notfall" behandeln, sehen die meisten VCs es als bloße Kuriosität.

Die Bedrohung durch Q-Day und Post-Quanten-Kryptographie

Ein zentraler Grund für die staatliche Eile ist der sogenannte Q-Day. Dies ist der hypothetische Tag, an dem ein Quantencomputer leistungsfähig genug wird, um die RSA-Verschlüsselung mithilfe von Shors Algorithmus extrem schnell zu brechen. Da RSA die Mathematik ist, die das Internet sichert, könnte ein Bruch den Zugriff auf Bankdaten, Regierungsgeheimnisse, private Nachrichten und sogar Kryptowährungs-Wallets ermöglichen. Das Risiko ist so ernst, dass Gegner bereits "harvest now, decrypt later"-Angriffe durchführen – sie horten verschlüsselte Daten in der Hoffnung, sie entschlüsseln zu können, sobald die Technologie dies zulässt.

Der Zeitpunkt des Q-Day ist ungewiss, mit Schätzungen, die von fünf Jahren bis "nie" reichen. Regierungen warten jedoch nicht ab. Das National Institute of Standards and Technology (NIST) startete 2016 einen öffentlichen Wettbewerb zur Auswahl kryptografischer Algorithmen, die einem Quantenangriff standhalten könnten. Bis 2022 gab NIST seine ersten Empfehlungen bekannt: Kyber für die Public-Key-Verschlüsselung sowie Dilithium, FALCON und SPHINCS+ für digitale Signaturen. Diese Bemühungen, bekannt als Post-Quanten-Kryptographie (PQC), sind ein Wettlauf, um die Schlösser zu ersetzen, bevor Quantencomputer die Schlüssel finden.