KI-Tokens: Silicon Valleys neue Währung und die Kosten der Innovation

Die Nutzung von Künstlicher Intelligenz (KI) revolutioniert die Arbeitswelt und stellt Unternehmen vor neue finanzielle Herausforderungen. Insbesondere die sogenannten KI-Tokens, die als Maßeinheit für den Verbrauch von Large Language Models (LLMs) dienen, rücken in den Fokus. Während die Kosten für diese digitale Währung steigen, sehen führende Köpfe im Silicon Valley darin nicht nur eine Ausgabe, sondern einen Indikator für Innovation und Produktivität.

Die neue Währung der KI: Tokens und ihre Kosten

Tokens sind die grundlegenden Bausteine, mit denen Large Language Models (LLMs) wie OpenAI's ChatGPT, Anthropic's Claude oder xAI's Grok Wörter oder Wortteile in numerische Ein- und Ausgaben zerlegen. KI-Anbieter wie OpenAI berechnen die Nutzung dieser Modelle basierend auf der Anzahl der verbrauchten Tokens. Dabei ist die Preisgestaltung nicht pauschal: Komplexere Anfragen und der Einsatz fortschrittlicherer Modelle führen zu höheren Kosten.

"Verschwendung" als Innovationstreiber? Die Sicht von Box CEO Aaron Levie

Aaron Levie, CEO von Box, äußert sich gelassen über den aktuellen Token-Verbrauch seiner Ingenieure. Er betont, dass eine hohe Token-Nutzung ein Zeichen für Experimentierfreudigkeit und das Ausprobieren neuer Ansätze sei. "Für mich ist es im Moment so: 'Ja, wir sollten wahrscheinlich viele Tokens verschwenden, denn das bedeutet, dass wir neue Dinge ausprobieren'", sagte Levie kürzlich in der "a16z Show". Diese Haltung spiegelt die aktuelle Denkweise im Silicon Valley wider, insbesondere im Hinblick auf den Einsatz von KI-Agenten.

Levie weist darauf hin, dass Ingenieure sich mit grundlegenden Fragen auseinandersetzen müssen: Soll ein Prompt lang laufen? Soll es ein lang laufender Agent sein? Soll die Verarbeitung parallelisiert werden? Und wie hoch ist die Toleranz für verschwendete Tokens? Diese Fragen werden laut Levie erst gelöst sein, wenn die Kapazitäten der Rechenzentren ausgebaut sind, was potenziell zu niedrigeren Token-Preisen führen könnte, da die KI-Anbieter ihre begrenzte Rechenleistung nicht mehr so stark schonen müssten. Bereits jetzt implementieren KI-Unternehmen wie Anthropic Richtlinien, um mit Spitzenlasten umzugehen.

Nvidia CEO Jensen Huang: Produktivität durch Token-Einsatz

Nvidia CEO Jensen Huang vertritt eine noch deutlichere Position zur Token-Nutzung. Er wäre "zutiefst beunruhigt", wenn ein Ingenieur mit einem Jahresgehalt von 500.000 US-Dollar nicht KI-Tokens im Wert von mindestens 250.000 US-Dollar verbrauchen würde. Huangs Aussage auf dem "All-In Podcast" war klar: "Wenn diese Person 5.000 Dollar sagte, würde ich etwas anderes tun."

Huang sieht in den KI-Tokens eine neue Form der Leistungsmetrik und einen Anreiz für Ingenieure. Er schlug vor, Ingenieuren zusätzlich zum Grundgehalt ein "Token-Budget" zur Verfügung zu stellen, da jeder Ingenieur mit Zugang zu Tokens produktiver sei. Tokens, die Einheiten von Daten, die von KI-Systemen verwendet werden, um Tools auszuführen und Aufgaben zu automatisieren, werden laut Huang zu "einem der Rekrutierungsinstrumente im Silicon Valley".

Huangs Vision geht weiter: Er stellte sich vor, dass Nvidia eines Tages Hunderttausende von KI-Agenten beschäftigen wird, die die 42.000 menschlichen Mitarbeiter zahlenmäßig übertreffen. Er sagte: "Ich habe 42.000 biologische Mitarbeiter, und ich werde Hunderttausende von digitalen Mitarbeitern haben." Für Nvidia selbst ist eine höhere Token-Nutzung vorteilhaft, da sie den Absatz von KI-Infrastruktur fördert.

KI-Agenten: Die größten Token-Verbraucher und ihre Herausforderungen

KI-Agenten sind darauf ausgelegt, komplexere Anfragen zu verarbeiten und über längere Zeiträume autonom zu operieren, was den Token-Verbrauch erheblich steigert. Levie prognostiziert, dass diese Agenten, die rund um die Uhr laufen können, die größten Token-Konsumenten sein werden. Sie verarbeiten enorme Datenmengen und generieren neue Informationen in großem Maßstab, weit über einfache Chatbot-Interaktionen hinaus.

Die Herausforderungen beschränken sich jedoch nicht nur auf die Token-Kosten. Levie berichtet, dass CFOs und CIOs derzeit intensiv prüfen, ob die bestehenden IT- und Integrationsrichtlinien ihrer Unternehmen für das Zeitalter der KI-Agenten noch geeignet sind. Es stellen sich Fragen der Koordination, wenn Systeme möglicherweise "10.000 Mal pro Stunde" angesprochen werden, um sicherzustellen, dass Agenten nicht versehentlich Dateien verschieben oder gleichzeitige Schreib- und Löschvorgänge zu Konflikten führen, weil "diese Agenten wild laufen".

Budgetierung im Wandel: Wer zahlt die KI-Rechnung?

Angesichts des erwarteten Anstiegs der KI-bezogenen Ausgaben betont Aaron Levie die dringende Notwendigkeit für Unternehmen, ihre Budgetierungsstrategien neu zu bewerten. Er prognostiziert, dass der Anstieg der KI-Kosten zunächst die Ingenieurabteilungen betreffen wird, sich aber schließlich auf alle Bereiche der Wissensarbeit ausweiten wird, einschließlich Rechts- und Vertriebsabteilungen, die zu erheblichen Verbrauchern von KI-Ressourcen werden könnten. Levie ist überzeugt, dass die "Compute-Budgets" für Mitarbeiter, die KI effektiv nutzen, im Laufe der Zeit stetig steigen werden.

Nicht alle sind von den steigenden KI-Kosten begeistert. Der Risikokapitalgeber Chamath Palihapitiya berichtete, dass sein Startup 8090 die Nutzung des KI-Codierungstools Cursor einstellen musste, nachdem die Token-bezogenen Ausgaben innerhalb weniger Monate um mehr als das Dreifache gestiegen waren. Er sprach von "Millionen", die für Inferenzkosten, Cursor und Anthropic ausgegeben wurden. Levie spekuliert, dass die Ausgaben für KI langfristig nicht mehr ausschließlich unter IT-Budgets fallen, sondern stattdessen breiteren Geschäftsallokationen zugeordnet werden könnten, wodurch die finanzielle Verantwortung möglicherweise auf die CFOs übergeht.