Nvidia lizenziert Groq-Technologie und sichert sich Top-KI-Talente

Nvidia hat eine strategische Lizenzvereinbarung mit dem KI-Hardware-Startup Groq geschlossen und gleichzeitig dessen Gründer Jonathan Ross, Präsident Sunny Madra sowie weitere Schlüsselmitarbeiter eingestellt. Dieser Schritt unterstreicht Nvidias Bestreben, seine Führungsposition im Bereich der KI-Inferenz weiter auszubauen und von Groqs spezialisierter LPU-Technologie zu profitieren.

Nvidia stärkt KI-Inferenz mit Groq-Technologie

Nvidia hat eine nicht-exklusive Lizenzvereinbarung für Groqs Inferenztechnologie unterzeichnet. Groq ist bekannt für seine Language Processing Unit (LPU), einen speziell für die KI-Inferenz entwickelten Chip. Diese Technologie ermöglicht es trainierten KI-Modellen, Vorhersagen oder Entscheidungen zu treffen.

Die LPU von Groq ist darauf ausgelegt, Sprachmodelle schnell und mit bekannter Token-Latenz zu streamen. Das Unternehmen hat demonstriert, dass seine Technologie massive Antworten bis zu zehnmal schneller und mit etwa einem Zehntel des Stromverbrauchs im Vergleich zu traditionellen Techniken verarbeiten kann, bei deterministischer Tokens-pro-Sekunde-Leistung.

Durch die Lizenzierung dieser Technologie und die Integration des Know-hows von Groq könnte Nvidia seine Compiler-Designs, die Zeitplanung und latenzreduzierende Inferenztechniken verbessern. Dies könnte das bestehende CUDA-Ökosystem von Nvidia, einschließlich der TensorRT-Bibliothek und des Triton Inference Servers, mit neuen Erkenntnissen aus Low-Level-Optimierungen ergänzen.

Strategische Personalien: Groq-Gründer wechselt zu Nvidia

Im Rahmen der Vereinbarung wechseln Jonathan Ross, Gründer von Groq, Sunny Madra, Präsident von Groq, und weitere Mitglieder des Groq-Teams zu Nvidia. Sie sollen dabei helfen, die lizenzierte Technologie voranzutreiben und zu skalieren. Jonathan Ross bringt dabei eine tiefgreifende Erfahrung im Bereich der Beschleunigertechnologie mit.

Ross war zuvor Ingenieur bei Google und Teil des Teams, das das Projekt für Googles erste TPU-Chips entwickelte. Diese TPUs sind kundenspezifische Chips zur Beschleunigung großer Aufgaben des maschinellen Lernens und gelten als wichtige Konkurrenz zu Nvidias GPUs. Die Übernahme dieser Schlüsselpersonen und des geistigen Eigentums von Groq deutet auf Nvidias Interesse an einer Cross-Pollination von Fachwissen hin.

Ein Blick auf Groq: Der Herausforderer im KI-Chip-Markt

Groq, ein Startup, das sich auf KI-Hardware spezialisiert hat, wurde vor drei Monaten mit rund 6,9 Milliarden US-Dollar bewertet. In seiner letzten Finanzierungsrunde konnte das Unternehmen etwa 750 Millionen US-Dollar einsammeln. Die Firma wird weiterhin unabhängig operieren, wie Groq in einem Blogbeitrag bestätigte.

Die LPUs von Groq sind speziell für die Inferenz von trainierten, massiven Sprachmodellen konzipiert. Sie haben Aufmerksamkeit für ihre Architektur erregt, die sich auf das Timing konzentriert und eine hohe Durchsatz-Inferenz für Echtzeit-Agenten, Code-Assistenz und interaktive Suche ermöglicht.

Die neue Ära der "Acqui-Hires" im Silicon Valley

Der Deal zwischen Nvidia und Groq ist symptomatisch für eine neue Art von Geschäftsabschlüssen im Silicon Valley, die als "Acqui-Hires" bekannt sind. Im Gegensatz zu traditionellen Startups, die entweder an die Börse gehen oder vollständig übernommen werden, profitieren bei Acqui-Hires oft nur ein kleiner Prozentsatz der Mitarbeiter mit begehrten KI-Fähigkeiten und die Gründer.

Beispiele für solche Deals aus dem Jahr 2024 sind:

• Google zahlte 2,5 Milliarden US-Dollar für die Lizenzierung der Technologie von Character.AI und stellte nur dessen zwei Gründer sowie 20 % der Mitarbeiter ein.
• Amazon und Microsoft schlossen ähnliche Vereinbarungen mit den KI-Entwicklern Adept bzw. Inflection.
• Meta investierte kürzlich rund 14 Milliarden US-Dollar für einen 49-prozentigen Anteil an Scale AI und holte dessen CEO, Alexandr Wang, an Bord, um die Meta Superintelligence Labs zu leiten.

Diese Acqui-Hires verlaufen jedoch nicht immer reibungslos. So blieben beispielsweise Mitarbeiter von Windsurf in der Schwebe, nachdem das KI-Coding-Startup beinahe für 3 Milliarden US-Dollar von OpenAI übernommen worden wäre, der Deal jedoch scheiterte und das Unternehmen aufgeteilt wurde. Google stellte den CEO und Top-Ingenieure von Windsurf ein, während die verbleibenden Hunderte von Mitarbeitern von einem anderen Startup, Cognition, übernommen wurden.

Nicht-exklusive Lizenzierung: Vorteile für beide Seiten

Die nicht-exklusive Lizenzierung bietet Nvidia Flexibilität, ohne Groq daran zu hindern, eigene Partnerschaften mit anderen Unternehmen einzugehen. Dies ist besonders relevant für Unternehmen, die eine Anbieterbindung vermeiden möchten. Groq kann weiterhin seine LPU-Systeme und -Dienste verkaufen, während Nvidia das lizenzierte Know-how in seinen Software-Stack und seine Plattform-Anleitungen integrieren kann.

Diese Art der Vereinbarung minimiert auch potenzielle kartellrechtliche Bedenken, da sie weder eine vollständige Konsolidierung darstellt noch die Optionen für Cloud-Anbieter, Modellentwickler und Systemintegratoren einschränkt.

Finanzielle Details und Marktausblick

Weder Nvidia noch Groq haben die finanziellen Bedingungen der Vereinbarung oder den Umfang des lizenzierten geistigen Eigentums offengelegt. Beobachter sollten auf Software-Updates, Referenzdesigns oder Benchmarking-Zahlen achten, die niedrigere Latenzzeiten oder eine bessere Tokens-pro-Watt-Leistung auf Nvidia-Plattformen zeigen. Dies könnte ein frühes Indiz dafür sein, wie gut die Groq-Technologien in Nvidias Turing-Karten integriert werden.