OpenAI erwirbt Promptfoo: Stärkung der KI-Sicherheit für Agenten

OpenAI hat am Montag die Akquisition des Cybersicherheits-Startups Promptfoo bekannt gegeben. Dieser Schritt zielt darauf ab, die Absicherung und das Testen komplexer künstlicher Intelligenzsysteme zu verbessern. Die Technologie von Promptfoo wird in OpenAIs Frontier-Plattform für KI-Agenten integriert, um deren Sicherheit und Governance zu stärken.

OpenAI stärkt KI-Sicherheit durch Promptfoo-Akquisition

Die von Sam Altman geführte Firma OpenAI hat am Montag die Übernahme des Cybersicherheits-Startups Promptfoo bekannt gegeben. Promptfoo bietet spezialisierte Tools zur Absicherung und zum Testen komplexer KI-Systeme. Die finanziellen Details der Transaktion wurden nicht offengelegt, jedoch wird das Team von Promptfoo zu OpenAI wechseln. Die Sicherheitstools des Startups werden in OpenAIs Frontier-Plattform für KI-Agenten integriert.

Ian Webster, CEO von Promptfoo, betonte in einer Erklärung die wachsende Bedeutung der Sicherheit von KI-Agenten: "Da KI-Agenten zunehmend mit realen Daten und Systemen verbunden sind, ist deren Absicherung und Validierung anspruchsvoller und wichtiger denn je." Er fügte hinzu, dass der Beitritt zu OpenAI diese Arbeit beschleunigen und stärkere Sicherheits-, Schutz- und Governance-Funktionen für Teams bereitstellen werde, die reale KI-Systeme entwickeln.

Promptfoos Technologie und Marktposition

Promptfoo hat sich als Anbieter von Open-Source-Tools etabliert, die Entwicklern das Testen verschiedener KI-bezogener Prompts und Agenten ermöglichen. Zudem können sie die Leistung großer Sprachmodelle wie GPT, Anthropic's Claude und Google's Gemini vergleichen. OpenAI hat zugesichert, das beliebte Open-Source-Projekt von Promptfoo unter seiner aktuellen Lizenz weiterzuführen und bestehende Kunden zu unterstützen.

Das Produkt von Promptfoo fungiert als automatisierter Angreifer, der direkt mit der KI-Anwendung eines Kunden über dessen Chat-Schnittstelle oder APIs kommuniziert. Dabei werden spezialisierte Modelle und Agenten eingesetzt, die sich wie Nutzer oder gezielt wie Angreifer verhalten. Bei einem erfolgreichen Angriff zeichnet die Plattform diesen auf, analysiert die Ursache und iteriert durch eine agentische Denklogik. Promptfoo zählt über 125.000 Entwickler und mehr als 30 Fortune-500-Unternehmen zu seinen Nutzern, darunter Kunden aus dem Einzelhandel, der Telekommunikation, den Finanzdienstleistungen und den Medien.

Finanzielle Details und Investoren

Die genauen Konditionen der Übernahme wurden nicht bekannt gegeben. Promptfoo wurde von Ian Webster, einem ehemaligen Senior Staff Software Engineer bei Discord, und Michael D’Angelo, einem ehemaligen VP of Engineering bei Smile Identity, gegründet. Das Startup mit 11 Mitarbeitern hatte im Juli 2025 eine Series-A-Finanzierungsrunde in Höhe von 18,4 Millionen US-Dollar abgeschlossen, die von Insight Partners angeführt wurde und an der sich auch Andreessen Horowitz beteiligte.

Zuvor hatte Promptfoo im Jahr 2024 eine Seed-Finanzierung von 5 Millionen US-Dollar erhalten, ebenfalls unter Führung von Andreessen Horowitz, mit namhaften Angel-Investoren wie Shopify CEO Tobi Lütke. Die Gesamtfinanzierung vor der Akquisition belief sich auf etwa 23,4 Millionen US-Dollar. Laut PitchBook hatte Promptfoo eine Bewertung von rund 119 Millionen US-Dollar. Andreessen Horowitz hat sich verstärkt in den Infrastruktur- und Verteidigungsmärkten engagiert und im Januar 15 Milliarden US-Dollar im Rahmen seiner "American Dynamism"-Initiative aufgebracht. Davon sind 6,75 Milliarden US-Dollar für einen Wachstumsfonds und jeweils 1,7 Milliarden US-Dollar für Fonds mit Fokus auf Anwendungen und Infrastruktur vorgesehen.

Strategische Bedeutung für OpenAI Frontier

Die Akquisition von Promptfoo stellt OpenAIs direktesten Schritt in die Sicherheit von KI-Anwendungen dar. Die Technologie wird direkt in OpenAI Frontier integriert, OpenAIs Unternehmensplattform für den Aufbau, die Bereitstellung und das Management von KI-Agenten, die erst Anfang Februar 2026 gestartet wurde. OpenAI betonte, dass die Akquisition die "agentischen Sicherheitstests und Evaluierungsfähigkeiten" innerhalb von Frontier stärken werde.

OpenAI unterstreicht die Notwendigkeit systematischer Methoden für Unternehmen, um das Verhalten von Agenten zu testen, Risiken vor der Bereitstellung zu erkennen und klare Aufzeichnungen zur Unterstützung von Aufsicht, Governance und Rechenschaftspflicht zu führen. Michael D’Angelo, Mitbegründer von Promptfoo, bestätigte in einem LinkedIn-Beitrag, dass das Promptfoo-Team seine Arbeit innerhalb von OpenAI Frontier fortsetzen wird, um Evaluierung, Red Teaming und Sicherheitsüberprüfung zu einem festen Bestandteil der Entwicklung von KI-Agenten zu machen. Er bekräftigte zudem, dass Promptfoo Open Source bleiben und weiterhin mehrere Anbieter und Modelle unterstützen wird.