Cisco fordert Hintergrundchecks für KI-Agenten: Sicherheit in der autonomen Arbeitswelt

Cisco-Präsident Jeetu Patel fordert, KI-Agenten ähnlich wie menschliche Mitarbeiter einer Sicherheitsüberprüfung zu unterziehen. Angesichts der rasanten Entwicklung autonomer KI-Systeme sei dies unerlässlich, um Sicherheitsrisiken und unkontrolliertes Verhalten zu verhindern. Unternehmen müssen sich auf eine neue Ära der Cybersicherheit einstellen, in der Künstliche Intelligenz eine zentrale Rolle spielt.

KI-Agenten: Hintergrundchecks wie für Mitarbeiter

Jeetu Patel, Präsident von Cisco, betont die Notwendigkeit, autonome KI-Systeme und -Agenten wie menschliche Angestellte zu überprüfen. In einem Interview mit Euonews Next erklärte er, dass KI-Agenten, die im Auftrag von Unternehmen arbeiten, "Hintergrundchecks" durchlaufen sollten. Dies diene dem Schutz vor Sicherheitsrisiken und dem sogenannten "Rogue Behavior", also unkontrolliertem oder schädlichem Handeln der KI.

Patel unterstreicht, dass die Sicherheit sich parallel zur schnellen Einführung von KI-Systemen entwickeln muss. Diese Systeme sind in der Lage, Code zu schreiben, Arbeitsabläufe zu steuern und Entscheidungen zu treffen. Es gelte, "den Agenten vor der Welt der Angriffe zu schützen und die Welt vor dem Agenten, der außer Kontrolle gerät."

Cisco und die Zukunft der KI-Entwicklung

Cisco selbst beschleunigt die Einführung von Künstlicher Intelligenz in seinen Prozessen. Jeetu Patel prognostiziert, dass das Unternehmen bis Ende 2026 "mindestens ein halbes Dutzend Produkte" vollständig mit KI entwickeln wird, ohne eine einzige von Menschen geschriebene Codezeile.

Er erwartet, dass Entwickler bei Cisco KI als Kernbestandteil ihrer Arbeit nutzen werden. Patel rät: "Machen Sie sich keine Sorgen, dass KI Ihnen den Job wegnimmt, aber machen Sie sich Sorgen, dass jemand, der KI besser nutzt als Sie, Ihnen definitiv den Job wegnimmt."

Die Transformation der Arbeitswelt durch KI-Agenten

Technologieführer setzen verstärkt auf KI-Agenten, die Aufgaben übernehmen können. Eric Simons, CEO von StackBlitz, äußerte gegenüber Business Insider den Wunsch, in seinem Startup noch in diesem Jahr mehr KI-Agenten als menschliche Mitarbeiter zu beschäftigen. Dies spiegele einen umfassenden Wandel in der Softwarebranche wider.

KI kann bereits Code schreiben, Aufgaben verwalten und plattformübergreifend koordinieren. OpenClaw, ein persönlicher KI-Assistent für Messaging-Apps, demonstriert, wie Agenten mit minimalem menschlichen Eingreifen agieren können. Simons sieht darin einen "Blick in die Wildheit der unvermeidlichen Zukunft", in der KI-Agenten im Namen von Nutzern verhandeln oder Termine prüfen könnten.

Herausforderungen und Risiken autonomer Systeme

Trotz des Potenzials gibt es Warnsignale bezüglich der Skalierbarkeit agentenbasierter Systeme. Nicolas Darveau-Garneau, ehemaliger Google-Manager und Autor von "Be a Sequoia, Not a Bonsai", warnt davor, dass solche Systeme bei zunehmender Größe fragil werden können.

Wenn "Halluzinationen" – also fehlerhafte oder erfundene Informationen der KI – sich bei der Interaktion der Agenten vervielfachen, könnten kleine Fehler kaskadieren. Darveau-Garneau betont, dass massive Produktivitätssteigerungen nur dann erreicht werden, wenn man der KI vertrauen kann, dass sie nicht häufig halluziniert.