KI-Ethik: Google & OpenAI Mitarbeiter fordern "rote Linien" im Pentagon-Konflikt

Mitarbeiter von Google (NASDAQ:GOOGL) (NASDAQ:GOOG) und OpenAI erheben ihre Stimmen gegen geplante Kooperationen ihrer Unternehmen mit dem Pentagon im Bereich der Künstlichen Intelligenz (KI). Sie fordern klare ethische Grenzen, sogenannte "rote Linien", in Regierungsverträgen, um den Missbrauch von KI-Technologien für Massenüberwachung oder autonome Waffensysteme ohne menschliches Eingreifen zu verhindern. Dieser Protest steht im Einklang mit der Haltung des KI-Startups Anthropic, das ähnliche Forderungen an das US-Verteidigungsministerium gestellt hat.

Mitarbeiter fordern "rote Linien" bei KI-Verträgen

Mehr als 100 Google-Mitarbeiter, darunter auch Angestellte der KI-Abteilung Google DeepMind, haben in einem internen Brief an die Geschäftsleitung ihre Bedenken geäußert. Der Brief, adressiert an Jeff Dean, den Chefwissenschaftler von Google DeepMind, forderte die Festlegung klarer Grenzen für Regierungsverträge, ähnlich denen, die Anthropic verfolgt. Die Mitarbeiter befürchten, dass Googles KI-Produkt Gemini vom US-Militär zur Überwachung amerikanischer Bürger und zum Betrieb autonomer Waffen ohne menschliches Eingreifen genutzt werden könnte. Jeff Dean selbst hat sich Berichten zufolge unterstützend gegenüber Anthropic geäußert und lehnt die Nutzung von KI durch die Regierung zur Überwachung von Amerikanern ab.

Parallel dazu haben über 330 Mitarbeiter – 266 von Google und 65 von OpenAI – einen offenen Brief mit dem Titel „We Will Not Be Divided“ unterzeichnet. In diesem Schreiben kritisieren sie die Verhandlungsstrategien des Pentagons und rufen die Führungskräfte ihrer Unternehmen auf, den aktuellen Forderungen des "Department of War" zu widerstehen. Sie betonen die Notwendigkeit von "AI safety guardrails", um den unethischen Einsatz von Künstlicher Intelligenz zu vermeiden.

Anthropic im Zentrum des Konflikts

Der Protest der Google- und OpenAI-Mitarbeiter kommt im Zuge eines ethischen Konflikts zwischen dem KI-Startup Anthropic und dem Pentagon. Dario Amodei, CEO von Anthropic, hatte sich geweigert, einer Forderung des Pentagons nach uneingeschränkter KI-Nutzung nachzukommen. Er erklärte, dass das KI-Startup den neuen Vertragsbedingungen des "Department of War" "nicht guten Gewissens zustimmen" könne. Die aktualisierten Bedingungen blockierten seiner Ansicht nach nicht ausreichend den potenziellen Einsatz des Modells für Massenüberwachung von Amerikanern oder vollständig autonome Waffen.

Anthropic hat in seinen Verträgen mit dem Verteidigungsministerium zwei Schutzmaßnahmen implementiert, die den Einsatz seiner KI für Massenüberwachung im Inland und für vollständig autonome Waffen ohne menschliches Eingreifen verhindern. Amodei betonte, dass KI-gesteuerte Massenüberwachung "ernsthafte, neuartige Risiken für unsere Grundfreiheiten" darstelle. Er fügte hinzu: "Soweit eine solche Überwachung derzeit legal ist, liegt dies nur daran, dass das Gesetz die schnell wachsenden Fähigkeiten der KI noch nicht eingeholt hat."

Pentagon weist Vorwürfe zurück, droht aber

Sean Parnell, Sprecher des Pentagons, äußerte sich auf X und erklärte, das Militär habe "kein Interesse daran, KI zur Massenüberwachung von Amerikanern (was illegal ist) oder zur Entwicklung von Waffen ohne menschliches Eingreifen einzusetzen." Trotz dieser öffentlichen Aussage werfen die Mitarbeiter dem Pentagon vor, eine Strategie der Spaltung zu verfolgen. Sie behaupten, das Pentagon versuche, Google und OpenAI dazu zu bringen, dem zuzustimmen, was Anthropic abgelehnt hat, indem es "jedes Unternehmen mit der Angst spaltet, dass das andere nachgeben wird."

Anthropic sieht sich aufgrund seiner Haltung erheblichen Drohungen ausgesetzt. Das Unternehmen könnte einen Verteidigungsauftrag im Wert von 200 Millionen US-Dollar verlieren und als "supply chain risk" eingestuft werden, was eine mögliche Schwarze Liste und die Androhung der Anwendung des Defense Production Act zur erzwungenen Entfernung der Schutzmaßnahmen bedeuten könnte. Dario Amodei bekräftigte jedoch: "Die Drohungen des Pentagons ändern unsere Position nicht: Wir können ihrem Antrag nicht guten Gewissens zustimmen." Emil Michael, Under Secretary of War, bezeichnete Amodei auf Twitter als "Lügner" mit einem "Gott-Komplex".

Forderungen nach Transparenz und Sicherheit

Neben den spezifischen "roten Linien" fordern die Mitarbeiter von Google und OpenAI auch umfassendere Maßnahmen. Dazu gehören eine größere Offenlegung von Informationen, Schutzmaßnahmen für die Arbeitssicherheit und ein unternehmensweites Treffen, um die Bedenken der Mitarbeiter zu adressieren. Diese Forderungen unterstreichen den Wunsch nach mehr Transparenz und ethischer Verantwortung in der Entwicklung und Anwendung von KI-Technologien, insbesondere im Kontext militärischer Nutzung.

Ein breiterer Kontext der Mitarbeiterproteste

Der aktuelle Protest ist nicht der erste seiner Art bei Google. Bereits Anfang des Monats hatten mehrere Vollzeitmitarbeiter in einem offenen Brief das Unternehmen aufgefordert, die Beziehungen zum Department of Homeland Security (DHS), Immigration and Customs Enforcement (ICE) und Customs and Border Protection (CBP) zu beenden. Als Grund wurde ein Mangel an Transparenz seitens der Führung, einschließlich CEO Sundar Pichai, genannt. Diese wiederholten Proteste zeigen ein wachsendes Bewusstsein und Engagement der Mitarbeiter in Bezug auf die ethischen Implikationen der Technologien, an denen sie arbeiten.