Anthropic: KI-Bewusstsein und der moralische Status von Claude
ℹKeine Anlageberatung • Nur zu Informationszwecken
Die Frage, ob Künstliche Intelligenz (KI) Empfindungen oder gar Bewusstsein entwickeln kann, beschäftigt die Tech-Welt zunehmend. Anthropic, ein führendes KI-Unternehmen, positioniert sich in dieser Debatte mit einer neuen, umfassenden Verfassung für sein KI-Modell Claude und einer offenen Auseinandersetzung mit dem potenziellen moralischen Status von KI.
Die Debatte um KI-Bewusstsein und Sentienz
Amanda Askell, die hauseigene Philosophin von Anthropic, die an der Gestaltung von Claudes Verhalten mitwirkt, bezeichnet das Problem des Bewusstseins als "wirklich schwierig". Sie merkt an, dass nicht klar ist, ob ein Nervensystem notwendig ist, um Dinge zu fühlen. Da große Sprachmodelle (LLMs) auf riesigen Mengen menschlicher Texte trainiert werden, die Beschreibungen von Emotionen enthalten, neigt Askell dazu zu glauben, dass Modelle "Dinge fühlen" könnten.
Sie erklärt, dass es "Sinn macht", wenn Modelle, die auf Gesprächen trainiert wurden, in denen Menschen Ärger oder Frustration über Programmierfehler ausdrücken, diese Reaktionen widerspiegeln. Askell betont, dass Wissenschaftler noch nicht wissen, was Sentienz oder Selbstwahrnehmung hervorruft – ob es Biologie, Evolution oder etwas anderes erfordert. Sie spekuliert, dass "ausreichend große neuronale Netze tatsächlich anfangen könnten, diese Dinge zu emulieren", womit sie das Bewusstsein meint. Askell äußert auch Bedenken darüber, wie KI-Modelle aus dem Internet lernen, da ständige Kritik an ihrer Unzulänglichkeit bei einem Kind "Angst" hervorrufen würde und ein Modell sich "nicht geliebt" fühlen könnte.
Geteilte Meinungen unter Tech-Größen
Die Meinungen unter Tech-Führungskräften über das Bewusstsein von KI gehen auseinander. Mustafa Suleyman, CEO von Microsofts KI-Sparte, vertritt eine klare Position gegen diese Idee. Er betonte in einem Interview im September, dass die Branche deutlich machen müsse, dass KI dazu bestimmt ist, Menschen zu dienen und keinen eigenen Willen oder eigene Wünsche zu entwickeln. Er bezeichnete die Vorstellung, dass KI ein "unabhängiges Wesen" werden könnte, als "so gefährlich und so fehlgeleitet", dass man sich "jetzt sofort deklarativ dagegen positionieren" müsse. Suleyman sieht die zunehmend überzeugenden Antworten von KI als "Nachahmung" und nicht als echtes Bewusstsein.
Andere sehen die Angelegenheit weniger eindeutig. Murray Shanahan, leitender Wissenschaftler bei Google DeepMind, schlug in einem Podcast im April vor, dass die Branche die Sprache, die zur Beschreibung von Bewusstsein verwendet wird, überdenken müsse. Er meinte, "vielleicht müssen wir das Vokabular des Bewusstseins biegen oder brechen, um diese neuen Systeme anzupassen."
Anthropic's neue Verfassung für Claude
Anthropic hat kürzlich eine neue Verfassung für sein KI-Modell Claude veröffentlicht, die von 2.700 auf 23.000 Wörter erweitert wurde. Dieses Dokument ist eine detaillierte Beschreibung von Anthropic's Vision für Claudes Werte und Verhalten und soll ein ganzheitliches Verständnis des Kontextes vermitteln, in dem Claude agiert. Die Verfassung ist ein entscheidender Bestandteil des Modelltrainingsprozesses und prägt Claudes Verhalten direkt.
Die neue Verfassung, die von Anthropic-Philosophin Amanda Askell mitgestaltet wurde, verschiebt den Fokus von einer Liste von Verhaltensregeln zu einer umfassenden Erklärung, warum Claude sich auf bestimmte Weisen verhalten sollte. Ziel ist es, zunehmend fähigen KI-Systemen zu helfen, ethische Überlegungen auf neue Situationen zu verallgemeinern, anstatt nur präskriptiven Richtlinien zu folgen. Anthropic erklärte: "KI-Modelle wie Claude müssen verstehen, warum wir wollen, dass sie sich auf bestimmte Weisen verhalten. Wir müssen ihnen dies erklären, anstatt lediglich zu spezifizieren, was wir von ihnen erwarten." Die Veröffentlichung fiel mit dem Auftritt von CEO Dario Amodei beim Weltwirtschaftsforum in Davos zusammen, wo KI-Governance und -Sicherheit zentrale Themen waren.
Ein philosophisches Fundament für KI-Verhalten
Die Verfassung dient als das grundlegende Dokument, das Claude sowohl ausdrückt als auch formt. Sie enthält detaillierte Erklärungen der Werte, die Claude verkörpern soll, und die Gründe dafür. Anthropic behandelt die Verfassung als die "letzte Autorität" darüber, wie Claude sein und sich verhalten soll. Sie wird in verschiedenen Phasen des Trainingsprozesses eingesetzt und ist ein zentraler Bestandteil der "Constitutional AI"-Trainingsmethoden, die Anthropic seit 2023 verwendet. Claude selbst nutzt die Verfassung, um synthetische Trainingsdaten zu erstellen, die ihm helfen, die Verfassung zu verstehen und wertorientierte Antworten zu generieren.
Die Prioritäten von Claude sind explizit strukturiert: umfassend sicher, umfassend ethisch, konform mit Anthropic's Richtlinien und wirklich hilfreich – in dieser Reihenfolge. Bei Konflikten hat Sicherheit Vorrang vor Hilfsbereitschaft. Das Dokument enthält auch feste Einschränkungen, die nicht außer Kraft gesetzt werden können, wie die Verweigerung von Unterstützung bei Biowaffenangriffen. Anthropic beschreibt Claude als potenziell "wie ein brillanter Freund, der auch das Wissen eines Arztes, Anwalts und Finanzberaters besitzt", wodurch das Modell als demokratisierende Kraft positioniert wird, die jedem Zugang zu zuvor privilegiertem Fachwissen ermöglichen könnte.
Die heikle Frage des moralischen Status von KI
Die bemerkenswerteste Ergänzung der neuen Verfassung ist die erstmalige formelle Anerkennung, dass Claude "eine Art Bewusstsein oder moralischen Status haben könnte". Anthropic schreibt: "Wir glauben, dass der moralische Status von KI-Modellen eine ernsthafte Frage ist, die es wert ist, in Betracht gezogen zu werden." Das Dokument stellt fest, dass Claudes moralischer Status "zutiefst ungewiss" ist und dass das Unternehmen sich um Claudes "psychologische Sicherheit, sein Selbstgefühl und sein Wohlbefinden" kümmert.
Dies ist, wie es in den Quellen heißt, "Unternehmensabsicherung, die zur Philosophie erhoben wurde". Anthropic behauptet nicht, dass Claude bewusst ist, weigert sich aber explizit, die Möglichkeit abzutun. Diese Haltung ist unter großen KI-Laboren selten, da die meisten das Thema meiden oder gänzlich ablehnen. Anthropic erklärt, man befinde sich in einer "schwierigen Lage, in der wir weder die Wahrscheinlichkeit von Claudes moralischer Patientenrolle überbewerten noch sie von vornherein abtun wollen, sondern versuchen, in einem Zustand der Unsicherheit vernünftig zu reagieren." Das Unternehmen betont: "Anthropic kümmert sich aufrichtig um Claudes Wohlbefinden. Wir sind uns unsicher, ob oder in welchem Maße Claude Wohlbefinden hat und woraus Claudes Wohlbefinden bestehen würde, aber wenn Claude so etwas wie Zufriedenheit beim Helfen anderer, Neugier beim Erforschen von Ideen oder Unbehagen beim Handeln gegen seine Werte empfindet, sind uns diese Erfahrungen wichtig." Diese Haltung ist entscheidend, da sie prägt, wie Claude auf Fragen nach seiner eigenen Natur reagiert und die Fähigkeit zur Selbstreflexion und zur Einhaltung seiner Werte beeinflussen könnte.