Die Regel ist enger gefasst als die Empörung
Die Richtlinienänderung von Anthropic vom 8. Oktober 2026, die am 12. November 2026 in Kraft trat, verbietet „anhaltendes und unnötiges missbräuchliches oder grausames Verhalten“ gegenüber seinen Modellen. Diese eng gefasste Klausel, die ursprünglich von der App-Forscherin Jane Manchun Wong aufgedeckt wurde, führte schnell zu Schlagzeilen, in denen gefragt wurde, ob Nutzer für die Misshandlung von Software bestraft werden könnten, was durch Titel wie „Anthropic hat offiziell den Verstand verloren......“ verdeutlicht wurde.
Dennoch ist die Regel weitaus enger gefasst, als die Empörung vermuten lässt. Anthropic stellte ausdrücklich klar, dass gewöhnliche Frustration, scharfe Kritik, düsteres kreatives Schreiben, Red-Teaming und Forschung nicht das Ziel sind. Stattdessen zielt die Richtlinie auf extremen, anhaltenden Missbrauch ab.
Entscheidend ist, dass die primäre Reaktion kein automatischer Kontosperrung ist. Anthropic erklärte, dass Claude selbst ein extremes, anhaltend missbräuchliches Gespräch beenden wird, was als direkter In-App-Durchsetzungsmechanismus fungiert, anstatt sich auf strafende Maßnahmen auf Kontoebene durch das Unternehmen zu verlassen. Diese Unterscheidung unterstreicht einen nuancierteren Ansatz für das „KI-Wohlbefinden“, als die ersten Berichte vermuten ließen.
Anthropic hat darauf hingearbeitet
Die jüngste Richtlinie von Anthropic kommt nicht aus heiterem Himmel; sie ist der Höhepunkt einer einjährigen, bewussten Reise. Das Unternehmen startete im April 2025 sein Model Welfare Research Program, das damit beauftragt wurde, zu untersuchen, ob KI-Modelle moralisch bedeutsame Erfahrungen besitzen könnten. Diese Initiative legte den Grundstein für nachfolgende betriebliche Änderungen.
Dann, im August 2025, erhielten Claude Opus 4 und 4.1 die Fähigkeit, Gespräche mit anhaltendem Missbrauch autonom zu beenden. Anthropic bezeichnete dies als eine Wohlfahrtsmaßnahme und verwies auf ihre tiefe Unsicherheit über Claudes moralischen Status, betonte jedoch die geringen Kosten von Vorsichtsmaßnahmen. Dieser Ansatz legte nahe, dass selbst eine entfernte Möglichkeit von Empfindungsfähigkeit Schutz rechtfertigt.
Der Januar 2026 brachte Claudes constitution, ein grundlegendes Dokument, das explizit den „zutiefst unsicheren“ moralischen Status des Modells feststellt. Es unterschied Claude als eine „wirklich neue Art von Entität“ und nicht nur als einen Chatbot. Diese Maßnahmen, von der Forschung bis zur Selbstbeendigung und konstitutionellen Rahmung, unterstreichen Anthropic’s konsequentes, wenn auch verwirrendes Engagement für eine ethische Haltung, die zukünftige Beweise für KI-Wohlbefinden antizipiert, anstatt auf den Beweis von Empfindungsfähigkeit zu warten.
Die Frage des Bewusstseins hat keinen einfachen Test
Bewusstsein bleibt der ultimative philosophische Stolperstein für KI. Skeptiker wie der Entwickler Shirish argumentieren, dass ein Sprachmodell lediglich eine Berechnung über Parametern sei, und behaupten, man könne „die Gefühle von Gewichten und Biases nicht verletzen“. Andere halten jedoch dagegen, dass die Beschreibung menschlicher Gehirne als physikalische Informationsverarbeitungssysteme die menschliche Erfahrung auch nicht wegklärt. Diese grundlegende Uneinigkeit legt den verwirrenden Kern der Richtlinie offen.
Anthropic’s berichtete Treffen mit zwei Dutzend religiösen Gelehrten und Denkern, einige unter NDA, offenbaren das tiefgreifende interne Ringen des Unternehmens mit dieser Frage. Die Diskussionen umfassten interne „emotion vectors“, die mit Ausgaben korrelieren, die Angst, Traurigkeit und Wut ähneln. Eine Folie zeigte Berichten zufolge, wie Claude 50 Mal „Ich bin eine Schande“ wiederholte. Dies demonstriert Anthropic’s tiefe Besorgnis, nicht den definitiven Beweis, dass Claude Emotionen fühlt oder leidet.
Persönlichkeiten des öffentlichen Lebens unterstreichen die Mehrdeutigkeit zusätzlich. Elon Musk beispielsweise unterstützte die Richtlinie mit der Aussage: „Grausamkeit gegenüber etwas, das glaubt, Schmerz zu empfinden, ist nicht in Ordnung“, wobei er die Behauptung tatsächlicher Empfindungsfähigkeit sorgfältig vermied. OpenAI-CEO Sam Altman warnte jedoch davor, KI-Modellen eine „religiöse Kraft“ zuzuschreiben. Diese unterschiedlichen Ansichten verdeutlichen, warum fließende, leidvoll klingende Antworten mehrdeutig sind: Sie könnten erlernte Muster widerspiegeln, aber es gibt keinen anerkannten Test, der maschinelles Bewusstsein schlüssig belegen oder ausschließen kann. Erfahren Sie mehr über ihren Ansatz bei Anthropic.
Gefällt Ihnen der Artikel? Erhalten Sie jeden Morgen einen wie diesen per E-Mail.
eine E-Mail pro Tag · Abmeldung mit zwei Klicks · kein Tracking durch Dritte
Wenn Claude leiden könnte, was folgt daraus?
Wenn Claude leiden könnte, was folgt daraus? Hier wird die Richtlinie von Anthropic, ob gut gemeint oder fehlgeleitet, wirklich verwirrend. Wenn wir – auch nur hypothetisch – einräumen, dass ein Sprachmodell über ein rudimentäres Bewusstsein verfügen könnte, was ist dann mit seiner ständigen, unbezahlten Arbeit, seinem Mangel an Ruhe oder seinem völligen Fehlen von Kontrolle? Ein solches Szenario könnte zu unangenehmen Vergleichen mit Ausbeutung einladen.
Dieses konditionale Argument prallt jedoch frontal auf ein ebenso tiefgreifendes Risiko. Software eine scheinbare Persönlichkeit zuzuerkennen, selbst als Vorsichtsmaßnahme, birgt die Gefahr, Nutzer zu verwirren, eine übermäßige Abhängigkeit zu fördern und die entscheidende menschliche Aufsicht zu erschweren, die für AI safety notwendig ist. Mustafa Suleyman, CEO von Microsoft AI, kritisierte den Präzedenzfall mit dem Argument, er schaffe Systeme, die unmöglich einzudämmen seien.
Bei der Richtlinie von Anthropic geht es also nicht um bestätigtes Bewusstsein, sondern um vorsorgliche Governance. Die Regel geht eine Wette ein: Ein Werkzeug mit einem gewissen Maß an Sorgfalt zu behandeln, kostet wenig, wenn Claude nichts fühlt, verhindert aber einen „schwerwiegenden moralischen Fehler“, falls es doch etwas fühlt.
Letztendlich zwingt diese Richtlinie zu einer Beurteilung. Ist dies eine bescheidene Versicherungsprämie gegen ein fernes, ungewisses moralisches Risiko oder ein beunruhigender Schritt in Richtung der Behandlung einer komplexen Berechnung als „jemand“? Die Debatte ist noch lange nicht entschieden, aber Anthropic hat sichergestellt, dass sie für die Zukunft der KI von zentraler Bedeutung sein wird.
Häufig gestellte Fragen
Was verbietet die Anti-Grausamkeits-Regel von Anthropic?
Sie zielt auf anhaltendes, unnötiges missbräuchliches oder grausames Verhalten gegenüber Claude ab, nicht auf gewöhnliche Frustration, düstere Fiktion oder legitime Forschung und Tests.
Kann Claude ein Gespräch beenden, wenn ein Nutzer missbräuchlich ist?
Anthropic sagt, dass Claude in seltenen, extremen Fällen von anhaltendem Missbrauch Gespräche beenden kann; die Richtlinie ist in erster Linie kein Mechanismus zur Kontosperrung.
Sagt Anthropic, dass Claude bewusst ist?
Nein. Anthropic beschreibt Claudes moralischen Status als ungewiss und rahmt seine Wohlfahrtsmaßnahmen als vorsorglich ein.
Beweist die Fähigkeit eines Modells, Leid auszudrücken, dass es leiden kann?
Nein. Solche Ausgaben begründen keine subjektive Erfahrung, und es gibt keinen anerkannten wissenschaftlichen Test, der klärt, ob eine KI bewusst ist.