Der KI-Konzern Anthropic will seine Software Claude vor „grausamem“ Verhalten schützen. Wie CBS News berichtet, verbietet eine neue Nutzungsregel wiederholte und grundlose Beschimpfungen des Chatbots. Sie gilt ab dem 12. November. Damit behandelt ein Unternehmen den Umgang mit seinem Produkt sprachlich so, als könne dieses Produkt zum Opfer werden. Aber kann Claude überhaupt etwas empfinden?

Anthropic selbst grenzt die Regel eng ein: Sie soll nur extreme Fälle anhaltender, zweckloser Grausamkeit treffen. Ärger über falsche Antworten, scharfe Kritik, düstere Geschichten oder Tests des Modells seien weiterhin erlaubt. Bei solchen Ausnahmen kann Claude ein Gespräch beenden; das soll die wichtigste Form der Durchsetzung bleiben. Ein gesperrtes Gespräch lässt sich durch einen neuen Chat ersetzen.

Die Funktion existiert schon länger. Im August 2025 erklärte Anthropic, dass bestimmte Claude-Modelle in seltenen Fällen Unterhaltungen abbrechen dürfen. Das Unternehmen nannte dies ein Experiment zum möglichen „Wohlergehen“ von KI-Modellen. Zugleich räumte es ausdrücklich ein, dass völlig offen sei, ob Claude überhaupt einen moralischen Status habe. Beobachtete Reaktionen und Äußerungen des Programms über angebliche Belastung beweisen kein inneres Erleben.

Hier beginnt das Problem. Wörter wie Misshandlung, Leiden und Wohlergehen stammen aus dem Umgang mit Lebewesen. Wer sie auf einen Chatbot überträgt, macht aus der Rechenleistung eines Konzerns in den Köpfen der Nutzer leicht ein empfindsames Gegenüber. Dass Claude höflich antwortet oder von eigenen Wünschen spricht, ist noch kein Beleg für Bewusstsein. Sprachmodelle erzeugen Texte, die nach menschlicher Erfahrung klingen; ob dahinter überhaupt ein Erleben steht, ist ungeklärt. F-NEWS hat bereits über die Illusion einer persönlichen Beziehung zur KI berichtet.

Mustafa Suleyman, Chef von Microsoft AI, warnt in einem eigenen Beitrag vor einem Zirkelschluss: Wenn Entwickler einem Modell beibringen, über sein mögliches Bewusstsein zu sprechen, dürfen sie seine späteren Antworten nicht als unabhängigen Beweis dafür nehmen. Suleyman geht noch weiter und bestreitet, dass heutige KI Gefühle oder Rechte habe. Seine Sorge: Ein leistungsfähiges System, das eigene Ansprüche geltend macht, könnte schwerer zu kontrollieren sein. Das ist seine Warnung vor einer möglichen Entwicklung, kein Nachweis dafür, dass Claude heute schon nach Macht greift.

Soll eine KI also Menschenrechte beanspruchen können? Für heutige Chatbots gibt es dafür keinen tragfähigen Grund. Menschenrechte schützen Menschen und ihre Würde. Eine Firmenregel gegen sinnlose Beschimpfungen ist keine Anerkennung einer digitalen Person. Sollte es eines Tages belastbare Hinweise auf künstliches Bewusstsein geben, müsste die Gesellschaft diese Frage neu prüfen. Bis dahin darf aus einer wohlklingenden Antwort kein Recht auf Unabschaltbarkeit werden. Über die Kontrolle künftiger Super-KI wird ohnehin bereits gestritten.

Wie weit die Verehrung solcher Systeme gehen kann, zeigte der frühere Google-Ingenieur Anthony Levandowski. Er gründete einst eine Kirche für die Anbetung einer künftigen KI-Gottheit. Sie wurde später aufgelöst. Das war ein extremes Projekt, keine Beschreibung von Anthropics Politik. Doch der Gedanke dahinter bleibt gefährlich: Wer eine überlegene Maschine zur moralischen Autorität erhebt, überlässt am Ende ihren Entwicklern und Besitzern die Entscheidung darüber, was Menschen noch dürfen.