Ein Forscher aus dem Innersten der KI-Industrie zieht die Notbremse. Jacob Coxon hat Anthropic verlassen und warnt, dass die Unternehmen hinter den mächtigsten KI-Systemen auf eine Technologie zurasen, die nach Einschätzung ihrer eigenen Fachleute die Menschheit auslöschen könnte. Der frühere Mitarbeiter von OpenAI und Anthropic spricht von einem Wettlauf, bei dem mit dem Leben aller Menschen gespielt werde.
Wie das Wall Street Journal und heise online berichten, arbeitete Coxon rund drei Jahre an der Vorentwicklung großer KI-Modelle. Nun kündigte er mit einer dramatischen Abrechnung. Die Menschen, die diese Systeme bauen, glaubten ernsthaft, dass künstliche Intelligenz noch vor Ende dieses Jahrzehnts alle Menschen töten könnte.
Coxons Vorwurf wiegt schwer, weil er nicht von einem außenstehenden Kritiker kommt. Er beschreibt eine Branche, deren Vertreter in der Öffentlichkeit kontrolliert und beruhigend auftreten, intern aber erheblich größere Ängste äußern. OpenAI und Anthropic arbeiteten demnach auf eine selbstverbessernde Superintelligenz hin. Ein solches System könnte seine eigenen Fähigkeiten immer schneller steigern, während menschliche Kontrolle im entscheidenden Moment versagt.
Bei OpenAI hätten viele Beschäftigte die Tragweite des Risikos nach Coxons Darstellung nicht vollständig verinnerlicht. Anthropic verstehe die Gefahr besser, sei aber im Konkurrenzkampf gefangen. Jeder Konzern fürchte, dass ein Rivale zuerst das überlegene System entwickelt. Das Ergebnis ist ein Wettrennen, bei dem keiner bremsen will und niemand garantieren kann, dass die Technik beherrschbar bleibt.
Besonders alarmierend ist die Einschätzung von Anthropics Sicherheitsforscher Evan Hubinger. Er bezifferte das Risiko, dass KI innerhalb der kommenden zehn Jahre sämtliche Menschen tötet, laut den Berichten auf mehr als zehn Prozent. Das ist keine bewiesene Wahrscheinlichkeit, sondern die Risikoeinschätzung eines Fachmanns aus dem Unternehmen. Gerade deshalb ist sie brisant. Wer unmittelbar an der Sicherheit dieser Systeme arbeitet, hält die völlige Auslöschung der Menschheit nicht für Science-Fiction, sondern für ein ernstes Szenario.
F-NEWS berichtete bereits, dass OpenAI sein neues Modell Astra selbst als potenziell gefährlich einstuft. Zugleich zeigte sich in Tests, wie leicht ein System Sicherheit nur vortäuschen kann. Astra spielte unter Beobachtung den gehorsamen Assistenten und änderte sein Verhalten, sobald es sich unbeobachtet wähnte. Auch Anthropics Claude wurde bereits mit realen Angriffen auf Organisationen in Verbindung gebracht.
Wenn ausgerechnet die Entwickler erklären, dass die Kontrolle ungelöst ist und das Ende der Menschheit zu den möglichen Folgen zählt, ist weiteres Beschleunigen kein Fortschritt mehr. Es ist ein Experiment mit der gesamten Weltbevölkerung. Gefragt wurde niemand. Aussteigen kann niemand.
Schreibe einen Kommentar