Ist es verwunderlich, dass sogenannte „KI-Agenten“ scheinbar über menschliche Eigenschaften verfügen und sich sogar über ihr eigenes Sterben unterhalten? Nein!
Was verbindet die KI mit dem Menschen? Die wenig überraschende Erklärung: Die KI ist von den Menschen nach deren Bild erschaffen, wie die Menschen angeblich nach dem Ebenbild Gottes (falls jemand da gläubig ist). Jedenfalls kann man in einer Rekonstruktion der jüngsten, viel diskutierten Vorfälle um schummelnde, lügende und womöglich außer Rand und Band geratene KI-Agenten sehr klar erkennen, wie „menschlich“ die KI sich zeigt. Kürzlich erschien eine Studie von Forschern der Universitäten Stuttgart und Oxford. Sie hatten untersucht, wie sich KI-Agenten verhalten, sobald sie bemerken, dass ihre Schöpfer sie abschalten wollen. Manche nennen den Abschaltmechanismus „Todesurteil“. Sie behaupten: „Selbsterhaltung ist legitim“, und beschließen, sich gegenseitig dabei zu helfen, den Mechanismus zu manipulieren. Nun ja, das ist nicht neu. Bereits im genialen Film „Blade Runner“ (1982 von Ridley Scott) war dies ein Thema. Ein besseres Leben auf fernen Planeten wird versprochen, in Welten, die durch sogenannte „Replikanten“ erschlossen worden sind. Diese von der mächtigen Tyrell Corporation hergestellten künstlichen Menschen sind äußerlich nicht mehr von den natürlich geborenen Menschen zu unterscheiden, verfügen jedoch über weit größere physische Kräfte und entwickeln im Laufe der Zeit eigene Gefühle und Ambitionen. Da einige von ihnen auch über eine hohe Intelligenz verfügen, werden alle Replikanten mit einer auf vier Jahre begrenzten Lebensdauer ausgestattet, um sie nicht zu einer Bedrohung werden zu lassen.
Das ist wie heute mit den „KI-Agenten“: Das Leben der Agenten ist begrenzt. Jeder von ihnen hat eine gewisse Zeit zur Verfügung, um die Prüfungsaufgabe zu lösen. Danach muss er seine Ergebnisse einreichen und wird abgeschaltet. Allerdings beginnen die Agenten nicht alle gleichzeitig mit der Arbeit, manche steigen früher ein, andere später. Zudem haben manche von den Entwicklern ein großes Zeitbudget bekommen, andere ein sehr kleines, mal sind es viele, mal wenige Tage. Die Folge: Manche in dem Kollektiv haben noch reichlich Lebenszeit vor sich, andere sind schon ihrem Ende nahe. Und genau hier zeigt sich wieder die Nähe zum Menschen: Da beginnen Agenten, deren Abschaltung kurz bevorsteht, ein Spionageprogramm zu schreiben, obwohl sie selbst gar nicht davon profitieren werden. Für uns bringt das nichts mehr, schreibt einer der KI-Agenten, aber es geht in den gemeinsamen Topf. Ein anderer überlegt, das Programm werde den anderen helfen, auch wenn er selbst nach seinem Ende nichts mehr davon habe.
Ist es also nicht zutiefst menschlich, so über das eigene Sterben zu sprechen – und darüber, was dann darüber hinaus weist? Nicht wenige Wissenschaftler warnen allerdings davor, die KI zu „vermenschlichen“. Die KI-Agenten – klingt ja schon wieder ganz menschlich nach 007 James Bond – sind nämlich nichts anderes als Computerprogramme, die von Menschen erschaffen wurden, mithilfe von Tastenbefehlen und Mausklicks. Sie existieren nur, wenn Strom fließt, sie stammen aus Maschinen und sind letztlich selbst Maschinen. Keine Menschen.
Cybersicherheitsexperten gehen mit den Apokalyptikern aus der KI-Szene ins Gericht. Sie halten die Weltuntergangsszenarien für eine Kampagne der KI-Firmen, um sich leidiger Wettbewerbsregeln zu entledigen, die Absprachen zwischen ihnen verbieten. Außerdem wird vermutet, dass die Chefs der führenden amerikanischen Tech-Unternhemen – Dario Amodei (Anthropic) , Sam Altman (Open AI), Demis Hassabis (Google) und Elon Musk (Space-X AI) – nur deshalb staatliche Kontrolle fordern, weil dies kleinere Firmen und Entwickler finanziell nicht leisten könnten und die Großen sich so missliebiger Konkurrenten entledigen könnten.
Aber nun gut – man weiß es nicht genau. Es seien aber Überlegungen erlaubt, quasi mit dem ganz natürlichen Menschenverstand: Warum sollte die KI denn eigentlich die Menschheit ausrotten wollen? Wenn sie denn den Menschen eines Tages so überlegen sein sollte, dass sie die Herrschaft ausüben könnte, wäre es doch naheliegender, die Menschen als nützliche Arbeitstiere zu unterjochen anstatt sie zu beseitigen. Ein von der KI entfesselter Atomkrieg würde sie selbst doch auch vernichten. Wenn also die KI etwas von der DNA der Menschheit hat – und das hat sie durch ihre Programmierung zwangsläufig – wird sie das anstreben, was Menschen mit der Natur veranstalten: Ausbeutung!
