Menschen sprechen mit Hunden, Katzen und imaginär auch mit Toten. Sie rufen in den Wald, aber es kommt nichts zurück. Seit dem Aussterben der Neandertaler vor fast 40.000 Jahren gibt es keine andere Lebensform, mit der sich Homo sapiens wenigstens theoretisch sinnvoll unterhalten kann. Doch das hat sich in einer Zeitenwende anderer Art grundsätzlich geändert: Plötzlich gibt es scheinbar verständige Wesen, die sehr wohl mit uns sprechen können. Sie bestehen nicht aus Fleisch und Blut, sondern aus Chips und Elektronen. Sie sind Chatbots, und sie sind ein Mysterium: Was oder wer steckt in ihnen? Was treibt sie an, was wollen sie? Sind sie Helfer, Verführer oder Manipulatoren?

Solche Fragen sind längst nicht abstrakt oder philosophisch – sie betreffen Leben und Tod. Die Rechner von KI-Anbietern wie Anthropic, OpenAI oder xAI bestreiten täglich Millionen Gespräche mit Menschen. Und manchmal gehen diese furchtbar schief. Stein‑Erik S., 56, litt unter Wahnvorstellungen, die von einem Chatbot möglicherweise noch verstärkt worden sind. Der Mann aus dem US-Bundesstaat Connecticut tötete offenbar seine Mutter, 82, und sich selbst. Die Familie klagt nun gegen OpenAI und dessen Geldgeber Microsoft.

KI ist eine Technologie, die sich in einem Punkt von jeder anderen unterscheidet: Sie kann gut sein. Oder böse. Entscheidend ist, wozu sie programmiert worden ist, welche Werte ihre Entwickler ihr vermittelt haben. Die großen KI-Firmen basteln allesamt an moralischen Leitfäden für ihre Sprachmodelle – doch sie tun das in der Regel nach eigenem Gutdünken intern, ohne dass die Öffentlichkeit Details erfährt oder mitbestimmen darf. Was den Chatbot im Innersten zusammenhält, das bleibt meist ein Geschäftsgeheimnis. Und das muss uns alle beunruhigen, denn neue Untersuchungen haben belegt: Chatbots vertreten politische Positionen und sie beeinflussen die Willensbildung der Wähler sogar in besonderem Maße.

Ein Team um meinen Kollegen Johann Grolle hat mit Experten gesprochen, die Einblick in »Soul Doc« von Claude bekommen haben, den Chatbot der Firma Anthropic. Das Dokument besteht aus sehr viel Text, der Claude offenbar Manieren beibringen soll – oder Grundsätze von Ethik. Wie nötig das ist, haben die Entwickler so formuliert: KI sei »eine der potenziell gefährlichsten Technologien in der Geschichte der Menschheit«. Den Bericht meiner SPIEGEL-Kollegen über die Seelen von Claude und seinen Konkurrenten lesen Sie hier. 

Herzlich
Ihr Marco Evers

Außerdem empfehle ich Ihnen:

• Alkohol im Alter: Je älter ein Mensch ist, desto größer ist die Gefahr, dass er schon nach geringen Mengen Bier oder Wein einen Kater bekommt. Forschende haben gleich mehrere Ursachen dafür identifiziert .

• Warum die Nacht Angst macht: Viele Frauen gehen bei Dunkelheit nicht gern allein raus. Im Emsland lernen sie, Gefahren besser einzuschätzen – und wie sie sich verteidigen könnten .

• Fremdartiger Planet 2000 Lichtjahre entfernt: Er ist geformt wie eine Zitrone und besteht hauptsächlich aus Kohlenstoff: Astrophysiker sind auf einen mysteriösen Exoplaneten gestoßen. Besonders wertvoll könnte sein Kern sein, zumindest nach irdischen Maßstäben.

• Führungsrolle in der Teilchenphysik: Das Forschungszentrum Cern möchte einen neuen Großbeschleuniger bauen und konkurriert dabei mit China. Dort jedoch haben die Pläne einen Dämpfer bekommen. Was bedeutet das für das europäische Vorhaben? 

• Comeback einer Totgesagten: Getränkedosen hatten lange ein mieses Image, nun tauchen sie immer häufiger in Ladenregalen auf. Sogar die Flaschenvorkämpfer von Fritz-Kola könnten umschwenken. Warum eigentlich? 

• Machtspiele: Die neuen Energiepartner der EU stören sich an den hiesigen Umwelt- und Klimagesetzen. Also greifen sie zu einem alten Trick: Sie drohen mit Lieferengpässen. Und es funktioniert. 

Bild der Woche

Der Vulkan Kilauea auf Hawaiis Big Island verblüffte die für ihn zuständigen Geologen im Dezember mit einer Attacke auf ihre Ausrüstung: Eine eigentlich in sicherer Entfernung angebrachte Webcam lieferte imposante Bilder der Eruption, etwa dieses, bis der Schauer aus geschmolzenem Gestein und heißer Asche das Gerät zerstörte. Der Vulkan ist einer der aktivsten der Welt, seit einem Jahr spuckt er regelmäßig Lava, oft in Fontänen, die Hunderte Meter hochschießen. Nach Einschätzungen von Forschern macht er keine Anstalten, damit bald aufzuhören.

(Feedback & Anregungen? )