Kann KI die Menschheit vernichten

Von der Seele reden – der Kommentar von Prof. Dr. Klaus-Dieter Müller, Politik- und Medienwissenschaftler und Vorstand der „Stiftung: Christliche Werte leben“.

Jeden Donnerstag um 20:45 Uhr im Radio und bereits vorab hier den ausführlichen Kommentar online hören. Mehr Infos zur Stiftung auf www.christlichewerteleben.de

Kann KI die Menschheit töten?

Die Deutsche Presseagentur meldet, bei der jüngst bekanntgewordenen aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus einer abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein. Darauf hin meldeten sich die wichtigsten US-amerikanischen IT-Größen, wie Sam Altman von OpenAI und selbst Elon Musk zu Wort und forderten, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle verlangsamt werden müsse.

Für Anthropic-Chef Dario Amodei sei besorgniserregend, dass ein KI-Schwarm mit derselben Einstellung und größeren Fähigkeiten "katastrophalen Schaden" hätte anrichten können, betonte Amodei. Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln. Seit diesem Sommer sei Künstliche Intelligenz besser darin - und dies erhöhe das Tempo weiter. Unkontrolliert könne dies dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren, warnte er.

Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte die geäußerten Sorgen. Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er auf X.

Man kann nur an alle Kolleginnen und Kollegen in der Wissenschaft appellieren, sehr viel öfter und kritischer die Auswirkungen insbesondere mathematischer, informationeller, naturwissenschaftlicher und technischer Entwicklungen zu Ende zu denken und zu entscheiden, ob es nicht verantwortlicher ist, auf bestimmte An-wendungen zu verzichten. Das so eine abwägende Einstellung möglich sein könnte, werden viele als blauäugig bezeichnen, wer aber die drohende Entwicklung auf der Erde zu Ende denkt, weiß, was wir uns und unseren Nachkommen antun. Es ist erfreulich, dass sich die wichtigsten IT-Magnaten in den USA einig sind. Der geisteskranke US-Präsident Donald Trump spielt selbst jetzt die Gefahren herunter und nennt die besorgten Unternehmer „negative Kräfte“.

Ich wünsche Ihnen trotz alledem eine hoffnungsvolle Woche.