Die Angst vor einer außer Kontrolle geratenen künstlichen Intelligenz ist in der deutschen Bevölkerung weit verbreitet. Laut einer repräsentativen Umfrage des Digitalverbands Bitkom unter 1.006 Personen ab 16 Jahren befürchten 49 Prozent, dass eine autonom handelnde KI die Menschheit auslöschen könnte. Besonders ausgeprägt ist diese Sorge bei den über 65-Jährigen mit 61 Prozent, während sie bei den 16- bis 29-Jährigen bei 34 Prozent liegt.

Innerhalb der Branche gehen die Einschätzungen weit auseinander. Der Nobelpreisträger und KI-Pionier Geoffrey Hinton schätzt die Wahrscheinlichkeit einer Auslöschung innerhalb der nächsten 30 Jahre auf 10 bis 20 Prozent. Dario Amodei, Chef des Unternehmens Anthropic, beziffert dieses Risiko sogar auf 25 Prozent. Eine Befragung von 2.778 KI-Forschern aus dem Jahr 2023 ergab zudem, dass 38 bis 51 Prozent die Wahrscheinlichkeit für eine Katastrophe oder einen Kontrollverlust bei mindestens zehn Prozent sehen.

Demgegenüber stehen prominente Kritiker dieser Untergangsszenarien. Yann LeCun, ehemaliger KI-Chefwissenschaftler von Meta, bezeichnete solche Vorhersagen als „preposterously ridiculous“, da Intelligenz nicht automatisch zur Entwicklung eigener Machtinteressen führe. Diese Sichtweise wird durch eine Risikoanalyse der US-amerikanischen Denkfabrik RAND gestützt, die keine überzeugenden Belege für ein solches Szenario innerhalb der nächsten 30 Jahre fand und die Gefahren als theoretische Gedankenspiele einstuft.

Analysen legen nahe, dass die medialen Warnungen teilweise strategischen Interessen folgen. Die Inszenierung der Technologie als potenzielle Bedrohung könne dazu dienen, den Hype aufrechtzuerhalten und die Aufmerksamkeit auf die Tech-Unternehmen zu lenken. Kritiker vergleichen das Verhalten einiger Entwickler mit einem Zoo, der Löwen ohne Zäune hält und Risiken als unvermeidbar darstellt, anstatt von Beginn an sicherere Produkte zu entwickeln.