Papst Leo XIV. hat in seinem ersten großen Lehrschreiben gefordert, künstliche Intelligenz (KI) stärker zu regulieren und die Entwicklung von KI-gesteuerten Systemen zu verlangsamen. In der am Montag veröffentlichten Enzyklika »Magnifica Humanitas«, übersetzt »erhabene« oder »großartige Menschlichkeit«, warnt der Papst davor, dass KI-Technologie Desinformation verbreite und die Welt in endlose Kriege stürzen könne.

Es bedürfe eines aktiveren ‌politischen Engagements, um die Dinge zu entschleunigen, wenn sich ​alles beschleunige, sagt er. Leo XIV. fordert zudem strenge ethische Grenzen für den Einsatz von KI beim Militär und insbesondere in der Fernkriegsführung. Er betonte, es sei unzulässig, Maschinen über Leben und Tod entscheiden zu lassen. Mit dieser Haltung unterscheidet sich Leo XIV., der in den USA geboren wurde, von der Trump-Regierung. Diese setzt sich bei der KI-Entwicklung für eine Deregulierung ein, hat mit dem Papst aber noch weitere Konfliktpunkte.

»Künstliche Intelligenz muss entwaffnet werden, befreit von den Logiken, die sie zu einem Instrument der Herrschaft, der Ausgrenzung und des Todes machen«, sagte Leo XIV. bei einer Präsentation der Enzyklika im Vatikan.

Als Anthropic-Mitgründer im Vatikan

In seinem Werk prangert der Papst wiederholt die Konzentration von Macht und Daten in den Händen weniger Menschen im privaten Sektor als Gefahr an. Er forderte eine externe Regulierung ihrer Arbeit. »Es reicht nicht aus, sich abstrakt auf Ethik zu berufen. Es bedarf solider rechtlicher Rahmenbedingungen, unabhängiger Aufsicht, informierter Nutzer und eines politischen Systems, das seine Verantwortung nicht abgibt«, so Leo XIV. »Eine moralischere KI reicht nicht aus, wenn diese Moral von einigen wenigen bestimmt wird.«

An KI-Entwickler und für KI-Regulierung verantwortliche politische Entscheidungsträger appelliert der Papst, einen Gang zurückzuschalten und über ihr Handeln nachzudenken. Er fordert sie nachdrücklich auf, sich an ethischen und spirituellen Leitlinien zu orientieren und nicht für den eigenen Profit oder die eigene Macht, sondern zum Wohle der Menschheit zu arbeiten.

Bei der Vorstellung der Enzyklika sprach auch Christopher »Chris« Olah. Er ist Mitgründer der KI-Firma Anthropic, die sich derzeit in einem Rechtsstreit mit der Trump-Regierung über den Zugang zu seiner KI-Technologie und deren Nutzung zur Massenüberwachung oder für vollautonome Waffen befindet. Mehr zu diesem Thema lesen Sie hier.

Olah begrüßte die Kritik und Besorgnis des Papstes sowie dessen Ruf nach externen Kontrollen, gerade da »eine reale Möglichkeit« bestehe, »dass KI menschliche Arbeitskraft in sehr großem Umfang verdrängen wird«. Technologiekonzerne stünden unter starkem kommerziellen und geopolitischen Druck. Dieser könne ​im Widerspruch zu den Interessen der Gesellschaft stehen. Daher sei eine Überprüfung von außen unerlässlich.

»Wir brauchen mehr Akteure weltweit – Religionsgemeinschaften, Zivilgesellschaft, Wissenschaftler, Regierungen –, die das tun, was Seine Heiligkeit hier getan hat: die Situation ernst nehmen, genau hinsehen und die Ereignisse in eine bessere Richtung lenken«, sagte Olah. »Wir brauchen moralische Stimmen, die sich von Anreizen nicht beugen lassen.«

Der ‌Anthropic-Mitgründer nannte drei Bereiche, die dringend Aufmerksamkeit erfordern: das Risiko massenhafter Arbeitsplatzverluste, die weltweite gerechte Verteilung der KI-Vorteile sowie die ungelöste Frage, wie das zunehmend komplexe ‌Verhalten der Systeme zu interpretieren ​sei.

Olah ist einer von sieben Mitgründern von Anthropic, einem KI-Unternehmen aus den USA, das das Thema Sicherheit zu einem zentralen Bestandteil seines öffentlichen Profils gemacht hat. Alle sieben haben zuvor bei OpenAI gearbeitet und das Unternehmen verlassen, weil sie unter anderem Bedenken hinsichtlich einer zu ​schnellen Entwicklung von KI mit zu wenig Tests hatten.

Bei der Veranstaltung im Vatikan war Olah der einzige Vertreter ‌großer Technologiekonzerne. Wie »Politico« berichtet , hatte sich Papst Leo XIV. aber bereits Ende April, also im Vorfeld der Veröffentlichung der Enzyklika, mit Vertretern von Amazon, Meta und Google getroffen. OpenAI, das Unternehmen hinter ChatGPT, wurde nicht erwähnt. Wie einige andere Tech-CEOs hat sich OpenAI-Chef Sam Altman bisher nicht öffentlich zu dem Lehrschreiben des Papstes geäußert.

Einige Experten erklärten, »Magnifica Humanitas« könne als Bezugspunkt für politische Entscheidungsträger, Forschende und die breite Öffentlichkeit dienen. »Ich bin überzeugt, dass sich dieses Dokument als wegweisend für unsere Zeit erweisen wird, als ein tiefgründiges und prophetisches Dokument«, sagte Paolo Carozza, Rechtsprofessor an der Notre Dame Law School und Vorsitzender des Meta-Aufsichtsgremiums. »Papst Leo spricht mit klarer, umfassender und schlüssiger Stimme und fordert uns auf, Verantwortung für die Gestaltung einer Welt zu übernehmen, in der die Technologie dem Menschen dient, anstatt ihn zu entwürdigen«, sagte er.

Taylor Black, KI-Manager bei Microsoft und Direktor des KI-Instituts der Katholischen Universität Amerika, sagte, das Dokument werde Menschen »an der Spitze dieser Technologien« dazu veranlassen, sich Fragen zu stellen wie: »Was bedeutet es, Mensch zu sein?«

Das erste Lehrschreiben in der Amtszeit eines neuen Papstes gilt vielfach als eine Art Regierungserklärung für dessen Pontifikat, es soll Gläubigen in aller Welt einen moralischen Kompass geben.

Die Auswirkungen der KI auf die Menschheit sind für Leo XIV. ein zentrales Thema. Er wählte seinen Papstnamen in Anlehnung an die industrielle Revolution, in deren Verlauf sein Namensvorgänger, Papst Leo XIII., die Enzyklika »Rerum novarum« zum Schutz der Arbeiter angesichts des technologischen Fortschritts veröffentlichte. Auf den Tag 135 Jahre später, am 15. Mai, hat Papst Leo XIV. seine erste Enzyklika unterschrieben.