Die KI-Erklärung des Vatikans und das Turm-zu-Babel-Problem für Unternehmens-KI

Als Papst Leo XIV. Magnifica Humanitas veröffentlichte, die vatikanische Erklärung zum Schutz der menschlichen Person im Zeitalter der künstlichen Intelligenz, war das zentrale Bild kein Roboter, kein Server und kein Modell-Benchmark. Es war eine Baustelle.

Die Enzyklika rahmt die Ära der KI durch die Wahl zwischen dem Bau eines neuen Turms von Babel und dem Aufbau einer Stadt, in der die Würde des Menschen, Gerechtigkeit und gemeinsame Verantwortung Bestand haben können. Das ist ein starkes Bild für die KI in Unternehmen, denn das größte Risiko für Organisationen besteht nicht nur darin, dass KI-Systeme fehlerhafte Ergebnisse liefern können. Es besteht darin, dass KI so schnell, so tief verankert und so einflussreich werden kann, dass Menschen innerhalb der Organisation die Fähigkeit verlieren, zu verstehen, wie Entscheidungen zustande kommen.

Für Führungskräfte in Wirtschaft und Technologie ist die KI-Erklärung des Vatikans deshalb so nützlich, weil sie einem Problem Worte verleiht, das in Unternehmen, Regierungen und regulierten Branchen bereits Realität wird. KI ist nicht mehr nur ein weiteres Produktivitätswerkzeug, wenn sie beginnt, Einstellungen, Kreditvergaben, Compliance, öffentliche Dienstleistungen, Kundenbetreuung, juristische Analysen, technische Entscheidungen oder den Zugang zu institutionellem Wissen zu beeinflussen. Ab diesem Zeitpunkt wird KI zu einem Teil dessen, wie eine Organisation denkt, handelt und sich selbst erklärt.

Die Unternehmensversion von Babel ist kein dramatischer technischer Zusammenbruch. Es ist ein schleichender Verlust des gemeinsamen Verständnisses, bei dem die Ergebnisse zwar weiter durch das System fließen, die Verantwortung jedoch immer schwerer zuzuordnen ist.

Warum Babel die passende Metapher für Unternehmens-KI ist

Der Turm von Babel wird oft als Warnung vor menschlicher Hybris verstanden, aber er ist auch eine Geschichte über Koordination. Die Erbauer teilen eine Sprache, ein Projekt und eine Richtung, doch das Projekt verliert die Demut und die Verantwortung aus den Augen. Das Problem ist nicht der Bau an sich. Das Problem ist das Bauen ohne die menschliche Reife, die nötig ist, um das Erbaute zu beherrschen.

Dieser Unterschied ist für die KI von Bedeutung.

Die meisten Gespräche über Unternehmens-KI drehen sich immer noch um Leistungsfähigkeit: Welches Modell ist genauer, welcher Assistent ist schneller, welche Automatisierung kann die meiste manuelle Arbeit einsparen, welcher Anbieter kann die meisten Funktionen liefern. Diese Fragen sind berechtigt, aber sie sind unvollständig. Ein Modell kann leistungsstark und dennoch schwer zu steuern sein. Ein Workflow kann effizient und dennoch unmöglich zu prüfen sein. Ein System kann nützliche Empfehlungen generieren und ein Unternehmen dennoch in die Lage versetzen, nicht mehr erklären zu können, wie diese Empfehlungen eine endgültige Entscheidung beeinflusst haben.

Hier wird die Babel-Metapher anwendbar.

Ein Unternehmen führt KI im Recruiting ein, um Kandidaten zusammenzufassen, Bewerbungen zu priorisieren oder Gesprächsnotizen zu entwerfen. Ein anderes nutzt KI im Finanzbereich, um die Kreditwürdigkeit zu analysieren, Risiken zu erkennen oder Erklärungen für Kunden zu erstellen. Eine öffentliche Einrichtung nutzt KI, um den Zugang zu Sozialleistungen zu unterstützen oder Bürgeranfragen zu verwalten. In jedem dieser Fälle stellt sich nicht nur die Frage, ob das System in einem Benchmark gut abschneidet oder dem zuständigen Team Zeit spart. Die tiefere Frage ist, ob die Organisation den Zusammenhang zwischen dem KI-Ergebnis und der darauf folgenden menschlichen Entscheidung noch erklären kann.

Wenn dieser Zusammenhang unklar wird, hat die Organisation nicht zwingend ein technisches Versagen erlitten. Das System liefert möglicherweise Antworten, leitet Arbeit weiter und beschleunigt Entscheidungen genau wie geplant. Das Problem liegt darin, dass das Verständnis über Prompts, Integrationen, Protokolle, Dokumente, Anbietersysteme und informelles menschliches Urteilsvermögen hinweg fragmentiert ist. Verschiedene Teams sprechen zwar weiterhin die Sprache der Effizienz, teilen aber nicht mehr dieselbe Sprache der Verantwortung.

Das ist das moderne Babel-Problem.

Die KI-Erklärung des Vatikans stellt den Menschen in den Mittelpunkt

Eine der stärksten Passagen von Magnifica Humanitas ist die Weigerung, künstliche Intelligenz als eine rein technische Errungenschaft zu betrachten. Die Enzyklika erkennt an, dass KI nützlich, leistungsstark und vorteilhaft sein kann, besteht aber auch darauf, dass maschinelle Intelligenz nicht mit menschlichem Urteilsvermögen verwechselt werden darf.

KI-Systeme verarbeiten Daten, erkennen Muster, generieren Sprache und simulieren Formen des Denkens. Sie können Texte erzeugen, die empathisch, juristisch präzise, analytisch oder autoritär klingen. Aber sie leben nicht in menschlichen Beziehungen. Sie tragen keine moralische Verantwortung. Sie verstehen weder Verwundbarkeit noch Vergebung, weder Würde noch die Möglichkeit, dass ein Mensch sich ändern kann.

Dieser Unterschied wird kritisch, wenn KI bei Entscheidungen eingesetzt wird, die das Leben von Menschen beeinflussen.

Die Erklärung des Vatikans weist direkt auf sensible Bereiche wie Beschäftigung, Kreditvergabe, öffentliche Dienstleistungen und Reputation hin. Dies sind keine neutralen administrativen Kategorien. Sie entscheiden darüber, ob ein Mensch eine Arbeit findet, finanzielle Unterstützung erhält, Zugang zu einer lebensnotwendigen Dienstleistung bekommt oder von einer Institution mit Vertrauen behandelt wird. Wenn KI in diese Arbeitsabläufe integriert wird, geht es nicht einfach nur darum, ob das Modell klassifizieren, einstufen, zusammenfassen oder empfehlen kann. Es geht darum, ob eine menschliche Institution die Verantwortung für die getroffene Entscheidung behält.

Eine Maschine kann helfen, Informationen über eine Person zu analysieren, aber sie kann nicht zur moralischen Instanz werden, die über die Person urteilt. Das ist die Grenze, die Unternehmen schützen müssen.

Das bedeutet nicht, dass KI in wichtigen Arbeitsabläufen keinen Platz hat. Es bedeutet, dass es umso wichtiger ist, die menschliche Verantwortung zu wahren, je folgenschwerer der Arbeitsablauf ist. Ein Mensch, der von einer KI-gestützten Entscheidung betroffen ist, darf nicht in einem automatisierten Prozess gefangen sein, den niemand erklären kann. Er muss in der Lage sein zu verstehen, warum eine Entscheidung getroffen wurde, wie er sie anfechten kann und welche menschliche Instanz dafür zur Rechenschaft gezogen werden kann.

Der EU-KI-Akt macht dieselbe Sorge zur Regulierung

Der Vatikan verleiht dieser Sorge eine moralische Sprache, während der EU-KI-Akt ihr eine regulatorische Form gibt.

Die Europäische Kommission stuft bestimmte KI-Systeme als hochriskant ein, wenn sie die Gesundheit, die Sicherheit oder die Grundrechte beeinträchtigen können. Dazu gehört der Einsatz von KI in Bereichen wie Bildung, Beschäftigung, Zugang zu wichtigen privaten und öffentlichen Dienstleistungen, Kreditvergabe, Strafverfolgung, Migration, Justiz und demokratische Prozesse.

Die mit Hochrisiko-KI-Systemen verbundenen Pflichten sind aufschlussreich, da sie sich nicht nur auf die Modellleistung konzentrieren. Sie betreffen auch Risikomanagement, Datenqualität, Protokollierung, Dokumentation, Transparenz für Betreiber, menschliche Aufsicht, Robustheit, Cybersicherheit und Genauigkeit. In der Praxis stellt die Verordnung die Frage, ob das System um das Modell herum beherrschbar ist, und nicht nur, ob das Modell eine Antwort generieren kann.

Das ist eine wichtige Lektion für Führungskräfte in Unternehmen.

Menschliche Aufsicht lässt sich nicht darauf reduzieren, eine Person irgendwo in der Nähe eines automatisierten Arbeitsablaufs zu platzieren. Eine Führungskraft, die eine KI-gestützte Entscheidung genehmigt, ohne zu verstehen, welche Daten verwendet wurden, welches Modell die Empfehlung herbeigeführt hat, welche Einschränkungen galten oder welche Alternativen in Betracht gezogen wurden, übt keine echte Aufsicht aus. Sie verleiht einem Prozess institutionelle Legitimität, den sie möglicherweise gar nicht bewerten kann.

Deshalb ist das Konzept „Human-in-the-Loop“ als Governance-Ansatz oft zu schwach. Der eigentliche Maßstab sollte sein, ob der Mensch genügend Kontext, Autorität und Transparenz besitzt, um eine fundierte Entscheidung zu treffen. Wenn das System die relevanten Informationen verbirgt, wenn der Ablauf für eine Überprüfung zu schnell ist oder wenn das KI-Ergebnis in der Praxis kaum angefochten werden kann, verkommt die menschliche Aufsicht zur Formsache.

Der EU-KI-Akt und die Erklärung des Vatikans entstammen sehr unterschiedlichen Traditionen, weisen jedoch auf dieselbe Realität im Unternehmen hin: Wenn KI Menschen betrifft, brauchen Organisationen mehr als nur gute Absichten. Sie benötigen Systeme, die so konzipiert sind, dass die Verantwortung transparent bleibt.

Menschliches Urteilsvermögen braucht Infrastruktur

Viele Organisationen beginnen ihre Gespräche über verantwortungsvolle KI mit Prinzipien. Sie verfassen Richtlinien, gründen Komitees, definieren Leitfäden für den akzeptablen Gebrauch und weisen die Mitarbeiter an, den Menschen bei wichtigen Entscheidungen einzubeziehen. All das ist notwendig, reicht aber nicht mehr aus, sobald die KI aus der Experimentierphase in den täglichen Betrieb übergeht.

Menschliches Urteilsvermögen hängt von der technischen und organisatorischen Umgebung ab, in der es sich bewegt. Eine Person kann nur dann die Verantwortung für eine KI-gestützte Entscheidung übernehmen, wenn das Unternehmen rekonstruieren kann, wie diese Entscheidung zustande gekommen ist. Dazu gehört, wo das KI-System aktiv war, auf welche Informationen es zugreifen durfte, welches Modell oder welche Modelle beteiligt waren, wie die Anfrage den Workflow durchlaufen hat, welches Ergebnis generiert wurde und welche menschliche Überprüfung stattgefunden hat, bevor das Ergebnis in die Tat umgesetzt wurde.

Ohne diese umgebende Architektur wird die menschliche Aufsicht instabil. Von Mitarbeitern wird verlangt, Entscheidungen zu genehmigen, die bereits von Systemen geprägt wurden, die sie nicht einsehen können. Von Sicherheitsteams wird erwartet, dass sie Sicherheitsrisiken managen, ohne Einblick in die Datenflüsse zu haben. Von Compliance-Teams wird gefordert, Prozesse zu verteidigen, die nie so konzipiert wurden, dass sie überprüfbar sind. Führungskräften wird berichtet, dass KI die Produktivität steigert, während sie gleichzeitig die Fähigkeit verlieren, zu erklären, wie diese Produktivität zustande kommt.

Deshalb wird die nächste Phase der Unternehmens-KI nicht nur durch bessere Modelle definiert werden. Sie wird durch steuerbare Systeme definiert werden.

Wir bei Zylon glauben, dass Unternehmen in der Lage sein sollten, KI einzuführen, ohne die Kontrolle über die Infrastruktur zu verlieren, die ihre Arbeit prägt. Das beginnt bei der Bereitstellung. Eine private KI-Plattform für Unternehmen, wie die Plattform von Zylon, bietet Organisationen die Möglichkeit, KI in ihrer eigenen Umgebung auszuführen, anstatt hochsensible Arbeitsabläufe in Systeme zu verlagern, die sie nicht vollständig kontrollieren können.

Das ist wichtig, weil Governance ungleich schwerer ist, wenn ein Unternehmen nicht klar definieren kann, wo Daten verarbeitet werden, wie Zugriffe verwaltet werden, welche Wissensquellen zur Verfügung stehen und wie die KI-Nutzung protokolliert wird. In regulierten Branchen sind diese Fragen keine technischen Details. Sie sind Teil der Sorgfaltspflicht der Institution.

Das Gegenteil von Babel ist nicht Angst

Die KI-Erklärung des Vatikans plädiert nicht dafür, Technologie abzulehnen. Sie erkennt an, dass Technologie helfen kann zu heilen, zu bilden, zu schützen, zu verbinden und die menschlichen Möglichkeiten zu erweitern. Die Frage ist nicht, ob Organisationen mit KI bauen sollten. Die Frage ist, ob sie so bauen können, dass die Würde des Menschen, die Verantwortung und das gemeinsame Verständnis gewahrt bleiben.

Deshalb ist der in der Enzyklika gezogene Vergleich zwischen Babel und dem Wiederaufbau Jerusalems durch Nehemia so nützlich. Babel steht für ein Projekt, das durch Konformität und Ehrgeiz wächst. Nehemia steht für den Wiederaufbau durch Teilhabe, Verantwortung und Achtsamkeit gegenüber der Gemeinschaft, die neu aufgebaut wird.

Dazu gibt es eine direkte Parallele in Unternehmen.

Verantwortungsvolle KI-Einführung darf nicht bedeuten, jedem Team und jedem Arbeitsablauf ein starres, monolithisches System aufzuzwingen. Rechtsabteilung, Softwareentwicklung, Finanzen, Kundenservice, HR und Compliance arbeiten nicht alle mit denselben Daten, denselben Risiken oder denselben Pflichten. Eine einfache Zusammenfassungsaufgabe mit geringem Risiko erfordert nicht dasselbe Governance-Modell wie ein KI-gestützter Workflow, der sich auf Beschäftigung, Kreditvergabe, gesetzliche Rechte oder den Zugang zu lebensnotwendigen Dienstleistungen auswirkt.

Das Ziel ist nicht, dass jedes Team KI auf exakt dieselbe Weise nutzt. Das Ziel ist es, den Teams die Nutzung von KI innerhalb von Grenzen zu ermöglichen, die der Sensibilität ihrer Arbeit entsprechen.

Das erfordert mehr als nur eine Chatbot-Schnittstelle. Es erfordert Modellkontrolle, Datengrenzen, Berechtigungen, Überprüfbarkeit und Bereitstellungsoptionen, die dem Risikoprofil des Unternehmens entsprechen. Mit Zylon AI Core kann private KI direkt in der Umgebung des Unternehmens betrieben werden. Mit dem Zylon API Gateway können Teams KI-Anwendungen und -Automatisierungen entwickeln, während Sicherheits- und Compliance-Verantwortliche die Kontrolle über Authentifizierung, Autorisierung, Modellzugriffsrichtlinien, Leitplanken, Ratengrenzen und Audit-Protokollierung behalten.

So sieht menschenzentrierte KI in der Praxis aus. Es ist kein Lippenbekenntnis zur Ethik und kein Kontrollkästchen, das am Ende des Beschaffungsprozesses angekreuzt wird. Es ist eine Architektur, die es Menschen ermöglicht, die Systeme, auf die sie sich verlassen, zu verstehen und zu steuern.

Bauen Sie keine Systeme, für die niemand geradeerstehen kann

Die öffentliche Debatte über KI verliert sich oft in Fragen darüber, ob Maschinen denken, logisch schließen oder irgendwann die menschliche Intelligenz übertreffen können. Unternehmen müssen sich eine viel dringlichere Frage stellen: Wenn KI Teil der institutionellen Entscheidungsfindung wird, kann die Organisation die in ihrem Namen getroffenen Entscheidungen dann noch erklären und verantworten?

Diese Frage wird unumgänglich, wenn KI aus isolierten Produktivitäts-Anwendungsfällen in Arbeitsabläufe übergeht, die Mitarbeiter, Kunden, Bürger, Patienten, Lieferanten und Partner betreffen. Ein Unternehmen, das KI zum Entwerfen einer E-Mail nutzt, ist einem ganz anderen Risiko ausgesetzt als ein Unternehmen, das KI einsetzt, um Einstellungen, Kreditvergaben, Compliance oder den Zugang zu Dienstleistungen zu beeinflussen. Je höher der Einsatz, desto dringender muss die Organisation erklären können, warum KI eingesetzt wurde, welche Informationen das Ergebnis geprägt haben, wie das Ergebnis überprüft wurde und welcher Weg zur Korrektur offensteht, wenn das System einen Fehler macht.

Dies sind keine abstrakten philosophischen Sorgen. Es sind Beschaffungsfragen, weil Unternehmen verstehen müssen, was sie kaufen. Es sind Sicherheitsfragen, weil sensible Daten offengelegt oder missbraucht werden können. Es sind Compliance-Fragen, weil Regulierungen zunehmend Rückverfolgbarkeit und Aufsicht verlangen. Es sind Führungsfragen, denn eine Organisation, die ihre KI-Systeme nicht erklären kann, kann sie auch nicht vollständig steuern.

Die KI-Erklärung des Vatikans ist wertvoll, weil sie Führungskräften ein tieferes Verständnis dafür vermittelt, was auf dem Spiel steht. Sie erinnert uns daran, dass die Gefahr von Babel nicht der Ehrgeiz allein war, sondern ein Ehrgeiz losgelöst von Demut, Verantwortung und den menschlichen Beziehungen, die gemeinsame Arbeit erst möglich machen.

Die KI in Unternehmen hat ihre eigene Version dieser Versuchung. Eine einzige Plattform verspricht Effizienz in jeder Abteilung. Ein einziges Modell wird zur Standardstimme der Organisation. Ein einzelner automatisierter Arbeitsablauf beeinflusst im Stillen Entscheidungen, die früher menschliche Abwägung erforderten. Mit der Zeit kann die Sprache der Produktivität einen tiefgreifenden Verlust an Verantwortung verschleiern.

Das ist keine verantwortungsvolle Einführung. Das ist Babel mit schöneren Benutzeroberflächen.

Der bessere Weg führt nicht an der KI vorbei. Es ist eine für die menschliche Verantwortung gebaute KI: Systeme, die überprüft, gesteuert, beschränkt, auditiert und bei Bedarf infrage gestellt werden können. Die Organisationen, die mit KI erfolgreich sein werden, werden nicht einfach nur die sein, die am schnellsten bauen. Es werden diejenigen sein, die immer noch verstehen, was sie gebaut haben, erklären können, wem es dient, und die Verantwortung dafür übernehmen, wenn es spricht.

Quellen

• Papst Leo XIV., Magnifica Humanitas: „Zum Schutz der menschlichen Person im Zeitalter der künstlichen Intelligenz“

• Europäische Kommission: Gesetz über künstliche Intelligenz – Die digitale Zukunft Europas gestalten

Autorin: Cristina Traba Deza, Produktdesignerin bei Zylon
Veröffentlicht: Mai 2026
Cristina entwirft sichere, lokal installierte KI-Plattformen für regulierte Branchen. Ihr Schwerpunkt liegt auf KI-Szenarien in Unternehmen für Finanzdienstleistungen, das Gesundheitswesen und Organisationen des öffentlichen Sektors, die vollständige Datenkontrolle, Governance und Compliance benötigen.