ruft der verzweifelte Zauberlehrling im Gedicht von Goethe, Hilfe suchend seinem Meister zu.
Die Geister der KI haben sich verselbständigt und drohen der Kontrolle ihrer Entwickler zu entkommen. Sie scheinen fähig zu Autonomie und Konspiration. Die Führer der Branche im Silicon Valley geben Code Red aus. Größer als zehn Prozent sei die Chance, dass die KI in den kommenden zehn Jahren alle Menschen töte, schrieb der leitende Forscher von Anthropic Evan Hubinger, vor wenigen Tagen auf X.
Erst im Mai hatte Papst Leo in seinem ersten Lehrschreiben „Magnifica humanitas“ – „Über den Schutz des Menschen in der Zeit der Künstlichen Intelligenz“ vor den negativen Folgen für die Menschheit durch unkontrollierte KI Entwicklung gewarnt: „Die KI muss entwaffnet werden.“ forderte er bei der Präsentation der Enzyklika und vergleicht das Projekt mit dem Turmbau zu Babel, jenem sagenhaften Projekt menschlicher Hybris sich selbst GOTT*gleich zu machen.
„KI zu entwaffnen“, so Leo in der Enzyklika, bedeute, sie der Logik des bewaffneten Wettbewerbs zu entziehen, der heute „nicht mehr nur militärischer, sondern auch wirtschaftlicher und kognitiver Natur“ sei. „… Entwaffnen bedeutet, diese Gleichsetzung von technischer Macht und dem Recht zu herrschen aufzubrechen.“ Dieses „entwaffnen“ meine keinen Verzicht auf die neue Technologie. Vielmehr gehe es darum, zu verhindern, dass sie den Menschen und die Menschheit beherrsche. (dw.com, Christoph Strack, 25.5.26)
Die Lerngeschichte des Turmbau zu Babel (= Durcheinander) zeigt, welche Möglichkeiten eine verständigungsbereite, solidarische und geeinte Menschheit hätte in Frieden ein Gutes Leben zu leben und wie sie immer wieder an Hybris, Gier und am Machtegoismus einzelner scheitert und so ihre eigene Existenz aufs Spiel setzt.
Goethes Zauberlehrling ruft seinen Meister an, die entfesselten Geister wieder seinem Willen, seinem Zweck unterzuordnen – die KI-Branche ruft nach überstaatlicher Regulierung – ein weltweiter Konsens der Selbstbeschränkung für und zu Gunsten der Humanitas, der Menschheit ist gefordert.
GS 15. Sept 2026
