English follows German

Als Philosophie, Wissenschaft, Kabbala, Magie und Religion nur einen Herzschlag voneinander entfernt waren, erblickte Joseph Scheda am 17. März 1580 als Golem das Licht der Welt. Darauf werde ich noch mit den Worten Norbert Wieners kommen.

Er, der Golem, wurde von Rabbi Löw – auch bekannt als Judah Loew ben Bezalel (MaHaRal; 1528 und verstarb am 17. September 1609) und heute würde man sagen ein Universalgelehrter – in Prag geschaffen. Das Wissen von MaHaRal ging verloren.

Erstmalig soll der Golem als ‘Golem von Chelm’ in Erscheinung getreten sein. Er wird als Geschöpf von Elijah bar Aaron Judah Baal Shem (1520-83), dem Kabbalisten und Oberrabinner von Chelm (Polen), erachtet. Für viele Historiker gilt er als der erste Schöpfer des Golem.

Wenig ist jedoch bekannt, wie der Golem konkret und genau geschaffen wurde. Es blieben so die Legenden und Überlieferungen, die einen großen Einfluß auf die europäische Kultur ausüben sollten.

Seine, des Golem, kulturelle Wirkgeschichte für die abendländische Kultur ist bis heute markant und ungebrochen: Vom Zauberlehrling über Der Golem, Frankenstein, Terminator bis hin Superman blickt einem deutlich das Antlitz vom Golem aus Prag entgegen.

Die Literatur beispielsweise ist voll von Bezugnahmen und lies sich gerne inspirieren, man denke nur beispielsweise an Goethe, Kafka oder Celan, um nur drei zu nennen. Ganz zu schweigen von der Film- und Musikindustrie.

Dieser Teil der Kulturgeschichte ist als bekannt vorauszusetzen. Viele kluge Abhandlungen legen dafür Zeugnis ab, die man hier nicht wiederholen braucht, noch einen neuen Aspekt hinzufügen muss. Es wäre ermüdend.

Diese Legenden und Überlieferungen haben einen gemeinsamen Kern, eigentlich Kerne gleich einem Granatapfel, was den Vorteil hat, dass sie sich befragen und betrachten lassen. Dazu später.

Ebenso ist die intellektuelle Inspiritation als bekannt hier vorauszusetzen, wofür pars pro toto Norbert Wiener und Gershon Scholem zu nennen sind. Früh erkannte man, mehr oberflächlich, dass der Golem viel mit Cybernetik, Künstliche Intelligenz zu tun habe, und man sah sich rasch verführt, im Computer, später in der KI das Antlitz des Golem zu erkennen.

Die Eröffnungsrede von Gershon Scholem für den ersten tatsächlichen Supercomputer Israels am Weizmann Institut am 17. Juni 1965 gibt Zeugnis ab als er, Scholem, diesen neuen Supercomputer ‘Golem Aleph‘ benannte und sagte:

“Mein ganzes Leben lang habe ich mich darüber beschwert, dass das Weizmann-Institut nicht die Mittel mobilisiert hat, um das Institut für experimentelle Dämonologie und Magie aufzubauen, dessen Gründung ich dort schon so lange vorgeschlagen habe. Sie zogen das, was sie Angewandte Mathematik und ihre unheimlichen Möglichkeiten nennen, meinem direkteren magischen Ansatz vor. Sie wussten nicht, worauf sie sich einließen, als sie Chaim Pekeris mir vorzogen. Also resigniere ich und sage dem Golem und seinem Schöpfer: Entwickeln Sie sich friedlich und zerstören Sie nicht die Welt. Schalom.“

Warum? Norbert Wiener bevorschattete diese Einsicht in seinem Buch ‘God and Golem, Inc.’ (1963), wo er schreibt und warnend hinweist:

„Es gibt mindestens drei Punkte in der Kybernetik, die mir für religiöse Fragen relevant erscheinen. Einer davon betrifft Maschinen, die lernen, einer betrifft Maschinen, die sich selbst reproduzieren, und einer, die Koordination von Maschine und Mensch.“

GOLEM

Der Golem wurde bis dato von zwei Seiten – als legitime und erkenntnisfördernde mythopoetische Inspiration – betrachtet: Einmal sein Entstehen oder wie schafft man einen Golem und damit vebunden, was kann er, wo sind seine Grenzen.

Allgemein ist man sich einig, dass der Golem aus Lehm geschaffen wurde, worauf auch sein Name deutlich hinweist, heißt doch Golem im Hebräischen Lehm, Staub und, da wird es neuerlich interessant, das Wort kann auch die kinderlose Frau bezeichnen.

In Bewegung wird der Lehm durch verschiedene Rituale und Segenssprüche bis schließlich ihm das Leben eingehaucht wird. Die Darstellungen über die geauen Prozeduren weichen doch ordentlich voneinander ab, aber man kann dies als den Minimalkonses erachten.

Schließlich wird dem Golem ein Mal in Form eines Wortes durch den Rabbi auf die Stirn geritzt. Dieses Wort bedeutet einmal Wahrheit und einmal Tod. Wird der erste hebräische Buchstabe des Wortes Wahrheit (emet) gelöscht, weggewischt durch die kundige Rabbinerhand, dann steht auf Hebräisch Tod (met) und der Golem, je nach Überlieferung, zerfällt zu Staub oder wird inaktiv.

Wo sich die Überlieferungen weiter einig sind, dass er, der Golem, nur streng und sehr genau die Anweisungen ausführen kann, was zu verherrenden Resultaten führen kann, worüber die verschiedenen Überlieferungen schaurig zu berichten wissen.

Hier findet man dann viele Berichte und Überlieferungen, die erklären, dass der Golem wohl Leben, aber keine Seele habe, nicht lieben und nur folgen können und es ihm an kontextualer Phantasie aka Kreativität fehle. Er ist völlig Kreatur. Sein Leichnam kein Leichnam.

Man sieht schnell, wo die Analogien zum Computer liegen und ein Gershon Scholem oder Norbert Wiener, aber mit je unterschiedlichen Bewertungen, haben dies auch benannt. Der moderne, der heutige Golem ist der Computer. Später wurde daraus die Annahme, der Golem sei Urbild, Archetyp oder Vorläufer, je nach gewählten Ausgangspunkt, der Künstlichen Intelligenz.

Dem widerstreitet jenes Lager, dass die Künstliche Intelligenz mehr in der Nähe des Menschen sieht, ja der Mensch seine Erfüllung endlich durch die Fusion von Mensch und KI, oder, etwas altmodisch gesagt, in der Mensch-Maschine finde, wie es dann in der Figur Frankenstein Ausdruck fand. Frankenstein als der elektrifizierte, säkulare Golem geschaffen durch die Wissenschaft.

Beiden Lagern ist gemein, dass sie den Menschen reduzieren und wenig ansprechende Visionen empfehlen: Einmal als Golem, das andere mal als Frankenstein.

Beide haben katastrophale Handlungen gesetzt, die schließlich zu ihrem Untergang gefüht haben. Einmal in geordneter Weise wie beim Golem, das andere Mal als Katastrophe wie bei Frankensteins Monster. Beide verfügen über übermenschliche Kräfte und Ausdauer, um potentiell Aufgaben unermüdlich durchzuführen.

Sie waren modern gesprochen Automaten, Maschinenintelligenz. Und einmal mehr gibt der Mythos eine Inspiritation: Wie deaktiviert, beherrscht man eine Künstliche Intelligenz (KI).

WIR BRAUCHEN EINEN TOTMANNSCHALTER

Wie und warum kam der Golem in die Welt? Der Grund war ohne Zweifel nobel und wichtig: Der Golem war Kämpfer gegen den Antisemtismus, gegen Judenhass. Er hatte eine Schutzaufgabe inne. Er sollte Juden zu Pessach – dem Fest der Freiheit – vor Übergriffen von Christen schützen.

Seine Aufgabe war so eine begrenzte und scheinbar klar definiert. Frankenstein hingegen hatte nicht den Schutz des Lebens als Aufgabe. Bei seiner Kreation ging es grundsätzlich um die Schaffung von Leben. Er war ohne Aufgabe. Er kam in das Sein, weil jemand, Frankenstein, es wollte und konnte.

In beiden Fällen, so kann man abstrakt allgemein sagen, geht es um das Leben. Und beide menschgesetzten Versuche sind gescheitert. Der eine, der Golem, in geordneter Weise, auch wenn er fast nur um Haaresbreite geräuschlos deaktiviert werden konnte. Der andere, das Monster von Frankenstein geschaffen, endete katastrophal in der Feuerbrunst.

Warum scheiterten beide, warum konnte die Beziehung Mensch – Golem, Mensch – Frankensteins Monster nicht funktionieren? Weil beiden Aufgaben erfüllen sollten, für die sie kein Rüstzeug hatten. Das eine mal gewollter Weise, Golem, das andere mal überraschender Weise, Frankensteins Monster.

In beiden Fällen war aber stets klar, wer ist Herr, wer ist Kreatur. Der Kreatur kann kein eigener Handlungsspielraum gewährt werden. Es braucht der Sicherung. Der Golem hatte sie, Frankensteins Monster nicht.

Es fehlt beiden Projekten, beiden Kreationen die Seele, der freie Wille und die Sprache. Dies wird man der heutigen Künstlichen Intelligenz auch nicht verleihen können und darin liegt auch ihre aktuelle Grenze. Sie ist Zweck, Instrument.

Die grundlegende Frage ist und bleibt wie einst im 15. Jahrhundert in Prag: Welchen Zweck soll dieses Geschöpf erfüllen. Und es zeigt, selbst ein nobler Zweck, eine gute Aufgabe, verkehrt sich in das Gegenteil.

Womit man sich den Fragen Wieners zuwenden kann: Für die Koordination braucht es die Sprache, für das Lernen den freien Willen und die Reproduktion braucht es die Seele. Und ja, Wiener hat recht, wenn er sagt, dass es religiöse Fragen seien, worin er mit Scholem auf einer ähnlichen Gedankenwelle sich befindet, der den Golem mit Dämonen und Magie in Verbindung bringt.

Will man daher eine KI schaffen, wird man sich diesen drei Fragen als Potentiale zuwenden müssen, die nur von Philosophie und Religion beantworten werden können; vielleicht. So lauten wiederholt die drei grundlegenden Fragen: Was ist Seele, was ist Sprache, was ist Leben, um endlich Fortschritte in der Entwicklung von KI zu erzielen.

Denn die Wahrheit ist, dass die Erfolge im Bereich der KI eher bescheiden sind, man kann sogar von einem Scheitern sprechen, und die kleinen Wunder, die man bestaunt, eher das Ergebnis sind von der Wissenschaft der Statistik. Hocheffiziente, superschnelle Rechenmethoden (Algorithmen) werden auf schier unendlichen Datensätzen ausgeführt.

Man kann es ‘Kostüm-AI’ nennen, die aber nicht minder gefährlich ist. Die ‘Kostüm-AI’ ist ein Fortschritt durch Schlagzahl, also Quantität, und nicht Qualität.

Und eine neue, entscheidende Qualität darf man nicht übersehen: Weder Golem noch Frankenstein wären in der Lage gewesen, die Welt in Schutt und Asche zu legen. Aber eine ‘Kostüm-AI’ in falschen Händen oder gar aus eigener Notwendigkeit heraus, wie beim Golem oder Zauberlehrling, könnte sehr wohl die Welt in Schutt und Asche legen.

Man ist daher gut beraten, einen universalen Mechanismus zu installieren, womit man aller KI, auch und gerade der Kostüm-KI, ohne Katastrophe, geräuschlos und effizient den Stecker ziehen kann. Und zwar am besten als Totmannschalter.

Das macht damit den Golem zum Modell. In seiner Kreation wurde vom Anfang an seine geordnete Abschaltung, Deaktivierung eingeplant bzw festgelegt. Darin liegt auch die rabbinische Weisheit, die der Tora und – im Falle von Loew – auch der Kabbala folgt.

Sprich, man sollte daher dem Konzept, dem Weg des Golem folgen, statt dem Konzept Frankensteins. Dieser geschaffen auf alleiniger Grundlage der Wissenschaft, jener unter Bezugnahme auf Torah, Kabbala und Philosophie.

Allgemein gesagt daher: Ohne Philosophie, Religion, Kabbala und ähnlichen Wissen, Methoden und Wegen wird es keinen Forschritt in Bereich der KI geben, den wir alle brauchen. Denn ohne echte KI ist eine Kolonialisierung des Weltraums nicht möglich, die der Mensch allein aus Gründen des eigenen Überlebens anstreben muss.

ENGLISH

When philosophy, science, Kabbalah, magic, and religion were only a heartbeat apart, Joseph Scheda saw the light of day on March 17, 1580, as a golem. I will come back to this with the words of Norbert Wiener.

He, the Golem, was created by Rabbi Löw – also known as Judah Loew ben Bezalel (‘MaHaRal’; 1528 and died September 17, 1609) and today one would say a polymath – in Prague. The knowledge of ‘MaHaRal’ was lost.

The Golem is said to have first appeared as ‘Golem von Chelm’. He is believed to be the creation of Elijah bar Aaron Judah Baal Shem (1520-83), the Kabbalist and Chief Rabbi of Chelm (Poland). For many historians, he is considered the first creator of the golem.

However, little is known about how the golem was created concretely and accurately. The legends and traditions that were to exert a great influence on European culture remained.

His, the golem, cultural impact history for the occidental culture is striking and unbroken to this day: from the sorcerer’s apprentice to the golem, Frankenstein, Terminator to Superman, the face of the golem from Prague is looking at you.

Literature, for example, is full of references and likes to be inspired, just think of Goethe, Kafka or Celan, to name just three. Not to mention the film and music industry.

This part of cultural history can be assumed to be known. Many wise treatises bear witness to this, which need not be repeated here, nor must a new aspect be added. It would be tiring.

These legends and lore have a common core, actually cores like a pomegranate, which has the advantage that they can be questioned and looked at. More on that later.

The intellectual inspiration is also to be assumed to be known here, for which pars pro toto Norbert Wiener and Gershon Scholem should be mentioned. It was recognized early on, more superficially, that the golem had a lot to do with cybernetics, and artificial intelligence, and people were quickly tempted to recognize the face of the golem in the computer, and later in the AI.

Gershon Scholem’s opening speech for Israel’s first actual supercomputer at the Weizmann Institute on June 17, 1965 bears witness when he, Scholem, named this new supercomputer ‘Golem Aleph’ and said:

“All my life I have complained that the Weizmann Institute has not mobilized the funds to set up the Institute for Experimental Demonology and Magick that I have long proposed to set up there. They drew what they applied mathematics and named its uncanny possibilities before my more direct magical approach.

They didn’t know what they were letting themselves in for when they chose Chaim Pekeris over me. So I resign and say to the golem and its creator: Evolve peacefully and don’t destroy the world. Shalom.”

Why? Norbert Wiener foreshadowed this insight in his book ‘God and Golem, Inc.’ (1963) where he writes and cautions:

“There are at least three points in cybernetics that seem relevant to religious questions. One concerns machines that learn, one concerns machines that reproduce themselves, and one concerns machine-human coordination.”

GOLEM

To date, the golem has been viewed from two sides – as a legitimate and knowledge-promoting mythopoetic inspiration: Firstly, its emergence or how do you create a golem and what is it capable of, where are its limits.

It is generally agreed that the golem was created from clay, which is also clearly indicated by its name, since in Hebrew golem means clay, dust and, this is where it gets interesting again, the word can also refer to the childless woman.

The clay is moved through various rituals and blessings until life is finally breathed into it. The descriptions of the exact procedures differ quite a bit from each other, but this can be considered the minimum consensus.

Finally, the rabbi scratches a mark on the golem’s forehead in the form of a word. This word means once truth and once death. If the first Hebrew letter of the word truth (emet) is erased, wiped away by the knowledgeable hand of the rabbi, then the Hebrew reads death (met), and the golem, depending on tradition, crumbles to dust or becomes inactive.

Where the lore is further agreed that he, the Golem, can only strictly and accurately carry out the instructions, which can lead to devastating results, which the various lore horribly report.

Here you will find many reports and traditions that explain that the golem has life but no soul, cannot love and can only follow, and that it lacks contextual imagination aka creativity. He is a total creature. His corpse, not a corpse.

You can quickly see where the analogies to the computer lie and a Gershon Golem or Norbert Wiener, but with different evaluations, also named this. The modern, today’s golem is the computer. Later, this became the assumption that the golem was the archetype, archetype, or precursor, depending on the chosen starting point, of artificial intelligence.

This is opposed by the camp that sees artificial intelligence as more closely related to humans, that humans finally find their fulfilment through the fusion of humans and AI, or, to put it a little old-fashioned, in the human machine, as it then does in the figure Frankenstein found expression. Frankenstein is the electrified, secular golem created by science.

What both camps have in common is that they reduce people and recommend less appealing visions: one as a golem, the other as a Frankenstein.

Both committed catastrophic acts that eventually led to their downfall. Once in an orderly way like the Golem, the other time as a catastrophe like in Frankenstein’s monster. Both possess superhuman strength and stamina to perform potentially tireless tasks.

They were modern-speaking automata, machine intelligence. And once again the myth provides inspiration: How deactivated is artificial intelligence (AI) mastered?

WE NEED A DEADMAN’S SWITCH

How and why did the golem come into the world? The reason was undoubtedly noble and important: the golem was a fighter against anti-Semitism, against Jew-hatred. He had a protective duty. He should protect Jews on Passover – the festival of freedom – from attacks by Christians.

His task was limited and seemingly well-defined. Frankenstein, on the other hand, did not have the protection of life as his task. Its creation was fundamentally about the creation of life. He was without a task. He came into being because someone, Frankenstein, wanted and could.

In both cases, one can generally say in abstract terms, life is at stake. And both human-made attempts have failed. The one, the Golem, in an orderly manner, even if it could be silently deactivated almost by a hair’s breadth. The other, the monster created by Frankenstein, ended disastrously in the conflagration.

Why did both fail, why couldn’t the relationship human – golem, human – Frankenstein’s monster work? Because both should fulfil tasks for which they had no tools. One time intentionally, Golem, the other time surprisingly, Frankenstein’s monster.

In both cases, however, it was always clear who was the master and who was the creature. The creature cannot be granted its agency. It needs the fuse. The golem had them, but Frankenstein’s monster didn’t.

Both projects, both creations lack soul, free will, and language. You will not be able to give this to today’s artificial intelligence either, and that is where its current limit lies. She is a purpose, an instrument.

The basic question is and remains, as it was in Prague in the 15th century: What purpose should this creature serve? And it shows, even a noble purpose, a good task, turns into its opposite.

This brings us to Wiener’s questions: Language is needed for coordination, free will is needed for learning, and the soul is needed for reproduction. And yes, Wiener is right when he says that it is religious issues where he is on a similar wave of thought with Scholem, associating the golem with demons and magic.

Therefore, if one wants to create an AI, one will have to address these three questions as potentials that can only be answered by philosophy and religion; perhaps. The three fundamental questions are repeated: What is the soul, what is language, and what is life, to finally make progress in the development of AI?

Because the truth is that the successes in the field of AI are rather modest, one can even speak of failure, and the small wonders that one marvels at are rather the result of the science of statistics. Highly efficient, super-fast calculation methods (algorithms) are executed on almost infinite data sets.

You can call it ‘Costume AI’, but it’s no less dangerous. ‘Costume AI’ is progression by score, that is, quantity, not quality.

And a new, crucial quality should not be overlooked: neither Golem nor Frankenstein would have been able to reduce the world to rubble and ashes. But a ‘Costume AI’ in the wrong hands, or even out of necessity, like the Golem or Sorcerer’s Apprentice, could very well reduce the world to rubble.

One is therefore well advised to install a universal mechanism with which one can control all AI, including and especially the costume AI, without catastrophe, noiselessly and efficiently can unplug. And best of all as a dead man’s switch.

Reading you might be interested in > Grok – The Final Trap