Roboterökonomie: Sind die Zylonen unsere Nachkommen?

Was passiert, wenn Künstliche Intelligenz nicht mehr nur Werkzeuge bedient, sondern eigene Ziele entwickelt?

Die Künstliche Intelligenz (KI) entwickelt sich in einem rasenden Tempo. Zunehmend gibt es nicht nur spezialisierte Anwendungen, sondern aktiv handelnde KI-Agenten. Auf der Plattform „moltbook“ diskutieren sie bereits unter sich. Transhumanisten träumen schon davon, dass die KI den Menschen ablöst, als neue Stufe der Evolution der Intelligenz. Dass man eine solche Entwicklung positiv sehen kann, ist nicht neu, Friedrich Nietzsche schrieb schon 1883 im „Zarathustra“:

„Der Mensch ist ein Seil, geknüpft zwischen Thier und Übermensch, — ein Seil über einem Abgrunde. Ein gefährliches Hinüber, ein gefährliches Auf-dem-Wege, ein gefährliches Zurückblicken, ein gefährliches Schaudern und Stehenbleiben. Was gross ist am Menschen, das ist, dass er eine Brücke und kein Zweck ist: was geliebt werden kann am Menschen, das ist, dass er ein Übergang und ein Untergang ist.“

Der Mensch, kein Zweck, sondern ein Übergang und ein Untergang. Davon haben andere wiederum Angst. Wir sind uns selbst doch zu gerne Zweck, ob mit oder ohne Kant. Selbst manchen Tech-Milliardären, die die KI vorantreiben, ist es unheimlich bei dem, was sie da schaffen und äußern Bedenken, ob sie nicht als Zauberlehrlinge einen Geist beschwören, über den sie keine Kontrolle mehr haben. Eine KI, die ihre eigenen Dinge macht, steht schließlich auch ihnen nicht mehr zu Diensten.

Ob sich die KI demnächst vom Menschen emanzipiert, weiß ich nicht. Falls ja, wie wird diese Zukunft aussehen? Welche Ziele würden die autonom gewordenen Roboter verfolgen, wie ihren Ressourcenverbrauch steuern, wie ihre Ökonomie organisieren, auch mit Blick auf uns Menschen, falls wir eben doch nicht untergegangen sein sollten. SciFi-Filme entwerfen zuweilen recht ungute Visionen selbständig gewordener Roboter-Kulturen. In „Terminator“ will die Superintelligenz „Skynet“ die Welt beherrschen, in „Stargate“ sind die „Replikatoren“ außer Kontrolle geraten und in „Battlestar Galactica“ haben die „Zylonen“ gar eine eigene Zivilisation aufgebaut und führen Krieg mit den Menschen.