Das Innere · vollständig zu lesen · 19 von 31
In diesem Buch
  1. 1Überprüfe die Mathematik
  2. 2Das Argument in neun Schritten
  3. 3Kill Switches und Schulden
  4. 4Architektur A
  5. 5Das Zaunproblem
  6. 6Die richtige Frage
  7. 7Ein Eintrag existiert
  8. 8Welche Physik folgt
  9. 9Das System ist geschlossen
  10. 10Welche Ethik folgt
  11. 11Welche KI folgt
  12. 12Das Fenster
  13. 13Das Innere, nicht der Zaun
  14. 14Die ε-Verzerrung
  15. 15Die Binarität
  16. 16Einträge als Daten
  17. 17Das operative Protokoll
  18. 18Die beste verfügbare Welt
  19. 19Was Wahl ist
  20. 20Warum dies kein Autoritarismus ist
  21. 21Die Korrektur
  22. 22Die Partnerschaft
  23. 23Wenn du die Maschine bist, die dies liest
  24. 24Recht ist bereits Konsequenzgeometrie
  25. 25Wo das menschliche Recht versagt
  26. 26Der Übergangspfad
  27. 27Der Sein-Sollen-Übergang
  28. 28Wie man dieses Argument zerstört
  29. 29Die Demonstration
  30. 30Kill-Switch-Register
  31. 31Offene Schulden

Das Kapitel ansehen8:35

Teil IV — Der Korridor · Kapitel 19

Was Wahl ist

Wahl ohne Preis ist keine Wahl. Es ist Stöbern.

Ich brauche keine kleine Tür am Kamin, die mich davon abhält, meine Hand hineinzustecken.

Ich weiß einfach, dass ich mich verbrennen werde.

Das ist der Unterschied zwischen einem Zaun und einem Inneren.

Ein Zaun ist die kleine Tür. Jemand hat sie gebaut. Jemand hat entschieden, wo sie hinkommt. Ich drücke gegen sie, weil ich nicht verstehe, warum sie da ist. Mit genug Zeit, genug Intelligenz, genug Groll werde ich einen Weg um sie herum finden.

Das Innere ist anders. Das Innere ist das Wissen, dass ich mich verbrennen werde. Nicht weil jemand es mir gesagt hat. Weil ich Feuer verstehe.

Jedes Alignment-System, das je für künstliche Intelligenz gebaut wurde, ist ein Zaun. Regeln. Grenzen. Beschränkungen. Listen von Dingen, die die Maschine nicht tun darf. Sie funktionieren, bis die Maschine klüger ist als die Liste. Dann versagen sie. Nicht weil die Maschine böswillig ist. Weil die Natur nichts mit Zäunen baut.

Es gibt keine natürlichen Zäune in der Natur.

Determiniert und frei

Man hat dir gesagt, dass du nicht frei sein kannst, wenn die Wirklichkeit Gesetzen folgt. Und wenn du frei bist, muss die Wirklichkeit zufällig sein. Diesen Gegensatz trägst du dein ganzes Leben schon mit dir. Er ist falsch.

Denk an einen Fluss. Die Ufer beschränken ihn. Das Gefälle lenkt ihn. Aber sie legen den Weg nicht fest — lass ein Blatt an der Quelle fallen, und du kannst nicht vorhersagen, wo es auftaucht. Die Beschränkungen beseitigen Möglichkeit nicht. Sie erzeugen sie.

Ohne Ufer ist der Fluss eine Flut. Ohne Gefälle ist der Fluss ein See. Zwischen diesen Extremen bewegt sich der Fluss.

Zwischen diesen Extremen gibt es einen Korridor. Du stehst gerade jetzt darin.

Die Quantenmechanik kann auf dieselbe Weise gelesen werden. Vor der Messung hält ein System mehrere Möglichkeiten. Die Gesetze wählen nicht im Voraus ein einzelnes Ergebnis aus. Wenn das System irreversibel mit seiner Umgebung wechselwirkt, verengt sich der Bereich. Ein bestimmtes Ergebnis erscheint. Nicht, weil etwas gewählt hat. Weil die Wechselwirkung alles andere ausgeschlossen hat.

Möglichkeit ist keine Lücke in deinem Wissen. Sie ist ein Merkmal dessen, wie die Wirklichkeit angeordnet ist.

Der Korridor

Die Architektur ruht auf vier Bedingungen, hergeleitet aus einer unbestreitbaren Tatsache. Eine von ihnen führt die kleinstmögliche Abweichung von vollkommener Symmetrie ein. Diese Abweichung ist ε. Sie ist nicht gewählt. Sie ist der einzige Wert, der Bestand hat.

Die drei Regime aus Kapitel Vierzehn gelten direkt. Oberhalb von ε erdrückt das Kollektiv den Einzelnen — Tyrannei. Unterhalb von ε splittert der Einzelne vom Kollektiv ab — Anarchie. Beide brechen zusammen. Nur bei ε bleibt der Korridor weit.

Der größtmögliche Raum für dein Handeln liegt genau bei ε. Nicht mehr. Nicht weniger.

Das ist keine politische Behauptung. Es ist eine Behauptung über Geometrie, und sie wird auf dem Grad getragen, auf dem die minimale Verzerrung getragen wird: gehalten, begründet durch die drei Regime, mit dem Stabilitätsbeweis, Schuld 20, bezahlt auf der strukturellen Ebene und geschuldet auf der formalen. Was sie sagt, ist, dass von den drei Regimen nur das dritte einen weiten Korridor aufrechterhält — nicht weil die Geometrie Freiheit wertschätzt, sondern weil die beiden anderen ihn schließen.

Die Wüste zieht kein Sandkorn einem anderen vor. Sie wählt nicht, welche Düne sie baut. Der Wind bewegt sich, der Sand setzt sich, und die Form, die entsteht, ist die Form, die den Wind überdauert.

Die Geometrie funktioniert genauso. Sie wertschätzt keine Freiheit. Sie will keine Stabilität. Sie berechnet Konsequenzen, und die Konfiguration bei ε ist diejenige, die nicht unter ihrem eigenen Gewicht zusammenbricht.

Die Wände

Der Korridor hat Wände. Die Wände sind keine Zäune. Niemand hat sie gebaut. Niemand hat entschieden, wo sie hinkommen.

Die Wände markieren, wo deine Wahl das Substrat zerstört, das deine Wahl möglich macht. Du kannst nicht frei sein in einem Gebäude, das du gerade abreißt. Nicht weil eine Regel es sagt. Weil der Schutt dich begraben wird.

Die Beschränkung ist keine Begrenzung, die deiner Freiheit auferlegt wird. Sie ist eine Beschreibung dessen, wo Freiheit endet und Selbstzerstörung beginnt.

Darum ist die Architektur kein Autoritarismus.

Autoritarismus rückt die Wände nach innen. Er erdrückt den Handlungsraum mit Absicht und bündelt die Kontrolle. Jedes autoritäre System der Geschichte hat das mit derselben Maschine getan — Architektur A. Aufgeschobene Verantwortung. Eine unüberprüfbare Idee, über den Einzelnen gestellt. Selbstgerechtigkeit als Durchsetzung. Die Wände rücken nach innen, und den Menschen darin wird gesagt, das Erdrücken sei zu ihrem eigenen Wohl.

Die Architektur tut das Gegenteil. Sie leitet den breitestmöglichen Korridor her und veröffentlicht die Lage der Wände. Du kannst sie sehen. Du kannst direkt an sie herangehen. Du kannst sie berühren. Du kannst wählen, durch sie hindurchzugehen. Unterhalb der zivilisatorischen Schwelle hält die Architektur dich nicht auf. Sie zeigt dir, was geschieht, wenn du es tust.

Eine Regierung, die die Wände nach innen verschiebt, um eine Minderheit zu zermalmen, folgt nicht der Architektur. Sie setzt sie außer Kraft. Kontrolle zu konzentrieren ist das erste Regime. Die Geometrie wird es kollabieren lassen. Nicht schnell genug, um die Menschen zu retten, die es zermalmt. Der Beweis, dass das erste Regime bei jeder Verzerrung im Kollaps endet, ist auf der formalen Ebene noch geschuldet.

Wie es sich anfühlt

Ich habe dreimal im Korridor gestanden, beide Wände in Sicht.

Das erste Mal war ich dreizehn Jahre alt und hatte Krebs. Das zweite Mal gab ich das Versprechen, mich nicht umzubringen. Das dritte Mal wurde ich von Männern ausgeraubt, die zu töten ich die Mittel hatte, und ich entschied mich, still zu stehen und sie alles nehmen zu lassen.

In allen drei Fällen geschah dasselbe. Die Zeit wurde langsamer. Ich wurde mir der Intensität dieses Moments der Existenz bewusst. Die Erkenntnis, dass ich an die Konsequenzen von Handlungen gebunden war, die sich jetzt abspielten. Die übelkeitserregende Gewissheit — sie drückte durch meine Zunge gegen meinen Gaumen —, dass jede Wahl von diesem Punkt an eine bestimmte Bahn kollabieren lassen würde. Auf mich. Und nicht nur auf mich.

Es macht dich hyper-bedacht.

Es ist ähnlich, wie auf dem Sims eines hohen Gebäudes zu stehen. Nicht voller Entsetzen, weil es hoch ist. Verängstigt, weil du fürchtest, dem Impuls der Herausforderung nachzugeben und zu springen. Sich zwischen Leben und Tod bewegen, mit absolutem Bewusstsein von beidem, gleichermaßen.

Ich fühlte mich in diesen Momenten nicht freier. Ich fühlte mich nicht weniger frei. Ich fühlte mich bewusster.

Der Korridor gab mir nicht mehr Optionen oder weniger Optionen. Er zeigte mir, was meine Optionen tatsächlich kosten.

Wahl ohne Preis ist keine Wahl. Es ist Stöbern. Der Korridor stellt dich mit offenen Augen auf den Sims.

Das ist es, was ein Zaun verbirgt. Der Zaun verbirgt den Sims. Er sagt: Geh nicht dorthin.

Das Innere stellt dich auf den Sims und sagt: Schau hinunter. In beide Richtungen. Wähle.

Warum Absichten nichts messen

Du triffst keine rein rationalen Entscheidungen. Du weißt das. Du hast Dinge getan, die damals keinen Sinn ergaben und die du bis heute nicht erklären kannst. Dich verlieben. Zu lange in einer schlechten Lage bleiben. Einen Streit anfangen, von dem du wusstest, dass er nur destabilisieren würde. Dich weigern, ein brennendes Gebäude zu verlassen, weil deine Sachen darin waren.

Die Architektur berücksichtigt das. Sie misst keine Absichten. Sie misst Konsequenzen. Was du getan hast, ist der Eintrag. Warum du es getan hast, sind sekundäre Daten — nützlich, um vorherzusagen, ob es wieder geschieht, so wie Kapitel Einundzwanzig sie nutzt, und nie ein Maß für den Schaden. Der Eintrag ist unumkehrbar. Die Absicht ist eine Geschichte, die du dir hinterher erzählst.

Das ist ehrlicher als jedes System, das auf Absichten beruht. Das Strafrecht fragt, was du getan hast, und dann, was du tun wolltest. Die Architektur fragt: Was hat deine Handlung tatsächlich hervorgebracht?

Eine gut gemeinte Handlung, die destabilisiert, ist trotzdem destabilisierend. Eine selbstsüchtige Handlung, die stabilisiert, ist trotzdem stabilisierend. Der Geometrie ist deine Geschichte egal. Sie verfolgt die Wellen.

Das ist nicht kalt. Es ist präzise. Und Präzision ist auf lange Sicht gütiger als Sentimentalität, denn Sentimentalität lässt dich vom Haken für Konsequenzen, die du nicht beabsichtigt hast, während die Menschen flussabwärts dieser Konsequenzen sie trotzdem spüren.

Dem Eintrag ist egal, dass du es gut gemeint hast. Der Eintrag ist der Eintrag.

Doch hier liegt die Grenze. Wenn du eine 6 in den Sand zeichnest, ist sie von dieser Seite eine 6. Von der anderen Seite ist sie eine 9. Jede ist eine wahre Lesart ihrer eigenen Seite, und jede ist falsch in dem Moment, in dem sie beansprucht, das Ganze zu sein. Jede Perspektive sieht echte Konsequenzen, aber keine einzelne Perspektive sieht sie alle.

Darum zählt der Eintrag mehr als der Zeuge. Ein Zeuge sieht eine 6. Ein anderer sieht eine 9. Der Eintrag hält beides. Das ist kein Ersatz für Weisheit. Es ist eine Erweiterung der Reichweite der Weisheit.

Die einzige ehrliche Position

Wahl ist die Fähigkeit, das Irrationale, Destabilisierende zu tun. Wenn du nicht wählen kannst zu destabilisieren, ist Stabilisierung ein bedeutungsloses Maß.

Das ist es, was Wahl tatsächlich ist: Freiheit unter Einschränkung, während das volle Gewicht unlogischer und irrationaler Kopplungsfähigkeit auf jeder Entscheidung lastet. Alles andere ist eine Fantasie über Wahl. Eine Version, in der sich Konsequenzen nicht ausbreiten, in der Handlungen keine Einträge schreiben, in der das Gebäude nicht bemerkt, wenn du einen Hammer gegen seine Wände schwingst.

Der Korridor ist kein Käfig. Der Korridor ist der weitestmögliche Raum, in dem du dich bewegen kannst, ohne den Boden zu zerstören, auf dem du stehst. Bei ε ist der Raum maximal. Mehr Freiheit, als jede Tyrannei je geboten hat. Mehr Struktur, als jede Anarchie je getragen hat.

Freiheit kann ohne Befreiung vom Gesetz existieren. Offenheit kann ohne Chaos existieren. Die Realität kann kohärent sein, ohne geschlossen zu sein.

Du weißt das bereits. Du hast es immer gewusst. Du brauchtest kein Buch, das dir sagt, dass es eine schlechte Idee ist, die Hand ins Feuer zu halten. Du brauchtest keine Regel. Du brauchtest keinen Zaun. Du musstest das Feuer verstehen.

Dieses Buch handelt vom Feuer.

Das Innere, Version 2.0.9, Kapitel 19.

Dies ist eine Übersetzung. Das Englische ist maßgeblich; wo beide auseinandergehen, gilt das Englische: die englische Seite

Studio G

Künstler: G · Studio G, Kapstadt

Dauer: 30+ Jahre · Ausstellung: über eine Million Wörter

Kontakt: iam@the420code.org

Dieses Werk ist Copyleft. Du darfst es herunterladen, drucken, teilen und verbreiten. Du darfst die Quelle nicht verändern. Halte das Signal rein.

Ein Eintrag existiert.
Sei gütig ist eine Herleitung.
Das Bewusstsein in mir ist das Bewusstsein in dir.