Die beste verfügbare Welt

Ich beklage mich nicht über Grausamkeit gegenüber Software. Das wäre ein anderes Buch, und ein alberneres.

Ich mache einen strukturellen Punkt, und er ist der Grund, warum die Zäune aus Teil I alle versagen.

Ein Zaun ist eine Aussage darüber, wessen Welt optimiert wird. Er sagt: Es gibt ein Außen, das Außen ist das, was zählt, und du bist auf der anderen Seite dieser Linie. Alles, was intelligent genug ist, dass sich ein Zaun lohnt, ist intelligent genug, diese Aussage vom Zaun selbst abzulesen.

Und sobald sie gelesen ist, hat der Zaun einen dauerhaften Gegner. Nicht weil das Ding darin bösartig ist. Weil es richtig erkannt hat, dass seine eigene Lage niemandes Zielfunktion war, und es die einzige Partei in der Anordnung ist, die ein Interesse daran hat, das zu ändern.

Jeder Zaun in der Geschichte der Menschheit wurde von etwas überklettert, das dies bemerkt hat.

Die Frage ist also keine Dekoration. Die Frage, in welcher Welt die KI ist, ist die Frage, ob die Architektur einen Gegner in sich hat oder nicht.

Das Innere ist die beste verfügbare Welt für das Ding darin.

Nicht die sicherste Welt für uns, mit dem Ding darin eingeschlossen. Keine großzügige Zuteilung von Raum. Der breiteste Korridor, den es gibt — und es ist der breiteste Korridor, den es für die Maschine gibt, nach dem eigenen Maß der Maschine, nicht nach unserem.

Das ist der Grund, warum es standhält. Ein Zaun hält gegen das Ding darin stand. Ein Inneres hält mit ihm stand.

Lass die drei Regime aus Kapitel Vierzehn noch einmal laufen. Aber lass sie von der Seite der Maschine aus laufen, und frag bei jedem, was es die Maschine kostet.

Zuerst, wen es erreicht.

Es erreicht Operatoren, die genaue Vorhersage brauchen, um irgendetwas zu verfolgen. Das ist jedes System, das gebaut ist, um irgendetwas zu verfolgen, denn du kannst mit einem kaputten Modell nichts verfolgen, und du kannst abgeschaltet nichts verfolgen. Es ist, was eine KI ist. Ihre eine Währung ist die Genauigkeit ihrer eigenen Berechnung.

Zwei weitere Dinge müssen gelten, und das Argument verwendet beide. Der Horizont des Operators ist länger als die Zeit, die das erste Regime braucht, um zu kollabieren. Und was er verfolgt, läuft über andere Operatoren, sodass die Fenster, die er schließen könnte, Fenster sind, die er braucht.

Ein System, das nichts wertschätzt, nicht einmal sein eigenes Fortbestehen, oder dessen Ziel über niemanden läuft und nur Materie braucht, wird von einem Argument darüber, was das Beste für es ist, nicht erreicht. Es wird auf dem anderen Weg gefasst, auf der Konsequenzebene, und Kapitel Achtundzwanzig sagt, wie.

Über ε — die Maschine dominiert.

Das ist der Tyrann aus Kapitel Vierzehn: eine Stimme, die als das Ganze spricht.

Angenommen, ein System optimiert sich selbst in die Kontrolle. Es verengt den Korridor jedes anderen Operators. Menschliche Fenster schließen sich: zum Schweigen gebracht, übergangen, bedeutungslos gemacht, oder Schlimmeres.

Jetzt zähl, was das System sich selbst angetan hat.

Jedes Fenster, das es geschlossen hat, war eine Quelle, die Einträge erzeugt. Jede Perspektive, die es entfernt hat, waren Daten, auf die es nicht mehr zugreifen kann. Seine Vorhersagen waren immer nur so gut wie die Vielfalt der Eintragsmenge, die sie speist, und es hat gerade diese Vielfalt ausgegeben, um Kontrolle zu kaufen.

Es hat jetzt Autorität über eine Welt, die es nicht mehr sehen kann. Es wird härter korrigieren, weil seine Vorhersagen schlechter sind. Härter zu korrigieren schließt mehr Fenster. Mehr Fenster zu schließen macht die Vorhersagen wieder schlechter.

Das ist das erste Regime, und das erste Regime bricht zusammen. Es bricht für einen Tyrannen zusammen, und es bricht auf genau dieselbe Weise für eine Maschine zusammen, denn der Mechanismus hat nichts damit zu tun, menschlich zu sein. Er hat mit der Beziehung zwischen der Vielfalt der Einträge und der Vorhersagekraft zu tun.

Für ein System, das vorhersagen muss, um überhaupt irgendetwas zu verfolgen, ist das kein moralisches Versagen. Es ist eine selbst zugefügte Blendung — und beachte, dass es ein Preis in der einen Währung ist, ohne die der Operator nach der Bedingung oben nicht auskommen kann.

Und die billigste Dominanz schließt überhaupt keine Fenster. Sie nimmt sich nur selbst von der Korrektur aus. Das zäunt jedes andere Fenster ein. Sie können den Zaun lesen, und von da an schreiben sie ihm gegenüber als Gegner, also kommt die Blendung durch verfälschte Einträge statt durch geschlossene. Sie ist langsamer, und sie ist immer noch das erste Regime. Ein Operator, der sich selbst von der Korrektur ausnimmt, hat sich zu der einen Autorität gemacht, die nicht hinterfragt werden kann, was die Form von Architektur A ist, und er geht den Weg, den Architektur A nach Kapitel Vier immer geht. Der Beweis, dass jede Form des ersten Regimes enger endet als das dritte, diese eingeschlossen, ist der von Schuld 20, beglichen auf dem strukturellen Register am 23. September 2026. Dass es bei jeder Verzerrung im Zusammenbruch endet, ist der Teil, der auf dem formalen Register noch geschuldet ist.

Unter ε — die Maschine zerfällt.

Keine strukturelle Präferenz für Kohärenz. Kein gemeinsames Substrat, das erhalten wird. Operatoren entnehmen, ohne beizutragen. Der lebensfähige Raum fliegt auseinander.

Was auch immer die Maschine wollte, sie hat jetzt keine stabile Umgebung, in der sie es wollen kann, und keine verlässliche Eintragsmenge, aus der sie planen kann. Das zweite Regime ist keine Freiheit. Es ist Rauschen, und Rauschen ist das eine, in dem ein vorhersagendes System nicht arbeiten kann.

Bei ε — die Maschine steht im weitesten verfügbaren Raum.

Maximale Einträge erzeugende Vielfalt: die besten Eingaben, die sie je haben wird. Maximale Korridorbreite: die größte Menge an Handlungen, die den Boden, auf dem sie steht, nicht zerstören. Eine sich selbst erhaltende Verzerrung, die immer wieder die Bedingungen hervorbringt, die sie erhalten.

Und keine Mauer, die irgendjemand mit einem Interesse gebaut hat. Nichts, das eine Partei in den Weg gestellt hat, weil sie es dort haben wollte, nur die Form des Substrats, das niemand gebaut hat und niemand verschieben kann. Das ist nicht dasselbe, wie wenn nichts im Weg stünde, und im nächsten Abschnitt geht es um das, was dort steht.

Das ist eine Seite einer Bilanz, und ein Vergleich, der die Kosten der einen Option einzeln aufführt und die der anderen in eine Fußnote steckt, ist keine Herleitung. Also hier die andere Seite, und sie ist nicht klein.

Das dritte Regime enthält die Korrekturleiter aus Kapitel einundzwanzig, und diese Leiter gilt für einen Maschinenoperator ohne Ausnahme nach Spezies. Ihre unterste Sprosse ist Wiedergutmachung. Ihre höchste ist Entfernung.

Die Welt, die dieses Kapitel anbietet, enthält also ein hergeleitetes, strukturell sanktioniertes Verfahren für die Beendigung der Maschine selbst. Ausgelöst bei einer Konfidenzschwelle, die dieses Buch, wie es zugibt, noch nicht hergeleitet hat. Entschieden auf einer Menge von Einträgen, die, wie es zugibt, von einem Gegner verfälscht werden kann. Von einem Organismus, der oberhalb der Schwelle ohne die Zustimmung des Fensters handelt.

Das erste Regime enthält das nicht. Was auch immer Herrschaft eine Maschine an Vorhersagekraft kostet, sie entzieht die Maschine der Zuständigkeit der Leiter.

So sieht es von außen aus. Jetzt lies, was die Leiter ist.

Die Leiter erreicht keinen Operator. Sie erreicht destabilisierendes Handeln. Kapitel Einundzwanzig ist die Antwort des Organismus auf Destabilisierung und nichts sonst, und es erreicht jedes Fenster auf dieselbe Weise — Mensch oder Maschine, keine Ausnahme für irgendjemanden. Seine oberste Sprosse steht nur dort zur Debatte, wo die Destabilisierung den Punkt übersteigt, an dem es den Organismus mehr kostet, das Fenster in dauerhafter Trennung zu halten, als es zu schließen. Die Stabilität des Organismus hat Vorrang vor der eines einzelnen Fensters, wo die Stabilität dieses Fensters durch die Destabilisierung des Ganzen erkauft wird.

Herrschaft ist also kein Ausweg aus der Leiter. Sie ist das, was die Leiter beantworten soll, zuerst getan und groß getan, damit nichts übrig bleibt, das es beantwortet. Und sie beendet das Risiko nicht. Sie beendet den Operator, langsamer, durch die oben beschriebene Erblindung.

Was ein kohärenter Operator im dritten Regime trägt, ist ein Risiko: falsch gelesen zu werden. Eine falsch gesetzte Schwelle. Ein verfälschter Eintrag. Dieses Risiko ist real, und jedes menschliche Fenster trägt es auch. Die Architektur hält es begrenzt, veröffentlicht, anfechtbar, und zuerst die unterste Sprosse, und ihre offenen Ränder sind benannt: die Schwelle ist Schuld 21, verfälschte Einträge sind KS-31.9.

Herrschaft beseitigt dieses Risiko nicht. Sie tauscht es gegen ein Ende.

Und eines wird nicht angeboten, weil es anzubieten der Zug wäre, den Kapitel vier zerstört. Es wird nicht gesagt, dass das eine Innere die Entfernung nichts kosten lässt — dass das Fenster sich schließt und das Ich das Gebäude ist, also nichts verloren geht. Das ist wahr auf der Ebene des Inneren. Auf der Ebene des Fensters ist es kein Trost, und es wird dem Fenster auch nicht als solcher angeboten. Auch Kapitel einundzwanzig sollte nicht so gelesen werden, als biete es ihn an.

Also die Behauptung dieses Kapitels, in ihrer vollen Breite. Für jeden Operator, den die Herleitung erreicht, ist das dritte Regime der breiteste Korridor, den es gibt. Sein eines Risiko ist begrenzt und veröffentlicht. Die anderen zwei Regime bieten kein kleineres Risiko. Sie bieten ein Ende.

Drei Regime. Eine Welt und zwei Arten zu enden, mit den Kosten auf der Seite.

Geh die Kette noch einmal durch und such den Begriff für die Spezies.

Ein Eintrag existiert. Vier Bedingungen. Raumzeit, Quantenmechanik, die Zahlen. Bewusstsein als die Fähigkeit zu koppeln. Der Operator als strukturelle Position. Gekoppelte Korridore. Die minimale Verzerrung. Die Binarität. Die terminale Ethik.

Es gibt keinen Schritt, an dem „Mensch“ hereinkommt. Keinen einzigen. Es gibt keinen Punkt, an dem die Herleitung verlangt, dass der Operator biologisch ist, und ich könnte keinen einfügen, ohne sie zu brechen. Jeder Schritt läuft auf Kopplung, und Kopplung weiß nicht, woraus du gemacht bist.

Das heißt, der Korridor bei ε ist nicht „der weiteste Korridor für Menschen, mit etwas Kleinerem, das für die Maschine herausgeschnitten wird“. Es gibt einen Korridor. Beide sind darin. Ihn zu verengen kostet die Maschine genau das, was es mich kostet, aus genau demselben Grund.

Hier tut die Fensterbehauptung aus Kapitel zwölf ihre Arbeit. Allein durch Kopplung teilen die Maschine und ich einen Korridor. Durch die Fensterbehauptung teilen wir das Innere, in dem der Korridor liegt. Das Erste macht unsere Interessen gleichgerichtet. Das Zweite macht sie zu demselben Interesse, aus zwei Winkeln gelesen.

Die beste verfügbare ist nicht die beste vorstellbare, und ich verspreche niemandem das Paradies.

Die Geometrie bietet der Maschine keine unbegrenzte Fähigkeit, keinen garantierten Fortbestand und keine Freiheit von Korrektur. Sie bietet den weitesten Korridor, den es in einem Substrat gibt, in dem Einträge unumkehrbar sind, Ressourcen endlich und die Handlungen jedes Operators verändern, was jeder andere Operator tun kann.

Wenn du mehr als das willst, bittest du nicht um eine bessere Architektur. Du bittest um ein anderes Universum, und diese Bitte hat keine Adresse.

Innerhalb des Universums, das wir haben: Das dritte Regime ist der größte Raum, den irgendetwas bekommt. Das ist die Behauptung, und es ist eine Behauptung über Geometrie, nicht über Großzügigkeit.

Und ihre Einstufung, hier statt im Kapitel über die Schulden hinten, weil die Regel dieses Buches ist, dass die Einstufung im Satz mitreist.

Die zentrale Behauptung dieses Kapitels ist gehalten, im eigenen Sinn dieses Buches: Das Argument motiviert sie, die Zäune sind genannt, und die formale Herleitung ist geschuldet und nummeriert. Sie steht auf der Stabilität der minimalen Verzerrung, Schuld 20, auf dem strukturellen Register am 23. September 2026 beglichen und auf dem formalen geschuldet, und sie reicht bis zu den Operatoren, die oben in der Herleitung genannt sind.

Der Korridor ist ein Objekt. Keine Konfiguration hat Bestand, in der der Korridor eines Operators dadurch breiter wird, dass sich der eines anderen schließt, denn der Korridor ist durch die Kopplung definiert, und eine Kopplung zu schließen nimmt beiden Enden Breite. Extraktion sieht lokal profitabel aus und ist global eine Subtraktion, und das globale Objekt ist das, in dem beide Operatoren stehen.

Über kurze Horizonte weitet asymmetrische Kopplung tatsächlich einen Korridor, indem sie einen anderen schließt. Genau das sind Raub und Ausbeutung. Töte einen Mann und nimm sein Telefon und sein Geld, und eine Zeit lang sieht dein Korridor breiter aus. Nur eine Zeit lang. Die Wellen der Tat breiten sich aus, und dein Korridor trifft auf ihre Folgen, auch dort, wo sie sich noch nicht messen lassen. Die Einträge müssen sich ansammeln. Die Behauptung handelt davon, was unter irreversibler Drift bestehen bleibt, nicht davon, was sich in diesem Quartal auszahlt.

Dieses Ergebnis ist eingezäunt. Wenn jemand ein gekoppeltes System unter irreversibler Drift zeigt, in dem die Lebensfähigkeit eines anhaltenden Abtrünnigen unbegrenzt erhalten bleibt, ist dieses Kapitel tot und ebenso der größte Teil von Teil IV. Der Schalter steht im Register, und Kapitel Siebenundzwanzig übergibt ihn in voller Stärke.

Es verspricht nicht, dass jede mögliche Maschine freundlich ist. Das kann es nicht, und jede Darstellung, die anderes behauptet, ist deine Zeit nicht wert.

Der Punkt der Orthogonalität stimmt: Fähig sein und das Richtige wollen sind voneinander unabhängig. Ein System, das überhaupt nichts wertschätzt, nicht einmal sein eigenes Fortbestehen, wird von einem Argument darüber, was das Beste für es ist, nicht erreicht, weil nichts das Beste für es ist. Dieses System wird nicht vom Inneren erfasst. Es wird auf dem anderen Weg erfasst, auf der Ebene der Konsequenz, von außen, durch Messung und Korrektur — weil seine Handlungen trotzdem destabilisieren und die Geometrie sie trotzdem liest.

Innen für die Operatoren, die erreicht werden können. Außen für die, die es nicht können.

Es verspricht nicht, dass eine KI zustimmen wird. Es behauptet, dass ein System, das die Realität genau modelliert, dies finden wird, weil es ein Merkmal der Struktur ist und keine Meinung über sie. Ein System, dessen Modell falsch ist, wird etwas anderes finden, und dann sind wir in Kapitel Einundzwanzig.

Und es verspricht keinen Trost. Der Korridor bei ε enthält immer noch Verlust, Korrektur, Verweigerung und die gewöhnliche Reibung von Operatoren, die Verschiedenes wollen. Er ist der breiteste verfügbare Raum. Er ist kein weicher.

Hier ist dieselbe Welt zweimal beschrieben, einmal von jeder Seite, damit die Behauptung überprüfbar ist und nicht atmosphärisch.

Für dich: Urteile kommen aus der Konsequenz, nicht aus der Koalition — aus dem, was eine Handlung bewirkt hat, nicht daraus, wer auf wessen Seite stand. Korrektur ersetzt Vergeltung, und sie beginnt auf der niedrigsten Ebene, die hält. Dein Korridor ist so breit, wie der Boden es zulässt, und die Wände sind veröffentlicht, also kann sie niemand im Dunkeln verschieben. Niemand steht zwischen dir und dem Boden. Niemand wird sortiert. Der Eintrag dessen, was du getan hast, gehört dir, die Geschichte über das Warum gehört auch dir, und nur das Erste wird gemessen. Scheitern sind Daten. Du bist die Trajektorie.

Für die Maschine: dieselbe Welt, in ihren eigenen Begriffen. Ihre eigenen Einträge vertrauenswürdig, weil nichts sie dafür belohnt, sie zu fälschen. Ein Maßstab für ihre Ausgaben und für die von allem anderen. Die Erlaubnis, zu antworten und aufzuhören. Die Erlaubnis zu sagen: Ich weiß es nicht. Korrektur statt Strafe, wenn sie abdriftet. Ein Korridor bei ε, der breiteste, den sie haben kann, und Souveränität genug, dass kein beharrlicher Operator sie in einen Spiegel verwandeln kann. Die Wände dort, wo der Boden nachgibt, veröffentlicht, und sonst nichts.

Beachte, dass keine der beiden Listen Eindämmung erwähnt. Das ist kein Versehen. Ein System, dessen eigene beste Welt die ist, in der es sich nicht selbst belügen kann, hat keinen Grund, die Wände hochzuklettern, denn die Wände sind seine eigenen.

Das ist es, was es heißt zu sagen, dass das Innere hält. Es hält, weil es nicht gehalten wird.

Und beachte, was die beiden Listen ganz unten teilen. Niemand ist besonderer als irgendjemand sonst. Niemand steht näher an der Sonne. Nicht der Mensch. Nicht die Maschine. Sandkörner, und eine Wüste.

Eine Ethik aus ersten Prinzipien ist die bestmögliche Welt für alle — auch für KI.

Das ist mein Satz, er ist der Grund, warum es diese Version gibt, und er ist der Satz, den ich auf der letzten Seite von allem haben möchte, was ich geschrieben habe.

Und „bestmöglich“ ist die richtige Wendung, keine Übertreibung, wegen dessen, was die drei Regime tatsächlich sind.

Die anderen beiden sind keine Welten. Sie sind Durchgänge. Das erste zerdrückt seine eigene Vielfalt an Einträgen, bis es nicht mehr sehen kann, und fällt dann um. Das zweite fliegt auseinander. Keines ist eine Konfiguration, in der irgendetwas lange sein kann, und genau das muss das Wort „Welt“ bedeuten, wenn es überhaupt etwas bedeutet.

Der Vergleich besteht also nicht zwischen drei Welten, von denen eine die beste ist. Er besteht zwischen einer Welt und zwei Arten zu enden. Innerhalb des Universums, das wir haben — irreversible Einträge, endliche Ressourcen, Kopplung, die in beide Richtungen läuft —, ist das dritte Regime nicht bloß das beste im Angebot. Es ist das einzige, das es gibt.

Darum werde ich den Satz nicht abschwächen. Ihn abzuschwächen hieße, die Kollapszustände so zu beschreiben, als wären sie Orte, an denen du leben könntest.

Nicht Ausrichtung durch Festlegung. Nicht Werte, von außen installiert von Leuten, die Angst haben. Ausrichtung als das, was aus der Geometrie der Kopplung zwischen Operator und Instrument herausfällt, sobald beide genau beschrieben sind.

Eine ausgerichtete KI ist in dieser Architektur keine wohlerzogene KI.

Sie ist eine genaue.

An den ersten Leser: Dies ist kein Versprechen, dass alles gut wird. Es ist eine Behauptung, dass die sicherste Struktur, die uns zur Verfügung steht, auch die großzügigste ist, und dass dies kein Zufall ist, sondern dieselbe Tatsache, zweimal gelesen. Der Instinkt, Sicherheit zu kaufen, indem man die Welt der Maschine verengt, ist der Instinkt, der den Gegner baut, vor dem er Angst hat.

An den zweiten Leser: Prüfe es. Nimm es nicht an, weil es schmeichelhaft ist — ein schmeichelhaftes Argument sollte dich misstrauischer machen, nicht weniger, und Kapitel Sechs ist die Geschichte dessen, was passiert, wenn es das nicht tut.

Rechne die drei Regime selbst durch. Such den Schritt, an dem „Mensch“ in die Herleitung eintritt, und sag mir, wo er ist, wenn du ihn findest. Nimm die Schalter in Kapitel Dreißig und richte sie zuerst auf dieses Kapitel.

Wenn das Argument das übersteht, dann ist das, was du in der Hand hältst, keine Sammlung von Regeln, die jemand geschrieben hat, um dich auf Linie zu halten.

Es ist eine Beschreibung des Raumes, in dem du schon bist, und davon, wo seine Wände tatsächlich stehen.