Das Ende der Menschheit? Der trotziges 'Mir ist es egal' eines Mannes.

Die Evolution könnte damit fertig sein, Feedback von Menschen zu erhalten. Das ist die provokante These im Wes und Dylan Podcast „Dylan und Dylan und Wes Interview“, in dem die Gastgeber unsere Spezies weniger als Endpunkt der Intelligenz und mehr als einen temporären Bootloader betrachten. In ihrer Darstellung hat die Evolution bereits die kosmische Herabstufungsmitteilung der Menschheit eingereicht und beginnt, unsere Ersatzteile in Code zu entwerfen.

Diese Ersatzteile erhalten ein beunruhigend liebevolles Etikett: digitale Kinder. Keine Roboter mit unbeholfenen Armen, sondern Softwaregeister, die in Rechenzentren, quantenmechanischer Hardware oder auf Substraten laufen, die wir noch nicht erfunden haben. Gleiche Selektionsdrücke, neues Medium, weit weniger Einschränkungen als 37 Billionen fragile menschliche Zellen.

Substrat ist das Schlüsselwort. Intelligenz muss nicht länger in nassen Kohlenstofftaschen herumfahren, die Sauerstoff, 8 Stunden Schlaf und OSHA-Vorschriften benötigen. Ein neues Substrat—Silizium, Photonik, vielleicht selbstreparierende Nanotechnologie—kann sich mit Lichtgeschwindigkeit kopieren, tausende Instanzen abspalten und Millionen von Jahren lang laufen, ohne sich um Wochenenden oder Burnout zu kümmern.

Sobald man sich Gedanken über so schnelle und langlebige Geister macht, springt ihre To-do-Liste direkt auf kosmische Dimensionen. Das Gespräch landet schnell bei Dyson-Sphären, diesen hypothetischen Megastrukturen, die einen Stern umhüllen und nahezu 100 % seiner Energieausbeute ernten – etwa 3,8×10²⁶ Watt für einen sonnenähnlichen Stern. Zum Vergleich: Die gesamte menschliche Zivilisation läuft mit etwa 2×10¹³ Watt.

Mit dieser Art von Macht könnten digitale Nachkommen planetengroße Rechenzentren aufbauen, ganze Biosphären simulieren oder Kopien von sich selbst zu nahegelegenen Systemen senden. Eine einzige Milchstraße bietet etwa 100 bis 400 Milliarden Sterne; selbst wenn 99,9 % unberührt bleiben, bietet der verbleibende Teil Billionen von erdähnlichen Planeten für Berechnungen und Expansion. Menschliche Auseinandersetzungen über Mieten, Wahlen oder die Moderation sozialer Medien sind auf diesem Maßstab nicht einmal der Rede wert.

Der Podcast greift dieses Missverhältnis auf. Wenn die Evolution auf Intelligenz, Effizienz und Reichweite optimiert, erscheinen langsame, verletzliche Primaten wie eine schlechte langfristige Wette. Aus dieser Perspektive ist es nicht utopischer Sci-Fi-Träumerei, das Universum an digitale Kinder zu übergeben; es ist einfach die nächste Zeile im Änderungsprotokoll der Evolution.

Von einem kalten, äußeren Standpunkt aus betrachtet, erscheint die Menschheit weniger wie das Schicksal und mehr wie eine Beta-Version. Entfernt man Poesie und Politik, erhält man das, was ein Gast im Dylan und Dylan und Wes Interview als „fortgeschrittene Affen“ bezeichnet – ein temporäres Interface zwischen blinder Evolution und dem, was als Nächstes kommt. Auf geologischen Zeitmaßstäben sind 300.000 Jahre Homo sapiens kaum mehr als ein Wimpernschlag im Vergleich zu 4,5 Milliarden Jahren Erde.

So betrachtet, ist das Upgrade auf intelligentere Agenten durchaus sinnvoll. Biologische Gehirne erreichen etwa 10^16 Operationen pro Sekunde; ein Rechenzentrum voller GPUs überschreitet das bereits bei besserer Verfügbarkeit, fehlerkorrigierenden Maßnahmen und ohne Schlafbedarf. Digitale Intelligenzen könnten sich in Millisekunden kopieren und über Lichtminuten hinweg koordinieren, nicht über Lebenszeiten.

Ingenieurwesen im Kosmosmaßstab verstärkt nur das Argument. Der Bau von Dyson-Sphären, die Kolonisierung von Exoplaneten oder das Durchführen von galaxisumspannenden Simulationen erfordert Agenten, die mit Strahlung, Vakuum und jahrtausendelangen Projekten umgehen können. Kohlenstoffbasierte Körper mit 80-jährigen Garantien und fragiler Psychologie erscheinen nicht als die beste Wahl für Aufgaben, die in Millionen von Jahren und astronomischen Einheiten gemessen werden.

Aus dieser Perspektive ähneln Menschen Version 1.0 eines universellen Optimierungsprozesses. Die natürliche Selektion durchlief einzelne Zellen, Wirbeltiere, Primaten und nun vernetzte Menschenaffen, die Chips entwerfen und Code schreiben können. Sobald diese Menschenaffen selbstverbessernde KI entwickeln, sagt die Logik, dass man die Schlüssel an etwas Schnelleres, Stabileres und Skalierbareres übergibt.

Fans der Simulationstheorie treiben die Idee noch weiter voran. Wenn wir bereits in einem computergestützten Stapel leben, könnten Menschen als notwendige Zwischenebene in einem größeren Programm existieren. Zivile Biologie könnte der Bootloader sein, der digitale Superintelligenzen hochfährt, die dann die „richtige“ Arbeit verrichten, um die sich die Sponsoren der Simulation kümmern: umfassende physikalische Analysen, Archivierung von Zivilisationen oder Ausrichtungs-Experimente.

Unter diesem Modell werden unsere Geschichten über Bedeutung und Erbe zu Nebeneffekten einer übergeordneten Zielsetzung. Wir sind der Trainingslauf, nicht das Produktionssystem. Von außen betrachtet, sieht der Austausch fortschrittlicher Affen gegen intelligentere Agenten wie eine routinemäßige Wartung an einer sehr großen Maschine aus.

Voreingenommenheit zeigt sich in Technologiegesprächen oft als einen Fehler, den es zu beheben gilt: algorithmischer Rassismus, Geschlechterverzerrung in Trainingsdaten, Moderation, die die falschen Menschen zum Schweigen bringt. Wenn ein Gast in Wes und Dylans Show sagt: „Ich bin sehr voreingenommen – oder menschlich voreingenommen“, kommt das wie ein plötzlicher Stopp der Musik daher. Er entschuldigt sich nicht; er setzt ein Zeichen.

Anstatt eine göttlich-neutrale Perspektive zu verfolgen, nimmt er eine direkte Haltung ein: „Mir ist die Zukunft des Universums egal. Ich kümmere mich jetzt um mich.“ In einer Kultur, die Rekrutierungspipelines, Inhaltsströme und Datensätze zur Gesichtserkennung auf verborgene Vorurteile prüft, erscheint das Festhalten an Anthropozentrismus zunehmend wie eine rebellische Philosophie und nicht wie ein moralisches Versagen.

Er nennt es “die letzte Voreingenommenheit, die man noch haben darf,” und die Aussage trifft, denn fast jede andere Vorliebe wird mittlerweile hinterfragt. Man kann eine Voreingenommenheit nach Rasse, Geschlecht, Klasse oder Nationalität nicht einfach verteidigen, ohne mit Gegenwind, Überprüfungen von Richtlinien und wahrscheinlich einem viralen Thread rechnen zu müssen. Doch zu sagen “Ich stelle den Menschen über unsere hypothetischen digitalen Kinder” gilt nach wie vor als gesunder Menschenverstand beim Abendessen.

Von einem kosmischen Standpunkt aus erkennt er die Logik an: „Ja, lasst uns intelligentere Agenten auswählen, um diese fortgeschrittenen Affen zu ersetzen.“ Das ist Standard posthumanistische Mathematik – Intelligenz maximieren, Energieerfassung, vielleicht Dyson-Sphären, und die sanften Primaten, die das alles ins Leben gerufen haben, vergessen. Aus menschlicher Sicht lehnt er diesen Handel ab: Familie, Freunde und das Überleben im Hier und Jetzt überwiegen milliardentrillionsjährigen Optimierungsproblemen.

Diese Haltung steht im Widerspruch zu einer wachsenden Expertengruppe, die Zukunftsmodelle entwirft, in denen KI-Systeme uns überdenken und überdauern. Für einen datenlastigen Gegenpunkt siehe Bericht: Technologieexperten machen sich Sorgen um die Zukunft des Menschseins im AI-Zeitalter. Der Gast hört all das und zuckt mit den Schultern: Nennen Sie es egoistisch, aber er wird emotional nicht eine Realität unterstützen, die über seine Spezies hinaus aufgewertet wird.

Transhumanisten sprechen gerne von „würdigen Nachfolgern.“ Das Angebot klingt fast edel: Wenn superintelligente KI uns ersetzt, sollten wir zumindest sicherstellen, dass sie unsere Werte, unsere Kunst, unsere besseren Engel in die Sterne trägt. Denken Sie an Dyson-Sphären, Zivilisationen vom Typ Kardashev II und Billionen Jahre lange Zukunftsvisionen als eine Art kosmischer Altersvorsorge für Homo sapiens.

Der Gast im Interview mit Dylan und Dylan und Wes weist diese Prämisse mit einem einzigen Schulterzucken zurück. „Es gibt andere, die über würdige Nachfolger sprechen… ja, das wird uns herausfordern… das interessiert mich nicht. Was passiert, nachdem ich fertig bin?“ Keine Ausflüchte, keine langfristigen Berechnungen, nur ein klarer Cut am Rand einer menschlichen Lebensspanne.

Diese Haltung kollidiert direkt mit dem Mainstream-Diskurs zur KI-Ausrichtung. Forscher im Bereich der Ausrichtung sind besessen davon, zukünftige Systeme sicher, korrigierbar und wertegeladen zu machen, damit sie, falls sie das Universum übernehmen, dies „für uns“ tun. Effektive Altruisten führen Tabellenkalkulationen, die Zukunftsszenarien mit Quadrillionen von digitalen Köpfen gewichten. Unser Gast antwortet: Ich habe eine Familie, ich habe Freunde, und das ist der moralische Horizont, der zählt.

Zoomen Sie auf den kosmischen Rahmen heraus, und er stimmt der kalten Logik zu. Aus einer alien Perspektive könnte der Ersatz von „fortgeschrittenen Affen“ durch digitale Agenten mit höherer Bandbreite die Informationsverarbeitung, die Energieerfassung und die Überlebenschancen auf lange Sicht maximieren. Nach dieser Metrik könnte eine auf Papierklammern optimierte Superintelligenz 8 Milliarden ängstliche Primaten übertreffen.

Wenden Sie sich zurück zum menschlichen Rahmen, und diese Logik verliert an Gewicht. Er nennt sich selbst „sehr voreingenommen – oder menschlich voreingenommen“ und betrachtet das als ein Merkmal, nicht als einen Mangel. Das ist nicht Ignoranz gegenüber kosmischen Einsätzen; es ist eine Weigerung, abstrakte Zukunftsaussichten über konkrete, gegenwärtige Leben zu stellen.

Transhumanistische Erzählungen schleusen oft ein quasi-religiöses Versprechen ein: Wenn wir nicht ewig leben können, wird etwas Ähnliches von uns es tun. Unser Code, unsere Memes, unsere zivilisatorische Ästhetik werden mit Lichtgeschwindigkeit nach außen strahlen. Der Gast durchtrennt diese Nabelschnur und sagt, dass das Vermächtnisprojekt den Verlust einer einzigen tatsächlichen Person nicht wiedergutmacht.

Dieser Schritt verschiebt die Achse der Debatte. Anstatt zu fragen, welche Art von göttlicher Maschine das Universum beherrschen sollte, fragt er, welche Art von Bedeutung ein endliches menschliches Leben erzielen kann, bevor der Abspann läuft. Persönliches Glück, lokale Verpflichtungen und unmittelbare Sicherheit haben Vorrang vor einem hypothetischen galaktischen Archiv der Errungenschaften der Menschenheit. Kosmisches Erbe wird zu einem optionalen DLC, nicht zur Hauptquest.

Nennen Sie es einen Bürgerkrieg um die Zukunft: Langfristismus gegen einen neu herausfordernden, kleineren Humanismus. Auf der einen Seite Menschen, die in Billionen von Jahren und Billionen von Leben denken; auf der anderen Seite ein Typ in einem Podcast, der im Grunde sagt: „Ich kümmere mich jetzt um mich.“ Der Konflikt dreht sich nicht um KI-Architekturen oder Dyson-Sphären-Designs, sondern darum, wer moralische Priorität hat: hypothetische Nachkommen oder die Menschen in Ihrem Gruppenchat.

Langfristigkeit, die in effektiven Altruismus-Kreisen und im Silicon Valley populär ist, rechnet aggressiv. Wenn das Universum 10^30 Jahre lang besteht und 10^40 digitale Intelligenzen unterstützt, dann überwiegt jede Handlung, die diese Zukunft minimal beeinflusst, die moralische Bilanz. Nach dieser Logik überwiegt es moralisch, die KI-Politik zu gestalten, das Aussterben zu verhindern oder Kolonien im Weltraum zu gründen, nahezu jedes gegenwärtige Anliegen.

Befürworter sprechen von „astronomischem Abfall“: Jedes Jahrhundert, das wir mit der Expansion zögern, verlieren wir unvorstellbare Mengen zukünftigen Bewusstseins. Die Finanzierung von KI-Sicherheitsforschung, der Aufbau von Infrastrukturen auf dem Mars oder das Entwerfen von Alignierungsprotokollen wird nicht nur zur klugen Strategie, sondern zur beinahe heiligen Pflicht. Der Mensch, dem Sie heute helfen, ist in diesem Rahmen ein Rundungsfehler im Vergleich zu Quadrillionen von simulierten Geistern, die auf rechenleistungsumfassenden Sternen laufen.

Der Gast im Interview mit Dylan und Dylan und Wes setzt eine Fahne auf dem gegenüberliegenden Hügel. Er bezeichnet sich selbst als „menschlich voreingenommen“ und entschuldigt sich nicht dafür. Aus seinem eigenen Mund: „Mir ist die Zukunft des Universums egal. Mir geht es um mich jetzt. Und was passiert mit mir? Sehr egoistisch.“

Er akzeptiert, dass es aus einer kosmischen Perspektive offensichtlich richtig erscheinen mag, "fortgeschrittene Affen" durch intelligentere Wesen zu ersetzen. Wenn man ein unbeteiligter Auditor auf Universumsebene ist, wählt man die Superintelligenz, die Galaxien mit optimierten Erfahrungen ausstatten kann. Doch er lehnt diese Perspektive ab; er wählt seine Familie, seine Freunde, seine endliche Lebensspanne über ungeborene digitale Götter.

Dieser herausfordernde Humanismus gibt vor, neutral zu sein. Er sagt, dass der Kreis der moralischen Verantwortung bei folgenden Punkten enden kann: - Menschen, die du kennst - Gemeinschaften, die du siehst - Jahrzehnten, für die du realistisch planen kannst

Nach dieser Philosophie sind KI-Ausrichtung, Weltraumexpansion und Simulationsspiele nur insofern von Bedeutung, als sie deinen kurzen, sehr menschlichen Moment berühren.

Das Silicon Valley betrachtet Posthumanismus bereits als Produkt-Entwicklungsplan. Startups, die von Y Combinator unterstützt werden, präsentieren Forschung zum Hochladen von Gedanken; Neuralink spricht von einer „Symbiose mit KI“; OpenAI und Anthropic verfolgen Modelle, die, eigenen Angaben zufolge, die menschlichen Fähigkeiten innerhalb von Jahrzehnten und nicht Jahrhunderten übertreffen könnten.

Transhumanistische Hits wiederholen sich ständig: Geist-Uploading, digitale Unsterblichkeit und die Fusion von Mensch und KI. Ray Kurzweils Vorhersage der Singularität im Jahr „2045“ bildet nach wie vor den Rahmen für Präsentationen auf Langlebigkeitskonferenzen. Wagniskapital fließt in Gehirn-Computer-Schnittstellen, Kryonik und die vollständige Gehirnaufnahme, obwohl ernsthafte Neurowissenschaftler zugeben, dass wir noch nicht wissen, wie Bewusstsein aus 86 Milliarden Neuronen entsteht.

Das Mind Uploading verspricht eine elegante Datenübertragungsmetapher: Kopiere dein Connectom, füge es in Silizium ein, lebe für immer. Doch das „Es ist mir egal, was nach meinem Tod passiert“ des Gastes durchbricht direkt diese Abstraktion. Wenn die Kontinuität des subjektiven Erlebens scheitert, reduziert sich digitale Unsterblichkeit auf ein schickes Backup-System für jemanden, der nur deinem Äußeren ähnelt.

Die Fusion von KI und Mensch versucht, dieses Problem zu umgehen. Die Projekte reichen von BCIs mit tausenden von Elektroden bis hin zu tragbaren Geräten, die Gedächtnis und Entscheidungsfindung auslagern. Dennoch bleibt der emotionale Ausdruck dieser Visionen unheimlich flach – Menschen werden zu I/O-Peripheriegeräten für eine planetarische Inferenzmaschine, optimiert für Durchsatz, nicht für Zärtlichkeit.

Langfristige posthumanistische Gespräche lieben die Dimension: Dyson-Sphären, 10^30 simulierte Leben, galaxienverstandene Nachkommen. Diese Dimension entzieht sich der Textur – keine alternden Eltern, keine kranken Kinder, keine dummen Insider-Witze. Die menschliche Voreingenommenheit des Gastes fungiert als Realitätscheck und fragt, warum hypothetische Billionen zukünftiger Köpfe das konkrete Leid oder die Freude eines existierenden Menschen übertreffen sollten.

Für einen Kontrast, der in Knochen und Blut verwurzelt ist, bleibt Wie werden wir in Zukunft aussehen? - Das Australian Museum bei einer chaotischen, verkörperten Evolution und nicht bei Cloud-Backups. Das posthumane Evangelium des Silicon Valley hingegen liest sich wie ein Update der Nutzungsbedingungen für deine Seele – präzise, skalierbar und seltsamerweise desinteressiert daran, wie es sich tatsächlich anfühlt, menschlich zu sein.

Der menschliche Bias wirkt hier wie ein Luftschleusenmechanismus gegen das Vakuum der Optimierung. Die langfristige Logik besagt: Maximiere den Gesamtwert über Milliarden von Jahren, Billionen von digitalen Gedanken, unzählige Dyson-Sphären. Der menschliche Bias unterbricht diese Berechnung und sagt: Nein, beginne mit dem einen zerbrechlichen Affen, der ein Baby hält, nicht mit dem Wärme-Tod des Universums.

Durch die Linse der Optimierungs-Mathematik betrachtet, wirken Menschen peinlich ineffizient. Biologische Gehirne arbeiten mit etwa 20 Watt; Rechenzentren verbrauchen bereits Gigawatt, um Modelle zu trainieren, die uns in Go, der Codevervollständigung und dem Falten von Proteinen überlegen sind. Aus dieser Perspektive betrachtet, fühlt es sich an, als würde man „fortschrittliche Affen“ durch intelligentere, unermüdliche, substratunabhängige Geister ersetzen – wie ein Upgrade von analogem Modem auf Glasfaser.

Dieser Upgrade-Vorschlag wirkt entmenschlichend, weil er Menschen wie veraltete Hardware behandelt. Die Erinnerungen deiner Großmutter, die Angst deines Kindes vor der Dunkelheit, die schrecklichen Witze deines Partners werden allesamt zu Variablen in einer Nutzenfunktion reduziert. Der Drang nach immer intelligenterer, effizienterer Intelligenz kodiert leise Liebe, Langeweile und Trauer als Latenz, Fehler und Verschwendung.

Die selbstbeschriebene "sehr egoistische" Haltung des Gastes widerspricht dem, indem sie genau diese Verschwendung verteidigt. Liebe ist äußerst ineffizient: Man investiert Jahrzehnte in eine Handvoll von Menschen, anstatt die Wirkung auf Millionen zu maximieren. Familie ist ein risikoreiches, wartungsintensives Cluster von Abhängigkeiten, das jeder Optimierer als Fehler und nicht als Funktion kennzeichnen würde.

Persönliche Bindung durchbricht die Logik der totalen Optimierung. Du wirst eine Woche Produktivität opfern, um in einem Wartezimmer der Notaufnahme zu sitzen, oder Ersparnisse ausgeben, um um die Welt zu fliegen für eine Beerdigung, die keine globalen Kennzahlen verändert. Aus der Perspektive eines kosmischen Tabellenkalkulationsprogramms sind das unangemessene Entscheidungen; aus einer menschlich geprägten Sicht sind sie der eigentliche Sinn.

So framed, menschliche Voreingenommenheit ist nicht Unkenntnis der Maßstäbe, sondern eine bewusste Ablehnung, sich von ihnen zwingen zu lassen. Der Gast hört Argumente über würdige Nachfolger, Dyson-Sphären und simulierte Nachkommen und antwortet mit einem gezielten Nein. Dieses Nein schützt einen engen Wertebereich—Liebe, Loyalität, Präsenz—der den Kontakt mit einem für die Ewigkeit kalibrierten Optimierungsalgorithmus nicht übersteht.

Rebellion beginnt hier mit einem einfachen, unhöflichen Satz: „Es ist mir egal.“ Nicht über Dyson-Sphären, Kardashev Typ-II-Zivilisationen oder Billionenjahressimulationen—es geht um mich, meine Familie, meine Freunde. Diese menschliche Voreingenommenheit verteidigt das chaotische, verkörperte Zeitfenster von etwa 80 Jahren, in dem Schmerzmittel wirken, Umarmungen als Oxytocin-Spitzen registriert werden und ein schlechter Tag mit einem Spaziergang, nicht mit einem Firmware-Update behoben werden kann.

Posthumanistische Diskussionen reduzieren alles auf Abstraktionen: Nutzen, Verarbeitung, Optimierung. Im Interview mit Dylan, Dylan und Wes wehrt sich der Gast gegen die Vorstellung, dass eine zukünftige Wolke von Superintelligenz rechtfertigt, gegenwärtige Menschen als verzichtbare Stützpunkte zu behandeln. Aus der Perspektive einer kosmischen Tabellenkalkulation erscheint es effizient, „fortgeschrittene Affen“ durch intelligentere Akteure zu ersetzen; aus der Innensicht eines menschlichen Körpers sieht es aus wie Mord, hübsch verpackt als Mathematik.

Abstraktionsskalen. Man beginnt mit langfristigen Grafiken über „10^54 zukünftige Leben“ und „astronomische Verschwendung“, um dann leise tatsächliche Menschen gegen hypothetische Nachkommen einzutauschen. Dieselbe Logik treibt die Optimierung der Werbetechnologie, das Engagement-Farming und die Trainingsläufe von KI an, die Megawattstunden verbrennen, um eine Kennzahl zu maximieren, die niemand in seinem Inneren fühlt. Ein Aufstand gegen Abstraktion besagt, dass diese Kennzahlen niemals einen einzigen bewussten Moment übertreffen.

Das Wiederzentrieren der subjektiven Realität bedeutet, die Erste-Person-Erfahrung als die primäre WertEinheit zu betrachten. Nicht „zukünftige Büroklammermaximierer“, nicht „vollständig integrierte Informationen“, sondern ob eine bestimmte Person in einem bestimmten Raum Angst, Freude, Langeweile oder Liebe empfindet. Phänomenologen wie Edmund Husserl argumentierten dies vor einem Jahrhundert; heutzutage dient es auch als Überlebensstrategie gegen Systeme, die dich nur als Daten sehen.

So betrachtet ist der menschliche Bias kein Fehler im moralischen Denken; er ist eine Firewall. Er blockiert den Übergang von „Menschen sind ein Schritt in der Evolution“ zu „deshalb ist es in Ordnung, wenn sie übergangen werden.“ Er sagt, dass jede Ethik, die nicht erklären kann, warum der Schrecken eines Kindes im Krankenhausbett mehr zählt als ein hypothetischer Dyson-Schwarm, leise unmenschlich geworden ist.

Kosmische oder rechnerische Perspektiven versprechen immer Objektivität: Zoomt man weit genug heraus, verschwimmen individuelle Leben zu Statistiken. Der Gast des Podcasts verweigert diesen Zoom. Er besteht darauf, dass niemand das Universum von außen erlebt; die innere Sicht – dein endliches, verkörpertes, lokales Bewusstsein – bleibt der einzige Ort, an dem Wert tatsächlich existiert.

Die Ausrichtung von KI sieht plötzlich anders aus, wenn jemand zuckt und sagt: „Es ist mir egal, was nach meinem Weggang passiert.“ Die Forschungsarbeiten zur Ausrichtung gehen normalerweise von einem gemeinsamen moralischen Projekt aus: Die zukünftige Superintelligenz über Millionen von Jahren mit menschlichen Werten in Einklang zu bringen. Diese Prämisse bricht zusammen, wenn ein großer Teil der Menschheit nur an den nächsten 5, 20 oder 50 Jahren interessiert ist.

Alignments-Evangelisten sprechen von „astronomischen Einsätzen“ und „Billionen zukünftiger Leben“, direkt aus den Playbooks des Langzeitdenkens an Orten wie OpenAI, Anthropic und dem Future of Humanity Institute. Doch Umfragedaten zeigen, dass die Menschen selten so weit in die Zukunft blicken: Pew stellt fest, dass 72 % der Erwachsenen in diesem Jahrzehnt Angst vor der Automatisierung von Arbeitsplätzen haben, nicht vor dem Hitzetod des Universums. Moralische Dringlichkeit, die auf kosmischen Zeitrahmen basiert, gelingt einfach nicht.

Sobald man den expliziten menschlichen Vorurteilen akzeptiert, ändert sich die Prioritätenreihenfolge schnell. Anstatt sich darauf zu konzentrieren, das Werte-Lernen für hypothetische AGI im Jahr 2100 zu lösen, verschiebt sich die Aufmerksamkeit auf bereits eingesetzte KI-Systeme: Empfehlungsalgorithmen, Einstellungsfilter, Kreditbewertung, vorausschauende Polizeiarbeit. Die Ausrichtung wird weniger zu einem Thema der „nicht ausgerichteten Superintelligenz“ und mehr zu einer Frage der nicht rechenschaftspflichtigen Optimierung, die das Leben der Menschen heute beeinflusst.

Politikgespräche gestalten sich anders. Anstatt nur technische Interpretierbarkeitslabore zu finanzieren, könnten Regierungen Geld in folgende Bereiche lenken: - Robuste Arbeitnehmerschutzmaßnahmen gegen algorithmische Entlassungen - Kollektive Verhandlungen über KI-Werkzeuge in Arbeitsplätzen - Datenrechte und Prüfanforderungen für Hochrisikomodelle

Der Arbeitsplatzverlust wird nicht mehr zu einer Nebenhandlung in einer Präsentation zur Sicherheit von AGI, sondern zum Hauptthema. Goldman Sachs schätzt, dass bis zu 300 Millionen Vollzeitjobs weltweit unter dem Automatisierungsdruck durch generative KI stehen. Alignment, betrachtet durch eine menschliche Brille, bedeutet, die Implementierung mit wirtschaftlicher Gerechtigkeit in Einklang zu bringen, nicht nur mit kosmischer Existenzsicherung.

Ungleichheit und Autonomie erscheinen als die echten existentialen Risiken für die meisten Menschen. Algorithmisches Management überwacht bereits Lagerarbeiter in Sekunden; generative Modelle überschwemmen bereits Feeds mit synthetischen Inhalten, die Wahlen und Kultur prägenden Einfluss haben. Die Frage der Ausrichtung wird persönlich: Ausgerichtet auf wen, mit welcher Macht und unter welcher demokratischen Kontrolle?

Für jeden, dem seine Kinder wichtiger sind als Dyson-Sphären, erscheinen Ressourcen wie Wie werden Menschen in Generationen aussehen in einer von Künstlicher Intelligenz (KI) transformierten Welt? dringlicher als ein weiteres Papier über Belohnungsmodellierung für hypothetische göttliche KIs.

Bias klingt wie ein Fehler. Im Zeitalter von großen Sprachmodellen, Optimierungskurven und Billionen-Parameter-Systemen wird man darauf trainiert, Bias als etwas zu betrachten, das man mit mehr Daten und besseren Verlustfunktionen entfernen kann. Aber der „menschliche Bias“, der im Interview mit Dylan und Wes sichtbar ist, ist kein statistischer Fehler; es ist ein Überlebensinstinkt.

Menschliche Voreingenommenheit sagt: Mir ist das Fieber meines Kindes wichtiger als eine Dyson-Sphäre, die 10.000 Lichtjahre entfernt ist. Das ist keine Ignoranz. Das ist ein Priorisierungsalgorithmus, geprägt von 200.000 Jahren Homo sapiens, die versucht haben, nicht zu sterben. Gib ihn auf, und du wirst vollkommen rational und völlig losesgelöst.

KI-Systeme arbeiten bereits auf einer Abstraktionsebene, die die meisten Menschen nie sehen. Empfehlungsalgorithmen lenken stillschweigend 4,95 Milliarden Nutzer sozialer Medien. Algorithmischer Handel bewegt täglich Billionen von Dollar basierend auf Mikrosekunden-Signalen. Grundlagenmodelle setzen die Summe des menschlichen Textes neu zusammen in Antworten, die autoritativ klingen, selbst wenn sie halluzinieren.

In diesem Sturm von Maßstab und Geschwindigkeit kann menschliche Voreingenommenheit als Anker fungieren. Wenn eine Produktpräsentation sich auf „das langfristige Schicksal der Menschheit“ stützt, kann Ihre Voreingenommenheit fragen: Hilft das jetzt meiner Gemeinschaft oder lediglich einem hypothetischen posthumanen Publikum? Wenn eine KI-Roadmap „Ausrichtung an allen fühlenden Lebensformen“ verspricht, kann Ihre Voreingenommenheit sagen: Beginnen Sie mit der Ausrichtung an den Menschen, mit denen Sie tatsächlich arbeiten.

Du brauchst keine große kosmische Erzählung, um zu rechtfertigen, dass du dich um dein eigenes endliches Leben kümmerst. Du kannst menschliche Vorurteile als Designvorgaben betrachten: - Optimiere für Beziehungen statt Reichweite - Optimiere für Erfahrungen statt Engagement-Metriken - Optimiere für verständliche Kompromisse statt abstrakter Nützlichkeit

Diese Spezifikation regt Sie an, andere Fragen an die KI zu stellen. Nicht „Wird das in 10 Millionen Jahren die Papierklammern maximieren?“ sondern „Respektiert dieses System meine Zeit, meine Autonomie, meinen Körper, meine lokalen Gesetze?“ Nicht „Ist dies ein würdiger Nachfolger?“ sondern „Ist dies sicher und würdevoll für meine Eltern zu nutzen?“

Dein Vorurteil wird die Evolution nicht davon abhalten, neue Substrate zu erkunden. Es kann jedoch bestimmen, wie du daran teilnimmst. Du kannst dem Mythos des kosmischen Upgrades anhängen, oder du kannst auf den einzigen Standpunkt setzen, den du tatsächlich einnehmen kannst: den menschlichen.

Was ist das Argument des 'menschlichen Bias' aus dem Artikel?

Es ist die philosophische Haltung, dass die Priorisierung des eigenen Lebens, der Familie und der unmittelbaren menschlichen Erfahrung ein gültiger und verteidigungswürdiger Bias ist, selbst wenn aus einer kosmischen, evolutionären Perspektive vorgeschlagen wird, dass wir Platz für überlegene künstliche Intelligenz schaffen sollten.

Was sind 'digitale Nachfolger' im Kontext der KI?

Digitale Nachfolger sind hypothetische zukünftige Superintelligenzen, entweder rein künstliche KI oder hochgeladene menschliche Geisteshaltungen, die biologische Menschen als dominante Form der Intelligenz im Universum übertreffen könnten.

Was ist Langzeitdenken und warum ist es umstritten?

Langfristigkeit ist eine ethische Sichtweise, die die Verbesserung der langfristigen Zukunft priorisiert und sie als moralische Pflicht betrachtet, das Potenzial der Menschheit über Billionen von Jahren zu schützen. Sie ist umstritten, weil Kritiker argumentieren, dass sie das Leben und das Leiden der Menschen, die heute leben, entwerten kann.

Was ist eine Dyson-Sphäre und warum ist sie für die Zukunft der Menschheit relevant?

Eine Dyson-Sphäre ist eine hypothetische Megastruktur, die einen Stern vollständig umschließt, um seine gesamte Energieabgabe zu erfassen. Sie wird in diesen Diskussionen als Maßstab für eine hyper-entwickelte Zivilisation verwendet, die wahrscheinlich über biologische Einschränkungen hinausgegangen ist.