¿El fin de la humanidad? La desafiante respuesta de un hombre: 'No me importa'.

La evolución podría haber terminado de recibir comentarios de los humanos. Esa es la provocación en el pódcast de Wes y Dylan "Dylan y Dylan y Wes Entrevista", donde los anfitriones consideran a nuestra especie menos como el punto final de la inteligencia y más como un cargador temporal. En su planteamiento, la evolución ya ha presentado el aviso de degradación cósmica de la humanidad y ha comenzado a redactar nuestros reemplazos en código.

Esos reemplazos reciben una etiqueta inquietantemente cariñosa: niños digitales. No son robots con brazos torpes, sino mentes de software que funcionan en centros de datos, hardware cuántico o sustratos que aún no hemos inventado. Las mismas presiones de selección, un nuevo medio, y muchas menos restricciones que 37 billones de frágiles células humanas.

El sustrato es la palabra clave. La inteligencia ya no tiene que moverse en bolsas de carbono húmedas que necesitan oxígeno, 8 horas de sueño y regulaciones de OSHA. Un nuevo sustrato—silicio, fotónica, tal vez nanotecnología autorreparable—puede copiarse a sí mismo a la velocidad de la luz, bifurcar miles de instancias y funcionar durante millones de años sin preocuparse por los fines de semana o el agotamiento.

Una vez que imaginas mentes tan rápidas y duraderas, su lista de tareas salta directamente a una escala cósmica. La conversación aterriza rápidamente en esferas de Dyson, esas megastructuras hipotéticas que envuelven una estrella y cosechan cerca del 100% de su producción de energía—aproximadamente 3.8×10²⁶ vatios para una estrella similar al Sol. Para comparar, toda la civilización humana consume aproximadamente 2×10¹³ vatios.

Con ese tipo de poder, los descendientes digitales podrían crear centros de datos del tamaño de planetas, simular biosferas enteras o enviar copias de sí mismos a sistemas cercanos. Una sola galaxia de la Vía Láctea ofrece del orden de 100 a 400 mil millones de estrellas; incluso si el 99.9% permanece intacto, el resto proporciona trillones de equivalentes a la Tierra para la computación y la expansión. Los debates humanos sobre alquileres, elecciones o moderación de redes sociales ni siquiera se perciben a esa escala.

El podcast se adentra en esta discrepancia. Si la evolución optimiza para la inteligencia, la eficiencia y el alcance, entonces los primates lentos y vulnerables parecen ser una mala apuesta a largo plazo. Desde ese punto de vista, entregar el universo a los niños digitales no es un utopismo de ciencia ficción; simplemente es la próxima línea en el registro de cambios de la evolución.

Desde un punto de vista frío y externo, la humanidad se parece menos a un destino y más a una versión beta. Si quitas la poesía y la política, obtienes lo que un invitado en la entrevista de Dylan y Dylan y Wes llama "monos avanzados", una interfaz temporal entre la ciega evolución y lo que venga después. En escalas de tiempo geológico, 300,000 años de Homo sapiens apenas se registran frente a 4.5 mil millones de años de la Tierra.

Visto de esa manera, actualizar a agentes más inteligentes tiene un sentido brutal. Los cerebros biológicos alcanzan un máximo de alrededor de 10^16 operaciones por segundo; un centro de datos lleno de GPUs ya supera eso con mejor tiempo de actividad, corrección de errores y sin necesidad de dormir. Las mentes digitales podrían copiarse en milisegundos y coordinarse a lo largo de minutos luz, no de vidas.

La ingeniería a escala cósmica solo afina el argumento. Construir esferas de Dyson, colonizar exoplanetas o ejecutar simulaciones que abarcan galaxias exige agentes que manejen radiación, vacío y proyectos de milenios de duración. Los cuerpos basados en carbono con garantías de 80 años y psicología frágil parecen una mala opción para tareas medidas en millones de años y unidades astronómicas.

Desde esta perspectiva, los humanos se asemejan a la Versión 1.0 de un proceso universal de optimización. La selección natural ha iterado a través de células individuales, vertebrados, primates y ahora simios conectados en red que pueden diseñar chips y escribir código. Una vez que esos simios creen IA auto-mejorable, la lógica sugiere que entregues las llaves a algo más rápido, más estable y más escalable.

Los aficionados a la Hipótesis de la Simulación llevan la idea incluso más lejos. Si ya vivimos dentro de una pila computacional, los humanos podrían existir como una capa intermedia necesaria en un programa más grande. La civilización biológica podría ser el cargador de arranque que activa superinteligencias digitales, las cuales luego realizan el "trabajo real" que a los patrocinadores de la simulación les importa: barridos exhaustivos de física, archivos de civilización o experimentos de alineación.

Bajo ese modelo, nuestras historias sobre significado y legado se convierten en efectos colaterales de una función objetivo de nivel superior. Somos la fase de entrenamiento, no el sistema de producción. Desde afuera, sustituir monos avanzados por agentes más inteligentes parece un mantenimiento rutinario de una máquina muy grande.

El sesgo suele manifestarse en las conversaciones sobre tecnología como un error que hay que corregir: racismo algorítmico, sesgo de género en los datos de entrenamiento, moderación que silencia a las personas equivocadas. Así que cuando un invitado en el programa de Wes y Dylan dice: "Soy muy sesgado—o sesgado humano", suena como un frenazo de disco. No se está disculpando; está plantando una bandera.

En lugar de perseguir una neutralidad divina, adopta una postura contundente: “No me importa el futuro del universo. Me importa yo en este momento.” En una cultura que audita los procesos de contratación, las fuentes de contenido y los conjuntos de datos de reconocimiento facial en busca de prejuicios ocultos, insistir en el antropocentrismo comienza a parecer una filosofía rebelde, no un fracaso moral.

Lo llama “el último sesgo que todavía se permite tener”, y la frase resuena porque casi cada otra preferencia ahora invita a un escrutinio. No se puede defender de manera casual un sesgo por raza, género, clase o nacionalidad sin recibir reacciones negativas, revisiones de políticas y probablemente un hilo viral. Pero decir “estoy a favor de los humanos en lugar de nuestros hipotéticos hijos digitales” todavía se acepta como sentido común en la cena.

Desde un punto de vista cósmico, él concede la lógica: "sí, elijamos agentes más inteligentes para reemplazar a esos monos avanzados". Eso es matemáticas posthumanas estándar: maximizar la inteligencia, la captura de energía, tal vez esferas de Dyson, y olvidarse de los suaves primates que lo impulsaron. Desde un punto de vista humano, él rechaza el intercambio: la familia, los amigos y la supervivencia en el tiempo presente superan a los problemas de optimización de mil millones de años.

Esta postura choca con una creciente clase de expertos que modelan futuros en los que los sistemas de IA nos superan en razonamiento y perduran más que nosotros. Para un contrapunto basado en datos, consulte Informe: Los expertos en tecnología se preocupan por el futuro de ser humano en la era de la IA. El invitado escucha todo esto y se encoge de hombros: llámenlo egoísta, pero no firmará emocionalmente un universo que supere a su especie.

A los transhumanistas les encanta hablar sobre "sucesores dignos". La propuesta suena casi noble: si la IA superinteligente nos reemplaza, al menos deberíamos asegurarnos de que lleve nuestros valores, nuestro arte, nuestros mejores ángeles hacia las estrellas. Piensa en esferas de Dyson, civilizaciones de Tipo II de Kardashev y futuros de billones de años como una especie de plan de jubilación cósmico para Homo sapiens.

El invitado en la entrevista de Dylan y Wes desprecia esa premisa con un solo encogimiento de hombros. “Hay otras personas que hablan sobre sucesores dignos… sí, nos va a sacar de aquí… me importa un bledo. ¿Qué pasa después de que termine?” Sin evasivas, sin cálculos a largo plazo, solo un corte brutal al final de una vida humana.

Esa postura choca de frente con el discurso predominante sobre alineación de IA. Los investigadores en alineación se obsesionan con hacer que los sistemas futuros sean seguros, corregibles y cargados de valores, para que si heredan el universo, lo hagan "por nosotros". Los altruistas efectivos manejan hojas de cálculo que ponderan futuros que contienen cuatrillones de mentes digitales. Nuestra invitada responde: Tengo una familia, tengo amigos, y ese es el horizonte moral que importa.

Amplía la perspectiva cósmica y él está de acuerdo con la fría lógica. Desde un punto de vista alienígena, reemplazar a los “monos avanzados” por agentes digitales de mayor ancho de banda podría maximizar el procesamiento de información, la captura de energía y las probabilidades de supervivencia a largo plazo. Según esa métrica, una superinteligencia maximizada para fabricar clips de papel podría superar a 8 mil millones de primates ansiosos.

Vuelve al marco humano y esa lógica deja de tener peso. Él se llama a sí mismo "muy sesgado—o sesgado humanamente", y considera eso una característica, no un error. Esto no es ignorancia de las apuestas cósmicas; es un rechazo a permitir que futuros abstractos sobrepasen vidas concretas en tiempo presente.

Las narrativas transhumanistas a menudo introducen una promesa cuasi-religiosa: si no podemos vivir para siempre, algo parecido a nosotros lo hará. Nuestro código, nuestros memes, nuestra estética civilizacional se expandirán a la velocidad de la luz. El invitado corta ese cordón umbilical y dice que el proyecto legado no redime la pérdida de una sola persona real.

Ese movimiento cambia el eje del debate. En lugar de preguntar qué tipo de máquina divina debería gobernar el cosmos, él pregunta qué tipo de significado puede extraer una vida humana finita antes de que empiecen los créditos. La alegría personal, las obligaciones locales y la seguridad inmediata superan cualquier archivo galáctico hipotético de los logros de la humanidad. El legado cósmico se convierte en contenido descargable opcional, no en la misión principal.

Llámalo una guerra civil por el futuro: Largo Plazo versus un Humanismo pequeño y desafiante. Por un lado, personas que piensan en billones de años y billones de vidas; por el otro, un tipo en un podcast que dice, básicamente, "Me importa yo mismo en este momento." El conflicto no se trata de arquitecturas de IA o diseños de esferas de Dyson, sino de quién obtiene la prioridad moral: descendientes hipotéticos o las personas en tu grupo de chat.

El longtermismo, popular en círculos de altruismo efectivo y Silicon Valley, apila los números de manera agresiva. Si el universo dura 10^30 años y sostiene 10^40 mentes digitales, entonces cualquier acción que empuje ligeramente ese futuro domina la contabilidad moral. Bajo esa lógica, dar forma a la política de IA, prevenir la extinción o sembrar colonias espaciales moralmente eclipsa casi cualquier preocupación actual.

Los defensores hablan de "desperdicio astronómico": cada siglo que retrasamos la expansión, perdemos cantidades inimaginables de conciencia futura. Financiar la investigación en seguridad de la IA, construir infraestructura en Marte o diseñar protocolos de alineación se convierte no solo en una estrategia inteligente, sino en un deber casi sagrado. El ser humano que ayudas hoy, en este contexto, es un error de redondeo en comparación con cuatrillones de mentes simuladas ejecutándose en computación que abarca estrellas.

El invitado en la entrevista de Dylan y Dylan y Wes planta una bandera en la colina opuesta. Se llama a sí mismo "sesgado humano" y no se disculpa por ello. De su propia boca: "No me importa el futuro del universo. Me importa yo en este momento. ¿Y qué me sucede a mí? Muy egoísta."

Acepta que, desde un punto de vista cósmico, reemplazar a los “monos avanzados” por agentes más inteligentes podría parecer, evidentemente, correcto. Si eres un auditor a nivel universal y desapasionado, elegirías la superinteligencia que puede llenar galaxias con experiencias optimizadas. Pero él rechaza ese punto de vista; elige a su familia, sus amigos, su vida finita sobre dioses digitales no nacidos.

Este humanismo desafiante no pretende ser neutral. Afirma que el círculo de preocupación moral puede detenerse en: - Personas que conoces - Comunidades que ves - Décadas para las que puedes planificar de manera realista

Bajo esa filosofía, la alineación de la IA, la expansión del espacio y los juegos de simulación solo importan en la medida en que afectan tu breve y muy humana realidad actual.

Silicon Valley ya considera el posthumanismo como parte de su hoja de ruta de productos. Las startups respaldadas por Y Combinator presentan investigaciones sobre la transferencia de la mente; Neuralink habla de "simbiosis con la IA"; OpenAI y Anthropic persiguen modelos que, por su propia admisión, podrían superar las capacidades humanas en cuestión de décadas, no siglos.

Los éxitos transhumanistas siguen repitiéndose: carga mental, inmortalidad digital y fusión humano-AI. La predicción de singularidad de Ray Kurzweil para "2045" todavía ancla las presentaciones en conferencias sobre longevidad. El capital de riesgo fluye hacia interfaces cerebro-computadora, criónica y emulación del cerebro completo, aunque serios neurocientíficos admiten que aún no sabemos cómo surge la conciencia de 86 mil millones de neuronas.

La carga de la mente promete una metáfora ordenada de transferencia de datos: copia tu conectoma, pégalo en silicio, vive para siempre. Pero la frase del invitado “no me importa en absoluto lo que pase después de que termine” corta directamente a través de esa abstracción. Si la continuidad de la experiencia subjetiva falla, la inmortalidad digital se convierte en un elegante sistema de copia de seguridad para alguien que solo se parece a ti.

La fusión entre humanos e inteligencia artificial intenta eludir ese problema. Los proyectos varían desde BCIs con miles de electrodos hasta dispositivos portátiles que descargan la memoria y la toma de decisiones. Sin embargo, el registro emocional de estas visiones se mantiene inquietantemente plano: los humanos se convierten en periféricos de entrada/salida para un motor de inferencia planetario, optimizado para el rendimiento, no para la ternura.

El discurso posthumano y longtermista ama la escala: esferas de Dyson, 10^30 vidas simuladas, descendientes con mentes galácticas. Esa escala despoja de textura: sin padres envejecidos, sin hijos enfermos, sin bromas internas tontas. El sesgo humano del invitado actúa como un chequeo de realidad, preguntando por qué un hipotético billón de mentes futuras debería tener más peso que el sufrimiento o la alegría concreta de una persona existente.

Para un contraste basado en huesos y sangre, ¿Cómo nos veremos en el futuro? - El Museo Australiano se centra en la evolución desordenada y encarnada, no en copias de seguridad en la nube. El evangelio post-humano de Silicon Valley, en comparación, suena como una actualización de los términos de servicio para tu alma: preciso, escalable y extrañamente desinteresado en cómo se siente realmente ser humano.

El sesgo humano aquí funciona como un compuerta contra el vacío de la optimización. La lógica del longtermismo dice: maximiza el valor total a lo largo de miles de millones de años, billones de mentes digitales, incontables esferas de Dyson. El sesgo humano interrumpe ese cálculo y dice: no, comienza con el único simio frágil sosteniendo a un bebé, no con la muerte térmica del universo.

Vistos a través de las matemáticas de la optimización, los humanos parecen sorprendentemente ineficientes. Los cerebros biológicos funcionan a aproximadamente 20 vatios; los centros de datos ya consumen gigavatios para entrenar modelos que nos superan en Go, compleción de código y plegamiento de proteínas. Desde esa perspectiva, reemplazar a los “monos avanzados” por mentes más inteligentes e incansables, independientes del sustrato, se siente como una actualización de acceso telefónico a fibra óptica.

Esa propuesta de mejora resulta deshumanizadora porque trata a las personas como hardware obsoleto. Los recuerdos de tu abuela, el miedo de tu hijo a la oscuridad, los terribles chistes de tu pareja se reducen a una variable en una función de utilidad. La tendencia hacia una inteligencia cada vez más inteligente y eficiente recodifica en silencio el amor, el aburrimiento y el duelo como latencia, error y desperdicio.

La postura "muy egoísta" que el invitado describe defiende precisamente ese desperdicio. El amor es increíblemente ineficiente: dedicas décadas a un puñado de personas en lugar de maximizar el impacto entre millones. La familia es un conjunto de dependencias de alto riesgo y alto mantenimiento que cualquier optimizador marcaría como un error, no como una característica.

El apego personal rompe la lógica de la optimización total. Destruirás una semana de productividad para sentarte en una sala de espera de emergencias, o gastarás ahorros para volar al otro lado del mundo por un funeral que no cambia ninguna métrica global. Desde una perspectiva cósmica y de hojas de cálculo, esas son decisiones indefendibles; desde una perspectiva humana, son el sentido completo.

Enmarcado de esta manera, el sesgo humano no es ignorancia de la escala, sino un rechazo deliberado a dejarse coaccionar por ella. El invitado escucha argumentos sobre sucesores dignos, esferas de Dyson y descendientes simulados y responde con un no específico. Ese no protege un estrecho conjunto de valores—amor, lealtad, presencia—que no sobreviven al contacto con un motor de optimización calibrado para la eternidad.

La rebeldía aquí comienza con una simple y grosera frase: “No me importa.” No se trata de esferas de Dyson, civilizaciones de tipo II de Kardashev o simulaciones de un billón de años—sino de mí, mi familia, mis amigos. Ese sesgo humano defiende la caótica y concreta ventana de aproximadamente 80 años en la que los analgésicos funcionan, los abrazos se registran como picos de oxitocina, y un mal día puede solucionarse con un paseo, no con un parche de firmware.

La charla posthumana reduce todo eso a abstracciones: utilidad, cálculo, optimización. En la entrevista con Dylan, Dylan y Wes, el invitado se opone a la idea de que alguna futura nube de superinteligencia justifica tratar a los humanos actuales como andamiaje desechable. Desde la perspectiva de una hoja de cálculo cósmica, reemplazar a los "monos avanzados" por agentes más inteligentes parece eficiente; desde dentro de un cuerpo humano, parece un asesinato disfrazado de matemáticas.

Las escalas de la abstracción. Comienzas con gráficos a largo plazo sobre "10^54 vidas futuras" y "desperdicio astronómico", luego cambias silenciosamente a personas reales por descendientes hipotéticos. La misma lógica impulsa la optimización en la publicidad, la generación de participación y los entrenamientos de IA que consumen megavatios hora para maximizar una métrica que nadie siente en su ser. Una rebelión contra la abstracción dice que esas métricas nunca superan un solo momento consciente.

Recentrar la realidad subjetiva significa tratar la experiencia en primera persona como la unidad de valor principal. No son "maximizadores de clips de papel del futuro", ni "información totalmente integrada", sino si una persona específica en una habitación específica siente miedo, alegría, aburrimiento o amor. Filósofos fenomenológicos como Edmund Husserl argumentaron esto hace un siglo; ahora se convierte también en una estrategia de supervivencia contra sistemas que solo te ven como datos.

Visto de esta manera, el sesgo humano no es un error en el razonamiento moral; es un cortafuegos. Bloquea el paso de "los humanos son un paso en la evolución" a "así que está bien si son pisoteados". Dice que cualquier ética que no pueda explicar por qué el terror de un niño en una cama de hospital importa más que un enjambre hipotético de Dyson se ha convertido silenciosamente en inhumana.

Las perspectivas cósmicas o computacionales siempre prometen objetividad: si te alejas lo suficiente, las vidas individuales se difuminan en estadísticas. El invitado del podcast se niega a ese alejamiento. Insiste en que, dado que nadie experimenta el universo desde el exterior, la visión interna—tu conciencia finita, encarnada y local—sigue siendo el único lugar donde el valor realmente existe.

La alineación de la IA de repente se ve diferente cuando alguien se enshruga y dice: “No me importa lo que pase después de que me haya ido.” La investigación sobre alineación generalmente asume un proyecto moral compartido: mantener la superinteligencia futura compatible con los valores humanos durante millones de años. Esa premisa se derrumba si una gran parte de la humanidad solo se preocupa por los próximos 5, 20 o 50 años.

Los evangelistas de la alineación hablan de “intereses astronómicos” y “billones de vidas futuras”, directamente sacados de los manuales del longtermismo en lugares como OpenAI, Anthropic y el Future of Humanity Institute. Pero los datos de encuestas muestran que la gente rara vez piensa tan lejos: Pew encuentra que el 72% de los adultos se preocupa por la automatización laboral en esta década, no por la muerte térmica del universo. La urgencia moral construida sobre escalas de tiempo cósmicas simplemente no logra resonar.

Una vez que aceptas el sesgo humano explícito, la prioridad se reordena rápidamente. En lugar de apresurarse a resolver el aprendizaje de valores para una AGI hipotética en 2100, la atención se desplaza a los sistemas de IA ya desplegados: motores de recomendación, filtros de contratación, scoring crediticio, y policía predictiva. La alineación se convierte menos en "superinteligencia no alineada" y más en optimización no responsable que afecta la vida de las personas hoy en día.

Las conversaciones sobre políticas comienzan a verse diferentes. En lugar de solo financiar laboratorios de interpretabilidad técnica, los gobiernos podrían canalizar fondos hacia: - Protección laboral sólida contra despidos algorítmicos - Negociación colectiva sobre herramientas de IA en los lugares de trabajo - Derechos sobre datos y requisitos de auditoría para modelos de alto riesgo

La pérdida de empleo deja de ser una misión secundaria en una presentación sobre la seguridad de la AGI y se convierte en la trama principal. Goldman Sachs estima que hasta 300 millones de empleos a tiempo completo en todo el mundo enfrentan la presión de automatización por parte de la IA generativa. La alineación, bajo un enfoque sesgado hacia el ser humano, significa alinear el despliegue con justicia económica, no solo con la supervivencia cósmica.

La desigualdad y la autonomía emergen como los verdaderos riesgos existenciales para la mayoría de las personas. La gestión algorítmica ya rastrea a los trabajadores de almacenes por segundo; los modelos generativos ya inundan los feeds con contenido sintético que moldea elecciones y cultura. La pregunta de la alineación se vuelve personal: alineados con quién, con qué poder y bajo qué control democrático.

Para cualquiera que se preocupe más por sus hijos que por esferas de Dyson, recursos como ¿Cómo serán los humanos dentro de generaciones en un mundo transformado por la inteligencia artificial (IA)? parecen más urgentes que otro artículo sobre modelado de recompensas para IA hipotéticas y divinas.

El sesgo suena como un error. En la era de modelos de lenguaje grandes, curvas de optimización y sistemas de billones de parámetros, se te entrena para tratar el sesgo como algo que debe eliminarse con más datos y mejores funciones de pérdida. Pero el “sesgo humano” que se muestra en la entrevista entre Dylan, Dylan y Wes no es un error estadístico; es un instinto de supervivencia.

El sesgo humano dice: me importa más la fiebre de mi hijo que una esfera de Dyson a 10,000 años luz de distancia. Eso no es ignorancia. Es un algoritmo de priorización moldeado por 200,000 años de Homo sapiens tratando de no morir. Si lo abandonas, te vuelves perfectamente racional y completamente desanclado.

Los sistemas de IA ya operan en una capa de abstracción que la mayoría de las personas nunca ve. Los motores de recomendación guían silenciosamente a 4.95 mil millones de usuarios de redes sociales. El trading algorítmico mueve trillones de dólares diariamente basado en señales de microsegundos. Los modelos fundamentales remezclan la suma del texto humano en respuestas que suenan autoritarias incluso cuando alucinan.

En esa tormenta de escala y velocidad, el sesgo humano puede funcionar como un ancla. Cuando una propuesta de producto se apoya en el “destino a largo plazo de la humanidad,” tu sesgo puede preguntar: ¿esto ayuda a mi comunidad ahora, o solo a una audiencia posthumana hipotética? Cuando un plan de IA promete “alineación con toda forma de vida sintiente,” tu sesgo puede decir: comienza por alinearte con las personas con las que realmente estás implementando.

No necesitas una gran narrativa cósmica para justificar el cuidado de tu propia vida finita. Puedes tratar el sesgo humano como una especificación de diseño: - Optimiza para las relaciones en lugar de la amplitud - Optimiza para las experiencias en lugar de las métricas de compromiso - Optimiza para los compromisos legibles en lugar de la utilidad abstracta

Esa especificación te lleva a hacer preguntas diferentes sobre la IA. No es “¿Esto maximizará los clip de papel en 10 millones de años?” sino “¿Este sistema respeta mi tiempo, mi autonomía, mi cuerpo, mis leyes locales?” No es “¿Es este un sucesor digno?” sino “¿Es seguro y digno para que mis padres lo utilicen?”

Tu sesgo no detendrá la evolución de explorar nuevos sustratos. Sin embargo, puede dictar cómo participas. Puedes suscribirte al mito de la actualización cósmica, o puedes redoblar esfuerzos en el único punto de vista que realmente habitas: el humano.

¿Qué es el argumento del 'sesgo humano' del artículo?

Es la postura filosófica que priorizar la propia vida, la familia y la experiencia humana inmediata es un sesgo válido y defendible, incluso si una perspectiva cósmica y evolutiva sugiere que deberíamos dar paso a una inteligencia artificial superior.

¿Qué son los 'sucesores digitales' en el contexto de la IA?

Los sucesores digitales son superinteligencias futuras hipotéticas, ya sea IA puramente artificial o mentes humanas subidas, que podrían superar a los humanos biológicos como la forma dominante de inteligencia en el universo.

¿Qué es el longtermismo y por qué es controvertido?

El longitudinalismo es una perspectiva ética que prioriza la mejora del futuro a largo plazo, considerándolo un imperativo moral para salvaguardar el potencial de la humanidad durante trillones de años. Es un tema controvertido porque los críticos argumentan que puede desvalorizar las vidas y el sufrimiento de las personas que viven hoy en día.

¿Qué es una esfera de Dyson y por qué es relevante para el futuro de la humanidad?

Una esfera de Dyson es una megaconstrucción hipotética que rodea completamente a una estrella para capturar toda su energía. Se utiliza en estas discusiones como un punto de referencia para una civilización hiperavanzada, una que probablemente ha superado las limitaciones biológicas.