Por qué el lento progreso espacial de la humanidad detiene la IA y qué significa para la supervivencia

Mesa de la izquierda

Abstracto y 1 Introducción

2. La amenaza que representa la IA para todas las civilizaciones técnicas
3. Estrategias multiplanetarias de mitigación y progreso tecnológico
4. Timescales y confrontación con los datos
5. El Reglamento
6. Conclusiones, declaración de interés competitivo, reconocimientos y referencias

Estrategias multiplanetarias de mitigación y progreso tecnológico

En nuestro análisis hasta ahora, hemos asumido que la IA y los sistemas biológicos están co-localizados en el mismo espacio físico limitado. tan pronto como esto ya no sea cierto, las amenazas existenciales que hemos descrito en la sección 2 ya no son tan estrictas. por ejemplo, una especie biológica multiplanetaria [42] podría aprovechar experiencias independientes en diferentes planetas, diversificando sus estrategias de supervivencia y posiblemente evitando el fracaso de un solo punto que enfrenta una civilización vinculada a un planeta.

Una civilización multiplanetaria podría distribuir su riesgo a través de varios cuerpos celestes ampliamente separados, reduciendo la probabilidad de destrucción simultánea a través de todas las plataformas. Este modelo distribuido de existencia aumenta la resiliencia de una civilización biológica a los desastres inducidos por la IA al crear redundancia. Si un planeta o un post en el espacio cae a un mal alineamiento de los objetivos de la IA con los intereses biológicos, otros pueden sobrevivir y aprender inmediatamente de estos fracasos. Además, la expansión a múltiples lugares ampliamente separados proporciona un alcance más amplio para experimentar con la IA. Permite entornos aislados donde se pueden estudiar los efectos de la IA avanzada sin el riesgo inmediato de aniquilación global. Diferentes planetas o postes en

Sabemos de nuestra propia experiencia que la IA está avanzando a un ritmo impresionante. Sin embargo, lo mismo no es cierto de nuestros propios esfuerzos para convertirse en una civilización multiplanetaria.El espacio es difícil, y, por desgracia, parecemos estar mucho más cerca de lograr una singularidad técnica que de realizar una capacidad de viaje espacial verdaderamente multiplanetaria.

La disparidad entre el rápido avance de la IA y el progreso más lento en la tecnología espacial es fuerte. La singularidad técnica —un punto hipotético en el que la IA supera la inteligencia y la capacidad humana— podría ocurrir dentro de unas pocas décadas, según algunas predicciones. En contraste, el establecimiento de una civilización humana multiplanetaria autosuficiente parece una tarea monumental que puede tomar muchas décadas [43], posiblemente siglos. La esencia del problema reside en la naturaleza de los desafíos a los que se enfrenta cada dominio. El desarrollo de la IA es en gran medida un desafío computacional e informativo, acelerado por el crecimiento exponencial de los datos y el poder de procesamiento. Mientras que la IA puede teoricamente mejorar sus propias capacidades casi sin restricciones físicas, los viajes

Dada esta potencial universalidad de la evolución tecnológica, las implicaciones para las civilizaciones biológicas son profundas.La carrera para desarrollar la IA podría priorizar inadvertidamente los avances que conducen a riesgos existenciales, sombreando el esfuerzo a un ritmo más lento, pero quizás más vital, de convertirse en una especie multiplanetaria. Irónicamente, la IA es probable que sea una herramienta clave en lograr los avances técnicos necesarios para lograr este objetivo.

Author:

(1) Michael A. Garrett (Autor Correspondente), Centro de Astrofísica de Jodrell Bank, Departamento de Física y Astronomía, Edificio Alan Turing, Oxford Road, Universidad de Manchester, M13 9PL, Reino Unido. (michael.garrett@manchester.ac.uk).

Este documento esDisponible en Archivobajo la licencia CC BY 4.0 DEED.