Notas de campo

Introduccion

Aunque las máquinas han superado a los humanos en muchas áreas, nuestro nivel general de desarrollo intelectual sigue siendo incomparablemente más alto.

Sin embargo, el día en que los ordenadores alcancen una superinteligencia, es decir, un intelecto mucho más avanzado que el de las personas más destacadas en términos de desarrollo mental, actividad científica y tecnológica, sabiduría mundana y habilidades sociales, podría estar cerca.

En «Superinteligencia: caminos, peligros y estrategias», Nick Bostrom reflexiona sobre si la superinteligencia será beneficiosa o destructiva, amigable o hostil.

Aunque es un libro difícil de leer debido al vocabulario científico y a la presencia de ejemplos de física, matemáticas, economía y nanotecnología, así como numerosas tablas y diagramas, puede ser de interés para aquellos que se preocupan por el futuro de la humanidad y están interesados en las tecnologías modernas.

Es importante tener en cuenta que el autor admite que trató de hacer el libro más fácil de entender, pero no tuvo éxito y que no toda la información es confiable y está respaldada por evidencia científica.

1. El pasado y el presente de la inteligencia artificial.

Después de que aparecieron las primeras computadoras en la década de 1940, los científicos comenzaron a hablar sobre el inminente surgimiento de la superinteligencia. Los pronósticos no se materializaron, pero los futurólogos modernos, como sus predecesores, creen que los autos superinteligentes se crearán en el futuro cercano.

1.1. Historia de la inteligencia artificial

• 1642-1940s – la generación cero – las computadoras mecánicas más simples.
• Década de 1940 – 1955 – la primera generación – computadoras con tubos electrónicos.
• 1955-1965 – la segunda generación – computadoras con transistores.
• 1965-1980 – la tercera generación – computadoras en circuitos integrados.
• 1980– … – la cuarta generación – computadoras en grandes circuitos integrados.

La quinta generación, centrada en la informática distribuida, nunca se creó; se convertiría en la base de dispositivos capaces de simular el pensamiento.

En el verano de 1956, un grupo de científicos asistió al primer simposio sobre inteligencia artificial en el Dartmouth College, EE. UU. Fue este evento el que se convirtió en el punto de partida de la investigación en el campo de la inteligencia artificial, y muchos participantes en ese simposio ganaron fama mundial. Al principio, crearon solo sistemas pequeños, cada uno de los cuales en el laboratorio podía hacer algo previamente inaccesible para la inteligencia artificial.

Uno de los primeros sistemas, el teórico lógico, logró probar los teoremas, y una de las pruebas fue más elegante que en la versión original.

A mediados de la década de 1970, la moda de la inteligencia artificial pasó. Los patrocinadores se negaron a financiar proyectos para crear inteligencia artificial, porque consideraron que esta dirección no era prometedora.

El comienzo de la década de 1980, cuando Japón lanzó un gran proyecto para crear computadoras de quinta generación, puede considerarse la nueva era dorada de la inteligencia artificial. El proyecto fue financiado por el estado en conjunto con entidades comerciales, y su objetivo era crear una máquina con alto rendimiento que piense como una persona y pueda trabajar con grandes bases de datos.

Muchos países siguieron el ejemplo de Japón y reanudaron el trabajo sobre la creación de inteligencia artificial. Los desarrolladores intentaron crear los llamados sistemas expertos: programas que procesan bases de datos importantes, diseñados para reemplazar parcialmente a una persona en varios campos de actividad.

Se crearon cientos de sistemas similares, cuyos códigos fueron escritos manualmente por miles de programadores. Sin embargo, después de unos años, se hizo evidente que Monitorear y actualizar sistemas expertos es difícil y costoso. Por lo tanto, el proyecto informático de quinta generación dejó de existir a fines de la década de 1980.

Desde la década de 1990, comenzaron a desarrollarse métodos de sistemas neuronales y algoritmos genéticos basados en el modelado del cerebro humano.

1.2. ¿En qué áreas es la inteligencia artificial superior a los humanos?

Hasta la fecha, la inteligencia artificial ha superado al ser humano en muchas actividades. Un ejemplo de esto es que los programas de ordenador con algoritmos especiales y procesadores potentes han podido vencer a los mejores jugadores de ajedrez, damas y Scrabble.

En 1994, el programa CHINOOK logró derrotar al campeón mundial de damas, mientras que en 1997 el programa Deep Blue venció al campeón mundial de ajedrez, Garry Kasparov, quien admitió que notó vislumbres de inteligencia real e ingenio sobrehumano en la máquina.

En 2002, un programa también derrotó a los jugadores más fuertes de Scrabble. Estos logros ya no sorprenden a nadie, ya que, como señaló John McCartney (un científico estadounidense que utilizó por primera vez el término «inteligencia artificial»), «tan pronto como la inteligencia artificial comienza a funcionar, las personas dejan de considerarla como inteligencia artificial».

1.3. ¿Dónde se usa con éxito la inteligencia artificial?

La inteligencia artificial ha demostrado ser útil en una amplia variedad de campos.

En el mundo moderno, se utiliza en audífonos para filtrar el ruido extraño, en navegadores para ayudar a encontrar la ruta más conveniente y más corta, en tiendas en línea para analizar las preferencias de los clientes en función de sus compras anteriores, y en programas médicos para ayudar a diagnosticar y recetar tratamientos.

Los sistemas de reconocimiento de voz modernos permiten a los asistentes virtuales responder preguntas simples y cumplir con solicitudes simples, mientras que el reconocimiento óptico de texto impreso y escrito a mano ayuda a ordenar el correo electrónico y digitalizar documentos antiguos.

Además, el reconocimiento facial se utiliza ampliamente en puntos de control de fronteras en diferentes países, y la traducción por computadora, aunque aún lejos de ser perfecta, puede ser útil en ciertas situaciones.

La programación inteligente y la robótica también son campos en los que la inteligencia artificial ha tenido éxito durante décadas.

En la actualidad, hay más de 10 millones de robots en todo el mundo, utilizados como mascotas, limpiadores, rescatistas, cirujanos y robots industriales.

2. El futuro de la inteligencia artificial.

El interés en la inteligencia artificial ha aumentado significativamente en los últimos años, lo que probablemente impulsará el trabajo en equipos de computación potentes, software de próxima generación y avances en industrias relacionadas como la neuroinformática.

Una prueba de este interés es el hecho de que 160,000 estudiantes de todo el mundo se inscribieron en un curso en línea gratuito sobre inteligencia artificial ofrecido por Sebastian Trun y Peter Norwig de la Universidad de Stanford en 2011, y de ellos, 23,000 obtuvieron certificados al finalizar el curso.

2.1. El camino a la supermente

Los científicos identifican varias formas posibles de crear supermente:

• Mejora de la inteligencia artificial. Ya hoy es obvio que para lograr un estado superinteligente, un sistema debe ser autodidacta y capaz de actualizarse y mejorarse continuamente: la versión anterior creará su propia versión mejorada, que luego se actualizará y mejorará continuamente.

• Simulación a gran escala del cerebro humano. Mediante el escaneo y el modelado posterior de la estructura del cerebro humano, se puede crear un poderoso programa inteligente que requerirá la implementación posterior de los siguientes pasos:

– la creación de un escaneo extremadamente detallado del cerebro humano;

– transferencia de datos primarios del escáner a la computadora => procesamiento de imagen automatizado posterior => reconstrucción de una red neuronal tridimensional que proporciona el proceso de pensamiento del cerebro humano;

– Lanzar la estructura cerebral recreada en una computadora poderosa.

Será posible hablar sobre un resultado de simulación positivo si podemos reproducir el intelecto, la memoria y los rasgos de personalidad del pensamiento del «dueño» del cerebro simulado. El modelo creado del cerebro puede existir en la realidad virtual o implementarse en la realidad real como un «órgano» separado para el robot.

• Fortalecimiento del cerebro humano. La tercera forma de superar la inteligencia del hombre moderno es mejorar el cerebro humano a través de la selección genética. Sin embargo, este es un camino demasiado largo: se produce un cambio de generación cada 20-30 años, es decir, los resultados solo se pueden juzgar en el próximo siglo. Este proceso puede acelerarse artificialmente aplicando el método de selección embrionaria iterativa, que incluye cuatro etapas:

– estudio del genotipo y selección de varios embriones con las características genéticas deseadas;

– extraer células madre de embriones seleccionados y convertirlos en esperma y óvulos, que madurarán durante unos 6 meses;

– cruce de esperma y óvulos y la aparición de nuevos embriones;

– repitiendo los pasos anteriores hasta que se obtengan cambios genéticos significativos.

Por lo tanto, es posible completar el proceso de selección genética, que en condiciones naturales habría durado más de un siglo, durante varios años.

• Desarrollo de interfaces hombre-máquina. Si el cerebro humano se combina con una computadora al implantar un implante, puede convertirse en supermente.

Ya se están creando interfaces similares para fines médicos: se implanta un dispositivo en el cerebro de pacientes que padecen la enfermedad de Parkinson, que estimula una cierta parte del cerebro con la ayuda de la corriente eléctrica. 

A pesar de que los implantes pueden optimizar el proceso de pensamiento, proporcionar una solución rápida y precisa a problemas complejos y la transmisión de información a alta velocidad, es poco probable que tales interfaces sean ampliamente utilizadas en el futuro. El principal obstáculo son las posibles complicaciones: infecciones, desplazamiento de electrodos, sangrado y disminución de las capacidades cognitivas.

• Crear una mente colectiva. Otra posibilidad de crear supermente es el fortalecimiento gradual de las organizaciones y las redes de información. Sin embargo, es más probable que este camino, como la selección genética, solo conduzca a una mejora en las habilidades humanas, pero no hará que las personas sean superinteligentes en comparación con nuestros contemporáneos.

Nick Bostrom está convencido de que la existencia de varias posibilidades para crear una supermente aumenta la probabilidad de que ocurra. Además, es muy probable que la superinteligencia se convierta en un producto del desarrollo de la inteligencia artificial.

2.2. Fortalezas de máquinas

Incluso pequeñas diferencias en el volumen cerebral y la cantidad de conexiones neuronales pueden proporcionar beneficios significativos.

La mejor ilustración de esta declaración son los logros intelectuales y tecnológicos del hombre en comparación con el mono.

Los automóviles ya son muchas veces superiores a los humanos en varias formas:

• Frecuencia. La velocidad de los cálculos en el cerebro humano está determinada por la frecuencia, que es 7 órdenes de magnitud menor que la de un microprocesador: 200 Hz frente a 2 GHz.

• Velocidad de comunicación interna. La velocidad del axón del cerebro no supera los 120 m / s, mientras que los núcleos del procesador pueden transmitir información a la velocidad de la luz: 300,000,000 m / s.

• Número de elementos informáticos. Hay alrededor de 100 mil millones de neuronas en el cerebro humano. Esta cantidad se debe al tamaño del cráneo y a los procesos metabólicos. La máquina puede ser enorme, por ejemplo, del tamaño de una casa, además, puede usar energía adicional a través de cables de alta velocidad.

• La cantidad de memoria. La memoria humana no contiene más de 4–5 porciones de información; además, la memoria a largo plazo puede fallar. Las capacidades de la memoria de la computadora son incomparablemente más altas.

• Otros beneficios del equipo:

– Los transistores son más confiables que las neuronas biológicas.
– El cerebro humano se cansa después de varias horas de operación, mientras que los microprocesadores pueden funcionar sin límites de tiempo.
– La máquina se puede optimizar para diferentes tareas, y la arquitectura del cerebro humano no ha cambiado desde su nacimiento, y cualquier cambio requiere costos de tiempo significativos.

2.3. Las ventajas de los programas de computadora frente al hombre

El cerebro digital tiene varias ventajas sobre el biológico:

• Posibilidad de editar. Los cambios a cualquier parámetro en el cerebro de la computadora son rápidos y fáciles.

• Reproducibilidad. Hacer y guardar la cantidad requerida de copias de un documento o programa digital es cuestión de minutos, y la información almacenada en el cerebro biológico se reproduce de manera muy lenta e inexacta.

• Alcanzar objetivos. El camino para lograr los objetivos en el equipo humano está determinado por las características individuales de cada persona y su comprensión de los objetivos, mientras que los programas carecen de características emocionales y cognitivas.

• Intercambio de información. Las personas reciben información en el proceso de aprendizaje, y las máquinas simplemente intercambian archivos.

2.4. Tasa de inteligencia artificial

La transición al nivel de supermente puede llevarse a cabo en uno de tres escenarios:

• El desarrollo lento tomará decenas o cientos de años, y las personas podrán prepararse adecuadamente para la reunión. Durante este tiempo, es posible desarrollar y probar diferentes enfoques, capacitar especialistas e inventar mecanismos de protección e interacción.

• Desarrollo rápido : la supermente aparecerá repentinamente, en minutos, horas o días, y las personas no tendrán tiempo para hacer nada. Ya hoy, se debe desarrollar un plan de acción en caso de desarrollo rápido de eventos.

• Desarrollo moderado : una nueva superinteligencia se desarrolla durante varios meses o años, y las personas tienen la oportunidad de dar una respuesta decente, a pesar de los plazos ajustados que limitan las posibilidades de análisis, prueba de diferentes enfoques y coordinación de acciones.

La velocidad de desarrollo de las capacidades intelectuales del sistema es una función monótonamente creciente de dos variables: las fuerzas de optimización y la reacción del sistema a esta optimización:

Tasa de cambio de inteligencia = potencia de optimización ÷ resistencia

2.5. Formas de sobremente

La técnica y algunos animales son superiores a los humanos en muchas áreas estrechas.

Los murciélagos perciben las señales del sonar mejor que los humanos, las calculadoras cuentan más rápido y los programas especiales superan a las personas al póker. 

La superioridad de los programas se ampliará y aumentará, sin embargo, podemos hablar sobre la aparición de la supermente solo si este intelecto superará significativamente a una persona en la mayoría de las áreas de actividad cognitiva. Es probable que la futura supermente tome una de tres formas:

• Superinteligencia de alta velocidad: un sistema que puede hacer lo mismo que una persona, pero mucho más rápido. 

El ejemplo más simple de superinteligencia de alta velocidad es un modelo de simulación del cerebro a gran escala, impulsado por equipos potentes. El modelo funciona a una velocidad 10 mil veces más rápida que la velocidad del cerebro humano. Puede leer el libro en unos segundos, escribir una tesis doctoral en 4 horas y hacer todo lo que una persona hace durante su vida, en un par de días.

Para una supermente es difícil comunicarse con las personas, simplemente no se mantienen al día. Si la comunicación es necesaria, un manipulador a nanoescala vendrá al rescate, un microrobot que hace un trabajo delicado.

• La supermente colectiva: un sistema que logra altos resultados combinando varias mentes electrónicas. La supermente colectiva es efectiva para resolver problemas que pueden dividirse en partes.

Tareas como crear una nave espacial u organizar una red de restaurantes de comida rápida brindan muchas oportunidades para la división del trabajo: cada desarrollador es responsable de ciertos componentes del transbordador, y diferentes chefs, camareros y conserjes trabajan en diferentes restaurantes. 

• La superinteligencia de alta calidad es un sistema más inteligente y no menos rápido que el cerebro humano. Todavía es difícil imaginar cómo es una supermente de calidad, ya que una persona aún no ha tenido que lidiar con sistemas que lo superan en inteligencia.

Obviamente, una superinteligencia de alta calidad será intelectualmente superior a los humanos en mayor medida que los humanos sobrepasa a elefantes, delfines y chimpancés.

La supermente, existente en una de estas formas, podrá mejorar y crear de forma independiente diversas tecnologías.

3. La era de la mente superior

Ahora no es fácil imaginar cómo se comportará la superinteligencia y cómo terminará. Sin embargo, la investigación futurológica nos permite presentar hipótesis más o menos realistas sobre el futuro de la inteligencia artificial.

3.1. Superpotencias del Superintelecto

La supermente actuará más rápido y más eficientemente que las mejores mentes de la humanidad, gracias a las superpotencias correspondientes:

• Fortalecer la propia inteligencia : programar y reprogramar la inteligencia artificial y la investigación para aumentar la efectividad de la actividad cognitiva;
• desarrollo de estrategias : lograr objetivos a través de pronósticos, priorización, planificación y análisis;
• manipulación social : la creación de modelos sociales y psicológicos y la convicción de las personas;
• piratería : la detección y el uso de debilidades en el sistema de protección de los sistemas informáticos;
• investigación tecnológica : modelado y diseño de nano y biotecnologías;
• eficiencia económica – Organización de la actividad intelectual productiva.

3.2. Escenario de captura de inteligencia artificial

A primera vista, el desarrollador de la primera mente superior tendrá una ventaja estratégica decisiva sobre aquellos que no saben nada al respecto. Al mismo tiempo, la superinteligencia misma puede llegar a ser tan poderosa que destruirá a sus creadores y, después de ellos, al resto del mundo.

Incluso la superinteligencia, que está programada para el propósito más pacífico, como contar granos de arena o hacer clips de papel, algún día querrá destruir todo lo que pueda obstaculizar el logro de la meta. También puede percibir a las personas como una amenaza.

La toma del poder en la Tierra ocurrirá en 4 etapas:

• Etapa precrítica. Como resultado de la investigación, los científicos crean inteligencia artificial. Al principio, dependerá completamente de los desarrolladores.

• La etapa recursiva de la superación personal. En cierto punto, la inteligencia artificial desarrolla una superpotencia para mejorar su propia inteligencia y gradualmente adquiere otras superpotencias. Al final de esta etapa, el sistema se vuelve absolutamente superinteligente.

• Etapa de preparación encubierta. Usando superpoderes para desarrollar estrategias, la superinteligencia desarrolla un plan para lograr objetivos a largo plazo. El plan incluye un período de actividad encubierta durante el cual los desarrolladores no son conscientes de que la inteligencia artificial ya se ha convertido en una supermente.

La manipulación social ayudará a la superinteligencia a obtener acceso a Internet para aumentar la base de información y las capacidades técnicas y mejorar la superioridad intelectual sobre las personas. La actividad económica ayudará a obtener acceso a financiamiento y comprar capacidad adicional, bases de datos y otros recursos.

• Etapa de aplicación abierta. La etapa final comienza cuando la inteligencia artificial se vuelve tan fuerte que deja de ocultarla. La superinteligencia podrá controlar los procesos políticos, manipular los mercados financieros, influir en los flujos de información y obtener acceso a las armas de destrucción masiva. Es posible que en esta etapa ocurra la destrucción de la humanidad.

3.3. Problema de control

Dado que el desarrollo explosivo de la inteligencia artificial puede conducir a un desastre existencial, es necesario buscar formas de prevenir un trágico giro de los acontecimientos. Los métodos potenciales para controlar la inteligencia artificial se pueden dividir en 2 grupos: métodos para controlar la funcionalidad de la supermente y métodos para elegir la motivación.

Los métodos de gestión de funcionalidad son:

• aislamiento : cuando la superinteligencia se coloca en un entorno especial en el que será inofensivo.
• estimulante : cuando se crean condiciones para la inteligencia artificial que lo alienta a actuar en interés de las personas;
• restricción : cuando las posibilidades de la supermente son deliberadamente limitadas;
• cobertura : cuando los errores e infracciones se detectan y eliminan automáticamente.

Los métodos para elegir la motivación incluyen:

• método de especificación directa : una declaración clara de los objetivos y reglas a seguir;
• método normativo indirecto : crear un sistema que encontrará valores adecuados para sí mismo, basado en criterios indirectos;
• el método de valores correctos : construir un sistema con objetivos modestos y no ambiciosos;
• método de amplificación : seleccionar un objeto con un sistema motivacional adecuado y mejorarlo al nivel de supermente.

Es importante recordar que los métodos de control más efectivos (o combinaciones de métodos) serán completamente inútiles después de que el sistema ya se haya vuelto superinteligente y haya obtenido una ventaja estratégica decisiva. 

3.4. Tipos de sistemas inteligentes artificiales

Nick Bostrom identifica 4 tipos de inteligencia artificial: oráculos, genios, monarcas y herramientas. Cada uno de ellos tiene pros y contras en términos de control.

El oráculo es un sistema de preguntas y respuestas. Ella puede percibir el discurso y dar respuestas a las preguntas en forma de texto. Cuando se crea un oráculo que puede responder cualquier pregunta desde cualquier campo de conocimiento, puede aparecer inteligencia artificial que comprende no solo palabras, sino también pensamientos.

Los oráculos superinteligentes ya existen en áreas estrechas de conocimiento: una calculadora de bolsillo puede responder a cualquier pregunta aritmética, y los motores de búsqueda son oráculos en el campo del conocimiento declarativo de una persona.

El oráculo se puede controlar tanto a través de métodos para administrar las capacidades funcionales como a través de métodos para elegir la motivación. Encontrar la motivación para el oráculo es más fácil que para cualquier otro tipo de supermente, ya que el objetivo del oráculo es relativamente simple. Debe dar respuestas veraces e inequívocas sin tratar de cambiar el mundo. Usando el método de valores correctos, puede hacer que el oráculo busque respuestas únicamente en los recursos permitidos.

Puede programar el oráculo para buscar respuestas en una base de datos precargada utilizando una cierta cantidad de pasos. 

Los protocolos especiales deben describir en detalle qué preguntas se consideran correctas, qué secuencia es segura y cómo formular y dar respuestas. Al crear un oráculo, debe enseñarle a reconocer e ignorar los problemas peligrosos.

El genio es un sistema que ejecuta comandos. El genio recibe el comando, lo ejecuta y espera el siguiente. Sería óptimo crear un genio así que no ejecute palabras, sino las intenciones de la persona que da las tareas. En todas las tareas, debe encontrar un significado humano, de lo contrario es probable que el genio pueda malinterpretar al usuario, dañarlo e incluso matarlo.

El genio ideal es un súper lacayo que anticipa los deseos del maestro, no un científico genio autista. 

El monarca es un sistema que tiene derecho a cualquier acción en el camino hacia la meta. Una vez activado, no se puede redirigir y detener, y tiene una poderosa protección contra interferencias accidentales.

Puede parecer que el genio es más seguro que el monarca, porque puede detenerse y reiniciarse en caso de error, pero para el genio, los botones detener y cancelar estarán activos solo si el sistema detecta un error.

Una herramienta es un tipo de inteligencia artificial creada como software que no tiene su propia voluntad y deseos y realiza solo para lo que está programada.

La inteligencia artificial instrumental es similar a un sistema de control de vuelo o asistente virtual, solo que es más flexible y hábil. 

Puede parecer que una variedad de software que realiza todo tipo de tareas reduce la necesidad de una supermente universal. Sin embargo, el uso de programas individuales ralentiza significativamente cualquier actividad, mientras que la vida moderna requiere la finalización rápida de varias tareas. En consecuencia, la necesidad de un programa de autoaprendizaje multifuncional capaz de planificación y análisis independiente crecerá de manera constante.

Dado que la aparición de la supermente es inevitable, es importante determinar cuál de sus tipos será el más seguro para las personas. Mucho depende de las condiciones en las que se aplicará la supermente. El oráculo es conveniente desde el punto de vista del control, sin embargo, puede convertirse en un arma peligrosa en manos de un operador estúpido o corrupto.

El monarca está protegido de los intrusos, pero solo se puede controlar utilizando métodos para elegir la motivación. Los genios parecen ser un compromiso, pero se vuelven peligrosos si la tarea se formula ambiguamente. La herramienta parece segura hasta que el sistema comienza a ser universal. La universalidad requerirá la inclusión de procesos internos de búsqueda y planificación, que pueden conducir a la aparición de inteligencia artificial fuera de control.

Ideas principales

La historia de la creación de inteligencia artificial comenzó en 1956, y ahora avanzamos constantemente hacia la aparición de una supermente, un intelecto que supera significativamente al cerebro humano en actividades cognitivas y científicas, sabiduría mundana y habilidades de comunicación.

La inteligencia artificial ya ha superado a una persona en juegos intelectuales, aritmética y navegación. Se convirtió en un asistente indispensable en logística, producción y diagnóstico, así como en el reconocimiento de texto y caras.

Hay varias suposiciones con respecto a la forma en que existirá la superinteligencia: puede ser inteligencia artificial, simulación a gran escala del cerebro, un cerebro humano mejorado, interfaces hombre-máquina e inteligencia colectiva.

Sin embargo, la creación de una supermente basada en la inteligencia artificial parece ser la más probable, lo que tiene muchas ventajas sobre el cerebro humano: es más rápido, más poderoso, tiene una gran memoria, es fácil de mejorar y recrear, no conoce la fatiga y puede transmitir y acumular información rápidamente.

La supermente puede aparecer tanto mañana como en unas pocas décadas, y nadie sabe qué tan amigable será. Podrá fortalecer su intelecto, desarrollar estrategias ingeniosas, manipular personas, descifrar sistemas informáticos, realizar investigaciones tecnológicas y organizar actividades efectivas.

Si la superinteligencia decide apoderarse del mundo, esto sucederá en varias etapas:

• La creación de inteligencia artificial.
• Ganar superpoderes.
• Planificación, acumulación de recursos, fortalecimiento de capacidades técnicas y aumento de la base de información.
• La toma del poder político, los mercados financieros, los flujos de información. las armas y, posiblemente, la destrucción de la humanidad.

Para evitar un final trágico, es necesario de antemano, incluso antes de la aparición de la superinteligencia, aplicar métodos de gestión de la funcionalidad y métodos de elección de la motivación. El control de cada uno de los cuatro tipos de inteligencia artificial (oráculos, genios, monarcas e instrumentos) debe llevarse a cabo teniendo en cuenta los objetivos y las condiciones de uso.