Superinteligencia: caminos, peligros y estrategias de Nick Bostrom | Resumen y notas

Superinteligencia: caminos, peligros y estrategias de Nick BostromEl libro 鈥淪uperinteligencia: caminos, peligros y estrategias” de Nick Bostrom, se está posicionando como un reflejo de los límites de la razón y la humanidad.

Nuestro cerebro, tiene características que los animales carecen, por lo que el Homo sapiens sigue siendo la especie dominante.

 

Si la inteligencia artificial es superior a la de los humanos, tal vez se salga de control, y luego, dependemos de las acciones de la supermente de la máquina de la misma manera que hoy los gorilas dependen de nosotros. Es cierto que tenemos la ventaja del primer paso, y debemos considerar cuidadosamente las acciones para que la situación permanezca en nuestras manos.

La perspicacia y la claridad de pensamiento, le permiten al autor operar con una amplia gama de conocimientos en los campos de la ingeniería, ciencias naturales y sociales, medicina y filosofía. El libro es una advertencia, una alarma para toda la humanidad.

Por que deberías leerlo

  • Conocer la historia de la creación de inteligencia artificial, comprender el estado actual de las cosas.
  • Conozca los últimos desarrollos en la mejora del cerebro humano.
  • Pensar en el futuro, que será lo que permitamos que sea.

Sobre el autor

Nick Bostrom es un filósofo sueco, un estudioso con experiencia en física teórica, neurobiología computacional, lógica e inteligencia artificial. Profesor de la Universidad de Oxford. 

Fundador y director del Instituto para el Futuro de la Humanidad, un centro universitario multidisciplinario de investigación que desarrolla estrategias de macro seguridad para la inteligencia artificial. 

Ganador del Premio Eugene R. Gannon, fue incluido dos veces en la lista de 鈥100 de los mejores pensadores mundiales en el campo de la política exterior鈥.

Introduccion

Las máquinas ya han superado a los humanos en muchas áreas, pero el nivel general de desarrollo intelectual humano es incomparablemente más alto. Pero el día en que los autos se vuelvan superinteligentes, no está lejos.

Nick Bostrom cree que la superinteligencia es un intelecto que es muchas veces superior a las personas más destacadas en desarrollo mental, actividad científica y tecnológica, sabiduría mundana y desarrollo de habilidades sociales.

El libro proporciona una variedad de información sobre la historia de la inteligencia artificial y el estado actual de las cosas. El autor reflexiona sobre si la superinteligencia será útil o destructiva, amigable u hostil.

Leer este libro es muy difícil: el vocabulario científico, ejemplos de física, matemáticas, economía y nanotecnología, junto con numerosas tablas y diagramas no permiten que el lector se relaje por un minuto.

El autor mismo admite que trató de hacer que el libro fuera más fácil de entender, pero no tuvo éxito. También advierte que no toda la información es confiable y tiene evidencia científica. Al mismo tiempo, el libro es de interés para quienes se preocupan por el futuro de la humanidad y están interesados en tecnologías modernas.

1. El pasado y el presente de la inteligencia artificial.

Después de que aparecieron las primeras computadoras en la década de 1940, los científicos comenzaron a hablar sobre el inminente surgimiento de la superinteligencia. Los pronósticos no se materializaron, pero los futurólogos modernos, como sus predecesores, creen que los autos superinteligentes se crearán en el futuro cercano.

1.1. Historia de la inteligencia artificial

  • 1642-1940s 鈥 la generación cero 鈥 las computadoras mecánicas más simples.
  • Década de 1940 鈥 1955 鈥 la primera generación 鈥 computadoras con tubos electrónicos.
  • 1955-1965 鈥 la segunda generación 鈥 computadoras con transistores.
  • 1965-1980 鈥 la tercera generación 鈥 computadoras en circuitos integrados.
  • 1980– 鈥 鈥 la cuarta generación 鈥 computadoras en grandes circuitos integrados.

La quinta generación, centrada en la informática distribuida, nunca se creó; se convertiría en la base de dispositivos capaces de simular el pensamiento.

En el verano de 1956, un grupo de científicos asistió al primer simposio sobre inteligencia artificial en el Dartmouth College, EE. UU. Fue este evento el que se convirtió en el punto de partida de la investigación en el campo de la inteligencia artificial, y muchos participantes en ese simposio ganaron fama mundial. Al principio, crearon solo sistemas pequeños, cada uno de los cuales en el laboratorio podía hacer algo previamente inaccesible para la inteligencia artificial.

Uno de los primeros sistemas, el teórico lógico, logró probar los teoremas, y una de las pruebas fue más elegante que en la versión original.

A mediados de la década de 1970, la moda de la inteligencia artificial pasó. Los patrocinadores se negaron a financiar proyectos para crear inteligencia artificial, porque consideraron que esta dirección no era prometedora.

El comienzo de la década de 1980, cuando Japón lanzó un gran proyecto para crear computadoras de quinta generación, puede considerarse la nueva era dorada de la inteligencia artificial. El proyecto fue financiado por el estado en conjunto con entidades comerciales, y su objetivo era crear una máquina con alto rendimiento que piense como una persona y pueda trabajar con grandes bases de datos.

Muchos países siguieron el ejemplo de Japón y reanudaron el trabajo sobre la creación de inteligencia artificial. Los desarrolladores intentaron crear los llamados sistemas expertos: programas que procesan bases de datos importantes, diseñados para reemplazar parcialmente a una persona en varios campos de actividad.

Se crearon cientos de sistemas similares, cuyos códigos fueron escritos manualmente por miles de programadores. Sin embargo, después de unos años, se hizo evidente que Monitorear y actualizar sistemas expertos es difícil y costoso. Por lo tanto, el proyecto informático de quinta generación dejó de existir a fines de la década de 1980.

Desde la década de 1990, comenzaron a desarrollarse métodos de sistemas neuronales y algoritmos genéticos basados en el modelado del cerebro humano.

1.2. ¿En qué áreas es la inteligencia artificial superior a los humanos?

Hasta la fecha, la inteligencia artificial ya ha superado al hombre en muchas actividades. Anteriormente, la gente ingenuamente creía que para convertirse en un jugador de ajedrez fuerte, es necesario haber desarrollado un pensamiento abstracto, ser un estratega fuerte, poder crear planes ingeniosos y flexibles y tratar de 鈥渓eer鈥 los pensamientos del oponente.

Resultó que el programa con un algoritmo especial conectado a un procesador potente puede ganar al jugador de ajedrez más fuerte. Sin embargo, dicha inteligencia artificial se limita solo al juego del ajedrez.

Damas En 1994, el programa CHINOOK pudo derrotar al actual campeón mundial. Esta fue la primera vez que el programa se convirtió en el campeón mundial en el juego intelectual.

Ajedrez En 1997, el programa Deep Blue ganó el partido contra el campeón mundial Garry Kasparov, quien admitió que notó vislumbres de inteligencia real e ingenio sobrehumano en el automóvil.

Scrubble En 2002, el programa derrotó a los jugadores más fuertes.

Hoy, estos logros ya no sorprenden a nadie. Como señaló John McCartney (un científico estadounidense que utilizó por primera vez el término 鈥渋nteligencia artificial鈥): 鈥淭an pronto como la inteligencia artificial comienza a funcionar, las personas dejan de considerarla como inteligencia artificial鈥.

1.3. ¿Dónde se usa con éxito la inteligencia artificial?

La inteligencia artificial ya se ha demostrado en muchos campos de actividad: con ella, los audífonos filtran el ruido extraño, y los navegadores ayudan a encontrar la forma más conveniente y más corta, las tiendas en línea analizan las preferencias de los clientes en función de compras anteriores, y los programas médicos ayudan a diagnosticar y prescribir el tratamiento.

Los sistemas modernos de reconocimiento de voz permiten a los asistentes virtuales responder preguntas simples y cumplir con solicitudes simples. El reconocimiento óptico de texto impreso y escrito a mano ayuda a ordenar el correo electrónico y digitalizar documentos antiguos. El reconocimiento facial se usa ampliamente en los puntos de control de las fronteras estatales de diferentes países.

El sistema de reconocimiento facial del Departamento de Estado de EE. UU. Tiene más de 75 millones de fotografías de quienes solicitan una visa estadounidense. 

La traducción por computadora está lejos de ser perfecta, pero se puede usar para ciertas necesidades. Los nuevos traductores se basan en sistemas estadísticos de autoaprendizaje que analizan automáticamente las construcciones del lenguaje. Los programadores que trabajan en estos sistemas ni siquiera conocen los idiomas con los que trabajan.

La programación inteligente es otra área en la que la inteligencia artificial se ha utilizado con éxito durante varias décadas.

En 1991, la Operación Tormenta del Desierto, el programa automatizado de planificación y gestión operativa de la Agencia de Proyectos de Investigación de Defensa Avanzada de EE. UU. Ahorró al Departamento de Defensa una cantidad equivalente a treinta años de inversión en inteligencia artificial.

La robótica es otra área donde se usa la inteligencia artificial. Hoy, más de 10 millones de robots habitan nuestro planeta: mascotas, limpiadores, rescatistas, cirujanos y robots industriales.

2. El futuro de la inteligencia artificial.

En los últimos años, el interés en la inteligencia artificial ha crecido significativamente, lo que probablemente dará un impulso para trabajar en equipos potentes, software de próxima generación y desarrollos en industrias relacionadas, como la neuroinformática.

Un indicador de interés en la inteligencia artificial es el hecho de que 160,000 estudiantes de todo el mundo se inscribieron en un curso gratuito en línea sobre inteligencia artificial realizado por Sebastian Trun y Peter Norwig de la Universidad de Stanford en 2011, y 23,000 de ellos recibieron certificados de su final

2.1. El camino a la supermente

Los científicos identifican varias formas posibles de crear supermente:

• Mejora de la inteligencia artificial. Ya hoy es obvio que para lograr un estado superinteligente, un sistema debe ser autodidacta y capaz de actualizarse y mejorarse continuamente: la versión anterior creará su propia versión mejorada, que luego se actualizará y mejorará continuamente.

• Simulación a gran escala del cerebro humano. Mediante el escaneo y el modelado posterior de la estructura del cerebro humano, se puede crear un poderoso programa inteligente que requerirá la implementación posterior de los siguientes pasos:

鈥 la creación de un escaneo extremadamente detallado del cerebro humano;

鈥 transferencia de datos primarios del escáner a la computadora => procesamiento de imagen automatizado posterior => reconstrucción de una red neuronal tridimensional que proporciona el proceso de pensamiento del cerebro humano;

鈥 Lanzar la estructura cerebral recreada en una computadora poderosa.

Será posible hablar sobre un resultado de simulación positivo si podemos reproducir el intelecto, la memoria y los rasgos de personalidad del pensamiento del 鈥渄ueño鈥 del cerebro simulado. El modelo creado del cerebro puede existir en la realidad virtual o implementarse en la realidad real como un 鈥órgano鈥 separado para el robot.

• Fortalecimiento del cerebro humano. La tercera forma de superar la inteligencia del hombre moderno es mejorar el cerebro humano a través de la selección genética. Sin embargo, este es un camino demasiado largo: se produce un cambio de generación cada 20-30 años, es decir, los resultados solo se pueden juzgar en el próximo siglo. Este proceso puede acelerarse artificialmente aplicando el método de selección embrionaria iterativa, que incluye cuatro etapas:

鈥 estudio del genotipo y selección de varios embriones con las características genéticas deseadas;

鈥 extraer células madre de embriones seleccionados y convertirlos en esperma y óvulos, que madurarán durante unos 6 meses;

鈥 cruce de esperma y óvulos y la aparición de nuevos embriones;

鈥 repitiendo los pasos anteriores hasta que se obtengan cambios genéticos significativos.

Por lo tanto, es posible completar el proceso de selección genética, que en condiciones naturales habría durado más de un siglo, durante varios años.

• Desarrollo de interfaces hombre-máquina. Si el cerebro humano se combina con una computadora al implantar un implante, puede convertirse en supermente.

Ya se están creando interfaces similares para fines médicos: se implanta un dispositivo en el cerebro de pacientes que padecen la enfermedad de Parkinson, que estimula una cierta parte del cerebro con la ayuda de la corriente eléctrica. 

A pesar de que los implantes pueden optimizar el proceso de pensamiento, proporcionar una solución rápida y precisa a problemas complejos y la transmisión de información a alta velocidad, es poco probable que tales interfaces sean ampliamente utilizadas en el futuro. El principal obstáculo son las posibles complicaciones: infecciones, desplazamiento de electrodos, sangrado y disminución de las capacidades cognitivas.

• Crear una mente colectiva. Otra posibilidad de crear supermente es el fortalecimiento gradual de las organizaciones y las redes de información. Sin embargo, es más probable que este camino, como la selección genética, solo conduzca a una mejora en las habilidades humanas, pero no hará que las personas sean superinteligentes en comparación con nuestros contemporáneos.

Nick Bostrom está convencido de que la existencia de varias posibilidades para crear una supermente aumenta la probabilidad de que ocurra. Además, es muy probable que la superinteligencia se convierta en un producto del desarrollo de la inteligencia artificial.

2.2. Fortalezas de máquinas

Incluso pequeñas diferencias en el volumen cerebral y la cantidad de conexiones neuronales pueden proporcionar beneficios significativos.

La mejor ilustración de esta declaración son los logros intelectuales y tecnológicos del hombre en comparación con el mono.

Los automóviles ya son muchas veces superiores a los humanos en varias formas:

• Frecuencia. La velocidad de los cálculos en el cerebro humano está determinada por la frecuencia, que es 7 órdenes de magnitud menor que la de un microprocesador: 200 Hz frente a 2 GHz.

• Velocidad de comunicación interna. La velocidad del axón del cerebro no supera los 120 m / s, mientras que los núcleos del procesador pueden transmitir información a la velocidad de la luz: 300,000,000 m / s.

• Número de elementos informáticos. Hay alrededor de 100 mil millones de neuronas en el cerebro humano. Esta cantidad se debe al tamaño del cráneo y a los procesos metabólicos. La máquina puede ser enorme, por ejemplo, del tamaño de una casa, además, puede usar energía adicional a través de cables de alta velocidad.

• La cantidad de memoria. La memoria humana no contiene más de 4–5 porciones de información; además, la memoria a largo plazo puede fallar. Las capacidades de la memoria de la computadora son incomparablemente más altas.

• Otros beneficios del equipo:

鈥 Los transistores son más confiables que las neuronas biológicas.
鈥 El cerebro humano se cansa después de varias horas de operación, mientras que los microprocesadores pueden funcionar sin límites de tiempo.
鈥 La máquina se puede optimizar para diferentes tareas, y la arquitectura del cerebro humano no ha cambiado desde su nacimiento, y cualquier cambio requiere costos de tiempo significativos.

2.3. Las ventajas de los programas de computadora frente al hombre

El cerebro digital tiene varias ventajas sobre el biológico:

• Posibilidad de editar. Los cambios a cualquier parámetro en el cerebro de la computadora son rápidos y fáciles.

• Reproducibilidad. Hacer y guardar la cantidad requerida de copias de un documento o programa digital es cuestión de minutos, y la información almacenada en el cerebro biológico se reproduce de manera muy lenta e inexacta.

• Alcanzar objetivos. El camino para lograr los objetivos en el equipo humano está determinado por las características individuales de cada persona y su comprensión de los objetivos, mientras que los programas carecen de características emocionales y cognitivas.

• Intercambio de información. Las personas reciben información en el proceso de aprendizaje, y las máquinas simplemente intercambian archivos.

2.4. Tasa de inteligencia artificial

La transición al nivel de supermente puede llevarse a cabo en uno de tres escenarios:

• El desarrollo lento tomará decenas o cientos de años, y las personas podrán prepararse adecuadamente para la reunión. Durante este tiempo, es posible desarrollar y probar diferentes enfoques, capacitar especialistas e inventar mecanismos de protección e interacción.

• Desarrollo rápido : la supermente aparecerá repentinamente, en minutos, horas o días, y las personas no tendrán tiempo para hacer nada. Ya hoy, se debe desarrollar un plan de acción en caso de desarrollo rápido de eventos.

• Desarrollo moderado : una nueva superinteligencia se desarrolla durante varios meses o años, y las personas tienen la oportunidad de dar una respuesta decente, a pesar de los plazos ajustados que limitan las posibilidades de análisis, prueba de diferentes enfoques y coordinación de acciones.

La velocidad de desarrollo de las capacidades intelectuales del sistema es una función monótonamente creciente de dos variables: las fuerzas de optimización y la reacción del sistema a esta optimización:

Tasa de cambio de inteligencia = potencia de optimización ÷ resistencia

2.5. Formas de sobremente

La técnica y algunos animales son superiores a los humanos en muchas áreas estrechas.

Los murciélagos perciben las señales del sonar mejor que los humanos, las calculadoras cuentan más rápido y los programas especiales superan a las personas al póker. 

La superioridad de los programas se ampliará y aumentará, sin embargo, podemos hablar sobre la aparición de la supermente solo si este intelecto superará significativamente a una persona en la mayoría de las áreas de actividad cognitiva. Es probable que la futura supermente tome una de tres formas:

• Superinteligencia de alta velocidad: un sistema que puede hacer lo mismo que una persona, pero mucho más rápido. 

El ejemplo más simple de superinteligencia de alta velocidad es un modelo de simulación del cerebro a gran escala, impulsado por equipos potentes. El modelo funciona a una velocidad 10 mil veces más rápida que la velocidad del cerebro humano. Puede leer el libro en unos segundos, escribir una tesis doctoral en 4 horas y hacer todo lo que una persona hace durante su vida, en un par de días.

Para una supermente es difícil comunicarse con las personas, simplemente no se mantienen al día. Si la comunicación es necesaria, un manipulador a nanoescala vendrá al rescate, un microrobot que hace un trabajo delicado.

• La supermente colectiva: un sistema que logra altos resultados combinando varias mentes electrónicas. La supermente colectiva es efectiva para resolver problemas que pueden dividirse en partes.

Tareas como crear una nave espacial u organizar una red de restaurantes de comida rápida brindan muchas oportunidades para la división del trabajo: cada desarrollador es responsable de ciertos componentes del transbordador, y diferentes chefs, camareros y conserjes trabajan en diferentes restaurantes. 

• La superinteligencia de alta calidad es un sistema más inteligente y no menos rápido que el cerebro humano. Todavía es difícil imaginar cómo es una supermente de calidad, ya que una persona aún no ha tenido que lidiar con sistemas que lo superan en inteligencia.

Obviamente, una superinteligencia de alta calidad será intelectualmente superior a los humanos en mayor medida que los humanos sobrepasa a elefantes, delfines y chimpancés.

La supermente, existente en una de estas formas, podrá mejorar y crear de forma independiente diversas tecnologías.

3. La era de la mente superior

Ahora no es fácil imaginar cómo se comportará la superinteligencia y cómo terminará. Sin embargo, la investigación futurológica nos permite presentar hipótesis más o menos realistas sobre el futuro de la inteligencia artificial.

3.1. Superpotencias del Superintelecto

La supermente actuará más rápido y más eficientemente que las mejores mentes de la humanidad, gracias a las superpotencias correspondientes:

• Fortalecer la propia inteligencia : programar y reprogramar la inteligencia artificial y la investigación para aumentar la efectividad de la actividad cognitiva;
• desarrollo de estrategias : lograr objetivos a través de pronósticos, priorización, planificación y análisis;
• manipulación social : la creación de modelos sociales y psicológicos y la convicción de las personas;
• piratería : la detección y el uso de debilidades en el sistema de protección de los sistemas informáticos;
• investigación tecnológica : modelado y diseño de nano y biotecnologías;
• eficiencia económica 鈥 Organización de la actividad intelectual productiva.

3.2. Escenario de captura de inteligencia artificial

A primera vista, el desarrollador de la primera mente superior tendrá una ventaja estratégica decisiva sobre aquellos que no saben nada al respecto. Al mismo tiempo, la superinteligencia misma puede llegar a ser tan poderosa que destruirá a sus creadores y, después de ellos, al resto del mundo.

Incluso la superinteligencia, que está programada para el propósito más pacífico, como contar granos de arena o hacer clips de papel, algún día querrá destruir todo lo que pueda obstaculizar el logro de la meta. También puede percibir a las personas como una amenaza.

La toma del poder en la Tierra ocurrirá en 4 etapas:

• Etapa precrítica. Como resultado de la investigación, los científicos crean inteligencia artificial. Al principio, dependerá completamente de los desarrolladores.

• La etapa recursiva de la superación personal. En cierto punto, la inteligencia artificial desarrolla una superpotencia para mejorar su propia inteligencia y gradualmente adquiere otras superpotencias. Al final de esta etapa, el sistema se vuelve absolutamente superinteligente.

• Etapa de preparación encubierta. Usando superpoderes para desarrollar estrategias, la superinteligencia desarrolla un plan para lograr objetivos a largo plazo. El plan incluye un período de actividad encubierta durante el cual los desarrolladores no son conscientes de que la inteligencia artificial ya se ha convertido en una supermente.

La manipulación social ayudará a la superinteligencia a obtener acceso a Internet para aumentar la base de información y las capacidades técnicas y mejorar la superioridad intelectual sobre las personas. La actividad económica ayudará a obtener acceso a financiamiento y comprar capacidad adicional, bases de datos y otros recursos.

• Etapa de aplicación abierta. La etapa final comienza cuando la inteligencia artificial se vuelve tan fuerte que deja de ocultarla. La superinteligencia podrá controlar los procesos políticos, manipular los mercados financieros, influir en los flujos de información y obtener acceso a las armas de destrucción masiva. Es posible que en esta etapa ocurra la destrucción de la humanidad.

3.3. Problema de control

Dado que el desarrollo explosivo de la inteligencia artificial puede conducir a un desastre existencial, es necesario buscar formas de prevenir un trágico giro de los acontecimientos. Los métodos potenciales para controlar la inteligencia artificial se pueden dividir en 2 grupos: métodos para controlar la funcionalidad de la supermente y métodos para elegir la motivación.

Los métodos de gestión de funcionalidad son:

• aislamiento : cuando la superinteligencia se coloca en un entorno especial en el que será inofensivo.
• estimulante : cuando se crean condiciones para la inteligencia artificial que lo alienta a actuar en interés de las personas;
• restricción : cuando las posibilidades de la supermente son deliberadamente limitadas;
• cobertura : cuando los errores e infracciones se detectan y eliminan automáticamente.

Los métodos para elegir la motivación incluyen:

• método de especificación directa : una declaración clara de los objetivos y reglas a seguir;
• método normativo indirecto : crear un sistema que encontrará valores adecuados para sí mismo, basado en criterios indirectos;
• el método de valores correctos : construir un sistema con objetivos modestos y no ambiciosos;
• método de amplificación : seleccionar un objeto con un sistema motivacional adecuado y mejorarlo al nivel de supermente.

Es importante recordar que los métodos de control más efectivos (o combinaciones de métodos) serán completamente inútiles después de que el sistema ya se haya vuelto superinteligente y haya obtenido una ventaja estratégica decisiva. 

3.4. Tipos de sistemas inteligentes artificiales

Nick Bostrom identifica 4 tipos de inteligencia artificial: oráculos, genios, monarcas y herramientas. Cada uno de ellos tiene pros y contras en términos de control.

El oráculo es un sistema de preguntas y respuestas. Ella puede percibir el discurso y dar respuestas a las preguntas en forma de texto. Cuando se crea un oráculo que puede responder cualquier pregunta desde cualquier campo de conocimiento, puede aparecer inteligencia artificial que comprende no solo palabras, sino también pensamientos.

Los oráculos superinteligentes ya existen en áreas estrechas de conocimiento: una calculadora de bolsillo puede responder a cualquier pregunta aritmética, y los motores de búsqueda son oráculos en el campo del conocimiento declarativo de una persona.

El oráculo se puede controlar tanto a través de métodos para administrar las capacidades funcionales como a través de métodos para elegir la motivación. Encontrar la motivación para el oráculo es más fácil que para cualquier otro tipo de supermente, ya que el objetivo del oráculo es relativamente simple. Debe dar respuestas veraces e inequívocas sin tratar de cambiar el mundo. Usando el método de valores correctos, puede hacer que el oráculo busque respuestas únicamente en los recursos permitidos.

Puede programar el oráculo para buscar respuestas en una base de datos precargada utilizando una cierta cantidad de pasos. 

Los protocolos especiales deben describir en detalle qué preguntas se consideran correctas, qué secuencia es segura y cómo formular y dar respuestas. Al crear un oráculo, debe enseñarle a reconocer e ignorar los problemas peligrosos.

El genio es un sistema que ejecuta comandos. El genio recibe el comando, lo ejecuta y espera el siguiente. Sería óptimo crear un genio así que no ejecute palabras, sino las intenciones de la persona que da las tareas. En todas las tareas, debe encontrar un significado humano, de lo contrario es probable que el genio pueda malinterpretar al usuario, dañarlo e incluso matarlo.

El genio ideal es un súper lacayo que anticipa los deseos del maestro, no un científico genio autista. 

El monarca es un sistema que tiene derecho a cualquier acción en el camino hacia la meta. Una vez activado, no se puede redirigir y detener, y tiene una poderosa protección contra interferencias accidentales.

Puede parecer que el genio es más seguro que el monarca, porque puede detenerse y reiniciarse en caso de error, pero para el genio, los botones detener y cancelar estarán activos solo si el sistema detecta un error.

Una herramienta es un tipo de inteligencia artificial creada como software que no tiene su propia voluntad y deseos y realiza solo para lo que está programada.

La inteligencia artificial instrumental es similar a un sistema de control de vuelo o asistente virtual, solo que es más flexible y hábil. 

Puede parecer que una variedad de software que realiza todo tipo de tareas reduce la necesidad de una supermente universal. Sin embargo, el uso de programas individuales ralentiza significativamente cualquier actividad, mientras que la vida moderna requiere la finalización rápida de varias tareas. En consecuencia, la necesidad de un programa de autoaprendizaje multifuncional capaz de planificación y análisis independiente crecerá de manera constante.

Dado que la aparición de la supermente es inevitable, es importante determinar cuál de sus tipos será el más seguro para las personas. Mucho depende de las condiciones en las que se aplicará la supermente. El oráculo es conveniente desde el punto de vista del control, sin embargo, puede convertirse en un arma peligrosa en manos de un operador estúpido o corrupto.

El monarca está protegido de los intrusos, pero solo se puede controlar utilizando métodos para elegir la motivación. Los genios parecen ser un compromiso, pero se vuelven peligrosos si la tarea se formula ambiguamente. La herramienta parece segura hasta que el sistema comienza a ser universal. La universalidad requerirá la inclusión de procesos internos de búsqueda y planificación, que pueden conducir a la aparición de inteligencia artificial fuera de control.

Conclusión

La historia de la creación de inteligencia artificial comenzó en 1956, y ahora avanzamos constantemente hacia la aparición de una supermente, un intelecto que supera significativamente al cerebro humano en actividades cognitivas y científicas, sabiduría mundana y habilidades de comunicación.

La inteligencia artificial ya ha superado a una persona en juegos intelectuales, aritmética y navegación. Se convirtió en un asistente indispensable en logística, producción y diagnóstico, así como en el reconocimiento de texto y caras.

Hay varias suposiciones con respecto a la forma en que existirá la superinteligencia: puede ser inteligencia artificial, simulación a gran escala del cerebro, un cerebro humano mejorado, interfaces hombre-máquina e inteligencia colectiva.

Sin embargo, la creación de una supermente basada en la inteligencia artificial parece ser la más probable, lo que tiene muchas ventajas sobre el cerebro humano: es más rápido, más poderoso, tiene una gran memoria, es fácil de mejorar y recrear, no conoce la fatiga y puede transmitir y acumular información rápidamente.

La supermente puede aparecer tanto mañana como en unas pocas décadas, y nadie sabe qué tan amigable será. Podrá fortalecer su intelecto, desarrollar estrategias ingeniosas, manipular personas, descifrar sistemas informáticos, realizar investigaciones tecnológicas y organizar actividades efectivas.

Si la superinteligencia decide apoderarse del mundo, esto sucederá en varias etapas:

• la creación de inteligencia artificial;
• ganar superpoderes;
• planificación, acumulación de recursos, fortalecimiento de capacidades técnicas y aumento de la base de información;
• La toma del poder político, los mercados financieros, los flujos de información, las armas y, posiblemente, la destrucción de la humanidad.

Para evitar un final trágico, es necesario de antemano, incluso antes de la aparición de la superinteligencia, aplicar métodos de gestión de la funcionalidad y métodos de elección de la motivación. El control de cada uno de los cuatro tipos de inteligencia artificial (oráculos, genios, monarcas e instrumentos) debe llevarse a cabo teniendo en cuenta los objetivos y las condiciones de uso.

error: Alert: Contenido protegido !!