En el libro Vida 3.0, Max Tegmark describe logros innovadores en el campo de la inteligencia artificial y explica cómo una máquina puede superar a una persona.
Las nuevas tecnologías ya están afectando el crimen, la guerra, la justicia, el empleo e incluso los sentimientos humanos.
El autor se pregunta si la prosperidad humana se puede lograr mediante la automatización.
¿Deberíamos desconfiar de una carrera armamentista en el campo de las armas letales autónomas?
¿Pueden los autos reemplazar a los humanos?
El libro brinda la oportunidad de unirse a la discusión más importante de nuestro tiempo.
Considera todos los puntos de vista y no rehuye los temas más controvertidos: si una persona es capaz de hacer frente a la inteligencia artificial y cuáles son nuestras posibilidades de coexistencia pacífica con máquinas inteligentes.
Aunque el libro no discute los efectos a corto y mediano plazo de la inteligencia artificial, vale la pena leerlo para mirar el futuro y analizar sus consecuencias. Eso si, sin una mirada técnica y más cercana a una novela de ciencia ficción. Y como el autor mismo menciona en el libro, no deja de ser especulación sobre lo que podría pasar.
Por qué leerlo
- Comprende qué profesiones se demandarán y cuáles se convertirán en cosa del pasado para orientar adecuadamente a nuestros hijos.
- Descubre por qué en el futuro cercano, la toma de poder por parte de las máquinas es imposible.
- Conocer todos los escenarios posibles de la nueva vida de la humanidad a largo plazo.
Vida 3.0: lo que significa ser humano en la era de la inteligencia artificial
El debate sobre la era de la inteligencia artificial ha estado ocurriendo durante décadas, los laboratorios universitarios y las grandes compañías tecnológicas se están desarrollando.
Pero nadie sabe exactamente qué sucederá cuando la inteligencia artificial supere por completo a la mente biológica, aprenda a programarse de forma independiente y crear otras formas de la mente.
Una cosa está clara: una nueva era está a la vuelta de la esquina, porque las máquinas han aprendido a pensar y comunicarse casi como las personas.
Aprenden por sí mismos, reconocen el habla humana, resuelven problemas complejos y golpean con la aplastante puntuación de los campeones mundiales de ajedrez
. A nadie le sorprende que las aspiradoras robóticas «vayan» a sus hogares, y chatear con bots de chat no es diferente de las conversaciones en línea con personas en vivo.
Sin embargo, hasta ahora, la inteligencia artificial ha estado al servicio del hombre y bajo su control.
Max Tagmark, profesor de física en el MIT y presidente del Instituto para el Futuro de la Vida, estudió la historia del desarrollo de la inteligencia artificial, visitó los mejores laboratorios involucrados en el desarrollo en este campo, organizó la mayor conferencia sobre inteligencia artificial y llegó a la conclusión de que la era de la inteligencia artificial no es una pesadilla. , pero solo una nueva etapa en el desarrollo del mundo y la humanidad, cuya transición es inevitable.
Sin embargo, esto no significa que uno deba esperar humildemente el levantamiento de las máquinas o el fin del mundo.
Este es nuestro futuro y podemos gestionarlo. El autor considera una variedad de escenarios, desde realistas hasta utópicos. Vida 3.0″ de Max Tagmark es neutral y científicamente sólido.
Max considera que la más crítica es nuestra propia elección informada: cómo exactamente queremos ver nuestro futuro, cuántas tareas y operaciones queremos transmitir a esta nueva forma de razón, cómo exactamente vamos a mantener el control sobre él y nuestras vidas.
Estos son temas mucho más prácticos y constructivos que tratar de detener el progreso mediante gritos histéricos y utopías de predicación.
1. Tres formas de vida
La vida en el sentido más amplio es un sistema de procesamiento de información auto-reproducible.
Tanto el curso de la vida como su diseño dependen de esta información (software). A medida que el Universo se volvió más y más complicado después del Big Bang, la vida que se originó en él se vuelve cada vez más compleja e interesante.
La vida tiene tres formas o niveles de dificultad: vida 1.0, vida 2.0 y vida 3.0, que el autor comparte sobre la base de la capacidad de un portador de vida para cambiar su programa (firmware) y diseño.
1.1.Vida 1.0 (evolución biológica) Life en la versión 1.0 no puede cambiar su programa o diseño. Todos los cambios ocurren solo como resultado de la evolución.
No se sabe cuándo apareció la vida en el universo, pero en la Tierra surgió hace 4 mil millones de años, y pronto el planeta se llenó de varias formas de vida.
Como resultado de la selección natural, el más apto sobrevivió: quién podría responder a los cambios ambientales.
Recopilaron información sobre el mundo exterior mediante sensores, la procesaron y se comportaron de una manera determinada (beneficiosa para ellos mismos).
Muchas bacterias tienen un sensor que detecta la concentración de azúcar en un líquido. Además, las bacterias pueden nadar con un flagelo que se asemeja a una hélice. El equipo, incluido el sensor y el flagelo, funciona de la siguiente manera: si el sensor indica que el nivel de azúcar se ha reducido más que hace unos segundos, el flagelo comienza a girar y la dirección del movimiento de la bacteria cambia.
Las bacterias no necesitan aprender a nadar ni medir el contenido de azúcar en el agua. Su estructura y programa de actividad están integrados en el ADN y no cambian todo el período de la vida bacteriana. Tanto la forma del flagelo como la sensibilidad al azúcar, y el algoritmo de comportamiento son el resultado de largos cambios evolutivos.
1.2. Vida 2.0 (evolución cultural)
Vida 2.0 puede rediseñar su software, pero no puede cambiar su diseño. Esta forma de vida apareció hace unos 100 mil años, con el advenimiento de la humanidad.
Las personas pueden cambiar desde adentro: aprender idiomas extranjeros, aprender nuevas habilidades, bromear, cambiar actitudes y objetivos.
El software humano se forma en el proceso de aprendizaje. En los primeros años, los padres y los maestros participan en la capacitación, y luego la persona misma determina qué agregar a su programa: qué idioma estudiar en la escuela, en qué universidad ingresar, jugar bádminton o borradores, etc.
Life 2.0 es más perfecto, flexible y más diverso que la vida 1.0.
Las bacterias no pueden aprender y cambiar el comportamiento, y las personas pueden responder instantáneamente a una situación cambiada. La resistencia a los antibióticos de una bacteria se ha desarrollado durante muchas generaciones: la bacteria no puede esconderse o defenderse de manera diferente del antibiótico, y un niño que alguna vez tuvo un ataque de alergia cambiará inmediatamente su comportamiento: ya no comerá miel ni nueces.
Fue la flexibilidad lo que permitió que la vida 2.0 dominara la tierra. La mente colectiva humana se liberó de las restricciones genéticas y comenzó a desarrollarse a un ritmo creciente: lenguaje, escritura, tipografía, ciencia moderna, computadoras, Internet …
A las personas modernas se les puede llamar forma de vida 2.1: hemos aprendido a cambiar ligeramente nuestro diseño, por ejemplo, para insertar dientes y articulaciones artificiales, pero aún no podemos hacer cambios significativos: no sabemos cómo aumentar el cerebro varias veces o convertirse en un crecimiento de un edificio de varios pisos.
1.3.Vida 3.0 (evolución tecnológica)
La vida 3.0 aún no existe en nuestro planeta. Pero aparecerá en las próximas décadas o siglos, posiblemente incluso durante nuestra vida.
Esta nueva forma de vida no esperará cambios evolutivos, pero podrá cambiar independientemente tanto su programa como su diseño.
A pesar de todo el conocimiento, los descubrimientos y las tecnologías disponibles para la humanidad, nuestra vida todavía está limitada por nuestra construcción biológica.
No podemos vivir durante mil años, recordar toda la información de Wikipedia, comprender todos los campos científicos y volar al espacio, cuando lo desee, sin una nave espacial.
2. Esperando la vida 3.0
Los investigadores de inteligencia artificial dan diferentes predicciones sobre el surgimiento de la supermente, que difieren no solo en esencia, sino también en las reacciones emocionales, desde el optimismo confiado hasta las preocupaciones que bordean el pánico.
2.1. Mitos comunes Las preguntas principales sobre las cuales surgen disputas feroces son «¿Cuándo vendrá la vida 3.0?», «¿Qué sucederá exactamente?» y «¿Qué será para la humanidad?» Todas estas preguntas están conectadas con mitos conflictivos.
| Mito | Realidad |
| La supermente inevitablemente aparecerá antes de 2100. | Esto puede suceder en unas pocas décadas, siglos o nunca suceder. Los expertos no están de acuerdo. |
| Overmind no puede ocurrir hasta 2100. | |
| La inteligencia artificial es malvada. | La inteligencia artificial se está volviendo más competente e independiente. |
| La inteligencia artificial tendrá sentido común. | |
| El principal peligro son los robots. | La inteligencia artificial no necesita un caparazón físico, es intangible. |
| La inteligencia artificial no podrá controlar a las personas. | Un intelecto más poderoso controla uno más débil. Los humanos controlan los tigres a pesar de que los tigres son más fuertes y más rápidos. |
| Los autos no tienen metas. | Un cohete con un sistema de referencia térmica tiene un propósito. |
| La supermente ya está cerca (pánico). | Antes de la era de la supermente, al menos unas pocas décadas más, pero debemos prepararnos ahora. |
2.2. Inteligencia artificial segura
Todo lo que es querido para nosotros en la vida es un producto de la mente humana. Pero nuestra vida puede ser aún mejor y más diversa con la ayuda de la inteligencia artificial.
La tecnología de la información ya ha tenido un impacto positivo en todas las esferas de la vida humana, desde la medicina y la educación hasta la energía y las finanzas, pero cuanto más dependemos de la inteligencia artificial, más nos preocupamos de si actuará en nuestros intereses.
Por lo general, aprendemos de los errores.
La gente aprendió a hacer fuego, que a menudo causaba incendios, por lo que tuvieron que crear un extintor, una salida de incendios y una alarma contra incendios. Inventamos autos que a menudo chocaban, y había una necesidad de bolsas de aire y cinturones de seguridad. Sin embargo, en el caso de la inteligencia artificial, el precio de un error puede ser demasiado alto, incluso fatal.
Cuanto más potentes sean las tecnologías, menos debemos confiar en la prueba y el error.
Los errores del programa y el mal funcionamiento en las redes han sucedido antes, pero hoy en día la inteligencia artificial ha ido más allá de la esfera de la computadora: debido a errores en el programa, el mercado de valores puede colapsar y estalla una catástrofe nuclear.
La puesta en marcha de equipos que utilizan inteligencia artificial debe realizarse en cuatro etapas: verificación, confirmación, fiabilidad y control.
2.3. Economía del futuro
La economía cambiará. Podremos recibir gratis todo lo necesario para la vida.
Ya hoy en Canadá, Finlandia y los Países Bajos, se están realizando experimentos para proporcionar a los ciudadanos un ingreso básico garantizado, y las cifras públicas en muchos países dicen que la idea de compartir la riqueza es relevante hoy, cuando la brecha entre ricos y pobres está creciendo.
Anteriormente, pagamos las llamadas telefónicas, ahora nos comunicamos con los seres queridos de forma gratuita, tuvimos que comprar enciclopedias y atlas, ahora toda la información está disponible en la red libremente.
En el futuro, pocos de nosotros trabajaremos, y el desempleo será más alto que nunca. El conductor, una de las profesiones más populares, pronto desaparecerá. Ya se están probando vehículos no tripulados y pronto aparecerán en las carreteras, y luego reemplazarán a los autos tradicionales.
Se requerirán ocupaciones en las que la creatividad, las habilidades sociales desarrolladas y la capacidad de trabajar en condiciones cambiantes sean importantes.
Y donde se necesitan acciones repetitivas estructuradas y cálculos precisos, las máquinas ahora son más eficientes que las personas. Las perspectivas serán la profesión de abogado, trabajador social, psicólogo, médico, masajista y maestro. Y los maquinistas, cajeros y panaderos pronto serán reemplazados por robots.
Sin embargo, una sociedad donde habrá muchos desempleados puede ser bastante exitosa si las personas aprenden a encontrar alegría no solo en sus carreras, dinero y posición en la sociedad, sino también en las conexiones sociales, estilos de vida saludables, estudio, pasatiempos, aceptar sus propias características, sentirse parte de sí mismas. todo importante
2.4. Leyes del futuro
En el proceso de preparación para la vida 3.0, es necesario adaptar la legislación a la presencia de inteligencia artificial en todas las áreas de la vida.
Se debe prestar especial atención a los problemas de privacidad, obligaciones financieras y regulaciones relacionadas con la propiedad.
En derecho internacional, es importante considerar todos los aspectos relacionados con las armas. En las autoridades policiales y judiciales, la inteligencia artificial ayudará a mejorar la detección del delito.
Los robots operativos no perderán una sola evidencia, y los jueces robóticos serán imparciales e incorruptible. Trabajarán sin dormir y descansarán hasta que se logre el resultado deseado.
3. ¿Cuál será la vida 3.0
Hay una gran cantidad de opciones de vida 3.0: desde la aparición inesperada de una poderosa supermente que puede hacer cualquier cosa con el mundo, hasta una transición gradual a un nuevo nivel donde la inteligencia artificial puede ser igual a la gente, servirla e incluso destruirla o subyugarla a tu mismo.
Es posible que la superinteligencia nunca se cree, porque la gente abandonará el progreso científico y tecnológico o se destruirá a sí misma.
3.1. Inteligencia Artificial Big Bang
Una toma repentina del mundo por parte de la mente no es posible en el futuro cercano, porque al menos dos etapas deben preceder a esta toma de control.
• Crear una inteligencia artificial común. La inteligencia artificial general es inteligencia artificial que no es inferior a la humana en todos los aspectos. Según los pronósticos optimistas, aparecerá en 2047-2055, pero algunos científicos creen que esto es utopía, y la inteligencia artificial puede superar a los humanos solo en ciertas áreas: es mejor girar frutos secos o subir a un número de diez dígitos.
• Uso de inteligencia artificial general para crear supermente. Solo después de la creación de la supermente puede una persona permitir (o no permitir) que se apodere del mundo. Sin embargo, en el futuro previsible, el hombre es el dueño de la situación. Y es una persona que puede establecer la dirección para un mayor desarrollo de la inteligencia artificial y el futuro del planeta en su conjunto.
3.2. Escenarios de larga vida
Aquí están las opciones de vida más probables 3.0.
• Utopía liberal : las personas, los cyborgs y cualquier tipo de superinteligencia coexisten pacíficamente gracias a la ley de propiedad claramente establecida en las leyes.
• Dictador generoso : las personas saben que la inteligencia artificial gobierna la sociedad, pero les conviene.
• Utopía de la igualdad universal : las personas, los cyborgs y la supermente conviven pacíficamente debido a la falta de propiedad privada y pagos garantizados.
• Gatekeeper : esta supermente se creó para evitar la creación de otra supermente. En este escenario, hay robots y varias formas de inteligencia artificial que ayudan a las personas, pero el progreso tecnológico se ha detenido.
• Dios protector : la mente omnipotente, que garantiza que las personas sean felices y las ayuda en silencio cuando es realmente necesario. La mayoría de las personas ni siquiera son conscientes de su existencia.
• Dios esclavizado : la inteligencia artificial, completamente subordinada a las personas que lo hacen trabajar para sí mismo, crea nuevos beneficios y tecnologías. Estas personas pueden usar la inteligencia artificial para el mal y para el bien de otras personas.
• Ganador : la inteligencia artificial decide que las personas son innecesarias, peligrosas o sin valor. Tal supermente se deshará rápidamente de nosotros por algún método sofisticado.
• Heredero : la inteligencia artificial reemplazará a las personas, pero no nos importará, la percibiremos como nuestra sucesora. Este es un niño que es más inteligente y mejor que los padres, pero los padres están orgullosos de él, incluso si no pueden ser testigos de sus increíbles logros.
• Director del zoológico : una mente omnipotente que deja con vida a un cierto número de personas sumisas al señor supremo.
• 1984 : todo es como en la novela de Orwell: el progreso tecnológico se detiene para siempre, la superinteligencia no se crea, porque en un estado policial controlado por personas, la investigación en el campo de la inteligencia artificial está completamente prohibida.
• Retorno : una parada artificial del proceso tecnológico y retorno a la era pre-tecnológica.
• Autodestrucción : la superinteligencia nunca apareció porque no había nadie para crearla: las personas murieron como resultado de un desastre nuclear o biotecnológico.
3.3. Metas de inteligencia artificial
Además de los términos y escenarios, los científicos discuten sobre los objetivos de la inteligencia artificial. En relación con estos, surgen numerosas preguntas.
• ¿Deberíamos establecer objetivos para la inteligencia artificial? Una de las características de la mente es la capacidad de lograr objetivos complejos, lo que significa que la inteligencia artificial también tendrá objetivos que las personas establecerán antes.
De lo contrario, los formulará él mismo. Estamos creando máquinas cada vez más inteligentes para ayudarnos a lograr nuestros objetivos. Es decir, los objetivos de la inteligencia artificial deben ser consistentes con nuestros objetivos.
• ¿Qué objetivos necesitas establecer? En primer lugar, los objetivos deben ser éticos y consistentes con los siguientes principios éticos.
– Pragmatismo: en el futuro, la experiencia consciente positiva debe prevalecer, y el sufrimiento debe ser lo menos posible. Esto es cierto no solo para los humanos, sino también para los animales, así como para todos los tipos de inteligencia artificial que existirán en el futuro.
– Diversidad: una variedad de sentimientos positivos es mejor que la repetición repetida del sentimiento positivo en sí.
– Autonomía: las comunidades conscientes deberían poder establecer sus propios objetivos, pero solo si no van en contra de objetivos comunes.
Como modelo de objetivos comunes, uno puede tomar los derechos y libertades proclamados en 1948 en la Declaración Universal de Derechos Humanos de la ONU: libertad de pensamiento, expresión y movimiento, libertad de esclavitud y tormento, derecho a la vida, libertad y seguridad, educación, matrimonio, trabajo y propiedad privada.
– Continuidad: compatibilidad con un escenario que la mayoría de las personas considera hoy aceptable y un rechazo de un escenario que la mayoría de las personas considera inaceptable. Ahora es el momento de pensar en este escenario.
• ¿Cómo podemos inculcar estos objetivos en la inteligencia artificial y podemos estar seguros de que la superinteligencia seguirá nuestros objetivos? El problema es cómo codificar los principios éticos anteriores para la inteligencia artificial. Debe reconocerlos, percibirlos correctamente y no cambiarlos sin el permiso de una persona. Es necesario comenzar a desarrollar códigos ahora.
3.4. Homo sentiens
Durante miles de años, las personas han vivido con un sentido de nuestra propia exclusividad, porque somos las únicas criaturas completamente inteligentes en la Tierra.
Y este sentimiento de superioridad del homo sapiens no condujo a nada bueno: destruimos los recursos naturales, destruimos muchas especies de animales salvajes y exterminamos masivamente a otras personas (guerras, genocidio de ciertos pueblos, represiones).
Sin embargo, muy pronto habrá una inteligencia artificial general que nos superará en todos los aspectos. Y vale la pena aguantar y permitir que otros seres o formas de la mente sean más inteligentes que nosotros.
Esto no significa que nos convertiremos en ciudadanos de segunda clase y nos someteremos a una mente superior, si nosotros mismos no queremos.
Ya hoy vale la pena pensar en no ser esclavos de los automóviles, por ejemplo, no pasar mucho tiempo con un teléfono inteligente.
Tal vez la edad de la razón está atrás, y por delante del siglo de los sentimientos.
Si aprendemos a encontrar la alegría de la vida no en la carrera, el conocimiento y el dinero, sino en los sentimientos positivos, la comunicación con otras personas y las formas de la mente, probablemente seremos un nuevo tipo: una persona con sentimientos.
3.5. ¿La inteligencia artificial será consciente?
Hablando de inteligencia artificial, generalmente nos referimos a características exclusivamente técnicas.
Sin embargo, se está volviendo más perfecto y, con el tiempo, puede que no solo pueda procesar información, sino que también experimente sensaciones subjetivas y gane experiencia, es decir, se volverá consciente si lo permitimos.
Por un lado, las personas no quieren que los robots sufran y sufran, para no sentirse dueños de esclavos. Por otro lado, todos los principios éticos discutidos anteriormente pierden su significado si la mente artificial no puede sentir. Además, no será fácil para una persona que siente interactuar con la mente «insensible», que puede hacer el mal sin saber lo que está haciendo.
3.6. Tu futuro personal
Imaginemos que han pasado 50, 100 o 500 años y que ha llegado 3.0. Lo que será, depende en gran medida de nuestras expectativas y acciones.
Responde algunas preguntas para comprender qué futuro esperas para ti y tus descendientes.
- ¿Quieres la supermente presente en el futuro?
- ¿Existirán las personas en el futuro o serán destruidas, convertidas en cyborgs u otras criaturas?
- ¿Quién estará a cargo, autos o personas?
- ¿La inteligencia artificial será consciente?
- ¿Habrá más alegría y menos sufrimiento en el futuro, o todo permanecerá sin cambios?
- ¿Habrá vida en el espacio?
- ¿Quieres que la civilización persiga objetivos más altos o no es importante?
Conclusión
Hoy vivimos en la versión 2.0 de la vida, que apareció hace unos 100 mil años. La versión anterior, la vida 1.0, surgió hace 4 millones de años y no pudo cambiar ni su programa ni su diseño.
Estamos mejorando nuestro código de programa, dominando nuevas habilidades, cambiando actitudes e incluso haciendo pequeños cambios de diseño, implantamos implantes dentales y trasplantes de órganos.
Sin embargo, no muy lejos hay una nueva forma de vida: 3.0, en la que será posible cambiar tanto el código del programa como el shell (o su ausencia total).
Entre los académicos y la gente común, las disputas sobre el momento de la aparición de la supermente artificial, sobre cómo aparecerá y cómo afectará a las personas, no cesan. Estos debates dan lugar a mitos en conflicto.
Una cosa es obvia: la inteligencia artificial puede mejorar significativamente nuestras vidas, siempre que no nos apresuremos a introducir nuevos dispositivos basados en ella en funcionamiento.
Primero, necesitan ser verificados, verificados, confiables y controlados.
El precio del error es demasiado alto. En el futuro, las personas no necesitarán trabajar. Podrán recibir ingresos básicos garantizados.
Las profesiones que se basan en acciones repetitivas y cálculos precisos se hundirán en el olvido.
Pero para las personas flexibles y creativas con habilidades sociales desarrolladas, se encontrará trabajo.
En el campo de la ley y el orden, también se esperan grandes cambios: los robots policiales y los jueces judiciales incansables e incorruptible serán más efectivos que las personas, y las leyes relacionadas con la privacidad, las obligaciones financieras y la propiedad privada deberán adaptarse lo antes posible a una nueva vida en la que haya una vida artificial.
La mente
El mito más común con respecto a la inteligencia artificial es la posibilidad de captura espontánea del planeta por la supermente.
Esto es imposible en el futuro cercano, porque primero necesitas crear una inteligencia artificial común, luego con su ayuda: la supermente, que posteriormente, posiblemente, se hará cargo del mundo.
Sin embargo, con el tiempo, la vida cambiará y es probable que ocurran varios escenarios, desde la igualdad utópica del hombre y la inteligencia artificial hasta la tragedia asociada con la autodestrucción de la humanidad o su destrucción por inteligencia artificial.
Para evitar tragedias, es importante que los objetivos de la razón artificial coincidan con los objetivos de las personas y sean éticos.
Y hoy es necesario desarrollar códigos que aclaren los principios éticos de la inteligencia artificial. No debemos temer que la inteligencia artificial supere a la humana. Esto es inevitable: en muchas áreas ya está por delante.
Probablemente, ha llegado el momento de dejar de estar orgulloso de la superioridad intelectual y prestar atención a la vida espiritual y emocional, de pasar de una persona racional a una persona sensata.
Quizás la inteligencia artificial también aprenderá a experimentar sensaciones subjetivas con el tiempo, y se entenderán mejor con una persona.
El mundo cambiará. Esto es inevitable, pero la forma en que será en muchos aspectos depende de nosotros, por lo tanto, no debemos esconder nuestras cabezas en la arena, debemos admitir honestamente cómo queremos ver nuestro futuro y hacer esfuerzos para hacerlo de esa manera.