Se suele usar el término superinteligencia cuando nos referimos a la posibilidad de crear una inteligencia artificial significativamente superior a la humana, y enfrentarnos a, como dice Nick Bostrom, la posibilidad de una explosión de inteligencia.
No te quiero reventar ni hacer spoiler del fantástico libro de Nick Bostrom, profe en Oxford y director-fundador del Future of Humanity Institute.
Así que, si no lo has leído todavía (y piensas hacerlo), no sigas leyendo, porque te voy a contar el final 🙂
El final de Superinteligencia
Al final, dice algo con lo que estoy 200% de acuerdo y que contrasta con la talla intelectual y ética de nuestros políticos.
Dice:
Que los mejores en naturaleza humana, por favor, se pongan en pie.
Nos va a hacer falta contar con grandes seres humanos (¡los mejores, por favor, ¡un paso al frente!) para enfrentarnos a una detonación lo más controlada posible de una nueva forma de inteligencia.
Sigue diciendo Nick:
Para un niño con una bomba a punto de detonar en sus manos, algo sensato sería dejarla con cuidado en el suelo, salir rápidamente de la habitación, y ponerse en contacto con el adulto más cercano. Sin embargo, lo que tenemos aquí no es un niño, sino muchos, cada uno con acceso a un gatillo de disparo independiente. Las posibilidades de que todos tengamos el juicio suficiente como para abandonar los artilugios peligrosos son casi insignificantes. Algún pequeño idiota inevitablemente pulsará el botón de encendido sólo para ver que pasa. […]
La actitud más adecuada podría ser una determinación implacable en ser tan competente como podamos, tanto como si nos estuviéramos preparando para un examen difícil que, o bien nos llevaría a cumplir nuestros sueños, o los destruiría para siempre. […]
Además nos enfrentamos al desafío de aferrarnos a nuestra humanidad: de mantener nuestras raíces, sentido común y y jovial decencia incluso en las fauces del problema más antinatural e inhumano. Tenemos que poner todo nuestro ingenio humano a trabajar en su solución.
¿Ves a nuestros dirigentes políticos a la altura del reto que tenemos como especie en este siglo? La única ventaja de contar con una clase política populista y tan poco preparada es que la mayoría no son conscientes de este riesgo existencial y sus implicaciones (está más lejos de su horizonte de ambición de cuatro años) y el resto serían incapaces de encontrar el botón de encendido.
Como este tema de la superinteligencia me vuelve loco seguiré profundizando y escribiendo sobre el tema. Mientras tanto te dejo una TED talk de Nick, espero que te guste.
Notas extraídas de Superinteligencia: caminos, peligros, estrategias
El libro es duro de pelar, hay que tomárselo en tragos cortos 🙂 En este apartado iré recopilando algunas notas del libro. De momento aquí va un esquema de los temas que recoge Bostrom:
- Caminos hacia la superinteligencia
- Formas de superinteligencia
- Superinteligencia de velocidad
- Superinteligencia colectiva
- Superinteligencia de calidad
- Voluntad superinteligente
- Auto-conservación
- Integridad del contenido de los objetivos
- Mejora cognitiva
- Perfección tecnológica
- Adquisición de recursos
- Cinética de una explosión de inteligencia
- Ventaja estratégica decisiva
- El problema del control
- Métodos de control de la capacidad
- Métodos de encajamiento
- Métodos de incentivos
- Atrofia
- Cables trampa
- Métodos de selección de la motivación
- Especificación directa
- Domesticidad
- Normatividad indirecta
- Aumentación
- Tipos
- Oráculos
- Genios y soberanos
- Herramientas
- Métodos de control de la capacidad
- Adquisición de valores
- Selección evolutiva
- Aprendizaje por refuerzo
- Acumulación de valores por asociación
- Andamiaje motivacional
- Aprendizaje de valores
- Modulación de emulaciones
- Diseño institucional