A lo largo de la historia de la humanidad la tecnología se ha difundido masivamente en oleadas turbulentas, desde las primeras herramientas de hueso y sílex, el descubrimiento del fuego, hasta los modelos de inteligencia artificial. La sociedad ha avanzado al compás de estos saltos y el tamaño de la población y los niveles de innovación han ido cogidos de la mano.

Un estudio cifra en 24 el número de tecnologías que han surgido a lo largo de la historia de la humanidad, incluyendo inventos que van desde la agricultura, el desarrollo de materiales como el hierro y el bronce, la imprenta, el sistema fabril, la electricidad y, por supuesto, internet.

No se trata de un proceso ordenado, las olas no llegan con una predictibilidad nítida, sino que a largo plazo se entrecruzan e intensifican de forma imprevisible.

La historia nos muestra que, a pesar del rechazo social que puede generar inicialmente la aparición de nuevas tecnologías, inevitablemente la tecnología se difunde con el tiempo en casi todas partes. Las oleadas se vuelven más rápidas y más trascendentes, y el acceso a la tecnología aumenta y se abarata.

A medida que la tecnología prolifera, más personas pueden usarla, adaptarla y darle la forma que deseen. Al mismo tiempo que la potencia de las herramientas que tenemos a nuestro alcance crece de forma exponencial y, a medida que el acceso a ellas aumenta con rapidez, también lo hacen los posibles daños, formando así un laberinto de consecuencias que nadie puede predecir ni anticipar.

Al construir sistemas cada vez más potentes es más urgente que nos preguntemos ¿cómo garantizamos que esta nueva ola tecnológica aporte más beneficios que daños?

Una nueva ola de tecnología está empezando a romper en nuestro entorno, y está desatando el poder de diseñar estos dos fundamentos universales: es una ola nada menos que de inteligencia y de vida.

Son dos las tecnologías que definen la próxima ola: La inteligencia artificial (IA) y la biología sintética. Esto puede crear riqueza y excedente como nunca se ha visto, pero su proliferación amenaza con dar poder a una variada gama de actores para desencadenar trastornos, inestabilidad e incluso catástrofes a escala inimaginable.

Se plantea un escenario en el que la inteligencia artificial puede gestionar negocios, producir contenido digital, dirigir servicios públicos esenciales y mantener infraestructuras. Desde impresoras de ADN hasta ordenadores cuánticos, patógenos artificiales y armas autónomas. Aunque estas herramientas ofrecen soluciones a desafíos globales y generan riqueza, también plantean amenazas sin precedentes.

Por ahora, parece que contener esa ola —es decir, controlarla, frenarla o incluso detenerla— no es posible. En este libro se plantea el porqué de esta afirmación y lo que significa en caso de que fuera cierta. Las implicaciones de estas preguntas acabarán afectando a todos los que estamos vivos ya todas las generaciones que nos sucedan.

La inteligencia artificial puede ser una poderosa herramienta para conseguir un bien extraordinario, pero, como la mayoría de las formas de poder, también está llena de inmensos peligros y dilemas éticos. Su descontrol podría suponer una amenaza existencial para los estados-nación e implicar un riesgo tan profundo que podría alterar o incluso anular el orden geopolítico actual.

Algunos países podrían reaccionar ante la contingencia de riesgos catastróficos en forma de un autoritarismo de corte tecnológico para ralentizar la expansión de estos nuevos poderes, lo que no es deseable porque frenar el desarrollo de nuevas tecnologías es un riesgo en sí mismo.

A partir de ahora, tanto apostar como no apostar por las nuevas tecnologías comporta muchos riesgos.

El discurso actual en torno a la ética y la seguridad de la tecnología es insuficiente y muy tímidamente se habla sobre su contención. Una acción en este sentido se entiende como un entramado de mecanismos técnicos, sociales y legales que apremien y controlen la tecnología en todos sus niveles posibles; un medio, en teoría, de eludir el problema. Sin embargo, aun los más duros críticos de la tecnología tienden a esquivar las conversaciones sobre una contención firme.

Este libro es el intento del autor de que se admita y delimite el contorno de la ola que viene, de explorar si cabe la contención y situar los hechos en el contexto histórico y de ampliar la perspectiva, de cómo sería posible mantener las salvaguardias y las posibilidades del estado nación democrático, que es el fundamento de nuestro más importante orden político.

Además, la ola supone una serie de cambios de poder tectónicos tanto centralizadores como descentralizadores, que crearán nuevas y enormes iniciativas, reforzarán el poder autoritario y, al mismo tiempo, dará poder a grupos y movimientos para vivir fuera de las estructuras sociales tradicionales. El delicado pacto del estado-nación se verá sometido a una inmensa presión justo en el momento en que más necesitamos estas instituciones.

Al final del libro se apuntan diez pasos (que se resumen en el cuadro que se expone a continuación) para poder formar un conjunto duro de restricciones y configurar un plan de contención.

1. Seguridad técnica

Medidas técnicas concretas para paliar los posibles daños y mantener su control.

2. Auditorías

Medios para garantizar la transparencia y asunción de responsabilidad tecnológica.

3. Cuellos de botella

Resortes para frenar el desarrollo y ganar tiempo para los reguladores y tecnologías defensivas.

4. Creadores

Garantizar que los desarrolladores responsables incorporen controles adecuados a la tecnología desde el principio.

5. Empresas

Alinear los incentivos de las organizaciones detrás de la tecnología con su contención.

6. Gobiernos

Apoyar a los gobiernos, lo que les permite crear tecnología, regularla y aplicar medidas de mitigación.

7. Alianzas

Crear un sistema de cooperación internacional para armonizar leyes y programas.

8. Cultura

Una cultura de intercambio de aprendizajes y errores para difundir rápidamente los medios para abordarlos.

9. Movimientos

Todo esto necesita la aportación pública a todos los niveles, incluso para presionar cada componente y hacer que rindan cuentas

MMV

Mustafá Suleyman (Londres, Reino Unido, 1984) es un investigador y empresario británico dedicado a la inteligencia artificial (IA). Trabajó como responsable de políticas sobre derechos humanos para Ken Livingstone, elalcalde de izquierdas de Londres. En 2010 cofundó DeepMind Technologies, empresa líder en inteligencia artificial (IA) y se convirtió en su director de producto. En 2014, cuando DeepMind fue comprada por Google, se convirtió en jefe de IA aplicada a DeepMind. En marzo de 2022 fundó Inflection AI con el objetivo de hacer hardware que permita aprovechar la IA para ayudar a los humanos a 'hablar' con los ordenadores. Suleyman ocupa un lugar destacado en el debate sobre la ética de la IA. Desarrolla ampliamente la necesidad de que empresas, gobiernos y sociedad civil se unan para responsabilizar a los tecnólogos por los impactos de su trabajo.

Michael Bhaskar, es un escritor, investigador y editor británico. Trabaja en Estrategia y Comunicaciones en Microsoft AI. Es licenciado en Literatura inglesa por la Universidad de Oxford, donde ganó el Premio University Gibbs. Ha sido joven emprendedor creativo del British Council, miembro de la Feria del Libro de Frankfurt y actualmente investigador visitante en el Centro Internacional de Publicaciones Oxford Brookes y miembro de la Royal Society of Arts.