Conclusión

Conclusión

Las tecnologías relacionadas con las blockchains, la inteligencia artificial, los objetos conectados y los ordenadores cuánticos se están desarrollando a una velocidad vertiginosa. Están apareciendo productos, servicios y aplicaciones en cuestión de meses o incluso semanas, mientras que otras tecnologías han tardado años en desarrollarse. ChatGPT alcanzó el millón de usuarios en solo una semana. Algunas aplicaciones son emergentes, lo que significa que nadie las había previsto. La investigación también es extremadamente activa, con miles de estudios publicados cada año en estas áreas. Estos rápidos avances van acompañados de la creación de ecosistemas muy complejos, en términos de arquitectura, componentes, actores, interacciones, usos y comportamientos. Los métodos, herramientas y lenguajes utilizados para desarrollar contratos en blockchains, IA o algoritmos cuánticos representan evoluciones muy marcadas en comparación con la informática tradicional. Las tecnologías emergentes están entrelazadas, por ejemplo, la IA se utiliza para analizar datos de objetos conectados o transacciones en blockchain, los procesadores cuánticos hacen más eficiente el aprendizaje de la IA o las blockchains se utilizan para proteger los datos recogidos por objetos conectados.

Mientras que los ordenadores cuánticos siguen confinados en gran medida al laboratorio, las blockchains, la IA y los objetos conectados tienen un impacto cada vez mayor en los seres humanos y la sociedad. Gracias a sus capacidades, estas tecnologías emergentes ya están transformando el mundo. Tanto los individuos como las organizaciones les confían cada vez más tareas, valor y responsabilidades, y como resultado dependen cada vez más de ellas. Pero más allá de las promesas de estas tecnologías emergentes, hemos visto a lo largo de los capítulos de este libro los riesgos y externalidades negativas que engendran. Los usos que se les dan son a menudo mucho más variados que los previstos originalmente por sus diseñadores, lo que conlleva riesgos no previstos. La complejidad de los contextos en los que se aplican provoca efectos secundarios no planificados, sobre todo cuando chocan con el mundo real. Los riesgos se derivan de las características y el comportamiento de los sistemas construidos con estas tecnologías, pero también de la explotación de sus puntos débiles por parte de actores malintencionados. Debido al ritmo de desarrollo y adopción de estas tecnologías, están influyendo en nuestras vidas antes de que se comprendan y controlen los riesgos. También hay que tener en cuenta que gigantes tecnológicos como Facebook, Google, Amazon, Microsoft, Apple, IBM y Tencent están muy implicados en el mundo de estas tecnologías, ya sea diseñando y ofreciendo productos y servicios o financiando a investigadores.

Aunque muchos organismos han estudiado los riesgos asociados a la IA, los objetos conectados, las blockchains y los ordenadores cuánticos, y han elaborado un gran número de estudios, cartas, guías, normas y otros libros blancos, aún queda mucho trabajo por hacer para que la gestión de los riesgos generados por estas tecnologías se ajuste a las normas. Los diseñadores y desarrolladores suelen estar más centrados en la innovación y el progreso de sus proyectos que en la gestión de los riesgos. Las tecnologías emergentes dan lugar a riesgos nuevos, evolutivos y a veces sorprendentes, y ante la proeza de los servicios y productos que generan, los usuarios tienden a olvidar que pueden sufrir errores o limitaciones. La modelización de sistemas y arquitecturas, las metodologías de análisis de riesgos, las pautas de evaluación y las guías de seguridad que permiten controlar los riesgos propios de estas tecnologías no están suficientemente maduras. Los trabajos de desarrollo de estas herramientas aún no han convergido en una serie de normas o estándares universalmente reconocidos y adoptados.

Desde luego, los trabajos de investigación son abundantes, pero, sobre todo en el ámbito de la IA, se centran más en los métodos de ataque que en los de defensa. Los medios de control de los riesgos son parciales y las herramientas existentes en el ámbito de la informática o la ciberseguridad no están adaptadas, debido a las especificidades de estas tecnologías y a las marcadas diferencias con las que las precedieron. A menudo, las soluciones de defensa y protección se ven rápidamente minadas, bien por el ritmo de evolución de las tecnologías y los usos, bien por las nuevas técnicas de ataque, ya procedan de la investigación académica o de actores malintencionados.

Los retrasos en la identificación y gestión de los riesgos generados por las tecnologías emergentes son perjudiciales a varios niveles. Ralentizan la difusión de los servicios, productos y usos derivados de estas tecnologías...