La IA, una herramienta peligrosa que no debe dejarse en manos de cualquiera

La vigilancia del Estado

Soraya finalmente se enamora del nuevo mundo que está descubriendo, hasta el punto de plantearse un cambio de carrera. Sin embargo, Julie le advierte. Ella ya había planteado la cuestión del carácter "artificial" de la IA, burlándose de ella. Aunque no esté exenta de repercusiones económicas, la IA no va a erradicar el trabajo. ¿Significa esto que esta tecnología no presenta ningún otro peligro? El objetivo de este capítulo no es acusar a la herramienta en sí, sino mostrar lo que puede conseguir, y en muchos casos ya consigue. A menudo se dice que un cuchillo puede cortar lo mismo un tomate que una garganta, y es cierto. Lo mismo puede decirse de la IA. Sin embargo, hay que matizar este tipo de afirmaciones. No todos los dispositivos pueden utilizarse de la misma manera. Es más fácil matar con un cuchillo que con una bala de espuma.

La IA puede ser un instrumento de control. La combinación del reconocimiento facial y el despliegue masivo de cámaras podría sumirnos en un mundo distópico en el que se vigilaran los movimientos de todos los ciudadanos. Todo lo que tendría que hacer un Estado es definir el comportamiento esperado para fomentarlo. Este último sería recompensado y, por tanto, fomentado. Este es el caso del que hemos oído hablar mucho...

Los peligros de los motores de recomendación

Si la IA racionaliza, ¿puede ser un peligro para las ideas democráticas? Tomemos de nuevo el caso de la recomendación para destacar su aspecto potencialmente perjudicial. La palabra "potencialmente" es importante. No todos los motores de recomendación se convierten en pesadillas. Depende del cuidado que ponga el equipo editorial en su existencia.

Así pues, se supone que lo que aparece en los contenidos ofrecidos a una persona corresponde a sus gustos. Sin embargo, los sistemas destacan contenidos que son divisivos o que tienen un efecto de catarsis en nosotros despertando nuestros impulsos sin enseñarnos gran cosa. Todos tenemos derecho a consumir vídeos o material de lectura simplemente para entretenernos. El problema es que ignoramos todas las afirmaciones matizadas o informativas. Pasamos más tiempo discutiendo sobre tal o cual tema que nos conmueve que sobre el cambio climático. El sensacionalismo se amplifica. Los motores de recomendación no han reinventado nuestra pasión por el drama. Pero lo amplifican diez veces. En más de un caso, cabe señalar que la razón por la que la recomendación es tan popular entre las empresas es que las incita a consumir más y, por tanto, a generar más beneficios. En una sociedad no capitalista, quizá...

Los que temen demasiada regulación

Si echamos la vista atrás en la historia, lo cierto es que las tecnologías han provocado a menudo cambios en la legislación. El Código de Trabajo francés surgió en el contexto de la revolución industrial, con la aparición de la clase obrera. El RGPD llegó veinte años después de la llegada de la Web y la explosión de datos. La IA sigue el mismo camino, pero también encuentra reticencias.

Una de las primeras dificultades radica en las diferencias de opinión sobre el tema. Luc Julia, cocreador de Siri, por ejemplo, no quiere que la legislación sobre IA sea demasiado estricta. Y con razón: si imponemos normas coercitivas, frenaremos la innovación. Estamos en las primeras fases de esta tecnología. Si tomamos medidas restrictivas demasiado rápido, puede que nunca veamos todo el potencial de la IA.

Desde el punto de vista europeo, también podríamos impedir la aparición de empresas emergentes. La IA generativa estadounidense está bien establecida. Llevan ventaja. Si restringimos el mercado de la IA, les resultará más fácil adaptarse que a una empresa emergente nueva.

Así que está el bando de los que no quieren imponer demasiadas restricciones a las personas que trabajan en IA.

Los que piden una normativa estricta

A la inversa...