Los olvidados y olvidadas de la IA

La historia de Soraya y la IA

Al día siguiente, Soraya no se atrevió a contarle a Julie la propuesta que le habían hecho en LinkedIn. Ocultó su incomodidad tras una actitud entusiasta. Así que, llena de energía, colaboró con Eran y Julie.

Por la tarde, salió a pasear junto al lago con Nico. Después de ponerse al día sobre sus vidas, Soraya comenzó a hablar con pasión sobre el generador de historias de su amigo. Le hizo algunas críticas con tacto: ¿Por qué la IA siempre tiene que representarse como una mujer atractiva? ¿Podría la interfaz facilitar más el uso para los usuarios? ¿Incluye opciones para personas con discapacidad visual?

Nico la escuchaba con atención, respondiendo de vez en cuando con un «hmm» afirmativo o un «¿tú crees?» más escéptico. Mientras hablaban, Soraya estaba convencida de que el software iba evolucionando hacia una mejor versión de sí mismo.

— Bueno —dijo Nico al cabo de un rato—, ¿dónde está la Soraya que no sabía nada de todas estas aplicaciones?

Soraya sonrió de oreja a oreja.

Yo... es... es en parte gracias a ti.

Y también a sus miedos, estuvo a punto de añadir. Si no hubiera atravesado todas las ideas preconcebidas sobre la IA, nunca habría logrado deshacerse...

Brecha digital, analfabetismo digital

El analfabetismo, un fenómeno generalizado

Soraya ha comprendido que debe ayudar a los consumidores a usar un servicio. Si la IA va a desempeñar un papel cada vez más importante, sobre todo en el mundo laboral, en aras de la democracia y también simplemente de la eficacia, debemos asegurarnos de que no deje a nadie en el camino. ¿Es esto posible? En realidad, sabemos que la tecnología digital en sí no es accesible a todo el mundo. El ilectronismo o brecha digital, la incapacidad para manejar herramientas informáticas, es un fenómeno muy extendido. El Insee estimó en 2023 que la proporción de personas en Francia afectadas por esta condición era del 15%, lo que representa una proporción significativa de la población. Si el software y la IA van a constituir la base de nuestra sociedad, tendremos que ocuparnos de este 15% de la población. Antes de hablar de acciones, veamos una definición más precisa del analfabetismo.

El ilectronismo puede compararse al analfabetismo, pero en forma digital. El término se refiere a los usuarios que tienen poca o ninguna habilidad para utilizar programas informáticos. Se pueden identificar tres categorías de problemas.

Primera categoría: personas que no tienen acceso físico a herramientas digitales

La primera se refiere al acceso a las herramientas en sí. Si no tienes un ordenador o un smartphone, si tu conexión a Internet es limitada o inexistente, estás en este grupo. En este caso, el problema es más bien físico. La IA necesita apoyo. Si quieres visitar ChatGPT, necesitarás un objeto para entrar en relación con la herramienta. Según cifras del INSEE, una de cada dos personas mayores de setenta y cinco años no tiene conexión a Internet en casa. La brecha digital cambia con la edad, y el INSEE señala que los hogares con niños tienen menos dificultades. Los más jóvenes aportan sus conocimientos, pero también ofrecen herramientas de acceso a sus mayores.

Segunda categoría: personas que no saben utilizar herramientas digitales

La segunda categoría se refiere al uso y dominio de estos nuevos instrumentos. No se trata sólo de poseerlos. También hay que saber utilizarlos. Debido a su falta de experiencia con Internet...

La IA se basa en el trabajo de los trabajadores

Las difíciles condiciones de trabajo de los anotadores y moderadores

Los anotadores y moderadores de contenido son esenciales en la IA, pero siguen siendo invisibles para la mayoría. Aparecen poco o nada en el discurso. Antonio Casilli, experto en la materia, observa con ironía que cuando los empleados son sustituidos por IA, el fenómeno aparece en los titulares, pero no se dice nada de la posición de los anotadores. Su propio título fluctúa.

Sus condiciones también muestran la poca consideración que reciben. Analicémoslas esta vez desde un punto de vista más ético. Cobran una media de dos dólares la hora. Su situación es a menudo precaria. La descripción de su trabajo rara vez indica lo que realmente hacen. Muchos quedan fuera del ámbito de aplicación de la legislación laboral porque no están reconocidos como trabajadores. Las dificultades se agravan cuando el trabajo implica moderación. Ver una decapitación, que por desgracia es el tipo de contenido al que se somete a estas personas, no está exento de consecuencias. Los moderadores no sólo limpian la Red, que ya está manchada de contenidos problemáticos, sino que también se ocupan de lo que ni siquiera aparece a nuestros ojos como consumidores. Servicios como Facebook estarían mucho peor...

En pocas palabras

  • Existen diversas categorías de personas que la IA tiene dificultades para incluir en sus avances. En primer lugar, están los usuarios con dificultades para acceder y manejar herramientas digitales. Un 25 % de la población no sabe cómo buscar información en la web, y este problema podría agravarse con la expansión de las nuevas inteligencias artificiales. Sin embargo, al mismo tiempo, la IA también facilita el uso de aplicaciones complejas.

  • Como herramienta basada en modelos estadísticos, la IA ofrece una representación simplificada de la sociedad. En este proceso, no solo refleja los prejuicios existentes, sino que también contribuye a su permanencia e incluso los amplifica. Corregir estas distorsiones es un desafío a largo plazo, pero existen diferentes estrategias para abordarlo.

  • Una de ellas consiste en incorporar más moderadores y anotadores de datos al proceso. Son ellos quienes garantizan el buen funcionamiento de estos sistemas, aunque rara vez reciben reconocimiento. A estos trabajadores invisibles se suman los operarios de fábricas que ensamblan nuestros teléfonos y ordenadores, así como los mineros que extraen los minerales esenciales para su fabricación.

  • En última instancia, la IA contribuye a la marginación de una parte significativa de la población. Esto ocurre, en parte, debido a las limitaciones inherentes...