Esta no es la historia habitual de inteligencia artificial (IA): la que se vuelve loca por el genio tecnológico de gente como Sam Altman o la que pinta la tecnología en sí como revolucionaria o pura maldad. En cambio, Code Dependent de Madhumita Murgia explora las áreas grises y turbias, poniendo a la gente común y sus historias en el centro de atención. Cuenta la historia de los etiquetadores de datos de Kenia, sobre cuyas espaldas se entrenan los algoritmos de los coches autónomos, y de una madre de los Países Bajos que un día encuentra a su hijo añadido a una lista de posibles delincuentes, una lista no creada por humanos. sino una máquina con todos sus prejuicios raciales. Ella cuenta la historia de miles de trabajadores autónomos que trabajan para aplicaciones de entrega, a menudo mal pagados, pero sin nadie a quien recurrir para registrar sus quejas, porque, bueno, una máquina es su jefe.
“El punto aquí no era evitar por completo Silicon Valley, sino ir más allá, descubrir nuevas voces y mostrar cómo la IA ya está cambiando vidas; “Traer algo de urgencia, ya que la gente tiende a preocuparse por las cosas cuando empiezan a afectarles”, dice Murgia, que estuvo en India. recientemente.
Algunos aspectos del libro son inquietantes, algunos incluso desgarradores, algunos traen esperanza, mientras que otros son kafkianos. Un aspecto evidente es la división global Norte-Sur: la absoluta desigualdad de ingresos en torno al desarrollo de la IA, donde los peces gordos de Silicon Valley reciben sumas considerables mientras que la tarea mundana y repetitiva de entrenar e implementar la tecnología utilizando datos del mundo real se subcontrata a las empresas. población pobre del mundo en desarrollo. Murgia escribe sobre el “colonialismo de datos” en más de un lugar, y al leer el libro, uno no puede evitar establecer paralelismos entre empresas como la Compañía de las Indias Orientales y las grandes tecnológicas de hoy.
“Lo mío aquí era sacar a la luz historias que sorprendieran a la gente”, dice Murgia, y lo hace con éxito, al exponer cómo la IA ya está impactando las diversas facetas de nuestras vidas: desde los medios de vida hasta la salud.y seguridad social hasta incluso la libertad personal.
En una conversación con FE, habla sobre su libro, los avances en IA y cómo es ser la primera editora de IA en Financial Times:
Su libro no trata sobre ChatGPT sino sobre los algoritmos de IA cotidianos. ¿Se estaba preparando el libro incluso antes del lanzamiento de ChatGPT? ¿Hubo alguna historia o instancia en particular que lo impulsó a escribir este libro?
Gran parte de mi libro ya estaba escrito antes del lanzamiento de ChatGPT. Surgió de la historia de Karl Ricanek, un investigador del reconocimiento facial. Lo entrevisté para una historia diferente y habló sobre su dilema moral. Estaba orgulloso del trabajo que había realizado como ingeniero y sentía que la tecnología podría ser una fuerza para el bien, utilizada para encontrar niños desaparecidos y atrapar delincuentes. Sin embargo, durante su vida vio cómo se tergiversaba, particularmente en los EE. UU., donde la policía lo usaba en situaciones reales para identificar a personas y, en ocasiones, contra personas de su propia comunidad. Encontré que esto era una tensión interesante y sentí que quería escribir un libro sobre esas áreas, donde no se tratara de todas las cosas buenas o incluso de las malas, sino de todo lo intermedio: el desorden, las áreas grises.
Escribe vívidamente sobre cómo la IA y su desarrollo ya están impactando a las personas. Cuando ya existe un impacto tan perjudicial, ¿por qué no se hace nada al respecto? ¿Los gobiernos han tardado en actuar?
Es difícil culpar a los gobiernos por actuar con lentitud, ya que la tecnología ha avanzado rápidamente y ha llegado a lugares muy lejanos y profundos: atención médica, empleos.servicios públicos y libros penales, y ha llegado a todos estos lugares debido a las empresas que los están construyendo y los monopolios que tienen.
Menciono el concepto de colonialismo de datos. En la práctica, se debe a que todo el mundo se ha vuelto tan dependiente de unas pocas empresas para su infraestructura tecnológica que no hemos cuestionado lo suficiente el impacto. Pero eso está sucediendo ahora. Ahora hay mucha más conciencia, como los impactos negativos de las redes sociales y cómo funcionan los algoritmos para crear burbujas, por lo que ahora hay una mayor participación de los gobiernos y la sociedad civil.
Mencionas el colonialismo de datos en varios lugares. ¿Cómo lo defines? ¿Ves algún paralelismo entre la antigua Compañía de las Indias Orientales y las grandes tecnológicas de hoy?
El colonialismo de datos no es un término dado por mí. Fue propuesto por los académicos Nick Couldry y Ulises A Mejías, quienes escribieron Los costos de la conexión. Para mí, representaron un caso muy convincente al establecer paralelismos con las instituciones privadas que formaban parte del imperio británico. Eso ha estado sucediendo con la tecnología ahora. Hay sólo un puñado de empresas que no sólo poseen la infraestructura sino también los datos necesarios para entrenar estos sistemas, y tienen el conocimiento y la experiencia para construir sistemas de IA.
Al mismo tiempo, cada vez queda menos mundo académico activo, al menos en Estados Unidos y el Reino Unido. Además, gran parte de la infraestructura tecnológica que utilizan los gobiernos pertenece a estas empresas. Entonces puedes ver por qué trazaron estos paralelos.
-Si bien la IA ha tenido impactos perjudiciales, también ha llevado a la creación de riqueza en regiones empobrecidas, donde la gente ahora tiene nuevas vías para ganar dinero trabajando en trabajos de IA. ¿Eso ha impedido que los gobiernos de ese país tomen medidas contra la explotación y los efectos nocivos?
Hay muchos informes sobre Kenia, Filipinas, etc., donde existen fábricas de este tipo. Quería entender esto mejor, así que fui allí y pasé un tiempo en las casas de estos etiquetadores de datos para tener una idea del impacto. Muchos hablaron de cómo podrían enviar a sus hijos a la escuela o conseguir atención sanitaria para sus padres, que de otro modo no podrían costear. Y estos son empleos digitales, mejores que el trabajo físico en entornos inseguros. Pero sí, la razón por la que no ha habido suficiente escrutinio es que los gobiernos ven que estas empresas están empleando personas, creando nuevos empleos e inyectando empleos digitales en la economía..
El objetivo de la IA es brindar beneficios, acceso y generar riqueza para todos. Pero eso no ha sucedido en el Sur Global, donde todavía es un trabajo con salario mínimo. Los trabajadores tienen que firmar acuerdos de confidencialidad (NDA), por lo que no pueden hablar con nadie sobre esto, no pueden sindicalizarse y, a veces, ni siquiera saben quién es su empleador.
¿La tecnología avanza rápidamente o es más exageración?
Bueno, lo que ha hecho la exageración es que ha hecho que la tecnología se filtre en varias industrias. Ahora es la prioridad de los miembros de las juntas directivas y los directores ejecutivos de empresas que van desde la farmacéutica hasta la minorista. Ha hecho que todos sientan cierto nivel de FOMO (miedo a perderse algo) y sientan que necesitan llegar a la cima de esta tecnología, o de lo contrario se quedarán atrás.
Pero la propia IA, en términos de evolución, está evolucionando y volviéndose mucho más sofisticada a un ritmo mucho más rápido que hace cinco años.
¿Cómo funciona como primer editor de IA?
La decisión no fue impulsada por el lanzamiento de ChatGPT. El editor jefe del Financial Times, Roula Khalaf, y yo ya habíamos hablado de esto antes. Habíamos visto el auge de esta tecnología y se estaba volviendo no solo más sofisticada sino también más central para la industria tecnológica. mismo, a los modelos de negocio de Google, Microsoft, etc. Y en los últimos dos años, ha estado arrasando todos los aspectos de la economía, desde recursos humanos hasta trabajos administrativos y desde trabajadores de oficina hasta creadores y psicólogos. Entonces quedó claro que será una fuerza impulsora de la historia económica, así como de la industria tecnológica, por lo que se tomó la decisión de ser líderes en revelar esa historia porque vimos que las cosas estaban por venir.
Mi trabajo es triple. Primero, explicar la tecnología que cambia rápidamente y ayudar a las personas a mantenerse al día, los últimos avances y desarrollos. En segundo lugar, observar la industria tecnológica, que consta de algunas de las empresas más valiosas del mundo, y cómo su dinámica ha cambiado debido a la IA: la competitividad, las historias allí y las nuevas empresas emergentes que están surgiendo. Y el tercero es mirar otras industrias y ayudar a los corresponsales en esas áreas a dar forma a su cobertura. Entonces, la mayoría de las historias que contienen IA, dondequiera que estén en la sala de redacción, en algún momento pasarán por mí para dar un sentido (si se trata de una historia o una exageración, es interesante) y nos ayuda a tener autoridad.
Libro: Dependiente del código: vivir a la sombra de la IA
Autor: Madhumita Murgia
Editorial: Pan Macmillan
320 personas, 699 rupias
