¡La Tertulia del 30 de mayo fue extraordinaria!
Por Laura Vidal
Consultora de Proyecto y Investigación,
Región América Latina
IRIS
Hablamos de IA y ChatGPT con
Joana Varón, Fundadora de Coding Rights
y Cristina Vélez, Co-Fundadora de Linterna Verde.
“Hay numerosas preguntas que debemos plantearle a la inteligencia artificial en relación a la seguridad, la vigilancia y la reproducción de sistemas sexistas, racistas y transfóbicos. Esto plantea interrogantes sobre el futuro del trabajo creativo. ¿Cuál es su destino? Para Joana, la clave del futuro está en lo ancestral.”
Empezamos hablando con Joana y las realidades de estos sistemas. Con la inteligencia artificial, nos hemos divertido mucho, pero los problemas surgieron rápidamente. Hay preocupaciones en cuanto a la seguridad, la vigilancia y también la autoría. Estas tecnologías que llamamos inteligentes y creativas en realidad no crean nada por sí mismas. Simplemente utilizan el trabajo de artistas y personas que ya han creado cosas anteriormente. Otro problema es la reproducción de opresiones. Podemos pensar que las máquinas son neutrales, pero en realidad los datos con los que son entrenadas provienen de sistemas tan opresivos como los que conocemos fuera del ámbito en línea.
Grabación completa de la sesión Tertulia de mayo 2023
Hablamos de IA y ChatGPT con Joana Varón, Fundadora de Coding Rights y Cristina Vélez, Co-Fundadora de Linterna Verde
Hay numerosas preguntas que debemos plantearle a la inteligencia artificial en relación a la seguridad, la vigilancia y la reproducción de sistemas sexistas, racistas y transfóbicos. Además, con la creación de contenido que parece real, la desinformación y el riesgo de desinformación se vuelven de gran escala. Esto plantea interrogantes sobre el futuro del trabajo creativo. ¿Cuál es su destino?
Al mismo tiempo, para que estas "máquinas mágicas" puedan funcionar, requieren de numerosos humanos realizando un trabajo muy difícil, sin protección alguna y sin recibir un pago justo. Para Joana, la clave del futuro está en lo ancestral. Debemos mirar hacia atrás para encontrar y mapear territorios en Internet que tengan más sentido con los mundos que vivimos y que sean respetuosos de nuestras necesidades en esta épocaç.
Además, es crucial participar en los debates en torno a estos sistemas. No solo son hombres blancos del Norte los que alimentan y entrenan estas máquinas, sino que también son ellos mismos quienes lideran los debates y proponen soluciones. Necesitamos descolonizar nuestros imaginarios sobre la tecnología y hackear estos sistemas que, al fin y al cabo, no están diseñados para nosotros.
Y eso fue precisamente, lo que Cristina nos ayudó a hacer, explorando diversas formas de utilizar aplicaciones con inteligencia artificial para ayudar a la sociedad civil en su trabajo narrativo y en la narración de historias. Es muy fácil perderse y utilizar estas herramientas de manera incorrecta. Sin embargo, existen formas en las que las organizaciones pueden hacer preguntas específicas y entrenar al sistema para que les ayude a comunicarse de manera más efectiva, ampliando sus herramientas y cumpliendo mejor su misión, algo que antes era imposible debido a las limitaciones de recursos.
¿Cómo podemos traducir la teoría del cambio de las organizaciones en piezas de comunicación más pequeñas para expandirlas mejor? ¿Cómo podemos reducir costos? Las redes sociales han resuelto problemas de distribución, pero no de producción de contenido. Estas herramientas nos ayudan a traducir el lenguaje de los derechos humanos y el feminismo para llevarlo más lejos. Siempre es recomendable utilizar estas herramientas en compañía, en tejidos y redes de solidaridad: es lo humano y la conexión entre nosotres lo que marcará la verdadera diferencia.
El objetivo entonces es crear estrategias de seguridad, privacidad, incidencia, defensa y contrapoder. Debemos pensar en manuales, guías y estrategias con trucos especiales que puedan ser utilizados por organizaciones defensoras de derechos humanos de modo seguro. Por ejemplo, Cristina utiliza técnicas para proteger los datos de las organizaciones con las que trabaja, borrando datos personales y ocultando el historial. Y eso, sin duda, no es sino el principio. El proceso de aprendizaje y descubrimiento, así como el de protección y jackeo, no está sino en sus primeros pasos.