Una mirada a la IA a través de un prisma de varios colores

En un relato en primera persona, Gabriela Arriagada Bruneau, académica del Instituto de Éticas Aplicadas(IEA) en cargo compartido con el Instituto de Ingeniería Matemática y Computacional (IMC) e investigadora del Centro Nacional de Inteligencia Artificial (CENIA), se refiere al aporte de su libro Los sesgos del algoritmo, recientemente difundido, y a la experiencia personal que implicó trabajar en la publicación:

Mi idea de escribir Los sesgos del algoritmo surgió a petición del editor Daniel Campusano, en 2023, tras haber seguido él mi trabajo e interesarse en que pudiera hablar sobre mi investigación en inteligencia artificial (IA) desde una perspectiva propia y en un estilo accesible, capaz de convocar a un público amplio.

Considero esta publicación una experiencia de conocimiento compartida, que nos invita a pensar sobre el desarrollo de las IAs centradas en el ser humano, que es el foco de mi trabajo, desde sus implicancias éticas.

Libro dialógico con perspectiva feminista

Inspiración clave para escribir el libro fue, en gran parte, mi propia experiencia. En el tiempo en que me he dedicado al estudio de estos temas, he detectado diferentes instancias en las que los sesgos, prejuicios y la discriminación producto del desarrollo que está teniendo la IA dan origen a problemas personales y sociales. Además, veo que muchas de estas preocupaciones son cercanas a los intereses de mis estudiantes, de comunidades neurodivergentes y de minorías sexuales. Por eso me pareció importante integrar el ámbito de los sesgos en los algoritmos, que investigo formalmente, y traducirlo a una narrativa que significara esas experiencias y esos espacios comúnmente invisibilizados.

Su principal característica es que es un libro dialógico. Realmente tengo la convicción que se logró captar una conversación y dar cuenta de ideas surgidas en ella, de un flujo de intereses, y poner énfasis en acercar a este campo a todas las personas que quieran saber algo más de los sesgos detrás del algoritmo.

Sin embargo, lo que más destaco, es su perspectiva feminista. Creo que hay muchos prejuicios sobre cómo integrar el feminismo a la sociedad y al quehacer científico. Aquí me baso en conceptos clave del feminismo de la ciencia para crear un espacio en el que se instale la idea de que el desarrollo inclusivo y ético de la IA necesita una visión contextual, sociotécnica y encarnada en las experiencias, necesidades y, sobre todo, las voces y narrativas en primera persona de quienes son impactados por esta tecnología.

Entender la ética como parte de quienes somos

Un aporte sustantivo para los lectores de Los sesgos del algoritmo, me parece, será dimensionar la importancia del discernimiento ético y del trabajo interdisciplinario en la creación de la IA. Entenderán que no sólo no podemos aspirar a un mundo sin sesgos, sino que nuestro esfuerzo debe orientarse a transformarlos en un bien al entenderlos, contextualizarlos y darnos cuenta de que de nosotros depende que la IA llegue a ser una aliada en un camino de coevolución de nuestra sociedad. Y, especialmente, que veamos el mundo a través de un prisma de una diversidad de colores, donde no olvidemos que lo más importante del desarrollo y la innovación son las personas. 

En este sentido, creo que el texto es un reflejo de mi trabajo. Es un puente tendido para abrir una discusión en la esfera pública de un tópico que ha tendido a quedar circunscrito a la academia. Como académicos del Instituto de Éticas Aplicadas tenemos un imperante desafío, que es conectar cuestiones éticas con aplicaciones concretas, vincularnos con el medio y ayudar a transformarlo, y crear instancias donde el discernimiento ético y el pensamiento crítico sean la base de la toma de decisiones en lo público y lo privado.

Este libro, creo, ayuda a tender esos puentes con la sociedad, a hablarle a más personas de cosas que me apasionan, pero que también son clave para nuestro futuro. Responde a una necesidad de generar instancias de diálogo y cercanía que nos lleven a entender la ética no como la imposición de un requisito o un deber, sino como parte de quienes somos.

Un enriquecimiento personal

Además del aporte público que le atribuyo al libro, el trabajo en Los sesgos del algoritmo fue también una instancia de desarrollo propio muy hermoso, porque la editorial La Pollera me contactó en un momento personal difícil, en el que mi salud mental estaba afectada y en proceso de sanar equilibrando mis necesidades y limitaciones con mis habilidades y talentos. Fue en esas circunstancias en que se me dio la oportunidad de crear este libro a partir de una conversación, desde el flujo de ideas, desde una auténtica postura de apertura al conocimiento, de saber quién soy, cuáles son mis ideas y de mostrarme lo valiosas que pueden ser para muchas personas. Daniel Campusano, mi editor, fue un factor fundamental en ir articulando todos los elementos que me permitieron plasmar mis ideas e inquietudes en un texto accesible a cualquier persona.