Proyectos CENIA – Línea 5: IA centrada en el ser-humano
Observatorio de IA – CENIA. Bárbara Poblete (DCC U. Chile), Valeria Herskovic (DCC UC), Claudia López (UTFSM), Marcelo Mendoza (DCC UC), Andrés Abeliuk (DCC Uchile), Gabriela Arriagada (IEA/IMC UC).
Ayudantes de investigación: Estudiante de Magíster (UC), Mateo Ormeño; estudiante de Magíster (UC), Tomás Jelvez; estudiante de Doctorado (USM), Yelena Hernández; ingeniero, Sebastián Cifuentes; memorista, Matías Soto.
Un repositorio de acceso público para hacer un seguimiento de la toma de decisiones mediante IA en la región (a nivel municipal, de ciudad, nacional o regional), además de ofrecer acceso a glosarios y fichas educativas explicando el funcionamiento del uso de IA, analizando su impacto ético, técnico y social.
A network of biases in ML algorithms- ethical evaluation of social impact (Red de sesgos en algoritmos de aprendizaje automático: evaluación ética del impacto social). Claudia López (UTFSM), Gabriela Arriagada (IEA/IMC UC). Ayudante de investigación: Alexandra Davidoff (Socióloga UC)
Los sesgos se identifican principalmente a través de su interferencia individual o particular dentro de la tubería de IA (AI pipeline). La mayoría de las descripciones en la literatura conceptualizan los sesgos basándose en su influencia en cada procedimiento o etapa. Sorprendentemente, este es también el caso de la inclusión de los sesgos cognitivos o sociales en cada fase del proceso. Esta fragmentación también explica por qué los sesgos se repiten a lo largo del desarrollo de un modelo algorítmico, en lugar de identificarse como una influencia continua.
Esta tendencia se ve como una oportunidad para reflexionar más sobre la relación entre los sesgos y sobre cómo un enfoque global podría ayudar a institucionalizar prácticas éticas.