Estos son nuestros sesgos, si no gustan tenemos otros

JULIÁN REYNOSO; ANDRÉS A. ILCIC

Buenos Aires

Workshop; Workshop inteligencia artificial y filosofía: El desafío de los sesgos; 2022

Instituto de Investigaciones Filosoficas - SADAF

Mucha de la literatura contemporánea en torno a los sesgos en IA & machine learning gira en torno al problema que presenta confiar ciegamente en estos métodos automatizados a la hora de tomar decisiones. Es habitual encontrar historias terroríficas de bancos que niegan préstamos a personas calificadas para obtenerlos, pero cuyo sistema de toma de decisiones exhibe falencias a la hora de sopesar los criterios. No está de más decir nunca que esta clase de situaciones son inadmisibles, pero creemos que el tratamiento que se le ha dado al tema tiende a ser sesgado también, cargando las tintas contra la forma en la que estos sistemas automatizados funcionan, sin tener en cuenta que la gran mayoría de estos sesgos que exhiben están presentes en quienes desarrollan estos sistemas. En otras palabras: creemos que es necesaria una revisión a nivel sistémico del problema, y no exclusivamente al nivel algorítmico.