Implicancias de la equidad algorítmica en la Inteligencia artificial

Cortez Vasquez, Augusto Parcemon; Manyari Monteza, Maria; Salinas Azaña , Gilberto; Chávez Soto, Jorge Luis · https://revistas.urp.edu.pe/index.php/Perfiles_Ingenieria/article/view/5394 (2025) · DOI: 10.31381/perfilesingenieria.v21i22.7056

Resumen

El uso de algoritmos de Inteligencia artificial no se limita como a veces se supone a procedimientos efectivos, el uso de este vocablo plantea varias concepciones, interpretaciones y problemas. Con el fin de no distraernos en este laberinto lingüístico, hemos tomado posición por una caracterización muy común en sentido psicológico que consiste en concebirla como una capacidad poseída por ciertos organismos/mecanismos para adaptarse a situaciones nuevas utilizando para tal efecto el conocimiento adquirido en el curso de anteriores procesos de adaptación. La irrupción de la inteligencia artificial (IA) se integra cada vez más en la sociedad y generalmente se utiliza para la toma de decisiones oportunas que afectan a la sociedad y por ende a las personas, en diferentes ámbitos. En el desarrollo de algoritmos de la IA, pueden ocurrir errores sistémicos y repetibles en un sistema informático que crean resultados injustos, como privilegiar a un grupo arbitrario de usuarios frente a otros. Estos algoritmos denominados sesgados, se caracterizan generalmente por la existencia de prejuicios o distorsiones en los datos de entrenamiento. La comunidad científica e instituciones gubernamentales han lanzado propuestas para combatir estos riesgos que buscan reducir su impacto negativo en la sociedad.  Es imperativo resolver aspectos que van contra la Ética, la justicia, la Transparencia y la Equidad de los datos, algoritmos y sus predicciones.  El presente trabajo pretende sensibilizar que desarrollo de algoritmos para tomar decisiones deben cumplir tres requisitos: en primer lugar, garantizar el equilibrio entre el conjunto de datos utilizados y la programación del algoritmo con equidad que evite la discriminación y el sesgo, segundo, garantizar condiciones de transparencia en los resultados, es decir, el resultado obtenido debe ser explicable a cualquier usuario de forma clara y sencilla. No debe soslayarse la regulación  de requisitos para el desarrollo y uso de la IA,  debe alinearse a la no afectación de  los derechos humanos fundamentales

Instituciones: Universidad Ricardo Palma