PuroPeriodismo/Imagen DW, Alemania
Los robots se vuelven sexistas y racistas por culpa de una inteligencia artifical (IA) defectuosa. Así lo afirma un nuevo estudio que revela que un robot que funciona con un sistema de inteligencia artificial ampliamente utilizado en Internet prefiere sistemáticamente a los hombres sobre las mujeres, a los blancos sobre las personas de color, y saca conclusiones sobre la profesión o la designación de las personas basándose únicamente en una foto de su rostro, destaca DW de Alemania.
El trabajo, dirigido por investigadores de la Universidad Johns Hopkins, el Instituto Tecnológico de Georgia y la Universidad de Washington, que será publicado en la Conferencia sobre Equidad, Responsabilidad y Transparencia de 2022, se considera el primero en demostrar que los robots cargados con este modelo aceptado y ampliamente utilizado funcionan con importantes sesgos de género y raza.
“Hasta donde sabemos, realizamos los primeros experimentos que demuestran que las técnicas de robótica existentes que cargan modelos de aprendizaje automático preentrenados provocan un sesgo de rendimiento en la forma de interactuar con el mundo según los estereotipos de género y raza”, explica un equipo en un nuevo artículo, dirigido por el primer autor e investigador de robótica Andrew Hundt, del Instituto Tecnológico de Georgia, según DW.
“El robot ha aprendido estereotipos tóxicos a través de estos modelos de red neuronal defectuosos”, agregó. “Corremos el riesgo de crear una generación de robots racistas y sexistas, pero la gente y las organizaciones han decidido que está bien crear estos productos sin abordar los problemas”.
Especial PuroPeriodismo/ DW, Alemania
