Los especialistas en aprendizaje automático de Amazon crearon una herramienta para revisar currículums de empleo desde 2014 con la finalidad de agilizar la búsqueda de nuevos talentos.
Según el sitio Código Espagueti, la compañía encontró un problema en esta inteligencia artificial de reclutamiento: su motor de búsqueda era sexista y descartaba a las mujeres.
De acuerdo con un reporte de Reuters, la idea era que esta herramienta fuera capaz de procesar un alto número de currículums y, luego de analizarlos, arrojase cinco candidatos perfectos listos para su contratación. Sin embargo, cinco personas familiarizadas con esta herramienta declararon que desde 2015 su sistema de reclutamiento no juzgaba de manera neutral a los candidatos en cuanto a género. Y es que el motor de búsqueda mostraba siempre resultados favoreciendo al género masculino para puestos relacionados con el desarrollo de software y ocupaciones de carácter más técnico.
El problema, como podemos imaginar, estaba en la base de datos. Al parecer los especialistas en machine learning entrenaron a la máquina a partir de patrones que podían observarse en los currículos presentados durante una década. En ese momento la mayoría pertenecían a hombres.
Desde luego, el sistema se enseñó a sí mismo que eran preferibles los candidatos hombres y entonces penalizaba todos aquellos currículums que incluían referencias femeninas. Al mismo tiempo, esta herramienta también rebajaba la calificación que otorgaba a las candidatas mujeres y que incluían estudios en centros educativos femeninos.
Según el reporte, los profesionales de la compañía modificaron los programas de reclutamiento laboral para volverlos neutros, pero aun así los sesgos se seguían presentando y además, las modificaciones no garantizaban que el sistema no creara otra forma de discriminación.
El problema no sólo está en las solicitudes, la herramienta tenía que estar programada para reconocer que la intención de la compañía estaba enfocada en ofrecer igualdad de oportunidades sin importar el género.
Finalmente, la compañía comandada por Jeff Bezos disolvió el equipo a principios del año pasado porque los ejecutivos perdieron toda la esperanza en el proyecto. Los reclutadores de Amazon observaron los resultados, pero no se limitaron a hacerles caso, aseguraron las fuentes anónimas.
Con información de Código Espagueti.
