Amazon despide a su inteligencia artificial por machista

Amazon despide a su inteligencia artificial por machista

La compañía usó esta herramienta desde 2014 y mostró un claro sesgo en contra de las mujeres

JOSÉ A. GONZÁLEZ

Cuatro años en la plantilla de Amazon y de buscar candidatos ahora ha pasado a buscar trabajo, aunque puede que lo tenga complicado. En 2014, la compañía de Jeff Bezos puso en marcha un sistema para revisar los currículums de aspirantes a trabajador en el gigante del comercio electrónico.

Un proceso de automatización que tenía como principal objetivo mecanizar la búsqueda y encontrar los mejores talentos, según varias fuentes que confirma Reuters. Esta herramienta creada por un equipo de doce personas en Edimburgo puntuaba a los candidatos con entre una y cinco estrellas. Acción similar a cómo se califican los productos que los usuarios compran a través de la página web de la compañía.

Un año después de su nacimiento, los ingenieros de Amazon comprobaron que la herramienta no funcionaba del todo bien. El sistema no calificaba a los candidatos de manera neutral al género.

Según Amazon en declaraciones a Reuters, el problema radica en la educación de la inteligencia artificial reclutadora y no en su arquitectura. El aprendizaje de los cerca de 500 modelos informáticos se realizó sobre miles de currículums durante una década, pero, asegura la compañía, que la mayoría fueron hombres.

Con este contexto, la inteligencia artificial penalizaba informes que contenían la palabra «mujer» y sin revisar su experiencia académica y profesional. Su primera opción siempre eran hombres.

Esta tendencia comenzó a verse en los primeros pasos del modelo. En actualizaciones posteriores, el equipo de Amazon trató de revertir el sesgo sexista de la herramienta, pero los candidatos seguían clasificándose de manera discriminatoria.

Trabajo arduo

Los doce ingenieros que trabajaron desde 2014 crearon un total de 500 modelos capaces de reconocer 50.000 términos que aparecían en currículums de anteriores candidatos. Sin embargo, la herramienta siempre apostaba con las candidaturas que contenían palabras o conceptos en las historias de ingenieros y no de ingenieras.

La compañía de Jeff Bezos despidió en 2017 a su reclutadora «inteligente», pero Amazon no lo di a conocer hasta este momento cuando Reuters lo ha desvelado. El gigante del comercio electrónico, no obstante, ha asegurado que «está comprometida con la diversidad y la igualdad en el trabajo».

 

Fotos

Vídeos