Post Format

Según los expertos: Para acabar con el sesgo de las IA’s se necesita contratar menos hombres blancos

Leave a Reply

Si puede pensar en un problema, es probable que haya un investigador en algún lugar tratando de desarrollar una inteligencia artificial para resolverlo. Pero mientras que las IAs se han vuelto más diversas en los últimos años, los investigadores que crean los sistemas no lo han hecho.

Según un nuevo informe del AI Now Institute de la Universidad de Nueva York, la industria de la IA todavía está dominada por hombres blancos, y esta «crisis de diversidad» es parcialmente la culpa de las AI sesgadas que estamos viendo surgir en todo el mundo.

«Hasta la fecha, los problemas de diversidad de la industria de la IA y los problemas de sesgo en los sistemas que construye tienden a considerarse por separado«, escribieron los investigadores. «Pero sugerimos que estas son dos versiones del mismo problema: los problemas de discriminación en la fuerza laboral y en la construcción del sistema están profundamente entrelazados«.

El equipo de AI Now descubrió que los hombres comprenden el 82 por ciento de los autores en las principales conferencias de AI y más del 80 por ciento de los profesores de AI. Las cifras tampoco mejoran cuando sales de la academia: las mujeres representan solo el 15 y el 10 por ciento de los equipos de investigación de inteligencia artificial de Facebook y Google, respectivamente.

El sesgo de AI Now

Las personas negras parecen estar aún menos representadas en la industria de la inteligencia artificial. El investigador de visión artificial Timnit Gebru le dijo al equipo de AI Now que ella era una de las seis personas negras en una conferencia de aprendizaje automático de 2016 a la que asistieron 8,500 personas.

La falta de género y diversidad racial no es solo un problema para quienes intentan trabajar en la industria de la inteligencia artificial, también es un problema para la sociedad en general.

«La urgencia detrás de este problema aumenta a medida que la IA se integra cada vez más en la sociedad«, dijo a The Guardian el investigador de Stanford Danaë Metaxa, que no estaba involucrado en el informe. «Esencialmente, la falta de diversidad en la IA está concentrando una cantidad cada vez mayor de poder y capital en manos de un subconjunto selecto de personas«.

Cambiar de marcha

El informe del equipo de AI Now incluye varias sugerencias sobre cómo las empresas de AI pueden mejorar la diversidad en el lugar de trabajo. Estos incluyen la creación de incentivos para la contratación de grupos subrepresentados y la publicación de informes detallados de compensación desglosados ​​por raza y género.

El equipo también compartió recomendaciones para abordar las propias AI sesgadas, como hacer que los sistemas sean auditados por partes independientes y aumentar la transparencia en cuanto a dónde se usan las IA.

«Cada día que pasa se hace más difícil resolver el problema«, dijo a The Guardian Tess Posner, gerente de AI4ALL, una organización sin fines de lucro centrada en la diversidad de la IA. «En este momento estamos en un momento emocionante en el que podemos marcar la diferencia antes de ver cuánto más complicado se puede hacer más tarde».

0

Leave a Reply

Required fields are marked *.