Los coches autónomos están ahora por todas partes en las carreteras. Las personas se sienten más cómodas y seguras mientras los conducen.
Los sistemas de seguridad en los coches autónomos mejoran cada día para reducir el número de accidentes y atropellos de peatones. Se están introduciendo múltiples funciones para ayudar a prevenir daños a las personas en las calles.
Pero un nuevo estudio publicado muestra algunos resultados impactantes. ¡Los sistemas de IA utilizados en los automóviles autónomos tienen más probabilidades de afectar a las personas negras! La declaración puede parecer racista, pero los números hablan.
Hallazgos impactantes
El nuevo estudio de Georgia Tech muestra que la tecnología de reconocimiento facial y corporal integrada en muchos sistemas de detección de peatones no detecta ni reacciona a las personas de piel más oscura de manera tan consistente como lo hace a las de piel más clara.
La escala de Fitzpatrick (fuente: wiki commons)
Usando la escala de Fitzpatrick que se muestra a continuación, cuando se confrontaron con imágenes de seres humanos con tipos de piel cuatro, cinco y seis, los algoritmos fueron consistentemente entre un 4 y un 10% menos precisos. Esto significa que entre un 4 y un 10% más de personas de piel oscura serán atropelladas por coches autónomos si no se resuelve el problema.
Pensemos en ello, los sistemas y algoritmos no pueden ser racistas para golpear a más personas negras. Los sistemas de IA «aprenden» y luego actúan, por lo que cuando una persona pasa por la calle, el sistema intentará detectar si este «objeto» es como las imágenes de las que ha aprendido antes o no.
El verdadero problema
Entonces, ¿por qué los resultados difieren según el color de las personas?
Fuente: utrgv.edu
Debido a que los sistemas algorítmicos «aprenden» de los ejemplos que se les proporcionan, si no adquieren suficientes muestras de, por ejemplo, mujeres negras durante la etapa de aprendizaje, tendrán dificultades para reconocerlas cuando se desplieguen.
Del mismo modo, los autores de la investigación sobre los coches autónomos señalan que es probable que una serie de factores contribuyan a la diferencia en su situación. En primer lugar, los modelos de detección de objetos se entrenaron principalmente en personas de piel clara. En segundo lugar, los modelos no pusieron suficiente énfasis en aprender de las pocas muestras de personas con piel oscura que tenían.
Solución sugerida
Según los hallazgos del equipo de Georgia Tech, es posible que estemos al borde de un futuro en el que un mundo lleno de automóviles autónomos no sea tan seguro para las personas con tonos de piel más oscuros como lo es para los peatones de piel más clara.
Fuente: Casarsa/iStock
Los coches automatizados pueden ser cada vez más inteligentes, pero como han demostrado otros estudios anteriores a este, todavía no son lo suficientemente inteligentes como para estar en nuestras carreteras, a pesar de que actualmente están en nuestras carreteras y han matado a los peatones.
Afortunadamente, basándose en su investigación, pudieron determinar lo que tenemos que hacer para evitar un futuro de coches autónomos con prejuicios: empezar a poner más fotos de personas de piel oscura en los conjuntos de datos con los que se entrenan los sistemas, y poner mayor énfasis en la identificación correcta de dichas imágenes.
Creo que es más importante abordar las causas raciales subyacentes de la violencia de tránsito que afectan negativamente a las comunidades de color, en lugar de pensar que una tecnología que creamos es el principal problema que debe resolverse.