El uso de la inteligencia artificial en la vigilancia pública, la conducción de autos autónomos o la comprensión del consumidor podría replicar sesgos discriminatorios de quienes la crean y ampliar brechas, advirtieron especialistas.
Los algoritmos de inteligencia artificial deben estar creados por equipos diversos e inclusivos de trabajo para evitar que sesgos raciales, de género o relacionados con la orientación e identidad sexual de las personas se repliquen en los modelos.
"La mujer está subrepresentada en STEM, pero en inteligencia artificial es peor. Esto nos dice que se está construyendo un mundo donde las mujeres y otros grupos minoritarios no existen", alertó Gabriela Ramos, directora general adjunta de Ciencias Sociales y Humanas en la UNESCO, en una conferencia organizada por el Instituto Federal de Telecomunicaciones (IFT).
Para Andrea Escobedo Lastiri, líder de Asuntos con Gobierno y Regulatorios de IBM, se tiene que considerar un proceso de auditoría, evaluación de resultados, eliminación de sesgos y entrenamiento constante para que los principios de transparencia y confiabilidad de la inteligencia artificial sean garantizados.
"Se puede tener a un líder responsable del ciclo de vida de la inteligencia artificial y que comprenda que entre más complejo es el sistema más transparencia se requiere", agregó.
Además, la implementación de la inteligencia artificial requiere que se realicen investigaciones sobre los límites éticos de la tecnología, indicó Sofía Abad, especialista en problemas sociales relacionados con la inteligencia artificial.
"No hay plazas de investigación ni posdoctorados para investigar estos temas. Recientemente, la UNAM solo abrió una plaza para investigar este tipo de temas.
"Necesitamos comités de ética de inteligencia artificial", señaló.
tecnologia
