Existe una estrecha conexión entre los discursos de odio y la inteligencia artificial (IA), según se puso este lunes de manifiesto en el marco del Día Internacional de la Lucha contra el Discurso de Odio, un evento en el que participaron diplomáticos, expertos y representantes de grandes tecnológicas.
El objetivo de esta reunión era crear «coaliciones para recuperar espacios inclusivos, seguros y libres de odio».
El secretario general de la ONU, António Guterres, no estuvo presente en este evento, pero intervino mediante una carta, en la que señaló que «el discurso de odio está contaminado por la sociedad» y que este tipo de retórica «se propaga más rápido y más lejos que nunca, amplificado por la inteligencia artificial y algoritmos sesgados».
Problemática de la IA se discute en la ONU
Según Guterres, una de las soluciones sería «exigir una cooperación internacional más sólida para combatir el odio en línea, basada en los derechos humanos y el derecho internacional».
«Necesitamos alianzas a todos los niveles: entre gobiernos, sociedad civil, empresas privadas y líderes religiosos y comunitarios. Necesitamos contrarrestar las narrativas tóxicas con mensajes positivos y empoderar a las personas para que reconozcan, rechacen y se enfrenten al discurso de odio», anotó en su mensaje.
En tanto, el secretario general animó a los miembros de la ONU a utilizar la IA no como una herramienta de odio, sino como una fuerza para el bien y a mantenerse «unidos en la búsqueda de la paz, el respeto mutuo y la comprensión para todos».
Herramienta poderosa
Por su parte, Miguel Ángel Moratinos, alto representante para la Alianza de Civilizaciones de las Naciones Unidas (UNAOC), resaltó que la IA tiene el potencial de ser una herramienta poderosa para el bien, para detectar contenido dañino, traducirse entre culturas y expandir la aceptación del conocimiento.
«Sin embargo, si no se controla, también puede reforzar el sesgo, la discriminación automática y alimentar la misma narrativa que buscamos desmantelar», subrayó Moratinos.
