La iniciativa tiene un punto muy delicado pues introduce el delito de ‘provocar alarma social’
Habrá tres nuevos delitos
En entrevista exclusiva con Lupillo González, para PLANO INFORMATIVO, el diputado Luis Fernando Gámez Macías y el activista y abogado Luis González Lozano, disertaron sobre la propuesta de ley que busca regular el uso de Inteligencia Artificial.
Y es que se presentó en el Congreso del Estado una iniciativa para castigar con cárcel el uso malintencionado de la Inteligencia Artificial, específicamente la creación de deepfakes, audios y videos falsos que imitan la voz y el rostro humanos.
La propuesta plantea crear tres nuevos tipos penales, tres nuevos delitos:
* Usar Inteligencia Artificial para suplantar la imagen de una persona sin su consentimiento
* Usar Inteligencia Artificial para crear y difundir información falsa que provoque alarma
* Usar Inteligencia Artificial para simular mensajes o declaraciones institucionales.
Sin embargo, a decir de los activistas, la iniciativa tiene un punto muy delicado pues introduce el delito de ‘provocar alarma social’, un término que no está bien definido en la iniciativa, así como tampoco establece quién decidirá qué es una alarma social.
Activistas no están de acuerdo
El diputado Luis Fernando Gámez Macías consideró que las observaciones de los activistas “Están confundiendo a la opinión pública, porque la iniciativa de ninguna manera persigue este objetivo. Yo quiero poner un ejemplo. Imaginemos que el día de mañana estamos aquí trabajando, estamos aquí conviviendo, están los ciudadanos en sus domicilios y de repente llega una alerta al teléfono, aparece en la imagen el secretario de seguridad o el titular de la institución de seguridad pública y dice que hay un riesgo inminente en la ciudad, cuando menos en tres municipios del estado, y que nos resguardemos porque a partir de tal hora hay toque de queda”.
Pues naturalmente lo que haríamos todos es proteger a nuestras familias, movernos del lugar donde estamos, resguardarnos en nuestro domicilio y por supuesto tratar de estar seguros, creo que eso es algo que cualquiera haría. Sin embargo, horas después te das cuenta pues que fue una deepfake, que fue mal utilizado el vídeo, sale el verdadero titular de seguridad pública desmintiendo esta circunstancia y bueno pues esa es la alarma social de la que nosotros hablamos, hacia quién va a sancionar esto. No puede quedar impune una persona que con una intención dolosa trata de confundir o de afectar a la población.
Redacción permite criminalizar al periodista
Lupillo González y Luis González coincidieron en que “lo que está redactado deja el tema tan abierto que puedes criminalizar al día de hoy a un periodista”.
Gámez Macías señaló que “Eso nunca va a pasar, me parece doloso expresarlo, porque eso sí sería tratar de confundir a la opinión pública y mentirle a la población, decirle bueno pues te van a ir a sancionar, la verdad es que claramente hay un concepto de exclusividad, una cláusula que dice que se brinda la libertad de expresión, la crítica política o artística está excluida de esta iniciativa”.
El legislador reiteró que “Es una iniciativa buena, es una iniciativa de avanzada, y que en ningún momento tiene un dolo, una mala fe o un as bajo la manga”.
González Lozano respondió al diputado que “Yo no creo que sea tan de avanzada, y ahí yo les puedo sugerir que vean otras legislaciones como la que ya tienen en Sonora, porque no hay ni una definición de qué es inteligencia artificial, o bien no hay una forma de acreditar su uso, todo lo que es la cuestión de la pericial forense en informática, que se vuelve aquí necesario, y entonces es darle herramientas a la fiscalía para que el día de mañana cuando se tenga un caso real y concreto que se debe perseguir, pueda hacerlo, porque si no también se va a quedar en esos delitos que se quedan ahí en el limbo, porque operarlos es muy complicado”.
Luego de un acalorado debate, el diputado Gámez Macías reiteró que “Esto persigue un interés muy noble, que es proteger a la familia, y donde hay el interés superior de proteger a la niñez y a la familia, yo creo que ahí estaremos levantando la mano”.
Comisión aprueba delitos con IA
La Comisión Primera de Justicia del Congreso del Estado, aprobó el Dictamen que adiciona el artículo 187 TER, así como el Capítulo V denominado "Uso indebido de inteligencia artificial para provocar alarma social", con los artículos 272 BIS y 272 TER, al Título Décimo Primero, del Código Penal del Estado de San Luis Potosí.
La diputada Leticia Vázquez Hernández, presidenta de la Comisión Primera de Justicia, señaló que si bien la inteligencia artificial es una herramienta que ha apoyado a la sociedad en diversas tareas de la vida moderna, “Usada con otros fines puede generar problemas como la situación que vimos en el estado de Zacatecas, donde 400 alumnos fueron exhibidos de manera sexual, que alteraron a través de la Inteligencia Artificial sus fotografías, entonces nuestra responsabilidad es tener un marco jurídico adecuado donde sancionar estas conductas que es lo que hicimos en este momento”.
El diputado Héctor Serrano Cortés reiteró que lo que se busca es fortalecer la legislación estatal para atender y sancionar situaciones que afectan a la población, su seguridad e integridad.
Los nuevos delitos
I
“Uso de Inteligencia Artificial para suplantar la imagen de una persona sin su consentimiento”: Comete el delito quien, sin consentimiento previo, expreso, específico e informado de la persona a la que corresponda la imagen, la voz o la identidad digital, utilice sistemas de inteligencia artificial o programas automatizados para crear, reproducir, modificar, manipular o difundir contenidos que simulen la apariencia, la voz, los gestos o la identidad de una persona real.
Pena: de 1 a 3 años de prisión
Multa: de 100 a 300 UMAs
II
“Uso indebido de inteligencia artificial para provocar alarma social”: Comete este delito quien, a sabiendas de su falsedad y con la finalidad directa de alterar la confianza pública en las instituciones o poner en riesgo verificable la seguridad del Estado, genere, modifique o difunda, mediante sistemas de inteligencia artificial, contenidos digitales que simulen de manera verosímil declaraciones, comunicados o actuaciones de autoridades, instituciones públicas o cuerpos de seguridad.
Pena: de 3 a 6 años de prisión
Multa: de 300 a 600 UMAs
III
“Difusión dolosa de desinformación generada mediante inteligencia artificial”: para establecer que comete el delito quien, de manera dolosa y con el propósito directo de generar alarma pública o alterar la paz social, fabrique, modifique o difunda, mediante el uso de sistemas de inteligencia artificial, contenidos falsos o manipulados que se presenten como reales, y que sean idóneos para producir un riesgo verificable a la paz pública o a la seguridad de las personas.
Pena: 2 a 5 años de prisión
Multa de 200 a 400 UMAs
.gif)
