Necesario el uso adecuado de la inteligencia artificial: Maqueo

Toluca, Méx.- María Solange Maqueo Ramírez, Directora de la Facultad de Derecho de la Universidad La Salle, reconoció la necesidad de emplear la Inteligencia Artificial como una herramienta, sin que exista un ser o deber ser sobre la tecnología y su uso adecuado.

Al impartir la conferencia magistral Inteligencia Artificial en el Derecho. Perspectivas desde la regulación, destacó la forma en que se va construyendo la Inteligencia Artificial y sus elementos, ya que ésta también se desarrolla en el campo de la salud y otros rubros.

Entre las bondades de la inteligencia artificial, destacó el incremento a la esperanza de vida, detectar en tiempo diversos padecimientos, mejoras en temas ambientales, avances neurológicos, aspectos agrícolas, alimentarios, entre otros.

Sobre sus riesgos, destacó la manera en que funcionan los sistemas de IA, uno de ellos sobre los denominados “riesgos imprevistos”, la opacidad de los algoritmos, dada la complejidad de su diseño o porque se atiende a cuestiones de propiedad intelectual o industrial, lo que impide conocer su alcance, ya que el sistema sigue aprendiendo y procesando la información.

Recordó la importancia e impacto que puede tener la inteligencia artificial en materia de Derechos Humanos, el carácter predictivo de las mismas respecto de la eventual recurrencia en la comisión de delitos, sujetos beneficiarios de programas sociales, o aspectos laborales personales, todo ello útil, pero que puede implicar ciertas violaciones dada la imperfección de los sistemas y su sesgo, dado que la IA reproduce la ideología de los desarrolladores que son los encargados de incorporar la información al sistema según sus propias tradiciones, cultura o costumbres.

Llamó la atención sobre la necesidad de proteger la información personal y cuidar la privacidad de las personas dado que la Inteligencia Artificial se alimenta de datos e información, sin la cual no se puede diseñar, de modo que de no contar con la información suficiente puede tener amplios márgenes de error, de ahí la necesidad de su regulación.

Sugirió que en caso del Poder Judicial Mexicano es importante que la inteligencia artificial se desarrolle con la información propia del país, para garantizar por lo menos que dicha información se encuentre dentro del poder judicial y no en manos de un proveedor que incluso puede estar fuera del territorio nacional.

Destacó la importancia de cuidar y evitar la suplantación de identidad, voces, imágenes, sin consentimiento de los titulares, el respeto a los derechos de autor, la dignidad de la persona, etc., de ahí la necesidad de su regulación preventiva y no solamente punitiva.

Refirió la importancia de la creación del Reglamento de la IA de la Unión Europea; y el Convenio Marco del Consejo de Europa sobre IA y Derechos Humanos, Democracia y Estado de Derecho, ambos de 2024.

Asimismo, alertó sobre el sistema de crédito social que valora la conducta de las personas para que tengan acceso a ciertos beneficios o derechos, lo cual en sí mismo conlleva un riesgo; así como de los beneficios de la inteligencia artificial generativa.