Fuente: imagenradio
La Inteligencia Artificial (IA) ha revolucionado el mundo de la tecnología y está cambiando la forma en que se interactúa con los dispositivos electrónicos. Esta innovación, sin duda, propone una gran oportunidad para mejorar la experiencia y productividad de los usuarios, además de abrir nuevas oportunidades comerciales.
Sin embargo, los retos relacionados con el uso apropiado de IA tienen que ser abordados antes de que la tecnología sea ampliamente adoptada, por ello, se vuelve fundamental el uso apropiado del diseño y cumplimiento de regulaciones que garanticen la seguridad, privacidad, responsabilidad ética y justicia social en todo lo relacionado con la IA.
En este sentido, la Unión Europea (UE), se encuentra actualmente ultimando un nuevo Reglamento destinado a regular algunos aspectos sobre el uso de IA, a fin de garantizar que los usuarios reciban beneficios sin las implicaciones de riesgos o abusos con el empleo de la misma. La nueva norma conocida como ‘AI Act‘, contempla incluir términos para que las empresas que desarrollen sistemas basados en este tipo de inteligencia -como chatbots-, revelen cualquier material protegido por derechos de autor.
Asimismo, pretende clasificar las herramientas de IA según el nivel de riesgo percibido, desde mínimo a limitado, hasta alto e inaceptable, facilitando así a los usuarios la información sobre el tipo y grado de amenazas que corren al usar esta tecnología. Aunado a lo anterior, las Instituciones de la UE también proponen sanciones por incumplimiento para todos aquellos desarrolladores y empresas que violen los requisitos legales.
El nuevo marco legal, no dejará de lado cuestiones como la privacidad, protección de datos, transparencia, explicabilidad de resultados, responsabilidades y formación, con el objetivo de que los sistemas basados en IA sean fiables, éticos, cuenten con controles de seguridad, no discriminen a los usuarios o profesionales, y con ello, disminuyan las latentes preocupaciones sobre el riesgo de que las decisiones tomadas por los sistemas automatizados basados en IA resulten perjudiciales para la sociedad o para individuos específicos, lo que puede derivar en responsabilidades legales.
En principio, todas las empresas usuarias o que participan en el diseño, fabricación y/o comercialización de los modelos de IA hasta ahora tratados o de sistemas que se basen en ellos, se encuentran especialmente concernidas por la AI Act y será recomendable realizar un análisis sobre cómo les podría impactar la aplicación de esta norma.
En el caso de México, la regulación sobre esta materia se encuentra limitada a algunas disposiciones relacionadas con la protección de datos personales, y en algunos casos, de derechos de autor y de imagen, dependiendo del tipo de material involucrado. Sin embargo, la legislación no aborda directamente las cuestiones éticas ni de gobernanza que rodean el desarrollo y uso de IA, aunque se espera que se establezcan pronto las normativas necesarias para controlar mejor su uso.