La implementación de tecnologías de inteligencia artificial en las empresas: una mirada desde la gestión de los riesgos legales y el compliance

Lejos de la ciencia ficción, hoy se vive un acelerado crecimiento de ciertas tecnologías de procesamiento de datos y automatización de decisiones que ha impactado de manera sorprendente nuestras vidas, lo que se ha denominado como una verdadera revolución tecnológica de la IA, cuyo desarrollo permite que –a través de procesadores de información- los sistemas de tecnología integrada, como los robots o los softwares de asistencia virtual, logren percibir su entorno, resuelvan problemas, comprendan ideas complejas y tomen decisiones específicas.

Estas cualidades propias de un ser pensante o racional permiten que tareas que, comúnmente debería realizar un ser humano, puedan ser realizadas con mayor eficiencia por una máquina, ya sea automatizando procesos o analizando datos y tomando decisiones, de manera casi automática; cualidades que han dado a la IA cada vez más usos y aplicaciones en todos los sectores de la economía, al punto que, según renombradas consultoras internacionales, se estima que el uso de esta tecnología podría impulsar en un 14% el crecimiento del PIB mundial para el año 2030, considerando su impacto en la productividad y el consumo.

En este sentido, tanto para el sector público como para el sector privado, el uso de la IA representa una gran oportunidad de eficiencia y crecimiento, aunque la oportunidad de aprovechamiento de esta tecnología no está exenta de riesgos y plantea una serie de desafíos.

En este contexto, el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación ha dispuesto la elaboración de una Política y un Plan de Acción en Inteligencia Artificial (2021-2030), que inserte a Chile en la vanguardia y colaboración global relacionada con inteligencia artificial.

La Política Nacional de IA fue estructurada en torno a tres ejes, cada uno de los cuales aborda las oportunidades y brechas en su ámbito, e introduce los objetivos y acciones prioritarias que el país debe emprender en los siguientes diez años, siendo el tercer eje, aquél relativo a ética, aspectos legales y regulatorios, e Impactos Socioeconómicos, uno de los que más destaca.

Riesgos de la IA

En dicha política, se reconoce que la discusión sobre normativa de la IA a nivel mundial está en pleno desarrollo y se plantea la necesidad de diseñar e implementar una agenda de revisión de la regulación existente relativa a los derechos fundamentales que están siendo o pueden ser impactados por la IA, con el fin de determinar qué normas podrían ser eventualmente actualizadas o derogadas.

Es así como se plantean discusiones en torno a los aspectos normativos más relevantes a considerar, dentro de los cuales se encuentran la privacidad, la ciberseguridad, la protección al consumidor y el sistema de propiedad intelectual. Asimismo, se abordan temas como la transparencia, género, discriminaciones arbitrarias e impacto en el mercado laboral.

Algunos de los desafíos a resolver dicen relación con establecer estándares y recomendaciones de transparencia algorítmica, es decir, sobre la entrega de información y la forma de funcionamiento de los algoritmos decisionales utilizados, tanto por órganos de la Administración del Estado como por privados. De esta forma, la recopilación, tratamiento y uso de los datos involucrados en dicha toma de decisiones debe ser oportuna y clara, en concordancia con el derecho de acceso establecido en la ley Nº19.628 sobre protección a la vida privada.

Por otro lado, en cuanto al crecimiento exponencial del comercio digital, el potencial de la IA no está exento de riesgos desde la óptica de los derechos de los consumidores, entre ellos, la generación de resultados injustos o arbitrariamente discriminatorios; la ausencia de transparencia en las condiciones que posibilitan la contratación de productos y servicios, o el tratamiento indebido de datos personales de los consumidores. Del mismo modo, se prevé un considerable impacto en el mercado laboral, lo que conllevará necesariamente a modificaciones en la regulación laboral.

Ante estos vertiginosos cambios y el rápido desarrollo de la tecnología, se propone el diseño de una institucionalidad ágil, un marco normativo flexible y un ecosistema no sobre regulado. Aquí destacan propuestas como la implementación de snadboxes regulatorios y la formulación de guías de buenas prácticas, tanto para el Estado, como para el sector privado. En nuestro país, encontramos casos exitosos de aplicación de esta tecnología, como el de las empresas The Not Company, por ejemplo, que utiliza inteligencia artificial para crear alimentos de origen animal o AIRA, empresa de recursos humanos que ha logrado mejorar su eficiencia gracias al uso de ésta.

Por otro lado, la actual aplicación de IA en el sector financiero promete ser una herramienta poderosa para aumentar la eficacia y reducir los costes de operación, transformando esta industria y el acceso a servicios financieros.

Nuevos desafíos regulatorios 

En definitiva, es incuestionable el aporte que en términos de eficiencia puede brindar el uso de herramientas tecnológicas como los sistemas de IA, lo que hace que su eventual aplicación en los procesos productivos de la empresa no sólo sea recomendable, sino que necesario. Sin embargo, al momento de su implementación, las empresas no sólo deben tener en cuenta la legislación vigente, sino también las eventuales modificaciones legislativas que se avizoran en esta área, diseñando programas de compliance robustos que integren dichos riesgos legales a su matriz.

En este marco encontramos el proyecto de ley que busca Promover la Competencia e Inclusión Financiera a Través de la Innovación y Tecnología en la Prestación de Servicios Financieros (Ley “Fintech”), que es un claro ejemplo de cómo nuestra legislación busca regular de manera más integral el uso de herramientas tecnológicas, extendiendo a la vez las facultades fiscalizadoras de la Comisión para el Mercado Financiero, las facultades regulatorias y cambiarias del Banco Central o ampliando incluso la órbita reguladora de la Unidad de Análisis Financiero.

Por otra parte, se tramita el proyecto de ley que regula la protección y tratamiento de datos, que busca actualizar la ley N°19.628 y fortalecer la protección de la privacidad de los ciudadanos, iniciativa que crea, por primera vez, una autoridad para la protección de datos personales.

La necesidad del compliance

En conclusión, con el objeto de evitar eventuales conflictos indeseados asociados a derechos fundamentales como la dignidad, privacidad y no discriminación arbitraria, es imperativo que las empresas (u órganos públicos) se anticipen a los eventuales riesgos legales derivados de la implementación de sistemas de inteligencia artificial.

Para ello, resulta vital que las empresas se adapten y desarrollen programas de cumplimiento normativo robustos que integren de manera sistémica los eventuales riesgos legales derivados del uso de esta tecnología, considerando tanto la legislación vigente como las eventuales nuevas disposiciones en esta materia. Esto ayudará a mitigar riesgos legales o reputacionales que impacten en la imposición de sanciones o incluso disminución de la inversión.

Finalmente, para que los programas de compliance sean realmente eficaces, es necesario que todas las partes implicadas con la organización conozcan sus valores y principios éticos. Igualmente, es relevante que estos programas de cumplimiento normativo sean diseñados a medida de la compañía vaya detectando los riesgos particulares de la actividad que se desarrolla.