La automatización progresiva pero imparable de actividades, tareas y procesos de toma de decisiones mediante una aplicación sistemática de técnicas y sistemas de inteligencia artificial (IA) está marcando una nueva etapa en la transformación digital de la sociedad, la economía y las finanzas.

Resulta ineludible contar con un cuerpo normativo y un debido control en la IA que les permita un desarrollo responsable sobre bases éticas sólidas, a fin de lograr una coexistencia pacífica con los seres humanos, evitando vulnerar la integridad de los seres humanos.-

El tema de la IA en el Compliance penal y la responsabilidad penal de la persona jurídica comienza a ser un tema muy importante. -

El compliance penal es un conjunto de políticas y procedimientos que se implementan en una empresa para evitar que cometa delitos penales. -

En el ámbito empresarial particularmente en el Compliance y en el Compliance penal la IA ha ido en aumento. Y esto se debe a que es de gran ayuda para prevenir y detectar posibles infracciones a las normas de cumplimiento y mejorar así la eficiencia en el desempeño de los controles, evitando sanciones a la entidad bancaria.

El uso de la IA en el ámbito del compliance penal supone un cambio importante en el modo en que los bancos pueden prevenir y detectar posibles o potenciales delitos en general , por ejemplo la prevención de lavado de dinero.

Una de las funciones de los bancos es evitar que el dinero ilegal ingrese al sistema, razón por la que deben tener medidas exhaustivas para conocer y monitorear a sus clientes, de tal forma que sepan cuáles son sus ingresos, cuánto dinero mueven y si tienen consignaciones inusuales para alertar a las autoridades (Donna, Sebastian A. Compliance y delitos económicos-financieros. Editores del Sur. 2023, pág. 52).

Los bancos se convierten a veces en un canal fácil para los lavadores de dinero, esto lleva a que las entidades bancarias y financieras deban afrontar sanciones que se traducen en pagar millonarias multas, incluso la cárcel para las personas físicas (Donna S, op. cit, pág.52). Esto se debe a una falla en el compliance penal del banco en controlar y evaluar los riesgos, lo que implicaría una sanción a la persona jurídica.

La mayoría de los bancos son sancionados por un defecto en el Compliance, particularmente en el análisis de riesgo de sus clientes (quienes realizan depósitos o inversiones en el banco, etc.), así, por ejemplo, el dinero del narcotráfico (o de cualquier delito) se ingresa a los bancos comerciales o de inversión con la idea que entre en la pileta financiera por medio del sistema bancario logrando "blanquear el dinero", esto la institución financiera lo consigue bajando el análisis de riesgo.

Un ejemplo relacionado a la IA para cometer delitos, imaginemos que el director financiero de la compañía recibe una llamada de su supuesto director general. La voz es idéntica y las pistas contextuales coinciden con los mensajes que daría habitualmente su jefe. Imaginemos que el mensaje sea el siguiente "Acabamos de adquirir una nueva empresa y no queremos que nadie se entere todavía. Es altamente confidencial. Antes, necesitamos que transfieras diez millones de euros a esta cuenta ..." (Lausanne, Öykü Isik. La inteligencia artificial frente al cibercrimen, pág.4, Expansión, lunes 22 de julio de 2024, Madrid, España)

La falsificación de audio y video se utilizan tanto para el fraude como para el phishing, con un elevado riesgo para la reputación de las compañías, además del posible impacto económico. Para evitar ser víctimas de estos ciberataques, los ejecutivos deben contar con una formación adecuada sobre las tecnologías digitales y la inteligencia artificial.

Los Compliance penales para que sean eficientes hoy en día deberían incluir IA, de lo contrario estos serían ineficientes y no servirían para una eventual defensa de la responsabilidad penal de la persona jurídica. Si se intenta cometer una conducta antijurídica y esta no es posible percibirla por una persona física, pero si por la IA, y el banco no tenía en su Compliance esta tecnología, su Compliance penal sería ineficiente.

En la Argentina, el compliance se encuentra legislado y regulado desde el 2017 en la Ley N° 27.401, sobre el régimen de responsabilidad penal aplicable a las personas jurídicas privadas, ya sean de capital nacional o extranjero, con o sin participación estatal; es a partir del art. 22, bajo el título de "Programa de integridad", el legislador normatizo el compliance penal.

Resultan importantes los arts. 22 y 23 dado que la excepción de la sanción penal de la persona jurídica aparece en la citada ley que dice implementar un sistema de control y supervisión adecuado con anterioridad a la comisión del delito( prevenir, detectar , corregir irregularidades y actos ilícitos).-

El Programa de Integridad exigido deberá guardar relación con los riesgos propios de la actividad que la persona jurídica realiza, su dimensión y capacidad económica, de conformidad a lo que establezca la reglamentación.

Esto quiere decir que si se cumplimentó correctamente el complicance puede permitir que las personas jurídicas no sean responsables penalmente de los hechos que se le imputen (Donna S, op. cit, pág.71).

Con diversos niveles de intensidad, los sistemas de IA se emplean de forma transversal en el sector bancario para la atención e interacción con el cliente, los sistemas de IA ofrecen posibilidades extraordinarias de personalización, recomendación, gestión de cuentas, inversión y asesoramiento financiero, atención continua mediante chatbots y asistentes virtuales.-

Para la gestión de riesgos, las soluciones de IA se proyectan en la mejora de sistemas de prevención de fraude, de alerta temprana o de ciberseguridad, además de incorporarse en modelos predictivos de contratación y promoción de personal.

También nos enfrentamos con el lado negativo de la IA el uso de algoritmos de forma expansiva y creciente en nuestra sociedad puede ser también fuente de nuevos riesgos, conducir a resultados indeseados, tener consecuencias inesperadas o despertar preocupaciones jurídicas y desafíos sociales de muy variada índole. Las decisiones algorítmicas pueden resultar sesgadas o ser discriminatorias (Ver Chander, 2017, pág. 1023- 1045) como resultado de precondiciones prejuiciosas, basadas en estereotipos o dirigidas a explotar vulnerabilidades del usuario, un diseño inadecuado del algoritmo o un conjunto de datos para el entrenamiento y el aprendizaje insuficiente o impreciso.

Los algoritmos necesitan entrenarse con una gran cantidad de datos, que, además, deben ser de calidad, esto es, representativos de toda la población.

Un estudio reciente -utilizo ChatGPT para ayudar a redactar recomendaciones laborales -, descubrió que esta plataforma leía los currículums de forma diferente si estaban asociados a nombres masculinos o femeninos. Este sesgo no tiene fácil solución y requiere un mecanismo de gobernanza corporativa cuidadosamente elaborada para mitigar los riesgos (Lausanne, Öykü Isik. La inteligencia artificial frente al cibercrimen, pág.4, Expansión, lunes 22 de julio de 2024, Madrid, España).

Pero también hay sesgos generados por los propios programadores o quienes dan las directivas a los programadores.-

A esto se le debe sumar que, la inteligencia artificial puede ser atacada. Los propios modelos de IA pueden ser hackeados mediante, principalmente, acciones de envenenamiento de datos.

También existen los mecanismos de jailbreaking, que los piratas informáticos usan para saltarse las barreras establecidas para limitar el potencial dañino de la IA generativa. Como saben los jailbreaks son códigos que consiguen esquivar esas barreras de prevención.

De esta manera las empresas deben mantener la supervisión humana con el objeto de detectar los sesgos y los puntos ciegos de la tecnología y garantizar una gobernanza responsable de la IA.

Surgen otros temas como la imputación penal a las personas que dieron las indicaciones de que función debería cumplir la IA en el Compliance , si los programadores lo hicieron correctamente, y/o si se controló que estaba bien programado, lo que nos lleva a varios temas, el primero sobre quien responde como garante (y que tipo de garante es) y el segundo, si el Compliance tenía un correcto y efectivo sistema de control.

El sistema artificial capaz de desarrollarse, pensar y tomar decisiones sin intervención humana o con un mínimo de ella, nos lleva hacia un dilema complejo, como es el de decidir si deberíamos o no dotarlos de una personalidad jurídica propia, con un marco regulatorio y una educación adecuada en el uso responsable de la IA. Así como las empresas son personas jurídicas penalmente responsables la IA también deben serlo.

Solo en la actualidad contamos con Directrices éticas para una IA confiable -Parlamento Europeo 2019- y la Recomendación Nº 55 de la Conferencia General de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) 2021 o en el tema del compliance empresarial recurrimos a la Ley Penal para los delitos económicos financieros. -

Las Directrices Éticas nos mencionan cuatro principios éticos: 1) Respeto de la autonomía humana- deben potenciar y complementar su desarrollo cognitivo, social, cultural y laboral de la persona humana; 2) Prevención del daño: Se busca proteger la dignidad humana, su integridad física y mental; 3) Equidad social: Implica la distribución justa e indiscriminada de los beneficios de la IA; 4) Explicabilidad: Se trata de brindar información transparente acerca de los procesos de la IA.

Por último la Recomendación sobre la ética de la inteligencia artificial indica que "Los Estados Miembros deberían velar por que se investiguen y reparen los daños causados mediante sistemas de IA, estableciendo mecanismos de aplicación estrictos y medidas correctivas, a fin de asegurarse de que los derechos humanos, las libertades fundamentales y el estado de derecho son respetados en el mundo digital y en el mundo físico...." .-