06-07-2026 | Bartolome & Briones, Opinión
Por Javier Rodríguez-Losada, Asociado en Bartolome & Briones, España
Para muchos empresarios y directivos, la verdadera dimensión del riesgo jurídico no se aprecia hasta que se traduce en situaciones concretas. La inteligencia artificial (IA) ya no es una tecnología del futuro, sino una herramienta integrada en procesos de atención al cliente, marketing, gestión documental, selección de personal e incluso, de toma de decisiones empresariales.
El debate ya no es si utilizarla, sino cómo hacerlo sin exponerse a conflictos legales inesperados, teniendo en cuenta la existencia de normativa que regula obligaciones y sanciones al respecto. A continuación, mostramos algunos ejemplos sobre cómo herramientas diseñadas para ganar eficiencia pueden derivar en reclamaciones laborales, mercantiles o de responsabilidad civil cuando fallan los mecanismos de control.
Comercio electrónico: una plataforma de comercio electrónico incorpora sistemas de IA destinados a analizar patrones de navegación, tiempos de permanencia u otras variables conductuales con el objetivo legítimo de personalizar la experiencia del usuario y optimizar sus ventas. Sin embargo, un uso insuficientemente acotado del sistema podría llevar a identificar situaciones de especial vulnerabilidad emocional del consumidor, como estados de ansiedad, estrés o fatiga. A partir de ahí, la herramienta podría adaptar precios, ofertas o mensajes comerciales aprovechando esa circunstancia para influir en decisiones económicas que el consumidor probablemente no habría adoptado en condiciones normales.
Este tipo de prácticas podría constituir una infracción, pues la IA en este caso explota vulnerabilidades psicológicas para inducir decisiones económicas que el consumidor no habría adoptado en condiciones normales, vulnerando así el Reglamento (UE) 2024/1689, de obligado cumplimiento.
Diagnósticos médicos: una empresa instala un sistema de IA de diagnóstico automático en una clínica privada que emite informes a partir de pruebas que se realizan al paciente, así como de sus antecedentes médicos. Por un fallo en el entrenamiento del modelo, un paciente recibe un tratamiento inadecuado y como consecuencia de ello, sufre daños.
El paciente tendría una acción de responsabilidad contractual o extracontractual contra la clínica para reclamarle los daños y perjuicios ocasionados.
Asimismo, la clínica podría tener una acción de repetición contra el proveedor tecnológico por haberle provisto de un producto defectuoso. Podría ser reclamable aquí, no sólo la cuantía en que haya debido indemnizar al cliente, sino los daños reputacionales derivados de la difusión pública del incidente.
Precisamente por el impacto potencial sobre la salud, este tipo de sistemas son considerados de alto riesgo por el Reglamento europeo de IA, que exige mecanismos reforzados de control y supervisión humana.
Sector industrial: una fábrica o instalación industrial tiene implantado un sistema de IA destinado a optimizar los ritmos de producción. Como consecuencia de un defecto de configuración, entrenamiento o supervisión del sistema, la IA altera parámetros operativos y neutraliza alertas de seguridad destinadas a evitar paradas automáticas de maquinaria sin que nadie lo detecte. Como resultado, se produce un accidente laboral.
Las consecuencias jurídicas pueden ser especialmente relevantes. Además de las posibles sanciones administrativas derivadas del incumplimiento normativo, la empresa podría enfrentarse a reclamaciones en materia de seguridad y salud laboral, responsabilidades por daños y perjuicios e incluso, en los supuestos más graves, derivar en responsabilidad penal por delitos contra la seguridad de los trabajadores.
Desde la perspectiva del Reglamento (UE) 2024/1689, este supuesto podría evidenciar un incumplimiento de las obligaciones de supervisión humana exigidas para determinados sistemas de IA de alto riesgo, así como de las obligaciones de gestión de riesgos.
Recursos Humanos: en el ámbito laboral una gran empresa podría implantar un sistema algorítmico diseñado para evaluar rendimientos, optimizar la productividad y proponer reducciones de plantilla. Como consecuencia de una supervisión humana insuficiente y de un modelo entrenado con datos sesgados, el sistema podría penalizar, por ejemplo, a trabajadores que disfrutan de reducciones de jornada por cuidado de hijos, a colectivos de determinada edad, género o nacionalidad.
En la práctica, un escenario de este tipo podría desembocar en una demanda por despido nulo por discriminación indirecta, así como en reclamaciones por vulneración de derechos fundamentales si la empresa no puede explicar razonablemente los criterios utilizados por el sistema o acreditar que existía un control humano real sobre las decisiones adoptadas.
El verdadero problema surge cuando la empresa no puede explicar cómo se ha llegado a la decisión ni acreditar que existía una supervisión humana efectiva. Este tipo de herramientas puede ser considerado por el Reglamento (UE) 2024/1689 como un sistema de IA de alto riesgo. Eso implica que la empresa no puede limitarse a aceptar automáticamente las recomendaciones del algoritmo: debe evaluar los riesgos, utilizar datos adecuados, documentar su funcionamiento y garantizar una supervisión humana efectiva, exigiéndose, además, que el sistema sea lo suficientemente transparente como para que quienes lo utilizan comprendan cómo debe ser controlado.
Como muestran estos ejemplos, detrás de herramientas concebidas para ahorrar costes, agilizar procesos o mejorar resultados pueden esconderse responsabilidades que no siempre son evidentes. Implantar estas tecnologías con criterios de control y supervisión adecuados permite aprovechar todo su potencial sin convertir una ventaja competitiva en un conflicto jurídico inesperado.
De esta forma se anticipan los riesgos cuando aún son evitables y se puede reaccionar con rapidez cuando el conflicto ya se ha producido, lo que puede marcar una diferencia decisiva.
Javier Rodríguez-Losada, Asociado en Bartolome & Briones, España
Escríbenos a contacto@compliancelatam.legal si necesitas información.
14-05-2026 | FERRERE, Noticias
Uruguay tiene hoy la oportunidad de observar críticamente la evolución de estos modelos y evaluar con rigor qué intervenciones son realmente necesarias, en qué ámbitos y con qué instrumentos.
El acuerdo europeo sobre el Ómnibus Digital reconoce la importancia de evaluar los costos y beneficios de cada intervención legislativa, evitando que un exceso de regulación genere efectos no deseados.
El acuerdo europeo
El 7 de mayo de 2026, el Parlamento Europeo y el Consejo de la Unión Europea alcanzaron un acuerdo provisional sobre el Ómnibus Digital de Inteligencia Artificial, que introduce modificaciones sustantivas al AI Act, la primera legislación integral en la materia a nivel mundial. El acuerdo extiende plazos de cumplimiento, simplifica cargas regulatorias y amplía el rol de los sandboxes, reconociendo que un marco normativo excesivamente complejo puede generar dificultades de implementación que terminen afectando la innovación y la efectividad misma de la regulación.
Una señal para el debate regional
La decisión europea llega en un momento particularmente relevante para Uruguay y América Latina, donde se debate activamente si corresponde y cómo regular la inteligencia artificial. El mensaje desde Bruselas es claro: incluso la jurisdicción más ambiciosa del mundo en gobernanza digital está ajustando su enfoque. No porque haya abandonado sus objetivos de protección, sino porque la experiencia demostró que una regulación cuyas cargas superan sus beneficios puede generar efectos adversos, entre ellos costos de cumplimiento desproporcionados, retrasos en la implementación y pérdida de competitividad frente a otras regiones.
El caso uruguayo
Para Uruguay, esta señal refuerza la pertinencia de un enfoque prudente e incremental. El país ya cuenta con un marco normativo vigente que ofrece garantías sólidas para la protección de los derechos de los individuos, incluyendo la Ley de Protección de Datos Personales, reconocida por la propia Comisión Europea como adecuada a sus estándares. A ello se suma la adhesión al Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, firmado en setiembre de 2025. Existen, además, normas vigentes en materia de defensa del consumidor, responsabilidad civil y propiedad intelectual, que ya ofrecen herramientas aplicables a situaciones derivadas del uso de IA. En conjunto, estos instrumentos proporcionan un piso de protección cuyo alcance merece ser debidamente ponderado antes de asumir que una legislación integral adicional es la respuesta más adecuada.
Regular cuando es necesario
Uruguay tiene hoy la oportunidad de observar críticamente la evolución de estos modelos y evaluar con rigor qué intervenciones son realmente necesarias, en qué ámbitos y con qué instrumentos. Esa evaluación debería partir de una premisa razonable: preservar su posicionamiento como hub tecnológico regional y evitar cargas que no se justifiquen frente a las garantías que ya ofrece el marco normativo vigente.
El texto del acuerdo político provisional puede consultarse en el comunicado oficial del Consejo de la UE aquí.
Para más información, escríbenos a contacto@compliancelatam.legal.
17-12-2024 | media, Noticias
La gobernanza de la IA trasciende los marcos regulatorios y se adentra en las estrategias empresariales. Abarca un amplio espectro de elementos que van desde la planificación financiera hasta la gestión de riesgos. Una gestión responsable de la IA puede fortalecer la reputación de una empresa y atraer a clientes y talentos. La gobernanza de la IA puede fomentar un entorno de innovación responsable, permitiendo a las empresas desarrollar soluciones de IA que generen un impacto positivo en la sociedad. Las empresas que adoptan una gobernanza de la IA sólida estarán mejor posicionadas para competir en un mercado cada vez más digitalizado.
En este tema, siempre serán clave los principios éticos a considerar al desarrollar e implementar sistemas de IA. La importancia de la transparencia en los algoritmos de IA y la necesidad de explicar las decisiones tomadas por estos sistemas, así como la necesidad de capacitar a los empleados en el uso responsable de la IA, son aspectos fundamentales.
30-07-2024 | Beccar Varela, Noticias
El 29 de julio de 2024, se publicó en el Boletín Oficial de la Nación la Resolución N°710/2024 del Ministerio de Seguridad, por la cual se crea la Unidad de Inteligencia Artificial Aplicada a la Seguridad (“UIAAS”).
Esta nueva unidad funcionará en el ámbito de la Dirección de Ciberdelito y Asuntos Cibernéticos, dependiente de la Unidad Gabinete de Asesores del Ministerio de Seguridad. La UIAAS estará encabezada por el Director de Ciberdelito y Asuntos Cibernéticos y contará con la participación de representantes de las Fuerzas Policiales y de Seguridad Federales.
La misión de la UIAAS es la prevención, detección, investigación y persecución del delito mediante el uso de la inteligencia artificial. Entre sus principales funciones se incluyen:
– Patrullar redes sociales, aplicaciones y sitios de Internet, así como la “Internet profunda” o “Dark-Web”, para investigar delitos y detectar riesgos para la seguridad.
– Identificar y comparar imágenes en soporte físico o virtual.
– Analizar en tiempo real imágenes de cámaras de seguridad utilizando reconocimiento facial.
– Utilizar algoritmos de aprendizaje automático para predecir futuros delitos y prevenirlos.
– Detectar amenazas cibernéticas antes de que ocurran ataques, incluyendo malware y phishing.
– Procesar grandes volúmenes de datos para crear perfiles de sospechosos y establecer vínculos entre diferentes casos.
– Utilizar drones para vigilancia aérea y responder a emergencias.
– Realizar tareas peligrosas, como la desactivación de explosivos, mediante robots.
– Mejorar la comunicación y coordinación entre las Fuerzas Policiales y de Seguridad Federales.
– Analizar actividades en redes sociales para detectar amenazas potenciales y prever disturbios.
– Detectar transacciones financieras sospechosas que podrían indicar actividades ilegales.
La implementación de la UIAAS se adecuará a las pautas y directivas establecidas por la Resolución del Ministerio de Seguridad Nº 428/24.
Cabe tener presente que, según la Resolución del Ministerio de Seguridad N°428/24, durante las labores preventivas el personal policial debe cumplir con la Ley de Protección de Datos Personales N° 25.326. Del mismo modo, dicha resolución soslaya que (i) está estrictamente prohibido manejar datos sensibles sin autorización judicial, así como utilizar publicaciones de menores de edad sin el debido permiso, y que (ii) si se detecta que la actividad preventiva involucra a un menor de edad, esta se suspenderá de inmediato y se notificará a las autoridades correspondientes, a menos que haya un riesgo de vida para el menor.
En cuanto al alcance y los límites de la actuación de la nueva UIASS, principalmente a la hora de utilizar herramientas tecnológicas en la prevención de conductas delictivas, habrá que analizarse detenidamente teniendo en consideración los potenciales problemas en cuanto al derecho a la privacidad y la validez o legalidad de la actuación de las fuerzas de seguridad.
Para mayor información y para acceder a los detalles completos de la norma, pueden consultar el siguiente enlace: Resolución N°710/2024.
29-01-2024 | Noticias, Opinión
La inminente evolución tecnológica nos lleva a reconocer la importancia de una regulación robusta que aborde los retos planteados por la inteligencia artificial (IA). A nivel internacional, ejemplos como “The Artificial Intelligence Act” de la Unión Europea y la Orden Ejecutiva en Estados Unidos evidencian la necesidad de una legislación que establezca los lineamientos y supervise el desarrollo de esta potente tecnología.
En Latinoamérica, y particularmente en Chile, nos enfrentamos al desafío de avanzar en la normativa, aprendiendo de experiencias comparadas para evitar errores. Sin embargo, nos encontramos con obstáculos significativos, especialmente debido a que el Proyecto de Ley Sobre Protección de los Datos Personales aún espera su aprobación. Esta situación dificulta la discusión legislativa sobre temas más complejos, como la regulación de sistemas de IA, la cual ya fue aprobada en general y avanzó a su discusión particular.
Es esencial reconocer que la falta de una ley actualizada sobre la protección de datos personales, combinada con la poca experiencia en la implementación de prácticas para reducir riesgos o realizar evaluaciones de impacto, representa un desafío importante para avanzar de manera responsable en la regulación de asuntos tan relevantes como este. En ese sentido, la actualización de la Ley Sobre Protección de los Datos Personales se presenta como el pilar fundamental para progresar en cualquier marco normativo relacionado con la tecnología.
Entendemos que la inteligencia artificial utiliza datos de diversos tipos, incluyendo aquellos de carácter personal, los cuales deben ser usados y resguardados de manera apropiada. Así también, no podemos pasar por alto cómo las decisiones adoptadas por estos sistemas impactan directamente en los derechos de las personas. Un ejemplo ilustrativo sería la selección de individuos para listas de espera en el sector salud o la asignación de becas educacionales. En ambos casos, ante la ausencia de una legislación actualizada y careciendo de experiencia práctica en el uso responsable de este tipo de datos, el riesgo de abusos y discriminación por parte de sistemas de inteligencia artificial es significativo.
Este domingo 28 de enero fue el Día Internacional de la Protección de Datos, un momento ideal para mirar con optimismo hacia adelante, anticipando que la comisión mixta pueda llegar a acuerdos en marzo sobre los temas en los que las cámaras aún no han logrado consenso. Este avance marcará la conclusión del proceso legislativo y abrirá un nuevo capítulo en la regulación tecnológica de Chile.
Por Constanza Pasarin y Trinidad Moreno, asociadas del grupo de compliance de Albagli Zaliasnik (az).
Fuente: Diario Financiero
02-08-2023 | Noticias
La inteligencia artificial (IA) ha experimentado un auge exponencial en todo el mundo, y América Latina no es la excepción. En la última década, la región ha abrazado la tecnología emergente, y un área donde ha dejado una marca significativa es en el campo de las auditorías de cumplimiento. La aplicación de la IA en los procesos de auditoría está transformando la forma en que las empresas, instituciones gubernamentales y organizaciones sin fines de lucro aseguran la conformidad con las normativas y regulaciones.
El desafío de las auditorías de Cumplimiento en América Latina
El panorama regulatorio en América Latina ha evolucionado rápidamente en los últimos años. Con una amplia gama de normas y regulaciones en diversos sectores, asegurar el cumplimiento de todas las leyes aplicables se ha vuelto un desafío constante para las organizaciones. Las auditorías de cumplimiento tradicionales implicaban extensos procesos manuales y un alto grado de subjetividad en la toma de decisiones, lo que a menudo resultaba en ineficiencias y errores costosos, indica la Comisión Económica para América Latina y el Caribe (CEPAL).
La llegada de la IA ha revolucionado la forma en que se realizan las auditorías de cumplimiento en la región. Las capacidades de aprendizaje automático y procesamiento del lenguaje natural han permitido a las grandes organizaciones que tienen un alto grado de complejidad en sus operaciones y que, usualmente, tienen operaciones en gran parte de la región, automatizar y optimizar sus procesos de auditoría.
Algunos de los aspectos clave en los que la IA ha impactado positivamente son:
• Análisis de datos a gran escala: La IA puede procesar grandes volúmenes de datos en tiempo real, permitiendo a las empresas identificar y evaluar riesgos potenciales de manera más rápida y precisa.
• Detección de patrones anómalos: Los algoritmos de IA pueden identificar patrones inusuales o comportamientos atípicos en los datos financieros y operativos, lo que ayuda a detectar posibles fraudes o irregularidades que de otro modo podrían pasar desapercibidos.
• Automatización de tareas repetitivas: La IA permite la automatización de tareas rutinarias en el proceso de auditoría, liberando a los auditores para centrarse en análisis más estratégicos y decisiones fundamentadas.
• Mejora en la precisión y confiabilidad: La IA elimina gran parte de la subjetividad en las evaluaciones de cumplimiento, proporcionando resultados más objetivos y confiables.
• Agilidad en el cumplimiento: La implementación de la IA en las auditorías permite una respuesta más rápida a los cambios regulatorios y una adaptación ágil a nuevas normativas.
Adopción de IA en América Latina
Si bien el uso de la IA en las auditorías de cumplimiento está en constante crecimiento en América Latina, todavía hay desafíos que enfrentar. Entre ellos, la capacitación de personal para utilizar estas nuevas herramientas y garantizar la protección de datos y la seguridad de la información.
En este sentido, el caso chileno resulta bastante interesante. Según un estudio de la Universidad del Desarrollo del año 2023, cierto sector de empresas ha logrado una adopción profunda de la IA en sus equipos y operaciones, y muestran señales de generación de valor con ella, lo que ha aumentado un 42% desde el año 2019. Sin embargo, “es necesario tener presente que este tipo de actividades requieren un marco normativo adecuado y robusto, considerando que la utilización de nuevas tecnologías deja al descubierto los distintos riesgos que pueden generarse o incrementarse en su desarrollo, por ejemplo, en materia de protección de datos personales o de asuntos referidos a la ciberseguridad”, explica Jaime Viveros, asociado de la firma AZ de Chile.
No obstante, varios países en la región han dado pasos significativos para abrazar la IA en ámbitos tan diversos como la aplicación y cumplimiento de normas. Perú, Chile, Argentina y México, entre otros, están implementando políticas públicas y privadas para impulsar la innovación y facilitar la incorporación de la tecnología a los procesos legales.
Aún en este contexto la IA no reemplazará a los auditores humanos, pero su incorporación en estos procesos permitirá a los profesionales concentrarse en tareas estratégicas, mientras la tecnología se encarga de realizar análisis complejos y monitorear el cumplimiento de manera más efectiva.
