06-07-2026 | Bartolome & Briones, Opinión
Por Javier Rodríguez-Losada, Asociado en Bartolome & Briones, España
Para muchos empresarios y directivos, la verdadera dimensión del riesgo jurídico no se aprecia hasta que se traduce en situaciones concretas. La inteligencia artificial (IA) ya no es una tecnología del futuro, sino una herramienta integrada en procesos de atención al cliente, marketing, gestión documental, selección de personal e incluso, de toma de decisiones empresariales.
El debate ya no es si utilizarla, sino cómo hacerlo sin exponerse a conflictos legales inesperados, teniendo en cuenta la existencia de normativa que regula obligaciones y sanciones al respecto. A continuación, mostramos algunos ejemplos sobre cómo herramientas diseñadas para ganar eficiencia pueden derivar en reclamaciones laborales, mercantiles o de responsabilidad civil cuando fallan los mecanismos de control.
Comercio electrónico: una plataforma de comercio electrónico incorpora sistemas de IA destinados a analizar patrones de navegación, tiempos de permanencia u otras variables conductuales con el objetivo legítimo de personalizar la experiencia del usuario y optimizar sus ventas. Sin embargo, un uso insuficientemente acotado del sistema podría llevar a identificar situaciones de especial vulnerabilidad emocional del consumidor, como estados de ansiedad, estrés o fatiga. A partir de ahí, la herramienta podría adaptar precios, ofertas o mensajes comerciales aprovechando esa circunstancia para influir en decisiones económicas que el consumidor probablemente no habría adoptado en condiciones normales.
Este tipo de prácticas podría constituir una infracción, pues la IA en este caso explota vulnerabilidades psicológicas para inducir decisiones económicas que el consumidor no habría adoptado en condiciones normales, vulnerando así el Reglamento (UE) 2024/1689, de obligado cumplimiento.
Diagnósticos médicos: una empresa instala un sistema de IA de diagnóstico automático en una clínica privada que emite informes a partir de pruebas que se realizan al paciente, así como de sus antecedentes médicos. Por un fallo en el entrenamiento del modelo, un paciente recibe un tratamiento inadecuado y como consecuencia de ello, sufre daños.
El paciente tendría una acción de responsabilidad contractual o extracontractual contra la clínica para reclamarle los daños y perjuicios ocasionados.
Asimismo, la clínica podría tener una acción de repetición contra el proveedor tecnológico por haberle provisto de un producto defectuoso. Podría ser reclamable aquí, no sólo la cuantía en que haya debido indemnizar al cliente, sino los daños reputacionales derivados de la difusión pública del incidente.
Precisamente por el impacto potencial sobre la salud, este tipo de sistemas son considerados de alto riesgo por el Reglamento europeo de IA, que exige mecanismos reforzados de control y supervisión humana.
Sector industrial: una fábrica o instalación industrial tiene implantado un sistema de IA destinado a optimizar los ritmos de producción. Como consecuencia de un defecto de configuración, entrenamiento o supervisión del sistema, la IA altera parámetros operativos y neutraliza alertas de seguridad destinadas a evitar paradas automáticas de maquinaria sin que nadie lo detecte. Como resultado, se produce un accidente laboral.
Las consecuencias jurídicas pueden ser especialmente relevantes. Además de las posibles sanciones administrativas derivadas del incumplimiento normativo, la empresa podría enfrentarse a reclamaciones en materia de seguridad y salud laboral, responsabilidades por daños y perjuicios e incluso, en los supuestos más graves, derivar en responsabilidad penal por delitos contra la seguridad de los trabajadores.
Desde la perspectiva del Reglamento (UE) 2024/1689, este supuesto podría evidenciar un incumplimiento de las obligaciones de supervisión humana exigidas para determinados sistemas de IA de alto riesgo, así como de las obligaciones de gestión de riesgos.
Recursos Humanos: en el ámbito laboral una gran empresa podría implantar un sistema algorítmico diseñado para evaluar rendimientos, optimizar la productividad y proponer reducciones de plantilla. Como consecuencia de una supervisión humana insuficiente y de un modelo entrenado con datos sesgados, el sistema podría penalizar, por ejemplo, a trabajadores que disfrutan de reducciones de jornada por cuidado de hijos, a colectivos de determinada edad, género o nacionalidad.
En la práctica, un escenario de este tipo podría desembocar en una demanda por despido nulo por discriminación indirecta, así como en reclamaciones por vulneración de derechos fundamentales si la empresa no puede explicar razonablemente los criterios utilizados por el sistema o acreditar que existía un control humano real sobre las decisiones adoptadas.
El verdadero problema surge cuando la empresa no puede explicar cómo se ha llegado a la decisión ni acreditar que existía una supervisión humana efectiva. Este tipo de herramientas puede ser considerado por el Reglamento (UE) 2024/1689 como un sistema de IA de alto riesgo. Eso implica que la empresa no puede limitarse a aceptar automáticamente las recomendaciones del algoritmo: debe evaluar los riesgos, utilizar datos adecuados, documentar su funcionamiento y garantizar una supervisión humana efectiva, exigiéndose, además, que el sistema sea lo suficientemente transparente como para que quienes lo utilizan comprendan cómo debe ser controlado.
Como muestran estos ejemplos, detrás de herramientas concebidas para ahorrar costes, agilizar procesos o mejorar resultados pueden esconderse responsabilidades que no siempre son evidentes. Implantar estas tecnologías con criterios de control y supervisión adecuados permite aprovechar todo su potencial sin convertir una ventaja competitiva en un conflicto jurídico inesperado.
De esta forma se anticipan los riesgos cuando aún son evitables y se puede reaccionar con rapidez cuando el conflicto ya se ha producido, lo que puede marcar una diferencia decisiva.
Javier Rodríguez-Losada, Asociado en Bartolome & Briones, España
Escríbenos a contacto@compliancelatam.legal si necesitas información.
15-05-2026 | az, Opinión
El fallo contra Meta y YouTube abre una nueva discusión sobre la responsabilidad de las plataformas digitales en el diseño de sus algoritmos. Esta columna analiza cómo esta decisión judicial se conecta con la futura regulación de la inteligencia artificial en Chile y con el avance hacia mayores exigencias de transparencia, gestión de riesgos y control sobre sistemas capaces de influir en la conducta de las personas.
Por Antonia Nudman, Asociada Senior de az Tech – Albagli Zaliasnik
El reciente fallo que declaró negligentes a Meta y a YouTube marca un punto de inflexión en la forma en que entendemos nuestra relación con las plataformas digitales. Por primera vez, un tribunal reconoce que el diseño de estos servicios, caracterizado por algoritmos de recomendación, scroll infinito y mecanismos de refuerzo conductual, no es neutral, sino que puede generar efectos nocivos, particularmente en menores de edad.
Este cambio no es aislado. Como ha ocurrido en otras industrias —como el alcohol, el tabaco o los alimentos—, la discusión comienza a desplazarse desde la responsabilidad individual del consumidor hacia la responsabilidad de quienes diseñan y operan estos sistemas. Ya no se trata únicamente de cómo usamos la tecnología, sino de cómo está concebida para influir en nuestro comportamiento.
En este contexto, resulta especialmente relevante observar el avance del proyecto de ley que regula los sistemas de inteligencia artificial en Chile. Aunque aún en tramitación, su lógica se alinea con esta nueva mirada: no basta con regular el uso de la tecnología, sino que es necesario intervenir en su diseño, imponiendo estándares de transparencia, evaluaciones de riesgo y prohibiciones respecto de ciertos usos considerados inaceptables.
En particular, los requisitos de transparencia que buscan que los usuarios comprendan cuándo interactúan con sistemas automatizados y bajo qué lógica operan, adquieren una dimensión distinta a la luz de este tipo de fallos. Si los algoritmos son capaces de influir en decisiones emocionales y conductas, entonces la opacidad deja de ser una cuestión técnica para convertirse en un problema jurídico.
Asimismo, la discusión sobre usos prohibidos de la inteligencia artificial —como aquellos que puedan manipular el comportamiento de las personas o explotar vulnerabilidades— conecta directamente con lo que hoy se cuestiona en redes sociales. La línea entre recomendación y manipulación se vuelve cada vez más difusa, y precisamente ahí es donde el derecho comienza a intervenir.
A nivel comparado, el Reglamento de Inteligencia Artificial de la Unión Europea ofrece una referencia relevante. Si bien su implementación efectiva aún es progresiva, su enfoque basado en riesgos, junto con la identificación de usos prohibidos y obligaciones reforzadas para sistemas de alto riesgo, permite anticipar hacia dónde se dirige la regulación internacional. En ese sentido, observar cómo este marco impacta a las plataformas tecnológicas en Europa será clave para proyectar sus efectos en otras jurisdicciones, incluido Chile.
De ello se sigue que el proyecto de ley chileno no solo impactará a quienes desarrollan sistemas de inteligencia artificial en sentido estricto, sino también a plataformas digitales cuyo funcionamiento descansa en sistemas algorítmicos intensivos. En otras palabras, la regulación de la IA podría terminar redefiniendo indirectamente la forma en que interactuamos con redes sociales.
Así las cosas, el fallo contra Meta y YouTube no es un caso aislado, sino parte de un cambio más profundo: el tránsito hacia un modelo de responsabilidad tecnológica, en el cual el diseño de los sistemas digitales deja de ser un espacio ajeno al derecho para convertirse en uno de sus principales focos de intervención.
Antonia Nudman, Asociada Senior de az Tech – Albagli Zaliasnik
Fuente: Revista Gerencia – abril 2026.
Si necesitas más información, escríbenos a contacto@compliancelatam.legal.
14-05-2026 | FERRERE, Noticias
Uruguay tiene hoy la oportunidad de observar críticamente la evolución de estos modelos y evaluar con rigor qué intervenciones son realmente necesarias, en qué ámbitos y con qué instrumentos.
El acuerdo europeo sobre el Ómnibus Digital reconoce la importancia de evaluar los costos y beneficios de cada intervención legislativa, evitando que un exceso de regulación genere efectos no deseados.
El acuerdo europeo
El 7 de mayo de 2026, el Parlamento Europeo y el Consejo de la Unión Europea alcanzaron un acuerdo provisional sobre el Ómnibus Digital de Inteligencia Artificial, que introduce modificaciones sustantivas al AI Act, la primera legislación integral en la materia a nivel mundial. El acuerdo extiende plazos de cumplimiento, simplifica cargas regulatorias y amplía el rol de los sandboxes, reconociendo que un marco normativo excesivamente complejo puede generar dificultades de implementación que terminen afectando la innovación y la efectividad misma de la regulación.
Una señal para el debate regional
La decisión europea llega en un momento particularmente relevante para Uruguay y América Latina, donde se debate activamente si corresponde y cómo regular la inteligencia artificial. El mensaje desde Bruselas es claro: incluso la jurisdicción más ambiciosa del mundo en gobernanza digital está ajustando su enfoque. No porque haya abandonado sus objetivos de protección, sino porque la experiencia demostró que una regulación cuyas cargas superan sus beneficios puede generar efectos adversos, entre ellos costos de cumplimiento desproporcionados, retrasos en la implementación y pérdida de competitividad frente a otras regiones.
El caso uruguayo
Para Uruguay, esta señal refuerza la pertinencia de un enfoque prudente e incremental. El país ya cuenta con un marco normativo vigente que ofrece garantías sólidas para la protección de los derechos de los individuos, incluyendo la Ley de Protección de Datos Personales, reconocida por la propia Comisión Europea como adecuada a sus estándares. A ello se suma la adhesión al Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, firmado en setiembre de 2025. Existen, además, normas vigentes en materia de defensa del consumidor, responsabilidad civil y propiedad intelectual, que ya ofrecen herramientas aplicables a situaciones derivadas del uso de IA. En conjunto, estos instrumentos proporcionan un piso de protección cuyo alcance merece ser debidamente ponderado antes de asumir que una legislación integral adicional es la respuesta más adecuada.
Regular cuando es necesario
Uruguay tiene hoy la oportunidad de observar críticamente la evolución de estos modelos y evaluar con rigor qué intervenciones son realmente necesarias, en qué ámbitos y con qué instrumentos. Esa evaluación debería partir de una premisa razonable: preservar su posicionamiento como hub tecnológico regional y evitar cargas que no se justifiquen frente a las garantías que ya ofrece el marco normativo vigente.
El texto del acuerdo político provisional puede consultarse en el comunicado oficial del Consejo de la UE aquí.
Para más información, escríbenos a contacto@compliancelatam.legal.
