La creciente incorporación de sistemas de inteligencia artificial en los procesos empresariales está trasladando el debate desde la eficiencia tecnológica hacia la responsabilidad jurídica. En un artículo publicado en Expansión, María Pardo de Vera, socia del área de protección de datos y derecho digital, analiza los desafíos que plantea la toma de decisiones automatizada y destaca que “la IA ha dejado de ser únicamente una cuestión tecnológica o reputacional para convertirse en un problema de responsabilidad jurídica”.
La experta señala que “la cuestión es quién responde cuando esos sistemas intervienen en decisiones que afectan a personas, derechos, oportunidades económicas o relaciones laborales”, especialmente en ámbitos como la selección de personal, la concesión de financiación o la gestión de reclamaciones. En este contexto, subraya la importancia de que las organizaciones puedan explicar “quién tomó la decisión, con qué información, bajo qué criterios y qué mecanismos existían para corregir posibles errores”.
Asimismo, pone de relieve que tanto el RGPD como el Reglamento Europeo de Inteligencia Artificial (AI Act) incorporan mecanismos destinados a garantizar la trazabilidad, la supervisión humana y la capacidad de las empresas para demostrar cómo funcionan los sistemas que utilizan y quién responde por sus resultados. Como advierte, “la empresa que utiliza IA no puede escudarse en que el modelo lo desarrolló un tercero, en que el resultado fue generado automáticamente o en que la decisión final fue adoptada por un empleado que se limitó a validar una recomendación”.
Finalmente, María Pardo de Vera alerta de que “el principal riesgo no siempre está en el algoritmo, sino en la ausencia de gobierno interno”, y concluye que cuando una decisión que afecta a una persona está condicionada por un algoritmo, “alguien debe responder por ella”.
Si desea ampliar la presente información, no dude en ponerse en contacto con nuestro despacho llamando al 91.345.48.25 o bien enviando un email a info@cecamagan.com.
