Uber acaba de recibir una de las mayores multas de la historia europea en protección de datos: 825 millones de euros (unos 900 millones de dólares), impuesta por el regulador holandés. El motivo no es un fallo técnico ni una filtración de datos. Es algo más simple y, para muchas empresas, más incómodo: dejaron que un algoritmo decidiera solo, sin que nadie revisara la decisión, si un conductor podía seguir trabajando o no.

Qué pasó, en cristiano

Entre 2018 y 2022, Uber usaba dos sistemas automáticos: uno detectaba "comportamientos sospechosos" (rutas raras, viajes aceptados y no completados) y otro se basaba en las valoraciones de los clientes. Si el sistema decidía que algo no cuadraba, la cuenta del conductor podía suspenderse o cerrarse para siempre. Sin que una persona revisara el caso. Sin que el conductor pudiera explicarse antes de perder su ingreso.

El regulador no ha multado a Uber por usar IA para detectar fraude, eso es legítimo y razonable. Lo ha multado por dejar que esa IA tuviera la última palabra sobre la vida de alguien, sin un humano en el bucle. Puedes leer el comunicado oficial de la Autoriteit Persoonsgegevens.

Por qué esto no es "cosa de Uber"

Es tentador leer esto como un problema de una gran tecnológica con millones de conductores. No lo es. La norma que Uber ha incumplido, el artículo 22 del RGPD, aplica a cualquier empresa, del tamaño que sea, que use un sistema automatizado para tomar decisiones con efectos significativos sobre personas: contratar o despedir, aprobar o denegar un crédito, aceptar o rechazar un cliente, evaluar el desempeño de un empleado.

Y esto ya no es solo el RGPD. El artículo 26 del Reglamento Europeo de IA (AI Act) va en la misma dirección para los sistemas de alto riesgo: exige asignar supervisión humana "con competencia y autoridad reales", no de nombre. Hay un matiz que se suele pasar por alto. Lo explicábamos hace unas semanas: las multas del AI Act no sustituyen a las del RGPD, se suman. Un mismo sistema mal diseñado puede abrir dos expedientes sancionadores distintos.

Muchas empresas ya usan IA para preseleccionar candidatos, priorizar leads, puntuar clientes o detectar "anomalías" en el comportamiento de proveedores o empleados. La pregunta que este caso obliga a hacerse no es "¿usamos IA para decidir?", eso está bien, sino: si alguien recurre esa decisión, ¿hay una persona capaz de revisarla de verdad, o solo hay un botón que dice "revisado"?

La lección práctica, no la de miedo

El error de Uber no fue tener el algoritmo. Fue diseñarlo como una caja negra sin un proceso real de supervisión humana detrás, y descubrirlo cuando ya era tarde y caro. Eso es exactamente lo evitable, y con relativamente poco esfuerzo si se aborda a tiempo:

• Mapear qué decisiones automatizadas afectan hoy a personas (empleados, clientes, candidatos, proveedores) en tu empresa.
• Documentar el criterio del sistema de forma que se pueda explicar a un humano, y a un regulador, por qué decidió lo que decidió.
• Diseñar la revisión humana como parte del proceso, no como un trámite de cara a la galería: alguien con criterio y margen real para cambiar la decisión, no solo para confirmarla.

Esto no es papeleo defensivo. Bien hecho, es una ventaja: las empresas que pueden explicar cómo deciden sus sistemas generan más confianza en clientes, empleados y reguladores, y llegan antes a las auditorías que, cada vez con más frecuencia, van a pedir precisamente eso.

¿Y esto qué significa para ti?

Si tu empresa usa IA para cribar candidatos, puntuar clientes, priorizar cobros o detectar "comportamientos raros" en empleados o proveedores, este caso es la prueba de que "funciona bien casi siempre" no es el estándar legal: el estándar es que una persona pueda revisar de verdad cada decisión que afecte a alguien. La buena noticia es que corregirlo no requiere renunciar a la IA, solo diseñarla con supervisión humana desde el principio.

En Montevive es justo el trabajo que hacemos con empresas: auditar dónde la IA ya está tomando decisiones sin que nadie se haya dado cuenta, y diseñar el proceso de supervisión humana antes de que sea un regulador quien lo señale. Es más barato, y más rápido, hacerlo ahora que pagarlo después, con o sin ceros de más en la factura. Si quieres que lo miremos con tu caso delante, escríbenos.

La cifra de 900 millones capta titulares. Lo que de verdad importa es la pregunta de fondo: en tu empresa, si un algoritmo dice que no, ¿hay alguien que pueda decir "espera, vamos a mirarlo"?

Fuentes

• Autoriteit Persoonsgegevens: comunicado oficial de la sanción a Uber
• Art. 22 RGPD: decisiones individuales automatizadas
• Reglamento (UE) 2024/1689 (AI Act): texto consolidado
• Montevive: AI Act, qué obliga de verdad a tu empresa, qué cambió y qué multas arriesgas