Cuando los algoritmos toman decisiones: por qué sigue haciendo falta atención humana

La inteligencia artificial influye en muchas interacciones digitales cotidianas: publicidad, moderación de cuentas, recomendaciones, banca, selección de personal y plataformas de trabajo. A menudo no aparece como un robot visible, sino como un sistema automatizado que clasifica información o aplica reglas a gran escala. Cuando funciona mal, una persona puede quedarse sin acceso a un servicio sin entender el motivo ni saber cómo reclamar.

Los sistemas automatizados pueden bloquear anuncios, detectar operaciones sospechosas o filtrar candidaturas. Estos usos permiten procesar grandes volúmenes de datos, pero también pueden provocar falsos positivos, reproducir sesgos o aplicar una regla general a un caso excepcional. La opacidad y la dificultad para localizar a un responsable agravan el problema.

Las empresas deberían ofrecer explicaciones comprensibles, canales de recurso y revisión humana para decisiones con efectos importantes. También deben auditar los errores, evaluar posibles sesgos y evitar que un indicador automático se convierta en la única base de una decisión. Los usuarios, por su parte, pueden guardar notificaciones, capturas y referencias del caso, y utilizar los procedimientos oficiales de reclamación.

La solución no consiste en eliminar toda automatización, sino en diseñarla con responsabilidad. Los sistemas deben tener límites, vías de corrección y una persona o entidad que responda por sus decisiones. La supervisión humana es especialmente necesaria cuando están en juego dinero, empleo, reputación o el acceso a servicios esenciales.