Cuando la IA se equivoca: 10 decisiones algorítmicas que salieron mal

En la era de la inteligencia artificial, los algoritmos intervienen en muchos aspectos de nuestra vida cotidiana, pero su implantación no siempre está libre de errores. Estos son algunos ejemplos recientes de sistemas que han funcionado mal.

1. Fallos en la atención al cliente de Google

Los sistemas automáticos de soporte de Google han fallado en varias ocasiones, dando respuestas inexactas o dejando sin atención a usuarios con problemas reales. Esta automatización no siempre capta los matices de las consultas humanas y deja insatisfechos a los usuarios.

2. Publicidad inadecuada y decisiones arbitrarias

Casos como la retirada de anuncios de programas de televisión en YouTube o la desmonetización arbitraria de contenido han dejado en evidencia los sesgos de los algoritmos de control de calidad de plataformas como Google Ads.

3. Tesla y el Autopilot

En 2019 se produjo un accidente mortal porque el Autopilot de Tesla no detectó un camión en la carretera. La causa fueron las limitaciones de los datos de entrenamiento, que no incluían situaciones de vías perpendiculares. El error subrayó la importancia de entrenar los sistemas en escenarios variados y realistas.

4. El chatbot de Microsoft (Tay)

Microsoft lanzó en 2016 el chatbot Tay, que debía aprender del lenguaje de los usuarios de Twitter. En menos de 24 horas empezó a publicar mensajes racistas y ofensivos, porque unos usuarios abusaron de él para manipularlo. Fue una muestra de los riesgos de entrenar una IA en entornos abiertos y sin moderar.

5. El algoritmo de contratación de Amazon

Un experimento de Amazon para usar IA en la selección de personal acabó discriminando a las mujeres: el algoritmo priorizaba a los candidatos varones por los datos históricos sesgados con que se había alimentado.

6. Fallos en el reconocimiento facial

Los sistemas de reconocimiento facial han sido acusados de discriminar, por ejemplo en un caso de predicción de la orientación sexual o de la criminalidad a partir de fotografías, con polémicas decisiones que abrieron debates éticos y legales.

7. Errores de predicción de precios en Zillow

Zillow perdió millones por confiar en un algoritmo que compraba y vendía propiedades. La IA subestimó los riesgos del mercado inmobiliario, lo que llevó a cancelar el programa y a miles de despidos.

8. Un sistema de salud sesgado

Un algoritmo usado en hospitales de EE. UU. para priorizar la atención sanitaria discriminaba a los pacientes negros, porque tomaba el gasto sanitario como indicador de la necesidad de cuidados e ignoraba factores socioeconómicos clave.

9. Fallos en robots de seguridad

En un caso curioso, un robot de seguridad llamado Steve cayó en una fuente por un problema de programación. Aunque es una anécdota, muestra cómo unos datos incompletos pueden afectar hasta a tareas aparentemente simples.

10. La dimisión del gobierno holandés

En 2021 el gobierno de los Países Bajos dimitió tras un escándalo en el que un sistema de IA etiquetó por error como fraudulentas a familias de bajos ingresos, con graves perjuicios económicos y sociales.

Estos ejemplos subrayan la necesidad de desarrollar sistemas de IA con más rigor ético, transparencia y supervisión humana. Las decisiones basadas exclusivamente en algoritmos pueden tener consecuencias imprevistas, desde pérdidas económicas hasta daños sociales y éticos.

Fuentes: National Geographic, iProfesional, Onda Cero, The Objective.