Las empresas están perdiendo ingresos y clientes debido al sesgo de la IA

Las empresas tecnológicas de EE.UU. y el Reino Unido no han hecho lo suficiente para evitar el sesgo en los algoritmos de inteligencia artificial, según una nueva encuesta. Estas mismas organizaciones ya están sintiendo el impacto de este problema en forma de pérdida de clientes y pérdida de ingresos.

Se encuestó a más de 350 líderes tecnológicos de EE.UU. y el Reino Unido para comprender cómo las organizaciones identifican y mitigan los casos de sesgo de IA. Los encuestados incluyeron CIO, directores de TI, gerentes de TI, científicos de datos y líderes de desarrollo que usan o planean usar IA. La investigación se realizó en colaboración con el Foro Económico Mundial y líderes académicos mundiales.

En la encuesta, el 36 % de los encuestados dijo que sus organizaciones han sufrido debido a la ocurrencia de un sesgo de IA en uno o varios algoritmos. Entre esas empresas, el daño fue significativo:

• 62% pérdida de ingresos
• 61% clientes perdidos
• El 43 % perdió empleados como resultado del sesgo de la IA
• 35% incurrido en honorarios legales debido a una demanda o acción legal

Los encuestados informan que los algoritmos de sus organizaciones han contribuido inadvertidamente a una amplia gama de sesgos contra varios grupos de personas:

• Género: 34%
• Edad: 32%
• Raza: 29%
• Orientación sexual: 19%
• Religión: 18%

Además de medir el estado del sesgo de la IA, la encuesta investigó las actitudes sobre las regulaciones. El 81% de los encuestados piensa que las regulaciones gubernamentales serían útiles para abordar dos componentes particulares de este desafío: definir y prevenir el sesgo. Más allá de eso, al 45 % de los líderes tecnológicos les preocupa que esas mismas regulaciones aumenten los costes y creen barreras para la adopción. La encuesta también identificó otra complejidad del problema: el 32% de los encuestados dijeron que les preocupa que la falta de regulación perjudique a ciertos grupos de personas.

Descubre la innovación

Para asegurar el éxito empresarial, ahora y a futuro, es imprescindible maximizar el retorno de la inversión existente en software, a la vez que innovar y adoptar nuevas tecnologías. Los retos que hay abordar para competir en un mundo de TI Híbrida incluyen DevOps, Seguridad, Gestión de riesgos y Análisis predictivo. Puedes obtener más información sobre cómo abordar estos retos e innovar en este enlace.