Las pruebas de sesgo de IA están fallando
- Gestión de información
Las empresas son conscientes del riesgo de sesgo en los algoritmos y han intentado implementar algunas protecciones. Sin embargo, no siempre funciona.
El setenta y siete por ciento de los encuestados dijeron que tenían una prueba de algoritmo o sesgo de IA antes de determinar que el sesgo estaba ocurriendo de todos modos. Más organizaciones en los EE. UU. (80 %) contaban con monitoreo de sesgos de IA o pruebas de algoritmos antes del descubrimiento de sesgos que las organizaciones en el Reino Unido (63 %).
Al mismo tiempo, los líderes tecnológicos de EE. UU. tienen más confianza en su capacidad para detectar sesgos, ya que el 75 % de los encuestados estadounidenses dijeron que podían detectar sesgos, en comparación con el 56 % de los encuestados del Reino Unido que dijeron lo mismo.
Estos son los pasos que las empresas están tomando ahora para detectar sesgos:
- Comprobación de la calidad de los datos: 69 %
- Capacitar a los empleados sobre qué es el sesgo de la IA y cómo prevenirlo: 51 %
- Contratación de un experto en ética o sesgo de IA: 51%
- Medición de factores de toma de decisiones de IA: 50%
- Monitoreo cuando los datos cambian con el tiempo: 47%
- Implementación de algoritmos que detectan y mitigan sesgos ocultos en los datos de entrenamiento: 45 %
- Introducción de herramientas de IA explicables: 35 %
- No dar ningún paso: 1%
El ochenta y cuatro por ciento de los encuestados dijeron que sus organizaciones planean invertir más en iniciativas de prevención de sesgos de IA en los próximos 12 meses. Según la encuesta, estas acciones incluirán gastar más dinero para respaldar la gobernanza del modelo, contratar a más personas para administrar la confianza de la IA, crear sistemas de IA más sofisticados y producir sistemas de IA más explicables.
Descubre la innovación
Para asegurar el éxito empresarial, ahora y a futuro, es imprescindible maximizar el retorno de la inversión existente en software, a la vez que innovar y adoptar nuevas tecnologías. Los retos que hay abordar para competir en un mundo de TI Híbrida incluyen DevOps, Seguridad, Gestión de riesgos y Análisis predictivo. Puedes obtener más información sobre cómo abordar estos retos e innovar en este enlace.
