La limpieza de los datos puede ayudar a prevenir los sesgos en la IA

La mayoría de los sistemas de inteligencia artificial se esfuerzan por lograr una precisión del 95% en los resultados cuando se comparan con los métodos tradicionales para determinar los resultados. Pero, ¿cómo pueden las organizaciones protegerse contra los sistemas para que la IA no inyecte inadvertidamente un sesgo que afecte la precisión de los resultados?

El sesgo se puede inyectar en la IA mediante algoritmos defectuosos, por la falta de datos completos sobre los que operan los algoritmos o incluso por el aprendizaje automático que opera sobre ciertas suposiciones sesgadas.

Los programadores y desarrolladores pueden incorporar tecnología para detectar o desaprender el sesgo en la IA antes de su implementación. Una forma de limitar proactivamente el sesgo es verificar los datos que ingresan en la inteligencia artificial y el aprendizaje automático dos veces durante la preparación de los datos.

El sesgo a menudo no es intencional, principalmente porque los programadores y desarrolladores no buscan explícitamente el sesgo. Los científicos de TI y de datos no son los expertos cuando se trata de evaluar los datos en busca de sesgos. En la mayoría de los casos, la empresa final conoce mejor al sujeto (y los datos). También hay algoritmos de TI que se pueden usar y que escanean en busca de sesgos comunes, como raza, género, religión, estatus socioeconómico, etc.

Estos algoritmos pueden buscar y señalar posibles sesgos a programadores y desarrolladores. Esto, por supuesto, ralentiza el proceso, razón por la cual muchos científicos de datos pueden omitir el paso, pero es un punto de ética y es crucial si el resultado final de la IA va a ser útil en lugar de perjudicial. Por ejemplo, si la IA determinará la elegibilidad para un préstamo hipotecario, no puede estar sesgado en absoluto, y los científicos de datos deben asegurarse de que hayan verificado la información obtenida por la IA. Si es IA para un cuestionario para determinar qué raza de perro prefiero, no es tan imperativo.

La limpieza de los datos por adelantado es importante para la calidad de las decisiones de IA. Esto incluye la limpieza inicial de los datos de IA y la vigilancia de limpieza sobre los datos ingeridos por ML, y los algoritmos de seguimiento que operan en ellos.

Para las empresas que se esfuerzan por obtener resultados de IA y ML libres de sesgos, esto significa hacer todo lo humanamente posible para examinar los datos y los algoritmos y aceptar plazos de proyecto más largos para obtener los datos y los resultados correctos.

Descubre la innovación

Para asegurar el éxito empresarial, ahora y a futuro, es imprescindible maximizar el retorno de la inversión existente en software, a la vez que innovar y adoptar nuevas tecnologías. Los retos que hay abordar para competir en un mundo de TI Híbrida incluyen DevOps, Seguridad, Gestión de riesgos y Análisis predictivo. Puedes obtener más información sobre cómo abordar estos retos e innovar en este enlace.