Cómo desarrollar una IA más responsable
- Gestión de información
La tecnología tiene un largo camino por recorrer antes de que la IA pueda volverse completamente autónoma. Mientras tanto, las personas deberían construir sistemas de inteligencia artificial teniendo en cuenta carias consideraciones.
Hay que desarrollar la IA para que el nivel de transparencia se pueda ajustar a las diferentes áreas y circunstancias comerciales. En realidad, la configuración de transparencia bloquea o desbloquea ciertos algoritmos.
Los sistemas necesitan utilizar modelos cuya lógica se comprenda completamente. Antes de ser desplegada, la IA debe probarse en busca de sesgos o violaciones éticas al predecir, clasificar o tomar decisiones.
Debe haber un mecanismo confiable que brinde su sello de aprobación para la IA, certificando que cumple con las políticas comerciales internas, los requisitos regulatorios de la industria / gobierno y las construcciones sociales ampliamente aceptadas para la geografía en la que opera la IA.
Sobre todo, el factor más crítico en el diseño de una IA es obvio: siempre debe permanecer bajo la supervisión de humanos. En abril de 2021, la Comisión Europea hizo públicas las acciones que estaba tomando para "convertir a Europa en el centro global de una IA confiable". Presenta el primer marco legal y un plan para que los estados miembros generen reglas armonizadas para la IA. Entre los puntos más importantes que hace la propuesta es que los sistemas de IA deben diseñarse y desarrollarse de manera que se garantice la supervisión humana mientras están en uso. Las regulaciones se aplicarán a todos los proveedores y usuarios de IA en la UE, independientemente de dónde se encuentre el proveedor.
La propuesta de la Comisión Europea someterá a escrutinio los sistemas de IA de alto riesgo antes de ser comercializados. Sus disposiciones permiten que las personas sepan cuándo se trata de un sistema de inteligencia artificial y ayudan a interpretar su salida. También propone una gran multa monetaria por violación de normas.
Sin duda, la propuesta pasará por revisiones dramáticas antes de que salga a la luz. Pero todas las empresas que busquen aprovechar el poder de la IA deben vigilarlo de cerca. Proporciona información vital para abordar los desafíos de la ética y la transparencia que plantea la IA.
Descubre la innovación
Para asegurar el éxito empresarial, ahora y a futuro, es imprescindible maximizar el retorno de la inversión existente en software, a la vez que innovar y adoptar nuevas tecnologías. Los retos que hay abordar para competir en un mundo de TI Híbrida incluyen DevOps, Seguridad, Gestión de riesgos y Análisis predictivo. Puedes obtener más información sobre cómo abordar estos retos e innovar en este enlace.
