Lo que la ley europea de IA podría significar para la tecnología

  • Predictive Analytics

inteligencia-artificial-europa

El 21 de abril, la UE propuso oficialmente la Ley de Inteligencia Artificial, en la que se describe la capacidad de supervisar, regular y prohibir los usos de la tecnología de aprendizaje automático.

El objetivo, según los funcionarios, es invertir y acelerar el uso de la IA en la UE, impulsando la economía al tiempo que se garantiza la coherencia, se abordan los desafíos globales y se establece la confianza con los usuarios humanos. 

La Ley clasifica los casos de uso de la IA en tres niveles: riesgo inaceptable, riesgo alto y riesgo bajo o mínimo. 

Los casos de uso de la IA con un riesgo inaceptable se prohibirán directamente. Se trata de aplicaciones que violan los derechos humanos fundamentales, como:

  • Manipulación mediante técnicas subliminales
  • Explotación de grupos vulnerables específicos, como los niños
  • Puntuación social realizada por las autoridades públicas (como el sistema de crédito social de China)
  • Identificación biométrica a distancia en tiempo real en espacios públicos por parte de las fuerzas del orden (aunque existen exenciones)

Las aplicaciones de alto riesgo, igualmente, suponen un alto riesgo para la salud, la seguridad y los derechos fundamentales, aunque el debate en torno a la definición de "alto riesgo" ha sido intenso desde el año pasado, con más de 300 organizaciones opinando. Estas aplicaciones de IA sólo se autorizan en el mercado si se aplican determinadas salvaguardias, como la supervisión humana, la transparencia y la trazabilidad. 

¿A quién se aplica esta ley?

Estas políticas, al igual que el RGPD, afectarán a cualquier empresa que se dirija a la UE, no solo a las que tengan su sede allí. Y no es sólo para las organizaciones que utilizan IA de alto nivel, como para la infraestructura o la aplicación de la ley. Si usted utiliza chatbots para gestionar consultas, aprendizaje automático para identificar los sentimientos o las opiniones de los clientes o cualquier tipo de bots que alteren el contenido, esta normativa es para usted. 

Por el momento, la Ley de IA de la UE no se ha convertido en ley, y no hay una fecha prevista de aplicación. Es poco probable que veamos alguna actualización de la Ley antes de 2023. 

Una vez aprobada, la falta de adhesión a la Ley de IA podría dar lugar a una sanción monetaria o, en el caso de las aplicaciones de alto riesgo, los organismos de supervisión tendrán el poder de volver a entrenar o destruir los sistemas de IA.

Descubre la innovación

Para asegurar el éxito empresarial, ahora y a futuro, es imprescindible maximizar el retorno de la inversión existente en software, a la vez que innovar y adoptar nuevas tecnologías. Los retos que hay abordar para competir en un mundo de TI Híbrida incluyen DevOps, Seguridad, Gestión de riesgos y Análisis predictivo. Puedes obtener más información sobre cómo abordar estos retos e innovar en este enlace.