Puntos clave a destacar:
- Quedarán prohibidas ciertas aplicaciones de IA tales como los sistemas de categorización biométrica basados en características sensibles y la captura masiva de imágenes faciales de internet o grabaciones de cámaras de vigilancia para crear bases de datos de reconocimiento facial. Tampoco se permitirá que la IA manipule el comportamiento humano o explote las vulnerabilidades de las personas..
- Se imponen límites estrictos al uso de sistemas de identificación biométrica en tiempo real por parte de las fuerzas de seguridad, permitiéndolo solo en situaciones muy específicas y con autorización previa.
- Los sistemas de IA deberán cumplir con ciertos requisitos de transparencia y respetar la legislación de la UE en materia de derechos de autor.
- Será obligatorio informar a los ciudadanos cuando se utilicen imágenes, videos y otros recursos creados con inteligencia artificial.
Si bien esta normativa está sujeta a una última revisión, se espera que entre en vigencia el próximo mes. De esta manera, la Unión Europea busca asegurar un desarrollo y uso responsable, seguro y confiable de la inteligencia artificial.
Tres categorías de riesgo para las aplicaciones de Inteligencia Artificial
La Ley clasifica las aplicaciones de IA en tres categorías de riesgo. En primer lugar, se prohíben las aplicaciones y sistemas que supongan un riesgo inaceptable, como los sistemas de puntuación social gestionados por el gobierno, como los que se utilizan en China. En segundo lugar, las aplicaciones de alto riesgo, como una herramienta de escaneo de CV que clasifica a los solicitantes de empleo, están sujetas a requisitos legales específicos. Por último, las aplicaciones que no están explícitamente prohibidas o catalogadas como de alto riesgo quedan en gran medida sin regular.