PuroMarketing

Como hizo hace años con la protección de datos online, la UE quiere limitar los usos más abusivos de la IA y penalizarlos 

Cuando hace unos años la Unión Europea diseñó la ley de protección de datos en internet - la misma que se convertiría en un quebradero de cabeza para las empresas poco después -, el organismo se convirtió en pionero en adecuar la legislación a los cambios que traía la red y al uso de los datos personales por parte de las empresas. Las normativas que siguieron en otros lugares han continuado en la línea que ha marcado esa ley.

La protección de datos sigue siendo muy importante, pero la tecnología ha hecho que las cosas sean mucho más complejas y que las empresas tengan a su disposición herramientas mucho más ambiciosas y con más potenciales aplicaciones.

Es lo que ocurre con la inteligencia artificial, que ha evolucionado poderosamente en los últimos años y que se ha integrado ya en muchos de los servicios que los consumidores usan y muchas de las vías que las empresas siguen para conectar con ellos. La IA también empieza a ser ya uno de los objetivos de las críticas y uno de los que protagoniza los temores sobre cuánto y cómo se pueden producir abusos de su poder.

Ahora, también, será uno de los entornos en los que la Unión Europa lanzará - todo apunta hacia ello - un paquete legislativo que limitará su alcance y sus posibles usos más abusivos.

La propuesta parte de la Comisión Europea, el órgano que hace las proposiciones legislativas. Por ahora, es únicamente eso, una proposición (pero una que ya conocemos gracias a que el texto ha llegado a Bloomberg), aunque deja claro que la Unión Europea tiene un interés claro por regular qué ocurre con la inteligencia artificial y por cómo afecta a la vida de los ciudadanos.

En general, la UE quiere limitar el uso que se le da la inteligencia artificial para controlar y manipular a la ciudadanía. Las dos grandes líneas sobre las que actuaría la normativa son la vigilancia masiva y los rankings de comportamiento social.

Como apuntan en Bloomberg, el objetivo comunitario es el de crear un marco que obligue a que la IA sea transparente y respete altos estándares en privacidad de las personas, al tiempo que esté controlada por las personas.

En qué se centrará la norma

De forma más específica, la norma quiere prohibir en la Unión Europea todos los sistemas de IA que se usen para manipular el comportamiento humano, establecer puntuaciones sociales o para hacer vigilancia indiscriminada. Igualmente, también quieren prohibir aquellos que se emplean para explotar información sobre los ciudadanos. La única excepción en estos puntos estará en sistemas de IA aplicados a la seguridad pública (los sistemas militares quedarán al margen, por ejemplo).

Otros usos de la IA no estarán prohibidos, pero sí tendrán que estar bajo cierto control. Es lo que ocurre con los sistemas de identificación biométrica: si están en lugares públicos, la propuesta normativa quiere que se tenga que pedir permiso a las autoridades para implantarlos.

Igualmente, todos aquellos usos de la inteligencia artificial que sean considerados de alto riesgo (por ejemplo, aquí entran coches sin conductor, pero también cirugía en remoto) tendrán que estar sujetos a inspecciones previas.

La normativa, si los planes siguen adelante, afectará a todas las compañías que operen en la Unión Europea, sean o no empresas comunitarias. Incumplir con estas normas y no respetarlas implicará una multa: será, si todo se aprueba, de hasta el 4% de los ingresos totales de esas compañías en todo el mundo.