Los últimos años, especialmente tras la pandemia provocada por la irrupción de la Covid-19, han estado marcados por una innovación y progreso extraordinarios en el campo de la digitalización, pero pocas tecnologías han sido tan transformadoras como la inteligencia artificial (IA). Y es que, si echamos la mirada atrás, el uso de estas herramientas ha revolucionado la experiencia online, redefiniendo la dinámica entre las empresas y los consumidores.
Por ello, el auge de la inteligencia artificial ha impulsado la necesidad de establecer una Ley de Inteligencia Artificial europea que está en pleno desarrollo y que es un referente a nivel mundial. Como parte integral de su estrategia digital, la UE está preparando el terreno para nuevas directrices en la aplicación de la IA, orientadas a asegurar mejores condiciones de desarrollo y uso de esta tecnología. El objetivo reside en garantizar que los sistemas sean seguros, transparentes, trazables, no discriminatorios y respetuosos, destacando la supervisión humana y la responsabilidad medio ambiental.
En concreto, en el ámbito del marketing digital, esta “ciencia” se ha convertido en una realidad innegable y ha transformado el panorama actual de manera significativa. Sus aplicaciones y beneficios son diversos y abarcan desde el análisis predictivo hasta la personalización, la publicidad programática y los chatbots. Esto implica que las empresas deben prepararse para afrontar posibles cambios derivados de esta nueva normativa. Pero ¿qué supone realmente esta legislación y cómo afectará a los usuarios y a los profesionales del marketing? Outbrain, empresa líder de tecnología que impulsa el feed de noticias, analiza las claves de este nuevo panorama.
El usuario en el centro: protección de los derechos fundamentales
En primer lugar, con la entrada en vigor de esta normativa, se otorgarán derechos y herramientas esenciales para los usuarios. La legislación establecerá una distinción clave entre tres niveles de riesgo. En un primer nivel, se incluyen las aplicaciones de IA de bajo riesgo como chatbots. En un segundo nivel, se encuentran las aplicaciones de IA de alto riesgo, que estarán sujetas a una supervisión más rigurosa para garantizar su uso seguro e íntegro. Finalmente, en un tercer nivel, se prohibirán las aplicaciones de IA consideradas de “riesgo inaceptable” entre las que se encuentran las tecnologías biométricas de identificación en tiempo real y a distancia, como por ejemplo, el reconocimiento facial.
Ahora bien, en temas de transparencia, es imperativo que los sistemas de IA sean accesibles y que su lógica de toma de decisiones sea comprensible para el público. De esta forma, la no discriminación es otro aspecto crítico, ya que garantiza que los algoritmos no perpetúen sesgos raciales, de género o socioeconómicos. Además, la privacidad juega un papel esencial, asegurando que los datos solo se utilicen con el consentimiento explícito de cada individuo.
“En Outbrain siempre hemos evolucionado siguiendo estándares propios y apoyando los estándares establecidos por organizaciones líderes de la industria, desde la Interactive Advertising Bureau of Europe hasta la aplicación del RGDP. Este compromiso no es un mero ejercicio puntual, sino un proceso continuo. El factor humano siempre estará en el centro, tanto de nuestros equipos como de nuestros servicios, y por eso estamos totalmente alineados y preparados para avanzar con las nuevas normas en Europa” afirma Rafael Amieva, General Manager de Outbrain España y Portugal.
La repercusión de la IA en el medioambiente
Por otro lado, cabe destacar que la entrada en vigor de esta normativa exigeirá que las empresas revisen y adapten sus estrategias para contribuir a la creación de un mercado sostenible, ya que la IA demanda un considerable consumo de energía, algo muy relevante para nuestra sociedad en el contexto de la crisis climática. A la espera de la aprobación final, trazar una hoja de ruta se vuelve fundamental. Esto implica educar a los empleados sobre la Ley de IA, evaluar y categorizar las herramientas según su nivel de riesgo y poner en marcha las iniciativas necesarias para acoger la Ley sin dificultades.
En palabras de Rafael Amieva. “Las empresas digitales debemos ser conscientes del impacto de nuestra actividad sobre el entorno y tomar las medidas necesarias para reducirlo al máximo. Iniciativas como la medición de emisiones, como la que ya hemos puesto en marcha en Outbrain de la mano de Cedara, nos ayudan a alcanzar nuestros objetivos de sostenibilidad y descarbonización y los de nuestros clientes”,
Una legislación a prueba del futuro
Por último, si algo caracteriza al sector digital es la rapidez con la que crece e implementa nuevas habilidades. Para dar respuesta a esto, la nueva ley tiene un enfoque totalmente flexible y adaptable al cambio, lo que favorecerá la escalabilidad continua de las aplicaciones de IA incluso después de su comercialización. Sin duda, este requisito implica que los proveedores de dichas tecnologías mantengan siempre altos estándares de calidad y gestión de riesgos.
“Este tipo de avances regulatorios son un hito para los que nos dedicamos al marketing digital y son necesarios para sentar las bases de un sector ético y seguro. En Outbrain velamos por un buen uso de la tecnología y, por ello, nuestras soluciones de IA son altamente sofisticadas para garantizar la calidad y permitir a nuestros clientes crear vínculos de valor con los usuarios”, concluye Amieva.
Seguiremos informando…
