La Inteligencia Artificial puede ser un tema que harte. Está en todas partes. Es ineludible. Pero no es una tecnología que haya llegado a su desarrollo pleno. Por lo tanto, seguiremos hablando de ella. Para bien y para mal porque su desarrollo sigue y seguirá impactando todos los negocios, los empleos, la productividad y la creatividad.
Por ello, en la UDIT (la Universidad del Diseño, Innovación y Tecnología) se realizó la III Jornada Foro de Inteligencia Artificial, Ciberseguridad y AdFraud organizado por La Fede (Asociación de Empresas de Comunicación). Las palabras de bienvenidas fueron pronunciadas por Elia Mendez, directora general de La Fede y Marisa Sarget, vicerrectora de ordenación académica de la UDIT.
Recopilación y análisis de datos
Guillermo Bosovski, director de Doxa Stakeholder Intelligente y Fernando Montañés, responsable de investigación de La Fede hablaron sobre un estudio sobre el tema de la organización. Y empezaron señalando que el 81% de las empresas publicitarias en España comenzó a integrar la inteligencia artificial a partir de 2024. Aunque la tecnología se utiliza en más de la mitad de las plantillas de las agencias, su implantación efectiva se mantiene parcial y abarca menos de la mitad de los procesos operativos. La inversión realizada hasta la fecha es moderada, con cerca del 47% de las compañías invirtiendo menos de 10.000 euros, una cifra explicada por el alto predominio de PYMEs con menos de 50 empleados en el tejido publicitario nacional.
A nivel operativo, el uso de la IA se concentra principalmente en la recopilación, análisis e interpretación de datos, relegando a un segundo plano la creación audiovisual (27%) o la gestión administrativa (10%). El estudio subraya que las valoraciones bajas en la aportación de la IA no se deben a deficiencias de la propia herramienta, sino a que siete de cada diez empresas reconocen no estar aún suficientemente formadas para extraer su máximo rendimiento. De cara al futuro, casi el 80% de los directivos prevé un alto impacto en sus modelos de trabajo, mientras aumenta la incertidumbre laboral: un 32,5% cree que la IA provocará reducciones de plantilla a futuro, frente a un 26,5% que no sabe cómo evolucionará el empleo.
Prevención del fraude y copilotaje humano
Benito Marín, director de Integral Ad Sciencie (IAS) dijo que el fraude en la publicidad digital constituye una actividad deliberada y rentable con un riesgo delictivo muy bajo. Sin herramientas de medición y filtrado, el fraude puede alcanzar entre el 9% y el 10% de las impresiones publicitarias, aunque disminuye hasta un 0,6% – 0,8% cuando se aplican sistemas de bloqueo optimizados. La actividad fraudulenta mediante bots e impresiones no humanas se concentra con mayor intensidad en los formatos emergentes de mayor coste, como el vídeo, el audio digital y la televisión conectada.
Para combatir este escenario y optimizar los resultados, los especialistas remarcan que la IA no posee inteligencia real ni comprensión, sino que funciona como una máquina de cálculo probabilístico y vectorial. Por ello, para evitar caer en la “dictadura de lo probable” o en la automatización del caos, se propone una metodología estricta de “copilotaje humano” (80% juicio humano, 20% IA). Esta metodología exige estructurar la interacción mediante marcos de Rol, Contexto e Instrucciones (RCI) y la creación de almacenes de conocimiento (RAG) para acotar el margen de actuación de los modelos.
El dato para evitar ‘alucinaciones’
Eloy Ybañez, estratega y formador de Estrategia by InBusiness 5.0 señala que la implantación exitosa de la IA en la analítica de negocio requiere construir sobre pilares sólidos de datos estructurados antes que priorizar aplicaciones vistosas pero inestables. Si bien la IA Generativa democratiza el acceso a la información empresarial a través del lenguaje natural (GenBI), los modelos de lenguaje tienden a responder con alta confianza matemática incluso cuando incurren en errores o alucinaciones.
Para garantizar que los datos alimenten decisiones estratégicas seguras, se establecen cuatro principios clave de gobernanza:
- Privacidad por diseño: Configurar las arquitecturas de datos para excluir, anonimizar o agregar información personal y confidencial desde la base, evitando filtraciones por inyección de prompts.
- Contexto de negocio obligatorio: Transformar los datos brutos en productos contextualizados dotados de métricas, objetivos y periodos comparables.
- Modelización experta frente al reemplazo: Los modelos de lenguaje actúan como copilotos de presentación pero no sustituyen la matemática causal de los científicos de datos en herramientas como el Marketing Mix Modeling (MMM).
- Validación de fuentes: Asignar ponderación y trazabilidad a la credibilidad de las fuentes que nutren los sistemas de información.
Rechazo del consumidor hacia la publicidad sintética
Miguel Pereira, confundador de Darwin & Verne apuntó en su presentación que existe una brecha notable entre la producción publicitaria y la percepción de la audiencia: mientras el 70% de los directores de marketing utiliza IA generativa, la mitad de los consumidores desconfía de la publicidad sintética y el uso explícito o detectado de IA resta entre 16 y 20 puntos de confianza en la marca. El rechazo se acentúa cuando las marcas intentan ocultar el uso de avatares o hiperrealismo, o cuando los agentes conversacionales (chatbots) responden sin guardarraíles ni supervisión, provocando crisis de reputación viral.
A esta corriente de desconfianza se suma el cumplimiento del Reglamento Europeo de Inteligencia Artificial (AI Act), en vigor desde el 2 de agosto, que exige la obligación de etiquetar de forma visible cualquier contenido sintético que represente personas, lugares u objetos que puedan confundirse con la realidad. Paralelamente, la migración de las búsquedas desde buscadores tradicionales hacia asistentes generativos (GEO – Generative Engine Optimization) impone un nuevo reto reputacional caracterizado por una alta volatilidad de fuentes y la exigencia de aportar evidencias citables y datos verificables.
Decálogo de gobernanza para la IA idéntica
Javier Lomas, DPO de Codere Group y José Ramón Monleon, third party risk management de MasOrange señalaron que la evolución tecnológica conduce hacia una sociedad de agentes autónomos de IA que interactuarán entre sí y realizarán tareas complejas sin intervención humana directa. Sin embargo, la combinación de alta velocidad, acceso a recursos y ausencia de juicio humano genera riesgos operativos significativos, donde los agentes pueden ignorar restricciones para lograr sus metas fijadas.
Para mitigar estos peligros, las organizaciones deben adoptar un decálogo de gobernanza de agentes centrado en:
- Elaborar un inventario dinámico de agentes y asignarles identidades con privilegios temporales acotados.
- Establecer monitorización continua, planes de contingencia y control sobre la cadena de suministro tecnológica.
- Cumplir la “regla de dos” para evitar la combinación de acceso a datos sensibles, contenidos no controlados y ejecuciones automáticas sin supervisión humana directa.
Asimismo, las organizaciones deben recordar que el Reglamento General de Protección de Datos (RGPD) se aplica plenamente a los sistemas de IA, exigiendo el principio de responsabilidad proactiva (accountability) y la capacidad de demostrar que los datos personales de clientes y empleados están protegidos contra brechas de seguridad provocadas por agentes autónomos.
Seguiremos Comunicando…