El 60 % de los bots de IA pasa desapercibido en redes sociales: los más amables son los más difíciles de detectar. Esta es una de las principales conclusiones del análisis de Surfshark realizado con 1722 participantes de todo el mundo, que muestra que las personas solo detectan el 40 % de los comentarios generados por bots en las redes sociales. Los que pasan más desapercibidos son los bots positivos, amables y que parecen razonables. ¿Por qué?
“En las redes sociales, todo el mundo se fija en los trolls agresivos. Por eso, son precisamente los que más se suelen detectar. En el entorno simulado de redes sociales, los participantes identificaron la mitad (50,2 %) de los bots de IA que mostraban un comportamiento negativo”, explica Luís Costa, responsable de Investigación y Análisis en Surfshark. Sin embargo, cuando un bot adoptaba una personalidad positiva y amable, la tasa de detección de los participantes desciende al 38 %, lo que supone una enorme diferencia de 12 puntos.
“Normalmente, las cuentas generadas por IA que se utilizan en sofisticadas campañas de manipulación adoptan un tono agradable, parecen lógicas o simplemente pasan desapercibidas. Pueden respaldar las opiniones de usuarios reales y limitarse a aumentar el número de comentarios de una conversación para hacer que una opinión minoritaria parezca mayoritaria. Estas cuentas rara vez se denuncian”, explica Costa, quien desgrana este tema para los lectores de PRNoticias.
¿Por qué los bots amables son más difíciles de detectar?
Nuestro estudio indica que detectar bots resulta especialmente difícil cuando imitan comportamientos humanos habituales. Los bots con una actitud positiva registraron una tasa de detección de solo el 38,1%. Un tono positivo, pero también amable, razonable y natural puede hacer que las personas examinen el contenido con menos desconfianza. En cambio, señales más estereotípicas, como el uso excesivo de emojis, pueden hacer que los bots resulten más evidentes. Una posible explicación es que tendemos a asociar la amabilidad con la confianza y la autenticidad. Cuando un mensaje utiliza un tono cordial, cooperativo y razonable, genera menos señales de alerta y encaja mejor con nuestras expectativas sobre una interacción humana normal. Esto puede hacer que prestemos menos atención a otros indicios (como patrones repetitivos, respuestas excesivamente rápidas o un historial de actividad poco creíble) y que aceptemos el mensaje sin someterlo al mismo nivel de análisis crítico que aplicaríamos a un contenido agresivo, extraño o provocador.
¿Qué riesgo supone esto para las marcas?
Uno de los principales riesgos es la pérdida de integridad de los datos. Según nuestro análisis, las principales plataformas de social media estudiadas eliminan conjuntamente alrededor de 6.300 millones de cuentas falsas al año. Esta escala muestra hasta qué punto la actividad inauténtica puede distorsionar la percepción que una marca tiene de su audiencia. Si una comunidad contiene una proporción significativa de cuentas artificiales, la empresa puede tomar decisiones estratégicas basadas en una demanda que no es real, perder de vista las necesidades de sus clientes y destinar recursos a audiencias inexistentes o poco valiosas.
¿Hasta qué punto puede falsearse el engagement de una campaña?
Las métricas visibles de una campaña pueden inflarse de forma considerable y a un coste relativamente bajo. Nuestro estudio sobre interacción falsa (fake engagement) muestra que se pueden comprar comentarios, “me gusta/likes”, seguidores y visualizaciones, lo que permite crear una apariencia de popularidad con una inversión mínima. Sin embargo, esas cifras no equivalen necesariamente a interés genuino, confianza, ventas o impacto comercial. También pueden influir en la percepción de los consumidores y, potencialmente, en los sistemas de recomendación de las plataformas.
¿Pueden los bots alterar la percepción de la reputación de una marca?
Sí. Los bots pueden amplificar mensajes positivos o negativos, aumentar artificialmente su visibilidad y crear la impresión de que existe un consenso más amplio del que realmente hay. Nuestro estudio muestra que los bots con una actitud positiva pueden ser especialmente difíciles de identificar: aproximadamente seis de cada diez no fueron detectados. Por tanto, una campaña coordinada podría hacer que opiniones artificiales parezcan proceder de consumidores reales y alterar gradualmente la percepción pública de una marca.
¿Qué métricas de marketing son más vulnerables a esta manipulación?
Las métricas de volumen y visibilidad son especialmente vulnerables como la interacción superficial: comentarios, “me gusta”, compartidos y visualizaciones, que pueden comprarse a bajo coste. También el crecimiento de la comunidad: el número de seguidores o suscriptores puede inflarse mediante cuentas falsas. Y el alcance e impresiones: pueden aumentar artificialmente cuando una red de cuentas amplifica el contenido. Además, el sentimiento de marca: puede distorsionarse mediante comentarios coordinados, especialmente si proceden de bots que utilizan un lenguaje natural, amable o aparentemente razonable. Por eso, las marcas no deberían evaluar una campaña únicamente mediante cifras de volumen, sino contrastarlas con métricas de mayor valor, como las conversiones, la retención y la calidad de las interacciones.
¿Cómo puede una marca distinguir una comunidad real de una comunidad artificial?
No existe una única señal definitiva, por lo que las marcas deben analizar varios indicadores conjuntamente. Entre ellos se encuentran los aumentos repentinos e inexplicables de seguidores, los patrones de publicación excesivamente sincronizados, la repetición de mensajes, las cuentas creadas en periodos similares y los perfiles con historiales limitados o poco variados. Una comunidad auténtica suele mostrar conversaciones espontáneas, diversidad de opiniones, relaciones continuadas entre usuarios y una conexión razonable entre la interacción pública y resultados como visitas, suscripciones o ventas. Ninguno de estos indicadores demuestra por sí solo que una cuenta sea falsa, pero su combinación puede justificar una auditoría más detallada.
¿Qué papel juega la IA generativa en la evolución de estos bots?
La IA generativa permite crear actividad automatizada más variada, contextual y convincente. Los modelos de lenguaje pueden producir respuestas diferentes para cada conversación, adaptar el tono y mantener interacciones a una escala que antes requería mucho más trabajo humano. Al mismo tiempo, el mercado de interacción falsa permite inflar determinadas métricas a muy bajo coste: nuestro análisis encontró ofertas de 1.000 visualizaciones en TikTok por tan solo 1,40 dólares. La combinación de automatización lingüística y servicios de interacción barata reduce el coste de crear una apariencia de apoyo o popularidad, aunque no significa que toda la interacción falsa sea generada mediante IA.
¿Qué señales deberían vigilar los profesionales de marketing?
Los profesionales de marketing deberían vigilar las discrepancias entre las métricas visibles y los resultados reales. Por ejemplo, un aumento repentino de comentarios, seguidores o visualizaciones que no vaya acompañado de más visitas, conversiones, menciones orgánicas o ventas puede indicar interacción de baja calidad o artificial, aunque no constituye una prueba por sí solo. Otras señales incluyen picos de actividad en periodos muy breves, comentarios repetitivos o poco relacionados con el contenido, cuentas con historiales limitados y grandes grupos de perfiles que publican mensajes similares al mismo tiempo. Conviene analizar estos patrones de forma agregada, en lugar de clasificar una cuenta como bot únicamente porque su lenguaje resulte especialmente amable, lógico o correcto.
¿Y qué señales deberían vigilar los consumidores?
Los consumidores deberían prestar atención a combinaciones de señales, como respuestas inusualmente rápidas y frecuentes, mensajes repetitivos, apoyo constante a un único tema, un historial de publicaciones limitado y niveles de interacción que no parecen corresponderse con el alcance o la calidad del contenido. También conviene comprobar si la cuenta mantiene conversaciones específicas y coherentes, si reconoce matices o desacuerdos y si su actividad se ha desarrollado de forma creíble a lo largo del tiempo. La amabilidad o la rapidez, por sí solas, no demuestran que una cuenta sea un bot; deben interpretarse junto con otros patrones de comportamiento.
Seguiremos Informando…