Instagram está enfrentando una avalancha de deepfakes y contenido generado con inteligencia artificial, y Adam Mosseri, CEO de la red social, reconoció que la plataforma sigue trabajando para definir cómo contener el problema. La compañía no planea prohibir la IA, pero admite que el contenido sintético está desplazando a creadores originales y llenando los feeds con material difícil de distinguir de la realidad.
Instagram busca frenar los deepfakes con IA
Mosseri respondió tras las denuncias de comediantes que aseguraron que cuentas con avatares femeninos creados por IA copiaron sus rutinas de stand-up casi palabra por palabra. Estos perfiles acumularon cientos de miles de seguidores, generaron vistas y, según las acusaciones, redirigieron a los usuarios hacia páginas de OnlyFans.
El ejecutivo afirmó que no considera práctico prohibir el contenido de IA en Instagram, porque será cada vez más difícil identificarlo y porque no todo ese material es de mala calidad. Aun así, reconoció que existe “mucho slop” y dijo que Instagram está analizando qué puede hacer cuando una cuenta de IA copia contenido de forma masiva.
La declaración llega en un momento complicado para la plataforma. Los deepfakes ya no se limitan a famosos falsos o videos políticos manipulados, sino que incluyen personajes hiperrealistas que imitan a creadores reales, replican chistes, estilos visuales e incluso el ambiente de un escenario de comedia.
Qué es el “Slop Content” y por qué inunda Instagram
El término “Slop Content” se usa para describir contenido generado con inteligencia artificial de forma masiva, poco original y pensado principalmente para atraer clics, vistas o interacciones. En español podría traducirse como “contenido basura con IA” o “sopa de contenido sintético”.
No es simplemente una imagen hecha con IA. El problema aparece cuando se producen miles de publicaciones automáticas con rostros inventados, videos reciclados, textos genéricos o personajes falsos que imitan tendencias virales. Su objetivo suele ser monetizar la atención, no aportar información, entretenimiento genuino ni valor creativo.
En Instagram, este tipo de contenido puede tomar la forma de cuentas de “modelos” inexistentes, comediantes artificiales, videos de procesos artísticos falsos o clips que copian el trabajo de personas reales. El resultado es un feed donde el algoritmo premia lo que genera engagement, aunque detrás no haya un creador humano auténtico.
Mosseri ha defendido que también hay contenido de IA muy bueno, y eso complica la respuesta de la plataforma. La distinción ya no es tan simple como separar “IA” de “contenido real”, sino identificar cuándo la IA se usa como herramienta creativa y cuándo se convierte en una máquina de copiar, engañar o saturar la red.
Cómo afecta a los creadores y a los usuarios
Para los creadores, el impacto es directo. Un comediante puede pasar meses puliendo un chiste en vivo y verlo luego interpretado por un avatar generado con IA que obtiene más alcance que el video original. Esto no solo afecta los ingresos, sino que difumina la autoría y el reconocimiento que sostienen buena parte de la economía creativa.
Para los usuarios, el riesgo es perder la confianza en lo que ven. Mosseri ha advertido que las fotos y videos generados por IA se vuelven cada vez más indistinguibles del material capturado con una cámara, por lo que la plataforma deberá mostrar más contexto sobre quién publica cada contenido y fortalecer las señales de credibilidad.
La propuesta más interesante del ejecutivo apunta a “fingerprinting” o huella digital del contenido real. En lugar de intentar detectar todos los videos falsos, la idea es certificar el material auténtico desde su origen, por ejemplo mediante firmas criptográficas de las cámaras y estándares como C2PA.
Instagram también estudia impulsar más tráfico hacia los creadores originales, una medida clave si quiere evitar que las cuentas de IA se queden con las visitas, los seguidores y las oportunidades de monetización. Mosseri reconoció que aún no sabe cuál será la solución concreta para los casos de copia no protegida por derechos de autor, como los chistes.
Qué puede cambiar en tu feed de Instagram
Es probable que Instagram refuerce sus etiquetas de contenido generado por IA, mejore la detección de cuentas sospechosas y dé mayor visibilidad al material original. Sin embargo, Mosseri fue honesto al admitir que la identificación automática se volverá más difícil a medida que la tecnología avance.
Mientras la plataforma define sus reglas, conviene mirar los perfiles con más atención. Revisar la antigüedad de la cuenta, la coherencia de sus publicaciones, los comentarios y la fuente original puede ayudar a detectar un perfil artificial. El escepticismo ya no es paranoia digital, sino una herramienta básica de navegación.
El desafío de Instagram no es eliminar la inteligencia artificial, sino evitar que el Slop Content termine convirtiendo la red en un ruido interminable de rostros falsos, chistes robados y videos creados solo para jugar con el algoritmo. La batalla por la autenticidad acaba de volverse mucho más visible.
Sigue leyendo:
• Por qué los algoritmos de las redes sociales son cada vez más peligrosos
• “Te ensucian el cerebro”: cómo los algoritmos de redes sociales promueven el contenido violento entre los jóvenes
• Instagram quiere frenar a los avatares de IA que se hacen pasar por personas reales