Una visión está tomando forma en las oficinas de Meta , la compañía cuyo CEO es Mark Zuckerberg : una red social donde las líneas entre los usuarios reales y las criaturas generadas por inteligencia artificial son cada vez más difusas.
Parece que una plataforma de redes sociales poblada por “personas” sintéticas está cada vez más cerca.
Un deepfake para un amigo
Connor Hayes , director de productos de inteligencia artificial generativa en Meta, dijo al Financial Times que los deepfakes generados por inteligencia artificial existirán en las redes sociales «de la misma manera que existen ahora las cuentas de usuarios reales».
En otras palabras, estos personajes artificiales “tendrán nombres, fotos de perfil, biografías y podrán generar y compartir contenidos”, interactuando de forma autónoma con el enorme pool de 3.000 millones de personas activas en las plataformas controladas por Meta, a saber, Facebook, Instagram y Threads .
El objetivo de Meta para los próximos dos años es hacer que sus aplicaciones sean “más divertidas y atractivas”, especialmente para los usuarios más jóvenes.
Los personajes sintéticos, dotados de inteligencia artificial generativa capaz de imitar la creatividad humana , podrían jugar un papel crucial en la estrategia de la multinacional liderada por Zuckerberg.
Hayes dijo al Financial Times que ya se han creado cientos de miles de deepfakes en las redes sociales controladas por Meta utilizando una nueva herramienta impulsada por inteligencia artificial lanzada en Estados Unidos en julio.
Pero la mayoría de los usuarios, añadió Hayes, hasta ahora han mantenido privados estos caracteres sintéticos.
Un futuro distópico
Incluso plataformas como Snapchat y TikTok , en la carrera por conquistar a la Generación Z, están experimentando en sus plataformas con herramientas que ayudan a los creadores y anunciantes a generar contenidos y campañas publicitarias a través de IA.
Cabe entonces preguntarse qué impacto podría tener un ejército de chatbots , bien camuflados entre perfiles humanos, en la difusión de información falsa o engañosa .
Sin medidas de control adecuadas, existe el riesgo de que estas herramientas se utilicen para amplificar narrativas engañosas.
La afluencia de contenido generado por IA también podría saturar las plataformas con material de baja calidad como “slop ”, un término incluido en las 2024 palabras del Diccionario Oxford .
El auge de los “Slops”
En el contexto de la tecnología, “slop” se refiere a contenido de baja calidad generado por inteligencia artificial que a menudo carece de originalidad, coherencia y profundidad.
Un claro ejemplo de bazofia son las imágenes de “Jesús camarón” —representaciones surrealistas de Jesús combinadas con camarones— que se han vuelto virales, especialmente en Facebook.
Estas extrañas imágenes demuestran cómo las herramientas de IA pueden producir enormes cantidades de contenido con un mínimo esfuerzo , lo que a menudo da como resultado un flujo de material sin sentido.
El auge del “slop” en las redes sociales se ha visto facilitado precisamente por el acceso a la inteligencia artificial generativa , que permite a los usuarios crear y difundir contenidos con una simple indicación o instrucción de texto.
¿Chatbot o humano?
Al transformar algoritmos en usuarios autónomos , con capacidad de dialogar, comentar e influir en las discusiones, Meta pinta un escenario que va más allá de la simple creación de una foto o un vídeo realista.
Esta intersección entre la realidad digital y la ficción plantea importantes cuestiones éticas sobre la naturaleza de las comunicaciones en línea.
Un estudio publicado a finales de 2022, titulado “¿ Son los perfiles de redes sociales generados por aprendizaje profundo indistinguibles de los perfiles reales? ”, analizó la capacidad de los humanos para distinguir entre perfiles auténticos y generados por IA en las redes sociales.
En el experimento, 375 participantes fueron expuestos a un feed simulado que contenía perfiles reales y perfiles y publicaciones generados por IA.
Los resultados muestran que los participantes tuvieron dificultades para reconocer con precisión el contenido generado por IA . Y así los investigadores concluyeron que las IA son capaces de crear perfiles y publicaciones que son difíciles de distinguir de los auténticos .
El ejemplo de la IA social: todos los seguidores son falsos
Un ejemplo tangible de un futuro dominado por “usuarios artificiales” lo representa una plataforma llamada Social AI , donde los miembros son los únicos seres humanos reales .
Todos los seguidores, comentaristas y críticos que interactúan con ellos son perfiles creados por inteligencia artificial. Los usuarios, dependiendo de sus preferencias, pueden elegir estar rodeados por un ejército de seguidores entusiastas, oponentes polémicos o incluso enemigos agresivos .
La idea es del programador Michael Sayman , ex colaborador de Facebook, Google y Roblox: Social AI ofrece una interfaz similar a X (antes Twitter), pero dentro cualquiera puede entablar discusiones con entidades que responden de manera plausible, aunque sean completamente sintéticas.
“La IA social no es una pesadilla distópica”, explicó Sayman. El verdadero problema es que hoy ya no entendemos qué es humano y qué no lo es”.
El riesgo de un soliloquio eterno
En un contexto como el de la IA Social, la línea entre el diálogo y el monólogo se vuelve más delgada.
Por un lado, va más allá de la función de los chatbots tradicionales (como ChatGpt o Gemini), que están diseñados para ofrecer solo las “mejores” respuestas a preguntas específicas.
Por otro lado, existe el riesgo de amplificar el efecto burbuja ya presente en las redes sociales tradicionales, con un grupo de seguidores falsos siempre dispuestos a elogiar y apoyar los puntos de vista de los usuarios reales.
¿Qué valor tiene la comparación si de hecho somos capaces de “moldear” a nuestros interlocutores incluso antes de iniciar una conversación?
La IA aplicada a las redes sociales nos plantea una paradoja inquietante : la tecnología, nacida para simplificar las relaciones y promover las conexiones, podría acabar eliminando por completo el contacto humano auténtico .
