En guardia ante los deepfakes.
La llegada de Sora 2 nos proporciona la excusa perfecta para establecer un plan de acción frente al daño potencial de los contenidos falsos y la desinformación en general.
Estos últimos días hemos vuelto a experimentar ese ya familiar cóctel de vértigo y asombro que acompaña a los grandes saltos de la IA generativa. El lanzamiento de Sora 2 marca un hito -otro- en la creación de contenido audiovisual. Al tiempo que pone a disposición de cualquiera una capacidad sin precedentes de producción creativa, levanta implicaciones éticas y legales relacionadas con la desinformación y la propiedad intelectual. Además de ponernos en bandeja el “Fin de la Realidad v5.4.1.”
No lo habíamos pactado con Sam Altman, pero la llegada la nueva herramienta de creación de vídeo ha coincidido con la presentación del último paper del Foro IA: Deepfakes, desinformación y amenazas híbridas. Y no es difícil encontrar una conexión directa entre el revuelo de Sora 2 (especialmente por su función “cameo” que permite introducir personas reales en los vídeos) y los desafíos organizativos, tecnológicos y regulatorios descritos en el informe.
El Global Risks Report 2025 del Foro Económico Mundial sitúa la desinformación en el primer puesto de las amenazas globales. Los deepfakes representan una pieza más dentro de una estrategia coordinada que puede incluir ciberataques, suplantaciones de identidad y manipulación de audiencias o mercados.
Sora 2: la promesa y los riesgos.
Hay quien defiende el potencial de Sora 2 para la comedia creativa, un laboratorio donde experimentar con ideas y personajes sin necesidad de conocimientos técnicos. Es cierto que hemos visto esta semana centenares de vídeos locos (un ejemplo) que nos han hecho reír.
Pero las derivadas problemáticas se multiplican. Por un lado, la capacidad de Sora para recrear personajes y estilos visuales protegidos por derechos ha soliviantado a la industria de Hollywood. Por otro, la seguridad no es prioritaria y las protecciones contra la intimidad personal han demostrado ser bastante vulnerables. La firma de ciberseguridad Reality Defender fue capaz de saltarse sus salvaguardas en menos de 24 horas. Utilizando imágenes públicas de celebridades y directores ejecutivos, el equipo creó deepfakes de CEOs en tiempo real que superaron todos los controles de verificación de la plataforma.
Hay otras consecuencias culturales y sociales profundas. Sora puede convertirse en una máquina de borrado cultural: al permitir que cualquier obra o personaje sea ridiculizada, se devalúa el trabajo creativo y el patrimonio cultural que representan. A medida que se hace más difícil distinguir entre realidad y ficción, la autenticidad se convierte en una cualidad más preciada. Y la desinformación se trivializa, cuando el mismo presidente de los EEUU utiliza (y legitima) la IA para burlarse de sus rivales políticos.
La necesidad de protegerse con un framework defensivo.
Ante un actor malicioso capaz de generar un vídeo híper realista de nuestro CEO anunciando una crisis, o de simular en redes sociales una oleada de quejas hacia nuestra marca, no es suficiente con reaccionar. Es imperativo anticiparse, preparándose con una estrategia defensiva que no es (solo) tecnológica, sino cultural y organizativa. Entre muchas otras cosas, el documento del Foro IA establece un framework defensivo ante esta categoría de amenazas, basado en cinco pilares.
Monitoreo y detección aumentada: la escucha social tradicional es insuficiente. Se requiere una combinación de herramientas avanzadas de IA forense para detectar anomalías, junto con la monitorización de canales cerrados y dark social, donde se inician estas campañas.
Evaluación de impacto: una vez detectada la amenaza, el equipo de Comunicación, apoyado por Ciberseguridad, debe actuar como un puente. Es necesario verificar la autenticidad (un vídeo real sacado de contexto puede ser tan dañino como un deepfake), evaluar el alcance y trazar escenarios para anticipar el daño potencial.
Escalada: la crisis deja de ser asunto de un solo departamento. Se debe activar un comité multidisciplinar (Comunicación, Legal, Ciberseguridad, Alta Dirección) con flujos de información seguros para actuar de forma coordinada.
Respuesta: la estrategia debe combinar la eliminación del contenido (denuncias en plataformas, acciones legales) con la construcción de un contrarrelato. Esto implica comunicación transparente en canales corporativos, contacto con verificadores y la activación de embajadores e influencers aliados.
Capacitación y concienciación: la primera línea de defensa es humana. Es fundamental formar a portavoces, directivos y empleados para identificar contenido falso y entender los protocolos. Realizar simulacros de crisis con deepfakes es un recurso útil para estar preparados.
Sora 2, como Veo 3 o Vibes de Meta, son herramientas fascinantes. Pero son parte de la maquinaria de desinformación y nos hacen dudar de todo lo que vemos. Necesitamos protegernos con marcos normativos, cooperación multilateral, líneas de acción claras, formación continua. El informe del Foro IA analiza todos estos desafíos y nos ayuda a enfrentarlos, incluyendo un cuestionario de autoevaluación para valorar nuestro nivel de preparación ante las nuevas amenazas fake.
Pincha aquí para acceder al paper Deepfakes, desinformación y amenazas híbridas del Foro IA.
El próximo domingo, volvemos a tu buzón.
Fernando y Carlos.
Actualidad.
Incluso Mr Beast (el youtuber más popular del mundo) muestra preocupación ante el avance de la IA. Se pregunta qué será de los millones de creadores que actualmente viven de hacer contenido cuando los videos creados con IA sean igual de buenos que los tradicionales. BBC
Deloitte va a poner Claude a disposición de sus más de 470.000 empleados en todo el mundo, marcando su mayor despliegue empresarial hasta la fecha. Como parte del acuerdo, Deloitte creará un Centro de Excelencia de Claude y certificará a 15.000 profesionales en el uso del modelo. ANTHROPIC
Google DeepMind ha lanzado Gemini 2.5 Computer Use, para que los desarrolladores puedan crear agentes capaces de navegar, hacer clic, escribir y desplazarse en páginas web y aplicaciones, manipular elementos interactivos y operar tras inicios de sesión. GOOGLE
Figure ha presentado su humanoide 03, diseñado como asistente para todo tipo de tareas en el hogar. De momento se fabricarán unas 12.000 unidades al año, aunque Figure quiere vender 100.000 en los próximos cuatro años. En este vídeo podemos verlo en acción. LINK
La Comisión Europea destinará 1.100 millones de euros a las estrategias Apply AI y AI in Science, con el objetivo de integrar la IA en industrias estratégicas (sanidad, energía, movilidad), en el sector público y en la investigación científica, y crear centros de experiencia para que las empresas -especialmente las pymes- accedan a la innovación. LINK
Reflexiones.
Con sus últimos movimientos (Sora 2, Instant Checkout, integración de apps en ChatGPT, AgentKit...), OpenAI busca maneras de monetizar a sus 800 millones de usuarios activos, y a la vez crear aplicaciones distintivas difíciles de replicar por sus competidores. El objetivo es convertirse en la IA personal predeterminada (ChatGPT más parecido a un sistema operativo que a una app), con la que financiar su ambición de “inteligencia abundante” y alcanzar la rentabilidad, prevista para 2029. LINK
En este nuevo informe, McKinsey propone el concepto de agentic organization: estructuras donde los agentes IA se integran en los flujos de trabajo y asumen tareas autónomas dentro de un marco gobernado por humanos. El informe identifica tres retos clave para hacerlo realidad: rediseñar los modelos operativos, definir principios de supervisión y preparar a los empleados para colaborar con sistemas cada vez más proactivos. MCKINSEY
Research.
El State of AI Report es un
tochoclásico con cantidad de información, que lleva un tiempo digerir. La edición de 2025 destaca la intensificación de la competencia en IA, con OpenAI manteniendo liderazgo pero con competidores reduciendo la brecha; también subraya que los modelos razonadores han definido el año, llevando a la IA a convertirse en una colaboradora científica y a la adopción comercial masiva, con un 44% de las empresas estadounidenses pagando ya por herramientas de IA. PRESENTACIÓN RESUMIDALos temores a una destrucción masiva de empleo a consecuencia de la IA generativa son prematuros, según este análisis de la Universidad de Yale del mercado laboral de EEUU. Desde finales de 2022, la IA no ha provocado una disrupción macroeconómica discernible: la automatización no se relaciona con cambios significativos en el empleo, y los cambios en el mix ocupacional no difieren demasiado de los que trajeron internet o los ordenadores. La conclusión es que los efectos de la tecnología en el empleo suelen tardar décadas en materializarse. Faltan tiempo y datos para evaluar el verdadero impacto de la IA. LINK
Un estudio pregunta a 23.500 trabajadores qué ocupaciones debería automatizar la IA. La respuesta es sorprendente: basándose en las capacidades actuales de la IA, la gente apoya la automatización del 30% de las 940 ocupaciones evaluadas. Si imaginamos una IA que supere a los humanos a un menor coste el apoyo llega al 58%, lo que demuestra que la mayor parte de la resistencia a la automatización no se debe a principios morales, sino a una cuestión de rendimiento. Un 12% de ocupaciones (atención personal, terapia y liderazgo espiritual) se considera fuera de los límites de la automatización. LINK
El sexto estudio Connected Consumer de Deloitte, en el que se encuestó a unos 3500 consumidores estadounidenses en junio de 2025 sobre sus vidas digitales, revela que, aunque los consumidores están adoptando la IA generativa y otras tecnologías digitales, muchos consideran que la tecnología avanza demasiado rápido. Este sentimiento pone de relieve una demanda fundamental de los consumidores: quieren innovación, pero también quieren transparencia, control y seguridad de los datos.
MCX.
En la Advertising Week de Nueva York, grandes agencias han mostrado cómo la IA están reestructurando sus equipos y flujos de trabajo, pasando de la experimentación a las operaciones a gran escala. Con WPP utilizando 50.000 agentes IA internos, y Assembly integrando plataformas como Stage para obtener insights entre canales, el desafío principal ya no es la tecnología, sino gestionar el cambio en los modos de trabajar. Dicen las agencias que el impacto principal de la IA está en la eficiencia, pero su mayor potencial está en impulsar la creatividad, empujar a las marcas a buscar grandes ideas. ADWEEK
Mientras tanto, Forrester predice otro 15% de reducción de headcount en las agencias (al menos en los grandes conglomerados) en 2026 que se suma al 8% de 2025. Ante un nuevo panorama, el rol de la agencia debe pasar de ser “agente” a ser “proveedor de soluciones”. “Marketing agencies resign their agency”. FORRESTER
Ahora que llega a Europa, un nuevo estudio de usabilidad de AI Mode de Google (no confundir con AI Overview) con 37 participantes a los que pusieron 7 tareas de búsqueda específicas muestra claramente que las personas: 1.- Leen AI mode; 2.- Rara vez hacen clic fuera; 3.- Solo salen cuando están listos para realizar una transacción. LINK
Adobe ha sacado sus predicciones para la temporada de compras navideñas en EEUU, con un incremento del 520% en el tráfico a las tiendas desde LLMs. ADOBE
Zendesk asegura que sus nuevos agentes son capaces de resolver el 80% de las solicitudes de clientes sin intervención humana. El 20% restante será gestionado por un agente copiloto que asistirá a los técnicos humanos. TECH CRUNCH
Off-tópicos.
Con la llegada de Sora (la app estilo TikTok de vídeos por IA) y Vibes (de Meta) se multiplican de nuevo las declaraciones de la muerte del social media. De las que también proliferaron hace años ante el auge de TikTok. La gente ya no entra para conectar, sino para matar el tiempo. Y con la IA, las plataformas se están convirtiendo en centros comerciales fantasmas llenos de contenido sintético. Las conversaciones reales se mueven a entornos privados … Ah, pero ¿había conversaciones? Y todo converge al vídeo (especialmente el vídeo corto) en bucle infinito. La TV ha ganado, finalmente. LINK, LINK