La IA generativa en la escucha activa online.
Los LLMs han "resuelto" el NLP y ahora podemos saber mucho más eficientemente lo que el consumidor necesita mediante escucha activa. Se abren nuevas oportunidades.
Esta semana participé en un evento organizado en Barcelona por Brandwatch, la empresa líder de monitorización de conversaciones online, para hablar del uso de IA en la creación de marca y la gestión de la reputación. La relación de Good Rebels con Brandwatch viene de lejos. Somos clientes desde hace diez años. Ellos nacieron en Brighton (UK) y su fundador, Giles Palmer, convenció al matrimonio Cooper de asentar su consultora de social media en la ciudad con más horas del sol al año de Inglaterra. Luego Good Rebels adquirió la empresa de los Cooper y yo viví con mi familia siete años en esa maravillosa ciudad que aún añoramos.
Pero tengo además una conexión emocional con este tipo de empresas, porque hace más de 20 años co-fundé DiceLaRed, una startup de escucha de conversaciones online. Rastreaba y almacenaba contenidos extraídos de la web (enfocándose en tecnología de foros tipo vBulletin). Fue mi primer contacto con el NLP (natural language processing) y usábamos tecnologías de text-mining para extraer sentido de lo que la gente escribía. Y añadimos además un software para visualizar la evolución de los datos en tiempo real con 6 horas de decalaje.
Desde que la arquitectura transformer parece haber “resuelto” el NLP, me preguntaba cómo habrán evolucionado las herramientas de escucha y cómo están integrando los LLMs. La posibilidad de rastrear y describir imágenes, de comprender la ironía, de realizar un análisis de sentimiento preciso. Leer millones de conversaciones y extraer temáticas principales. Todo lo que un día no sabíamos si llegaría a ser posible, es posible ya. Las marcas usarán más y mejor estas herramientas para detectar tendencias, descubrir necesidades, monitorizar reputación en tiempo real.
Aproveché el evento en Barcelona para tener una conversación con Nick Taylor, director de marketing de producto y preguntarle por la incorporación de la IA generativa en Brandwatch y mucho más. Hemos editado y traducido un extracto de la entrevista que puedes leer a continuación. Pero también puedes ver el vídeo completo aquí (34’ con subtítulos). O acceder a la transcripción completa aquí (en inglés).
Entrevista a Nick Taylor, Director Senior de Marketing de Producto en Brandwatch
Nick, ¿cómo explicarías lo que es Brandwatch? ¿Cómo habéis evolucionado los últimos años?
Llevo ocho años en Brandwatch, y en ese tiempo hemos evolucionado desde la escucha social hasta los diferentes nombres que damos a lo que hacemos hoy en día: inteligencia del consumidor digital, analítica social, suites sociales… Es una industria en continua evolución. En la última década nos hemos centrado en cómo dar sentido a todos los datos sociales que existen. Siempre estamos buscando cosas nuevas y, por supuesto, cuando ahora se habla de IA, afrontamos todo tipo de nuevos retos: cómo aprovechamos las mejoras y desarrollos que está generando la IA, y este año en particular, la IA Generativa y los LLMs. Es una época fascinante para trabajar en la vanguardia de esta industria.
La IA generativa, ¿es una burbuja, o es algo que está cambiando profundamente la manera de hacer negocios?
Todo el software que construimos para analizar datos puede llegar a ser completamente redundante. No voy a poner una fecha, no creo que eso ocurra pronto, pero algún día ¿tendrá sentido trabajar con widgets y funciones para analizar datos, en lugar de decir simplemente "Aquí tengo esta IA, la he alimentado con todos los datos, y puedo empezar a pedirle resultados”?
Nuestra visión en Brandwatch es que la IA se está volviendo cada vez más potente e inteligente, pero siempre va a necesitar la curación y el copilotaje humanos. ¿Nos va a quitar el trabajo la IA? La respuesta es, casi con toda seguridad, sí. Pero creo que nos va a quitar los trabajos que no queremos, toda la parte que nos roba demasiado tiempo o que es demasiado grande para poder manejarla.
Todos vamos a tener que cambiar. Todos tenemos que aprender a usar la IA de la forma correcta, a gestionarla y controlarla. Necesitamos saber cómo entrenar los modelos, o cómo entender los modelos subyacentes para interpretar las conclusiones. O cómo aplicar la IA a ciertas partes del modelo, cuándo hay que tomar el relevo, cuándo tenemos que volver a comprobar los resultados...
¿Cómo ha adoptado Brandwatch estos modelos a lo largo de estos años, incluyendo el enfoque en la IA?
Lanzamos la primera escucha social impulsada por IA en 2019. Desarrollamos nuestro propio modelo sobre código abierto. Recientemente, hemos hecho un cálculo económico. Si usamos uno de estos modelos transformadores y le pedimos que busque la información correcta, nos costaría del orden de 12 millones de dólares al día. Mantener la parte IA del modelo de Brandwatch nos cuesta algo así como 200 dólares al día, porque hemos pasado tres o cuatro años haciendo ese modelo más eficiente, de modo que no aumenten los costes para nosotros ni para nuestros clientes, pero también para que sea instantáneo, que funcione mucho más rápido.
Otra área en la que utilizamos arquitecturas “transformer” es el análisis de sentimiento. Siempre hemos trabajado en un idioma cada vez, una vez que teníamos suficientes clientes en una región determinada, construíamos un modelo nuevo y lo entrenábamos con millones de datos. Ya no necesitamos construir las cosas de una en una, podemos tener un enfoque completamente multilingüe gracias a la naturaleza de los nuevos modelos generativos de IA, que ni siquiera saben realmente en qué idioma están trabajando. Sólo entienden que el lenguaje parece funcionar de una determinada manera, y aplican los patrones que identifican.
Hablando de modelos fundacionales, ¿cómo os afecta que estén disponibles para todo el mundo a través de APIs u open source? ¿Son de alguna forma GPT o Llama 2 una amenaza para Brandwatch?
No estamos pensando demasiado en amenazas, lo interesante acerca de los recientes desarrollos en IA generativa es el efecto nivelador. Pasaron los días en los que teníamos científicos de datos brillantes que podían diferenciarnos construyendo algo que nadie más tenía. Ahora todos podemos conectarnos a OpenAI y pedirle que resuma un montón de datos, o que escriba posts. La clave en el futuro va a girar en torno a cómo podemos construir mejores herramientas IA dentro de un ecosistema en el que nuestros clientes conservan sus datos y los mantienen organizados. Una de las cosas realmente interesantes que nos esperan es esta idea de modelos privados y entrenamiento con datos privados, porque es donde está la diferencia en este momento.
Todos los que juegan con ChatGPT saben que siempre te da una respuesta media. Es un gran agregador. Y eso es muy útil, y parece magia, pero es muy genérico, mientras que las empresas haciendo investigación de mercado podrían estar pensando en respuestas muy específicas. Algunos de nuestros clientes están muy preocupados por la reputación de la marca y los desafíos legales, otros por la notoriedad de la marca y el buzz. Lo que les interesa de las conversaciones es diferente. Por eso, si en el futuro somos capaces de utilizar sus propios datos para entrenar los modelos y tener un sistema privado y específico, es muy posible que seamos capaces de proporcionar más valor añadido.
Para ir terminando, ¿cómo explicas el impacto de la IA en la gestión de la reputación de la marca?
Pienso mucho en esto… Empezaría por responder a esta pregunta: ¿cómo van a abordar las marcas el hecho de que los consumidores van a pensar a menudo si están leyendo algo que ha creado una IA? Este es un fenómeno nuevo. En el Reino Unido, por ejemplo, hay marcas que han construido su reputación sobre ciertos diferenciadores de la experiencia del cliente. En concreto, marcas de telecomunicaciones que dicen: "Cuando nos llame, hablará con un humano. Siempre". Y esto es algo al margen de las eficiencias que puedes ganar con un chatbot. La gente no siempre quiere eso. Así que me pregunto si las marcas empezarán a pensar en este tipo de enfoque moral.
Al mismo tiempo, si volvemos al ejemplo de la telco, a veces no quiero hablar con un humano, estoy bien, sólo quiero ir a la web y hacer clic en lo que busco, no tengo tiempo para hablar con alguien. Y quizá pase algo parecido con la IA. De hecho, me parece bien que toda la documentación legal que tengo que firmar la cree la IA, porque no quiero sumergirme en eso... Así que creo que eso es fundamental, cómo las marcas van a tratar de diferenciarse donde todo está muy agregado, todo se está convirtiendo en lo mismo. Realmente, me intriga. Me encantaría ver la primera marca que diga “¡Nunca hemos hecho nada con IA!”, quizá ya exista alguna…
El próximo domingo, vuelvo a tu buzón.
Fernando.
Enlaces de interés para el profesional MCX.
Lecturas para mentes inquietas que quieren separar la chicha del hype. Seleccionadas con la ayuda de mi amigo y colaborador Carlos Corredor:
Avalancha de informes State of the Art in AI. Uno de Air Street capital (denso) en el que además revisan además sus predicciones del año pasado. Han acertado muchas. Y otro de Coatue con predicciones interesantes como la IA “on device” que es el modelo que buscará Apple: modelos fundacionales muy eficientes que no requieren “cloud” para funcionar y pueden hacerlo desde el móvil. AIR STREET CAPITAL, COATUE
El estudio de Menlo Ventures (un VC detrás de Anthropic) sobre la adopción de IA generativa en empresas de EEUU y Europa. Dos datos destacados: la adopción está siendo cautelosa, a la espera de confirmar ROI. Y por ahora, sorpresa, sorpresa, parece que ganan las empresas que incorporan la IA a productos ya consolidados, como Microsoft, Salesforce o Figma. Otros datos destacados: el 96% del presupuesto se destina a la ejecución de los modelos, y RAG es el método más empleado para mejorar la precisión de los LLMs. MENLO VENTURES
Este es más techie con encuesta a más de 1.500 profesionales de la tecnología (ingenieros de software, directivos, ejecutivos, diseñadores, etc.) de diversos sectores. RETOOL
Y este más específico de marketing digital. Y asegura que “los profesionales del marketing creen que sus organizaciones están a la vanguardia del uso de la IA. En comparación con sus competidores, el 87 % afirma que su uso de la IA es muy avanzado o avanzado”. State of AI in digital marketing. INVOCA
La búsqueda generativa de Google (SGE) incorpora una función que combina generación de imágenes y búsqueda de productos reales. Por ejemplo, le pides que cree un abrigo de color metalizado; SGE crea una imagen, y luego busca tiendas que vendan productos similares. Convirtiendo deseos en compras. MASHABLE
Se avecina avalancha de chatbots. No lo digo yo, lo dice Bill Gates. Y en un futuro cercano, agentes automáticos que harán muchas cosas por nosotros. Lo más interesante de la nota, hacia el final, donde se imagina los retos que se deben solucionar. ¿Tendremos un agente para cada cosa (uno de salud mental, un asesor financiero, uno para nuestras compras online)? ¿Se hablarán entre ellos? ¿Y de quién son propiedad las conversaciones, y cómo gestionamos la privacidad de esos datos? BILL GATES
Entender cómo avanza la IA generativa en la creación musical me fascina. Un nuevo modelo, Lyria, de Google DeepMind promete mucho. Puede crear voces, letras y pistas de acompañamiento que imitan el estilo de artistas reconocidos. A mí que me gusta hacer canciones, pero no soy profesional ni un gran instrumentista, me viene bien todo lo que me ofrezcan. Y habiendo estado hace poco colaborando con un productor profesional, sé que a él también le viene bien. DEEPMIND
“Introduciremos actualizaciones que informen a los espectadores cuando el contenido que están viendo sea sintético”. YouTube obligará a los creadores de contenidos a comunicar si un vídeo ha sido elaborado o retocado con IA. Y entonces, tendrá que declararse que ha habido edición en las fotos con el nuevo Pixel 8. Vaya líos que nos montamos nosotros solos, se podría pensar. YOUTUBE, PIXEL 8
Impresiona: Make it Real es una aplicación capaz de convertir una imagen en software funcional. La aplicación utiliza GPT-4V para interpretar un dibujo vectorial y convertirlo en código CSS y JavaScript, que puede replicar interfaces de usuario o incluso crear juegos sencillos. ARS TECHNICA
Se acerca el primer cumpleaños de ChatGPT, que se hizo público el 30 noviembre de 2022. Ahora que han despedido a su CEO, Sam Altman, quizá la celebración sea menos rimbombante. La salida de Altman está llena de interrogantes a la hora de salida de este boletín. Pero debido a la extraña estructura de la compañía (mezcla de non-profit y de empresa for-profit limitado) el consejo podía despedir a Altman (que no tenía acciones directas). Y lo ha hecho. SALIDA (NYT), CUMPLEAÑOS
La primera adquisición como empresa cotizada de AirBnB por 200 millones de dólares es Gameplanner.ai, una empresa del fundador de Siri. Brian Chesky, CEO de AirBnB piensa que la IA generativa cambiará radicalmente la plataforma y quiere usar la empresa adquirida como un “conserje de viajes” que aprenda sobre los usuarios con el tiempo y mejore sus experiencias de viaje. AIRBNB