Afilando el lápiz para volver al cole.
Afilando el lápiz para volver al cole.
La segunda temporada promete.
Empezamos septiembre reconectando y con expectación. Por lo que a mí me toca, he recargado pilas en familia descubriendo un Báltico lejano que no conocía: Letonia y Estonia. Temperaturas entre 21 y 25 grados (mi ideal en verano) para explorar Riga y Tallinn, ciudades hanseáticas de especial encanto, y el parque nacional del Río Gauja.
Tomando el pulso de vuelta a la inteligencia artificial, son muchas las lecturas que se han agolpado (y no agostado) este verano, así que encontraréis una larga recopilación en la sección de enlaces.
Billones de dólares, con sabor a fresa.
Septiembre llega cargado de novedades y anuncios. Mucho ruido alrededor de OpenAI que está de ronda de financiación. He llegado a leer que podría alcanzar una valoración de hasta hasta 125 billones (americanos) de dólares (y mucho escepticismo alrededor). Para afianzar esa ronda, se ha filtrado que la empresa tiene lista una nueva tecnología de IA, bautizada “Strawberry”, que busca mejorar las capacidades de razonamiento de sus modelos de lenguaje. Strawberry puede resolver problemas matemáticos y de programación que no ha visto antes, así como responder preguntas sobre temas más subjetivos. OpenAI planea integrar una versión simplificada de Strawberry en ChatGPT, posiblemente en otoño. Y está utilizándola para generar datos de entrenamiento (sintéticos) para su próximo modelo de lenguaje principal, denominado "Orion" (the “non-born artist” formerly known as GPT-5).
A colación de Strawberry, hace unas semanas explorábamos por aquí que el consenso crece en la comunidad científica, apuntando a que la arquitectura detrás de los LLMs no nos llevarán a la IA general. Se necesitan nuevos enfoques y modelos:
¿AI on or AI off?
Procreate, la mejor aplicación de ilustración para iOS, ha anunciado que nunca incorporará IA Generativa en sus productos. Su CEO se posicionó ideológicamente en X: "I f*** hate AI, … y no me gusta lo que está sucediendo en la industria, ni lo que le está haciendo a los artistas". Y en su web proclaman “Creativity is made, not generated: La IA generativa está despojando a todo de humanidad. Construida sobre la base del robo, la tecnología nos está dirigiendo hacia un futuro estéril."
El movimiento huele a posicionamiento contra competidores que han hecho lo contrario, como Adobe o Figma. Pero es un debate oportuno, en cualquier caso. Yo creo que en unos años, todo esto formará parte de nuestras vidas y muchos estaremos discutiendo sobre otras causas… Aunque si pensamos en cómo Jonathan Haidt ha reflotado el debate sobre el impacto negativo de los móviles en niños, puede que esta mecha no se apague tan fácilmente.
Nvidia sigue dando vértigo.
Nvidia no ha defraudado expectativas en su anuncio trimestral de resultados. Sus ingresos crecieron un 122% respecto al mismo trimestre del año anterior. Y aunque el valor de la acción cayó ligeramente, los analistas de bolsa parecen seguir apostando por un crecimiento de la valoración. Hasta ahora los grandes proveedores de computación en nube representan la mitad de sus ingresos y han invertido mucho en centros de datos para satisfacer la creciente demanda de los desarrolladores de IA. Esa concentración es un punto débil del valor de Nvidia, aparte de su capacidad para defender su ventaja competitiva frente a los muchos esfuerzos para robarle parte del pastel. Recordemos que el verano arrancó con el informe de Goldman Sachs en el que se preguntaban ¿dónde está la IA en los resultados de las empresas? Si los clientes de los proveedores de cloud pierden de repente la fe en la ola de la IA, es probable que Nvidia tenga problemas.
Hablando de ese informe de Goldman Sachs, hablábamos a principio de julio que el impacto en la productividad de la IA tardará mucho más en sentirse de lo que suelen anticipar los heraldos de las revoluciones tecnológicas (entre los que quizá me deba incluir). La resistencia humana al cambio siempre es mucho mayor de lo que intuimos los que vamos por ahí abrazando el cambio sin temor a los virus.
Más controversia sobre legislación IA.
La primera semana de agosto entró en vigor la AI Act. Ahora, los Estados miembros de la UE cuentan con un año para designar autoridades nacionales que vigilen la implantación de la ley, operando bajo la supervisión de la Oficina Europea de la IA. La posición de la UE respecto a la regulación de la IA es bien conocida: la Comisión Europea prima preservar los derechos de las personas, identificar riesgos asociados al desarrollo de la IA y fomentar el desarrollo responsable. No obstante, la Ley se mueve en un tenso equilibrio entre protección e innovación. Por un lado, es el marco regulatorio más completo hasta la fecha en materia de IA, y garantiza seguridad jurídica para las empresas. Pero hay quien ve los requisitos burocráticos como una barrera de entrada demasiado estricta, especialmente para las startups y empresas pequeñas, y como un freno a la innovación, que podría perjudicar a las empresas europeas en detrimento de las chinas y norteamericanas.
Mientras, en California la tramitación de la ley SB 1047 está calentando los debates entre lobbies y grupos de interés. La Ley se votará en septiembre en la Asamblea Estatal de California, una vez aprobada por el Senado. Pretende establecer directrices rigurosas para las empresas que desarrollan modelos IA que hayan costado más de 100 millones de dólares o que demandan cierta cantidad de recursos energéticos. Por ejemplo, la transparencia de los algoritmos (los desarrolladores deberán revelar cómo toman decisiones los sistemas IA), la inclusión de un interruptor de emergencia (kill switch) para apagar el sistema si muestra comportamientos dañinos, o la asunción de responsabilidades por todos los posibles daños causados por las tecnologías. La polémica surge porque estos requerimientos están definidos de manera ambigua, lo que da lugar a interpretaciones laxas. A favor de la ley se han manifestado, entre otros, Elon Musk (para sorpresa general) y personalidades como Yoshua Bengio. La oposición política la lidera Nancy Pelosi, mientras que Meta, Google y OpenAI se han manifestado claramente en contra.
Open Source vs. Llama
Saltan chispas con la confrontación entre la comunidad de código abierto y Meta. La misma semana en la que Zuckerberg (y Daniel Ek, fundador y CEO de Spotify) publican una carta abierta dirigida a Europa para defender el software libre y minimizar una regulación que puede terminar ahogando la innovación, la Open Source Initiative (OSI) ha dicho que la IA de código abierto es aquella que se puede utilizar, modificar o compartir para cualquier fin sin necesidad de solicitar autorización, y que debe cumplir con criterios de transparencia respecto a los datos de entrenamiento, el código fuente y los criterios de ponderación.
Se trata de un ataque frontal a Llama, el LLM de Meta, que proporciona los parámetros (pesos, en inglés) de las matrices en abierto, pero no los datos con los que ha sido entrenado. Stefano Maffulli, director del OSI dice en el Economist que Zuckerberg está intimidando a la industria para imponer su criterio.
Una aburrida caja de herramientas.
Ahora que arrancamos nueva temporada de Rebel Intel, quiero insistir en lo que se está convirtiendo para mí en un mantra operativo, surfeando como estoy el tsunami de emoción de la IA generativa. La llegada de esta nueva ola de IA ha sorprendido y ha desatado mucho revuelo. Hay gente que me pregunta a mí -a mí- por el futuro de la humanidad. Esta segunda temporada, nos vamos a centrar en un mensaje: la IA no debería ser un fin en sí mismo, si no el medio para alcanzar algo. Son nuestros proyectos, nuestros propósitos, no la IA, los que deberían acaparar nuestra atención.
No olvidemos lo que decíamos al terminar la temporada anterior: la IA no solucionará todos nuestros males. Se trata de un conjunto de herramientas más o menos aptas para según qué aplicaciones. No hay “una IA”, lo que tenemos delante es una (aburrida) caja de herramientas para ayudarnos a construir aquello que realmente es excitante.
Nos cansaremos del hype, las novedades por llegar no serán “zero to one”. Pero no olvidemos la idea que sustenta esta newsletter: es responsabilidad de los profesionales de MCX (marketing, comunicación, experiencia de cliente) el seguir aprendiendo y profundizando en el ámbito de la IA. Dejando de lado expectativas generadas por las empresas tecnológicas. Explorando e investigando su utilidad real, la manera en la que usuarios y consumidores se acercan a estas tecnologías, y entendiendo la complejidad de su adopción en el contexto corporativo.
Centrémonos en la utilidad de la IA para nuestros proyectos
y dejemos a un lado exageración o arrebato.
El próximo domingo, vuelvo a tu buzón.
Fernando.
Hace un par de meses se presentó el estudio: Asistentes virtuales y agentes IA elaborado por el Foro IA. Un fantástico trabajo liderado por David Carro, Federico López e Isabel Benítez, con la coordinación de Carmen Queipo de Llano, que busca arrojar luz sobre el cambio de paradigma que va a transformar en muchos aspectos la forma que tienen de conectar marcas y consumidores.
Puedes consultarlo completo (PDF, sin registro) aquí.
Enlaces de agosto para el profesional MCX.
Lecturas que han copado titulares en agosto, o que habiendo pasado desapercibidas, se nos han colado por las rendijas mientras intentábamos desconectar:
a16z ha publicado la tercera edición de su Top 100 Gen AI Consumer Apps. ChatGPT sigue siendo la app más popular, pero Perplexity y Claude le pisan los talones. Destaca la entrada de una nueva categoría, las apps de citas y estética, con tres entradas en el top 50. Posiblemente le dediquemos a esto la edición de la próxima semana. A16Z
A raíz de lo anterior, una buena reflexión sobre los retos para encontrar “market fit”. Las empresas que desarrollan los grandes modelos IA ya no buscan crear dioses, sino productos con demanda en el mercado. Han aprendido de sus errores (desconexión con el público, lanzamientos precipitados, subestimación de la fiabilidad...) y ahora buscan un ajuste más preciso entre las capacidades de la IA y las necesidades del mercado. Para que la IA generativa pueda ser comercialmente viable, deben afrontar cinco grandes desafíos: costes, fiabilidad, privacidad, seguridad e interfaz de usuario. LINK
A medida que la investigación y adopción de IA avanzan, también lo hacen los riesgos asociados a su uso. Para ayudar a las organizaciones a navegar por este complejo panorama, investigadores del MIT y otras instituciones han publicado el Repositorio de Riesgos de la IA, una completa base de datos de cientos de riesgos documentados que plantean los sistemas de IA. El objetivo del repositorio es ayudar a los responsables de las administraciones públicas, la investigación y la industria a evaluar la evolución de los riesgos de la IA. VENTURE BEAT
Investigadores de OpenAI, Microsoft y MIT proponen en un paper el concepto de credenciales de personalidad (personhood credentials) como método para certificar la identidad humana ante la proliferación de bots, especialmente en redes sociales. Estas credenciales permitirían a los usuarios demostrar que son personas reales al registrarse en servicios online, preservando su anonimato mediante pruebas de conocimiento cero. La idea es loable, aunque depender de una organización central para certificar nuestra humanidad pueda tener reminiscencias orwellianas. LINK
Hace varios meses en una sesión de trabajo en la que participé con responsables de IT y Chief Data Officers, salió a relucir el tema de complejidad de gobierno de datos y Copilot de Microsoft. Usuarios de grandes empresas con SharePoint o Office 365, accediendo a información a la que teóricamente no deberían acceder. THE REGISTER
Un gran ejemplo de aplicación de la IA para realizar tareas burocráticas y tediosas alrededor de la gestión documental. Extraer información valiosa y precisa es una tarea dura y cansina, y muy frecuente en la investigación científica, donde cada nuevo estudio debe tener en cuenta estudios anteriores. Dirigida en principio a investigadores en biotecnología, Reliant ha presentado su herramienta Tabular: podemos suministrarle miles de documentos y pedirle que extraiga la información. Incluso si son datos no estructurados, que el software nos presentará en ordenadas bases de datos de fácil lectura y manejo. Una aplicación que se extenderá mucho más allá de la investigación científica. TECHCRUNCH
Y llevado al extremo, AI Scientist es un investigador científico automatizado e independiente, capaz de proponer un tema, investigar, escribir un paper y revisarlo. Lo ha desarrollado el laboratorio japonés Sakana y ya ha escrito algunos ensayos en diferentes subcampos del machine learning. LINK
Seguimos con la búsqueda del agente autónomo. El pasado marzo se presentaba Devin, una agente programador basado en GPT-4 que asombró por su capacidad para crear código de manera autónoma. Ahora otra startup, Cosine, presenta Genie: un agente autónomo que supera las capacidades de Devin (y las de Q de Amazon y Code Droid de Factory). Sus creadores aseguran que le han enseñado a trabajar siguiendo la lógica que aplicaría un ingeniero humano. VENTURE BEAT
El desarrollo de la IA y otras actividades (teletrabajo, servicios cloud, streaming) muy demandantes de recursos naturales proyectan un crecimiento de la demanda energética del 160% en los próximos cinco años. Los centros de datos buscan formas de reducir su consumo energético, explorando nuevas ubicaciones (bajo el mar o en el espacio) y tecnologías limpias, como la solar, eólica, geotérmica, e incluso la nuclear. BIG THINK
Grok se presentó a mediados de agosto como una herramienta sin filtros, o fácilmente salvables. Podemos pedirle que genere cualquier tipo de imagen, y allí donde otros servicios rehúyen la petición, Grok la acepta. Ellon Musk cree que esto es algo divertido, aunque a los potenciales anunciantes de X y a los reguladores de EEUU y la UE puede que no les parezca tan gracioso. THE VERGE
Google se adelanta, y lanza Gemini Live como asistente de IA generativa en el móvil. GOOGLE
Muchas empresas están cometiendo con la IA el mismo error en que ya incurrieron con Big Data, Blockchain o Ciencia de Datos: adoptarla solo para no perder la ola, o porque si las grandes tecnológicas están en ella, tiene que ser guay. Pero si no se comprenden los fundamentos, si no se cuenta con una estrategia sólida, es imposible integrar la IA de manera que aporte valor al negocio. Estos son los errores comunes de las empresas en su estrategia IA: 1) No entender que forma parte de un ecosistema mayor; 2) No hacer pruebas en pequeña escala (Proof of Concept); 3) Comprar soluciones, en lugar de desarrollarlas o adaptarlas; 4) Descuidar el aspecto cultural. LINK
Según una nueva encuesta de KPMG LLP, los ejecutivos afirman que la IA generativa ya está teniendo un impacto significativo en el rumbo de sus organizaciones, y la mayoría afirma que las inversiones aumentarán con ROI positivo previsto para los próximos tres años. Viniendo el informe desde una gran consultora (una de las industrias más beneficiadas con este boom) miraría estos datos al trasluz de un salero. KPMG
Las leyes que protegen los derechos de autor fueron diseñadas en la época pre-ChatGPT. Ahora se necesita un equilibrio entre la protección de los creadores y la innovación. Me encuentro bastante alineado con la postura de Evan Armstrong, que concluye pidiendo un enfoque matizado de los derechos de autor en la era de la inteligencia artificial, sugiriendo que debemos replantearnos los modelos de compensación para los creadores y centrarnos en ampliar la creatividad en lugar de limitarnos a proteger las obras existentes (algo que beneficia más a los propietarios de los derechos, que no siempre son los artistas y creadores). LINK
Mientras la versión pública de Sora sigue haciéndose esperar, sus competidores no pierden el tiempo. Hotshot es una startup de solo cuatro empleados que ha presentado otro modelo hiperrealista de text-to-video. Y la china Kling mejora prestaciones y permite crear gratis vídeos de hasta 10 segundos.
Marchando una de portadas de discos míticos animadas con IA. LINK
Off Tópicos.
Hubo unos años (justo antes del Covid) en los que cogió fuerza la idea de que las marcas debían posicionarse políticamente en temas sociales. En USA al menos, esa tendencia parece ir a la baja. Desde el año pasado, ha caído otro 10% el porcentaje de personas que ve con buenos ojos esa actitud. Así que sigue creciendo el número de los que prefieren ver calladitas a las empresas. GALLUP
Inspirador, como siempre. Gracias, Fernando.