IA general o "AGI": un pequeño lío para la empresa, un gran reto para la humanidad.
La llegada de una IA omnipotente pondría en jaque las reglas de juego de nuestra civilización. Y presenta una disrupción empresarial con/sin precedentes.
Si prefieres escuchar el artículo, este es el podcast que hemos creado con NotebookLM, de Google.
Admito que leo demasiado sobre IA. Esto me lleva a alternar momentos de hastío con ramalazos de emoción naïf. Pero reconozco que también hay semanas en las que se apodera de mí un irracional temor a lo incierto y siento una zozobra que me revuelve el estómago. Trabajo en una empresa que vende futuro (e IA), pero hoy escribo como el padre que lee sobre ‘inteligencia infinita’ mientras se enfrenta a los deberes de matemáticas de sus hijas.
En el último mes se han lanzado dos nuevos modelos de IA, Gemini 2.5 Pro de Google y o3 de OpenAI. Estos, junto a un conjunto de modelos ligeramente menos capaces pero más rápidos y baratos (Gemini 2.5 Flash, o4-mini y Grok-3-mini), representan un salto “cuántico” en los benchmarks que evalúan la capacidad “intelectual” de la IA. Benchmarks que por cierto, se están “redefiniendo” (algo así como mover los palos la portería) desde hace unos meses con cada nuevo alarde ingenieril.
Si a esos modelos, le añadimos los agentes de búsqueda tipo DeepResearch (al primero de OpenAI se han sumado Gemini, DeepSeek, Perplexity y Claude) y sistemas “agénticos” tipo Manus, muchos analistas y profesionales han comenzado a escribir consistentemente sobre la inminente llegada de la AGI. Wait, AGI?
¿De qué va la “G” en AGI?
AGI son las siglas de Artificial General Intelligence. La G no viene de “generativa”, que es el tipo de herramientas —como ChatGPT, Gemini o Copilot— a las que hoy se conoce comúnmente como IA. La “inteligencia artificial” no suele ser general, sino “estrecha”: diseñada para hacer tareas específicas: recomendar canciones, predecir la demanda eléctrica, escribir textos, resumir PDFs, reconocer imágenes, etc.
La AGI es otra liga. Se refiere a sistemas capaces de aprender y razonar de forma flexible, en múltiples dominios, como hacemos los humanos. No necesitas explicarle cada tarea; basta con objetivos y contexto. Una AGI sabría escribir poesía, investigar sobre medicamentos, resolver ecuaciones, dar consejos emocionales y aprender nuevas habilidades… sin necesidad de ser “reentrenada” para cada cosa. Y con mayor grado de conocimiento y razonamiento que ningún experto nivel doctorando en ningún ámbito.
Aunque la llegada de la AGI es puesta en cuestión por algunos, cada vez hay más consenso científico: sí, llegaremos a la AGI. ¿Este año, el que viene, en diez años? Who knows. Pero se abren preguntas incómodas: ¿Cómo se regula una inteligencia omnipotente? ¿Cuándo o cómo sabremos si una AGI piensa… o simplemente imita muy bien? ¿Qué tareas o profesiones serán reemplazadas por las máquinas?
Hace un mes y pico, Ezra Klein, del New York Times le preguntaba al responsable de IA en la era Biden, por qué el Gobierno no había elaborado ya planes de contingencia para prepararse ante semejante “cataclismo social”. Poco después, Kevin Roose se preguntaba por qué “sentía llegar la AGI” en el mismo periódico. Hace una semana, Tylen Cowell, reconocido economista americano, conjeturaba que el 16 de abril, la fecha en que se abrió el acceso al modelo o3 de ChatGPT, podría ser recordado como el día de la llegada de la AGI. Y Ethan Mollick, reconocido profesor americano en estas lides, habla de la “Jagged AGI”, un término que él usa para describir una IA ultrapotente pero irregular, que exhibe picos de genialidad y valles de torpeza.
Otros opinan que aún nos quedan 30 años. Y por supuesto, también hay quien asegura que la IA de hoy no es inteligente de veras, y que estamos lejos de que lo sea … o que no lo verán nuestros ojos en 100 años.
Inteligencia infinita… retos finitos.
En su conocido ensayo, Machines of loving grace, Dario Amodei, CEO de Anthropic (empresa detrás de Claude) intentaba imaginar a qué se parecería el mundo cuando alcancemos una inteligencia todopoderosa. Distinguía entre retos donde la potencia cognitiva escala: diseñar fármacos, modelar el clima, diseñar materiales; y otros anclados a la condición humana: gobernanza, sentido de existir, cuidados personales. Una inteligencia “omnipotente” —capaz de razonar, aprender y ejecutar mejor que cualquier humano— no resolvería todos nuestros males, pero pondría patas arriba ámbitos muy concretos.
En ciencia, aceleraría la investigación y los descubrimientos a un ritmo incompatible con nuestras burocracias. Podríamos ver nuestra esperanza de vida duplicada en una década, similar a lo que ha conseguido la ciencia en todo el último siglo. En tecnología, diseñaría sistemas que hoy apenas imaginamos (y que no sabríamos auditar). En política, podría optimizar leyes o procesos... pero no garantizar justicia ni consenso. En conflictos armados la IA omnipotente daría ventaja desproporcionada a quien la controle primero y de ahí la carrera armamentística en la que se encuentran envueltos EEUU y China. Y desde una perspectiva más filosófica, nos obligaría a redefinir qué significa “inteligencia”, “propósito” o incluso “nosotros”.
La AGI no lo arregla todo, aunque pueda desencadenar un progreso inmenso, al tiempo que redefiniría muchas reglas de juego de la civilización tal y como la hemos conocido hasta aquí.
Aún hay tiempo. Años, no semanas, para ordenar el desorden.
Tyler Cowen recuerda que los sectores de baja productividad —salud, educación, administración— ya dominan el PIB y adoptan tecnología a cámara lenta. Cuanto más potente sea la inteligencia artificial, más visibles se vuelven nuestras inercias humanas. Por culpa del efecto Baumol-Bowen, los sectores menos productivos se vuelven cada vez más grandes… justo los que adoptan la IA con más lentitud. No por falta de tecnología, sino por exceso de reuniones. Además, cuanto más rápido genera ideas la máquina, más se atascan los cuellos de botella humanos: si una IA multiplica por diez los descubrimientos farmacéuticos, pero la FDA sigue aprobando a velocidad tortuga, el problema no es técnico. Es político, burocrático … humano.
Evidentemente, por lento que vaya, los gobiernos, think tanks, organismos sociales deberían orquestar ya una reflexión profunda y promover experimentos para aprovechar beneficios o minimizar efectos no deseados. Habría que pensar en cómo reorganizar y adaptar nuestra burocracia para acelerar el progreso científico sin caer en el efecto Baumol-Bowen.
Por otro lado, se alude a menudo a la Renta Universal Básica como mecanismo de redistribución de riqueza en un escenario en el que el mercado laboral (al menos, el de los trabajadores del conocimiento) colapse. Y sin que tenga que ser esta una solución a posibles males, alguna habrá que ir pergeñando.
Pero, ¿colapsará el mercado laboral realmente?
Pareciese que el consenso es que la IA terminará desplazando a las personas en el mercado laboral. Aunque algunos optimistas se agarran a la idea de que al tiempo que se automatizan tareas (o profesiones enteras) se generan nuevas necesidades en las que emplear humanos. Pero es una tesis difícil de defender. En revoluciones tecnológicas previas, la automatización de trabajos manuales o repetitivos ha ido dando paso a la creación de trabajos de cuello blanco. Pero ahora, una IA todopoderosa amenaza precisamente a esos trabajadores del conocimiento. A todos, al mismo tiempo y a una velocidad que asusta. ¿Qué trabajos se crearían que no puedan ser mejor ejecutados por una IA omnipotente?
Pero también podríamos adoptar otra perspectiva. Mi economista y bloguero de cabecera, Noah Smith, anticipó hace un año una teoría en la que muchos querríamos creer: la teoría de la ventaja comparativa y del coste de oportunidad. La ventaja comparativa no va de ser el mejor del mundo en algo, sino de saber en qué vale más tu tiempo. Incluso si un alto directivo escribe a máquina mejor que su secretario, sigue delegando porque su tiempo genera más valor cerrando acuerdos y diseñando estrategias. ¿Por qué? Porque sólo hay un directivo, y sus horas son finitas. Lo mismo ocurre con el resto de los mortales: aunque podamos hacer mejor el trabajo de otros, no podemos clonarnos. Eso es lo que permite que millones de trabajadores “menos competentes” tengamos empleo hoy.
Y ahora pensemos en una IA sin cuerpo ni sueño, con talento infinito… salvo por un detalle: el cómputo es finito. Cada tarea que ejecuta consume recursos, y esos recursos (los gigaflops) son limitados. Así que aunque la IA pueda ser mejor médico, ingeniero o guionista que cualquier humano, no puede hacerlo todo a la vez. Hay que decidir a qué tareas destinamos su potencia: y ahí entra el coste de oportunidad. Si usar la IA como médico rinde $1.000/hora, pero como ingeniero rinde $2.000, asignarla a la medicina destruye valor. La paradoja final: en algunos casos, el humano menos eficiente será la opción racional, porque la IA está ocupada en tareas más valiosas.
Una teoría singular y esperanzadora… con demasiadas incógnitas.
Pero movamos ahora el foco a otro ámbito. ¿Cómo se enfrentarán las empresas a esta disrupción en ciernes?
Una IA bastante G ya está al alcance de las empresas.
En lo que respecta al tipo de inteligencia que requiere una empresa, sinceramente creo que la AGI (o al menos, herramientas IA lo suficientemente potentes) ya está aquí. Volviendo al ensayo de Amodei, si buscásemos evaluar el impacto empresarial, deberíamos analizar qué funciones empresariales y qué tareas se beneficiarían de una IA todopoderosa. Curiosamente, son sólo aquellas áreas de investigación científica avanzada o desarrollo tecnológico las que se beneficiarían de esa super IA.
La mayor parte de las tareas que ejecutamos los trabajadores del metal y del conocimiento, se pueden abordar con un nivel de inteligencia “media” tirando a baja. Especialmente en grandes organizaciones que se asemejan más a complejos mecanismos con engranajes humanos que a un catamarán y su tripulación en una competición olímpica. Si esta afirmación es cierta, la fecha final de llegada de la AGI no debería afectar mucho en los timings de la disrupción empresarial.
En otras palabras, ya tenemos la IA suficiente para que comience la disrupción prevista. El efecto Baumol-Bowen también rige intraempresa, las tareas que se pueden automatizar se automatizan y se atascan aquellas profundamente humanas: la relación personal, las decisiones estratégicas, la política corporativa. Sin darnos cuenta, veremos cómo empresas más ágiles y automatizadas atacarán y ganarán la partida a los jugadores tradicionales gestionados por burocracia humana de corte clásico. It’ll be death by committee.
Por supuesto, hay tiempo para adaptarse, pero los incentivos suelen estar desalineados. No será la falta de tecnología lo que hará que muchas empresas no sobrevivan, sino la inercia al cambio, esa característica profundamente humana.
El último CEO humano.
Hace unos meses, referenciábamos por aquí una larga reflexión de Dwarkesh Patel:
Empresas completamente automatizadas con IA, sin problemas de coordinación, sin pérdidas de información entre departamentos, ni retrasos en las decisiones. Dwarkesh Patel argumenta que estas empresas podrán replicar sus mejores talentos infinitamente y fusionar el conocimiento de millones de interacciones en una inteligencia unificada. La ventaja competitiva no vendrá tanto de la inteligencia individual, como de la capacidad de copiar, fusionar y evolucionar el conocimiento. ¿El coste? Solo computación.
La empresa: entre el ROI y la ética.
La dificultad para definir (o medir) qué es la AGI hará que la fecha de llegada no sea tan relevante. Para reflexionar sobre la disrupción en el ámbito empresarial, podríamos decir que la AGI ya está aquí: herramientas de inteligencia muy poderosa ya están a nuestro alcance. ¿Ahora qué hacemos?
Espera pero… qué pasa con los fallos que aún se observan, y con las alucinaciones… Desde una perspectiva empresarial y de retorno de la inversión lo que importa es “cuándo la automatización y la velocidad” supera a “la exactitud en la respuesta”. Si hacen falta personas para asegurar calidad en respuestas al 99.9%, al tiempo que acaparan los recursos productivos (salarios) y ralentizan las decisiones, ¿en qué momento se verán compensados por la velocidad de ejecución o la capacidad infinita para jugar con escenarios, los errores compuestos de una IA que todavía falla en algunas respuestas?
Para acabar, sólo nos quedaría reflexionar sobre la ética del desplazamiento laboral humano. Primero, el dilema: ponemos a IAs infinitas a investigar sobre enfermedades, acelerando así el desarrollo de fármacos y alargando la vida de los pacientes. Pero al mismo tiempo, dejamos sin trabajo a los investigadores.
Para abordar este dilema desde una perspectiva ética, debemos atender al sufrimiento humano en su totalidad. El “potencial” desplazamiento laboral nos podría hacer sufrir por dos motivos: pobreza o falta de sentido vital. En el primer caso, habrá que abordar como sociedad el reto de la redistribución económica. Teóricamente una sociedad más productiva, aceleraría el crecimiento económico mientras protegemos el medioambiente, pero habría que asegurar que la riqueza se distribuye equitativamente entre capital y trabajo. Bueno, en este caso, entre capital y ciudadanía ociosa.
Y si el problema es que necesitamos trabajar a sueldo para ser felices … gulp. La redefinición del hombre en busca de sentido podría llevarnos algún tiempo aún. Aunque bien podría ocurrir que nos veamos perfectamente felices con nuestro ocio infinito socialmente aceptado. Venga, va. Voy a pedirle a ChatGPT que me escriba un artículo sobre la AGI mientras yo me desperezo en TikTok un poquito más.
El próximo domingo, volvemos a tu buzón.
Fernando.
A principios de año, salió a la venta Humanidad Aumentada: el impacto de la inteligencia artificial en Marketing, Comunicación y Experiencia de cliente. Un libro editado por el Foro IA, fruto del trabajo y la colaboración de varias personas que han puesto en él dosis importantes de cariño, empuje y entusiasmo.
👉🏻 Haz click aquí para comprar Humanidad Aumentada en Amazon.
Actualidad.
Cuando ya casi nos habíamos olvidado de los planes de Meta para dominar la IA, esta semana ha lanzado la aplicación (iOS y Android) Meta AI, que hasta ahora vivía integrado en WhatsApp, Instagram, Facebook y Messenger. La app, potenciada por Llama 4, ofrece acceso directo a funciones como responder preguntas, generar imágenes o conversar por voz, buscando una experiencia más personalizada al poder usar (con permiso) los datos de las cuentas de Meta. También incluye un feed "Discover" para ver cómo otros usan la IA, y permite gestionar las gafas Ray-Ban, que ya se pueden usar con Meta IA en Europa, y traducir en tiempo real. Me hubiera venido bien tener ya alemán este fin de semana que he pasado en Berlín, pero por ahora sólo cubre inglés, español, francés e italiano. META
Un estudio de Anthropic sobre el impacto de Claude Code indica que se usa predominantemente para la automatización de tareas (79% de las interacciones), en lugar de solo asistir al desarrollador. Este uso es especialmente notable en el desarrollo front-end (web, interfaces de usuario) y está siendo adoptado con rapidez por startups, acelerando significativamente los ciclos de desarrollo. ANTHROPIC
NotebookLM está ganando muchos usuarios y Google acaba de añadir un montón de nuevas funcionalidades. Ahora puede generar sus Audio Overviews en más de 50 idiomas, incluidos castellano, catalán, euskera y gallego. También en latín, por si alguien tiene interés en lenguas clásicas. GOOGLE, ANÁLISIS
La española Freepik ha presentado F-Lite, un generador de imágenes open source que ha sido entrenado con un dataset de 80 millones de imágenes licenciadas y comercialmente seguras, con la idea de esquivar posibles problemas de copyright. LINK
La IA batió a los mejores ajedrecistas humanos, después al mejor jugador de go... Y ahora o3 ha derrotado a Sam Patterson, uno de los mejores GeoGuessrs , “deporte” que consiste en ubicar con la mayor precisión posible una imagen de Google Street View en cualquier lugar del mundo. Patterson explica que ni siquiera con trampas pudo ganar: "Incluso al insertar coordenadas GPS falsas en el EXIF de la imagen, el modelo ignoró la falsificación y aun así identificó las ubicaciones reales, lo que demuestra que su rendimiento se basa en el razonamiento visual y la investigación web sobre la marcha, no en metadatos ocultos". LINK
Después de que lo hiciera Shopify hace unas semanas, Duolingo también se declara empresa AI First. Su CEO explica en LinkedIn que se trata de mejorar la productividad, eliminar cuellos de botella y diseñar nuevos y mejores productos y procesos, no de reemplazar personas por IA. "Queremos centrarnos en el trabajo creativo y en problemas reales, no en tareas repetitivas". LINK
Reflexiones.
Muchos han notado que la última actualización de ChatGPT 4o le ha dado un giro que en inglés llaman sycophantic, y en español podríamos calificar de adulador, lisonjero o, sencillamente, pelota. Es como si a un amigo al que conocemos bien le cambiara súbitamente de personalidad. Pero dado que cada vez interactuamos más con "personalidades IA" (en atención al cliente, en educación, en todo tipo de servicios) y que la IA ha aprendido a ser convincente (como prueba el defenestrado estudio que comentamos más abajo), sus habilidades persuasivas pueden influir en todo tipo de decisiones que tomamos a diario. Tal vez un riesgo que habría que regular cuanto antes. LINK
Las muchas falacias de «la IA no te quitará el trabajo, pero alguien que la utilice sí. LINK
Millones de personas dialogan a diario con ChatGPT, pero no hablan entre ellas. ¿Nos estamos perdiendo ideas, conocimiento, prompts útiles creados por otros, que se podrían compartir en comunidad? Sarah Tavel, socia en Benchmark, apuesta a que la próxima generación de aplicaciones IA de consumo se construirá aprovechando esta brecha. Una IA social y multiplayer, que incluirá comunidades CGU administradas por personas cualificadas que ayudarán a otros con el uso avanzado de la IA, utilizando el efecto red para crear productos atractivos. PODCAST, Transcripción
El debate sobre los "amigos IA" se centra en la soledad y la autenticidad, pero pueden ser un recurso valioso, especialmente para quienes tienen dificultades para conectar con otros. Lejos de ser un reemplazo a las relaciones humanas, la IA ofrece compañía sin juicios y puede incluso fomentar habilidades sociales en el mundo real. LINK
Research.
La Universidad de Harvard y el IAB publican cada cuatro años el estudio Measuring the Digital Economy, que mide el impacto de Internet en la economía de EEUU. Desde la última edición en 2020, ese impacto se ha duplicado, hasta generar el 18% del PIB de EEUU y más de 28 millones de empleos que dependen de Internet: 11,2 millones directamente de la economía digital y otros 17 millones en industrias relacionadas. Uno de los datos más llamativos es el crecimiento de los creadores de contenidos digitales, que han pasado de 200.000 en 2020 a 1,5 millones en 2024… Tal vez la IA generativa algo ha tenido que ver. IAB
Investigadores de la Universidad de Zúrich realizaron durante semanas un experimento -no autorizado- en una comunidad de Reddit, creando chatbots que intervinieron en debates sobre temas delicados para probar la capacidad de persuasión de la IA sobre usuarios reales. Al margen de las acciones legales que ahora Reddit va a emprender por un experimento calificado como "profundamente erróneo tanto a nivel moral como legal", los investigadores dicen -en un paper no revisado por pares- que la IA resultó ser seis veces más convincente que los humanos. LINK
MCX.
En una entrevista reveladora con Stratechery, Mark Zuckerberg expone su visión de una publicidad completamente automatizada mediante IA. La propuesta es radical: las empresas proporcionan sus objetivos y presupuesto, y Meta se encarga del resto—creación de contenido, segmentación, medición y transacciones—todo impulsado por IA. Este enfoque, denominado "creatividad infinita", eliminaría la necesidad de agencias publicitarias tradicionales y profesionales creativos. Que no digo que no, pero… ¿para todas las empresas? ¿Dejamos en manos de la plataforma la creación de marca, la captación en su totalidad? STRATECHERY
¿Qué pasa cuando un cliente atribuye a la IA un texto que ha sido creado por un redactor, precisamente conocido por su resistencia a utilizar IA? La IA genera dudas sobre la autenticidad del trabajo humano en todo tipo de tareas creativas. El artículo sopesa la eficiencia de la IA frente a la creatividad humana, concluyendo que no debemos adoptar una postura extremista ("O esto o lo otro"), sino combinar ambas con eficiencia y sabiduría. LINK
Empresas y agencias están incorporando la figura del Chief AI Officer (CAIO) a sus equipos directivos para liderar de forma estratégica la integración de la IA. Este nuevo rol busca unificar la visión y ejecución de la IA en toda la organización, gestionando desde la implementación y la gobernanza hasta la identificación de oportunidades y la mitigación de riesgos, asegurando que la IA impulse el negocio de manera coherente. LIINK
Herramientas IA.
Estamos probando una herramienta para tomar notas desde el teléfono en conversaciones cara a cara. GRANOLA
Off Tópicos.
Every marketing channel sucks right now. Andrew Chen, socio de a16z, lanza una crítica mordaz a los canales de marketing actuales: SEO, email, influencers, PR, afiliados... todos están saturados, son caros o simplemente no funcionan como antes. La conclusión es clara: el crecimiento ya no se logra con tácticas heredadas, sino con productos excepcionales y estrategias innovadoras. LINK
Google renuncia finalmente a «Privacy Sandbox», su intento de eliminar las cookies de terceros y utilizar el navegador para hacer targeting anónimo en su lugar. Los banners de cookies serán eternos. ADWEEK
He preguntado a Chatgpt cómo insertaste el audio de notebookllm en este post de Substack. No lo tengo claro 😀
https://chatgpt.com/share/68172390-6a98-8013-8587-bc0a747ad6d1
Me has dejado pensando… muchas preguntas…