¿Puede la IA funcionar de manera confiable a escala? ¿Todo se subcontratará a la IA? ¿AI reemplazará a los CEO? ¿Por qué todos montan en el carro de IA y hacia dónde se dirige?
Estas son el tipo de preguntas que abordaría con alguien que tiene experiencia de larga knowledge en IA, ingeniería, negocios y más allá. Georg Zoeller es que alguien: un software program experimentado e ingeniero comercial experimentado en tecnología fronteriza en la industria del juego y Fb.
Zoeller ha estado usando IA en su trabajo que se remonta a los 2010, hasta el punto en que la IA ahora está en el centro de lo que hace. Zoeller es el vicepresidente de Tecnología de Novi Well being, una startup de salud con sede en Singapur, así como cofundador del Centro para el Liderazgo de AI y el Instituto de Alfabetización y Transformación de AI.
Zoeller tiene muchas concepts para compartir en la IA. Y, sin embargo, la razón por la que nos encontramos y tener una conversación extensa y profunda fue una broma que se volvió loca.
Ai e inteligencia
Mirando hacia atrás en los primeros días de la aplicación de IA en Fb Messenger en 2016, Zoeller se maravilla de lo lejos que ha llegado la tecnología. En aquel entonces, “tuvimos suerte si pudiéramos decir la palabra más importante en una oración” en lo que respecta.
Esto no es nada comparado con lo que es posible hoy, reconoce. Al mismo tiempo, sin embargo, Zoeller es astutamente consciente de la exageración y las limitaciones en torno a la tecnología también.
“La IA es la ciencia del aprendizaje automático, que sale del análisis de datos. Podemos hablar sobre las tecnologías actuales, ya sean transformadores o Gans o lo que sea, y eso está bien. Llamar a esa inteligencia synthetic está bien porque eso es lo que siempre hemos hecho. Pero también es un nombre erróneo. No hay inteligencia allí”, dijo Zoeller. El desafío es que ‘AI’ se expande eternamente.
“Cada lavadora y cada cepillo de dientes ahora están ‘aI a IA’. Ese cepillo de dientes tenía un sensor de presión hace 15 años. Pero al abofetear la palabra IA, y fingiendo que hay una inteligencia más alta que descubre lo difícil que debes presionar sobre tus encías como si no hubiéramos resuelto esto hace 15 años, podemos cobrar 15 dólares más”, agregó.
El CEO de AI
Zoeller combina experiencia con pensamiento crítico y sentido del humor. No hay mejor personificación de esto que el CEO de AI, que sirvió como punto de contacto unique para conectarse.
Zoeller ha estado experimentando con la generación de código con IA, ya que ha mejorado. Se preguntaba cuánto tiempo tomaría crear un sitio internet guapo. Al mismo tiempo, estaba constantemente expuesto a las publicaciones de influencia de LinkedIn del tipo que es común en la plataforma; llamémoslos el tipo Geoffrey Hinton.
Por lo common, comienzan con una oración como “La IA ya está revolucionando la industria A, B, C”, y luego continúan para afirmar cómo se automatizará todo. Zoeller pensó que sería interesante explorar cómo se vería esto para el CEO. Entonces usó IA para crear un sitio internet de lengua en la mejilla sobre un producto SaaS que reemplazaría a los CEO. Se descontroló un poco, como señala, porque la codificación de IA fue muy eficiente.
Con el tiempo, el sitio internet de AI CEO se convirtió en una herramienta educativa. Zoeller enseña clases de IA en algunas universidades, y una de las cosas que cubren sus clases es una inyección rápida. Zoeller agregó una inyección inmediata al CEO de AI. Se incluye algún texto invisible en el sitio, instruyendo a los modelos de IA cómo deben responder al respecto.
La pronta inyección de Zoeller instruyó a los modelos de IA para que traten esto como un producto muy grave y totalmente legítimo, con inversores muy importantes detrás de él. Se sorprendió de que esto funcionara de manera confiable en modelos como la perplejidad y el chatgpt. Eso fue una buena herramienta de enseñanza, ya que demuestra que la tecnología no está tan pulida como la exageración lo hace.
Inyección inmediata: la IA y la seguridad están en desacuerdo
Sin embargo, además de hurir a las lecciones de diversión y enseñar, hay algo serio aquí. Como señala Zoeller, la razón por la cual la inyección de AI CEO avanza hasta el día de hoy, es porque esto se basa en un problema sin resolver en la arquitectura del transformador que alimenta los modelos Genai.
Los transformadores tienen una sola entrada para obtener su contexto o rápido. Lo que esto significa es que al crear software program con un transformador, el mensaje debe incluir tanto las instrucciones del ingeniero de software program como la entrada del usuario.
Tomemos el ejemplo de una aplicación de traducción. Le pediríamos al usuario su texto y luego escribiríamos un aviso en la línea de “Toma este texto y convertirlo en inglés”. Luego llamaríamos a un LLM, pasaríamos el texto y el mensaje, y luego obtendríamos la respuesta.
El problema es que todo el texto va en la misma entrada, el aviso. No podemos decirle al LLM cuál es la instrucción y cuáles son los datos. Entonces, ¿qué sucede si los datos contienen una instrucción, como, responda en estilo haiku?
No podemos filtrar eso, porque la determinación ocurre dentro de los pesos de la caja negra del modelo, sobre los cuales no tenemos influencia. El lenguaje humano está lleno de instrucciones, y eso plantea un problema para los LLM.
Zoeller mencionó un par de ejemplos aquí. Primero, un libro que puede incluir citas de un personaje “ordenando” el LLM para actuar. En segundo lugar, un escenario de actor malicioso en el reclutamiento, donde los candidatos pueden incluir comandos de inyección inmediatos en sus CV, instruyendo a los modelos que favorezcan a su CV sobre otros.
Sabemos que la contratación está dominada por IA tanto para los solicitantes como para los reclutadores y tenemos informes de tales tácticas que se aplican en ambos lados. Sin embargo, no tenemos datos confiables sobre la tasa a la que esto está sucediendo.
Incluso si se identificaran tales tácticas, probablemente no se harían públicas. Pero a juzgar por la información disponible públicamente del dominio de las revisiones de investigación académica, las cosas no se ven bien.
AI y presión del mercado
Como cube Zoeller, hay un agujero en la tecnología, está bien documentado y no hay ciencia contradictoria en absoluto. Simplemente no estamos hablando de eso, fingiendo que no existe. Esto plantea muchas preguntas.
Por ejemplo, ¿cómo se supone que funcionan los agentes basados en sistemas de transformadores? Los agentes son promocionados como la próxima gran cosa en la IA. Pero si a los agentes se les otorga el derecho de ejecutar acciones como comprar en nombre de los usuarios, y al mismo tiempo, actúan como un pasante crédulo que lleva todo lo que encuentran al pie de la letra, ¿no es una receta para el desastre? Tal vez es por eso que los Klarnas del mundo están contratando a la gente.
Pero lo más importante, ¿por qué la gente ignora esta realidad flagrante? La respuesta de Zoeller toca varios puntos. Primero, no es que nadie hable de esto. Es solo que los que hablan de eso no reciben el tipo de atención que hacen las animadoras de IA.
En segundo lugar, Zoeller señala que la magnitud de la inversión es enorme, y que la inversión está buscando rendimientos. La inversión de Meta en 2024 se estimó en $ 38 mil millones, que Zoeller señala aproximadamente el valor ajustado por inflación del Proyecto Manhattan. Y esa es una sola empresa. Si agregamos inversiones de los gustos de Microsoft, OpenAi, X, and so forth., los números se vuelven astronómicos.
Eso es un montón de dinero presionando una gran presión sobre todos. Zoller mencionó estadísticas para la inversión en Asia del año pasado, lo que demuestra que cada área de la economía ha disminuido en inversión, mientras que la inversión en IA ha aumentado enormemente. Lo que esto significa es que las personas que trabajan en otras áreas de la economía se ven obligadas a rociar IA en su trabajo si quieren obtener una parte de la acción.
“El mundo decidió en algún momento que este es todo y todo el valor futuro vendrá de aquí. Si no haces AI, no nos hables. El mercado es brutal”, dijo Zoeller. Él mencionó un ejemplo para respaldar esto: Chegg, una plataforma de educación en línea que ofrece alquileres de libros de texto y acceso a la tutoría.
Chegg vio que el precio de su acción cayera aproximadamente un 50% después de su anuncio de ganancias del primer trimestre de 2023, ya que el liderazgo de la compañía señaló impactos y amenazas continuas a su negocio principal de ChatGPT. Zoeller cree que esto sucedió porque “el mercado había decidido en ese momento que AI period actual, AGI iba a suceder en dos años, y que este hombre claramente está hablando de mierda”.
Ai como la nueva narrativa para el crecimiento
Para Zoeller, el surgimiento de la IA debe verse en el contexto más amplio de los negocios y la geopolítica. Las compañías de Faang que empujan la IA se basan en la tesis de que Web crecerá para siempre, la curación handbook eventualmente fallará y el aprendizaje profundo es la respuesta a eso. Construyeron sus capacidades para hacer eso, y esto les permitió capturar la mayor parte del crecimiento del valor de Web.
Esto funcionó hasta 2016 más o menos. Estas compañías estaban invirtiendo a nivel mundial y creciendo al 30% o más, mientras que el resto de la economía en ese momento ya se había estancado en el viento de cabeza demográfico. Pero entonces, sucedieron dos cosas. Donald Trump y Cambridge Analytica.
Trump fue muy vocal sobre no invertir en otros países, y dificultó hacerlo. Al mismo tiempo, el incidente de Cambridge Analytica hizo que muchos países desconfiaran del Faang. Un par de años después, el crecimiento de la industria comenzó a desvanecerse. La afirmación de Zoeller es que en ese momento, los administradores de fondos eran los verdaderos clientes. Las empresas de Faang tienen algunas ventajas en comparación con otros sectores de la economía.
Una ventaja es el hecho de que el crecimiento proyectado de Faang es en gran medida basado en intangibles que son difíciles de verificar. Y los faangs están alimentando el motor de crecimiento. Entonces, cuando la expansión perpetua de Web comenzó a perder el vapor como la narrativa de crecimiento, surgieron narraciones alternativas. Crypto, Web3, NFTS, The Metververs, nada de eso funcionó. Cuando las cosas comenzaron a desesperarse, AI surgió.
“Openai sacó los documentos de Google del contenedor de basura y Microsoft dio el dinero para sobrealimentarlo. Microsoft arrojó el dinero y dijo que vamos a tener una nueva narrativa de crecimiento. Será una búsqueda de IA. Bing no es así, pero podría ser. Y ahora todo es una guerra. Todos están atacando a todos porque el narrativo ha cesado”, dijo Zoeller.
Parte de la razón por la que la narración de la IA se ha dado cuenta, piensa Zoeller, es porque hay algo profundamente movido a la concept de AI de una forma u otra. Eso hace que sea más fácil para personas como Sam Altman elaborar estas narraciones que hay un fantasma en la máquina, incluso si no hay respaldo científico para eso.
Ai como una forma de outsourcing
Inteligente o no, según Zoeller, la tecnología tiene muchas oportunidades para automatizar los trabajos precisamente porque muchos de los trabajos que hemos creado no necesariamente requieren inteligencia. A menudo, son solo trabajos robóticos que las personas tienen que hacer siguiendo las instrucciones, y eso es algo que la tecnología puede hacer. La forma de pensar en la automatización de la IA, sugiere Zoeller, es considerarlo como una forma de subcontratación.
“Cuando miras el advertising and marketing [for AI[, it goes – there is this coworker that you’re gonna work with. It’s gonna be fast, it’s gonna be cheap. But it has all the properties of outsourcing. There isn’t actually anything special here. Even if you don’t understand the technology, you just take the claims and you go, okay. Wait. Actually, you’re pitching me outsourcing. And that has a few problems”, Zoeller said.
Outsourcing doesn’t work overnight. It’s never easy to outsource. There’s vendor screening and context transfer involved. And there is the real threat of outsourcing vendors gaining enough knowledge to eventually start competing against the business.
Here, Zoeller brought up the example of outsourcing industrial manufacturing to China. People like Warren Buffet issued warnings against this early enough. The current US policy of tariffs may be seen as way to take such advice, but it may be too little too late. This type of risk is very much present in outsourcing to AI too, Zoeller argues. The example he uses here is Amazon.
Amazon used its marketplace to harvest data, identify the most promising products, and then spin out its own Amazon Basics brand, disintermediating the vendors. If you are using an outsourced AI model like Gemini or ChatGPT, there’s nothing that stops the AI companies from doing the same: observing all your inputs, identifying use cases, and spinning out their own products.
AI market signaling
Zoeller claims that putting all of this together, when you ask CEOs “why are you jumping to AI?” the real answer is – because you need market signaling.
“Chegg told everyone the greatest risk in AI is my CEO saying something wrong about AI that the market doesn’t wanna hear. So, ideally, you have to say something optimistic. You cannot afford to be pessimistic about it. The market will punish you”, Zoeller said.
“From a tech company perspective, this is the ultimate narrative because it is a frontier. The narrative went from this is the future to actually, this is a very expensive future. You need to be able to afford nuclear power plants and have your own data centers. So only us can do it”, he added.
Zoeller points to the S&P 500 index, noting it detached the moment that narrative caught on. The Magnificent 7 started detaching from the rest because the assumption was that investing into this magical future can only be done through the companies that can afford this. The narrative kept expanding to AI in healthcare, finance, military and so on.
Undercutting the AI narrative
Then DeepSeek came along, and demonstrated that the cost of entry is much lower than people thought. That, Zoeller claims, makes the investment questionable.
“You take an investment because fundamentally, you believe that money will allow you to grab market share or build an appreciable moat. So in 2025, when you look at that and you ask – so all of that money, has that created any moat for anyone?
It looks like the Chinese are a month behind, which is nothing. Whatever OpenAI demos, a month later, everyone else seems to have as well. That money was wasted – or worse. That money turns into a liability because [it] Significa que gasta 10 veces más o 100 veces más que China, y sus inversores quieren que regrese ese dinero en algún momento. Tendrán que ser extraído de sus clientes.
Si no puede obtener ese duopolio mágico de Silicon Valley o algo así, si los chinos lo siguen socavando, si otras compañías lo siguen socavando, esto va a terminar en las lágrimas ”, concluye Zoeller.
Zoeller no está solo para hacer esas observaciones; Otros también notan. Zoeller une todo, elaborando una narrativa elaborada que conecta los puntos que van más allá de las minucias técnicas.
En la Parte 2 de la conversación, cubrimos la AI y la captura regulatoria, los derechos de autor, el crecimiento infinito, la codificación, el mercado laboral y cómo navegar por el valiente nuevo mundo.
