Desde el código hasta los contenedores: el salto de Cloud Run en AGENIC AI

Google LLC quiere poner fin a la noción de que la computación sin servidor no puede escalar, y lo está haciendo con Cloud Run, una plataforma creada para la period de la inteligencia synthetic.

Ejecución de nubes Permite a los desarrolladores ejecutar cargas de trabajo contenedores directamente en la infraestructura international de Google, combinando la simplicidad sin servidor con bajo demanda escalabilidad, de acuerdo a Belinda Runkle (En la foto, Centro), Director Senior de Ingeniería, Servidor, Google Cloud, en Google.

“Ejecutamos funciones. Ejecutamos contenedores. Podemos ejecutar desde el código fuente, y es muy liviano: sin administración, escalada rápida, escalas a cero, pagamos a medida que avanza … y realmente ha sido la evolución de cómo obtener un poco de cómputo listo de forma muy baja para los desarrolladores”, dijo Runkle.

Runkle y Lisa Shen (a la derecha), Gerente de productos de Google Cloud, habló con TheCube’s Savannah Peterson para el Serie de entrevistas “Google Cloud: Passport to Containers”durante una transmisión exclusiva en Thecube, el estudio de transmisión en vivo de Siliconangle Media. Discutieron el aumento de la IA de agente y la magia de una plataforma sin servidor como Cloud Run. (* Divulgación a continuación).

Construcción de sistemas alrededor de los agentes de IA

Decir que hay mucho zumbido en torno a la IA agente en el mundo empresarial sería un eufemismo. Shen lo describe como “dar un cerebro en el código” y sugiere que el aumento en las ofertas de agente conducirá a una mayor proporción de procesos comerciales que se automatizan por completo.

“Los modelos de idiomas grandes son el cerebro de un agente, y luego las herramientas son realmente como las manos del agente que llegan al mundo digital”, dijo. “Tiene herramientas de agente más, y luego las grandes herramientas de modelos de idioma más, luego un agente de IA para ayudarlo a lograr una tarea específica”.

Google Cloud prevé el desarrollo de sistemas de múltiples agentes, con agentes individuales que pueden razonar de forma independiente basada en conjuntos de datos personalizados. El comercio minorista y el servicio al cliente han visto varias aplicaciones para IA generativa, y ahora AI de agente, pero los posibles casos de uso son amplios. Shen ofrece el ejemplo de un agente de asesores financieros compuesto por múltiples subcágulos.

“Digamos que tiene un símbolo de inventory que le interesa comprar”, dijo. “[The advisor agent] tiene este subgent de análisis de datos que en realidad toma el símbolo de inventory, y va a extraer el [U.S. Security and Exchange Commission] Datos y vaya a Google o algún otro sitio internet para obtener toda la información, publicaciones recientes, noticias recientes relacionadas con esta acción y … presentar un informe de análisis de datos “.

¿Cómo se administra la nube de soporte AGENIC AI? La respuesta es la escalabilidad, según Runkle. La plataforma ofrece un modelo a pedido para que los usuarios puedan acceder a la cantidad de energía de cálculo que necesitan para sus aplicaciones en un momento dado. Esta capacidad compensa los costos y fomenta el crecimiento para los clientes de Google Cloud.

“Donde tienes múltiples agentes, generalmente lo que está sucediendo es algo que debe ser escindido”, explicó Runkle. “Voy a asignar una tarea, una tarea de pensamiento, una tarea de contexto … y cada una de ellas básicamente girará una pequeña unidad de trabajo que debe hacerse. Esa capacidad de hacer un avance rápido, escalar rápido, escalar a cero cuando se hace … esas cosas ya están integradas en la nube”.

Probar el servidor sin escala

Cloud Run ha seguido siendo una opción rentable al ofrecer unidades de procesamiento de gráficos sin servidor en un modelo de pago por uso. Si bien los agentes no necesariamente requieren GPU, ese tipo de poder de cálculo es necesario para cualquier tipo de inferencia. Cloud Run tiene capacidades que no solo admiten a los desarrolladores, sino también a una variedad de clientes empresariales, según Runkle.

“Cuando piensan que la nube se ejecuta, asumen que es una oferta de funciones”, dijo. “Si bien es de naturaleza sin servidor, no está definido en absoluto a las funciones. En realidad, la mayoría de lo que los clientes nos traen son contenedores. Por lo tanto, es más que una orquestación de contenedores tiene mucha de la misma simplicidad y magia de lo que piensas cuando piensas sin servidor”.

Cuando se trata del futuro de la ejecución de la nube, Shen está más entusiasmado con la “codificación de limpieza” o el código generado por IA. Ella ve el potencial para que democratice la IA al permitir que los no desarrolladores realicen sus concepts.

“La codificación de limpieza se trata de cómo convierte las concepts en código con una fricción mínima”, dijo Shen. “Cloud Run [is] Un ajuste pure y el siguiente paso, donde luego convierte su código fuente en una aplicación funcional en vivo, sin tiempo y con una infraestructura mínima para administrar. Luego, Keen Coding también se trata de este bucle de retroalimentación instantánea, y la ejecución de la nube básicamente le brinda todas estas iteraciones más rápidas “.

Aquí está la entrevista de video completa, parte de la cobertura de Siliconangle y Thecube Analysis del Serie de entrevistas “Google Cloud: Passport to Containers”:

https://www.youtube.com/watch?v=7h7ltsldjvm

(* Divulgación: Thecube es un socio de medios pagado para la serie “Google Cloud: Passport to Containers”. Ni Google Cloud, el patrocinador de la cobertura de eventos de TheCube, ni otros patrocinadores tienen management editorial sobre el contenido en Thecube o Siliconangle).

Foto: Siliconangle