Click. Ship. Done. AI Agents on Cloudflare

♪♪♪ Hola a todos. Es realmente agradable estar aquí para hablar sobre cómo desplegar agentes de IA en Cloudflare con solo un clic. Así que déjenme decirles que la IA está cambiando a una velocidad rápida en este momento. Quiero decir, podrían saber esto porque cada semana está sucediendo algo nuevo o un nuevo modelo está apareciendo aquí y allá. Así que es realmente un ritmo acelerado en este momento. Para entender realmente por qué esto está sucediendo, volvamos en el tiempo.

La IA fue acuñada como término en 1956, lo cual fue hace mucho tiempo. Fue hace más de 70 años. Así que después de que se desarrolló el primer chatbot, que en realidad tomó dos años para desarrollarse. También se construyó Kismet, que también tomó dos años, que es, por cierto, un robot que básicamente tenía emociones basadas en lo que el robot veía. Y esto se hizo al tener cámaras dentro del robot y hacer reconocimiento facial o básicamente de objetos en él. Y luego AlexNet en 2012 estaba sucediendo, que era básicamente una red neuronal.

Y luego estaba AlphaGo, que es básicamente el primer programa que derrotó a un humano en el juego Go. Y esto fue una locura en ese momento. Mirando la línea de tiempo, se ve que esto se hizo básicamente en 60 años. Muchas otras cosas estaban sucediendo en ese momento, pero tomó bastante tiempo. Yo llamo a esta era básicamente la era pre-IA generativa. El problema aquí era que no muchas personas básicamente tenían acceso a este tipo de tecnología.

Solo las personas que sabían programar o básicamente estaban en este campo para la ciencia o básicamente investigación. Y era básicamente solo para este grupo de personas. Pero aún así, muchas cosas asombrosas sucedieron en aquellos días, y muchas cosas sucedieron ahora con la era de la IA generativa, con el lanzamiento de GPT-3 en junio de 2020. En este caso, todavía estaba en beta privada y no muchas personas tenían acceso a ello. Solo las personas que estaban en la lista de espera ya tenían acceso a ello. Poco después, como en noviembre de 2021, GPT-3 se volvió GA. Pero aún así, en este caso, necesitas saber cómo programar porque básicamente era solo una API a la que tienes acceso. En noviembre de 2022, esto cambió, ya sabes, con ChatGPT, donde casi todo el mundo tenía acceso básicamente a, básicamente a ChatGPT. En este caso, todo el mundo sabe básicamente cómo programar. Solo das instrucciones y ChatGPT te dice cómo programar. No era lo mejor en ese momento, pero ya estableció muchos de, ya sabes, los primeros pasos sobre cómo hacer programación. Así que el paso de entrada era básicamente mucho más fácil que antes.

Y luego fue a velocidad rápida. Entropiq lanzó el primer modelo en marzo de 2023. Google con Gemini poco después en diciembre de 2023. Y luego Zorro fue anunciado en febrero de 2024 por OpenAI, que es básicamente un programa que produce videos basados en las instrucciones del usuario. Y luego sucedió algo interesante. Hubo una cosa llamada bucle agentic o bucle iterativo, que hace la cosa para un solo pase. Te diré más tarde a qué me refiero con eso. Todo comenzó con el lanzamiento de MCP en noviembre de 2024, tal vez un poco antes, pero alrededor de este tiempo. Para entonces, las habilidades agentic fueron anunciadas por Entropiq en octubre de 2025. Y luego, un año y medio después, la gente dice que el MCP estaba muerto. Quiero decir, no está realmente muerto. Todavía está ahí. Todavía impulsa a muchas empresas y muchos programas, pero la gente realmente decía que estaba muerto. Y desde 2026, todo se trata de codificación agentic o básicamente agentic con todo. Así que mirando la línea de tiempo, son solo seis años donde muchas cosas estaban evolucionando y muchas personas realmente tenían acceso ahora a cómo programar o cómo hacer ciertas cosas. La cosa es que yo o muchas otras personas no tenemos idea de cómo podría ser el futuro.

Pero lo que sí sabemos es que solo un repositorio en un programa puede cambiar el futuro básicamente para siempre, ¿verdad? Bien, entonces mirando el pase único y el bucle iterativo o agentic, ¿cuál es ahora la diferencia entre estos dos? Siguiendo por pase único, esto es lo que el nombre ya sugiere, pase único.

Entonces tienes una entrada de usuario. La mayoría de las veces, por ejemplo, en el chatbot, es un aviso del usuario. Este va al LLM. El LLM básicamente tiene todo ahora dentro y luego responde con un lenguaje natural tipo de cosa. En un ejemplo, supongamos que escribo en un chatbot, implementa y abre una pull request para el primer issue que tengo asignado. Ahora vuelve al LLM. Procesa. Dice, claro. Te guiaré a través de la implementación del issue y la apertura de una pull request. Y luego hay un par de preguntas de seguimiento. Así que básicamente necesitas guiar al LLM para que lo atraviese. Así que de nuevo, estoy usando una instancia autoalojada, y la implementación debería ser en JavaScript. De nuevo, LLM. Digiera todo, lo devuelve, entendido, y tiene un par de preguntas de seguimiento. Así que esto puede llevar bastante tiempo hasta que tengas tu pull request básicamente hecha.

En el bucle agentic, sin embargo, esto se ve un poco diferente. Así que en este caso, hay más pasos en el medio. Así que todavía tienes que usar la entrada. Esto podría ser un aviso, una API o lo que sea. Bueno, ahora en este bucle, percibes básicamente lo que era. Así que podría ser de nuevo, un aviso, API, lo que sea. El LLM ahora razona sobre lo que obtuvo y cómo podría evolucionar en el futuro. Luego, en el paso de planificación, realmente planea, bien, qué podría ser y qué podría realmente ser y cuáles son los mejores pasos para procesarlo. En el paso de actuación, se pone interesante, porque en este paso, básicamente puedes manipular todo el aviso teniendo dos llamadas de MTP como un protocolo de contexto de modelo. También puedes tener solicitudes de API, solicitudes de base de datos, lo que sea. Simplemente manipulas cómo quieres tenerlo. En el quinto paso, en el paso de observación, el LLM básicamente razona sobre, ¿ya está hecho? Y simplemente obtiene la imagen más grande. Si no está hecho, entra en el siguiente bucle hasta que esté terminado y luego tiene la respuesta final. Así que si el LLM decide que está hecho, te da la respuesta final. En nuestro ejemplo, lo que teníamos, si ahora damos el mismo aviso exacto, como implementado abre solicitud de mapa para el primer issue que tengo asignado, ahora responde un poco diferente.

Dice, claro, pero ahora tiene tres pasos. El primer paso es, mira los issues asignados a ti, escribe código para implementar el issue. Y el tercero, el último, es abrir la pull request. Así que realmente está pasando por todo basado en lo que escribiste. Así que en el bucle, el primero, dice, mira el issue asignado a ti, hecho. Lo tiene en el contexto. El siguiente dice, escribe código para implementar el issue. Una vez que el código está escrito y el código está hecho, realmente dice, abriré la pull request. Y eso se está volviendo inteligente porque lo que quieres tener como usuario es que se abra una pull request. Así que el LLM razonaría sobre tal vez sea lo mejor también dar un botón donde el usuario pueda básicamente ir a la pull request en sí, lo cual es increíble.

Así que en este caso, el bucle agentic hace todo más pequeño o no más pequeño en el sentido de contexto, pero lo hace más pequeño en términos de cuánto tienes que avisar para dar o para obtener básicamente el último resultado. Así que podría potencialmente tomar más tiempo porque no te guían a través de ello paso a paso, pero razona por sí mismo y esto hace todo súper poderoso. Hablé sobre el modelo de protocolo de contexto o MCP en corto por un segundo muy corto. Así que para todos los que no lo conocen, así es como se ve nuestro MCP. Así que MCP es mayormente en la forma de un servidor MCP, y no es nada más que un servidor API normal pero específicamente para LLMs, lo que significa en este caso, si tengo un LLM y el LLM dice, está bien, tengo una llamada de herramienta, irá al servidor MCP, lo llamará, donde registras una de esas tres cosas, herramientas, recursos o avisos. Y luego, una vez que lo recibe basado en la API, puedes hacer básicamente lo que quieras.

Así que puedes llamar a una API como otra API, puedes llamar a una base de datos, puedes hacer lo que harías en una API normal. Una vez que esto está hecho, tienes una salida específica de MCP y la devuelves al LLM. La mayoría de las veces esto es en forma de un JSON, pero puedes hacer lo que quieras. Básicamente lo que el MCP te permite hacer. ¿Cómo se vería ahora si alojaras tu agente tú mismo? Bueno, supongamos que estás en un clúster de Kubernetes, por supuesto necesitas alojar el Kubernetes, necesitas mantener el clúster de Kubernetes y así sucesivamente. Pero además de eso, necesitas tener una aplicación React, que se ejecuta en Docker. Tienes un agente, que básicamente tiene el grupo de agentes, que se ejecuta en Docker y en Node.js. Tal vez tengas un LLM, que alojas tú mismo, lo cual es súper difícil de hacer porque necesitas muchas GPUs baratas, necesitas datos distribuidos. La mayoría de las veces tienes este tercero en algún lugar. Pero además, necesitas el MCP en un contenedor Docker y tu base de datos. El problema ahora con eso es que no tenemos idea de cómo podría ser el futuro. Ya hemos visto que en seis años, muchas cosas cambiaron. El grupo de agenda es nuevo desde hace solo un par de meses.

¿Y quién sabe lo que traerá el futuro? Nadie lo sabe. Quiero decir, tal vez algunos, pero sí. La cosa es que ahora tienes que hacer todo por tu cuenta y hay muchas partes móviles, lo que podría ralentizarte en algunas partes. Puedes hacerlo. Por supuesto, hazlo, pero lleva un poco de tiempo. Solo toma un poco más de lo que debería. Así que esto se puede acelerar con Cloudflare workers.

En su sitio web, de hecho, tienen un ejemplo de cómo podrías desplegar tu AI agent. En este caso, esto está inspirado por Atlassian, donde hay un punto de entrada desde un ingeniero, que tiene acceso básicamente en nuestro protocolo y luego pasa por todo el proceso hasta que llega básicamente al sitio web en sí. Entonces, ¿qué es un Cloudflare worker ahora? Así que esto es lo mínimo que puedes tener desplegado en un Cloudflare worker. Esto ahora es accesible a través de una URL normal, y es básicamente solo una API. En este caso, devolvemos un conteo de 10, codificado, pero es un 10. Usualmente en una API quieres tener más interacción y tienes una base de datos.

En el mundo de Cloudflare, esto se llama un durable object. Por supuesto, también puedes tener una base de datos, pero el durable object es lo más pequeño que puedes tener para almacenar cosas. En nuestra llamada fetch, podemos realmente conectar a nuestro durable object y luego tener acceso básicamente al durable object. En nuestro caso, solo lo conectamos y no tenemos básicamente acceso al estado en sí. Pero podemos cambiar eso simplemente diciendo que añadimos una función llamada increment en el durable object en sí. Y luego en el fetch llamamos stop.increment, lo que nos da acceso al valor de retorno 10.

De nuevo, 10 no es realmente interactivo, pero puedes hacerlo simplemente yendo al almacenamiento en sí, digamos storage.getCount. Si el storage.getCount no está allí aún, simplemente lo establecemos en cero, incrementamos en uno, y luego lo almacenamos de nuevo en el durable object para persistirlo y devolverlo nuevamente. Lo que hace que en la llamada fetch, simplemente lo llamemos con count await stop.increment y luego lo devolvamos en el count, lo que significa que cada vez que recargamos, básicamente tenemos un nuevo conteo para básicamente siempre.

Entonces, ¿qué tiene que ver ahora con los agentes AI o los agentes en sí en Cloudflare? Bueno, Cloudflare hace que sea realmente fácil desplegar agentes y tienen muchas herramientas de ayuda. Por ejemplo, tienen una clase de AI chat agent, que básicamente se extiende de un agente, que se extiende de un servidor, que se extiende de un durable object. Así que todo está construido alrededor del durable object porque necesitas tener el estado almacenado en algún lugar. En el caso del AI chat agent, los mensajes que se reciben de un chatbot se almacenan básicamente en un durable object.

Mirando un ejemplo de un AI chat agent en un Cloudflare worker, así es como podría verse, donde básicamente tenemos el punto de entrada y hay un ayudante llamado route agent request donde dice, ok, este va al durable object o a la clase AI chat agent. Y cada vez que se recibe un nuevo mensaje de chat, verás la herramienta de ayuda más tarde, cada vez que esto se recibe, podemos hacer básicamente lo que queramos. En nuestro caso, lo hacemos súper mínimo simplemente llamando create workers AI, otra función de ayuda de Cloudflare.

Esto nos da básicamente acceso a cada modelo LLM al que Cloudflare tiene acceso. Luego hay otro ayudante llamado screen text, donde básicamente dices, este es mi modelo, estos son mis mensajes. Por favor haz algo y simplemente dame un resultado. Una vez que esto se hace de nuevo, simplemente lo transmitimos de vuelta al usuario y básicamente hemos terminado. Así que en este screen text, hay múltiples bucles dentro, puedes dirigirlo como quieras, pero también puedes añadir más parámetros a él. Por ejemplo, llamadas de herramientas desde MCPs. Este .mcp es básicamente otro ayudante del AI chat agent, donde conectas múltiples herramientas a él.

En este caso, simplemente añadimos todas las herramientas que tenemos, que es la razón básicamente por la que mucha gente ve MCP es porque inflas el contexto con solo todas las herramientas que tienes, lo que añade descripciones y todos los nombres de los costos de herramientas MCP, lo cual no siempre es el mejor caso, pero puedes hacerlo. Así que ahora tienes tu AI chat agent y tu respuesta normal de fetch de Cloudflare worker. ¿Qué hacer con eso ahora? Básicamente puedes simplemente desplegarlo con Wrangler deploy, con un código. Y una vez que esto se hace, simplemente lo despliegas.

Y ahora te muestro cómo se hace realmente. Esta fue una diapositiva demasiado rápida, pero esto es lo que realmente prepararon. Así que ahora tenemos básicamente una aplicación de navegador, que tiene básicamente acceso al Cloudflare worker en sí. Esto está básicamente desplegado en Cloudflare. Y este ahora tiene acceso al servidor MCP, que podemos decidir lo que queramos. Y también tenemos nuestro servidor MCP autoalojado, que tiene acceso a la API de GitHub. El Cloudflare worker en sí tiene, como vimos antes, acceso a un grupo de LLMs de Cloudflare en sí.

Cómo se ve es que tenemos dos conflictos de Wrangler, que es básicamente el punto de entrada principal para Cloudflare. Y esto luego se despliega en Cloudflare. Así que la aplicación se ve así. Ahora hemos iniciado sesión en nuestra propia aplicación. Una vez que hemos iniciado sesión, básicamente tenemos acceso a nuestro AI chatbot. Podemos hacer lo que queramos con el AI agent que queremos tener. Muestro el AI chat agent porque es mejor visualizarlo.

En la parte superior derecha, podemos conectarnos a cualquier servidor MCP que queramos. En nuestro caso, a Sentry en sí, que es el curso de herramientas ProofSeer y InspectIssue events. Y ahora también tenemos acceso a otro MCP en sí. Y hay dos prompts predefinidos, que dicen, por favor resume Cloudflare agents. Y ya puedes ver que está recibiendo algunas dos llamadas de nuestro GitHub MCP, que es nuestro autoalojado.

Y en el segundo, básicamente, la primera iteración es que razonó sobre lo que necesita. Está planificando. Llegó al siguiente paso. Obtuvo la llamada dos y luego obtuvo otra ronda porque aún no había terminado, porque la respuesta no estaba terminada. Simplemente obtuvo la llamada dos en la segunda ronda, razonó sobre lo que obtuvo y luego obtuvo más de una respuesta para el usuario. Así que en este caso, dijo, comienza con casi 5k estrellas. Tiene una licencia de MIT. Y esta es más información.

Entonces, cómo se ve ahora en el código. Aquí tenemos ahora nuestras dos configuraciones de Rangle. En el caso de MCP, básicamente tenemos nuestro MCP TS de origen, que se almacena aquí. El punto de entrada principal es siempre el export default, que es lo que está protegido. Y una vez que realmente protegemos eso, el manejador de API es el que se captura donde creamos un manejador MCP, que es básicamente de Cloudflare en sí. Y puedes llamar lo que quieras en él. En nuestro caso, tenemos un nuevo servidor MCP.

Y en este, simplemente registramos diferentes herramientas. Por ejemplo, who am I? Así que si escribo, por favor dime quién soy en GitHub, llamará a esta herramienta porque razona que esto podría ser lo más adecuado. En nuestro caso, tuvimos la llamada get repo info donde nuestro LLM decidió que esto podría ser la mejor opción para el prompt que di. Y una vez que esto se activa, es de nuevo, lo que quieras en una API normal. Así que obtenemos otra API. Así que en este caso, es la API de GitHub y devuelve una respuesta adecuada de MCP o LLM. Y esto es nuevamente, un formato JSON.

Así que una vez que esto esté hecho, todo lo que vamos a hacer es desplegar el MCP con este comando. Simplemente decimos wrangler deploy dash c wrangler.mcp.jsonc porque usualmente no tienes que definir eso. Pero como tenemos múltiples configuraciones de wrangler, simplemente lo definimos. Mientras esto se está desplegando ahora, podemos mirar nuestro agente. Dijimos volviendo a nuestro cuando volvemos a nuestro ejemplo, simplemente miramos este. Y ahora estamos mirando la segunda configuración de cloudflare, que es básicamente el agente aquí, que es decir, tenemos enlaces EI, tenemos activos, que es básicamente nuestra aplicación React.

Y también tenemos el punto de entrada principal del agente en sí, que es básicamente nuestro backend. Así que tenemos nuestra app y nuestro agente. Y nuevamente, Cloudflare está obteniendo o dándote muchas herramientas auxiliares para hacer posible un chatbot o un agente. Así que puedes llamar a un agente en nuestro caso, es el chat agent. Y también tenemos un use chat agent donde simplemente añadimos el agente, tenemos enviar mensajes y los mensajes en sí disponibles desde este hook. Así que use chat agent viene básicamente de at Cloudflare AI chat, slash React, porque estamos en la aplicación React.

Una vez que realmente llamamos enviar mensaje, y esto es lo que realmente hemos hecho. Ahora enviamos el mensaje de texto directamente de vuelta al agente. Y una vez que esto está hecho, tenemos la función odd on chat message que está predefinida por Cloudflare en sí del AI chat agent helper. Y aquí podemos hacer lo que queramos.

Tenemos el MCP tool car. Tenemos el pool de modelos LLM de Cloudflare en sí. Y luego simplemente le decimos al modelo en sí o en nuestros casos, el texto de pantalla que tenemos este modelo. Tenemos un par de prompts del sistema donde simplemente decimos, okay, ¿cómo quieres comportarte?

Decimos cuántas veces debe iterar. Y luego simplemente lo devolvemos. Una vez que lo devolvemos, los mensajes se actualizan y básicamente tenemos todo. Y también está el estado sobre básicamente cuál es el estado ahora mismo, streaming enviado, error de lectura. Esto es básicamente ahora el bucle en nuestro chat agent.

Así que una vez que esto está hecho y básicamente has hecho todo, tienes solo 112 líneas de código para la app en sí. Y tienes 160 líneas de código para el AI chat agent, donde aquí está el punto de entrada. Nuevamente, este es otro helper de Cloudflare en sí. Y simplemente lo enviamos con este único comando llamado wrangler deploy. Y siempre estás actualizado.

Teóricamente, no tienes que hacer esto. Así que no tienes que presionar wrangler deploy. También puedes conectar tu repositorio de GitHub a él. Y todo se hace automáticamente basado en la rama que configures. En nuestro caso, mientras tanto, el servidor MCP ya estaba desplegado. Así que una vez que abrimos este ahora, estamos viendo el servidor MCP. Pero todo esto está protegido como vimos. Y básicamente no hay nada que hacer aquí porque nuestro LLM lo está llamando. Teóricamente, como dije, puedes hacer lo que quieras en Cloudflare.