Building Your Own GenAI Agent Application

Así que, bienvenidos a todos. Muy bien. Así que, una breve introducción sobre nosotros. Así que, soy Amit Madelbaum. Soy un líder técnico senior en AI21 Labs, una de las, creo, compañías de IA más importantes del mundo y probablemente la más grande en Israel. Soy uno de los pocos que desarrolla modelos de base, que vamos a usar a lo largo de esta masterclass. También soy un inversor ángel en Victoria, que es una VC con sede en Nueva York, anteriormente fui cofundador en el área de Gen AI y director de IA en NVIDIA.

Y Idan, él es un ingeniero full stack en AI21 Labs con una gran pasión, como van a ver, por las aplicaciones y tecnologías de IA.

Y en cuanto a la agenda, lo que vamos a tener hoy es alrededor de diez minutos de conferencia sobre la introducción general a Gen AI o LLM agents. Y luego alrededor de diez minutos explicando el framework React que vamos a usar a lo largo de esta masterclass. React, no el lenguaje de programación react del cual esta masterclass es parte, sino React, el framework de prompting de LLMs para trabajar con agents.

Y luego alrededor de 40 a 50 minutos de una masterclass práctica sobre codificar y desplegar su propio LLM agent que pueda usar herramientas como búsqueda web y codificación para cumplir tareas complejas, nuevamente, usando el framework de prompting React, que discutiré. Y luego tendremos alrededor de cinco minutos al final solo para discutir cómo pueden llevarlo más allá en su trabajo y cómo pueden obtener más detalles técnicos y frameworks para continuar trabajando con Gen AI agents.

Y, obviamente, tendremos tiempo para preguntas.

Entonces, los agentes Gen AI son un tema bastante candente. Todo el mundo está hablando de ello. Todas las empresas están hablando de ello. Está marcado como la próxima tendencia con respecto a Gen AI y AI en general.

Una investigación de mercado reciente predijo que el tamaño actual del mercado es de alrededor de $5.4 mil millones de agentes Gen AI. Y la previsión de ingresos para 2030 va a ser 10 veces más. $50 mil millones. Yo mismo pienso que esta es una estimación bastante conservadora y que la previsión real puede ser y será mucho, mucho más alta que eso. Y creo que esta es un área muy interesante.

No solo eso, todas las grandes empresas están entrando en este campo. Salesforce, por ejemplo, recientemente introdujo su agent force, que es el nuevo producto para desarrollar agentes utilizando herramientas sin código para ventas, soporte al cliente, y muchas otras cosas. Y están invirtiendo bastante presupuesto y esfuerzo en esto.

Y Tropic, uno de los competidores de Open AI, introdujo nuevos modelos que pueden controlar tu PC a través del uso de agentes LLM. Y lo probé. Funciona bastante bien. Se informa que Google también está desarrollando algo similar. Van a lanzar Gemini 2.0. Y con eso, van a lanzar supuestamente un agente que puede controlar tu computadora usando el LLM. Microsoft no se queda atrás. Ya lanzaron algunas herramientas de desarrollo de agentes y copilotos que puedes operar dentro de tu empresa y, con suerte, automatizar flujos de trabajo y crear compañeros de trabajo AI contigo.

Entonces, como se ha dicho, este es un tema muy, muy candente en el que todas las empresas están entrando. Nosotros en AI21 Labs no nos quedamos atrás, y estamos trabajando en sistemas de AI. Creemos que la forma de obtener el mayor valor de Gen AI es construyendo sistemas que puedan ser integrados dentro de los flujos de trabajo empresariales. Estos sistemas pueden combinar la toma de decisiones complejas y adaptabilidad hacia los flujos de trabajo que realizas dentro de la empresa y comprender la forma en que trabajas. Estos sistemas también pueden tener gestión de recursos y gestión de presupuestos y también transparencia para que sean confiables por el usuario y confiables por las empresas.

Y eventualmente, la forma de ganar el mercado no es construyendo el mejor LLM que existe o el LLM más inteligente que existe. Es construyendo un sistema que sea el más confiable y complejo y que realmente pueda integrarse dentro de tu flujo de trabajo empresarial de manera integral.

Entonces, sobre los agentes en general. Entonces, todos sabemos, probablemente todos ustedes que están participando han intentado usar cosas como chat GPT y cloud, etc. Y todos conocemos el concepto de solicitar al LLM, obtener alguna respuesta y luego nuevamente, si queremos. El primer concepto que necesita ser entendido es el concepto de chaining. Esto aún no son agentes, pero fue introducido hace alrededor de dos años. Y este concepto es bastante simple en el sentido de que introdujeron en el documento una comprensión de que cada vez que el LLM recibe una pregunta que requiere algún razonamiento de múltiples pasos para resolverlo correctamente, necesita ser solicitado de una manera que realmente lo anime a hacer este tipo de razonamiento paso a paso, que se llama cadena de pensamiento. Lo que podemos ver aquí es que tenemos un ejemplo. Estamos mostrando un ejemplo al LLM. El ejemplo está en verde. Le mostramos un ejemplo de alguna pregunta aritmética. Y en este ejemplo, la respuesta se da directamente sin ningún pensamiento o razonamiento o razonamiento paso a paso. Y en este caso, cuando al LLM se le hace una pregunta directamente, obtiene la respuesta incorrecta. Pero luego, cuando se le da el ejemplo al LLM con un razonamiento paso a paso que descompone este problema en un paso, el LLM es capaz de descomponerlo por sí mismo.

Y cuando recibe la pregunta que necesita responder, es capaz de descomponerla en pasos y luego obtener la respuesta correcta. Y este es un concepto muy importante para hacer que el LLM realmente divida una tarea en subtareas más pequeñas y las resuelva paso a paso. Y en realidad no tiene que ser de manera few-shot.

Puede ser en zero-shot, lo cual es realmente muy simple. Solo decirle al LLM que lo piense paso a paso. Y esto es lo que llamamos chaining, que es un concepto muy importante en un framework de agentes, aunque no son los agentes de los que vamos a hablar.

El modelo más famoso que realmente utiliza este tipo de pensamiento de cadena de pensamiento es el nuevo modelo de OpenAI. Se llama OpenAI 01, y es el primer modelo que tiene la cadena de pensamiento integrada dentro del modelo. Y a lo que estamos acostumbrados y todavía estamos acostumbrados en GPT-4.0 y modelos como LOD, SONET, es que le damos al modelo alguna consulta o prompt, y luego el modelo simplemente completa, predice el siguiente token y nos da la respuesta. Lo que está sucediendo en GPT es algo diferente. En GPT-01, lo que vemos aquí es que le pido que me planifique un viaje a Nueva York para una familia de cuatro.

Y ahora, en lugar de darme directamente la respuesta o inmediatamente darme la respuesta, lo que podemos ver aquí es que se está realizando un razonamiento de cadena de pensamiento y es parte de la respuesta. Así que el LLM realmente está reuniendo los diferentes detalles e inspeccionando los diferentes aspectos de lo que una buena respuesta a mi pregunta necesita ser. Y solo después de completar todo este proceso de razonamiento paso a paso detrás de lo que necesita ser dado, me da la respuesta, que puedes ver aquí.

Esta es la respuesta que le pedí. Y este es un concepto muy importante que muestra que solo usar LLMs regulares no es suficiente. Y nuevamente, esto sigue siendo experimental en el sentido de que este no es, 01 no es el mejor modelo que existe. Y en la mayoría de las tareas, el modelo actual es mejor, pero es el primer modelo que realmente integra chaining y razonamiento a través de la respuesta del modelo para cada consulta y es algo muy importante y muestra que OpenAI también está yendo y gastando bastante presupuesto en cosas relacionadas con agentes. Pero como dije, este razonamiento de cadena de pensamiento todavía cae bajo la categoría de un solo prompt, una sola llamada LLM y una sola respuesta, que eventualmente no es agente. Usualmente, cuando hablamos de agentes, lo que queremos tener es usualmente tener un prompt y luego este prompt invoca una llamada LLM, que puede invocar, por ejemplo, una llamada de herramienta como búsqueda web. Y luego la respuesta de esta llamada de herramienta puede ir a otro LLM y luego otra llamada de herramienta, como tal vez codificación, que es algo que veremos en esta masterclass. Y luego tal vez otra llamada LLM para definir la respuesta final. Y solo entonces el usuario mismo obtiene la respuesta. Así que este es un sistema mucho más complejo que necesita un marco diferente al que vimos en la cadena de pensamiento.

Así que formalmente, los agentes LLM son algo que realmente está llegando, los agentes en general es algo que no es nuevo. Proviene del campo de la inteligencia artificial, pero inteligencia artificial en el sentido de cómo se usaba para significar en los años 60 y 80, que es un poco diferente de lo que decimos ahora cuando hablamos de inteligencia artificial. Y allí, existía el concepto de agente, un agente es finalmente un modelo, es un modelo computacional. No tiene que ser estadístico o estocástico, pero es algún tipo de modelo computacional que tiene alguna recompensa que necesita lograr y alguna política que es una forma de realmente lograr esta recompensa, un enfoque para lograr esta recompensa. Y hay un conjunto de acciones que este agente puede hacer en un entorno externo. Y luego hay observaciones que el agente obtiene de vuelta del entorno y una función de recompensa. El ejemplo más básico, podemos pensar en la conducción autónoma, digamos que nuestro agente es el algoritmo que controla el coche.

Puede acelerar o desacelerar y necesita llegar a algún destino y el entorno es la carretera y los coches alrededor, recibe de vuelta observaciones y dependiendo de las políticas en las que el agente de conducción autónoma está entrenado, realizará la siguiente acción hasta que llegue al destino, que es la recompensa. Trasladando esto al área de GenAI, el agente ahora es un LLM con prompts especiales, uno que veremos es el react prompting y a veces con una memoria externa, algo que no veremos en esta masterclass.

Y quizás en algunos casos, otros LLMs que le ayudan en algunas tareas auxiliares como la gestión de tareas, etc. Y este agente puede realizar acciones en un entorno externo y en este caso, los entornos externos deberían ser herramientas externas como codificación y navegación y búsqueda web, que es algo que vamos a ver y quizás otros agentes LLM en caso de sistemas multi-agente de los que hablaremos brevemente al final de la masterclass.

Recibe de vuelta una observación, pero también de esta observación, deduce alguna recompensa respecto a la consulta, la consulta original que el usuario hizo. Y como con la cadena de pensamiento, el LLM, una de las, una de las cosas más importantes con LLM es que puede descomponer la gran tarea en tareas más pequeñas y luego obtener sub recompensas. Así que por cada paso que da, puede entender si está más cerca de cumplir la solicitud del usuario al entender si las sub tareas que necesitaba hacer fueron cumplidas. Y si es así, cuál debería ser la siguiente tarea y cuán cerca estamos de realmente completar toda la prueba. Y nuevamente, la prueba eventualmente proviene del usuario y la consulta, como veremos en esta masterclass.

Así que el marco React, y veamos si tenemos alguna pregunta. No, no en este momento. Bien.

Así que el marco React, nuevamente, no debe confundirse con el lenguaje de programación React, el marco React es el básico, creo que el más fundamental y probablemente el marco más exitoso para trabajar con los agentes GNI. Y fue introducido, creo, hace alrededor de dos años. Y bastante sorprendentemente, no tenemos otro marco que sea mucho mejor que lo haya reemplazado. Y la estructura básica del marco React es bastante simple. Incitamos al LLM a primero pensar sobre la tarea, lo que significa que tiene que hacer algo de planificación de qué tareas o sub tareas necesitan ser realizadas.

Decidir sobre una acción de un conjunto de herramientas dadas. Lo discutiremos en un minuto. Observar y luego pensar de nuevo y repetir hasta completar. Así que lo que hacemos es que realmente tomamos el marco que acabamos de introducir de este tipo de bucle iterativo de un agente realizando acciones en un entorno externo y simplemente ponerlo todo en un solo prompt para realmente hacer que DLLM piense y trabaje de esta manera. Y obviamente, lo envolvemos con algo de código que realmente permite este bucle porque los LLMs no tienen bucles incorporados dentro de ellos.

Y se demostró que para tareas que requieren un razonamiento de múltiples pasos y toma de decisiones de múltiples pasos, el marco React mejoró enormemente los resultados de los LLMs. Como pueden ver aquí en el marrón, los resultados del marco React, que fueron mucho mejores que solo un simple razonamiento de cadena de pensamiento, que apareció aquí en, no sé, naranja, marrón claro, o azul, que es solo un prompt estándar sin siquiera una cadena de pensamiento.

Así que, lo tercero que necesitamos saber sobre React es que nos permite usar herramientas externas. Y la forma en que lo hacemos, y lo veremos en el código, es que primero tomamos todas las herramientas que queremos usar con DLLM y le damos a cada una de estas herramientas una descripción en lenguaje natural. Esto es algo que es muy agradable. El hecho de que no necesitamos pensar en alguna codificación muy compleja y formas de que el modelo realmente entienda la herramienta, sino simplemente darle una descripción en lenguaje natural de la herramienta. Esto es algo que realmente aprovecha las habilidades de GenAI.

Así que, damos la descripción en lenguaje natural de la herramienta. Damos una especificación. Y la forma en que lo hacemos es porque queremos que el agente DLLM eventualmente cree una llamada API válida, que luego podamos enviar directamente a la herramienta y obtener una respuesta. No queremos hacer algún tipo de procesamiento de solicitud en lenguaje natural del agente a la herramienta. Solo queremos que el agente DLLM dé la solicitud a la herramienta de una manera que pueda ser transferida directamente a la herramienta. Y nuevamente, esto aprovecha una propiedad muy agradable de los LLMs de que pueden hacer lo que llamamos codificación de funciones o salida JSON, a la que le damos alguna estructura y nos devuelve la estructura con los parámetros correctos y lo veremos en la sesión de codificación. Y estas son las acciones de DLLM. Así que, DLLM obtiene un conjunto de herramientas como parte del prompt.

Elige la herramienta adecuada. Crea una llamada API válida y obtiene una respuesta. Y luego observamos esta respuesta y pensamos sobre cuál debería ser la siguiente acción. Y esta es la forma en que se realiza este tipo de bucle iterativo. Así que, cada vez que llamamos a una herramienta, obtenemos una respuesta y pensamos en la siguiente acción.

Notamos aquí que el número de herramientas que podemos dar al LLM es limitado. Y la razón es que tenemos un costo. Cada herramienta, como dijimos, se da con alguna descripción en lenguaje natural y con alguna especificación de API. Y a veces podríamos querer dar incluso algunos ejemplos de cómo usar la herramienta para que el LLM realmente haga las llamadas correctas. Y estas cosas entran en la ventana de contexto y pagamos con tokens. Sabes que los LLMs se pagan por token. Y cuantas más herramientas añadimos, mejor, más hay espacio para que el LLM cometa errores en el sentido de que puede no elegir la herramienta correcta. O tal vez la elijo pero no la llamo de la manera correcta. Así que, debe haber algún tipo de limitación.

Usualmente esto es prueba y error y realmente depende de la herramienta. Pero como regla general, definitivamente no recomendaría dar más de 10 herramientas al LLM. Sería demasiado. Usualmente lo hago con cinco o seis herramientas como máximo. Más que eso, el LLM comienza a cometer errores. Y como dijimos, el marco React tiene un bucle y necesitamos tener algunos subcriterios.

Entonces, damos y lo veremos en el código. Damos al LLM un token de respuesta final que dice que el LLM está indicando que ha llegado a una respuesta final. Y luego, cuando pasamos su respuesta, sabemos que no necesitamos llamar a otra herramienta porque ahora tenemos la respuesta final. Pero a veces este agente del LLM no funciona y puede entrar en un bucle infinito. Así que, también tenemos un criterio de parada dura en el número de bucles que podemos hacer. Y veremos todo en el código.

Y finalmente, la estructura básica del prompt de React se ve así. Este es exactamente el prompt que vamos a usar en el código. Así que, primero le decimos al LLM lo que hicieron. Porque muchas veces vamos a hacer preguntas al LLM que están relacionadas con fechas específicas. Por ejemplo, ¿cuál es el clima de mañana? ¿Cuál fue el precio de las acciones de NVIDIA la semana pasada? Así que, el LLM necesita saber qué fecha es. Y luego le pedimos que responda la pregunta lo mejor que pueda usando las siguientes herramientas. Aquí le estamos dando la descripción de las diferentes herramientas que puede usar. Por ejemplo, vamos a tener búsqueda web y codificación. Así que, la descripción de estas herramientas estará aquí. Y luego le pedimos al LLM que use el siguiente formato. Primero está la pregunta que necesita ser respondida. Esto es algo que vamos a dar. Y luego el pensamiento que el propio LLM está haciendo sobre cuál debería ser la tarea que necesita llevar a cabo y la acción. Que es elegir una herramienta específica de la lista de herramientas que le dimos.

Y aquí tenemos la lista de solo nombres. Y luego la entrada a la acción sería usualmente la llamada a la API, una llamada a la API válida según la descripción que acabamos de dar al LLM. Y luego una observación que el LLM está recibiendo de la herramienta. Obviamente, esto necesita ser envuelto con un código que realmente obtenga este tipo de observación de vuelta y las coloque de nuevo en el prompt. Así que, eventualmente en cada paso, este prompt se acumula con el tiempo. Así que, cada vez va a obtener su pensamiento previo, sección previa, observaciones previas y así sucesivamente hasta que termine. Así que, cada paso que hacemos con el React se vuelve más y más costoso. Esta es otra razón por la que no querríamos hacer algo que tome demasiados pasos.

Y esto se repite n veces hasta que obtenemos la respuesta final y le pedimos al LLM que diga Ahora sé la respuesta final. Y luego dado y luego el LLM va a dar este token especial de respuesta final. Y aquí daría la respuesta final a la pregunta de entrada y luego le pedimos que comience. Así que, este es el prompting básico de React que vamos a usar.

Y eso es todo por mi parte. Y sin más preámbulos, pasemos a la masterclass práctica en sí. Idan, el escenario es tuyo. Sí, gracias, Amit. Así que, hola a todos. Primero voy a compartir con ustedes un enlace para el repo que pueden clonar si quieren seguir y escribirlo conmigo. Así que, lo envié en el chat. Podemos esperar como dos o tres minutos hasta que todos tomen el repo, lo clonen. Mientras tanto, solo explicaré un poco sobre este repo. Y también, compartiré mi pantalla. Solo un segundo. Sí, genial.

Así que, básicamente, lo siento. Primero que nada, este es el repo si alguien está usando VS Code entonces tal vez no sepa cómo clonar desde la terminal. Así que, pueden ir aquí, podría estar en su lado izquierdo porque lo moví al lado derecho en mi computadora. Y pueden simplemente hacer clic aquí y luego aquí y hacer clonar y dar la URL.

Puedes obtener la URL desde aquí también. Creo que puedes usar el HTTPS, pero si no, puedes intentar con el SSH, solo cópialo y clónalo.

Así que, este es un proyecto de TypeScript. Es bastante básico. No tiene muchas cosas. Es un Node.js, por cierto. No lo dije. Comenzaremos con un Node.js y luego al final, si tenemos tiempo, te mostraré cómo podemos conectarlo a React. Pero, básicamente, la lógica principal del agente se realiza en Node.js. No es realmente necesario saber mucho sobre Node y TypeScript. Es bastante básico. Si sabes programar, entonces creo que es si sabes JavaScript.

Tal vez creo que comenzaré despacio. Si alguien tiene problemas para clonar o algo, entonces compartiré lo que estamos haciendo. Lo subiré más tarde al repo y puedes obtener todo el código. Así que, no te preocupes.

Bien. Así que, vamos a construir un agente. Como Amit mencionó justo ahora. Para empezar, queremos tener un LLM.

Cada agente se basa en algún LLM. Para esta demostración, usaremos la API de Jamba, que es el LLM de 21, que es el mejor del mercado, por supuesto. Solo para mostrarte. También compartiré contigo, por cierto, las claves de la API, y luego después de esta charla, serán descartadas. Todas las claves de la API. Puedes usarlas si estás usándolas ahora mismo. Pero si te gustaría usar el código y jugar con él, entonces tendrás que obtener tus propias claves de la API.

Bien. Así que, solo para mostrarte, esta es la API. Vamos a ejecutarla rápidamente. Comencemos. Bien. Tengo algo de código boilerplate, que es el código seco que no quería escribir desde cero porque no es tan importante. Primero, tenemos una clase que es un LLM. ¿Qué necesitamos para utilizar la API? Por supuesto, puedes leerlo aquí, pero la parte más importante es el modelo. Esas son las opciones. Vamos a usar el Jamba 1.5 large y los mensajes. Los mensajes son requeridos y el modelo es requerido. Así que, puedes ver aquí que estamos creando una nueva clase, constructor. Realmente solo está instanciando las claves de la API y cosas así.

Y básicamente, es una URL con una solicitud post de Axios que va a esta URL y simplemente obtiene la respuesta. Al final, necesitamos extraer la respuesta. Si estás mirando la documentación, puedes encontrar dónde está el contenido que necesitas. Ya lo sé. Así que, está en choices. En el contenido del mensaje del índice cero. Es bastante sencillo.

No hay mucho aquí. La única cosa es respecto al dot end. Así que, si has clonado mi repositorio, ves que tienes aquí dot end example, y hay dos claves de API que vamos a necesitar. Compartiré ambas ahora mismo, y puedes ir al dot end. Puedes renombrarlo. Simplemente elimina el dot example, y luego tendrás dot end y copia lo que voy a enviar, y eso es todo.

No necesitas nada más. Así que, solo un segundo. Sí. Compartiré una por una, para que sea más fácil. Así que, esta es la clave de API 21, y esta es la siguiente clave de API que necesitaremos en un minuto. Sí.

Genial. Así que, como dije, necesitas el dot end, que es como una variable de entorno para la clave API, y eso es todo.

Así que, después de esto, tenemos un chat LLM. Es agradable. Veamos cómo funciona. Por cierto, una cosa más que quería mostrarte es cómo obtener la clave API más tarde, como después de esta masterclass cuando la clave API que proporcioné haya sido descartada. Así que, necesitas ir a AI 21-studio.ai21.com. También estará en el código. Solo necesitas registrarte. Ya tengo un usuario. Así que, cuando llegues aquí, vas a configuraciones, vas a clave API, y eso es todo. Tendrás una clave API. Esto es todo lo que necesitas. Bastante sencillo.

Así que, intentemos usar nuestra API, ¿verdad? Así que, primero que nada, escribiré algunas funciones. Así que, llamémosla como run LLM. Así, podemos simplemente instanciar la clase. Gracias, Copilot. Así que, está importado. Lo siento.

Y luego podemos simplemente usar generate. Así que, si echamos un vistazo a generate, puedes ver que generate tiene algunos args que son opcionales. Así que, esto es lo predefinido. No es realmente importante para este ejemplo. Puedes leer sobre cada uno de ellos. Pero el importante es messages, que puedes ver aquí en la API.

Así que, messages. Tenemos algunos tipos de messages. Así que, casi todos ellos son iguales. Tienen un role y content. Si es un mensaje del sistema, puedes ver que el role es system. Si es un mensaje de usuario, puedes ver que el role es user y el content es solo una cadena. Así que, es un objeto. Es un objeto que tiene role y content. ¿De acuerdo? Y también, por cierto, messages es como un array de messages. Así que, está tipado. Así que, puedes ir aquí y ver que messages es un array de message. Y message es realmente role y content. Así que, proporcionemos lo que necesitamos. Así que, necesitamos messages.

Y es un array que tiene dos opciones. Así que, primero, vamos a usar el role user porque estamos realizando una acción de usuario. Y solo content. Y vamos a preguntarle quién es el Presidente de los Estados Unidos. ¿Verdad? ¿De acuerdo?

Y ahora, simplemente ejecutemos la función. Y para ejecutar este proyecto, solo necesitas ir al terminal. Necesitas ver dentro de la carpeta de este proyecto y simplemente ejecutar NPM. Y debería funcionar. Veamos. Tomará un segundo. Con suerte. Oh, espera. Lo sé. Entonces, generate no hice console log y también generate es una función async. Así que, necesitamos esperar y obtener la respuesta. Lo siento por eso. Y vamos a imprimir la respuesta. Así que, el chat LLM. Genial. Así que, ahora podemos ejecutarlo.

Y con suerte funcionará. Así que, ves que obtuvimos una respuesta. Esto viene directamente del LLM. Genial. Tal vez no sea realmente como la más actualizada. Depende de los EE.

UU. Así que, ahora tenemos un LLM. Genial. Ahora, como Amit te dijo, un agente es esencialmente un LLM que utiliza herramientas. ¿De acuerdo? Entonces, ¿qué son las herramientas? Así que, primero que todo, necesitamos definir, básicamente, las herramientas son cosas que el LLM puede usar si quieres realizar algunas acciones que le ayudarán a llegar a la respuesta final. Así que, por ejemplo, podría ser una búsqueda en Google. Así que, usaremos la API de Google. Puede ser una búsqueda en LinkedIn. Puedes construir una herramienta que use la API de LinkedIn. Puede ser algo para, como, código. Como, ejecutar código, tal vez. Cosas así. Te mostraré dos ejemplos de herramientas. La primera es la herramienta de búsqueda de Google.

Es un sitio web que te proporciona una API de Google search. Así que, de nuevo, te estoy proporcionando la clave de API como ya la compartí en el chat. Es la segunda, la clave de la search API. Y ahora te voy a mostrar cómo la vamos a usar. También es bastante sencillo. Y luego vamos a escribir un poco más de código.

Una cosa que quiero hacer antes. Así que, porque es una herramienta, necesitamos proporcionar alguna interfaz para todas las herramientas. Así que, todas las herramientas serán iguales. Y luego las ejecutamos de la misma manera. Porque el agente necesita, como, la misma interfaz para todas ellas. Así que, vamos a crear una interfaz. Vamos a definir, como, ¿qué necesitamos? Así que, primero que todo, necesitaremos proporcionar un nombre. ¿De acuerdo? Así que es como un ID. Lo siento. Así que es, como, solo algo para identificar la herramienta. Interfaz. Sí. De acuerdo. Así que preferimos, como, algo que sea más, como, lenguaje natural.

Sí. De acuerdo. Así que, preferimos, como, algo que sea más, como, lenguaje natural. Porque LLM es como lenguaje natural. Y también, necesitamos una descripción. Así que, podemos proporcionar al LLM, una descripción de la herramienta. Así, sabrá qué es la herramienta y por qué, ¿en qué puede ayudarle?

Como, ¿qué puede hacer? Así que, por ejemplo, si es una búsqueda en Google puedes decirle que verás en un segundo. Pero puedes decirle que esta es una herramienta que puedes buscar en internet, bla, bla, bla. Y necesitamos alguna función para poder usarla. Así que, llamémosla función de uso. Y esta función de uso va a recibir algunas cadenas, cadenas de entrada. Así que, puede ser una cadena de consulta. Y será, como, una cadena de promesa.

Porque va a ser una función asíncrona. Vamos a ejecutar, por ejemplo, si es una búsqueda en Google, vamos a ejecutar una solicitud de API. Así que, así es como definimos una herramienta. Y ahora, vamos a la búsqueda en Google. Y aquí tenemos de acuerdo, así que, preparé aquí solo, como, de nuevo, funciones simples. Una función es solo una solicitud get que va a la URL de la search API y solo devuelve una respuesta. Nuevamente, necesitamos extraer la respuesta.

Llamémosla herramienta de búsqueda de Google. Sí. Gracias, copilot. Entonces, debería implementar la herramienta. Debería tener un nombre, ¿verdad? Porque definimos, te mostraré porque necesita implementar la herramienta. Así que, necesitamos implementar todas las propiedades que hemos definido aquí. Así que, la primera debería ser búsqueda de Google, supongo. Pero la descripción tendrás que perdonarme porque tengo la descripción rehecha porque ya jugué con ella y solo quería, como, algo que funcione bien. Así que, la descripción es solo para decirle al LLM qué puede usar y, como, qué hace esta herramienta. Así que, obtener información específica de una consulta de búsqueda. La entrada debería ser una pregunta, como, cómo sumar dos números en closure. El resultado será la respuesta a la pregunta. Así que, es algo bastante básico.

Y ahora necesitamos definir la función de uso. La cual, exactamente como ves aquí, obtiene la cadena, ¿verdad? Puedes ver aquí que obtiene una cadena de entrada y devuelve una promesa. Así que, esta es la búsqueda. Así que, la búsqueda se define aquí la consulta, el motor que queremos usar, la clave de API. Vamos a esta función. Estamos haciendo Axios.get. Estamos obteniendo el resultado.

Y estoy, como, iterando sobre todos los resultados y simplemente haciendo, como, un gran resultado. Como, una cadena. Entonces, estamos recopilando el resultado en un array. Y luego haciendo join con espacio en blanco, lo que lo convierte en una cadena. Y eso es todo. Ahora tenemos la respuesta. Y podemos usar esto en nuestro como una herramienta.

Vamos a ver que funciona. Entonces, de nuevo, función y Google search. Sí. Necesitamos importarlo. Así que, estoy instanciando la herramienta de búsqueda de Google. Solo la usaré. Vamos a hojear algo. Como, ¿cuál es el clima en Tokio? ¿Cuál es el clima hoy en Tokio? Sí. Bien. Entonces, ejecutemos esta función. Oh, sí. Tenemos un reloj. Así que, está recargando.

Entonces, puedes ver que la búsqueda de Google ha respondido. Martes. Blah, blah, blah. 20% intervalos de sol y nubes. Lo que sea. Genial. Bien.

Entonces, ahora tenemos un LLM y tenemos una herramienta. Una herramienta de búsqueda de Google para este ejemplo. Y queremos hacer que trabajen juntos. ¿Verdad?

Así que, ahora, llegamos a la parte divertida de construir el agente. Entonces, tenemos un agente. El agente esencialmente tiene el prompt, que es el mismo prompt que Amit te mostró en la presentación. Y puedes ver aquí, tenemos la llave. Y luego tenemos las tenemos las llaves. Así que, todas ellas, necesitaremos reemplazarlas con datos reales. Así que, por ejemplo, hoy será la fecha de hoy. A descripción. Así que, por ahora, solo tenemos una herramienta. Así que, tendremos la descripción que yo proporcioné sobre la búsqueda de Google.

Así que, esta es la pregunta del prompt, la pregunta de entrada que debes responder. Comenta sobre lo que quieres hacer a continuación. La acción es tomar exactamente un elemento. Porque queremos que en cada iteración, use solo un elemento. De las herramientas que le estamos proporcionando a él. Primero, vamos a tener solo la búsqueda de Google. Pero más tarde verás cómo tenemos más.

Y luego, como, cada acción es como la herramienta que él quiere usar. Y la entrada de acción es realmente la entrada que él quiere que obtuvo de esta herramienta. Observación. Lo siento. Observación es el resultado de la herramienta. Y la entrada de acción es la entrada que vamos a proporcionar a la herramienta. Y luego, como, lo hará, como, un par de veces.

Repetir. Como ves, repite n veces. Úsalo hasta que estés seguro de la respuesta. Luego, cuando él sepa la respuesta, entonces, él tendrá debería tener este pensamiento que dice sé la respuesta final. Y luego, debe proporcionar, como, esta respuesta final coma. No, coma.

Lo siento. Verás en un segundo por qué. Y la respuesta final a la pregunta de entrada original. Así que, aquí también reemplazaremos la pregunta con, como, la pregunta real que pondremos aquí. Y respuestas anteriores, es como la historia. ¿Verdad? Así que, como, debería tener, como, unas pocas iteraciones.

Así que, cada iteración, será, como, recopilar más respuestas. Bien. Así que, tenemos una clase llamada agent. Y como puedes ver, tenemos un LLM. Así que, necesitamos proporcionarle un LLM y herramientas. ¿Verdad? Así que, herramientas es un array de herramientas. Lo que significa que puede ser una o más herramientas.

El prompt. Así que, aquí en este caso, cuando lo estamos instanciando, solo estamos tomando el prompt original que tenemos aquí. Max loops es solo, como, para definir algo. Solo un número máximo de bucles. Así que, no llegaremos al bucle infinito. Y el patrón de parada, así que, puedes ver aquí que a veces el LLM está alucinando.

Creo que Amit todavía está aquí. Tal vez él pueda explicarlo mejor. Amit, ¿quieres explicar el patrón de parada? Sí. Está bien. No importa. Pero puedes leer todo sobre ello más tarde. Así que, llegaremos a esto.

Pero estos son solo getters que yo pre-hice. Los explicaré en un segundo. Y luego queremos ejecutar nuestro agente. Así que, digamos que el agente recibe alguna pregunta. Y ahora, necesitamos saber qué hacer. Así que, queremos implementar.

Bien. Entonces, lo primero que queremos hacer es crear un array de strings con las respuestas anteriores que serán nuestro historial de respuestas. Num loops es solo para el bucle. Debería ser let. Num loops. Y el prompt. Así que, tomamos el prompt original y queremos reemplazar todas las llaves con los datos reales que tenemos.

Entonces, en tiempo de ejecución, reemplazamos el today con la fecha y el description con estos getters. Entonces, la descripción de la herramienta en este caso será solo iterar sobre todas las herramientas que tenemos. Lo siento, alguien. Entonces, iterando sobre todas las herramientas y creando una lista del nombre de la herramienta, la descripción de la herramienta. Entonces, esto estará aquí y puedes ver que aquí tendremos una descripción, un nombre de herramienta y descripción. Nombre de herramienta, descripción. Y luego exactamente dos nombres. Esto también es solo unir los dos nombres. Y herramienta por nombres lo verás más tarde cuando escribamos el código.

Y queremos reemplazar la pregunta con la pregunta. Genial. Entonces, primero, vamos a escribir nuestro bucle while. Entonces, vamos a iterar hasta que tengamos una respuesta o alcancemos el máximo de bucles. Entonces, mientras num loops sea menor que max loops, queremos hacer algo. ¿De acuerdo? Entonces, primero queremos comenzar a generar, bueno, casi. Entonces, sí. Entonces, queremos esta parte. ¿Verdad? Entonces, queremos generar la primera pregunta. Entonces, esta será la primera pregunta que queremos hacer. Es lo mismo que hicimos aquí.

Solo con el prompt que obtuvimos de aquí. ¿Verdad? Entonces, queremos hacer una cosa más, como, ajustar el prompt. Entonces, podemos tomar, como, llamémoslo el prompt actual. Porque en cada bucle, cada iteración, perdón, nos gustaría incluir el historial previo. Entonces, también nos gustaría, como, concatenar el historial. Entonces, puedes ver que podemos tomar este prompt y simplemente reemplazar la respuesta anterior con, como, las llaves, como, el marcador de posición para respuestas anteriores con las respuestas anteriores. Entonces, es un array. Así que lo unimos y luego, como, lo hacemos, como, una lista. Así que, solo un segundo. Déjame ver que estoy en lo correcto. Sí. Bien. Y este es el prompt que nos gustaría enviar aquí. Genial. Solo escribí cosas para no olvidar. Así que solo estoy mirándolo. Sí. Y también tuve, como, un pequeño problema con eso. Que a veces simplemente, como, añade otro pensamiento extra. Como, la palabra pensamiento.

Te mostraré. Ves aquí, tienes este pensamiento. Entonces, a veces añade uno extra. Así que, solo para estar seguro. Sí.

Entonces, creo que deberíamos, como, reemplazarlo. Así que, como, estamos simplemente eliminando, reemplazando, simplemente encontrando esto. Si lo encuentra, lo elimina. A veces es con este espacio en blanco. Así que, lo eliminará. Y debería estar bien.

Así que, tengo una respuesta. Genial. Ahora, ¿qué quiero hacer con esta respuesta? Bien. Entonces, voy a tomar esto y simplemente ponerlo aquí y comentarlo por un segundo. Y nos gustaría tener una respuesta. Y para cada respuesta, nos gustaría extraer la herramienta que va a usar y, como, cuál es la entrada de esta herramienta y, como, decidir si hemos terminado con los pensamientos o tenemos diferentes pensamientos. Como, nos gustaría decidir cuál es nuestra siguiente acción.

Y te prometo que lo entenderás en un segundo. ¿De acuerdo? Así que, solo un segundo.

Bien. Así que, vamos a hacer simplemente private async. Async side next action. Así que, sí. Así que, básicamente, obtiene el prompt. Y esto es incorrecto. Así que, lo que queremos devolver es solo un array de, como, una tupla, pero tres elementos. Y alguien está hablando. Lo siento.

Bien. Y algo Y algo aquí.

No está bien. Sí. Así que, tengo una función que se llama the next action. Y tenemos un prompt aquí. Y queremos devolver tres cosas. ¿De acuerdo? Así que, ¿qué queremos?

Así que, definamos lo que queremos devolver. Primero queremos devolver la herramienta que el LLM ha decidido que quiere usar. Otra cosa es la entrada de la herramienta, que es lo que el LLM va a ingresar a la herramienta. Así que, por ejemplo, si va a ser una búsqueda en Google.

Así que, ingresarás la búsqueda que se va a realizar a través de la API. Y también, nos gustaría saber, como, así que, y, como, obtener solo la respuesta generada. Así que, por ejemplo, podemos simplemente mover la respuesta aquí. ¿Verdad? Así que, como, así que, solo piénsalo como, como una función que está haciendo una respuesta de esta respuesta. Obtiene la herramienta, la entrada y la respuesta generada.

Y luego es, como, decidiendo la siguiente acción una y otra vez hasta que alcanza la respuesta final. Bien. Así que, si tenemos una respuesta final, queremos detener el bucle. Pero lo verás en un segundo. Bien.

Así que, cada respuesta va a estar en este formato. ¿De acuerdo? En acción y entrada de acción. Así que, necesitaremos extraer la acción y la entrada de acción para tener la herramienta y la entrada de la herramienta. Es lo mismo. ¿De acuerdo?

Así que, veamos. Así que, tenemos una respuesta. Y queremos analizar la respuesta para obtener la herramienta y la entrada de la herramienta. Lo siento, no aquí. Voy a eliminarlo. Esta respuesta. Pero queremos analizarla. Escribamos el método parse en un segundo.

Así que, tenemos el parse. Y parse está obteniendo la respuesta, por cierto, aquí. Bien. Y parse nos devolverá la herramienta. La entrada de la herramienta. Y también podemos y luego podemos devolver la herramienta, la entrada de la herramienta y la respuesta del LLM. Y ahora escribiré y solo estoy guardando para que lo formatee. Sí.

De acuerdo. Lo formateará. De acuerdo. Así que, escribamos parse.

Así que, correcto. Parse obtiene la respuesta y devuelve una cadena. Que es la herramienta y la entrada de la herramienta. ¿Y cómo lo hacemos?

Así que, primero que nada, veamos si la respuesta tiene la respuesta final. Porque si tenemos la respuesta final, estamos bien. Estamos listos para continuar.

Así que, podemos verificar si la respuesta incluye la respuesta final.

Y luego podemos tomarlo y ponerlo aquí. Sí. Entonces, si nuestra respuesta incluye el token final, ¿verdad? Entonces, podemos simplemente devolver la herramienta con el nombre, respuesta final. Que es nuestra herramienta. La respuesta final, de hecho. Y la respuesta final. ¿Cómo obtenemos la respuesta final?

Podemos hacer bien. Entonces, sí. Podemos realmente dividir sí, podemos dividirlo con el token, tal vez. Y tomar el token. Y queremos, de hecho, prefiero tal vez hacerlo así. Entonces, podemos sacar lo siento. Supongo que esto necesita ser algo así. Sí. Genial.

Entonces, sacar solo toma el último elemento del array. Y luego simplemente lo recortamos y obtenemos la respuesta final. Entonces, básicamente, solo una explicación rápida. Entonces, imagina que esta sería la respuesta final. Esto es cómo se vería.

Sería algo como esto, y algo como esto. Entonces, nos gustaría dividir esto. Y simplemente obtenemos esta parte. Y esa es la respuesta. ¿De acuerdo? Entonces, esto es si tenemos la respuesta final. Pero, ¿qué pasa si no tenemos la respuesta final? Entonces, ¿qué queremos hacer? Queremos simplemente hacer como una cadena, ya sabes, como manipulación de cadenas un poco, tal vez.

Entonces, nos gustaría encontrar algún regex que tome la acción y la entrada de acción como viste aquí. Tenemos la acción y la entrada de acción. Y queremos buscar dónde está dentro de nuestra respuesta. Entonces, no soy tan bueno con las expresiones regulares, lo siento. Así que, tendrás que ver simplemente regex predefinidos. Pero de nuevo, puedes jugar con el regex. Puedes preguntar a SGPT, otros LLMs, Cloud, lo que sea, y simplemente obtener el regex correcto para lo que necesitas. Y veamos. Entonces, simplemente obtengamos el regex. Así es como usamos regex en JavaScript. Nos devuelve y se llama el grupo de captura. El grupo de captura es como un grupo de las cosas que se capturaron, ¿verdad? Así que, obtuvo la acción y la entrada de acción. Así que, obtengamos la acción. Entonces, si queremos obtener la acción, será sí.

Estará bien. Entonces, ¿sabes qué? Solo déjame, lo siento. Entonces, si no hay coincidencia, lanzaremos un error. Sí. Pero no pasaremos la respuesta. Pero si tenemos coincidencia, también se obtiene si está en el índice cero, es solo el índice dentro del texto donde encontró la palabra. Entonces, no estamos interesados en esto.

Los grupos de captura comienzan desde uno, dos, tres. Depende de cuánto necesitemos. Así que aquí solo tenemos dos. Entonces, el primero estará aquí. Lo recortaremos. Entonces, esta es la acción y la entrada de acción está sí. De hecho, en el segundo índice. Tuve algún problema con el segundo que es como agregar comillas adicionales. Así que también encontré un método de reemplazo para eliminar las comillas.

Y ahora creo que podemos sí. Entonces, podemos devolver ambos. Y tenemos la acción y la entrada de acción. Llamémoslo herramienta.

Genial. Entonces, parse ahora está devolviendo ambos. Estupendo. Así que, ahora tenemos esos tres.

Y básicamente, creo que estamos bien. Estupendo. Así que, podemos decidir nuestra próxima acción. Aún no está completo. Pero verás en un segundo lo que vamos a hacer.

Aquí tenemos el prompt que necesitamos enviar para decidir la próxima acción. Así que, sí. Llamamos a decide next action. Obtenemos la entrada de la herramienta y la respuesta. Estupendo. Ahora, solo quiero ver que no olvidé nada. Sí.

Así que, de nuevo, si la herramienta es la respuesta final, queremos detener el bucle y simplemente devolver la entrada de la herramienta que es como la la respuesta final. ¿Verdad? Genial. Pero, ¿qué pasa si no tenemos la respuesta final? Así que, primero que nada, queremos verificar que la herramienta sea parte de nuestras herramientas existentes. Porque si, por ejemplo, por alguna razón esto dice otra cosa y no tenemos esto en nuestra lista de herramientas, entonces realmente no podemos usarlo.

Así que, podemos hacerlo, ves aquí tengo tool by names. Es básicamente un objeto. ¿Verdad? Es como porque es un getter. Así que, simplemente tomamos todas las herramientas, las tenemos, hacemos un objeto y el objeto será como el nombre de la herramienta y la herramienta real. Como, básicamente las funciones reales y todo.

Así que, simplemente podemos verificar si la herramienta está en. No pienses que es algo, sí, algo así. Tools by name. Bien. Así que, si digamos que no está, bien. Si no es parte de nuestras herramientas. Así que, simplemente lancemos algún error. Pero si lo es, ahora sabemos que lo es. Así que, simplemente podemos hacerlo, básicamente, bien.

Ahora podemos hacer tool by name. ¿Verdad? Y simplemente tool. Y ahora ves que tenemos esto. Así que, porque sabemos que esto es una herramienta, sabemos que tenemos el nombre de la descripción y el uso, simplemente podemos usar la función y darle el prompt. ¿De acuerdo? Necesitamos esperar. Y necesitamos obtener la respuesta.

Genial. Así que, imagina que esto tiene algunas herramientas. Y sabemos que queremos usar Google search, por ejemplo. Así que, vamos a herramientas en el nombre Google search y luego podemos usar la función que llamará al Google search API con esta respuesta. Y tenemos y luego obtenemos la respuesta.

Así que, ahora ¿qué queremos hacer? Simplemente formateemos nuestra observación, sí. Porque necesitamos saber cuál es nuestra siguiente acción, ¿verdad? Así que, necesitamos hacer una observación que es formatear la respuesta de este paso para el siguiente. ¿De acuerdo? Así que, aquí veamos qué necesitamos. Así que, necesitamos obtener la respuesta primero. Así que, queremos la respuesta y queremos simplemente así que es una respuesta. Y luego es el token de observación. Te mostraré en un segundo qué significa. ¿De acuerdo? El resultado de la herramienta, la entrada de la herramienta en realidad está aquí. Sí. Así que, solo un segundo. Lo siento. Lo siento. Sí. Lo siento. No.

Necesitamos la respuesta aquí. Y luego el sí. Y necesitamos añadir otro token. Explicaré esto en un segundo. Solo en un segundo. Sí. Así que, y esa es nuestra cadena. Aquí. Entonces, ¿por qué necesito esto? Así que, si miras este patrón, verás que tenemos una observación. Y podría ser la respuesta final. Podría ser el siguiente prompt. Así que, aquí es lo mismo. Simplemente nos gusta crearlo como otra parte de la plantilla, que será como una adición de esto para el siguiente.

Así que, estamos recopilando el historial de los pensamientos que el LLM está generando. Y luego queremos recordar que tenemos el array de respuestas anteriores. Así que, solo queremos añadir esto al array de respuestas anteriores. Así que, solo la observación.

¿Y sabes qué? Vamos a imprimirlo para que podamos ver paso a paso cómo piensa el LLM. Así que, sí. Y así que, no estoy seguro de por qué necesitamos devolver algo, supongo. Así que, falta algo aquí. Así que, solo un segundo. ¿Qué me estoy perdiendo?

Devolvemos la entrada de la herramienta, que es una cadena. Así que, lo que acabamos de hacer, bien. Así que, finalmente, tenemos solo dos opciones para salir de nuestro bucle, ¿verdad? Así que, una es si nos quedamos sin iteraciones. Y la segunda es cuando obtenemos la respuesta final y queremos devolver la herramienta. Y así, si no lo hicimos, significa que alcanzamos el máximo de bucles. Así que, lanzaremos un error. Así que, este es básicamente nuestro agente.

Y ahora puedes ver que podemos usarlo, ¿verdad? Así que, veamos cómo lo usamos. Así que, de nuevo, tengo una función async run agent, sí. Podemos instanciar un LLM como lo hicimos aquí. Y nos gustaría instanciar nuestro agente. Así que, sí. Y ahora, ¿qué necesitamos pasarle al agente? Así que, lo siento. Importamos el correcto. Así que, este es nuestro agente.

Y si llegamos al constructor, verás que necesita dos cosas. Es el LLM y las herramientas. Así que, pasémosle el LLM. Y el array de herramientas con la búsqueda de Google.

Y luego podemos simplemente ejecutarlo. Y así, está bien. Entonces, necesitamos proporcionar la pregunta. Tengo esta pregunta aquí. Bien. Aquí hay una buena pregunta. ¿Cuánto dinero generó la película Titanic? ¿Cuánto dinero generó la película Avatar? ¿Quién generó más dinero? Así que, necesitará hacer algunos pasos, ¿verdad? Necesita ir a internet, buscar cuánto dinero generó la película Titanic, luego Avatar y luego decidir quién hizo más dinero.

Y hagamos un console log de la respuesta. Console log de la respuesta. Genial. Ahora, ejecutémoslo. Y veámoslo en acción. Así que, veamos qué hace. Sí. Toma tiempo. Extraño.

Creo que olvidamos. Sí. La codificación en vivo nunca va bien.

Está bien. Estoy viendo que alguien hizo preguntas en el chat. Solo voy a mirar y luego tal vez responderé las preguntas en el chat. ¿Respondiste? Genial.

Está bien. Entonces, de nuevo, intentemos una vez más. Y luego, si no, vamos a depurarlo. Sí. Está bien. Entonces, llegó a la respuesta final, pero quería imprimir un poco más. Así que, algo aquí es extraño. Tenemos aquí solo un segundo, déjame pensar. Entonces, si la herramienta es la respuesta final, queremos devolverla. Si no, entonces la vamos a usar. Intentemos de nuevo. No sé por qué no imprime esto. Dame un segundo.

Solo me aseguro de que no olvidé nada. Entonces, tal vez necesitemos algo aquí. Sí. Creo que podemos agregar aquí tal vez uno más. Algo como esto. Sí.

Está bien. Veamos. Todavía no imprimí. Alguien escribió algo. Sí. Se publicará, el código. Lo tengo funcionando. Te lo prometo. No estoy seguro de por qué no lo está. Pero ¿sabes qué? Tengo una copia de seguridad. Así que, veamos.

Entonces, este es, de nuevo, el mismo código, exactamente. Exactamente el mismo código, pero también podemos asegurarnos de que tomo el correcto. Entonces, el generado es el solo quiero asegurarme de que lo estoy girando en el orden correcto.

Sí. Entonces, la respuesta es la tercera. ¿Verdad? Entonces, podemos ponerlo aquí. Entonces, esta es la respuesta, el token de observación, la entrada en él y el token de pensamiento. Sí. Creo que sé cuál era el problema. Entonces, veamos. No estoy seguro de por qué. Tal vez solo iré a este repositorio que sé con certeza que está funcionando, pero quiero mostrarte cómo funciona. Entonces, aquí puedes ver que es el mismo código. Algo falta allí, supongo. Pero es el mismo. Entonces, podemos ejecutar stack. Sí. Está bien. Lo tenemos. Más o menos. Entonces, puedes ver que primero, tuvo el primer pensamiento. ¿De acuerdo? Entonces, pensamos cómo continuar. Así que intentó Entonces, ¿cuál es la acción que voy a tomar? Voy a hacer una búsqueda en Google.

¿Qué voy a buscar en Google? Cuánto hizo Titanic. ¿Verdad? Ingresos de la película Titanic. En realidad, fue Titanic película hizo. Entonces, necesita saber cuánto hizo la película Avatar. Así que hicimos lo mismo Entonces, usó la herramienta de búsqueda de Google. ¿Verdad?

Genial. Ahora, pensemos que, sí, así que, vamos a continuar aquí. Aunque, esto no está funcionando, pero escribiré el código, y te mostraré allí está en el resultado final, pero sigue siendo lo mismo. Así que, queremos agregar otra herramienta. Así que, creé otra herramienta aquí que es, lo siento, llamada Code Runner. Code Runner es como un CLI de Node.js. Básicamente, solo ejecuta Eval. Eval, para aquellos que no lo saben, es solo una función. No es un, no deberías usarlo en producción. Deberías usar otra cosa en producción, pero para este propósito de demostración, Eval solo toma una cadena válida, que es un código JavaScript válido, y puede evaluarlo, y luego, como, obtener la salida. Y lo verás en un segundo.

Así que, de nuevo, esta es una herramienta, ¿verdad? Así que, queremos usarla. Así que, definamos esta herramienta. Entonces, si es una herramienta, necesita, lo siento, necesita implementar la interfaz de herramienta. Entonces, si implementa la interfaz de herramienta, necesita un nombre.

Así que, JavaScript Code Runner, supongo, es un buen nombre. Descripción, tengo una descripción, de nuevo, como, Remade. Sí. Así que lo pegaré y te mostraré. Entonces, la descripción es solo un JavaScript Code Runner. Usa esto para ejecutar comandos de JavaScript. La entrada debe ser un comando de JavaScript válido. Si quieres ver la salida, debes imprimirla con console.log. Eso es todo. Entonces, cuando necesitamos implementar la función use, obtenemos las cadenas de entrada y devolvemos cadena.

Así que tengo aquí una función de utilidad llamada clean code, porque el LLM genera la cadena con este markdown. Así que necesitamos eliminar el markdown de JavaScript. Y por eso tienes el clean code. Así que, esto es así, obtiene un código, y luego realmente devuelve algo. Así que aquí podemos simplemente ejecutarlo así. Y ejecutar el código. Genial. Runner es solo una función. La función run, eso es todo. Así que déjame mostrarte cómo se ve.

Entonces, de nuevo, función. JavaScript. Así que, genial. Entonces, tal vez hagamos algunos cálculos, porque probablemente quieras usar cálculos con JavaScript. Así que, imagina que esto es, esto es realmente un código de JavaScript. Así que, estoy haciendo aquí console log, 7 por 5, que es 35, creo. Así que, veamos si esto imprime lo que queremos imprimir. Sí, abriré una nueva instancia del terminal. Solo un segundo. Así que, podemos ejecutarlo. Y puedes ver que realmente ejecuta códigos de JavaScript. Muy bien. Así que, 7 por 5 en el console log, y luego se imprimió. Y ahora, podemos realmente hacer una herramienta que use lo mismo que vimos aquí, pero podemos añadir otra, otra herramienta al agente. Así que, te mostraré aquí. Pero es lo mismo. Así que, puedes ver. Así que, llamémoslo una herramienta múltiple, por ejemplo. Así que, tenemos el agente, nuevo agente. Instanciamos el chat LLM.

Obtenemos la herramienta de búsqueda de Google del ejemplo anterior y también le damos la herramienta de JavaScript. Y podemos hacerle preguntas. Así que, podemos preguntarle, por ejemplo, encuentra el costo total del consumo de café en un año en Londres. Busca los precios promedio del café. Así que, probablemente se dará cuenta de que tiene que buscar en internet los precios del café. Y luego el consumo típico por día y usar JavaScript para calcular el gasto anual en libras esterlinas, incluyendo fines de semana y días laborables.

Genial. Así que, veamos cómo lo hace. Así que, tenemos la herramienta múltiple aquí y podemos ejecutarla. Así que, hicimos una búsqueda en Google, otra búsqueda en Google, otra búsqueda en Google, otra más. Ahora, él está bien. Comenzaré desde el principio rápidamente. Hizo una búsqueda en Google del precio promedio de una taza de café en Londres. Obtuvo algún resultado. Otro es como el café típico por día. Obtuvo algunos otros resultados. Como 428 tazas. Bla, bla, bla. Obtuvo algunos datos que necesitaba. Creó el código JavaScript.

Luego calculó todo, lo registró en la consola aquí. Ejecutó todo este código y obtuvo la respuesta final. Entonces, la respuesta final es que el costo total del consumo de café en un año en Londres es 1,008.

Bien. Entonces, este es el agente. Estas son las herramientas. Eso es todo.

Si tenemos más tiempo, no estoy seguro. No lo creo, pero puedo mostrarte como una demostración realmente rápida de un WebSocket que tal vez use esto en React, ¿verdad? Entonces, puedes ver que tengo un servidor WebSocket, que es un WebSocket realmente simple que abre conexiones y recibe eventos. Y luego, el evento puede ejecutar como realmente muestra lo que genera.

Por ejemplo, también puedo mostrarte que tengo un servidor WebSocket de React que básicamente solo no voy a mostrarte como entrar en el código, pero es solo un WebSocket que cuando se monta, simplemente crea un WebSocket. Se conecta a mi WebSocket. Y luego, puedes ver aquí que si hago NPM run dev, esta es una aplicación React, una aplicación React realmente básica, que puedo aquí. Entonces, ves que el WebSocket está desconectado y también puedo conectarme a este WebSocket. Así que ahora, estoy iniciando el WebSocket. Y si actualizo, puedes ver que ahora podemos escribir. Y puedo tomar tal vez uno de los ejemplos que tenía aquí. Así que, como una pregunta sobre la película Titanic y Avatar. Y puedo pegarlo aquí y simplemente hacer clic en enter. Y deberíamos ver los pensamientos a medida que avanzamos.

Así que, como sé la respuesta final. Titanic movie generated, bla, bla, bla. Así que, esto es lo mismo que vimos en el terminal. Pero ahora lo vemos en React. Es una forma realmente, realmente agradable de usar este agente.

Yadan Shachmurove Muchas gracias, Yadan. Y este fue de hecho un ejemplo muy, muy agradable de un agente que puede usar multitools. Puede codificar. Puede buscar en la web. Y básicamente, muchas pruebas, diría que incluso la mayoría de las pruebas que pueden ser resueltas por un agente Gen AI o un agente LLM pueden ser resueltas usando estas dos herramientas.

Así que, puedes y deberías tomar el código que se publicará después en el Git y realmente ir e implementarlo. Y si quieres tener más información, así que, en el último minuto que tenemos, solo compartiré contigo. Así que, hay algunos lugares que realmente recomiendo.

El primero es Langchain. Así que, Langchain usualmente usa React en el backend. Tienes buenos tutoriales para agentes JavaScript con Langchain. También explican sobre React. Ellos lo muestran en código. Y también discuten en esta presentación tienen enlaces sobre reflexión y sistema multi-agente.

Y otro marco de trabajo multi-agente muy común es el Microsoft Autogen framework. Está basado en Python y no en JavaScript. Puedes usarlo para casos de uso más avanzados que tienen sistemas multi-agente. Y, sí, estamos justo fuera de tiempo. Así que, tal vez si tienes preguntas finales, lo concluiremos. Idan acaba de publicar el enlace con el código final que puedes probar. Si no hay más preguntas en este momento, todos te agradecemos mucho por unirte a nosotros y esperamos que haya sido útil para ti y que tengas un gran día. Sí. Gracias a todos. Adiós.