Um, pero sí, algo que hemos estado haciendo para gestionar eso, es que hemos estado adoptando esto, como, uh, en lugar de simplemente, tenemos este tipo de prompt masivo del sistema para fairies, como puedes imaginar, todo eso, como los esquemas para las formas y todo, algo que hemos estado haciendo con las cosas más recientes es que simplemente dejamos que lea los documentos. Y así es como un, ya sabes, tipo RLM donde nosotros, um, decimos, Hey, haznos un cuadrado o lo que sea. Y básicamente puede como consultar los documentos para el esquema de un cuadrado. Y así es solo que alguna vez está obteniendo, ya sabes, y luego consulta los documentos para preguntar, ¿cómo creo una forma? Y así es solo que le permitimos obtener solo la información que necesita y añadir algo de latencia, por supuesto. Pero en cuanto al uso de tokens, es una gran ayuda. Eso es bueno.
Creo que esta, esta siguiente pregunta está relacionada, um, en términos de, de datos que deberías. Entonces, ¿los LLMs están usando esquemas JSON o salida tipo XML div? Lo último podría ser eficiente. Dada la gran cantidad de HTML, LLMs, la gran cantidad de HTML con la que los LLMs han sido entrenados. Sí, HTML es realmente interesante. No hemos probado eso. El, um, el, hemos pasado por un montón de cosas. Así que teach lo primero que mostré, que fue el disparo único que usa una cosa tipo HTML para las acciones que produce, um, para el agente starter y para fairies eso está usando JSON.
Um, y luego para las cosas de la aplicación de escritorio, um, lo que eso realmente está haciendo es que está escribiendo, uh, uh, como JavaScript contra el editor y simplemente ejecutándolo localmente en la instancia del editor. Así que si alguien ha usado code mode, uh, o herramientas similares, es básicamente, en lugar de darle al agente un conjunto de acciones que, ya sabes, le permitimos elegir, básicamente estamos como, Hey, aquí está todo el SDK del editor TL draw. Um, y aquí están los documentos y puedes simplemente como escribir, escribir JavaScript que evaluaremos allí. Y ya sabes, eso, todo está ejecutándose localmente. Así que en cuanto a seguridad, está bien para la aplicación de escritorio al menos. Pero, pero sí, así que eso es otra cosa que es, ya sabes, si quieres que haga mil formas antes serían mil llamadas de herramientas o lo que sea, pero este es solo, ya sabes, un bucle for. Así que puedes, en cuanto al uso de tokens y cosas, puedes obtener muchas ganancias de eso también. Me gusta eso. Esa es una buena estrategia.
Comments