Escalando el Aprendizaje Automático Distribuido, hasta el Borde y de Vuelta

Rate this content
Bookmark
Slides

Esta charla cubrirá por qué y cómo las organizaciones están distribuyendo el almacenamiento de datos y el aprendizaje automático hasta el borde. Al llevar el aprendizaje automático hasta el borde, podemos distribuir geográficamente el aprendizaje para que los modelos realmente aprendan cosas diferentes relevantes para ubicaciones específicas. Al entregar tanto la base de datos del borde como la computación en una sola plataforma, más personas pueden hacer la transición a una arquitectura distribuida. Las ganancias de rendimiento de esta nueva arquitectura afianzan el valor que aporta la computación móvil en el borde.

This talk has been presented at JSNation 2023, check out the latest edition of this JavaScript Conference.

FAQ

Jackson Repp es un desarrollador en recuperación y padre de dos hijas, ubicado en Denver, Colorado. Ha participado en ocho startups, con dos salidas exitosas y cinco oportunidades de aprendizaje. Actualmente trabaja para HarperDB, una Plataforma de Aplicaciones Distribuidas.

HarperDB es una Plataforma de Aplicaciones Distribuidas que ha estado en el mercado durante seis años. Está construida completamente en Node.js, aprovechando este lenguaje para simplificar el desarrollo y la implementación.

Jackson Repp se enfoca en el papel de JavaScript en el aprendizaje automático distribuido a escala, explorando cómo se puede utilizar JavaScript para desarrollar sistemas de aprendizaje automático y AI eficientes y distribuidos.

JavaScript, al ejecutarse en prácticamente todos los dispositivos cliente, es ideal para implementaciones de aprendizaje automático en el borde, permitiendo la creación y mejora de modelos directamente en dispositivos de los usuarios, como móviles y navegadores.

Se discuten los desafíos de mantener un rendimiento alto en dispositivos con potencia limitada, como teléfonos o navegadores, y cómo las estrategias de entrenamiento y refinamiento de modelos deben ajustarse para operar eficazmente en estos entornos.

TensorFlow.js es una biblioteca que permite tomar datos, generar un modelo y ejecutarlo en el borde, así como en plataformas móviles. Facilita el uso de aprendizaje automático directamente en el navegador o en dispositivos móviles.

Jaxon Repp
Jaxon Repp
21 min
05 Jun, 2023

Comments

Sign in or register to post your comment.

Video Summary and Transcription

Esta charla explora el papel de JavaScript en el aprendizaje automático distribuido a gran escala, discutiendo la falta de herramientas y la accesibilidad de las implementaciones de aprendizaje automático. También abarca la arquitectura de aprendizaje automático basada en la nube, el aprendizaje automático en el borde y el uso de HarperDB para una implementación simplificada de aprendizaje automático. También se discute el concepto de IA iterativa y entrenamiento de modelos.

1. Introducción a JavaScript ML

Short description:

Hola, bienvenidos a mi charla para JS Nation titulada Hasta el Límite y de Regreso: El Rol de JavaScript en el Aprendizaje Automático Distribuido a Escala. Soy un desarrollador en recuperación, padre de dos hijas, con sede en Denver, Colorado. Trabajo para HarperDB, una Plataforma de Aplicaciones Distribuidas construida completamente en Node.js. Hoy, exploraré el ecosistema de aprendizaje automático en JavaScript, la arquitectura táctica y los sistemas y métodos para ofrecer un acceso de alto rendimiento al aprendizaje automático e IA.

Hola, bienvenidos a mi charla para JS Nation titulada Hasta el Límite y de Regreso: El Rol de JavaScript en el Aprendizaje Automático Distribuido a Escala. Mi nombre es Jackson Repp. Soy un desarrollador en recuperación, padre de dos hijas. Estoy ubicado en Denver, Colorado. He sido parte de ocho startups, con dos salidas exitosas y cinco oportunidades de aprendizaje. Ahora trabajo para HarperDB, que es una Plataforma de Aplicaciones Distribuidas. Llevamos seis años en el mercado y tenemos numerosas implementaciones en producción y una comunidad bastante sólida.

Cuando hablo de HarperDB como el lugar donde trabajo, creo que lo más interesante para JS Nation es el hecho de que estamos construidos completamente en Node.js. Hemos aprovechado el lenguaje que ya amas. Podríamos haber elegido cualquier lenguaje, pero nos dimos cuenta de los enormes beneficios en términos de simplicidad y disponibilidad de recursos y plataformas de implementación. ¿Dónde puede ejecutarse JavaScript? Nos encanta centrarnos en la comunidad de JavaScript y, obviamente, el aprendizaje automático es una de esas áreas que ha crecido enormemente en el futuro cercano. ¿Y cómo se logra eso? ¿Cuáles son las logísticas detrás de ello? Eso es lo que quiero explorar hoy.

Entonces, el plan de estudios para este curso, supongo, sería comprender el ecosistema de aprendizaje automático en JavaScript. ¿Qué recursos tenemos disponibles para construir estas increíbles y geniales tecnologías que funcionan más cerca del usuario, aprovechando un lenguaje que todos amamos? Luego tenemos una sección llamada arquitectura táctica, que es cómo se hace actualmente o cómo se hacía en el pasado y hacia dónde creemos que se dirige con el tiempo. ¿Cómo podemos seguir ofreciendo un acceso de alto rendimiento al aprendizaje automático e IA y a estos modelos increíblemente complejos cuando ejecutarlos requiere tanta potencia y es posible que no tengas toda la potencia del mundo en tu teléfono o tal vez, ya sabes, en un navegador? Y finalmente, sistemas y métodos. Entonces, ¿cómo podemos abordar este problema? ¿Cuáles son las consideraciones que debemos tener en cuenta al planificar un sistema que sea verdaderamente distribuido e iterativo, como describiré cómo se ven esas arquitecturas? Así que hablemos del ecosistema de ML en JavaScript. Si es así, esta, como muchas tecnologías

2. Herramientas y Arquitectura Táctica de Aprendizaje Automático

Short description:

Las personas se dan cuenta del aprendizaje automático y sus posibles aplicaciones. Sin embargo, la falta de herramientas requiere que los desarrolladores escriban código de bajo nivel para entrenar modelos y construir aplicaciones. Con la infraestructura adecuada, las implementaciones de aprendizaje automático se vuelven más accesibles. ChatGPT ha ganado una atención significativa y ofrece una solución completa y rápida. JavaScript es una excelente opción para llevar el aprendizaje automático al límite, con bibliotecas como TensorFlow.js y plataformas móviles como CoreML y MLK. La naturaleza jerárquica de acceso a los datos sugiere oportunidades para implementaciones en la nube, en el borde, lejos del borde y en dispositivos móviles. La arquitectura táctica implica el entrenamiento, la prueba y la implementación de modelos.

implementaciones, es un ciclo virtuoso. Primero, las personas se dan cuenta de ello, ¿verdad? Saben que el aprendizaje automático es algo real. Saben que puede ayudarles a identificar cosas en una foto o que pueden hacer recomendaciones utilizando esta tecnología. Pero las herramientas no están disponibles. Así que tienes que escribir código de bajo nivel para entrenar un modelo, para construir algo que pueda actuar según la entrada del usuario y darte una recomendación o una clasificación o lograr cualquier objetivo final que pueda ser.

Y luego se construye la infraestructura detrás de eso para soportar cosas que ahora podemos implementar porque tenemos las herramientas. Y con esa infraestructura, las implementaciones se vuelven más accesibles, lo que obviamente puedes lanzar a una audiencia más amplia, y luego comienza a crecer. Si observas la conciencia, lo primero de lo que todos están hablando es de ChatGPT hasta el punto de que las últimas tres semanas de llamadas de ganancias han incluido menciones de IA y ChatGPT en productos que ni siquiera parecían aprovecharlos porque el precio de las acciones sube, porque todos están tan emocionados y conscientes. Y en última instancia, queremos ofrecer este producto, esta solución, este resultado. Y es simple, accesible, completo y rápido. Y ChatGPT cumple con todas esas cosas. Y es tremendo si alguna vez lo has usado. Sabes que generalmente hay una espera para entrar y las cuentas comerciales son difíciles de conseguir y costosas, porque se requiere una cantidad tremenda de recursos para hacer algo tan impresionante como lo que hace ChatGPT. Ahora, obviamente, también es un poco aterrador en términos del alcance de lo que puede hacer. Es un modelo muy grande que ha sido entrenado con muchas piezas de datos y no todos necesitan implementar un motor de chat humano integral, pero hay un millón de otras aplicaciones para el aprendizaje automático, especialmente en el límite, que pueden aprovechar muchas de las mejores prácticas que ChatGPT nos ha presentado en términos de accesibilidad. Luego, miramos las herramientas que tenemos para seguir llevando esta lógica al límite, ¿verdad? ¿Cómo nos acercamos a esos usuarios? Y JavaScript, obviamente, al estar en todos los dispositivos cliente y ejecutarse prácticamente en todas partes, es una excelente opción para eso. Y aunque el aprendizaje automático y los modelos de aprendizaje automático y la IA tradicionalmente han estado en servidores con mucha potencia, como ChatGPT que entrena un modelo gigante, hay muchas bibliotecas disponibles. TensorFlow.js es el primo de JavaScript del rey de las plataformas de aprendizaje automático patrocinado por Google. Pero también tienes muchas otras plataformas disponibles para tomar datos, generar un modelo y finalmente implementarlo y ejecutarlo también en el límite, así como en plataformas móviles como CoreML y CreateML en iOS y MLK para Android. Por lo tanto, hay muchas formas de llevar esto tan lejos como sea posible. Ahora, nuevamente, se requiere potencia para crear y utilizar modelos, por lo que realmente depende de dónde lo vayas a hacer. Tradicionalmente, hemos hecho esto en la nube, ¿verdad? Ejecutamos un gran servidor con muchas GPU y construimos grandes modelos. Y luego configuramos una infraestructura en el límite o en otra región de la nube para aprovechar ese modelo, recibir solicitudes de clientes entrantes y ejecutar sus datos contra el modelo y obtener algún tipo de clasificación o conjunto de datos resultante. Pero a medida que seguimos viendo la naturaleza jerárquica de, digamos, cómo accedemos a los datos, probablemente haya una oportunidad de bifurcación o trifurcación. Solo la visión de las responsabilidades entre la nube y el límite cercano, es decir, los servidores que están más cerca de ti, el límite lejano, es decir, las zonas locales de AWS o en las instalaciones, cosas que están muy, muy cerca de ti. Y finalmente, las cosas que llevas contigo, una aplicación móvil o un navegador en tu teléfono o que se ejecuta en una computadora portátil. Por lo tanto, hay muchas cosas que necesitaban estar en su lugar y tener esas herramientas para que pudiéramos entregar los resultados a un nivel más local. Por lo tanto, observamos una arquitectura táctica, nuevamente, lo básico es que queremos entrenar un modelo, queremos probarlo y validar que funcione, y luego queremos implementarlo. Queremos ponerlo ahí fuera y que realmente

Check out more articles and videos

We constantly think of articles and videos that might spark Git people interest / skill us up or help building a stellar career

No resuelvas problemas, elimínalos
React Advanced Conference 2021React Advanced Conference 2021
39 min
No resuelvas problemas, elimínalos
Top Content
Kent C. Dodds discusses the concept of problem elimination rather than just problem-solving. He introduces the idea of a problem tree and the importance of avoiding creating solutions prematurely. Kent uses examples like Tesla's electric engine and Remix framework to illustrate the benefits of problem elimination. He emphasizes the value of trade-offs and taking the easier path, as well as the need to constantly re-evaluate and change approaches to eliminate problems.
Uso efectivo de useEffect
React Advanced Conference 2022React Advanced Conference 2022
30 min
Uso efectivo de useEffect
Top Content
Today's Talk explores the use of the useEffect hook in React development, covering topics such as fetching data, handling race conditions and cleanup, and optimizing performance. It also discusses the correct use of useEffect in React 18, the distinction between Activity Effects and Action Effects, and the potential misuse of useEffect. The Talk highlights the benefits of using useQuery or SWR for data fetching, the problems with using useEffect for initializing global singletons, and the use of state machines for handling effects. The speaker also recommends exploring the beta React docs and using tools like the stately.ai editor for visualizing state machines.
Sistemas de Diseño: Caminando la Línea Entre Flexibilidad y Consistencia
React Advanced Conference 2021React Advanced Conference 2021
47 min
Sistemas de Diseño: Caminando la Línea Entre Flexibilidad y Consistencia
Top Content
The Talk discusses the balance between flexibility and consistency in design systems. It explores the API design of the ActionList component and the customization options it offers. The use of component-based APIs and composability is emphasized for flexibility and customization. The Talk also touches on the ActionMenu component and the concept of building for people. The Q&A session covers topics such as component inclusion in design systems, API complexity, and the decision between creating a custom design system or using a component library.
Concurrencia en React, Explicada
React Summit 2023React Summit 2023
23 min
Concurrencia en React, Explicada
Top Content
React 18's concurrent rendering, specifically the useTransition hook, optimizes app performance by allowing non-urgent updates to be processed without freezing the UI. However, there are drawbacks such as longer processing time for non-urgent updates and increased CPU usage. The useTransition hook works similarly to throttling or bouncing, making it useful for addressing performance issues caused by multiple small components. Libraries like React Query may require the use of alternative APIs to handle urgent and non-urgent updates effectively.
Gestión del Estado de React: 10 Años de Lecciones Aprendidas
React Day Berlin 2023React Day Berlin 2023
16 min
Gestión del Estado de React: 10 Años de Lecciones Aprendidas
Top Content
This Talk focuses on effective React state management and lessons learned over the past 10 years. Key points include separating related state, utilizing UseReducer for protecting state and updating multiple pieces of state simultaneously, avoiding unnecessary state syncing with useEffect, using abstractions like React Query or SWR for fetching data, simplifying state management with custom hooks, and leveraging refs and third-party libraries for managing state. Additional resources and services are also provided for further learning and support.
TypeScript y React: Secretos de un matrimonio feliz
React Advanced Conference 2022React Advanced Conference 2022
21 min
TypeScript y React: Secretos de un matrimonio feliz
Top Content
React and TypeScript have a strong relationship, with TypeScript offering benefits like better type checking and contract enforcement. Failing early and failing hard is important in software development to catch errors and debug effectively. TypeScript provides early detection of errors and ensures data accuracy in components and hooks. It offers superior type safety but can become complex as the codebase grows. Using union types in props can resolve errors and address dependencies. Dynamic communication and type contracts can be achieved through generics. Understanding React's built-in types and hooks like useState and useRef is crucial for leveraging their functionality.

Workshops on related topic

Masterclass de Depuración de Rendimiento de React
React Summit 2023React Summit 2023
170 min
Masterclass de Depuración de Rendimiento de React
Top Content
Featured WorkshopFree
Ivan Akulov
Ivan Akulov
Los primeros intentos de Ivan en la depuración de rendimiento fueron caóticos. Vería una interacción lenta, intentaría una optimización aleatoria, vería que no ayudaba, y seguiría intentando otras optimizaciones hasta que encontraba la correcta (o se rendía).
En aquel entonces, Ivan no sabía cómo usar bien las herramientas de rendimiento. Haría una grabación en Chrome DevTools o React Profiler, la examinaría, intentaría hacer clic en cosas aleatorias, y luego la cerraría frustrado unos minutos después. Ahora, Ivan sabe exactamente dónde y qué buscar. Y en esta masterclass, Ivan te enseñará eso también.
Así es como va a funcionar. Tomaremos una aplicación lenta → la depuraremos (usando herramientas como Chrome DevTools, React Profiler, y why-did-you-render) → identificaremos el cuello de botella → y luego repetiremos, varias veces más. No hablaremos de las soluciones (en el 90% de los casos, es simplemente el viejo y regular useMemo() o memo()). Pero hablaremos de todo lo que viene antes - y aprenderemos a analizar cualquier problema de rendimiento de React, paso a paso.
(Nota: Esta masterclass es más adecuada para ingenieros que ya están familiarizados con cómo funcionan useMemo() y memo() - pero quieren mejorar en el uso de las herramientas de rendimiento alrededor de React. Además, estaremos cubriendo el rendimiento de la interacción, no la velocidad de carga, por lo que no escucharás una palabra sobre Lighthouse 🤐)
Consejos sobre React Hooks que solo los profesionales conocen
React Summit Remote Edition 2021React Summit Remote Edition 2021
177 min
Consejos sobre React Hooks que solo los profesionales conocen
Top Content
Featured Workshop
Maurice de Beijer
Maurice de Beijer
La adición de la API de hooks a React fue un cambio bastante importante. Antes de los hooks, la mayoría de los componentos tenían que ser basados en clases. Ahora, con los hooks, estos son a menudo componentes funcionales mucho más simples. Los hooks pueden ser realmente simples de usar. Casi engañosamente simples. Porque todavía hay muchas formas en las que puedes equivocarte con los hooks. Y a menudo resulta que hay muchas formas en las que puedes mejorar tus componentes con una mejor comprensión de cómo se puede usar cada hook de React.Aprenderás todo sobre los pros y los contras de los diversos hooks. Aprenderás cuándo usar useState() versus useReducer(). Veremos cómo usar useContext() de manera eficiente. Verás cuándo usar useLayoutEffect() y cuándo useEffect() es mejor.
React, TypeScript y TDD
React Advanced Conference 2021React Advanced Conference 2021
174 min
React, TypeScript y TDD
Top Content
Featured WorkshopFree
Paul Everitt
Paul Everitt
ReactJS es extremadamente popular y, por lo tanto, ampliamente soportado. TypeScript está ganando popularidad y, por lo tanto, cada vez más soportado.

¿Los dos juntos? No tanto. Dado que ambos cambian rápidamente, es difícil encontrar materiales de aprendizaje precisos.

¿React+TypeScript, con los IDEs de JetBrains? Esa combinación de tres partes es el tema de esta serie. Mostraremos un poco sobre mucho. Es decir, los pasos clave para ser productivo, en el IDE, para proyectos de React utilizando TypeScript. En el camino, mostraremos el desarrollo guiado por pruebas y enfatizaremos consejos y trucos en el IDE.
Diseñando Pruebas Efectivas con la Biblioteca de Pruebas de React
React Summit 2023React Summit 2023
151 min
Diseñando Pruebas Efectivas con la Biblioteca de Pruebas de React
Top Content
Featured Workshop
Josh Justice
Josh Justice
La Biblioteca de Pruebas de React es un gran marco para las pruebas de componentes de React porque responde muchas preguntas por ti, por lo que no necesitas preocuparte por esas preguntas. Pero eso no significa que las pruebas sean fáciles. Todavía hay muchas preguntas que tienes que resolver por ti mismo: ¿Cuántas pruebas de componentes debes escribir vs pruebas de extremo a extremo o pruebas de unidad de nivel inferior? ¿Cómo puedes probar una cierta línea de código que es difícil de probar? ¿Y qué se supone que debes hacer con esa persistente advertencia de act()?
En esta masterclass de tres horas, presentaremos la Biblioteca de Pruebas de React junto con un modelo mental de cómo pensar en el diseño de tus pruebas de componentes. Este modelo mental te ayudará a ver cómo probar cada bit de lógica, si debes o no simular dependencias, y ayudará a mejorar el diseño de tus componentes. Te irás con las herramientas, técnicas y principios que necesitas para implementar pruebas de componentes de bajo costo y alto valor.
Tabla de contenidos- Los diferentes tipos de pruebas de aplicaciones de React, y dónde encajan las pruebas de componentes- Un modelo mental para pensar en las entradas y salidas de los componentes que pruebas- Opciones para seleccionar elementos DOM para verificar e interactuar con ellos- El valor de los mocks y por qué no deben evitarse- Los desafíos con la asincronía en las pruebas de RTL y cómo manejarlos
Requisitos previos- Familiaridad con la construcción de aplicaciones con React- Experiencia básica escribiendo pruebas automatizadas con Jest u otro marco de pruebas unitarias- No necesitas ninguna experiencia con la Biblioteca de Pruebas de React- Configuración de la máquina: Node LTS, Yarn
IA a demanda: IA sin servidor
DevOps.js Conf 2024DevOps.js Conf 2024
163 min
IA a demanda: IA sin servidor
Top Content
Featured WorkshopFree
Nathan Disidore
Nathan Disidore
En esta masterclass, discutimos los méritos de la arquitectura sin servidor y cómo se puede aplicar al espacio de la IA. Exploraremos opciones para construir aplicaciones RAG sin servidor para un enfoque más lambda-esque a la IA. A continuación, nos pondremos manos a la obra y construiremos una aplicación CRUD de muestra que te permite almacenar información y consultarla utilizando un LLM con Workers AI, Vectorize, D1 y Cloudflare Workers.
Master Patrones de JavaScript
JSNation 2024JSNation 2024
145 min
Master Patrones de JavaScript
Featured Workshop
Adrian Hajdin
Adrian Hajdin
Durante este masterclass, los participantes revisarán los patrones esenciales de JavaScript que todo desarrollador debe conocer. A través de ejercicios prácticos, ejemplos del mundo real y discusiones interactivas, los asistentes profundizarán su comprensión de las mejores prácticas para organizar el código, resolver desafíos comunes y diseñar arquitecturas escalables. Al final del masterclass, los participantes ganarán confianza en su capacidad para escribir código JavaScript de alta calidad que perdure en el tiempo.
Puntos Cubiertos:
1. Introducción a los Patrones de JavaScript2. Patrones Fundamentales3. Patrones de Creación de Objetos4. Patrones de Comportamiento5. Patrones Arquitectónicos6. Ejercicios Prácticos y Estudios de Caso
Cómo Ayudará a los Desarrolladores:
- Obtener una comprensión profunda de los patrones de JavaScript y sus aplicaciones en escenarios del mundo real- Aprender las mejores prácticas para organizar el código, resolver desafíos comunes y diseñar arquitecturas escalables- Mejorar las habilidades de resolución de problemas y la legibilidad del código- Mejorar la colaboración y comunicación dentro de los equipos de desarrollo- Acelerar el crecimiento profesional y las oportunidades de avance en la industria del software