Dabl: Aprendizaje Automático Automático con la Participación Humana

Rate this content
Bookmark

En muchas aplicaciones del mundo real, la calidad y curación de los datos y el conocimiento del dominio juegan un papel mucho más importante en la construcción de modelos exitosos que la creación de técnicas de procesamiento complejas y la optimización de hiperparámetros. Por lo tanto, una caja de herramientas de aprendizaje automático debe permitir a los usuarios comprender tanto los datos como el modelo, y no cargar al profesional con la selección de pasos de preprocesamiento y hiperparámetros. La biblioteca dabl es un primer paso en esta dirección. Proporciona rutinas de visualización automáticas y capacidades de inspección de modelos al tiempo que automatiza la selección de modelos.


dabl contiene tipos de gráficos que no están disponibles en las bibliotecas estándar de Python hasta ahora, así como algoritmos novedosos para seleccionar visualizaciones interesantes. Se utilizan heurísticas para seleccionar el preprocesamiento adecuado para el aprendizaje automático, mientras que se utilizan algoritmos de selección de cartera de vanguardia para una búsqueda eficiente de modelos e hiperparámetros.


dabl también proporciona un fácil acceso a herramientas de evaluación e inspección de modelos proporcionadas por scikit-learn.

This talk has been presented at ML conf EU 2020, check out the latest edition of this Tech Conference.

FAQ

El flujo de trabajo estándar de aprendizaje automático incluye la declaración del problema, recolección de datos, limpieza de datos, visualización, construcción de un modelo inicial de aprendizaje automático, evaluación del modelo fuera de línea y evaluación en línea dentro de la aplicación.

La iteración es importante porque después de cada paso del proceso, es posible que se necesite volver a pasos anteriores para realizar ajustes basados en los nuevos hallazgos, lo que ayuda a mejorar continuamente el modelo y adaptarlo más efectivamente a las necesidades específicas.

Andreas Muller menciona herramientas como Scikit Learn, pandas para manipulación de datos, y matplotlib y seaborn para la visualización.

Dabble.clean es una función que ayuda en la limpieza de datos, detecta tipos de características, valores faltantes, valores raros y categoriza variables como ordinales o categóricas, facilitando una preparación inicial de los datos.

Dabble.plot está diseñada para la visualización orientada al aprendizaje automático supervisado, analiza características y muestra gráficos de mosaico y gráficos de pares que informan sobre la relación entre características y el objetivo del análisis.

Dabble implementa un enfoque de aprendizaje automático automático que utiliza un portafolio de modelos preseleccionados, como gradient boosting, modelos lineales, bosques aleatorios y máquinas de vectores de soporte, y selecciona el mejor modelo mediante un método de reducción sucesiva.

Las funciones futuras para Dabble incluyen el soporte para diferentes tipos de características como series de tiempo y datos de texto, así como mejoras en su portafolio de clasificadores para hacerlo sensible al tiempo y potencialmente incluir construcción de modelos explicables.

Las soluciones automáticas a menudo son lentas, especialmente en conjuntos de datos pequeños, y tienden a producir modelos de caja negra que pueden limitar la comprensión profunda del problema y las características importantes del modelo.

Andreas Müller
Andreas Müller
35 min
02 Jul, 2021

Comments

Sign in or register to post your comment.
Video Summary and Transcription
Esta charla presenta Dabble, una biblioteca que permite a los científicos de datos iterar rápidamente e incorporar la entrada humana en el proceso de aprendizaje automático. Dabble proporciona herramientas para cada paso del flujo de trabajo de aprendizaje automático, incluyendo la declaración del problema, limpieza de datos, visualización, construcción de modelos e interpretación de modelos. Utiliza gráficos de mosaico y gráficos de pares para analizar características categóricas y continuas. Dabble también implementa un enfoque de aprendizaje automático automático basado en cartera utilizando el método de eliminación sucesiva para encontrar el mejor modelo. Los objetivos futuros de Dabble incluyen el soporte de más tipos de características, mejorar la cartera y construir modelos explicables.

1. Introducción al Aprendizaje Automático Automático

Short description:

Hola y bienvenidos a mi charla sobre Aprendizaje Automático Automático con la intervención humana con DABL. Mi nombre es Andreas Muller y soy co-desarrollador de Scikit-learn y Ingeniero de Software Principal en Microsoft. El flujo de trabajo estándar de aprendizaje automático involucra la declaración del problema, la recolección de datos, la limpieza de datos, la visualización, la construcción de un modelo de aprendizaje automático inicial, la evaluación del modelo fuera de línea y en línea. En las aplicaciones, la recolección de datos y el análisis exploratorio de datos a menudo son más importantes que la construcción del modelo.

Hola y bienvenidos a mi charla sobre Aprendizaje Automático Automático con la intervención humana con DABL. Mi nombre es Andreas Muller y soy co-desarrollador de Scikit-learn y Ingeniero de Software Principal en Microsoft.

Entonces, permítanme comenzar esto con lo que considero como el flujo de trabajo estándar de aprendizaje automático. Comenzamos con una declaración del problema y luego, por lo general, la recolección de datos, la limpieza de datos, la visualización, la construcción de un modelo de aprendizaje automático inicial, la evaluación del modelo fuera de línea y luego la evaluación en línea dentro de su aplicación. Creo que estos son los pasos fundamentales de cualquier proceso de aprendizaje automático, y generalmente no es un proceso lineal. Lo dibujé aquí como un círculo, pero en realidad es más un grafo completamente conectado. Después de cada paso, es posible que deba volver a pasos anteriores. Entonces, después de la limpieza de datos, es posible que vea que necesita cambiar la recolección de datos. Después de la construcción del modelo, es posible que vea que necesita cambiar algo en la limpieza de datos, y así sucesivamente. Creo que todos estos pasos son realmente críticos. Entonces, en una comunidad de aprendizaje automático, realmente se enfoca mucho en la construcción del modelo, mientras que en las aplicaciones, esto puede no ser realmente la parte más importante, y cosas como la recolección de datos y el análisis exploratorio de datos pueden ser más importantes.

2. Introducción a Dabble

Short description:

Hoy en día, comenzar un flujo de trabajo de aprendizaje automático en Python a menudo implica el uso de Scikit Learn y pandas, o matplotlib y seaborn para la visualización. Sin embargo, estas herramientas requieren mucho trabajo y codificación explícita. Las herramientas automáticas de aprendizaje automático como AutoSK Learn y AutoGlue1 pueden ayudar con la construcción del modelo, pero a menudo llevan mucho tiempo y dan como resultado modelos de caja negra. Para abordar estas limitaciones, presento Dabble, una biblioteca que permite a los científicos de datos iterar rápidamente e incorporar la intervención humana en el proceso de aprendizaje automático.

Entonces, en estos días, si comienzas tu flujo de trabajo de aprendizaje automático en Python, es posible que uses algo como Scikit Learn y pandas, o matplotlib y seaborn para la visualización. Aquí estoy usando pandas y seaborn para hacer alguna visualización inicial en el conjunto de datos estándar de adultos, que es un conjunto de datos de clasificación utilizando el censo de adultos. Obtengo algunas visualizaciones que me muestran cómo se relaciona la edad con los ingresos, pero en realidad requiere que haga bastante trabajo y conozca bastante seaborn para hacerlo de esta manera. Si quiero hacerlo con matplotlib, sería mucho más código. De manera similar, si quiero construir un modelo de aprendizaje automático simple con Scikit Learn, aquí estoy construyendo un modelo de regresión logística, pero si quiero hacer esto, tengo que escribir mucho código para escalar los datos, para imputar valores faltantes, para hacer codificación one-hot para variables categóricas, y así sucesivamente, y luego ajustar el parámetro de regularización del modelo de regresión logística. Para mí, esto es realmente el `hola mundo` del aprendizaje automático, simplemente construir un modelo de regresión logística, pero Scikit Learn requiere que seas muy, muy explícito, lo cual tiene muchos beneficios, pero si estás comenzando con tu proyecto, es importante que puedas iterar muy rápidamente. Y una forma de hacer esto es con algunas de las herramientas automáticas de aprendizaje automático que existen en la actualidad, como AutoSK Learn, o más recientemente, AutoGlue1. Y luego hay varias otras soluciones comerciales, como H2O y DataRobot, y así sucesivamente. Entonces, nuevamente, diría que estas soluciones automáticas de aprendizaje automático se centran mucho en la construcción del modelo. Y eso tiene dos desventajas, en mi opinión, especialmente para el análisis y la exploración inicial, que son, en primer lugar, que suelen llevar mucho tiempo. Aquí estoy tomando un ejemplo del sitio web de AutoSK Learn en este conjunto de datos de juguete muy pequeño. Y puedes ver que esta configuración predeterminada se ejecuta durante una hora, te da una precisión muy alta, pero se ejecuta durante mucho tiempo, incluso en un conjunto de datos pequeño. Creo que si tienes que esperar tanto tiempo para obtener un resultado inicial, eso realmente interrumpe tu flujo de trabajo. Y realmente me encantan las cosas que están haciendo en AutoSK Learn y otras bibliotecas de auto ML. Pero el objetivo aquí es construir un modelo realmente bueno, dado el conjunto de datos que tienes. Sin embargo, en muchas aplicaciones, el conjunto de datos no es tan fijo y la iteración es mucho más importante que ajustar los hiperparámetros o seleccionar el modelo. La otra desventaja es que terminas con un modelo de caja negra. Y en muchas aplicaciones, eso realmente te impide comprender más sobre tu problema. Te impide comprender cuáles son las características importantes o cómo debería haber realizado el preprocesamiento de manera diferente o qué datos debería haber recopilado. Como alternativa a esto, presento Dabble, la biblioteca de análisis de datos de referencia, que está diseñada para ayudar a los científicos de datos a iterar rápidamente y realizar ciencia de datos de aprendizaje automático con la intervención humana.

QnA

Check out more articles and videos

We constantly think of articles and videos that might spark Git people interest / skill us up or help building a stellar career

TensorFlow.js 101: Aprendizaje automático en el navegador y más allá
ML conf EU 2020ML conf EU 2020
41 min
TensorFlow.js 101: Aprendizaje automático en el navegador y más allá
TensorFlow.js enables machine learning in the browser and beyond, with features like face mesh, body segmentation, and pose estimation. It offers JavaScript prototyping and transfer learning capabilities, as well as the ability to recognize custom objects using the Image Project feature. TensorFlow.js can be used with Cloud AutoML for training custom vision models and provides performance benefits in both JavaScript and Python development. It offers interactivity, reach, scale, and performance, and encourages community engagement and collaboration between the JavaScript and machine learning communities.
Uso de MediaPipe para Crear Aplicaciones de Aprendizaje Automático Multiplataforma con React
React Advanced 2021React Advanced 2021
21 min
Uso de MediaPipe para Crear Aplicaciones de Aprendizaje Automático Multiplataforma con React
Top Content
MediaPipe is a cross-platform framework that helps build perception pipelines using machine learning models. It offers ready-to-use solutions for various applications, such as selfie segmentation, face mesh, object detection, hand tracking, and more. MediaPipe can be integrated with React using NPM modules provided by the MediaPipe team. The demonstration showcases the implementation of face mesh and selfie segmentation solutions. MediaPipe enables the creation of amazing applications without needing to understand the underlying computer vision or machine learning processes.
TensorFlow.js 101: Aprendizaje automático en el navegador y más allá
JSNation Live 2021JSNation Live 2021
39 min
TensorFlow.js 101: Aprendizaje automático en el navegador y más allá
JavaScript with TensorFlow.js allows for machine learning in various environments, enabling the creation of applications like augmented reality and sentiment analysis. TensorFlow.js offers pre-trained models for object detection, body segmentation, and face landmark detection. It also allows for 3D rendering and the combination of machine learning with WebGL. The integration of WebRTC and WebXR enables teleportation and enhanced communication. TensorFlow.js supports transfer learning through Teachable Machine and Cloud AutoML, and provides flexibility and performance benefits in the browser and Node.js environments.
Observabilidad con diagnostics_channel y AsyncLocalStorage
Node Congress 2023Node Congress 2023
21 min
Observabilidad con diagnostics_channel y AsyncLocalStorage
Observability with Diagnostics Channel and async local storage allows for high-performance event tracking and propagation of values through calls, callbacks, and promise continuations. Tracing involves five events and separate channels for each event, capturing errors and return values. The span object in async local storage stores data about the current execution and is reported to the tracer when the end is triggered.
Una introducción al aprendizaje por transferencia en NLP y HuggingFace
ML conf EU 2020ML conf EU 2020
32 min
Una introducción al aprendizaje por transferencia en NLP y HuggingFace
Transfer learning in NLP allows for better performance with minimal data. BERT is commonly used for sequential transfer learning. Models like BERT can be adapted for downstream tasks such as text classification. Handling different types of inputs in NLP involves concatenating or duplicating the model. Hugging Face aims to tackle challenges in NLP through knowledge sharing and open sourcing code and libraries.

Workshops on related topic

Aprovechando LLMs para Construir Experiencias de IA Intuitivas con JavaScript
JSNation 2024JSNation 2024
108 min
Aprovechando LLMs para Construir Experiencias de IA Intuitivas con JavaScript
Featured Workshop
Roy Derks
Shivay Lamba
2 authors
Hoy en día, todos los desarrolladores están utilizando LLMs en diferentes formas y variantes, desde ChatGPT hasta asistentes de código como GitHub CoPilot. Siguiendo esto, muchos productos han introducido capacidades de IA integradas, y en este masterclass haremos que los LLMs sean comprensibles para los desarrolladores web. Y nos adentraremos en la codificación de tu propia aplicación impulsada por IA. No se necesita experiencia previa en trabajar con LLMs o aprendizaje automático. En su lugar, utilizaremos tecnologías web como JavaScript, React que ya conoces y amas, al mismo tiempo que aprendemos sobre algunas nuevas bibliotecas como OpenAI, Transformers.js
¿Pueden los LLM aprender? Personalicemos un LLM para chatear con tus propios datos
C3 Dev Festival 2024C3 Dev Festival 2024
48 min
¿Pueden los LLM aprender? Personalicemos un LLM para chatear con tus propios datos
WorkshopFree
Andreia Ocanoaia
Andreia Ocanoaia
Sientes las limitaciones de los LLMs? Pueden ser creativos, pero a veces carecen de precisión o se basan en información desactualizada. En esta masterclass, desglosaremos el proceso de construir y desplegar fácilmente un sistema de Generación con Recuperación Mejorada. Este enfoque te permite aprovechar el poder de los LLMs con el beneficio adicional de precisión factual e información actualizada.
Deja que la IA sea tu Documentación
JSNation 2024JSNation 2024
69 min
Deja que la IA sea tu Documentación
Workshop
Jesse Hall
Jesse Hall
Únete a nuestro masterclass dinámico para crear un portal de documentación impulsado por IA. Aprende a integrar ChatGPT de OpenAI con Next.js 14, Tailwind CSS y tecnología de vanguardia para ofrecer soluciones de código e resúmenes instantáneos. Esta sesión práctica te equipará con el conocimiento para revolucionar la forma en que los usuarios interactúan con la documentación, convirtiendo las búsquedas tediosas en descubrimientos eficientes e inteligentes.
Aspectos destacados:
- Experiencia práctica en la creación de un sitio de documentación impulsado por IA.- Comprensión de la integración de la IA en las experiencias de usuario.- Habilidades prácticas con las últimas tecnologías de desarrollo web.- Estrategias para implementar y mantener recursos de documentación inteligente.
Tabla de contenidos:- Introducción a la IA en la documentación- Configuración del entorno- Construcción de la estructura de documentación- Integración de ChatGPT para documentación interactiva
Prácticas con TensorFlow.js
ML conf EU 2020ML conf EU 2020
160 min
Prácticas con TensorFlow.js
Workshop
Jason Mayes
Jason Mayes
Ven y descubre nuestro masterclass que te guiará a través de 3 recorridos comunes al usar TensorFlow.js. Comenzaremos demostrando cómo usar uno de nuestros modelos predefinidos, clases de JS muy fáciles de usar para trabajar rápidamente con ML. Luego veremos cómo volver a entrenar uno de estos modelos en minutos utilizando el aprendizaje por transferencia en el navegador a través de Teachable Machine y cómo se puede usar en tu propio sitio web personalizado. Finalmente, terminaremos con un hola mundo escribiendo tu propio código de modelo desde cero para hacer una regresión lineal simple y predecir los precios ficticios de las casas en función de sus metros cuadrados.
La Guía del Autoestopista de la Galaxia de Ingeniería de Aprendizaje Automático
ML conf EU 2020ML conf EU 2020
112 min
La Guía del Autoestopista de la Galaxia de Ingeniería de Aprendizaje Automático
Workshop
Alyona Galyeva
Alyona Galyeva
¿Eres un Ingeniero de Software al que se le asignó la tarea de implementar un modelo de aprendizaje automático o aprendizaje profundo por primera vez en tu vida? ¿Te preguntas qué pasos seguir y cómo se diferencia el software impulsado por IA del software tradicional? Entonces este es el masterclass adecuado al que asistir.
Internet ofrece miles de artículos y cursos gratuitos que muestran lo fácil que es entrenar e implementar un modelo de IA simple. Al mismo tiempo, en la realidad es difícil integrar un modelo real en la infraestructura actual, depurarlo, probarlo, implementarlo y monitorearlo correctamente. En este masterclass, te guiaré a través de este proceso compartiendo consejos, trucos y herramientas de código abierto favoritas que te facilitarán mucho la vida. Así que al final del masterclass, sabrás por dónde empezar tu viaje de implementación, qué herramientas utilizar y qué preguntas hacer.
Introducción al Aprendizaje Automático en la Nube
ML conf EU 2020ML conf EU 2020
146 min
Introducción al Aprendizaje Automático en la Nube
Workshop
Dmitry Soshnikov
Dmitry Soshnikov
Este masterclass será tanto una introducción suave al Aprendizaje Automático, como un ejercicio práctico de uso de la nube para entrenar modelos de aprendizaje automático simples y no tan simples. Comenzaremos utilizando ML Automático para entrenar el modelo para predecir la supervivencia en el Titanic, y luego pasaremos a tareas de aprendizaje automático más complejas como la optimización de hiperparámetros y la programación de series de experimentos en el clúster de cómputo. Finalmente, mostraré cómo Azure Machine Learning se puede utilizar para generar pinturas artificiales utilizando Redes Generativas Adversarias, y cómo entrenar un modelo de preguntas y respuestas de lenguaje en documentos de COVID para responder preguntas relacionadas con COVID.