Una Introducción al Aprendizaje por Transferencia en NLP y HuggingFace

Hola a todos. Bienvenidos a mi charla. Y hoy, vamos a hablar sobre el aprendizaje por transferencia en NLP. Comenzaré hablando un poco sobre el concepto de historia, luego les presentaré las herramientas que estamos desarrollando en Hugging Face. Y luego espero que tengan muchas preguntas para mí.

Así que, sesión de preguntas y respuestas. OK. Comencemos con los conceptos. ¿Qué es el aprendizaje por transferencia? Esa es una muy buena pregunta. Así que aquí está la forma tradicional en que hacemos el aprendizaje por transferencia. Lo siento. Esta es la forma tradicional en que hacemos el aprendizaje automático. Usualmente cuando nos enfrentamos a una primera tarea en el aprendizaje automático, reunimos un conjunto de datos. Inicializamos aleatoriamente nuestro modelo y lo entrenamos en nuestros conjuntos de datos para obtener el sistema de aprendizaje automático que usaremos para predecir, por ejemplo, para trabajar en producción.

Ahora, cuando nos enfrentamos a una segunda tarea, usualmente nuevamente, reuniremos otro conjunto de datos. Otro conjunto de datos. Inicializamos aleatoriamente nuestro modelo y lo entrenaremos desde cero nuevamente para obtener el segundo sistema de aprendizaje y de la misma manera nos enfrentamos a una tercera tarea. Tendremos un tercer conjunto de datos, tendremos un tercer sistema de aprendizaje automático, nuevamente, inicializado desde cero y que usaremos en producción. Así que esta no es la forma en que los humanos aprendemos. Usualmente cuando nos enfrentamos a una nueva tarea, reutilizamos todo el conocimiento que hemos aprendido en las tareas pasadas, todas las cosas que hemos aprendido en la vida, todas las cosas que hemos aprendido en las clases de la universidad y usamos eso para impulsar nuestro aprendizaje. Así que puedes ver eso como tener muchos datos, muchos conjuntos de datos que ya hemos usado para generar una base de conocimiento. Y ahora esto nos da dos ventajas principales. La primera es que podemos aprender con solo unos pocos datos, solo unos pocos puntos de datos, porque podemos interpolar entre estos puntos de datos. Y esto nos ayuda a hacer algún tipo de mutación de datos, si quieres, naturalmente. Y la segunda ventaja es simplemente... Es que también podemos aprovechar todo este conocimiento para alcanzar mejores rendimientos. Así que los humanos son típicamente más eficientes en datos y tienen mejores rendimientos que los sistemas de aprendizaje automático. Así que el aprendizaje por transferencia es una forma de intentar hacer lo mismo para el aprendizaje estadístico, para el aprendizaje automático. Así que hicimos el verano pasado, un tutorial muy largo. Fue un tutorial de tres horas.

Así que el verano pasado hicimos un tutorial muy largo. Fue un tutorial de tres horas. Así que puedes consultar estos enlaces.

Hay 300 diapositivas, muchos ejercicios prácticos y una base de código de código abierto. Así que si quieres más información, realmente deberías ir allí. Así que hay muchas maneras de hacer aprendizaje por transferencia. Pero hoy voy a hablar sobre el aprendizaje por transferencia secuencial, que es el sabor más utilizado actualmente, si quieres aprendizaje por transferencia. Así que el aprendizaje por transferencia secuencial, como dice el nombre, es una secuencia de pasos, al menos dos pasos. El primer paso se llama reentrenamiento. Y durante estos pasos, intentarás reunir la mayor cantidad de datos posible.

Intentaremos construir básicamente algún tipo de base de conocimiento, como la base de conocimiento que los humanos construimos. Y la idea es que podemos terminar con un modelo de propósito general. Así que hay muchos modelos de propósito general diferentes. Probablemente hayas oído hablar de muchos de ellos, Word2Vec y GloVee fueron los primeros modelos que aprovecharon el aprendizaje por transferencia. Eran incrustaciones de palabras, pero hoy, usamos modelos que tienen muchos más parámetros, que están completamente preentrenados, como BERT, GPT o BERT distilado. Y estos modelos, están preentrenados como modelos de propósito general. No están enfocados en una tarea específica, pero pueden usarse en muchas tareas diferentes.

Así que cómo hacemos eso, hacemos un segundo paso de adaptación o ajuste fino usualmente, en el cual seleccionaremos la tarea para la que queremos usar nuestro modelo, y lo ajustaremos en esta tarea. Así que aquí tienes algunos ejemplos, clasificación de texto, etiquetado de palabras, respuesta a preguntas. Pero comencemos por el primer paso, el preentrenamiento. Así que la forma en que preentrenamos nuestros modelos hoy se llama modelado de lenguaje. Así que el modelado de lenguaje es un objetivo de preentrenamiento, que tiene muchas ventajas. La principal es que es auto-supervisado, lo que significa que usamos el texto como su propia etiqueta. Podemos descomponer el texto aquí, la probabilidad del texto como un producto de la probabilidad de las palabras, por ejemplo, y tratamos de maximizar eso. Así que puedes ver eso como dado algún contexto, intentarás maximizar la probabilidad de la siguiente palabra o la probabilidad de un maestro. Lo bueno es que no tenemos que anotar los datos. Así que en muchos idiomas, solo aprovechando el internet, podemos tener suficiente texto para entrenar realmente un modelo de alta capacidad Así que esto es genial para muchas cosas, y en particular, para idiomas con pocos recursos.

También es muy versátil, como te dije, puedes descomponer esta probabilidad como un producto de probabilidad de una vista variada de tus textos. Y esto es muy interesante desde un punto de vista de investigación. Ahora, ¿cómo se ven los modelos? Hay dos sabores principales de modelo, ambos son transformadores porque los transformadores son bastante interesantes desde un punto de vista de escalabilidad.

Así que tomamos una oración aquí, enmascaramos un token, y tratamos de predecir este token de nuevo. Así que proyectamos todas estas palabras en vectores. Luego, usaremos lo que es la capa de atención en el transformador, que hará un promedio ponderado de estos vectores para terminar también con vectores. Pero estos vectores ahora dependen del contexto, lo que significa que el vector asociado al enmascarado tiene suficiente información del contexto para poder predecir de nuevo, o al menos intentar predecir de nuevo el que falta, el masa 12, ¿de acuerdo?

Así es como se entrena BERT. Entrenas este modelo para predecir de nuevo el token enmascarado. Ahora hay otro sabor, que se llama modelo auto-regresivo o causal. Y estos modelos, se ven bastante similares, pero puedes ver que a un token aquí se le asocia el siguiente token. Así que mi perro, el token que estará al final de la hiper columna asociada a perro será, es el siguiente token, ¿de acuerdo? Así que necesitamos ajustar la atención aquí. Tenemos que enmascarar el contexto correcto. De lo contrario, el modelo puede simplemente ver la etiqueta aquí a la derecha. Así que estos modelos, son inherentemente menos poderosos porque no pueden usar el para hacer su predicción, pero tienen una señal mucho más extraña aquí. Así que usualmente entrenan más rápido. Así que estos son los dos sabores principales de modelo. Estos son los dos marcos principales.

Así que modelo de propósito general. Ahora, ¿cómo haces los pasos de adaptación? Es bastante fácil. Sí. Estas son las dos ventajas que te muestro. El primer paso es que eliminaremos la cabeza de preentrenamiento. Así que tomaremos estas cajas rosas que te mostré en las diapositivas anteriores. Y las eliminamos y las reemplazaremos con una cabeza específica para la tarea. Así que si haces clasificación de texto, puede ser simplemente una predicción lineal al número de clases que tienes. Si estás haciendo una tarea más compleja, puedes agregar una red neuronal completa encima de ella. Si tu tarea es muy compleja, como estructuralmente diferente, por ejemplo, haces traducción automática, entonces tienes que hacer cosas más complejas.

Hablaremos de eso un poco en la siguiente sección. Así que déjame mostrarte dos ejemplos principales de tarea downstream que podemos abordar, clasificación de texto y generación. Así que aquí hay un ejemplo para clasificación de texto para mostrarte cómo funciona. Digamos que tenemos una oración aquí, Jim Hansen era un titiritero, y la tarea de nuestro modelo de aprendizaje automático es predecir si la oración es verdadera o falsa. Así que esto es solo clasificación binaria, si quieres, ¿de acuerdo? Así que el primer paso sería convertir esta oración de entrada en algo que nuestro modelo pueda digerir.

Así que nuestros modelos, ellos pueden manejar integrales, flotantes, necesitan números. Así que el primer paso será convertir estas cadenas en números. Y hay algo interesante aquí, y es que nuestros modelos están hechos para ser entrenados y para procesar básicamente vocabulario de dominio abierto, corpus de dominio abierto. Están hechos para ser entrenados en internet. Así que tenemos que manejar algunas palabras poco comunes.

Aquí está perpetuer es una palabra que definitivamente no es muy común en inglés. Así que la forma en que manejamos eso es que cortaremos esta palabra en prefijo y sufijo hasta que conozcamos cada parte del palabra. Bien. Así que aquí, por ejemplo, perpetuer son dos tipos de prefijo y sufijo comunes. Así que están en nuestro vocabulario y luego podemos simplemente convertir todo esto en nuestros índices de vocabulario. Esto es ahora las entradas del modelo que vimos hace dos diapositivas, el nacimiento de GPT. Y como recuerdas, la salida era un vector aquí, la salida antes de las cajas rosas era un vector. Y solo tenemos que proyectar de nuevo este vector a dos clases.

Así que, por ejemplo, los ponemos en un clasificador lineal, y luego obtenemos las clases. Así que este clasificador lineal será entrenado desde cero en nuestra tarea downstream. Bien. Así que tiene que ser bastante pequeño en términos de parámetros si quieres ser tan eficiente, pero este está preentrenado en el enorme corpus de datos que hemos reunido. Así que este realmente puede ser usado. Bien. Así que aquí hay dos, quiero decir, aquí hay un ejemplo práctico en una tarea de clasificación llamada track six. Así que puedes ver más detalles en las diapositivas de nuestros tutoriales del año pasado, pero básicamente verás que justo después de una época, ya tenemos una precisión superior al 90%, lo que significa que esto es realmente tan eficiente. Este conjunto de datos, este track six es realmente un conjunto de datos pequeño, 2500 ejemplos. Así que esto es realmente tan eficiente. Y cuando entrenas por tres épocas, obtienes una tasa de error de 3.6, que es el estado del arte. Bueno, era el estado del arte el año pasado. Así que obtienes las dos cosas de las que estamos hablando, eficiencia de datos y alto rendimiento.

Bien. Ahora aquí hay un ejemplo totalmente diferente. Así que ves la variedad, la diversidad de tareas que este modelo puede enfrentar. Este es un entorno de chatbot donde tenemos una especie de base de conocimiento.

El chatbot está pretendiendo ser un artista con cuatro hijos que tiene un gato y le gusta ver Game of Thrones. Y ahora está discutiendo con un usuario en un entorno de dominio abierto. Así que el usuario dijo, Hey, chatbot responde, hola, ¿cómo estás? Y el usuario dice, Estoy bien. Gracias. ¿Cómo estás tú? Y nuestro agente de diálogo, nuestro modelo de aprendizaje automático se supone que debe generar una respuesta que tenga sentido dada la personalidad. ¿De acuerdo? Así que ves, esta es una tarea bastante diferente porque tenemos muchos tipos diferentes de entradas. Tenemos una especie de base de conocimiento aquí. También tenemos un historial de diálogo. Y tenemos esta utilidad incluso al comienzo de la respuesta porque estamos generando la respuesta palabra por palabra. Así que tenemos el comienzo de la respuesta que también deberíamos tener en cuenta para generar la siguiente. Entonces, ¿cómo manejamos eso? Bueno, en realidad tuvimos el artículo el año pasado en ACL que puedes consultar. Pero básicamente puedes hacer dos formas principales de manejar eso. Puedes concatenar todo esto en una sola entrada. Esta es una forma simple de abordar esto y en realidad funciona muy bien. O puedes duplicar tu modelo y tener varias partes que procesen cada tipo de entrada, y luego necesitas conectarlas juntas con atención cruzada o una forma de conectarlas. Bien. Esto es muy diferente, pero la idea es que en general, como puedes ver aquí, esta es una competencia en la que participamos en el GameFest hace dos años. Y ves que realmente estábamos liderando en la métrica automática por un amplio margen usando este tipo de enfoque de aprendizaje de transferencia.

Así que unas pocas palabras sobre tendencias y limitaciones, iré rápido, pero sí, hay una tendencia hacia modelos más grandes. Este es un problema principal, porque está reduciendo la competencia. Hay alguna manera en que podemos reducir el tamaño de este modelo, destilación, poda, cuantización. No pasaré mucho tiempo en esto, pero es algo que nos gusta mucho.

Estos modelos tienen problemas de generalización. Aunque son grandes, tienen muchas dificultades para abordar la generalización fuera de dominio. Y básicamente hay un límite para el texto como medio, que es que mucho sentido común simplemente no está escrito en texto. Y así, este es un límite para lo que este modelo puede aprender. Y la principal forma en que podemos superar esto es usar alguna base de datos o imagen, o incluso usar humanos en el bucle.

Y ahora hay el último problema principal, que es que estos modelos, se entrenan solo una vez, y es muy difícil hacer que aprendan nuevos conocimientos más adelante, porque tienen este problema de olvido catastrófico. Y así, por ejemplo, GPT-3, que fue muy caro de entrenar. El costo de entrenamiento fue, como, 10 millones. GPT-3 no tiene idea de lo que es COVID. Bueno, COVID es un elemento tan fuerte de nuestra vida diaria hoy, ¿de acuerdo? Así que esto es muy malo. Así que hay muchas deficiencias, y en Hugging Face, intentamos abordar algunas de estas deficiencias.

Entonces, ¿qué hacemos en Hugging Face? Bueno, intentamos democratizar el NLP. Comenzamos como una empresa de chatbots, construyendo un juego, y abrimos muchas herramientas mientras hacíamos eso. Y en realidad, esta herramienta captó tanto interés en la comunidad que ahora estamos completamente enfocados en catalizar y democratizar todo este trabajo a nivel de investigación. Así que lo hacemos de dos maneras principales. La primera forma es a través del intercambio de conocimientos. Por eso estoy hablando hoy. Y la segunda forma es abrir mucho código y abrir alguna biblioteca, lo que permite a las personas aprovechar todos estos desarrollos y desarrollar mejores modelos sobre ellos. Bien. Así que veamos algunas de nuestras bibliotecas de código abierto, y esta será la puerta abierta para la pregunta en la segunda parte. Bien. Así que la primera biblioteca principal que probablemente conozcas se llama la Transformers Library, que es una forma de acceder a todos los modelos de última generación, y se pueden usar tanto para NLU como NLG, muchos idiomas. Hoy tenemos realmente muchos modelos en la biblioteca. Está todo el modelo, probablemente conozcas BERT, GPT, y también modelos más interesantes, más recientes DPR Pegasus. XM Roberta es un gran modelo multilingüe de Alex y su equipo. En realidad, T5 es un modelo realmente enorme, así que hay muchos de ellos, muy simples de usar.

We can talk about that in the question. Incluso tenemos un hub de modelos donde las personas pueden compartir su modelo. Tenemos más de 3,000 modelos y muchos, muchos idiomas, así que si quieres usar un modelo para finlandés o alemán, tienen como 132 modelos diferentes que puedes esperar y puedes jugar con ellos. Incluso en la interfaz web, puedes probar el modelo y ver cómo se comportan. Esto es en huggingface.com.

Ahora abrimos recientemente una segunda biblioteca llamada Tokenizer, que hace esta primera parte que estaba mencionando, como dividir la cadena en integrales. Entonces, ¿por qué hicimos eso? Esto era realmente un cuello de botella en términos de velocidad. Y así decidimos usar algo de código rusk de muy bajo nivel, súper rápido para hacer eso y resolver este problema. Así que ahora este es realmente un paso muy rápido. Está disponible en Python node. Rust es un gran lenguaje.

Y más recientemente, hace unos meses, abrimos una tercera biblioteca, que se llama DataSets. Así que DataSets es nuestra tercera biblioteca. Esto es para abordar un último problema que descubrimos, que es que los propios DataSets son algo difíciles de acceder para las personas, son difíciles de compartir. Y pasamos mucho tiempo reescribiendo el mismo código de procesamiento que las personas ya han escrito mucho en ese conjunto. Así que decidimos hacer una biblioteca para resolver este problema, facilitar el intercambio de DataSets, y también para compartir métricas. Algunas métricas en este momento, algunas métricas novedosas son realmente muy complejas de usar, o al menos de instalar y configurar métricas, por ejemplo, para evaluar la generación de lenguaje natural puede ser realmente complejo. Y así decidimos que también sería bueno hacer algo muy fácil para compartirlas, subirlas, compartirlas. Así que esta es la biblioteca DataSets con ese conjunto de métricas. Tiene algunas cosas realmente geniales. Por ejemplo, hay interoperabilidad incorporada con NumPy, Panda, PyTorch y Tensor flow también. Así que puedes usar básicamente cualquier tipo de marco si quieres, bueno, cualquier tipo de marco moderno. También está hecha específicamente para abordar conjuntos de datos realmente grandes. Así que si tienes gigabytes de datos, si quieres, por ejemplo, entrenar tu modelo en Wikipedia, y algunos datos que tu conjunto de datos puede ser, por ejemplo, más grande que tu memoria RAM, puedes usar esta biblioteca porque tiene muchas formas inteligentes de hacer cero-sización en disco. Así que solo toma nueve megabytes de, por ejemplo, para entrenar Wikipedia. Hay mucho almacenamiento en caché inteligente. Si procesas tu conjunto de datos una vez, ya está bien, y no pasarás tiempo reprocesándolo de nuevo. Así que puedes revisar este. Aquí hay un ejemplo de cómo preparas. Esta es la preparación completa de un conjunto de entrenamiento para entrenar un modelo en Glue, con la tokenización, con el padding.

Y ves, esto es solo como 20 líneas de código, y aquí estás listo para entrenar este modelo. Así que está hecho para ser muy eficiente y todo sea muy visible al mismo tiempo. Así que, al igual que el modelo, también tenemos un hub donde puedes acceder e incluso explorar los conjuntos de datos. Así que hay como un modelo, 160 conjuntos de datos ahora. También hay conjuntos de datos multimodales con imágenes. Y así puedes ir a HuggingFace.co, explorar todos los conjuntos de datos. Puedes ver la estación y todo. Y puedes incluso ver qué hay dentro de un conjunto de datos en la interfaz web.

Bien. Así que lo mismo aquí. Puedes ir y revisarlo en HuggingFace.co. Bien. Así que estas son las tres bibliotecas principales, y estoy realmente feliz de hablar sobre cualquier pregunta que puedas tener sobre ellas. Y también, cualquier pregunta que puedas tener sobre la primera parte, el concepto, la historia. Gracias.

Hola Thomas, ¿cómo te va?

Hola. Bien, bien. ¿Cómo te va a ti?

Sí, también está bastante bien. Quiero decir, el sol ya está un poco afuera en Múnich, pero todavía hay un montón de charlas emocionantes. Y comenzaste esta conferencia bastante bien porque creo que el procesamiento del lenguaje natural o el lenguaje en general es uno de esos indicadores de qué tan bien entendemos este aprendizaje automático.

¿Cómo te sientes?

Sí, definitivamente. Creo que lo que hemos visto en NLP ahora mismo, supongo que en los últimos dos años probablemente es que realmente se ha convertido en lo que esperábamos que fuera desde el principio, lo que significa realmente la forma de procesar el conocimiento y la forma de hacer investigación o lo que esperamos que sea como investigar. Y así, cuando hablamos de AGI, creo que ahora mismo mucha gente piensa en GPT-3, que es un modelo de texto completo. Así que creo que esto es realmente algo impresionante sobre cómo NLP es ahora el campo más emocionante para estar en IA.

Sí, y es un poco gracioso porque casi estás prediciendo la primera pregunta correctamente. Y la primera pregunta es en realidad sobre GPT-3 y la gente pregunta como, oye, ya que eres un experto en NLP y tu empresa está impulsando tan buenos esfuerzos en este sentido, ¿cuál crees que es el avance de GPT-3 en comparación con GPT-2?

Sí, es una buena pregunta. Creo que, bueno, uno de los problemas de GPT-3 es que es bastante difícil acceder a él. Así que creo que realmente no hemos evaluado la capacidad de GPT-3. Como, lo hemos hecho con otros modelos como BERT o GPT-2 solo porque muchos académicos realmente no tuvieron acceso completo para poder investigar lo que está sucediendo. ¿Qué puedes hacer con eso? Poder probarlo completamente en muchas tareas. Así que es un poco difícil darte realmente una respuesta, ¿verdad? Lo que creo es que lo que podemos hacer es que GPT-3 se comporte de alguna manera como algo interesante, que es una recuperación, como una recuperación suave sobre un conjunto de datos realmente grande. Así que puedes hacer como, es como tener un Google Search enorme, donde puedes buscar cada página en internet y poder interpolar suavemente entre todas estas páginas. Así que creo que esto es muy interesante y lo que vemos, que puedes hacer algunas aplicaciones bastante geniales con eso, como puedes interpolar suavemente para generar también código y para generar como una publicación de blog de aspecto realista. Ahora, cuando hablas de realmente razonamiento, significado y cosas así, no creo que haya realmente ningún avance profundo en la suite de GPT pero esa es mi opinión personal.

Sí, no, es realmente bueno que al menos para mí resuena que separes el razonamiento de tener una gran base de datos. Porque a veces tenemos la sensación de que nuestra comunidad o partes de nuestra comunidad van como, oye, si la base de datos es más grande, puedes simplemente resolver todos los problemas. Y a veces no es realmente, tener un modelo más grande no significa realmente que de repente tengas como un AGI, y es bueno recordarlo básicamente.

Sí. Así que otra pregunta sería, solo de la audiencia, hay tantos tamaños diferentes de modelos, incluso basados en transformadores, está GPT-3, hay transformadores, hay Vertra, Roberta, todo tipo de cosas. También hay más distilados ¿verdad? Y cuando un ingeniero de aprendizaje automático comienza a trabajar en la tarea, ¿cuál es una buena regla general para tomar esta decisión? Y obviamente no hay una respuesta clara, pero ¿tienes algún modelo mental o un marco, especialmente para principiantes, que puedan estar trabajando en la empresa que no tiene un gran grupo de aprendizaje automático, pero son la persona para realmente tomar las decisiones, cómo podemos ayudar y apoyar a esa persona?

Sí, esa es una buena pregunta. Creo que eso es definitivamente algo que mucha gente enfrenta. Quiero decir, lo muy práctico sobre mí, sobre nuestro equipo en SwiggyFace, creo que es que deberíamos ayudar a las personas a hacer eso, porque entiendo que tenemos como, estamos proporcionando muchos modelos, estamos proporcionando muchos puntos de control, pero es realmente difícil ver realmente el que deberías seleccionar, el que deberías usar. Así que lo primero es que intentaremos construir algunas mejores herramientas sobre esto. Pero ahora, para la respuesta rápida, creo que es bueno mantener tu buen reflejo, tu buena rutina, es que deberías comenzar con algo simple, como deberías comenzar con un modelo más pequeño, como comenzar con un distilado birth, por ejemplo, en lugar de birth, como comenzar con algo pequeño, y ver hasta dónde puedes llegar con eso, con este modelo eficiente en computación, como un distilado birth, un distilado GPT-2, distilado Roberta, pruebas un poco con ellos. Y si no es suficiente, entonces escalas, entonces comienzas a usar modelos más grandes y tratas de ver si necesitas, como, un T5 o algo así.

Sí. Sí, eso es lo típico. Es lo mismo, siempre deberías comenzar con, como, proyección logística antes de pasar a, como, algo muy sofisticado, pero sí. Sí. Definitivamente. Solo puedo estar de acuerdo contigo, ¿verdad? Porque una vez que comienzas con GPT-3, ¿verdad?, solo puedes empeorar desde allí, ¿verdad? Así que, no hay manera de explicarlo, ¿verdad? Pero tal vez solo como una idea al azar, porque también estás construyendo un montón de herramientas, ¿verdad? Así que ahora mismo, muchas empresas están construyendo esto, como un modelo, ¿verdad? Tal vez también puedas tener algo como, como un caso de uso, ¿verdad? Pero como, mostrando, como, oye, ¿cuál es el espacio de problemas, verdad? ¿Y cómo se mapea, como, un espacio de modelos, verdad? Y sí, solución. Pero de nuevo, solo como una idea al azar. Bueno, esa es una muy buena idea. Creo que deberías venir a construir eso con nosotros. Sí. Sí, sí.

Bien. Entonces, la siguiente pregunta sería sobre transformers, ¿verdad? Hemos visto que los transformers reinventaron o revolucionaron la industria de NLP por completo, ¿verdad? Pero, ¿cómo te sientes acerca del futuro de los transformers? Hubo, como, algunos artículos también sobre el uso de transformers para, como, visión, ¿verdad? ¿Ves que pronto los transformers van a estar por todas partes en el aprendizaje automático o el aprendizaje en particular, o van a encontrar su propio nicho, verdad? ¿Y básicamente se estabilizarán desde allí?

Sí, esa es una buena pregunta. Es una pregunta oportuna. Creo que este transformer de visión fue un artículo muy impresionante porque realmente mostró que lo que hemos visto para NLP también era cierto para visión, que es que los transformers son bastante eficientes, y realmente son un buen modelo para escalar a grandes conjuntos de datos. Tan pronto como empiezas a hablar sobre el aprendizaje por transferencia desde un gran conjunto de datos, realmente quieres la arquitectura más eficiente que puedas escalar. Sí. Quiero decir, no soy un experto en visión por computadora. Así que sí, realmente no sé por qué solo vemos eso hoy, por ejemplo. Así que no sé si se desbloqueó algo, pero sí, creo que son buenos. Soy bastante agnóstico respecto al modelo, diría. Creo que la estrategia subyacente, como el aprendizaje por transferencia, es algo muy profundo e importante. En cuanto al modelo preciso que seleccionamos para usar, no me importa tanto. Si alguien encuentra algo mejor que Transformer, estaría feliz de cambiar a estos nuevos modelos. Pero creo que la idea de reutilizar un modelo preentrenado es mucho más profunda con consecuencias profundas.

Sí, supongo que también algo que está sucediendo en la industria ahora mismo no es ni siquiera usar Transformer como una arquitectura, sino más bien usar el aprendizaje débil o no supervisado. Porque la gran parte de Transformer o BERT, o esta dirección, era como, oye, no necesitamos tener un gran conjunto de datos etiquetados, podemos simplemente reutilizar lo que tenemos. Y al usar las mismas ideas de, oye, ¿podemos aprender representación de la imagen en sí, y todas las ideas de pérdida contrastiva podrían ser algo que desencadene otra dirección diferente. Genial, una pregunta más de la audiencia. La reformularé, pero espero no perder el sentido. Entonces, lo que también sugeriste en tu charla, si puedes usar el Aprendizaje por Transferencia, puedes intentar comenzar allí e intentar descongelar algunas capas y entrenarlo gradualmente para hacer bien la tarea. Y la persona está preguntando, esencialmente, ¿cuál es... qué tan probable es que al hacer Aprendizaje por Transferencia, termines en este óptimo local de convergencia, por lo que realmente no obtienes algo bueno? En comparación, si comienzas con un modelo desde cero y básicamente comienzas a entrenarlo todo junto. Porque, quiero decir, generalmente la gente espera que cuanto más descongeles, mejor te irá. Y es casi como una transición suave desde el Aprendizaje por Transferencia realmente listo para usar hacia este modelo que ha sido entrenado desde cero. ¿Estás de acuerdo con esto, verdad? ¿O hay algo de lo que la gente debería estar al tanto? Como cualquier consejo y truco básicamente de Aprendizaje por Transferencia avanzado y NLP? Sí, hay muchas cosas aquí. El mejor recurso, quiero decir, probablemente sea... Entonces, tenía un enlace en mi primera diapositiva sobre un largo tutorial donde hablamos de eso. Y también hice un video que podría compartir a principios de este año sobre esta pregunta. Pero hay mucho riesgo de caer en óptimos locales. Así que, vemos que cuando ajustas BERT, por ejemplo, puedes obtener un comportamiento no óptimo.

Para algún tipo de, para alguna semilla aleatoria el modelo simplemente no se convierte, simplemente se queda atrapado en mínimos. Y para alguna otra semilla aleatoria realmente funciona bien, lo cual fue sorprendente al principio. Y mucha gente ha estado investigando qué estaba sucediendo, y ahora tienes muchas herramientas para intentar evitar eso. Tienes herramientas como algo relacionado con lo que estás diciendo, que se llama MixOut, que es la idea que es un poco como DropOut, probablemente quieras, como, probablemente quieras regularizar tu modelo. Con DropOut regularizas hacia cero, como cancelas algunos pesos. Y con estas otras cosas, puedes regularizar hacia el modelo preentrenado. Así que puedes tener una interpolación suave desde el modelo preentrenado hasta el modelo que está afinado. Pero hay muchas otras técnicas que intentan hacer alguna interpolación suave para no quedarse atrapado en mínimos locales. Esa es un área de investigación muy activa, y la otra opción es intentar hacer algunos ensamblajes, que también funcionan muy bien. Pero sí, esa sigue siendo una pregunta de investigación bastante abierta. Creo que realmente no hemos entendido todo lo que estaba sucediendo aquí bien. Está tomando algún tiempo, mientras que está funcionando muy bien en esos casos, que parece realmente cercano. Así que tal vez para quien hizo esta pregunta, es como un buen tema también para la investigación, ¿verdad? Así que una vez que encuentres algunas respuestas, ¿verdad, por favor escribe el artículo o el paper. Y todos podemos leerlo más tarde.