Video Summary and Transcription
El ascenso de los ingenieros de IA está impulsado por la demanda de IA y la aparición de organizaciones de investigación e ingeniería de ML. Las startups están aprovechando la IA a través de las APIs, lo que resulta en una ventaja de tiempo de entrada al mercado. El futuro de la ingeniería de IA promete resultados prometedores, con un enfoque en la UX de IA y el papel de los agentes de IA. La equidad en la IA y los problemas centrales de la ingeniería de IA requieren esfuerzos colectivos para abordarlos. La vida cotidiana de un ingeniero de IA implica trabajar en productos o infraestructuras y lidiar con especialidades y herramientas específicas del campo.
1. Introducción al auge del ingeniero de IA
Tenemos 20 minutos para cubrir el auge del ingeniero de IA. La IA es la Ley de Moore de nuestro tiempo. Las capacidades de generación de imágenes han desarrollado significativamente en los últimos años. Sin embargo, todavía queda mucho por demostrar en el campo de la IA. Los impactos a corto plazo en la IA son popularmente culpados, pero es importante seguir el dinero para determinar lo que es valioso. Jasper, imágenes generativas y chatbots son ejemplos de proyectos exitosos de IA.
Muy bien. Gracias a todos por sintonizar. Nos vemos la próxima vez. Bueno, tenemos 20 minutos para cubrir el auge del ingeniero de IA. Es una tesis que he estado desarrollando durante toda mi carrera, y me voy a centrar en los fundamentos de la ingeniería de IA. Si eres nuevo en cierto sentido, si todavía estás aquí, al menos tienes algún interés en ello, y tengo la intención de hacer justicia. Voy a ir muy rápido. Esta es la primera vez que asistes a una de mis charlas. Sabes que hablo al ritmo al que escucho los podcasts, que es a 2X y a veces a 2.5X. Todas mis notas están en mi sitio web, así como en el espacio latente si buscas el auge del ingeniero de IA. Si has estado viviendo bajo una roca, o te has sentido abrumado por demasiada información, estos son los puntos que quiero que tengas en mente. La IA es la Ley de Moore de nuestro tiempo. Estos son todos los tipos de métricas de progreso en los últimos diez a 20 años. Lo que tienes a la izquierda es la capacidad de generación de imágenes que hemos desarrollado en los últimos ocho a nueve años. Sabes, en 2014, solíamos desarrollar esto como una imagen granulada de un rostro, y ahora nos quejamos si no podemos colocar a nuestro perro en medio de una imagen generada. En el 2000, apenas resolvimos el reconocimiento de escritura a mano con el conjunto de datos MNIST, y ahora estamos en su mayoría a niveles superhumanos en bastantes capacidades humanas básicas que entendemos. Pero también ha causado mucha locura de IA. Aquí es donde tiendo a distinguirme de algunas de estas personas que exageran la IA. No encuentras a muchas de estas en la cima de la lista de personas que podrías ver en línea. Así que mucha gente está mencionando la IA y tratando de tener alguna estrategia de IA en sus llamadas de ganancias, pero hay muy, muy poco uso, en realidad, y todavía queda mucho por demostrar. Y en particular, uno de los proyectos más impactantes o más publicitados del año es Auto GPT, que si estás en el mercado de valores, te has topado con esto a lo largo de los años, pero es un caso bastante loco en Django, y es bastante loco tener eso y luego tener a otras personas también comentando que nadie está usando esto, lo cual es realmente interesante. También hay una especie de lo que llamo depresión maníaca. En el mismo mes, tienes inversores diciendo que la IA ha alcanzado su punto máximo y luego también que la IA está de vuelta, viniendo de San Francisco, es muy común tener simultáneamente la sensación de que esto es lo que estamos buscando, y que esto es lo que estamos buscando, y esto es todo impulso a corto plazo contra el telón de fondo de que estamos en un arco más largo de la historia donde simplemente estamos marchando inevitablemente hacia una especie de arranque de inteligencia digital que nos superará en nuestras vidas. Y diría que es muy popular culpar a los impactos a corto plazo en la IA, Chegg es uno de ellos, pero creo que en su mayoría, no está en todos los papeles. Tengo un resumen mensual en el espacio In en mi boletín donde recapitulo las principales cosas que debes saber como ingeniero de IA, pero realmente es solo, sigue el dinero. Eso es, sabes, es la forma menos mala de averiguar lo que es valioso que hemos desarrollado en el tiempo que la humanidad ha existido. Entonces, ¿quién está haciendo un buen trabajo? ¿Quién está realmente ganando dinero? Jasper probablemente no lo está haciendo tan bien, pero creo que mucha gente está haciendo lo mejor que puede. Así que hay mucha gente haciendo lo mejor que puede ahora, pero aún así pasaron de cero a 80 millones de ARR en dos años. Imágenes generativas, ahora supuestamente en $100 millones de ARR con un equipo de 13 personas. Y los chatbots, obviamente, OpenAI tiene mil millones de dólares solo en chat.GBT.
2. Progreso y Oportunidades en IA
Hay un increíble progreso y entusiasmo proveniente de la IA. La IA está cambiando hacia la derecha, lo cual es un gran cambio en los últimos diez años. La primera respuesta es hacer todo lo relacionado con el aprendizaje automático. La segunda respuesta es hacer ingeniería de datos. La tercera respuesta es hacer aprendizaje automático en Coursera. Hay un espectro de roles en una organización habilitada para IA, desde el lado del aprendizaje automático hasta los ingenieros de productos y front-end.
En realidad hay un equipo de 13 personas en ese equipo. Y Danny Postma es un buen ejemplo de eso. Así que esos son solo algunos data puntos que quiero que tengas en mente, que la IA es real, la IA tiene muchas oportunidades. Hay mucho bombo, pero también hay algo de progreso real a largo plazo aquí.
Y real, como, la verdadera tesis central que quiero entregar es que hay un increíble progreso y entusiasmo proveniente de la IA en los últimos meses. Y cómo ha estado moviéndose desde React y JavaScript, justo como yo. Todo esto se resume en esta tesis, el auge del ingeniero de IA que escribí hace unos meses. Y la tesis central es que la IA está cambiando hacia la derecha.
Este es un cómic XKCD real de 2013 donde hablaban de, como, oh, si necesito hacer reconocimiento de aves, necesito cinco cien por ciento, necesito hacer reconocimiento de aves. Necesito hacer reconocimiento de aves. 17.7 por ciento de rendimiento en cero disparos hasta el estado del arte. 78 por ciento en alguna métrica. Eso es un estado muy, muy diferente de la IA tal como es hoy. De, hey, necesitas contratar a un equipo de investigación a, hey, necesitas hacer un poco de trabajo. Eso es un gran cambio en los últimos diez años. Eso es un gran, gran cambio en la IA tal como es hoy.
Entonces, la primera respuesta es hacer todo lo relacionado con el machine learning. He hecho los cursos de machine learning en Coursera, no son útiles en absoluto. La segunda respuesta es, lo siento, parece que la pantalla se ha apagado. La segunda respuesta es que deberías hacer ingeniería de data. La tercera respuesta es que deberías hacer machine learning en Coursera, no es útil en absoluto. Después de haber hecho eso, no es realmente muy útil para mí entender todo el progreso del modelo de fundación de hoy. ¿Debería hacer una pausa para recuperar la pantalla? Creo que el AVT todavía está averiguándolo. Todavía estoy tratando de averiguar qué está pasando aquí. Todavía se está reproduciendo en la pantalla de aquí. Solo voy a tratar de mantener esto en movimiento sin ayuda de la pantalla. Quiero que imagines en tu cabeza un espectro de izquierda a derecha de los roles en una organización habilitada para IA. A la izquierda tienes el lado del aprendizaje automático, y a la derecha tienes el lado del aprendizaje automático, y en el lado derecho, tienes el lado del aprendizaje automático. A la izquierda, tienes el lado del aprendizaje automático, y a la derecha, tienes el lado del aprendizaje automático. Ingenieros de productos y front-end.
3. El Auge del Ingeniero de IA
En el auge del ingeniero de IA, la organización de investigación de ML y la organización de ingeniería de ML se están implementando en la API. El costo de la ingeniería y la demanda de IA están impulsando la aparición del rol de ingeniero de IA. El papel del ingeniero de IA es consumir APIs y entregar la última milla a los usuarios. Durante los próximos diez años, habrá más ingenieros de IA que ingenieros de ML debido a la creciente demanda y la necesidad de proteger la potencia de cálculo.
En el medio, tienes la línea de puntos, básicamente la línea de la API. Lo que está sucediendo efectivamente es que la organización de investigación de ML y la organización de ingeniería de ML ahora se está implementando en la API y los ingenieros de pila completa van a trabajar en la API. Se van a especializar en un rol dedicado que estoy llamando ingeniero de IA. Esa es la imagen mental que mostraría en la pantalla si tuviéramos tiempo.
¿Estamos arreglando eso? La lámpara del proyector murió. La están reemplazando. Voy a seguir adelante y poner la computadora allí e intentar realmente darle al ingeniero de IA una buena experiencia. Seguiremos con eso. Muchas veces tienes que hacer corrección de errores en la vida. Hay mucha estocasticidad en lidiar tanto con data como con problemas de hardware desordenados.
Entonces, cinco razones principales para el auge del ingeniero de IA. La primera es el costo de la ingeniería. Y la segunda es el costo del producto en su idioma. En términos económicos, simplemente no hay suficientes ingenieros de ML en el mundo. La razón por la que hay alrededor de 50,000 ingenieros de ML en el mundo y hay algo así como 50 millones de desarrolladores en el mundo. Y la pura demanda de cosas de IA significa que no habrá un solo ingeniero de ML en el mundo solo para llenar la brecha. Habrá 100,000 ingenieros de ML en el mundo y eso es lo que tienes. Así que como pura demanda en términos de suministro, habrá un rol secundario al ingeniero de ML que surgirá que hará cosas adyacentes a ligeramente diferentes.
Y la cita que presenté en mis diapositivas que no puedes ver porque el tiempo es una de Andre Carpathi quien estaba comentando sobre el auge del ingeniero de IA. Dijo esto que realmente me encanta. Dijo que si tienes un ingeniero de IA que puede hacer todas las cosas que puedes hacer pero eso es un poco difícil de hacer porque nunca estás entrenando nada. Y creo que esa es la línea divisoria principal. ¿Estás entrenando modelos o no? ¿Los estás poniendo en uso? El papel del ingeniero de ML es ayudar a entrenar modelos y servir y el papel del ingeniero de IA es una vez que los sirves como una API, ¿cómo aprovechas y consumes esas APIs y entregas la última milla a los usuarios? Tienes que tener una experiencia de alto nivel en términos de habilidades que puedes tener y tener un alto nivel de comprensión de los ingenieros de IA y tener una comprensión y alta convicción de que durante los próximos diez años esa proporción se invertirá, que habrá más ingenieros de IA que ingenieros de ML. También es economía en términos de solo hardware subyacente. El hardware es difícil. Las cosas se rompen todo el tiempo. Tenemos que descubrir cómo proteger nuestra infraestructura y tenemos que proteger la potencia de cálculo para la potencia de cálculo para la red de computación que está sucediendo por todos los grandes jugadores tecnológicos. El término para esto es la división entre los ricos en GPU y los pobres en GPU. La mayoría de nosotros somos pobres en GPU.
4. El papel del ingeniero de IA y las APIs
Si tu plan es construir tu propio equipo de investigación de ML y modelos internamente, no es físicamente posible. Sin embargo, puedes aprovechar las APIs que se están sirviendo, por eso surgirá el papel del ingeniero de IA.
De hecho, tengo una pequeña gorra en casa que refleja esto. A la gente le gusta la inflexión, el sitio de la piscina, el contexto y, por supuesto, el tipo de situaciones. Y así, la mayoría de estas cosas ya están habladas para los próximos cinco años. Entonces, si tu plan es construir tu propio equipo de investigación de ML, construir tus propios modelos internamente dentro de tu empresa para aprovechar la IA, no es físicamente posible. Pero puedes aprovechar las APIs que se están sirviendo y creo que por eso surgirá el papel relativo del ingeniero de IA. Así que, por eso quería ilustrar este gráfico.
5. El auge de la IA en las Start-ups
Muchas start-ups están discutiendo sobre la IA, y los canales informales de slack se convertirán en equipos formales. El auge de la IA es posible gracias a los avances en tecnología, como la IA y la ingeniería cuántica. El aprendizaje en contexto y la transferencia de cero disparos permiten desbloquear capacidades sin ser un entrenador de modelos. Está ocurriendo un cambio tecnológico fundamental. Los ingenieros habilitados por LLM lanzan un MVP primero, lo que resulta en una ventaja significativa en el tiempo de llegada al mercado. La disponibilidad de la IA a través de las APIs la ha hecho accesible para los desarrolladores de JavaScript, ampliando su alcance.
Muchos de los, así que, estoy asesorando a algunas start-ups y muchos de las start-ups no son tradicionalmente start-ups de IA, pero están discutiendo sobre la IA. Así que, típicamente en canales de slack habrá uno, yo tengo este literal resaltado de un canal en el que estoy que es como discutir IA, ¿verdad? Como y la gente simplemente lanza cosas con entusiasmo al lado. Mi tesis es que esos canales informales de slack se convertirán en equipos formales. O, se convertirán en informales, pero no formalmente, pero estoy hablando de, como, ya sabes, como, la gente no comienza equipos formalmente por su cuenta. Esto ya sucedió en mi empresa anterior. Así que, esto no es ni siquiera una predicción, es solo una descripción de lo que está sucediendo en vivo hoy. Así que, eso también me pasó a mí.
Dirijo un discord para inversores de DevTools donde la IA y ML solían ser una línea y ahora es prácticamente la mitad de los canales en los que discutimos cosas. Es muy similar a, como, lo que haces los fines de semana. Trabajas desde casa y, como, tú, ya sabes, lo que haces en las noches y los fines de semana se convierte en lo que haces en tu trabajo diario. Y luego el siguiente punto, creo que es el tercero o cuarto en este punto, también está habilitado por la tecnología. Como, no estoy haciendo pura economía y puro tipo de comentario contingente sobre, como, por qué surgirá el ingeniero de IA. También está habilitado por avances fundamentales en tecnología, como, la IA y la ingeniería cuántica, puedes leer el design de las piezas de ingeniería de la computadora cuántica, también puedes leer el segmento de cualquier papel que salió de meta, y finalmente, puedes leer cualquier número de las piezas de ingeniería cuántica en su mayoría Kojima et al, que es el papel de pensar paso a paso. Estos son todos ejemplos de aprendizaje en contexto o aprendizaje de gradiente cero o transferencia de cero disparos, y aquí es donde puedes sacar el máximo provecho del modelo de entrenador de modelos. En otras palabras, no tienes que ser un entrenador de modelos para desbloquear capacidades. Realmente puedes simplemente indicar, o hacer, ya sabes, otras actividades similares a indicar para desbloquear esas capacidades. Y creo que eso es muy fundamentalmente diferente a la era anterior del machine learning, donde tenías que específicamente decir, como, está bien, quiero detectar fraude, así que entrenaré un modelo de machine learning y lo serviré para detectar fraude. Aplicación muy, muy específica de dominio. Así que, ya sabes, veremos cómo se ve eso, cómo se ve la aplicación, y luego la usaremos en una aplicación específica de dominio al indicarla. Así que, hay un cambio tecnológico fundamental, y no estoy seguro si puedo ilustrarlo bien sin él, pero voy a intentar hacerlo de todos modos. Bueno, el penúltimo es un cambio de producto. Así que también pienso en términos de, como, ser un PM, ser una persona de negocios real, y luego sirves en tus productos, y luego quizás mejoras las cosas en un 2 a 3% en términos de tus sistemas de recomendación, o tu detección de fraude, y lo que sea. Y ese es el camino tradicional del ingeniero de data y ML. Lo que sucede con los ingenieros habilitados por LLM, es que lanzas un MVP primero. Luego, si el MVP tiene éxito, entonces consigues un montón de otras personas para servir contigo. Y, como equipo, puedes servir, pero no puedes competir. Como un enfoque habilitado por ML, ahora estás listo para disparar, y eso cambia mucho el tiempo para llegar al mercado en órdenes de magnitud. Y creo que eso es si estás en el mundo de las start-ups, si estás en el enfoque ágil versus el enfoque de cascada en absoluto, esto debería resonar contigo en términos de los argumentos de tiempo para llegar al mercado del tiempo que estás en el mercado. Así que, para resumir, ML era muy Python, y ahora la IA al estar disponible a través de las APIs está disponible para la gente de JavaScript, así que todos aquí. Y así, como, diferentes estimaciones ocurren, pero, efectivamente, creo que la población de JavaScript es aproximadamente del mismo tamaño o tal vez un poco más grande que Python.
6. El futuro de la ingeniería de IA y los problemas centrales
Hemos duplicado efectivamente el bronceado de la ingeniería de IA. La innovación en IA, la tecnología, lo social, la sociología y la tecnología son aspectos clave. Los productos están pasando de estar listos en el fuego a estar listos para disparar. Hay un cambio demográfico de JS a Python. La IA con código es más poderosa que la IA con lenguaje. La IA será el último trabajo que se automatizará. Visite AI.engineer para los problemas centrales del ingeniero de IA.
Así que hemos duplicado efectivamente el bronceado de la ingeniería de IA. Un par, eso es cuatro, que es la IA innovation, tecnología, social, sociología, que es el deseo intrínseco de las personas de querer explorar informalmente y luego formalmente. Tres, que es tecnología, mejoras fundamentales en modelos de fundación, cero gradientes en aprendizaje en contexto. Cuatro son productos, pasando de listo en fuego a fuego listo para apuntar. Y cinco, que es lenguaje, solo un cambio demográfico de la gente de JS siendo capaz de aprovechar finalmente la IA en lugar de solo Python.
Y entonces, tengo toda esta sección sobre software 3.0, que es el futuro de la IA. Así que, no voy a hablar de esto sin diapositivas, porque estaba tratando de mostrarte algo de código. Pero puedes revisar la tesis en el ensayo, si solo buscas el auge del ingeniero de IA, deberías verlo. Pero básicamente, toda la tesis es que la IA con código es más poderosa que la IA con lenguaje. Y te contaré una historia personal de, como, por qué obtuve esta idea. Así que, estaba haciendo mucha investigación en IA con lenguaje. Y estaba investigando, como, eventos sociales. Algunos de ellos son tecnología. Y tuve a una mujer que vino a mí y dijo, estoy totalmente en la IA, estoy tratando de aprender todo, pero no soy técnica. ¿Qué debería hacer? Y le di algunos tips sobre cómo aprender a mitad de camino, provocando. Puedes orquestar tus indicaciones, tu cadena de indicaciones, por eso lang chain es popular. Y puedes usar tus modelos de lenguaje para generar código para hacer otras cosas. Y todo esto está bloqueado detrás de una pared para las personas no técnicas. Así que, respondiendo a la pregunta original de Meddy, cuando estaba hablando sobre, ¿la IA va a tomar nuestros trabajos? Yo diría que la IA va a ser el trabajo que se lleva los otros trabajos. Si crees que la humanidad no tiene otros deseos y se resistirá a la tendencia de estar continuamente equivocada sobre la tecnología que quita trabajos, entonces la IA será el último trabajo que se automatizará. He trabajado en esa lógica internamente y estoy bastante cómodo con esta filosofía.
Bueno, entonces, voy a saltarme muchos de los gráficos que muestro típicamente en esta demostración porque no hay nada que ver. En su lugar, simplemente te dirigiré al sitio web del Ingeniero de IA. Si vas a AI.engineer, sí, ingeniero es un TLD, y sí, lo compramos. En realidad, te muestra una bonita encuesta de los problemas centrales del Ingeniero de IA. Creo que cada industria que se está formando, al igual que data ingeniero, ingeniero de front-end, ingeniero de DevOps, estudié muchos cambios industriales, y creo que el Ingeniero de IA es uno de los cambios industriales. Cada industria tiene un conjunto compartido de problemas centrales que todos se unen para trabajar para encontrar. He identificado seis de estos. Voy a pasar por algunos de estos, y luego iremos a preguntas y respuestas. Claramente no estoy haciendo un buen trabajo.
7. AI UX y el Futuro de los Agentes de IA
AI UX se trata de traducir las capacidades brutas y los parámetros del modelo en una experiencia de usuario fluida. La charla de Amelia Wattenberger explora formas de mejorar la UX y utilizar las capacidades de la IA. Los agentes de IA deberían ir más allá de los cuadros de texto flotantes y automatizar tareas en segundo plano, proporcionando una experiencia inspiradora y útil.
La lámpara no me gusta. Primero es AI UX. Aquí es donde los ingenieros de front-end reactivos lo hacen realmente, realmente bien. ¿Cómo traduces las capacidades brutas, los parámetros del modelo, en UX que desaparece bajo el capó? No pude hablar de esto, pero yo quiero hablar de lo que la gente está haciendo para intentar hacer del mundo un lugar mejor, y muchos de ustedes conocen a Amelia Wattenberger, y ella vino a mi conferencia para hablar de esto. Mucha gente está básicamente tratando de ver más allá del cuadro de chat. Chat GBT estaba principalmente muy contento de decir que era una innovation de UX encima de GBT3. Si eso es cierto, entonces bien. Si eso no es cierto, entonces bien. Pero lo que estaba tratando de decir es que el cuadro de chat es un estado muy brutalmente vacío, y no proporciona ninguna posibilidad para que la gente descubra cómo es eso. Así que Amelia Wattenberger en su charla, recomiendo mucho ver eso. Básicamente muestra formas de activar y desactivar diferentes modos y formas de construir posibilidades para que usted mejore o utilice capacidades sin realmente hablar mucho de la aplicación también. Recomendaría que lo hagan. Y una de las cosas en las que ella está trabajando que es muy interesante en ADET, todos están hablando de este concepto de agentes de IA y cómo las cosas, puedes, puedes emplear IA para hacer cosas por ti de forma autónoma. Pero muchos de los agentes de IA de hoy toman la forma de un cuadro de texto flotante en tu escritorio como una extensión de Chrome dentro de tu navegador. Y creo que eso tampoco es exactamente lo que estamos buscando. Y eso tampoco es el caso, porque siempre puedes simplemente introducirlo allí y luego automatiza el navegador para ti. Ese es el estado del arte hoy en día en los agentes de IA y eso no es realmente inspirador o útil. Pero lo que ella mostró en su charla, que recomiendo mucho, que es como si todo se ejecutara en segundo plano como si fuera una tabla. Y los agentes desaparecen, como la experiencia de IA desaparece. Eso es lo que la innovation en AIUS podría parecer si estás utilizando la API.
8. Herramientas y Roles de la Ingeniería de IA
Aquí hay una imagen de otra forma de ver el mundo. Las herramientas de ingeniería de IA abarcan cadenas ligeras, evaluaciones, herramientas de desarrollo de productividad, ajuste fino, post-entrenamiento y agentes de IA. Comprender las razones fundamentales detrás del auge de la ingeniería de IA te permite decidir si quieres seguir una carrera como ingeniero de IA o contratar ingenieros de IA. El problema de la equidad en la IA es significativo, con disparidades en el lenguaje, la raza y la disponibilidad de recursos. Aunque no es únicamente un problema de ingeniería, requiere esfuerzos colectivos para abordarlo. El papel de un ingeniero de IA varía, con subdivisiones como ingeniero de infraestructura de IA, ingeniero de compilador de IA, ingeniero de producto de IA y agentes de IA. El futuro de la ingeniería de IA promete resultados prometedores.
Aquí hay una imagen de otra forma de ver el mundo. Primero es el mundo de la IA. Es la tooling de ingeniería de IA, así que son las cadenas ligeras del mundo. Así como las evaluaciones que podrías querer ver. Tercero son las herramientas de desarrollo de productivity, aquí es donde están todos los copilotos y el tipo de asistencia de código AI tooling, porque creo que necesitamos ser conscientes del hecho de que las herramientas de ingeniería de IA son efectivamente una herramienta para progresar, y podrías necesitar eso por privacidad, personalización y otras razones.
Quinto es el ajuste fino y el post-entrenamiento, y aquí, ya sabes, incluso más técnicamente advanced hosting de código abierto. Y sexto son los agentes de IA, todos los cuales cubro dentro del tipo de currículo de ingeniería de IA. Así que tengo una lista completa de herramientas, si quieres hablar de herramientas, podemos hablar de ello en la Q&A, pero voy a saltarme todo en esta charla porque quiero terminar. Así que, sí, diría que hay simplemente un montón de contenido y mucho detalle. Solo diría que si entiendes las cinco razones principales por las que la ingeniería de IA se está convirtiendo en algo, puedes decidir por ti mismo si quieres o no convertirte en un ingeniero de IA, quieres contratar ingenieros de IA. Puedes decidir si te gusta el alcance del ingeniero de IA es algo que te interesa en construir, y hablemos de eso, puedes decidir por ti mismo. Y si quieres unirte a mí en eso, entonces por favor, la conferencia y las masterclass que hago están en AI.engineer. Gracias por eso, y estoy feliz de responder preguntas.
Muchas gracias. Primera pregunta, ¿ves algún problema con la equidad en la IA? Oh, sí, toneladas. Sí, sí. Absolutamente no creo que esto sea un bien mitigado, quiero decir, creo que hay muchas áreas diferentes del mundo donde tienes diferentes oportunidades. En particular, quiero decir, el lenguaje es un obvio, la raza es un obvio, y luego simplemente diferencias en la disponibilidad de recursos, como los ricos definitivamente seguirán enriqueciéndose. Y entonces, sí, creo que tenemos que tener una especie de mecanismos sociales para ajustar eso, pero realmente no es el dominio de la ingeniería. Y no es, como, una de las cosas que tenemos que construir juntos, pero tenemos que construir juntos.
Y siguiente pregunta, ¿puedes elaborar en lo que un ingeniero de IA realmente hace? Y tal vez puedes describirlo con un día en la vida. Sí, no sé, un día en la vida sigue siendo muy vago, porque depende. Como, muchas personas aún no tienen este título todavía. Muchas personas que tienen este título difieren en su descripción de trabajo central. Pero, como, como una persona que ha estado trabajando en marketing, ingeniería por un tiempo, y miras la página de trabajos o la página del equipo, tiene ingeniero de infraestructura de IA, ingeniero de compilador de IA, ingeniero de producto de IA. Y entonces, como, hay todas estas subdivisiones dentro de la ingeniería de IA ya que están emergiendo que es realmente difícil de describir en qué dirección específica está tomando esto. Intento describir los tres tipos centrales de ingeniería de IA, que son ingeniero de producto de IA, ingeniero de infraestructura de IA, y luego los agentes de IA que son el ingeniero no humano. Lo cual tenemos que aceptar que va a suceder. Las personas están trabajando muy, muy duro en ello. Y hay algunos resultados iniciales muy alentadores.
9. Un Día en la Vida de un Ingeniero de IA
En un día en la vida de un ingeniero de IA, puedes trabajar en productos o en infraestructura. Si trabajas en productos, traduces las necesidades del usuario en requisitos de IA y encuentras soluciones. En el lado de la infraestructura, el ajuste fino y la prestación de modelos son importantes. Trabajar en agentes no humanos implica pruebas de cogeneración y automatización web. Los problemas centrales de la ingeniería de IA son el foco, ya que son persistentes y requieren una comprensión profunda.
Entonces, ¿cómo es un día en la vida? Estás trabajando en productos, o estás trabajando en infra. Si estás trabajando en productos, estás traduciendo las necesidades del usuario en requisitos de IA y viendo qué necesidades del usuario puedes resolver con ellos. Así que ambos métodos definitivamente funcionan. Y luego, en el lado de la infra, si estás afinando o estás haciendo la prestación de modelos, eso está más cerca del espectro de ingeniería de ML que del lado de los productos. Pero también es una parte muy importante del trabajo. Y finalmente, si estás trabajando en agentes no humanos, estás realizando pruebas en cogeneración y quizás lo que hablamos con Amelia, haciendo como automatización web también. Así que hay muchos elementos diferentes. Y lo que dije sobre los problemas centrales del ingeniero de IA es efectivamente en lo que se va a centrar. Como no me enfoco tanto en el día a día tanto como en los problemas que compartimos porque las soluciones vendrán e irán, pero los problemas siempre permanecerán y se profundizarán.
10. Especialidades y CoPilot en Ingeniería
Ser un ingeniero de front-end requiere especialización en diferentes partes del stack y familiaridad con un conjunto diferente de herramientas. El conjunto de problemas compartidos entre los ingenieros será el foco de la industria. Las empresas que prohíben CoPilot pueden abordarse ejecutando CoPilot local o herramientas similares. Aunque la necesidad de documentación se reduce, todavía es necesaria para escribir texto en bruto e ingerirlo dentro de LLM. Los cambios en las APIs de React cada pocos años proporcionan seguridad laboral.
Es tan amplio como ser básicamente un ingeniero de front-end. Así que creo que eso es lo que es. No creo que esa sea la forma de hacerlo. Entonces, ¿cómo obtienes esa base? Comienza a darte una indicación de las tecnologías con las que trabajas. Y esa es la razón por la que surgen las subespecialidades dentro de los ingenieros de software. Te especializas en diferentes partes del stack. Estás familiarizado con un conjunto diferente de herramientas.
Aquí, si digo que eres un ingeniero de front-end, probablemente conozco React, probablemente no CSS, probablemente sé sobre aplicaciones de navegador, probablemente sé sobre diferentes tipos de entorno. Hay muchas cosas buenas en eso. Cuando digo Evals, todos ganan esto. Cuando digo Cogen, todos aplauden. Hay un conjunto común de problemas que son compartidos por estos ingenieros, y creo que cada vez más será el foco de la industria de la ingeniería.
No estoy seguro de cómo decirlo. Permíteme empezar con el dev. Su empresa está prohibiendo GitHub CoPilot. ¿Qué pueden hacer los desarrolladores? Sindicalizarse. Los sindicatos están fuera de mi alcance. Las empresas pueden prohibir CoPilot, pero puedes ejecutar CoPilot local. Ese es el nombre de estos modelos. No puedo recordar cuál es el otro nombre. No sé cómo pronunciarlo. Los data nunca salen de tu empresa. Está bien no usar CoPilot en el trabajo, pero deberías intentar explorar las ganancias de productivity que se experimentan al tener una experiencia similar a CoPilot, ya sea CoPilot local o cualquier otra herramienta similar.
Diría que una opinión controvertida que podría ofrecer es el hecho de que todavía necesitamos Docs. No necesitas Docs para ninguna de las otras cosas que están involucradas en tu aplicación. Todavía necesitamos a alguien para escribir el texto en bruto y luego ingerirlo dentro de LLM, pero una vez que está en el LLM, realmente no necesitas los docs, por lo que puedes hacerlo en contexto. Porque ¿qué es mejor que ir a react.dev? No ir a react.dev y simplemente tenerlo dentro de tu base de código. Va a llevar un poco de tiempo llegar a los docs, pero no va a ser un gran problema. La razón exacta por la que necesitamos docs, todos los LLM estarán uno o dos años desactualizados para todo lo que generen, porque esos son los data de entrenamiento. Afortunadamente, para la security laboral, React sigue cambiando las APIs cada dos, tres años.
11. Uso de SQL en Componentes y LLMs para Documentación
Necesitas documentación para actualizar SQL en tus componentes. Los LLMs son excelentes para generar código. Es realmente bueno para aprender nuevas APIs. Ya no es necesario aprender animación CSS. Consulta el chatbot para aprender más y continuar la conversación con Sean.
Si quieres usar ese SQL en tus componentes, no va a saber nada al respecto. Necesitas documentación para actualizarlo y luego puedes prescindir de ella.
También he visto a muchas personas que han utilizado LLMs para documentación, y construí un chatbot para documentación y fue increíble. Simplemente podía decir dame el código para generar la nota adhesiva usando curl y boom, super agradable, gran experiencia. Es realmente bueno para aprender nuevas APIs.
Para mí, nunca aprendí CSS animación, de nuevo, disculpas a Rachel, ella es realmente buena en animaciones en la web. Simplemente nunca tuve que aprenderlo, porque ahora simplemente escribo el código, y es realmente genial poder hacer esto con la web. Si realmente quieres aprender más, puedes consultar este chatbot. Y si quieres continuar la conversación con Sean, él va a ir debajo de ti, y puedes unirte haciendo clic en el enlace en la línea de tiempo a continuación. Por ahora, es hora del mayor aplauso que la Cumbre de React de EE.UU. ha visto jamás. Gracias.
Comments