Entonces, la herramienta de IA pensó que, está bien, los hombres tal vez son mucho mejores. Así que, por eso no miremos, no miremos tanto los CV de las mujeres. Así que, por supuesto, es, es muy malo. Y, hay diferentes otros casos como el caso de shuffle con créditos, cuando, tienes como algún, punto, o alguna puntuación de tu, como, probabilidad de que pagarás el crédito y, ellos, también tuvieron algún, problema que almacenó datos mucho más largos de lo que debería y, por eso, la gente tuvo problemas con, eso. Así que, obtuvieron malas puntuaciones, pero, en realidad ya, pagaron toda su hipoteca. Así que, también cuando confiamos demasiado en la automatización, podría haber algún tipo de sesgo de automatización, así que confiamos demasiado. Y podría ser un problema, porque los algoritmos de IA, necesitamos revisarlos, ¿verdad? Pero, este caso que quiero compartir contigo, no es, no se trata de sesgo de automatización, se trata solo de automatización y problemas por eso.
Es bastante similar al caso anterior con el cursor que, la gente comienza a usar tecnologías muy modernas, como IA, comienzan a codificar, se llama como vibe coding. Pero, que no eres programador, pero puedes codificar. Y, el problema es que no, a veces olvidamos lo básico, así que ni siquiera los aprendemos. Y, este, trágico caso con, el avión en el que murieron muchas personas en este, caso. Y, el problema fue que, algunos pilotos, no, tenían mucha experiencia y porque usualmente usan el piloto automático, pero el piloto automático, dejó de funcionar en algún momento debido a como a condiciones climáticas malas y etcétera.
Pero, el problema fue que, los pilotos comenzaron a entrar en pánico y comenzaron a hacer algunas acciones. Y por simulación se realizó, una investigación que en realidad si los pilotos simplemente hicieran nada, entonces estaría bien. Así que, nadie moriría en este caso. Así que, tenemos esta, tendencia a, automatizar todo, pero no debemos olvidar, como, las raíces, lo básico de todo. Así que, creo que, es solo como el caso que necesitamos pensar que, sí, la IA es una herramienta muy poderosa, muy útil, pero debes saber, entender cómo funciona. Debes, debes conocer lo básico de cómo, cómo hacer tus, cosas. Y también, responsabilidad. Así que, todos, debemos ser responsables. Así que, hay, una idea bastante, bastante, de que debe haber un humano en el bucle y mantener este proceso, no podemos confiar. No podemos decir que, está bien, este algoritmo, por ejemplo, sistema de automatización, que responderá y dará el feedback final para todo. Así que, y, las personas, no deben solo, mirar la salida de un agente, sino que también deben proporcionar algún feedback. Y, entonces, solo entonces necesitamos tomar una decisión final, especialmente cuando se trata de algunos puntos críticos de, nuestros flujos de trabajo. Hay, por supuesto, algunas investigaciones ya, Harvard Business School, por ejemplo, que, todas las tareas repetitivas, podemos, hacerlas más rápido con IA. Podemos, ser más productivos para eso. Pero también, hay, algunas, algunas investigaciones que reducen, nuestra creatividad. Así que, porque de nuevo, se basa en algunos datos. Te, te da algunas respuestas, como cuando hacemos una lluvia de ideas, pero al mismo tiempo, no es tan diverso. Sí, tiene muchos datos, pero cuando preguntas, necesitas ser preciso.
Comments