Ética de la IA para el Resto de Nosotros

Hola. Soy Katherine Grayson-Nanz, una defensora del desarrollo en Progress Software. Ahora, si no has estado viviendo bajo una roca durante el último año, probablemente has estado escuchando mucho sobre una tecnología en particular en estos días. IA. Ya hemos superado la fase incómoda del principio, más allá del punto en el que era divertido jugar con ella, pero también, ya sabes, generando consistentemente imágenes de personas con 12 dedos.

En estos días, estamos viendo cada vez más usos serios de la IA generativa en nuestra vida cotidiana. Desde el Asistente Meta de Instagram hasta las sugerencias de escritura de Notion o Twitter, la inclusión de una función de IA es una tendencia importante en nuestra industria en este momento. Y para ser claros, no estoy usando la palabra `tendencia` aquí de manera negativa. Solo intento capturar la fascinación con esto en el momento actual, porque he escuchado y visto personalmente la presión que muchos de nosotros estamos recibiendo para incorporar IA en lo que estamos construyendo, a menudo sin importar si realmente sería beneficioso para nuestros usuarios o no. Esto a menudo puede venir de personas que no están directamente involucradas en el proceso de desarrollo. Tal vez un gerente de producto, un vicepresidente, un vendedor o algo similar. Puede haber mucho miedo en este momento de que un producto se quede atrás si no está aprovechando la IA de alguna manera en este momento. Así que hay un gran impulso para que todos nos subamos al carro. Cuando se aplica ese tipo de presión para implementar una nueva tecnología, especialmente en nuestra industria con la presión preexistente de moverse rápido para llegar primero, las cosas pueden volverse un poco caóticas. Hay muchas formas increíbles en las que se puede aprovechar la IA para mejorar un producto. Pero creo que la mayoría de nosotros también hemos visto casos en los que la IA se ha introducido solo por decir que un producto está impulsado por IA. Como ese ejemplo anterior con la barra de búsqueda de Instagram, el chat de IA. Cuando usamos tecnología de IA sin intención, podemos causar más daño que beneficio. A veces eso solo se ve como frustración o decepción de nuestros usuarios, lo cual daña nuestra marca y nuestra reputación. Pero otras veces puede parecer sesgo, discriminación y desinformación, lo cual tiene la posibilidad de causar mucho daño en el mundo real. De hecho, un estudio global reciente encargado por Progress encontró que el 65% de las organizaciones experimentan sesgos de datos en IA hoy en día y el 78% está preocupado de que los sesgos de datos se vuelvan más grandes.

Ahora, la palabra IA está haciendo mucho trabajo en estos días, y no todo eso es preciso o descriptivo. Además de ser una palabra de moda, también se ha convertido en una frase comodín, especialmente para personas menos técnicas que agrupan todo, desde algoritmos hasta texto predictivo hasta chatbots predefinidos, que pueden o no incluir alguna tecnología real de IA. Pero para nuestros propósitos aquí, en esta charla, quiero centrarme principalmente en la IA generativa. La IA generativa es la que está causando más revuelo para nuestra audiencia particular, los desarrolladores aquí y ahora en el momento de escribir esto, porque se ha vuelto tan fácilmente accesible. Cosas como chat-GBT, DALI, Mid-Journey. Seamos realistas aquí, la mayoría de nosotros no tenemos los recursos para entrenar nuestros propios conjuntos de datos, por lo que estamos utilizando estos productos de Google, Meta u OpenAI porque son nuestra entrada más accesible a la tecnología. Entonces, eso es en lo que nos vamos a enfocar hoy. Todas esas herramientas, y por supuesto, muchas otras disponibles, tienen API que podemos aprovechar para comenzar a construir funciones impulsadas por IA en nuestras aplicaciones de manera muy fácil. Y, por supuesto, muchas personas, incluido apuesto que muchos de ustedes, ya lo han hecho. Por supuesto, hemos visto también una buena cantidad de situaciones en las que las funciones impulsadas por IA han creado una experiencia de usuario bastante terrible o han causado un gran daño. Por ejemplo, a fines del año pasado, vimos a varios concesionarios de Chevrolet lamentar la colocación de chatbots impulsados por chat-GBT en su sitio web después de que se convirtiera en una broma en Twitter manipular dichos chatbots para venderles autos a una fracción del precio minorista. Ahora, ¿Chevrolet realmente perdió dinero con esto? Casi con seguridad no. De hecho, en una de estas capturas de pantalla, incluso podemos ver la red de seguridad de confirmar toda la información con el concesionario que incluyeron desde el principio. Sin embargo, sí perdieron una reputación seria. Cuando buscas Chevrolet de Watsonville en Google, varios de los primeros resultados de búsqueda autocompletados siguen haciendo referencia a este incidente meses y meses después, y probablemente seguirán siendo así durante muchos meses más. No es lo que quieres desde el punto de vista de la posición de la marca. A veces, sin embargo, vemos repercusiones legales, no solo sociales. Los tribunales están comenzando a dictaminar que lo que dice una IA en tu sitio web realmente tiene peso. Hace apenas unos meses, de hecho, en febrero, el Tribunal de Resolución Civil de Canadá determinó que Air Canada tendría que pagar daños después de que un cliente recibiera información incorrecta sobre los costos de vuelos por duelo a través de un chatbot en su sitio web. Como dijo el miembro del tribunal Christopher Rivers, en efecto, Air Canada sugiere que el chatbot es una entidad legal separada que es responsable de sus propias acciones.

Si bien un chatbot tiene un componente interactivo, sigue siendo solo una parte del sitio web de Air Canada. Debería ser obvio para Air Canada que es responsable de toda la información en su sitio web. No importa si la información proviene de una página estática o de un chatbot. Si bien las apuestas aún eran relativamente bajas en este caso, Air Canada solo tuvo que pagar alrededor de 812 dólares canadienses. El precedente que establece este caso legal es realmente importante. Y hablando de tribunales, un juez de Manhattan impuso una multa de 5.000 dólares a dos abogados, Peter DeLuca y Stephen Schwartz, que utilizaron ChatGPT para generar un informe legal para su demanda de 2023, que resultó incluir seis citas de casos ficticias. En este caso, las alucinaciones de ChatGPT, o la IA afirmando con confianza información incorrecta como hecho, los metieron en serios problemas. Es importante destacar que esto es diferente al primer caso con la concesionaria de Chevrolet, donde la IA fue manipulada para devolver información falsa. En este caso, los abogados simplemente hicieron una pregunta y recibieron información falsa incorrecta a cambio. Además de la multa y las sanciones a los abogados, y también quizás más importante, el juez desestimó por completo su demanda.

Y, por supuesto, no todo es tan claro y obvio como un chatbot que proporciona información incorrecta en términos de hechos. A veces no se trata de una sola pieza de contenido, sino de tendencias y sesgos que solo son perceptibles cuando observamos grandes muestras de material de salida de IA a lo largo del tiempo. Por ejemplo, The Conversation, una organización de noticias independiente sin fines de lucro, examinó más de 100 imágenes generadas a mitad del viaje durante seis meses y encontró varios sesgos recurrentes. Esto incluía el edadismo y el sexismo, donde las imágenes tenían más probabilidades de mostrar a hombres mayores en puestos directivos, y solo incluían signos de envejecimiento como arrugas o cabello gris en representaciones de hombres. También encontraron signos de sesgo racial en lo que describen como una suposición de blancura. Probaron los resultados para los títulos periodista y reportero y descubrieron que, cuando no se especificaba la raza en la indicación, las imágenes resultantes representaban exclusivamente a personas de piel clara. También existen sesgos en torno al urbanismo, donde la IA tiende a ubicar a todas las personas en ciudades en lugar de áreas rurales, a pesar de que solo aproximadamente la mitad de la población mundial vive en una ciudad. Entonces, ¿qué podemos hacer para ayudar a mitigar algunos de estos problemas?

En este momento actual, es justo suponer que cualquier tecnología de IA de generación que estemos incorporando en nuestras aplicaciones tiene la posibilidad, el potencial, de devolver estas alucinaciones, sesgos, información incorrecta y otras deficiencias similares. No podemos simplemente ignorar esa realidad. Pero ¿eso significa que tenemos que desechar todo y alejarnos? No necesariamente. En un artículo de octubre de 2023 que arroja luz sobre el sesgo de la IA con ejemplos del mundo real, IBM afirma que identificar y abordar el sesgo en la IA comienza con la gobernanza de la IA, o la capacidad de dirigir, gestionar y supervisar las actividades de la IA de una organización. Tenga en cuenta que tampoco están sugiriendo que tiremos al bebé con el agua sucia aquí. Más bien, recomiendan la inclusión de puntos de control humanos, la participación humana en los procesos que combinamos con estas herramientas de IA. Han creado la siguiente lista de prácticas para implementar éticamente la IA. Primero, el cumplimiento. Las soluciones de IA y las decisiones relacionadas con la IA deben ser coherentes con las regulaciones de la industria y los requisitos legales pertinentes. Este es, por supuesto, el punto de partida. Todo lo que construyamos con IA debe estar dentro de los límites de la ley. Por supuesto, esto se vuelve un poco más complejo cuando se está construyendo un producto global, como muchos de nosotros lo estamos haciendo, y porque estas leyes están cambiando bastante rápido. En la Unión Europea, el Parlamento, la Comisión y el Consejo llegaron a un acuerdo político sobre la Ley de Inteligencia Artificial en diciembre del año pasado, que, en este momento, parece ser el