Éticamente conectado: Ética informática para tecnólogos

Hola a todos. Mi nombre es Salamu-Eat-Moges y el título de mi charla es Éticamente Conectado, Ética Informática o Tecnólogo? Así que un poco sobre mí antes de comenzar. Me llamo Salam. Soy ingeniero de software en una empresa de tecnología médica llamada Apella. Antes de eso, estudié en la Universidad de Nueva York y me gradué con una licenciatura en ciencias de la computación. Y me apasiona la accessibility (accesibilidad), inclusión y activismo en el espacio tecnológico. Con eso, ¿qué es la ética informática? Para introducir esta charla, me gustaría primero decir lo que no haremos. Y eso es simplemente calibrar la brújula moral de nadie. La ética navega por aguas turbias, por lo que dar una respuesta clara y definitiva de lo que está bien y lo que está mal realmente no haría justicia al tema en general y específicamente a esta conversación que estamos teniendo. Pero lo que haremos es presentar a todos ustedes preguntas abiertas para llevar a sus respectivas comunidades y discutir qué es la ética informática y cómo podemos integrar salvaguardias en nuestras prácticas. Ahora, la definición. La ética informática es el conjunto de principios acordados que rigen el uso de la tecnología. Y un problema típico en este espacio se presenta de la siguiente manera. Primero, hay un avance en la tecnología. Luego los tecnólogos se enfrentan a nuevas opciones y decisiones que tomar. Y normalmente, ellos revisarán las políticas existentes para determinar cuál es la mejor opción a seguir. Pero desafortunadamente, algunas políticas no son relevantes o la situación es más compleja de lo que la política pretendía abordar. Aquí radica la tarea central de la ética informática. Y eso es realmente formular políticas de manera proactiva para guiar mejor nuestras acciones a nivel societal. Ahora, ¿por qué deberíamos preocuparnos? Hablando más ampliamente como tecnólogos, tenemos diferentes objetivos, partes interesadas y prioridades en juego. Pero argumento que independientemente de dónde se encuentre tu punto focal, tener un framework ético solo resultará en el mejor resultado general tanto para ti como para tus objetivos. Tomemos estos tres arquetipos de tecnólogos como ejemplos. Digamos que eres el tipo de tecnólogo que se preocupa por la velocidad y la experimentación. Bueno, la ética informática debería importarte en cosas como la relevancia a largo plazo, la confianza y adopción del usuario, y evitar daños en general. Si bien construir tecnología rápidamente es importante, integrar consideraciones éticas en tu proceso de desarrollo puede mejorar la calidad, sostenibilidad e impacto positivo de tu creación. Ahora, no se trata de frenar la innovation (innovación), sino de asegurarse de que tu innovation contribuya a un mundo mejor para todos. Ahora, digamos que eres el tipo de tecnólogo que se preocupa por los principios empresariales, las métricas y las tendencias de la industria. Bueno, la ética informática debería importarte en cosas como la reputación y el valor de la marca, la sostenibilidad a largo plazo y la mitigación de riesgos. Incorporar la ética informática en tus prácticas comerciales mejora tu capacidad para tener éxito en un mundo en constante evolución e interconectado. Las consideraciones éticas no solo se alinean con los principios empresariales fundamentales, sino que también posicionan tu negocio para cosas como el crecimiento a largo plazo, la sostenibilidad y la influencia positiva dentro de tu

Ahora, todo esto para decir que la ética es para todos, independientemente de dónde se encuentren tus metas y prioridades. Ahora, con eso, veamos cómo la ética podría afectar realmente nuestro trabajo. Y lo haremos al analizar el ciclo de desarrollo de productos. Ahora, estoy seguro de que todos ustedes aquí están familiarizados con este ciclo de vida, pero repasémoslo rápidamente. Entonces, cuando estamos pensando en construir un producto, hacemos una lluvia de ideas. Pensamos en qué características podría tener. Pensamos en cómo las personas pueden usarlo. Luego, después de eso, definiremos metas y las priorizaremos. Diseñaremos, construiremos, probaremos y posiblemente volveremos a construir según cómo haya ido la prueba. Y luego, finalmente, lanzaremos nuestro producto al mundo, veremos cómo las personas reaccionan ante él y luego construiremos características y pivotaremos a partir de eso y luego volveremos a la sesión de lluvia de ideas. Y el ciclo continúa una y otra vez.

Ahora, pensemos en cómo la falta de toma de decisiones éticas puede afectar este ciclo. Y más específicamente, usemos el sesgo como ejemplo. El sesgo puede introducirse durante la sesión de lluvia de ideas cuando hay un equipo homogéneo trabajando juntos en un producto para beneficiar idealmente a un grupo diverso de personas. Eso lleva a metas mal definidas que solo benefician a un grupo, lo que luego lleva a diseñar y construir un producto que se centra solo en un tipo de usuario y funciona bien o mal para otros tipos de usuarios. Luego, latesting con conjuntos de datos limitados valida los sesgos que hasta ahora han pasado desapercibidos. Y en última instancia, lanzamos un producto al mundo que no beneficia a todas las comunidades a las que intenta servir. Y desafortunadamente, en muchos casos, veremos productos y características que quedan en este estado, lo que hace que las comunidades dejen de usar el producto por completo o encuentren soluciones alternativas para adaptarse a sus necesidades. Ahora, en algunos casos, sin embargo, vemos organizaciones o empresas que vuelven para ayudar a acomodar mejor a la audiencia diversa que utiliza su producto. Y es genial que hayan podido hacer los cambios necesarios para que la experiencia sea más inclusiva. Sin embargo, las consecuencias de incorporar la inclusión posteriormente en lugar de integrarla en la infraestructura resultan en pérdida de dinero o refactorización de software y tiempo adicional invertido en todos los frentes, ya sea del gerente de producto, los ingenieros, los diseñadores, etc. Esto no significa que no debamos hacer estas mejoras después del lanzamiento si es necesario, pero también sirve para resaltar que incorporar marcos éticos desde el principio ayuda a evitar estos problemas más adelante. Ahora, veamos dónde podemos integrar la ética en el ciclo de desarrollo de productos. En primer lugar, incorpora premortems en el proceso previo al desarrollo. Un premortem es un ejercicio en el que tu equipo piensa en todos los escenarios en los que tus productos pueden fallar y busca soluciones de antemano antes de lanzar e incluso desarrollar el producto. Luego podrían ser los check-ins para ver si las ideas que realmente estás intentando construir son

Fuera de mirar el ciclo de vida del desarrollo del producto, veamos más ampliamente cómo podemos promover la inclusividad proactiva. Y afortunadamente, en realidad no tenemos que reinventar la rueda. La Asociación de Maquinaria Computacional tiene un Código de Ética, y me gustaría destacar tres de las muchas partes del Código de Ética. La primera es contribuir a la sociedad y al bienestar humano. Estar en tecnología puede hacer que te pierdas en todo el dinero, los beneficios y las ventajas de ser un pionero y todas estas otras cosas. Pero recordar la humanidad de lo que todos estamos haciendo y que en última instancia solo queremos hacer del mundo un lugar mejor, es realmente fundamental en lo que estamos construyendo. Luego está fomentar la conciencia pública y la comprensión. Esto es fundamental, especialmente si trabajas con comunidades vulnerables como niños pequeños o personas mayores. Y por último, asegurarte de que el bien público sea la preocupación central en todo lo que haces. Ahora, si quieres ver la lista completa del Código de Ética de la ACM, no dudes en escanear el código QR aquí. Ahora, antes de despedirme, me gustaría mostrarte algunos recursos que también me han apoyado en mi camino y aprendizaje sobre ética informática y construcción responsable. Aquí hay algunos libros que he leído, y también me gustaría destacar que Design Justice específicamente tiene una Red de Justicia en el Diseño que ayuda a reunir a las personas en este espacio. Ahora, si quieres conectarte conmigo específicamente, no dudes en escanear el código QR aquí o en todos estos lugares donde puedes encontrarme a través de LinkedIn, correo electrónico o en mi sitio web. Muchas gracias.