¿Deberíamos seguir dejando que los algoritmos tomen decisiones por nosotros?
Por Cloé Goldstein
Imaginemos la siguiente situación: una persona se encuentra manejando en un acantilado a alta velocidad y cruza un niño frente a su auto. En este episodio, el conductor puede tomar diversas acciones pero pensemos las dos más simples: 1) atropellar al niño o 2) girar el volante y caer al acantilado -que muy posiblemente provocaría su muerte. En ambas, el conductor es el responsable de esa conducta…. pero: qué pasaría si el conductor se encuentra dentro de un auto autónomo que se maneja por sí solo. ¿Quién decide qué hacer en ese momento? También en este caso surgen nuevos dilemas, como quién es el responsable de haber provocado el siniestro: ¿es el conductor o el programador que diseñó el algoritmo o la empresa automotriz? Es decir, ¿hay un culpable?
Este problema se llama “la ética de los algoritmos”, pero para poder entender sobre este conflicto partamos de la base de introducirnos en cómo funcionan éticamente las personas.
Desde un punto de vista breve y muy simplificado tomaremos como referencia la postura de Sigmund Freud, estableciendo que el representante psíquico de la ética es el sentimiento de culpa (Superyó). De manera simple, el Superyó puede estar muy desarrollado o poco desarrollado. El primer caso son aquellas personas con un sentimiento de culpa exacerbado, que tienen dificultad de cuidarse a ellas mismas en detrimento de las demás. Se las podría denominar como personas con un alto nivel de altruismo. El segundo caso, por el contrario, son personas con un superyó poco desarrollado, por ende el sentimiento de culpa es mucho menor y la pulsión de autoconservación se encuentra en ellos mucho más desarrollada. Es decir, tienen un perfil con una mayor protección de sí mismas. Se las podría llamar personas altamente egoístas. Entonces, de manera simplificada, tendríamos a partir de lo expuesto por Freud dos posturas éticas contrarias en la sociedad.
La ética se encuentra en cada acción efectuada por las personas. Por esto también se encuentra en las nuevas tecnologías y en la robótica. Es decir, todo lo que las máquinas deban o no hacer durante su vida útil va a estar programada anteriormente por medio de un algoritmo. Un algoritmo es una lista de instrucciones que lleva directamente a un usuario a una respuesta o resultado particular dada la información disponible. Los algoritmos están atados a un contexto tecnológico, económico, ético, temporal y espacial. Se desarrolla de la siguiente manera: un Input o Entrada, que es el ingreso de los datos que el algoritmo necesita para operar; un proceso que trata de la operación lógica recibida del Input; y un Output o Salida, que son los resultados obtenidos del proceso sobre el Input una vez que termina la ejecución del algoritmo. Sin embargo son tan variados y abundan en tantas disciplinas que es difícil determinar una definición en particular. Un algoritmo va a poseer decisiones éticas que tal vez no tengan nada que ver con las preferencias de cada usuario. Es así que nacen paradojas respecto de lo que se debe y no se debe programar, y surgen nuevas preguntas sobre si estamos entrando en una tiranía algorítmica.
A partir de esta definición surge la siguiente pregunta ¿qué tipo de ética tendrían los algoritmos de Inteligencia Artificial o Robots? Es decir, tomando la teoría de Freud, ¿deberían ser programados por programadores con un desarrollado superyó o un leve superyó? ¿Cómo podemos aceptar que otra persona decida sobre nuestras propias decisiones éticas?
Está claro que delegar cada vez más decisiones de las personas en las máquinas y que estas dispongan sobre la vida personal, los asuntos económicos o políticos es un tema muy complejo. Y a esto hay que agregarle todos los problemas que pueden surgir producto de la vulnerabilidad del sector. Con esto me refiero a que el código algorítmico puede ser hackeado y manipulado. Por estas razones deben ser compatibles con la honestidad humana, el derecho, deben respetar la libertad y las culturas. Sin embargo es invisible a nuestros ojos, porque son difíciles de interpretar y, por ende, de corregir. Solo un bajo porcentaje de la población comprende el lenguaje y podría mejorarlo. Tendemos a aceptarlos porque pensamos que así tienen que funcionar las cosas y no se puede hacer nada para evitarlo. Por ende, el magnetismo entre complejidad y resignación hacen que aplicar las reglas éticas particulares parezca algo poco realizable. Sin embargo, debe ser obligatorio para las instituciones un control ético de los algoritmos, con el fin de no terminar en una dependencia a ciegas en casos donde ocurren injusticias o actos poco humanos.
Si miramos en detalle a los algoritmos es común que observemos en ellos reglas básicas absolutas, como, por ejemplo, la prohibición de matar. Otros pueden ser más flexibles. Sin embargo, si hay flexibilidad en casos, por ejemplo, de un siniestro, quiere decir que hay un enfoque ético si o si. Un algoritmo puede tener el objetivo de provocar el mínimo daño, pero al intentar hacer esto puede causar otros incluso más graves.
Actualmente hay ciertos organismos que buscan regular la ética de los algoritmos, como Partnership On Ai, que tiene por objetivo apoyar el buen desarrollo, la difusión y llevar la información a la sociedad acerca de las investigaciones en Inteligencia Artificial, crear un debate con expertos de diversas áreas. En su página figuran sus principales fundadores, que son Apple, Amazon, DeepMind y Google, Facebook, IBM, y Microsoft. También existe la Fundación Responsible Robotics, que busca investigar la ética en el diseño y la producción de robots. Además, sobre el mismo tema podemos encontrar Algorithm Watch, que analiza la ética de la automatización y la digitización en el uso de algoritmos con relevancia social.
Si bien hay organismos que buscan regular ciertos algoritmos y avances en la tecnología, parece a simple vista que desarrollar la tecnología y lo digital va de la mano con equivocarse. Y equivocarse va ligado a leer noticias como ¨Una joven de 21 años de edad, a bordo de un Tesla, atropelló a un matrimonio en calles de San Francisco, Estados Unidos. El esposo murió víctima del impacto.¨
¿Vos permitirías que los algoritmos sigan decidiendo por vos?
Sobre la autora
Cloé Goldstein
Estudiante de Ciencias Sociales con Especialización en Sociedad y Mercados. Apasionada por las Nuevas Tecnologías y fundadora de La Posta Guide, guía boutique con lo más avant-garde en tendencias culturales, gastronómicas, diseño, experiencias y viajes.
@lapostaguide
goldsteincloe@yahoo.com
Comments