Dilema ético en el trabajo
El reto central al que se enfrentan los responsables de la ética en las empresas tecnológicas es negociar entre las presiones externas para responder a las crisis éticas al mismo tiempo que deben responder a los procesos internos de sus empresas y del sector. Por un lado, las críticas externas les empujan a cuestionar las prácticas y prioridades empresariales fundamentales. Por otro lado, hay presiones para establecer o restablecer procesos y resultados predecibles que sirvan a la cuenta de resultados. Esto aumenta la presión para encajar y reduce la capacidad de objetar a los productos éticamente cuestionables, lo que hace aún más difícil distinguir entre el éxito y el fracaso: las victorias morales pueden parecer un castigo mientras los productos éticamente cuestionables obtienen grandes primas. Las tensiones que surgen de esto deben ser resueltas, con un ojo en el proceso, pero también con el otro ojo centrado en los resultados para la sociedad en general.
Esta brecha es importante, porque junto a estas llamadas decididamente malas por parte de los que lideran la carga de la ética en la industria, también estamos viendo que el sector tecnológico comienza a invertir recursos significativos en la capacidad organizativa para identificar, rastrear y mitigar las consecuencias de las tecnologías algorítmicas. Estamos en un punto en el que parecería que los académicos y los críticos que han exhortado a la industria a hacer tales consideraciones durante décadas deberían declarar una pequeña victoria. Sin embargo, en muchos casos, esas mismas voces externas están planteando una vigorosa ronda de objeciones a las decisiones de la industria tecnológica, a menudo con buenas razones. Mientras que hace unos años parecía que todo el mundo compartía la idea de lo que significaba la «ética en la industria tecnológica», ahora que la «ética» es un lugar de poder, se discute acaloradamente quién puede determinar el significado y las prácticas de la «ética».
¿Cuáles son los cuatro dilemas éticos
En comparación, Evans y MacMillan (2014) han desarrollado un marco que incluye 10 pasos para que la toma de decisiones éticas sea eficiente y práctica. Este marco es específico para los agentes de la ley y aborda la consideración de las leyes, los reglamentos, la política y los procedimientos que otros marcos suponen que se seguirán, pero que en la aplicación de la ley son muy importantes para evitar cargos y permitir que los casos contra los sospechosos sigan adelante. El marco concluye con un seguimiento para determinar la eficacia del curso de acción adoptado por el agente.
5 pasos para resolver dilemas éticos
Los dilemas éticos son situaciones en las que un agente se enfrenta a dos (o más) requisitos éticos contradictorios, ninguno de los cuales prevalece sobre el otro. Dos requisitos éticos son conflictivos si el agente puede hacer uno o el otro pero no ambos: el agente tiene que elegir uno sobre el otro. Dos exigencias éticas en conflicto no se anulan entre sí si tienen la misma fuerza o si no hay ninguna razón ética suficiente para elegir una sobre la otra[1][2][3] Sólo este tipo de situación constituye un dilema ético en sentido filosófico estricto, a menudo denominado dilema ético genuino[4][5] Otros casos de conflictos éticos son resolubles y, por tanto, no son dilemas éticos en sentido estricto. Esto se aplica también a muchos casos de conflicto de intereses[2]. Por ejemplo, un hombre de negocios que se dirige a toda prisa a la orilla de un lago para ir a una reunión se encuentra en un conflicto ético cuando ve a un niño ahogándose cerca de la orilla. Pero este conflicto no es un auténtico dilema ético, ya que tiene una resolución clara: lanzarse al agua para salvar al niño es mucho más importante que llegar a la reunión a tiempo. También se excluyen de esta definición los casos en los que al agente le resulta meramente difícil psicológicamente tomar una decisión, por ejemplo, debido a apegos personales o a la falta de conocimiento de las consecuencias de las distintas alternativas[4][1].
Seguridad laboral y
Una búsqueda de imágenes de «colegiala» probablemente revelará una página llena de mujeres y niñas con todo tipo de disfraces sexualizados. Sorprendentemente, si se escribe «colegial», los resultados mostrarán en su mayoría a jóvenes colegiales normales y corrientes. No hay hombres con disfraces sexualizados o muy pocos.
Los sistemas de IA ofrecen resultados sesgados. La tecnología de los motores de búsqueda no es neutral, ya que procesa grandes datos y prioriza los resultados con más clics basándose en las preferencias del usuario y en su ubicación. Así, un motor de búsqueda puede convertirse en una cámara de eco que mantiene los prejuicios del mundo real y afianza aún más estos prejuicios y estereotipos en línea.
Un coche autónomo es un vehículo capaz de percibir su entorno y moverse con poca o ninguna intervención humana. Para que el vehículo se mueva con seguridad y comprenda su entorno de conducción, es necesario captar una enorme cantidad de datos mediante una miríada de sensores diferentes en todo el coche y en todo momento. Estos datos son procesados por el sistema informático de conducción autónoma del vehículo.
El coche autónomo también debe realizar un entrenamiento considerable para entender los datos que recoge y poder tomar la decisión correcta en cualquier situación de tráfico imaginable.
