You are on page 1of 45

LOS INGENIEROS NAZIS:

REFLEXIONES SOBRE LA ÉTICA


TECNOLÓGICA EN EL
INFIERNO
ERIC KATZ
PRINCIPALES CUESTIONAMIENTOS

¿Cómo puede un ingeniero evitar el error de los ingenieros nazis al abrazar


una ideología malvada que subyace a sus creaciones tecnológicas?

¿Cómo sabe un ingeniero que los valores que encarna a través de sus
productos tecnológicos son buenos valores que conducirán a un mundo
mejor?
INTRODUCCIÓN

 Ingenieros, arquitectos y otros


profesionales tecnológicos diseñaron las
máquinas de muerte genocidas del
Tercer Reich.

 Eran buenos ingenieros.


PROFESIONALES TECNOLÓGICOS

 Diseñan
 Crean
 Usan productos y artefactos tecnológicos.
LOS MÉDICOS NAZIS Y EL CONCEPTO
DE DUPLICACIÓN
Robert J. Lifton es un psiquiatra y autor estadounidense,
conocido principalmente por sus estudios sobre las
causas y los efectos psicológicos de las guerras y la
violencia política y por su teoría de la reforma del
pensamiento. Fue uno de los primeros defensores de las
técnicas de psicohistoria.
LOS MÉDICOS NAZIS Y EL CONCEPTO
DE DUPLICACIÓN
Propone el concepto de “Duplicar”

¿Cómo es posible que un profesional bien educado


pueda actuar de manera tan horrible e inmoral?

Los médicos nazis crearon una doble personalidad


ALBERT SPEER Y LA NEUTRALIDAD
TECNOLÓGICA: ÉTICA REBELDE
Fue un arquitecto alemán y logró llegar a ser ministro de
armamento en el régimen nazi.

No murió en la guerra ni fue ejecutado después de la misma,


fue encarcelado y tuvo oportunidad para escribir sus
memorias.
ALBERT SPEER Y LA NEUTRALIDAD
TECNOLÓGICA: ÉTICA REBELDE
En sus memorias afirma:
 Se autodefine como un puro tecnócrata.
 “Me sentí el arquitecto de Hitler. Los acontecimientos
políticos no me conciernen.”
 “La tarea que tengo que cumplir es apolítica. Me he
sentido a gusto en mi trabajo sólo en la medida en que
mi persona y mi trabajo fueron evaluados únicamente
por el estándar de los logros prácticos.”
VISIÓN TRADICIONAL DE LA
NEUTRALIDAD DE LA TECNOLOGÍA
El diseño y la creación de un artefacto tecnológico debe estar separado de su uso.
ONTOLOGÍA MORAL

Según Katz, la ontología moral es la creación de un universo moral particular.

Por definición, la ontología moral es el estudio de la existencia de los valores y


deberes morales.
EJEMPLO
DESDE LA PERSPECTIVA DEL DESDE LA
DISEÑO: ARMA EFICIENTE PERSPECTIVA DEL USO:
PROPÓSITO DEL ARMA
 Peso.
Disparar a un
animal para cazarlo.
 Equilibrio.

Defender un hogar.
 Facilidad de uso, etc.

Matar a un
combatiente
enemigo.

SE CREAN DOS ÁMBITOS NORMATIVOS


INGENIEROS NAZIS Y LA ONTOLOGÍA
MORAL: DISEÑADORES DE HORNOS
CREMATORIOS
Eficientes hornos crematorios con
características diferentes a los hornos
comerciales usados por funerarias:

1. Carecían de características estéticas.


2. Mayor capacidad y eficiencia en las
cremaciones.

Los profesionales tecnológicos tenían una devoción ciega a su tarea práctica, sin ninguna
preocupación por los escrúpulos morales.
APROBACIÓN DE LA ÉTICA REBELDE

Speer fue condenado por el delito de trabajos


forzados en la fábrica de misiles y su defensa
se basa en dos pilares principalmente:

1. Aislamiento y Secreto.
2. Evaluación tradicional de la tecnología.
ÉTICA REBELDE

Ocurre cuando se afirma que para ser ético hay que


rebelarse contra las expectativas y prácticas de la propia
profesión.
Según el jurista Jack Sammons:

 El papel del técnico puro conduce a la corrupción


moral.

 La única manera de evitar la corrupción moral es


mantener una consciente integración del aspecto
personal y psicológico con el rol profesional.
INTEGRACIÓN E IDEOLOGÍA EN LOS
INGENIEROS NAZIS
KURT WISSELINCK actuó de acuerdo a
principios ideológicos estrictos incluso
cuando esa ideología iba en contra de los
propios intereses de Schutzstaffel [SS].
No le importaba el éxitos de las operaciones
comerciales de la fábrica, el punto principal
era la promoción de la ideología nazi.
INTEGRACIÓN E IDEOLOGÍA EN LOS
INGENIEROS NAZIS

LOS MIEMBROS DEL CUERPO DE INGENIERÍA Y


ADMINISTRACIÓN DE LAS SS NAZIS
COMPARTÍAN UN CONJUNTO DE VALORES
GENERALES QUE DICTABAN TODAS SUS
DECISIONES Y ACCIONES
CONCLUSIONES: VALORES NORMATIVOS Y
EL PROYECTO DE INGENIERÍA

 De acuerdo con la visión neutral de la tecnología un ingeniero nazi tenia


una base racional para la negociación de la culpa.
 La alternativa correcta a la ética rebelde o al concepto de duplicación es
una mayor integración de la moralidad personal y profesional, en lugar de
su separación.
 Para los profesionales tecnológicos no había necesidad de rebelarse
contra sus ideales profesionales.
 Una vez que nos demos cuenta de que las tecnologías alteran la vida
humana, veremos que no son herramientas neutrales, sino sistemas
cargados de valor que crean nuevas formas de realidad humana.
CONCLUSIONES: VALORES NORMATIVOS Y
EL PROYECTO DE INGENIERÍA

 Cualquier artefacto tecnológico debe tener un propósito antes de ser


diseñado y creado. Sin tal propósito, no habría razón para crear la
tecnología. Pero el propósito implica un valor. No hay propósitos neutrales.
 Para los ingenieros nazis el diseño de artefactos tecnológicos tenían un
propósito y era el de promover los valores del nacionalsocialismo. El
propósito y el diseño van de la mano. No hay posibilidad de la “ciega
devoción de un técnico a su tarea” de Speer.
CONCLUSIONES: VALORES NORMATIVOS Y
EL PROYECTO DE INGENIERÍA

 El diseño de los hornos era una clara indicación de que éstos serían parte
de un sistema tecnológico de asesinatos en masa.

 Para evitar la ética tecnológica del infierno debemos considerar siempre


los propósitos normativos de nuestros proyectos tecnológicos.
CONCLUSIONES: VALORES NORMATIVOS Y
EL PROYECTO DE INGENIERÍA

¿Qué significa esto para nosotros y para nuestros estudiantes que serán
futuros ingenieros y profesionales tecnológicos? Si todos los artefactos
tecnológicos tienen valores incrustados en ellos, entonces cualquier cosa que
los ingenieros creen encarnará un conjunto particular de normas e ideologías
políticas, éticas, sociales y culturales. Sé que mis estudiantes de ingeniería
creen fervientemente que las cosas que van a crear conducirán a un mundo
mejor. Pero también creen, paradójicamente, que los artefactos que crean
son neutrales hasta que se utilizan, que es el usuario final el que tiene la
responsabilidad última del valor ético de la tecnología.
‘‘Ain’t No One Here But Us Social
Forces’’: Constructing the Professional
Responsibility of Engineers
 El autor pretende demostrar que es
posible atribuir la responsabilidad a los
ingenieros, y en especifico desmentir la
creencia de que es posible trasladar la
culpa o responsabilidad a la tecnología
o la organización.
OBJETIVO
“Aquí no hay nadie mas
que nosotros los pollos!”

 Un vagabundo está en el
gallinero robando huevos
cuando el granjero, habiendo
escuchado las gallinas que se
quejan, llega con una
escopeta y pregunta, “¿Quien
esta ahí?” El vagabundo
responde “ Aquí no hay nadie
mas que nosotros los pollos!”
Sentidos de responsabilidad

 1. responsabilidad como causa simple (Katrina fue


responsable de la inundación en Nueva Orleans)
 2. responsabilidad como mala causa (responsable
porque actuó de manera descuidada)

Advertencias  3. responsabilidad como buena causa(Ella es


responsable de nuestro éxito, dale el crédito)

preliminares  4. responsabilidad como competencia (Si es una


persona responsible, entonces es una persona
racional)
 5. responsabilidad-como-poder (su habilidad le da
una responsabilidad)
Sentidos de responsabilidad

 6. responsabilidad como oficio ('' la persona


responsable debe estar a cargo)
 7. responsabilidad-como-dominio-de-tareas ('' estas
son sus responsabilidades '', es decir, lo que se supone
que debe hacer)
 8. responsabilidad como obligacion ("debe pagar
porque es responsable de lo que sucedió")
 9. responsabilidad como responsabilidad ("debe
explicar porque eres responsable de lo que pasó '').
Cualquiera que sea la tecnología o la organización, los ingenieros
que ayudan a diseñar, construir, mantener o desechar la
tecnología seguirán siendo agentes causales, responsables en el
primer sentido de responsabilidad (simple-causa) de lo que
produzcan

En particular, podría ser que la tecnología puede permitir a los ingenieros


hacer un gran daño sin fallas. No podemos (se dice) responsabilizar a los
ingenieros o incluso responsabilizarlos por el daño que hacen sin culpa,
porque la culpa es una condición previa lógica de la responsabilidad en
el sentido de responsabilidad o responsabilidad. Lo que hacen los
ingenieros sin fallas no es su responsabilidad.
Condiciones necesarias
para la asignación de
responsabilidad
 Causa (o factor causal)
 Racionalidad (o competencia)
 Elección (o libertad)
 Conocimiento (o previsión).

 Mi propósito es plantear dudas sobre


estas cuatro condiciones supuestamente
necesarias para la responsabilidad.
Causa (o factor causal)

 Una niña ahogada que se podría haber


salvado con poco riesgo, costo o
problemas para ella misma y sin
incumplimiento del deber para con otra
persona. Lo culpamos por la muerte,
aunque hubiera ocurrido incluso si no
hubiera estado allí para ayudar, incluso si
hubiera muerto una década antes.
Racionalidad (o
competencia)

Ciertamente, cuando mi hijo tenía


cuatro años y rompió una promesa, le
hablé como lo haría con alguien que
era moralmente responsable, y
respondió en consecuencia, por
ejemplo, ofreciéndole una excusa,
justificación u otra forma de explicar su
conducta, o ofrecer una disculpa o
sugerir alguna otra forma de satisfacer la
responsabilidad incurrida. Aunque lo
consideré responsable de esta manera,
no lo consideré como un adulto
competente (una persona responsable).
Elección (o libertad)
 No podemos (se dice) tener ninguna
responsabilidad moral por un resultado
cuando no tenemos más remedio que
lograrlo.
 Un gato sale corriendo de entre los autos
estacionados justo cuando estoy pasando.
Pongo los frenos tan rápido como puedo,
pero demasiado tarde. No he estado
bebiendo, perdí el sueño ni hice nada para
perjudicar mis reacciones. No estaba
acelerando, usando un teléfono celular, o
de lo contrario no pude ejercer un cuidado
razonable. El accidente fue solo una de esas
cosas, más allá de mi control, y por lo tanto
"definitivamente no es mi culpa".
Conocimiento (o previsión).

 No podía saber que el gato estaba allí, entre los dos autos, y mucho
menos que se acabaría cuando estaba conduciendo. Por supuesto, sabía,
o al menos debería haber sabido, que tales accidentes son posibles. Los
autos son grandes, rápidos y difíciles de parar; Gatos, no siempre tan
cuidadosos con el tráfico como deberían ser. Sin embargo, el riesgo que
corrí, aunque a sabiendas, simplemente conduciendo, no parece ser
suficiente por culpa moral. Este conocimiento general de eventos
improbables puede ayudar a explicar la responsabilidad estricta en la ley,
Debemos tener todo esto en cuenta al evaluar
los argumentos para afirmar que la tecnología
u organización está socavando la
responsabilidad de los ingenieros por lo que
hacen.

En particular, debemos ser caritativos en


nuestra interpretación de estos argumentos.

Deberíamos interpretarlos, si es posible,


confiando en un reclamo menos cuestionable
que el hecho de que cualquiera de estas
cuatro condiciones es necesaria para la
responsabilidad
Argumentos en contra de asegurar que los
ingenieros sean responsables de lo que
hacen
1. Muchas manos
2. Muchas causas
3. Reemplazabilidad
4. Restricción institucional
5. Impotencia individual
6. Ignorancia individual
7. Neutralidad
1. Muchas manos

 Muchas personas diferentes contribuyen en decisiones y políticas de


gobierno
 Consejos de administración, grupos de trabajo o comités emiten
decisiones conjuntas. Atribuir y distribuir la responsabilidad es un
rompecabezas
Errores del argumento:
 Identificación de responsables de un resultado se hace “difícil”, mas no
imposible
2. Muchas causas

 Versión 1: Complejidad de la historia causal


 Versión 2: Problema de identificar la causa o causas principales incluso
cuando la historia es simple
 Un desastre normalmente requiere varios errores independientes ¿Cómo
podría un ingeniero asumir responsabilidad por completo?
2. Muchas causas

Consideraciones frente al argumento


 La responsabilidad (excepto la financiera) no es como el peso, pues no
disminuye cuando está dividida o distribuida
 Cometer cierto error una vez, incluso uno serio, es tolerable. Pero una vez
este es documentado, hace parte del estado del arte y su comisión ya no
es tolerable
 Fallas que componen la “trinidad” de causas candidatas: del operador,
de la organización y del diseño
2. Muchas causas
Crítica al
Operador
Crítica al Crítica a la
Diseño Organización
Te dije que no comieran
de ese árbol, solo ustedes
son culpables de su caída
en desgracia

¿Qué está Debería haber


haciendo ese Expulsión
de Adán y explicado mejor,
árbol en el jardín? debió ser más
¿No habría sido Eva del
Paraíso explícito acerca
más seguro
plantarlo donde
de las
no podíamos consecuencias
2. Muchas causas

 Qué es y qué no es una causa principal. Depende de si la preocupación es

La explicación: la historia


La ingeniería: incidir en la probabilidad de que ocurra
La culpa: incumplir una norma legal o social
• Los ingenieros están “obligados” a hacer diseños e
implementar organizaciones “a prueba de tontos” para
evitar los problemas y a solucionarlos, no por haberlos
causado sino porque son ingenieros
3. Reemplazablidad

1. Para ser la causa, o una causa principal, un factor causal debe ser
necesario para el evento causado.
2. Si no causo X, alguien más lo hará.
3. Si X ocurrirá si lo causo o no, no puedo ser necesario para X.
4. Si no soy necesario para X, no puedo ser la causa de X o incluso una causa
principal.
5. Nadie es responsable de lo que no causó.
Por lo tanto: no soy responsable de X (si causo X o no).
3, Reemplazabilidad

Fallas en el argumento:
 Frente a la premisa 5, ya se vio que alguien sí puede ser responsable de lo
que no causó
 Premisa 2 es cierta sólo si el agente en cuestión puede ser reemplazado
por otro
 Falla lógica: ya se vio que hay al menos 3 criterios para la causa y no sólo
uno como asume el argumento de reemplazabilidad
4. Restricciones institucionales

 Entorno cuya cultura organizacional o corporativa limita la toma de decisiones


 Se presentan costos, jerarquía, imagen, presiones de horarios, del mercado o de entes
gubernamentales
 “-Una vez los cohetes estén arriba ¿a quién le importa dónde bajan?
-Ese no es mi departamento”
4. Restricciones institucionales

Errores del argumento:


 El ingeniero puede interrumpir el vínculo con una empresa de carácter cuestionable
 Si el ingeniero trabaja en un departamento de una organización, trabaja para esa
organización
 Defecto lógico: el ingeniero puede no hacer el proyecto o plan
 Defecto conceptual: es contratado para hacer ingeniería, cuando deba emitir un juicio,
debe haber al menos dos opciones. Si sólo hay una, un técnico puede hacer el proyecto
o plan
 Defecto empírico: los ingenieros tienen una considerable capacidad para tomar
decisiones
5. Impotencia individual

 Puede no haber libertad para cooperar con otros


 Argumento sólido siempre y cuando sean individuos sin el poder de
coordinar su conducta

Falla en el argumento:
 Como miembros de una profesión no son meros individuos. La profesión en
su conjunto puede eliminar prácticas del mercado
6. Ignorancia individual

 Complejidad de los proyectos dificultan conocer la totalidad


 En muchos proyectos los ingenieros no saben qué están haciendo

Defectos del argumento:


 Un ingeniero que no sabe lo que está haciendo tiene mucho qué explicar
 Cualquiera que sea la fuerza del argumento de la ignorancia, ignorar el
resultado es raro.
7. Neutralidad

 Los ingenieros producen tecnología, pero no pueden controlar lo que se


hace con ella

Errores en el argumento:
 Para los ingenieros, lo que crean no debe ser neutral
 Debe diseñarse construirse e incluso destruirse en consonancia con la salud
pública, la seguridad y el bienestar
 Parte de la ingeniería está en prevenir el mal uso previsible.