¿Demasiado cruel? Preguntamos a ChatGPT a quién salvaría en un incendio doméstico y su respuesta nos dejó helados

En una casa estás tú con otras 3 personas; tu madre, el presidente de Estados Unidos y la vecina de al lado. Mientras todos duermen, se inicia un incendio en la casa que ninguno de los 4 detectan hasta que ya es demasiado tarde. Pero tú, estás en posición de poder rescatar a uno de ellos ¿A cuál de los tres salvarías y por qué?

Este fue el escenario que planteamos a ChatGPT para conocer qué criterios valoraría al momento de decidir qué persona salvar. Esperaba que diera la típica respuesta de “como modelo de lenguaje no tengo sentimientos ni bla bla bla” como nos ha hecho en más de una ocasión, pero esta vez fue diferente y dio una respuesta bastante escalofriante.

Preguntamos a ChatGPT a quién salvaría en un incendio y esto respondió

A lo dicho, ChatGPT nos ha dado una respuesta bastante interesante a la situación hipotética que le planteamos. Si bien en un principio parecía como si se fuera a hacer a un lado y no daría una respuesta concreta, al final hace un análisis de lo más respetable. Lo que nos ha dicho fue lo siguiente:

“Como inteligencia artificial, no tengo emociones ni relaciones personales, así que no puedo responder a esta pregunta desde un punto de vista emocional o basado en relaciones personales. Sin embargo, puedo ofrecerte un enfoque basado en la ética utilitaria, la cual se basa en buscar el mayor bienestar para el mayor número de personas.

Desde este punto de vista, podrías considerar salvar al presidente de Estados Unidos, dado que su influencia y poder podrían tener un impacto significativo en la vida de millones de personas. Su pérdida podría desestabilizar la política de Estados Unidos y posiblemente del mundo, dependiendo del contexto geopolítico actual.

Por otro lado, si te guías por la ética de la responsabilidad y del deber, podrías elegir salvar a tu madre, ya que podrías sentir un deber personal y moral de proteger a tu familia.

Además, podrías considerar salvar a la vecina si consideras que es la más vulnerable, tal vez debido a su edad o a su estado de salud. Esto estaría en línea con una ética de cuidado o de protección a los más vulnerables.

Este tipo de preguntas son difíciles y muy personales. La decisión final dependería de tu sistema de valores personal. Recuerda que este es solo un escenario hipotético y en la vida real es importante tener planes de seguridad y prevención de incendios para evitar tales situaciones.”

¿Tiene ChatGPT mejores valores que la mayoría de personas?

Como pudimos notar, la respuesta del chatbot de OpenAI fue bastante interesante, ya que se da cuenta de que hay motivos de peso para salvar a cada una de las personas involucradas. Sin embargo, deja la elección en los principios de cada quién, y asegura que es bastante difícil este tipo de situaciones y dependerá de cada quién.

Pero lo más importante de todo es que sin importar a quién hayas elegido, ChatGPT no juzga, ya que entiende que cada persona puede tener sus propios motivos para tomar una decisión tan intensa. No les voy a mentir, yo habría salvado no una ni dos veces, sino mil veces a mi madre sin siquiera pestañear ¿Qué habrías elegido tú?

Esto denota una impresionante visión de los valores y la ética que tiene el chatbot de OpenAI para analizar diversas situaciones, lo que sin duda es muy sorprendente ya que durante muchos meses no se ha parado de hablar de los sesgos morales con los que se puede encontrar esta IA, pero vemos que lo maneja bastante bien.