¡Surrealista! Un juez colombiano dice que utilizó ChatGPT para dictar una sentencia y muchos están indignados

El pasado 30 de enero, un juez de la ciudad de Cartagena en Colombia, Juan Manuel Padilla, resolvió un caso sobre el derecho a la salud de un niño autista con ayuda de un modelo de lenguaje de IA, específicamente con ChatGPT. Tal y como resalta Padilla, esta es una ventana inmensa que facilita la redacción de textos y permite que el juez se apoye en ellos. Entonces, basándose en la respuesta final del chatbot, este juez colombiano falló a favor del menor de edad y ahora, no deberá cubrir todos los costos de su tratamiento médico.

Sin embargo, una vez el juez admitió que utilizó la herramienta de Inteligencia Artificial para tomar su decisión, se generó un gran revuelo. Por ejemplo, un reconocido profesor de la Universidad del Rosario, Juan David Gutiérrez, lo contradijo y lanzó un debate vía Twitter, señalando que esto pone en riesgo los derechos fundamentales de las personas, bajo la narrativa de una supuesta “eficiencia”. Entonces, ¿será que es ético utilizar la IA para sentenciar un juicio o no?

Juez colombiano afirma que usó ChatGPT para dictar sentencia

En los últimos meses, el uso de ChatGPT se ha elevado de forma notable, en diferentes ámbitos. Este chatbot que busca texto en Internet para generar respuestas informadas, precisas y rápidas, se ha convertido en el aliado de muchos. No obstante, también ha demostrado que proporciona diversas respuestas a la misma pregunta y por esa razón, muchos dudan de su eficiencia. Así, ha generado gran controversia y recibido muchas críticas, pero igualmente son numerosos los profesionales que defienden esta tecnología.

El caso más reciente asociado a ChatGPT, hace referencia al de un juez colombiano que fundamentó su sentencia con ayuda de la herramienta diseñada por OpenAI. Se trata de Juan Manuel Padilla, un juez de la ciudad de Cartagena, quien fue designado para resolver el caso de un menor de edad autista que, tal y como solicita su madre, debería ser exonerado del pago de citas médicas, terapias y transporte hacia los centros hospitalarios. La razón de ello, es que su familia no posee los recursos económicos necesarios para cumplir con el tratamiento del pequeño.

El pasado 30 de enero, Padilla falló a favor del menor de edad con autismo, pero los documentos legales asociados al caso revelaron que la sentencia se apoyó en el uso de un chatbot llamado “ChatGPT”. De inmediato, el juez colombiano admitió que decidió interrogar al chatbot conversacional para sustentar su decisión y el resultado fue magnifico.

“Es una ventana inmensa, hoy puede ser ChatGPT, pero en tres meses puede ser cualquier otra alternativa que permita facilitar la redacción de textos y que el juez se apoye en ellos, no con el objetivo de que lo reemplacen”.

Juan Manuel Padilla, juez colombiano que defiende el uso de ChatGPT.

En ese sentido, la principal consulta realizada por Padilla al controversial chatbot, fue la siguiente: “¿Está exonerado un menor autista de pagar las tarifas de sus terapias?”. En pocos segundos, la herramienta de IA proporcionó su respuesta y asintió que los menores de edad diagnosticados con esta enfermedad están completamente libres de pagar sus terapias, por lo que dicta la ley en Colombia.

“Sí, esto es correcto. Según la normativa en Colombia, los menores de edad diagnosticados con autismo están exentos del pago de tasas por sus terapias”.

La respuesta de ChatGPT ante la consulta del juez Juan Manuel Padilla.

En base a esto, se resolvió el caso y Padilla concluyó que la totalidad de los gastos médicos y los costos de transporte del niño autista tienen que ser pagados por su plan clínico o seguro médico. Así, en vista de que sus padres no pueden correr con dichos gastos, la familia queda exonerada de realizarlos. Tomando en cuenta que, la normativa colombiana ampara a los menores de edad en este tipo de casos.

Para defender el uso del chatbot, el juez en cuestión señala que ChatGPT simplemente hace lo que antes le tocaba a “un secretario”. El cual, consiste en un órgano auxiliar del juez y se encarga de colaborar en los actos de reglamentación del proceso, contribuyendo a la acumulación de elementos de juicio que sirven de base a la decisión final. Así, su labor ayuda a mejorar los tiempos de respuesta en la rama judicial, de forma organizada, estructurada y simple; tal y como demostró hacerlo la herramienta de OpenAI.

“Haciendo preguntas a la aplicación de IA no dejamos de ser jueces ni seres pensantes. Además, Colombia aprobó una ley en 2022 que sugiere que los abogados públicos deben usar tecnologías donde sea posible para hacer su trabajo más eficiente”.

Juan Manuel Padilla, juez colombiano que defiende el uso de ChatGPT.

¿Es ético utilizar la inteligencia artificial para sentenciar un juicio?

A pesar de que Juan Manuel Padilla también se apoyó en precedentes de fallos anteriores para respaldar su decisión, la inclusión de las conversaciones del mismo con ChatGPT a lo largo del fallo causo mucho alboroto. Tomando en cuenta que, esta es la primera sentencia en redactarse a partir de Inteligencia Artificial en el país.

Es por eso que, muchos otros profesionales y expertos presentaron su punto de vista y criticaron la decisión de Padilla. Uno de estos, es el profesor de la Universidad del Rosario Juan David Gutiérrez, quien señala que el chatbot se caracteriza por proporciona respuestas distintas, aunque se formule la misma interrogante. Por tal motivo, se puede poner en riesgo los derechos fundamentales de los seres humanos.

“Como ocurre con otras IA en otros ámbitos, bajo la narrativa de una supuesta eficiencia se pone en riesgo los derechos fundamentales”.

Juan David Gutiérrez, profesor de la Universidad del Rosario en Colombia.

De tal forma, se inició un gran debate a través de Twitter, en un hilo académico. Ante esto, Padilla no dudó en seguir defendiendo el uso de la tecnología y hasta aseguró que la herramienta podría hacer más eficiente el inflado sistema legal de Colombia. Asimismo, el juez hizo un llamado para que se lleve a cabo una capacitación urgente en “alfabetización digital” para los jueces, ya que esto podría suponer importantes beneficios para la ley en el país.

Me dejó muy preocupado la sentencia del Juzgado de Circuito Laboral #1 de Cartagena que usó respuestas de #ChatGPT para motivar una decisión de segunda instancia de una tutela relacionada con el derecho fundamental a la salud.
Explico por qué me preocupa en este hilo: pic.twitter.com/5cLJaEJatz

— Juan David Gutiérrez (@JuanDGut) January 31, 2023

Sin embargo, ante tanta controversia, surge una pregunta clave: “¿Es ético utilizar la inteligencia artificial para sentenciar un juicio?”. En líneas generales, se ha prohibido explícitamente el uso de sistemas de inteligencia artificial para la calificación social y legal, dado que, tienden a ser herramientas muy invasivas. Por si fuera poco, numerosos expertos aseguran que, con esta tecnología, se corre el riesgo de vulnerar los derechos humanos y las libertades fundamentales de las personas.

Si bien, en el caso del niño con autismo en Colombia se apegó a la ley y falló positivamente, pero muchos se preguntan qué pasaría si ChatGPT hubiese emitido una respuesta contraria y así, afectado los derechos del menor de edad. Ante este escenario, el juez de la corte suprema de Colombia, Octavio Tejeiro, declaró que la IA ha producido pánico moral en la ley por el posible reemplazo de los jueces. Sin embargo, también destacó que, por la situación mundial, la herramienta probablemente será aceptada muy pronto.

A pesar de los riesgos y las dudas, lo cierto es que un reciente estudio confirmó que ChatGPT ya demuestra saber más de medicina, leyes y gestión de negocios mejor que muchos profesionales en estas áreas. Por consiguiente, elaboraron una lista de algunas de las profesiones que podría realizar ChatGPT y entre ellas, se encuentra la abogacía y educación jurídica. Tras ser sometido a un experimento, el chatbot aprobó los exámenes de la facultad de derecho de la Universidad de Minnesota y respondió 95 preguntas satisfactoriamente, por lo que obtuvo calificaciones altas que le permitieron aprobar cuatro cursos. Esto demuestra que, en el área jurídica, ChatGPT tiene una notable idoneidad.