¿Puede la inteligencia artificial administrar justicia sin equivocarse? ⚖️? El polémico fiasco de GovGPT en los tribunales austriacos evidencia los peligros de las alucinaciones de la IA en la administración pública.

6 de octubre.- Cuando salió „Chatín“ o sea, ChatGPT, lo probé, porque yo soy una persona que lo prueba todo y las novedades tecnológicas me flipan mucho. Recuerdo que, para probar la „imaginación“ de la máquina, decidí inventarme preguntas muy rebuscadas. Cosas, pensaba yo, que solo se me pudieran ocurrir a mí. Así pues, le pedí que me diera consejos, una guía para turistas, porque quería ir a Marte. Desgraciadamente, he perdido aquella primera respuesta, pero tenía bastante sentido y, para mi sorpresa, era bastante coherente.

“Lo que adelanta la ciencia” pensé yo. Sin embargo, la verdad es que utilizo muy poco la inteligencia artificial en mi día a día. O sea, la IA generativa. El lector puede estar seguro de que esto que está leyendo lo escrito yo con mis manitas. Me parece un insulto que las máquinas me pregunten si quiero formular un párrafo de una manera más comprensible o si quiero “mejorar mi redacción”. Bien o mal escrito, lioso o claro, quiero que mis lectores estén seguros de que yo escribo las cosas.

También está el problema de las llamadas “alucinaciones”. Esto es: pasa con frecuencia que cuando un modelo de lenguaje de estos no tiene la respuesta a una pregunta, simplemente se la inventa. Funciona exactamente igual que cuando a nosotros nos preguntaba algo un profesor en un examen y no habíamos estudiado bastante. Si tenías unos mínimos conocimientos de la materia de la que se tratase, pues hacías una ensaladilla y dabas un disparo a ciegas por si sonaba la flauta. Nunca sonaba. Pues con los “chatines” es igual. Cuando tú les preguntas algo que no saben, ellos miran en sus tripas y rellenan el espacio vacío con una invención.

A uno le explota la cabeza cuando piensa que hay personas que le cuentan a estos loros estocásticos cosas íntimas y que siguen a pies juntillas sus consejos de IA.

Cuento todo esto para que sea comprensible la noticia que publican los medios austriacos. Uno de los departamentos del Gobierno de Austria que tiene más plancha atrasada es el de justicia. Es natural: los jueces tienen que hincar codos y pasar unos exámenes durísimos antes de decidir sobre los destinos de las personas a las que les toca juzgar. Luego hay muchísima burocracia, legajos, procedimientos judiciales, pólizas, esto, lo otro y lo de más allá. Y esto todo el rato, porque, desafortunadamente, a los ladrones no se les ocurre la idea, pongamos por caso, de parar de delinquir un año o dos hasta que la justicia se ponga al día con sus procesos.

El caso es que las personas que trabajan en los juzgados están ya hasta el gorro. Han clamado a sus jefes, diciendo que necesitan ayuda y a los jefes se les ha ocurrido lanzar una herramienta GovGPT que, se supone, va a ayudar a hacer todas estas cosas que hacen falta para adelantar trabajo en los juzgados y las covachuelas. O sea, búsquedas, resúmenes de textos, eliminación de tareas repetitivas y, en definitiva, aumento de la productividad.

Sin embargo, cuando el personal de la justicia ha probado el nuevo sistema se ha dado cuenta de que su cerebro electrónico es más temible que un chimpancé con dos pistolas. No solo alucina pepinillos y cuando se le pregunta la condena, por ejemplo, que corresponde cascar por un asesinato él dice que lo mejor es verle el valor catastral al muerto, sino que además solo puede procesar documentos de Microsoft.

Da respuestas, eso sí, pero no son de ayuda. O sea, un pan como unas hostias.

El Gobierno de Esta Pequeña República dice que está trabajando en ello y que convertirá GovGPT en una herramienta utilizable lo más rápido que se pueda.

Entre tanto, el Bundesministerio de Justicia ya ha anunciado que va a desarrollar su propia herramienta de IA, que estará disponible antes de que termine el año y que será mucho mejor que la (birria) puesta en marcha por la administración general.

Por cierto, el Gobierno también ha anunciado (aunque a ver si lo cumple) que intentará que la administración trabaje lo más posible con programas de código abierto, para intentar reducir su dependencia de las tecnológicas americanas.

La cosa está difícil, porque los tiempos de la administración no son los de las personas normales, pero bueno, a ver qué pasa.

Por si no te ha dado tiempo de leerlo todo (*)

Resumen corto

El texto analiza el uso de la inteligencia artificial a raíz del lanzamiento de GovGPT, una herramienta implementada por el Gobierno austriaco para aliviar la carga de trabajo en los tribunales. Sin embargo, debido a graves problemas de alucinaciones y limitaciones de compatibilidad, el sistema ha resultado inútil. Ante esto, el Bundesministerio de Justicia ha decidido desarrollar su propia solución digital basada en código abierto para evitar la dependencia de grandes tecnológicas.

Tres ideas principales

• El peligro de las «alucinaciones» tecnológicas: Las limitaciones de la IA generativa al inventar información cuando desconoce las respuestas, lo que la hace peligrosa para entornos críticos como la administración de justicia.

• El fracaso de GovGPT en los tribunales: Los problemas operativos, errores absurdos y la falta de compatibilidad con formatos estándar que frustraron al personal judicial en Austria.

• Apuesta por la soberanía tecnológica: La decisión del Bundesministerio de Justicia de crear una herramienta propia y apostar por el código abierto para reducir la dependencia de las tecnológicas extranjeras

(*) Resumen obtenido por IA