¿Puede la inteligencia artificial sustituir a la inteligencia humana a la hora de administrar justicia?
En un escenario en el que las inteligencias artificiales han entrado por completo en la vida cotidiana de las personas, el Gobierno español ha convocado un referéndum para que los ciudadanos decidan si quieren dejar la Administración de Justicia en "manos" de un sistema de Inteligencia Artificial de lo más innovador que ya se está utilizando como una herramienta más y que promete la despolitización de la justicia y una mayor rapidez en los procesos.
Es el punto de partida de Justicia artificial la nueva película española que, dirigida y escrita -junto a Víctor Sierra- por el cineasta y documentalista gallego Simon Casal (Lobos sucios), llega este viernes 13 de septiembre a las salas de cine españolas para plantear a los espectadores un dilema moral entre mente humana e Inteligencia artificial en un contexto en el que las tecnologías cimentadas sobre las IAs están comenzando a extenderse a todos los ámbitos.
Pero, ¿puede una IA decidir si una persona es culpable o inocente, adivinar si va a reincidir en el futuro o decidir qué pena debe cumplir un condenado?
Mientras tanto los ciudadanos como los jueces y juezas de todo el país tratan de llegar a sus propias conclusiones, una jueza de renombre llamada Carmen Costa que en su día desafió a los poderosos es invitada a trabajar en la mejora de la tecnología que se haría cargo de la justicia justo al mismo momento que su creadora, Alicia Kóvack, fallece en un accidente. Sus sospechas de que el trágico suceso esconde algo más, Carmen emprende una investigación que destapa una peligrosa conspiración.
En el papel de Carmen Costa encontramos a la actriz Verónica Echegui, mientras que en el papel de Alicia Kóvack está Alba Galocha. Junto a ellas, completan el reparto Alberto Ammann y Tamar Novas.
Entrevistamos a Simón Casal sobre la película, sus protagonistas, y cómo la entrada de la IA en la sociedad puede impactar en nuestras vidas:
Pregunta: ¿De dónde surge la idea de 'Justicia Artificial'? ¿Qué sirvió como catalizador para que quisieras contar esta historia sobre los peligros de la implementación de la IA en la sociedad?
Simón Casal: La idea general era más cómo impactan las nuevas tecnologías en la democracia. Cómo va a chocar digamos el Big Data y la Inteligencia artificial con la democracia. Y luego, pues como era necesario focalizar más a nivel narrativo para centrarlo más en un mundo concreto, elegimos la justicia como un ámbito que reúne todos los dilemas éticos, morales y políticos.
Un ámbito que es crítico para la sociedad y para la democracia y que era una fórmula muy buena: la de situar una jueza, a Carmen Costa la protagonista, en el centro de este referéndum y este debate y que ella hiciera todo ese viaje para descubrir cuál es su propia postura.
P. ¿Cómo ha sido el proceso de documentación sobre las IA y también el trabajo con jueces para elaborar el planteamiento de Justicia artificial?
S.C. Fue un proceso largo porque la película empecé a imaginarla en 2017. Empecé a contactar mucho con el mundo judicial, hablé con muchas juezas y con jueces de Coruña, jueces del Supremo también, y luego también con investigadores de Inteligencia Artificial, con expertos, filósofos, legisladores... La parte fundamental, sobre todo para los personajes y sobre todo para la protagonista, era tratar de entender cómo hacen su trabajo las juezas. Su papel, qué dificultades sienten ellas mismas, cómo juzgan a diario y cómo afecta también su propia vida, sus propias emociones, a la manera en la que hacen justicia.
Y luego era importante hacer que todo esto fuera muy realista, que toda la película fuera creíble. Captar todo tipo de detalles e intentar hacerlo todo muy específico para que realmente tú sintieras como espectador la inquietud de que esto es muy real y que puede pasar de un momento a otro. Crear un mundo muy creíble, muy verosímil.
P. Al empezar la película es fácil partir de una creencia clara, pero durante el visionado es inevitable plantearse cosas. ¿Te pasaba a ti y también a los propios jueces?
S.C. Ese también era un objetivo. Al escribir un personaje u otro te pones en la piel de los directivos de esta empresa de Inteligencia artificial o de la propia creadora del sistema y tienes que asumir que esto es bueno, que hay hay unas intenciones buenas. De hecho, la la creadora del sistema de Inteligencia Artificial realmente es una visionaria y la película también trata de averiguar qué es lo que ella soñaba que fuera su software. Qué quería hacer realmente, cuál era la siguiente versión del software y por qué de algún modo intentó frenar también la versión actual.
Así que tienes que asumir también todas las partes positivas que puede tener la Inteligencia Artificial y, efectivamente cuando estábamos investigando y hablando con los jueces y con las juezas, ellos también ven partes positivas en la Inteligencia Artificial y ámbitos en los que puede entrar a hacer cosas. En los juzgados se hacen todo tipo de cosas y la Inteligencia Artificial puede ayudar a hacer muchas de ellas. Yo creo que lo difícil es averiguar hasta dónde tiene que entrar la Inteligencia Artificial. O hasta dónde va a entrar y hasta dónde permitimos que entre y qué ámbitos de decisión tienen que permanecer blindados al criterio humano.
P. ¿Es la gran revolución o el gran peligro del siglo?
S.C. Es una revolución sí, sin duda. No sé si es la gran revolución del siglo porque no sé qué otras tecnologías se van a crear que también serán fascinantes. Pero esta es importante y va a cambiar muchas cosas, eso ya lo vemos ahora. Y bueno, como toda tecnología, pues se puede usar para el bien y para el mal. También lo hemos visto con otras tecnologías.
Creo que puede traer cosas muy buenas, por ejemplo el simple hecho de conducir vehículos pues seguro que hace más seguras las carreteras. O más eficientes los hospitales y con un mayor grado de prevención de enfermedades mucho mayor. Va a traer muchos beneficios y también los puede traer a las instituciones del Estado, a la democracia. Lo difícil es saber cómo programarlas, cómo diseñarlas, cómo controlarlas y de qué manera. No si su control va a estar en manos de cuatro o cinco empresas tecnológicas en California o en China, o empezamos a desarrollar también sistemas de Inteligencia Artificial en España, en Galicia o en cada uno de los territorios, que creo que sería lo más acertado
P. ¿Qué es lo que te hace sentir más orgulloso de 'Inteligencia Artificial'?
S.C. Hemos conseguido que sea una película muy realista y que la gente sienta como muy inminente lo que plantea. Que se tome muy en serio el el dilema ante el que nos enfrenta la película.
Y, por otro lado, la experiencia emocional narrativa y audiovisual que hemos conseguido generar, que creo que es cautivadora, que es inmersiva y que es emocionante. .
P. ¿Cuál dirías que es la principal virtud de cada una de tus protagonistas?
S.C. En el caso de Carmen Costa, el personaje de Verónica Echegui, el viaje que hace como personaje. Empieza siendo una persona que se protege mucho de todo lo que pasa fuera y que se ha creado como un blindaje. Al final, por su condición de jueza, siempres estás como muy sola, en medio de un juzgado en el que hay un montón de gente alrededor tratando de convencerte de cosas mientras tú tienes que intentar centrar las historias que te están contando para hallar digamos una verdad entre toda la cantidad de gente que tienes alrededor y que te está intentando distraer o confundir o mentir directamente en algunas ocasiones. Esa manera de trabajar al final acaba creando también personalidad y su capacidad de transformación que tiene en la película me pareció fascinante. Es tal y como lo escribimos, pero verla a ella interpretarlo me encantó.
En el caso por ejemplo de Alba Galocha, de Alicia Kovack, me fascinó también todo ese hipnotismo que tiene ella. Ese misterio que evoca que es un personaje que está imaginando, que vive en el futuro digamos y que está creando cosas hacia el futuro, y que realmente te genera esa sensación de de intentar averiguar qué es lo que está qué es lo que qué es lo que está imaginando para todos nosotros.
