Otra vez vamos a dar comienzo a la primera mesa redonda,
versa sobre la incidencia de la inteligencia artificial
en la Administración de Justicia.
En primer lugar, voy a presentar a los intervinientes.
En primer lugar, intervendrá don Joaquín Silguero Estagnán.
Esto si estuviera en Cataluña no tendría problema,
porque ahí se utiliza el dicho Estagnán.
Es el director del CENDOC.
Él, por lo que respecta a nosotros, es quien de verdad
sabe del funcionamiento de la Administración de Justicia,
por lo que respecta aquí en España, y realmente es un lujo que haya.
Que quiera participar y que haya venido
y que haya hecho un hueco en su agenda,
que sé que es bastante complicada para estar aquí y para poder
intervenir.
Ya lo verán ustedes cuando haga su exposición.
En segundo lugar, intervendrá Patricia Guzmán Álvarez,
que también es la vicepresidenta de la Sala Civil de la Corte Suprema
de Colombia y también participó en la génesis de la idea
de cómo conformar este primer encuentro.
Ella, además, nos va a dar como una explicación ya
de la realidad,
o sea, de lo que hay en la actualidad,
de los ensayos y las situaciones que se han dado ahora en Colombia,
con lo cual nos va a permitir una primera reflexión
sobre las primeras iniciativas que se han desarrollado allí.
Y en tercer lugar intervendrá también don Juan Martínez Moya,
que es magistrado de la Sala Cuarta,
la Sala Civil del Tribunal Supremo.
Hay que recordar que la Sala Cuarta
en su día se desgajó a la Sala Primera,
con lo cual tiene mucho sentido que él intervenga,
aunque esto puede ser malinterpretado en otros ámbitos,
pero él perfectamente lo ha entendido.
Sí, que la creó.
Entonces, por más aparte, él va a hacer,
ha intervenido, ha participado en un proyecto,
un borrador que existe sobre la ética o el código ético de la utilización
de la inteligencia artificial en Iberoamérica.
Lo explicará con más detalle, con más precisión
cuando intervenga.
De esta manera vamos a podernos hacer una idea de que.
De lo que es objeto de esta mesa,
que es la incidencia que tiene la inteligencia artificial.
En la Ministerio de Justicia yo apostaría en el enjuiciamiento,
porque no es que sea distinto.
La Ministerio de Justicia es mucho más amplia.
Son muchos servicios,
muchas prestaciones que objetivamente las herramientas informáticas
ayudan y pueden desarrollar mucho.
Pero forma parte de ella también el núcleo esencial,
que es el enjuiciamiento.
La labor que llevamos a cabo los jueces
para resolver un conflicto jurídico determinado.
Y esta es la cuestión.
¿En qué medida el empleo de estas herramientas
y cómo puede llegar a ayudar?
Ya lo veremos, porque nos explicará perfectamente
Joaquín que no sustituir a la función judicial.
Por lo tanto, superamos esos dos extremos que claramente quedan
fuera de quienes desconfían de tal manera de la modernidad
y de la inteligencia artificial que son totalmente reacios
a cualquier manifestación o versión y también
quienes quizás por un falso entusiasmo,
a veces vendido por los medios de comunicación,
se piensan que la inteligencia artificial
va a resolver todos los problemas de la justicia,
los sesgos y cualquier otra deficiencia
derivadas de la intervención humana en el enjuiciamiento.
Es una realidad, una herramienta,
hay que conocerla para sacarla de partido poco a poco
y ver en qué medida nos va a poder ayudar,
pero nunca sustituirá nuestra función.
Ya saben ustedes
que hay tres ámbitos, eso se lo dijo un juez inglés
que yo creo que tenía muy preclaro, Jeffrey Ross,
que cuando explicaba que hay como tres ámbitos,
uno es el del manejo de la información,
otro el de la opinión y otro el de la decisión.
La decisión no la va a sustituir.
Vamos a ver en qué medida el manejo de la información,
y en su caso la opinión,
facilitada precisamente por los elementos
que han de ser tenidos en cuenta y su combinación e interrelación
puede ser facilitada por la inteligencia artificial.
Sin más preámbulos, voy a dar la palabra a quienes
de verdad van a intervenir y conocen.
En primer lugar, Joaquín Silguero Estañán.
Muchas gracias, Joaquín.
Muchas gracias, presidente.
La verdad es que es un placer estar aquí y hablando
de un tema tan de actualidad y por lo que a mí respecta,
que forma parte de nuestro trabajo diario,
desde lo público además, y por una razón muy importante,
y es que realmente soy director del CENDOJ y el CENDOJ
desde que se creó en 1997.
Supuso en su momento una decisión que es particularmente
acertada hoy en día al constituir un repositorio nacional
de jurisprudencia.
Porque todo lo que vamos a hablar aquí, la inteligencia artificial,
si no es porque hay datos, no hay inteligencia artificial.
Lo decía el otro día en un congreso que se celebraba
y realmente fue una de las cosas que destacaron.
Entonces, lo primero, nosotros cumplimos,
primero, somos un órgano técnico del Consejo General del Poder Judicial.
Y tenemos la regulación en la Ley Orgánica del Poder Judicial,
artículo 619 y el 560, donde se habla de la difusión de la jurisprudencia.
Es decir, una vez que hemos terminado
con la resolución del litigio, nosotros, digamos,
los jueces y magistrados, ¿Qué sucede después?
Pues precisamente esa nueva vida
que tienen los criterios de los tribunales, que contribuyen
a un elemento tan fundamental como es la seguridad jurídica,
realmente es ahí donde vemos el derecho vivo
y donde vemos el derecho en evolución.
Por lo tanto, eso es fundamental.
Precisamente todo lo que vamos a hablar ahora
de inteligencia artificial se ha ido nutriendo.
De lo que se ha hecho.
Por lo tanto, una primera idea,
si dejáramos y dejáramos a partir de ahora de ser jueces
y quisiéramos que hubiera aplicaciones que tomaran decisiones,
estaríamos fosilizando la jurisprudencia.
O sea, lo cual sería un craso error.
Pero bueno.
De hecho, esto yo en la intervención quería aprovechar la oportunidad
para explicar dos partes.
Por un lado, ¿cuál es esa visión de la inteligencia artificial
como juez?
Yo he estado durante ocho años
como consejero de justicia en la Unión Europea
y allí muchas veces cuando se habla
y se negocian las directivas y los reglamentos,
se hablan de crecimiento económico.
Y la inteligencia artificial
tiene un componente de crecimiento económico importantísimo.
De hecho.
No me remito más que a los datos públicos.
En este momento hay un plan de actuación de inteligencia
artificial de Europa que está dotado con 20.000 millones de euros
y hay todo un programa de inversiones relacionadas
con la inteligencia artificial
que van a llegar a 200.000 millones de euros.
Claro, muchísimo dinero en juego, pero también es verdad,
si ese dinero no se emplea de forma correcta,
será una gran pérdida de posibilidades para lo público
y para el desarrollo real de las sociedades.
Porque las sociedades y el desarrollo no se miden solo en dinero,
sino también se miden en algo tan importante para nosotros
como son la tutela de los derechos.
Entonces, una de las cosas que quería señalar,
en definitiva, es que la inteligencia artificial,
una de las primeras cosas que ha conseguido
es que donde antes veníamos sentencias, en el CENDO de 1997,
donde la unidad era la sentencia, ahora vemos dos capas añadidas,
por así decirlo.
Una superior, que nos permite de repente tener información,
y explicaré luego cosas
que estamos haciendo uniendo sentencia a sentencia,
es una forma de, en vez de leer como leemos las personas
un documento, de forma horizontal,
lo leemos en relación al flujo de información
del que forma parte.
Eso es tan importante en la función de las altas cortes,
porque en definitiva, cuanto mejor consigamos
que penetren los criterios de los tribunales supremos
en todos los tribunales del país, más coherentes y mejor contribuiremos
a la seguridad jurídica.
Esa capa, digamos, sería la superior.
Pero luego se ha abierto otra capa, la inferior,
la micro.
Que son los datos.
Y con estas nuevas aplicaciones ahora nos está permitiendo hacer
explotaciones que hasta hace unos años eran imposibles
de imaginarnos.
Antes, en la época de la base de datos,
uno tenía X campos.
Ahora estamos buscando el significado que tiene un punto
y aparte en una sentencia,
el conocimiento que hay dentro de una resolución.
Entonces, ese es el material en el que nos movemos.
Pero una cosa que me parece importante también es señalar
que esto va a suponer nuevos retos para todos nosotros.
El primer reto,
que tenemos que ser conscientes de lo que está pasando,
porque está modificándose constantemente.
Lo que hace tres meses era un buen ejemplo de negocio,
ahora ha quedado de repente desechado.
Entonces es fundamental una cosa, la formación.
Miedo da pensar cuando el juez se aproxime
a pruebas que han sido realizadas utilizando inteligencia artificial
sin tener los medios de formación para poder decidir qué hacer
con esas pruebas.
Un poco lo que nos pasó ya en los viejos tiempos
hasta con los correos electrónicos,
que la gente veía un documento privado.
Y luego ya nos fuimos dando cuenta que tenían bastantes más cosas.
Y luego otra cosa también que es fundamental
es que nos demos cuenta
que todo esto está sucediendo en un contexto.
En un contexto que en Europa hay un contexto normativo
que se ha visto reforzado por la existencia del reglamento
de inteligencia artificial del año pasado.
En el que se ha establecido un elenco de prácticas prohibidas,
un elenco de derechos, porque se han clasificado
los sistemas de justicia conforme al anexo 3.8
como sistemas de alto riesgo, Bien, de alto riesgo,
pero ¿riesgo para qué y cómo vamos a controlarlo?
Porque la normativa europea se ha hecho partiendo
de unas premisas de análisis de riesgos, etcétera,
que no es específica de la inteligencia artificial,
lo vemos también en protección de datos, etcétera.
Pero mi pregunta es, nos hemos dotado de una normativa europea intuitiva
de derechos.
Pero luego en la práctica lo que estamos haciendo,
en muchos casos, es colocando cajas negras
de productos comerciales que todos hacen lo mismo,
aunque se disfracen con nombres distintos,
que se están haciendo en Estados Unidos.
Es decir, en un sitio que nos sigue una normativa que nosotros tenemos
que aplicar.
Lo digo porque esa reflexión me parece que es importante.
Además de decir qué modernos somos
por tener algo de inteligencia artificial,
ojo que en el ámbito judicial tenemos sobre todo que preservar
los derechos.
Y lo estamos preservando mal
si empezamos utilizando algo que nos es desconocido.
Entonces ese tema de la formación es importante.
Y luego, aparte del contexto normativo,
tenemos otro contexto que.
No se suele hacer referencia a él muchas veces,
pero para mí es muy importante que lo pongamos encima de la mesa,
que es el contexto económico.
Somos conscientes que los fabricantes de inteligencia artificial
son empresas, como el caso de OpenAI,
que el año pasado tenía un valor de 150.000 millones
de dólares anuales.
De capital
y que solamente en tres meses consiguió 6.000 millones de dólares.
Lo que quiero decir con esa parte,
si se me permite la expresión, es que la inteligencia artificial
va a funcionar o se va a decir que funciona,
pero alguien tiene que dar resultados a unas inversiones ingentes
de dinero.
Y lo digo también, cuidado, porque estamos en conceptos
viendo cómo Charly Pity y tal nos hace unas imágenes
de cómo éramos conforme a los Simpsons,
es decir, es una de las funcionalidades
más buscadas.
Ojo, porque no trivialicemos con algo que nos vamos a plantear
en esta mesa de aplicarlo a la Administración de Justicia
y concretamente al Poder Judicial.
Cuidado con esa deriva.
Y luego, por centrarnos ya en el tema del Poder Judicial, porque esto es
una reflexión que hemos hecho en el Consejo General del Poder Judicial
también, es desde qué punto nos importa a los jueces.
Pues fundamental, el Consejo General del Poder Judicial,
si algo lo justifica,
tiene que ser tutelar la independencia del Poder Judicial.
Con lo cual, el Consejo General del Poder Judicial
tiene que estar trabajando en materia de inteligencia
artificial, porque todos sabemos que a través de los medios
se puede controlar directa o indirectamente
las tareas jurisdiccionales.
Y eso hay que decirlo.
O sea, esto no son cosas inocuas.
No es inocuo que el Poder Ejecutivo,
por cosas que había también estado en el Poder Ejecutivo
en su momento, en el Ministerio de Justicia,
pero no es inocuo que a través de eso se esté decidiendo,
tomando decisiones de cómo los jueces juzgan.
Entonces, los jueces tenemos que estar desde el principio
en el diseño, implementación y seguimiento
de los sistemas de inteligencia artificial.
No somos menos consumidores.
Somos desarrolladores
y somos consumidores incluso a través de las partes,
no solamente lo que haga el Y ahí, ¿dónde quedan
nuestras garantías procesales, la garantía de armas,
si no entramos a considerar que unos utilizan eso y otros no?
¿O cómo estamos respondiendo ahora en fenómenos que a veces
la inteligencia artificial se está utilizando.
Digamos, se experimenta la expresión contra el sistema,
porque tenemos el caso de demandas masivas
que se están produciendo con la inteligencia artificial
y que están ayudando a colapsar todavía más
nuestros maltrechos tribunales de justicia.
Entonces,
todo esto es ese contexto al que me quería también referir,
porque seguramente lo que luego digamos y concluyamos
sobre las herramientas viene ya.
Mediatizado por este contexto en el que se produce.
Cuando hicimos la reflexión,
concretamente en el Consejo General del Poder Judicial de España,
dijimos, lo vamos a centrar en tres cosas.
Estrategia, tenemos que reivindicar una estrategia propia.
El reglamento de inteligencia artificial,
con lo importante que es para la actividad de los jueces
y refiriéndose a nuestra actividad, fue negociado por consejerías
que tenían que ver con industria y desarrollo y telecomunicaciones.
Eso se ha negociado así,
no se ha negociado por las consejerías de justicia.
Entonces ya vamos como al rebufo de algo que ha sido diseñado
para generar crecimiento económico, que está muy bien,
nadie me malinterprete que faltaría más.
Estamos a favor del crecimiento económico,
de que haya más puestos de trabajo, que las sociedades prosperen.
Sí, pero cuando alguien llega a un tribunal llega
en forma de litigios, Donde una parte puede ser muy poderosa
y la otra parte puede ser muy débil.
Y donde el fiel de la balanza de la justicia
siempre tiene que intentar encontrar la justa solución
a ese caso concreto.
Por lo tanto, de poco nos van a servir soluciones que se basen
en lo que sucedió en otros asuntos.
Dicho todo eso, ¿estrategia?
Otra cosa fundamental, la gobernanza.
La gobernanza de las aplicaciones.
Nosotros hemos reivindicado que haya una supervisión propia
por parte del Poder Judicial.
Y en este momento tengo la alegría de poder decir que parece
que a través de la intervención de la presidenta
del Consejo y una cierta receptividad por el Gobierno,
hay ya un anteproyecto de ley -que esperemos que pase
las demás tramitaciones -.
Que habla del buen uso y gobernanza de la inteligencia artificial,
en cuyo artículo 6.6 se da la supervisión de los sistemas
de inteligencia artificial al Consejo General del Poder Judicial,
concretamente a la Dirección de Supervisión
y Protección de Datos.
Eso también es importante señalarlo, porque si no supervisamos
no podremos decir cuándo los usos son permitidos o prohibidos.
Y tendremos que seguir, por cierto, lo que pasa en otros sitios,
porque en este caso no hay fronteras.
Estos sistemas, de la misma forma
que pueden nacer en Estados Unidos, sus buenos y malos usos
van a ser globales.
Por lo tanto, es muy buena el intercambio de experiencias
entre Colombia, España y a nivel regional,
me refiero, de tratados internacionales que,
como el que está impulsando el Consejo de Europa,
tratado número 225, convenio marco,
sobre inteligencia artificial, qué interesante es el nombre,
inteligencia artificial y derechos humanos,
democracia y estado de derecho.
Y eso es lo que echaba yo de menos en la parte del reglamento
de inteligencia artificial.
Y esa es la parte donde nos tenemos que agarrar, en mi humilde opinión,
para defender lo que los jueces,
cómo es nuestra aproximación a la inteligencia artificial.
Bien, dicho todo esto,
que sería un poco la primera parte de mi intervención,
ver el marco, el contexto.
Luego tenemos la parte de que nosotros,
desde lo público, también nos hemos convertido,
aprovechando que tenemos este gran repositorio,
que es el mayor de Europa
en este momento de resoluciones judiciales,
estamos ya con más de nueve millones de resoluciones judiciales,
que alguien podría decir, bueno, pues hay otro que también tiene
nueve o diez.
Sí, pero la diferencia
está que cada sentencia forma parte de un fichero
XML con más de 100 campos de búsqueda.
Lo cual significa que podemos dibujar las cosas,
podemos hacer hasta cálculos de riesgos de accidentes
de circulación.
Podemos ver
qué cantidades están detenidas en nuestros juzgados.
¿Verdad?
¡Qué pena!
Esas ejecuciones que tienen dinero pendiente
de que llegue.
Yo he conocido empresas que han cerrado teniendo
un asunto a su favor en el Tribunal Supremo
y eso es algo que tenemos que erradicar desde el principio.
Una cuenta de consignaciones llena de dinero
y que, sin embargo, ese dinero no fluye al sistema.
Esa idea de gestionar de forma colectiva,
que en la forma jurisdiccional tradicional no la hemos tenido,
también nos la va a permitir la inteligencia artificial
haciendo seguimiento, etc. Con lo cual llegamos a qué cosas
puede y qué cosas aún pudiendo no queremos que haga.
Y ahí puedo contar primero proyectos que ya tenemos en marcha,
porque yo soy poco amigo de PowerPoint,
no he traído ninguno de hecho, porque me gusta,
para mí la unidad de medida es el proyecto terminado.
Entonces, en Inteligencia Artificial,
en este momento la realidad que tenemos es.
Es que utilizando técnicas de Machine Learning
durante estos años anteriores,
hemos conseguido sacar aplicaciones que anonimizan,
como se decía en algún ejemplo antes, anonimizan,
pero anonimizan más allá de quitar los nombres y los apellidos
de las partes.
No olvidemos que el Reglamento General de Protección de
Datos del 2016 expresamente habla de que es información personal
no solamente el que identifica las partes,
sino también el que hace que las personas sean identificables.
Esto es un tema muy importante.
Por lo tanto, nuestro anonimizador tiene 30 reglas incorporadas
en los que llega a ocultar IPs, a direcciones,
etcétera, etcétera.
De poco va a servir que anonicemos simplemente quitando el nombre,
si con la inteligencia artificial podemos hacer búsquedas multifuente,
con lo cual, con sacar la sentencia y las noticias periodísticas del día
y cuando cerraron el registro tal,
ya tenemos hecha la reversión del dato.
Y esto es muy grave, porque hablamos de antecedentes penales,
pero a mí desde cuando me gusta hablar también
de la cancelación de antecedentes civiles
y, por respeto al buen amigo Juan, sociales también.
Es decir, si sabemos para siempre que alguien ha hecho determinada cosa
o ha sido despedido o no ha pagado el alquiler,
a ver quién le alquila a esa persona.
Es decir, la pequeña muerte civil.
Puede venir de una alta profusión de información.
Como digo, tenemos el anonimizador,
tenemos algo que también es muy interesante
porque nos ahorra tiempo, todo que sea inteligencia artificial
y que sea ahorrar tiempo sin vender nuestra alma a una multinacional,
se puede y se debe hacer.
Entonces, subimos directamente un documento y el documento genera
con las máquinas también.
Los vínculos a jurisprudencia y a legislación.
Eso es importante para un juez.
De repente hay que un documento que está en Word,
las máquinas sean capaces de asignarnos los vínculos
y podamos ver entonces la veracidad o no de las citas
que se han realizado.
Y en el caso de legislación, habiéndonos unido
o como nos unimos con el Boletín Oficial del Estado,
podemos navegar por la legislación consolidada.
Eso es interesante.
Pero luego, además,
a través de algoritmos de atribución de entidades,
antes de que una persona lo lea, sabe de qué va conforme a un tesauro
que tenemos de 22.000 términos hecho en España.
Entonces, eso también es importante.
Nos ahorra tiempo.
Imaginemos que en vez de ir al registro tradicional,
podemos ir a un registro de asuntos micro.
Y digo, voy a resolver los asuntos de arrendamiento por falta de pago
en estas condiciones.
Es decir, ese tipo de acumulaciones nos ayudarían también
a ganar tiempo.
Bien, esto sería la primera parte.
Esto lo tienen ya todos los jueces de España,
los fiscales que tenemos convenio,
los letrados de la Administración de Justicia.
Pero claro, de cuando empezamos a hacer Machine Learning
a cuando se entró en el mundo de la inteligencia artificial generativa,
las cosas han desarrollado mucho más rápido, ¿no?
¿Qué tenemos ahora?
Pues ahora la verdad que tenemos la alegría de poder decir
que hemos desarrollado cinco prototipos,
tenemos a nivel de prototipos y en la medida
que las posibilidades presupuestarias nos van permitiendo,
lo vamos a pasar a real.
¿Qué hemos hecho?
Como somos los diseñadores, es decir, no compramos cajas negras,
Diseñamos productos que pensamos que son útiles para los jueces,
de la misma forma que tenemos buscadores solo
para votos particulares.
Eso en el mercado no se busca, pero para un juez es interesante.
Entonces, una de las cosas que hemos hecho
ha sido, una, digamos, voy a empezar de menos a más,
la que está haciendo todo el mundo,
los resúmenes.
Los resúmenes, vamos a ver, detrás de hacer un buen resumen,
tiene que haber lo que se llama un buen prompt.
Y nosotros, o sea, la forma de preguntar al sistema.
Nosotros hemos diseñado unos específicos, en nuestro caso,
para extractar las sentencias.
Porque todos sabemos que cuando se lee un resumen
de una sentencia, lo importante sería cómo podríamos acertar siempre
con la ratio de cierre y no con los óbitas dicta.
Y las máquinas, cuando se hacen prompts libres,
no aciertan esa parte.
Pero bueno, eso lo tenemos en este momento puesto
y la idea es que esté operativo para los 5.500 a lo largo también
del mes entre junio,
como llega el verano, que es una época mala,
vamos a darnos un poquito más de tranquilidad,
pero junio estará operativo, entre junio y septiembre iremos haciendo
lo que decías, presidente, que es ir haciendo procesos iterativos,
van mejorando, es decir,
uno empieza a un 10%, sube a un 20, a un 30,
tiene una curva de aprendizaje.
Bien, cosas un poco más novedosas que tenemos también
y que también vamos a poner en marcha.
La posibilidad de empezar a preguntar a documentos,
lo que es los chatbots, pero subiendo documentos.
Pero esto también alguien me podría decir que lo ha visto en el mercado.
Lo que ya no se ve en el mercado tan fácil
es que se coja una sentencia y te haga un detector de eventos.
Y te empieza a distinguir qué son fundamentos de derecho,
qué son hechos y qué son hechos probados por el juez.
En algunas jurisdicciones, como saben, son obligatorios,
pero en otras aparecen entremezclados con los hechos.
Qué importantes son esos hechos
que tienen un plus y por qué no, cuando nosotros,
como tenemos el caso que recibimos todos los meses
más de dos millones y medio de búsquedas del público
en general, si conseguimos comparar con situaciones de la vida,
podríamos llegar a hacer un conocimiento
de la jurisprudencia más próximo al ciudadano.
Todo eso, digamos, son prototipos.
Otro tema interesante.
Cuando tiene uno unas bases de datos muy grandes,
y lo hemos visto en España ahora con el tema de la doctrina
Revolving, por ejemplo, etc., no podemos decir
que la jurisprudencia es importante desde hace cinco años.
Depende en qué materias hay jurisprudencia importantísima
que abrió incluso, sabemos todos,
que la jurisprudencia llega en algunos puntos
a generar nuevas formas de entender el derecho.
Pasó en España la falta de discurso sociopasivo necesario.
Y la legitimación del comunero lo pongo
como dos ejemplos de creación jurisprudencial.
¿Qué nos interesa?
Guardar esa información.
¿Nos interesa dar importancia a las sentencias de pleno
frente a otras sentencias que, sin embargo,
salen sino en la lista simplemente por el tema de fecha?
¡Qué pobre es el conocimiento del derecho por la fecha!
Es decir, que tenemos que ser capaces.
Bueno, entonces,
para eso hemos generado lo que se llaman grafos.
Es decir, representaciones visuales
de la relación que tienen las sentencias.
¿Cómo hemos conseguido hacerlo con inteligencia artificial?
Para entendernos.
Cuando yo veo un asunto del Tribunal Supremo
y veo que es una sentencia importante,
me está vinculando gráficamente con la sentencia recurrida
y con la sentencia de primera instancia.
Si ha habido una cuestión prejudicial en el caso de España
que se presentan ante el Tribunal Europeo,
veo también esa otra información.
Es una forma muy rápida y entonces muchas de nuestras sentencias,
porque hemos generado automáticamente a día de hoy 130.000 grafos,
esas sentencias tienen un recuadro que da información visual.
Estamos también trabajando en tema de buscadores inteligentes.
Se va a hablar mucho de esto, de los buscadores.
De hecho, Google ha sacado hoy o ayer el mode que llaman el AI mode
y que lo que pretende es cambiar la forma en que se busca en Google
por un diálogo.
Bueno, pues llegado el momento, nosotros ese mismo tipo
de inteligencia las estamos probando.
Lo que pasa es que hay que saber distinguir
entre el importe de una multa y el número de un artículo.
Es decir, lo que estoy queriendo decir
es que alguien haga una pregunta y lo complejo sea que el.
Por eso yo siempre he defendido
que en vez de hacer como hacemos ahora,
que yo pregunto y la máquina me contesta.
Tenemos que conseguir que la máquina te pregunte y tú contestes también.
Es decir, tiene que ser bidireccional.
Y así conseguimos, en muy poquito tiempo,
centrar mucho más las pesquisas.
Y luego tenemos una última cosa.
Voy bien, me quedan como cinco minutos.
Y ha habido una aplicación que ha sido modesta
y que estoy con la ilusión de que, bueno, estamos todos con la ilusión
de que pueda reportarnos mayores frutos y utilidades,
y es que tenemos en España, como digo, el problema-y entiendo
que en Colombia también estará pasando
-.
De los escritos que son muy repetitivos,
es decir, tenemos mucha carga de trabajo en cuanto al número,
pero es verdad que se nos mezclan cuestiones que necesitan un sosiego.
Yo personalmente estoy totalmente en contra de talorizar las sentencias
y la justicia
y además tengo la desgracia de haber hecho estudios
de que cada vez que se han puesto más asuntos
y se ha retribuido más a la gente para que produzca más sentencias,
han aumentado las desestimaciones de recursos.
Y si alguien no se lo cree, se lo demuestro.
Es decir, en esos momentos hay algo que pasa
que cuando una persona está con una gran tensión
y tiene que resolver mucho, resuelve peor o se deja llevar,
con lo cual perdemos la importancia que tiene un derecho de recurso.
Nada más y nada menos.
Entonces, como digo,
el problema de las repetitivas es que a veces tenemos a nuestros jueces
teniendo que resolver sobre sentencia que son prácticamente iguales.
Entonces, lo que hemos hecho ha sido lanzar un proceso
que le hemos puesto de nombre clusterización parametrizable.
¿En qué consiste esto?
Aquí la gracia está que se haga sobre sentencias no tratadas.
Es decir, tenemos los 9 millones y pico de sentencias
perfectamente tratadas.
Con eso, hacer cosas es relativamente más fácil.
Pero la gran masa de asuntos y de escritos procesales,
etc., no tienen metadatos pensando en temas de resolución.
Con lo cual, hay que fabricarlos.
Entonces, ¿qué le decimos a las máquinas,
simplificando?
Vemos toda la información,
que además se puede representar porque se ve
como puntos, etc. Y lo que le pedimos es que nos diga
si una cosa trata repetitivamente de otras cosas.
No sabemos, es muy bonito verlo cuando nace,
porque sabes que has encontrado como un núcleo,
como una galaxia, pero no sabes esa galaxia
de qué trata.
No sabes de qué trata.
Lo sabes cuando luego abres alguna de la muestra
y empiezas a ver de qué va.
Pero, básicamente, entonces, ¿qué hacemos?
Escogemos un caso de uso que ya los compañeros nos digan
que se repiten mucho.
Concretamente empezamos con reclamaciones aéreas.
Todo el mundo perder la maleta, un retraso,
una cancelación de vuelo, overbooking, etc.
Son cosas que hicimos como cuatro o cinco asuntos de uso
y las máquinas las enseñamos a que a pesar de no tener
la información estructurada,
solamente les pedíamos que nos dijeran.
¿Qué sentencia estimaba y cuál desestimaba?
Incluso algunas nos dijeron, esta no sabemoslo que es.
Empezamos a mirarlo
y decimos, claro, porque son estimaciones parciales
o son casos en que hay una pluralidad de pretensiones.
O sea, muy interesante, pero con que fuera una máquina básica
que nos diera estima y desestima, nos servía a los efectos tal.
¿Y qué buscábamos ahí?
Que una vez que habíamos hecho el grupo, el clúster,
le decíamos, danos un modelo.
¿Cuál era el modelo?
El modelo no era un modelo como hacíamos antiguamente,
imponiendo, este es el modelo y hay que seguirlo tal.
No, no, no.
Es el modelo que sale por destilación de las propias sentencias
que utilizan los jueces.
Y nos encontramos, concretamente, y tuvimos ocasión de verlo,
que con un comparador de sentencia te salía en negro
lo que eran idénticas y en amarillo lo único que diferían.
Y hay realmente miles de sentencias en este momento,
en estas jurisdicciones que tenemos totalmente casi colapsadas,
hay miles de sentencias que se repiten.
Pero sin embargo, para el compañero juez que está trabajando en el tema,
empieza cada mañana a hacerlo otra vez de nuevas
o a lo máximo tiene él sus modelos,
pero igual no los comparte con el resto.
Y aquí lo que estamos hablando,
y hemos creado un comparador de sentencias,
que lo que hace es busca las más próximas
y por qué no, y porque defendemos la libertad del juez siempre,
la independencia,
y las más distintas.
Es decir, si algo no te gusta, dame algo distinto,
dame algo distinto, dame algo distinto.
Por supuesto, es para casos repetitivos,
pero es que la repetición ya existe.
Bien, una vez encontrado ese caso de uso,
pues estamos también con el propio Tribunal Supremo y con el Gabinete,
que espero que en otro encuentro se pueda contar el resultado
de lo alcanzado por ahí, porque estamos buscando
otro caso de uso también con la falta de competencia,
los conflictos de competencia negativos, en definitiva.
Que llevan mucho trabajo
y realmente exigen una carga de leer,
etc. Y entonces tendremos que hacer que las tareas repetitivas,
las que sean susceptibles de automatización,
las podamos llevar por esa vía.
Y las que no,
pues que le dediquemos el tiempo que necesita para la consecución
de la justicia.
Y ya termino.
¿Qué va a pasar próximamente?
Pues va a pasar que esto va a seguir muy rápido,
entre otras cosas porque los 250.000 millones tienen
que ganar dinero.
Entonces, hace una temporada todos los días hablábamos
de algoritmos y a mí me gustaba jugar con los algoritmos.
Luego ya empezamos a hablar de modelos de lenguaje.
¿Alguien ha visto un modelo de lenguaje?
Y europeo, los franceses dicen que tienen Mistral,
pero en fin.
Y para eso estamos construyendo unos centros de supercomputación.
Esto es como el ordenador cuántico.
Tercero, ¿qué vamos a empezar a escuchar?
¿Qué se lleva para la próxima temporada?
Los agentes.
A mí personalmente me parece que la idea es buena.
La idea sería hacer aplicaciones para que en vez de contestarte
tal, ejecuten una tarea.
Entonces, vamos a darle una vuelta, vamos a pensar casos de uso,
porque yo siempre he defendido, por ejemplo,
que en el tema procesal probablemente son las reglas del juego
y queremos innovar menos.
Es más raro, presidente,
o sea que seguramente si pudiéramos de alguna forma
tener una especie de calculadora judicial de las reglas procesales
aplicado a la jurisprudencia que uno previamente ha dicho,
pues el Supremo, por ejemplo, el Supremo, etc.,
podría ser muy interesante.
O un agente, por ejemplo, que me generará una especie de avatar
de jueces que tú quieres seguir o jueces que eres tú.
Una de las cosas, lo digo porque es que en este momento
una cosa que hemos conseguido es medir la influencia
de todas las entidades españolas entre sí.
O sea, sabemos cuáles son más influyentes.
Podríamos hacer un Amazon judicial, si se quiere, mañana.
Porque sabemos cuánto se abren,
cuándo se recogen, cuándo se copian,
etc. Y vemos también los tribunales europeos,
que los hemos bajado todos, tanto el Tribunal de Justicia,
que lo tenemos por convenio, como el Tribunal Europeo de Hechos Humanos,
incluso en otros idiomas, con traductores automáticos,
también en inteligencia artificial,
eso no lo hemos desarrollado nosotros, pero permiten que el juez,
sin salir del sitio,
que ese es el tema al que tenemos que llegar, pueda.
Lo que quiero decir es que vamos a ver muchas cosas.
Vamos a hablar de modelos de contexto.
Nos van a abrumar otra vez con el nombre
y nos van a decir que la siguiente versión es mejor.
Pero claro, mejor para hacer lo de los Simpsons
o mejor para los derechos de las partes en el proceso.
Y entonces termino recordando que si hoy en día,
y yo creo que estamos muy orgullosos,
todavía se sigue hablando de la justicia,
por la célebre frase de Ulpiano, siglo III de nuestra era,
y allí hablaba de la constante voluntad,
voluntad, no hablaba de repetición,
hablaba de almacenamiento de memorias, etc.,
pues qué negativo sería para la humanidad que en vez de ver
en esto una oportunidad y utilizarlo para el bien,
lo utilicemos simplemente para fosilizar la jurisprudencia
o para destruir la realidad de la auténtica justicia.
Muchas gracias.
Muchas gracias a ti, Joaquín, porque realmente has puesto el dedo
en la llaga.
Además, lo has explicado todo de una manera muy clara, evolutiva
y como es la realidad, incluso sin fosilizar la realidad,
sino viendo cómo ha evolucionado.
Muchas gracias por nos ha hecho pensar mucho.
A continuación,
le voy a dar la palabra a Patricia Guzmán Álvarez,
que nos va a hacer esta exposición desde la perspectiva
de lo que se ha hecho, lo que se está haciendo en Colombia.
Muchas gracias, Patricia.
Buenos días en Colombia,
buenas tardes aquí en Madrid, España.
De verdad que es un placer estar con ustedes compartiendo
algunas ideas y reflexiones en este primer diálogo,
como se había hecho mención anteriormente.
El objeto de este primer diálogo es el de compartir en la construcción
del marco de gobernanza para la inteligencia artificial
que tenemos nosotros.
Como magistrada de la Corte, pues valoro profundamente
este espacio de intercambio entre dos tradiciones jurídicas
que son arraigadas en contextos diferentes,
pero sin embargo enfrentamos unos desafíos similares.
Me deja sorprendida los avances que tienen acá,
que nos acaba de expresar Joaquín.
Realmente, yo vengo es a presentar un modelo, para nada acabado,
simplemente venimos a compartir la experiencia en la construcción
de elementos útiles para nuestros sistemas judiciales.
Entonces, lo vamos a estructurar en tres partes.
En tres partes.
Entonces, vamos a hacer mención primero a un diagnóstico necesario.
En Colombia, pues antes de regular este tema,
durante el primer semestre, el Consejo Superior de la Judicatura,
que viene teniendo una unidad similar a la de la SENDOC,
realizó un primer diagnóstico.
Un primer diagnóstico.
Y en este.
Miren, la tecnología aquí para manejar estas diapositivas
me está costando y así vamos más o menos en términos generales
nosotros también.
Entonces, en el primer semestre del año 2024,
el Consejo de la Judicatura realizó un diagnóstico sobre el uso
de la inteligencia artificial en la rama judicial.
Conscientes de que para cualquier política pública
se debe partir de un conocimiento preciso
para regular los temas que se pretenden documentar
y regular.
Entonces, en esta encuesta que se obtuvo,
se aplicó a 3.152 servidores judiciales
de todo el país que revelaron que ya la inteligencia artificial
había llegado a los despachos de los jueces y magistrados,
así no existió un marco regulatorio formal.
El 29.19% del total de los funcionarios
que participaron reconocieron estar utilizando las herramientas
de la inteligencia artificial en sus labores cotidianas.
Prácticamente cada uno de tres servidores judiciales
ya había incorporado de alguna forma
la inteligencia artificial en su trabajo diario.
El fenómeno además trasciende
o trascendió a jerarquía y especialidades
de la siguiente manera que a continuación describo.
Entre los jueces,
172 utilizan herramientas de inteligencia artificial
frente a 605 que no lo hacen.
Los secretarios muestran proporciones similares, 110 usuarios frente a 434
no usuarios.
En el análisis de estas herramientas también se ofrecieron
o aparecieron lecciones importantes
y en lo que tiene que ver se hacía mención al ChatGPT,
que encabezó la lista de 688 usuarios,
seguido por Copilot de Microsoft con 366 usuarios,
Gemini con 198 usuarios,
los servicios de la inteligencia artificial de Google,
a la que también se mencionó, con 174,
y AppBing con 112 usuarios.
Esta muestra evidencia que los servidores judiciales
han optado por herramientas generales de fácil acceso
y no por soluciones especializadas para el ámbito jurídico
o adaptadas al contexto colombiano,
como ya se está describiendo aquí ya un poco más amplio.
Entonces, ¿qué se hizo en ese momento?
Examinar por qué se utilizaban estas herramientas.
Y pues realmente es claro que se hacían
por las necesidades reales del trabajo judicial cotidiano,
por una consulta de información jurídica
que fue apareciendo con un uso más frecuente.
En un número de 475 menciones, lo mismo que se hacía mención
para resumir y simplificar textos.
Es como el primer motivo que hace que se acuda
a esta inteligencia artificial.
También se encontraron 433 menciones y una consulta de información general
con 428 menciones.
De otro lado, 327 funcionarios
manifestaron que utilizan la inteligencia artificial
ya para corrección y edición de textos y 292 ya para la generación
y organización de ideas.
¿Qué nos demuestran estos datos?
Que la inteligencia está siendo empleada
como una herramienta de apoyo intelectual
para buscar información, para procesar textos,
para mejorar la calidad de la escritura.
Y para realmente tareas que liberen el tiempo cognitivo
que pueda destinarse en la deliberación
del análisis jurídico propiamente dicho.
Cuando se hizo la pregunta de si los funcionarios consideraban
necesario adoptar lineamientos sobre el uso y aprovechamiento
de la inteligencia, 2.890 participantes,
es decir, el 91.69%,
respondieron afirmativamente.
Sólo el 7.65% estimó que no era necesario.
Esta es una cifra, como pueden evidenciar,
extraordinaria en un contexto de una política pública.
Y pues es claro que es necesaria una orientación institucional clara
sobre cómo utilizar estas herramientas
de una manera responsable y compatible
con la función jurisdiccional.
Frente a esto, hay una respuesta institucional.
De una parte, la Corte Constitucional,
como se había hecho mención por la señora Presidente,
ya se ha pronunciado sobre estos temas,
en especial el año pasado,
en una tutela que tuvo ocasión de revisar,
y allí se.
A manera de resumen, ¿qué sucedió en este caso?
Era una violación de unos derechos fundamentales
de un menor de edad que se estaba solicitando unos copagos
y en primera instancia se accedió a las pretensiones,
en segunda instancia el juez,
pues al revisar el fallo y para confirmarlo,
hizo uso de la inteligencia artificial y allí ¿qué hizo?
Y en la provincia claramente dijo que iba a ser uso
de la inteligencia artificial del chat GPT 3.5
y formuló unas preguntas.
Una de ellas era, ¿las acciones de tutela
en estos casos se deben conceder?
En el caso que les acabo de resumir.
Otra pregunta,
obviamente la respuesta del aplicativo
de la inteligencia artificial la transcribió.
En donde dice que sí.
También preguntó que si en estos casos la cuota moderadora
es una barrera de acceso a la Servicia de Salud.
La respuesta de la Inteligencia Artificial
le dijo que sí y otras razones le explicó.
Y la última pregunta
dice la jurisprudencia de la Corte Constitucional
ha tomado decisiones favorables en casos similares.
Entonces la respuesta era que sí.
En esa oportunidad la Corte consideró necesario revisar este caso.
¿Por qué?
Porque era.
Importante ante esta situación examinar la posible vulneración
del derecho fundamental al debido proceso,
porque al hacer uso de esta inteligencia artificial,
¿por qué razón?
¿Por qué puede haber una violación del debido proceso?
Porque quien debe administrar justicia es el juez.
Es la autoridad competente.
Entonces, había que entrar a enfrentar
si la autoridad competente de esta inteligencia artificial
está sustituyendo a esa autoridad competente.
La valoración probatoria,
porque es la inteligencia la que está valorando
y la que está definiendo.
Entonces, al hacer esos análisis, pues en este caso concreto,
concluyó que no, porque pues de todas maneras
el funcionario había dicho que la estaba usando
como herramienta.
Hizo esa salvedad, que él había tomado su decisión.
Sin embargo, pues ante esta situación,
pues en esta oportunidad la Corte expidió una orden ya relacionada,
dirigida al Consejo Superior de la Judicatura
para que entrara a estudiar y diera una respuesta institucional
sobre el uso y el manejo responsable y ético de estos programas.
Entonces fue así como.
El acuerdo PCSJA24-12-243, ante esa evidencia empírica
y en un proceso de construcción participativa
también al que hice mención, incluyó unas mesas de trabajo
con especialistas, con servidores judiciales,
con las universidades, con la industria tecnológica,
y el 16 de diciembre adoptó este acuerdo.
Aquí se realizó, además contó con el respaldo
de una alianza formalizada con la UNESCO y con los mandatos
de la sentencia 323 del 2024 a la que hice referencia.
Entonces se estructuró un marco regulatorio
con unos principios fundamentales y frente a esta transformación
se está refiriendo a tres aspectos.
El diagnóstico.
Vienen entonces cinco principios claves que son la primacía
de los derechos fundamentales.
Este principio se establece que el desarrollo o adopción
de los sistemas de la inteligencia artificial
en la rama judicial deben garantizar el respeto,
la protección y la promoción de los derechos fundamentales.
Ninguna consideración de eficiencia tecnológica
puede subordinar la protección de estos derechos
y la dignidad humana que permanece como valor supremo inalterable.
También la no sustitución de la racionalidad humana.
Aquí reside el corazón del modelo colombiano.
Los sistemas de la inteligencia artificial pueden asistir,
pero jamás suplantar las actividades de motivación
de las providencias y decisiones, valoración de los hechos,
análisis de las pruebas, aplicación normativa,
interpretación o toma de decisión.
La responsabilidad judicial es intransferible.
Toda decisión o actuación judicial
en la que se haya hecho uso de la inteligencia artificial
debe atribuirse exclusivamente al funcionario judicial.
El otro principio, el de la transparencia
y explicabilidad.
En la transparencia,
pues los funcionarios deben hacer uso explícito,
de manera clara y precisa,
el alcance, la ubicación de las actuaciones,
las decisiones de los resultados obtenidos por la utilización
de las herramientas de la inteligencia artificial,
de manera que se permita a las partes procesales
y a la ciudadanía que tenga pleno conocimiento
y posibilidad efectiva de contradicción.
También el otro principio, la seguridad y protección
de los datos.
La rama judicial puede aplicar estándares específicos
para asegurar la integridad, confidencialidad y disponibilidad
de la información
gestionada a través de la inteligencia artificial,
cumpliendo obligaciones legales y directrices institucionales
sobre la protección de datos personales y reserva judicial,
campo en el que ustedes ya nos llevan bastante tiempo.
Camino adelantado y del cual pues obviamente es importante
este diálogo para servirnos de esas experiencias.
Para hacer operativos estos principios
también se desarrolló una taxonomía detallada de usos
permitidos organizados en tres categorías que son progresivas,
de complejidad y riesgo, cada una con una salvaguarda proporcional.
La primera categoría.
Abarca los usos de bajo riesgo en gestión administrativa,
o sea, para algo como ya se había mencionado,
redacción asistida de textos administrativos,
organización de agenda, programación de actividades,
asistencia de diseño y presentaciones como la que tenemos por acá,
la comparación de datos entre textos,
traducción de información y documentos,
reorganización de citas y referencias y clasificación de necesidades
de activos y recursos.
La segunda categoría ya incluye un riesgo medio
que requiere ya una revisión detallada,
pues aquí estamos en la búsqueda y síntesis de información jurídica,
de clasificación y referenciación jurisprudencial,
transcripción de audiencias, extracción y clasificación
de información de expedientes, asistencia en elaboración de autos
de trámite, que ya vienen siendo los que son repetitivos,
apoyo en la estructuración de argumentos,
corrección y síntesis de textos de providencias,
anonimización de datos personales.
En la tercera categoría,
que como podemos ver ya es de alto riesgo,
Comprende estos usos de alto riesgo
que requieren de una observancia especial, de transparencia,
de responsabilidad y de privacidad.
La simulación de escenarios de decisión,
asistencia en operaciones matemáticas,
apoyo limitado en motivación de decisiones
y análisis de procesos con problemas ya jurídicos estandarizados.
Complementariamente, se establecieron unas prohibiciones categóricas
que reflejan tanto la experiencia internacional
como las nuestras propias y las lecciones aprendidas.
En este acuerdo se está prohibiendo el uso
de chatbots generales gratuitos para los funcionarios judiciales.
Recordemos, este juez utilizó el chat
GPT 3.5, que es el gratis, que es el que está para todos.
Entonces, aquí se está haciendo esa prohibición.
La valoración de medios probatorios mediante,
no es posible valorar medios probatorios
mediante la inteligencia artificial, la aplicación directa de normas
basada exclusivamente en respuestas de la inteligencia artificial,
la introducción de datos confidenciales en herramientas
que se apropien de la información y la adopción de decisiones
basadas exclusivamente en outputs de inteligencia artificial.
En cuanto a la implementación, práctica, implementación
y pues lecciones aprendidas,
Actualmente se está implementando de manera institucional
y centrada en el Microsoft Copilot 365, que está integrado
con el ecosistema propio de Office.
Ustedes ya tienen uno propio,
nosotros estamos por ahora trabajando con este, integrado con el ecosistema
Office 365 en nuestros despachos que ya se están utilizando.
¿Esto para qué nos sirve?
Esto nos responde a una necesidad de proporcionar
alternativas institucionales que sean seguras, auditadas,
a los que nuestros funcionarios ya empleaban individualmente.
Actualmente hay un plan piloto que se está desarrollando
con esta herramienta copilot pro que se ha enfocado
en una transcripción por ahora estamos en inicios previos
estamos en transcripción de audiencias elaboración
de actas con resultados que por ahora son adelantadoras
que nos están demostrando en este plan piloto
que se está reduciendo en un 40% el trabajo y hay unas mejoras
significativas en precisión y satisfacción de los usuarios.
Con este enfoque nos permite probar,
evaluar, ajustar, escalar de manera controlada,
manteniendo siempre la posibilidad de revertir
o de modificar las decisiones basándonos ya en resultados reales.
De manera paralela, se está desarrollando un ecosistema
integral de apoyo que incluye programas modulares de capacitación
a través de la Escuela Judicial del Rodrigo Lara Bonilla.
Hay unas guías específicas de anonimización, de protocolos,
de verificación de procedimientos para declaración del uso
de la inteligencia artificial en las providencias.
Hay un sistema de encuestas y métricas anuales
que están siendo supervisadas por un comité
de inteligencia artificial y de ética.
La unidad.
La unidad de transformación digital
e informática del Consejo Superior de la Judicatura,
que viene siendo el CENOC,
lidera un acompañamiento y seguimiento
realizando actividades de recolección y análisis de información periódica,
análisis de tendencias tecnológicas,
preparación de reportes sobre el estado de la apropiación
de la inteligencia artificial en la rama judicial,
muy similar a lo que se está realizando acá presente.
Naturalmente,
pues esta implementación debe ser controlada,
debe ser responsable, puede ser un poco lenta,
pero frente a esta realidad tecnológica que evoluciona
con velocidades exponenciales.
Sin embargo,
pues consideramos que la prudencia institucional no es una limitación,
sino que por el contrario se constituye una fortaleza.
Los sistemas judiciales, pues no podemos permitirnos el lujo
de estar ensayando con ensayo o error,
porque como se caracteriza en otros sectores de innovación tecnológica,
no podemos permitirnos estos errores.
Porque cada decisión que se adopta, pues tiene
unas consecuencias directas sobre unos derechos fundamentales
y sobre una confianza en la ciudadanía,
en la administración de justicia.
Entonces, tenemos una tensión.
Entre la velocidad del cambio tecnológico
y la necesidad de implementación reflexiva que nos plantea
unos desafíos complejos.
Desafíos que consisten en cómo mantenernos en el ritmo
de innovación sin comprometer la seguridad jurídica,
cómo aprovechamos las oportunidades emergentes
mientras preservamos las garantías profesionales, cómo equilibramos
la eficiencia operativa con la deliberación cuidadosa
que exige la función judicial,
Estas preguntas no tienen una respuesta sencilla,
pero su formulación es importante porque nos permitirá traslladar
en esta transformación de manera que la tecnología nos sirva realmente
a la justicia y no al contrario.
¿Qué desafíos se nos presentan a nosotros para el futuro?
Ante estos interrogantes
bastante complejos que no admiten una solución ya inmediata,
es necesario identificar con claridad estos desafíos que surgen
de una tensión entre una innovación y una prudencia judicial.
Solo mediante el reconocimiento de las dificultades que enfrentemos
es que podemos desarrollar las estrategias institucionales
que nos permitan abordarlas de una manera sistemática
y reflexiva.
Si ya miramos hacia el futuro,
podemos identificar seis dimensiones críticas que marcarán nuestra agenda
a mediano plazo y por ahora considero que son relevantes
para cualquier sistema judicial contemporáneo.
El primer desafío es.
Enradica en las brechas de la estructura que caracterizan
los países como Colombia.
Debemos cerrar brechas de conectividad
y capacidad tecnológica.
En nuestros países hay lugares muy lejanos en donde el Internet
ni siquiera llega.
En donde a veces no hay ni siquiera luz,
los jueces trabajan con plantas eléctricas
que tienen una duración, son diferentes dificultades
y esta es una brecha bastante fuerte que debemos superar
y cerrar esas diferencias de conectividad,
por lo menos en el país,
y que tienen que ver con la capacidad tecnológica
entre las sedes judiciales que no están en igualdad de condiciones,
básicamente entre lo que es la ruralidad y los centros urbanos.
También nos enfrentamos a otras complejidades
en materia de interoperabilidad.
Tenemos que integrar estas herramientas
con nuestros sistemas procesales existentes,
manteniendo la seguridad de los expedientes,
la cadena de custodia documental, sin generar disrupciones
que comprometan la operación judicial cotidiana.
Esta es una integración que requiere
no solo competencias técnicas avanzadas,
sino también una comprensión profunda de todos los flujos procesales
que caracterizan nuestro trabajo.
Por otro lado, ya reiteradamente de lo que se ha venido mencionando
de la velocidad del cambio tecnológico,
pues esto nos plantea un desafío regulatorio permanente.
El marco normativo debe evolucionar al ritmo del desarrollo,
manteniendo un equilibrio entre la innovación responsable
y la protección de los derechos.
Es decir, pues se deben desarrollar mecanismos institucionales
que sean ágiles para la revisión y actualización normativa,
sin sacrificar la reflexión cuidadosa que debe caracterizar
cualquier modificación de nuestros marcos regulatorios.
Bien.
La legitimidad social
de la función judicial no descansa en nuestra capacidad
de procesar información más rápido que el algoritmo,
sino en la de ejercer una comprudencia en casos complejos,
contextualizar las decisiones dentro de un tejido social específico
y que interpretar la justicia en situaciones singulares
que se escapan a la estandarización.
Estábamos hablando de casos estándares,
pero esto no necesariamente siempre es así.
Entonces, debemos mantener la sensibilidad humana
hacia las consecuencias reales de nuestras decisiones
y sobre las vidas concretas de las personas que acuden a nosotros
en búsqueda de la justicia.
Debemos pues identificar las fortalezas que justifican
la permanencia de la función judicial,
no vamos a desaparecer los jueces,
como una actividad esencialmente humana
y debemos desarrollar métodos para fortalecerlas asegurando
que la adopción de la inteligencia artificial
no atrofia el desuso,
sino que porque nos vamos acostumbrando y entonces ya
vamos dejando de estar pensando y razonando, Entonces,
sino que nos ayude o nos acompañe en la liberación de tareas rutinarias
que potencie pues ya nuestra liberación judicial.
Como conclusiones, pues.
La primera lección que tenemos es la de establecer
una gobernanza proactiva basada en la evidencia.
Las políticas efectivas en materia de inteligencia artificial
no pueden construirse sobre especulaciones tecnológicas
o temores abstractos.
Se requiere de una medición rigurosa de realidades operativas concretas.
Nosotros regulamos sobre hechos documentados,
no sobre escenarios hipotéticos.
La experiencia colombiana sugiere que es posible
y es necesario construir marcos regulatorios sólidos sin esperar
a que la tecnología se estabilice completamente,
porque nunca va a ser,
pero siempre partiendo del conocimiento preciso
de lo que está realmente ocurriendo en nuestros despachos.
La segunda lección.
Se centra en un propósito de transformación.
La inteligencia artificial libera tiempo operativo,
pero esa liberación permanece siempre en la esfera humana.
No es una instrucción meramente técnica,
sino que constituye el fundamento de la legitimidad democrática
del poder judicial.
Inteligencia artificial debe aumentar nuestras capacidades
para servir mejor a los ciudadanos,
facilitando el acceso a la información,
agilización de procesos administrativos
y librando tiempo cognitivo para la reflexión jurídica,
como tantas veces lo he referido.
Nunca, eso se debe reiterar y siempre se seguirá reiterando,
no se puede sustituir el juicio humano.
Esto es una esencia irreductible de la función jurisdiccional.
Cuando permitimos que las máquinas
tomen decisiones que corresponden al criterio judicial,
no solamente estamos violando principios constitucionales
fundamentales, sino que reazonamos la confianza
de la ciudadanía en la administración de justicia.
Una tercera lección articula nuestra meta institucional,
una justicia aumentada, no automatizada,
buscamos construir una jurisdicción adaptada a los tiempos actuales,
con el aprovechamiento de estas herramientas tecnológicas
y que permanezca inquebrantablemente gobernada por la prudencia
y la responsabilidad.
Esto es muy reiterativo, pero es del caso hacerlo.
La tecnología debe estar siempre en medio
para un mejor cumplimiento de la función jurisdiccional
y no es un fin en sí mismo.
La cuarta lección tiene que ver con la necesidad
de una transformación responsable, transparente y efectiva.
El cambio tecnológico existente en el ámbito judicial
no puede medirse únicamente por indicadores de eficiencia operativa.
Se requiere una transparencia absoluta con la ciudadanía,
responsabilidad institucional en la implementación
y efectividad real de estos mecanismos
y mejoramiento del servicio de justicia.
Tenemos entonces los jueces de una especial responsabilidad
para liderar con ejemplo en la adopción responsable
de estas nuevas tecnologías,
porque precisamente son nuestras decisiones
las que afectan directamente los derechos de las personas
y la confianza en la ciudadanía.
Tenemos la responsabilidad de asegurar
que estas herramientas tecnológicas sirvan para fortalecer,
no para debilitar los valores fundamentales de la justicia,
la equidad y el respeto por los derechos humanos
que sustentan la legitimidad de nuestras instituciones democráticas.
Gracias por la atención.
Finalmente, pues quiero mencionar
que recientemente, el pasado 20 de mayo de este año,
se radicó en el Congreso un proyecto de ley,
el número 442-2025 del Senado, por medio del cual se regula
la inteligencia artificial en Colombia
para garantizar su desarrollo ético y responsable
y se editan otras posiciones.
Ese es el estado actual legislativo.
Muchas gracias.
Muchas gracias, Patricia,
porque la exposición ha sido muy clara,
muy realista de lo que hay.
Además, he sido ascendiendo desde la consulta a los jueces
de cómo se está usando,
porque no se puede obviar que están ahí
y también ha habido jueces que por su cuenta intentan utilizarlo
y ponen en contraste lo que debe ser,
lo que no, los riesgos.
Y, de alguna manera, ese proyecto que estáis desarrollando,
que es muy interesante,
de cómo abordarlo tanto en su gobernanza
como en su regulación, muy realista,
porque yo creo que es bastante realista.
Y, además, me ha parecido muy interesante
porque es un poco ver, aquí no hablaría del contraste,
sino ver cómo se van complementando cosas.
Y cómo se van bajo las mismas perspectivas,
las mismas ideas,
y en lo esencial, en su vida hace la misma idea.
O sea, no se puede sustituir al juez.
Hay que ver qué partido le sacamos a estos medios.
Muchas gracias.
Y además, la última mención que tienes.
Da pie a que le demos la palabra a Juan Martínez Moya,
porque él va a hablar de una cuestión muy interesante,
porque plantea muchos retos también desde el punto de vista de la ética,
el uso de la inteligencia artificial
y es muy importante que seamos conscientes de ello.
Juan, sin más preámbulos y agradeciéndote
tu participación también, te doy la palabra.
Muchísimas gracias, querido Ignacio, querido presidente.
Lo primero que yo sí que quiero expresar es el agradecimiento,
por supuesto, a quienes han tenido, no sé si la osadía
o la responsabilidad o la culpa ineligente
de que yo esté aquí hoy aquí.
Hoy aquí, y desde luego que personifico en Ignacio Sánchez,
presidente de la Sala Primera,
por supuesto en la presidenta de la Sala Civil,
y en Fernando también, el magistrado,
que nos conocemos de hace ya unos cuantos meses,
por no decir ya años,
con ocasión de mi trabajo en la Cumbre Judicial Iberoamericana.
Y desde luego hacerlo en esta mesa.
Tanto con la magistrada
como con nuestro director del FENDOC,
con quien tanto he compartido.
Pues vamos a ver, la ventaja,
aunque es un tópico, la ventaja de hablar el último es que,
la verdad, no sé si uno se siente ya absolutamente liberado,
porque se han dicho ya prácticamente casi todas las cosas,
por no decir casi todo o todo, En segundo lugar,
porque además quienes me han precedido
han entrado primero por el terreno concreto,
por el terreno práctico, por lo tangible.
Luego, en segundo lugar,
la experiencia que aquí se ha puesto de manifiesto también
en el Poder Judicial, en la Corte en Colombia,
donde ya he entrado en conceptos que quizás
van a ser objeto de mi exposición.
Y, desde luego, lo que sí que quiero poner de manifiesto es que
un encuentro de este nivel implica diálogo, implica, desde luego,
yo creo que, afortunadamente, complicidad institucional
y, por supuesto, una unidad en la diversidad,
porque.
Lo decía muy bien el presidente
de la sala primera, Ignacio,
cuando nuestros ordenamientos pueden ser distintos,
la norma, la letra pequeña puede ser diferente,
pero en definitiva nuestro esquema mental, nuestra forma de razonar,
pues es lo que prevalece.
¿Y yo de qué voy a hablar aquí?
Bueno, pues yo voy a hablar desde mi perspectiva como juez social,
desde mi perspectiva como ciudadano, Pero también luego me pegaré el salto
o daré el salto al final,
con el tiempo que llevo el cronómetro,
pues para hacer esas reflexiones desde el plano ético,
donde recientemente, en este mismo mes de mayo,
en República Dominicana, con ocasión de la asamblea plenaria
de la decimosegunda cumbre judicial iberoamericana,
se tomó conocimiento, no se aprobó,
pero se tomó conocimiento de un documento muy importante,
que es un código ético para el uso de inteligencia artificial
en el ámbito judicial.
Elaborado fundamentalmente, todo se ha dicho,
fundamentalmente o promovido por el Tribunal Supremo portugués.
Y claro, yo me remito, hace exactamente mayo de 2023,
estaba.
Y lo sabe bien el director del CENDOC, estaba yo en Lisboa,
en un coloquio, en un simposio,
era un congreso internacional sobre inteligencia artificial
en el Tribunal Supremo.
Y ahora casi uno tiene que ser esclavo de sus palabras.
Tuve el atrevimiento de hablar sobre inteligencia artificial
y de escribirlo en un artículo en la revista del Tribunal Supremo,
Y yo me lo he traído.
Digo, ¿qué dije yo hace dos años una persona o un operador jurídico
que el conocimiento de inteligencia artificial
podía tener ciertos rudimentos o conocimientos,
pero qué dije yo en el año 2023 anteriormente?
Exactamente hace dos años, y llegué a escribirlo.
Y me voy al astra y voy a leer las cuatro primeras líneas.
El impacto de la inteligencia artificial en el sistema de justicia
ni debe sobreestimarse ni tampoco subestimarse.
No sé si era como un titular,
porque yo procuraba que fuera un titular,
pero digo, por ahí no voy.
Quizás a lo mejor probablemente va,
yo creo que va a una estimación absoluta,
o sea, va caminando por una estimación.
Y decía, plantea varios problemas y los concretaba en tres.
Está escrito el texto.
Desde la necesidad de plantearse su codificación normativa,
no teníamos todavía en España,
vamos, en el ámbito de la Unión Europea,
o como aquí se ha dicho en Colombia, en España o en la Unión Europea,
no teníamos el reglamento de inteligencia artificial,
que en realidad para nosotros es una ley europea,
aunque se llame reglamento, es una ley.
Pero ya hablaba yo de la codificación normativa,
no digo que fuera un visionario, sino que era necesario decir,
necesitamos códigos, porque esto.
Nos atacan por todos los lados.
Y, en segundo lugar, decía, pasando por la influencia
en la modernización de los sistemas judiciales,
qué impacto va a tener.
Yo creo que ya nos ha iluminado quienes me han precedido.
Y luego dejaba claro
-el trabajo lo desarrollaba en el artículo
-la necesidad de preservar el factor humano
como última ratio.
Evidentemente, eran los lugares comunes,
pero fui muy moderado en esas tres conclusiones.
Evidentemente hablaba de otra cosa importante
y lo desarrollaba, que era la inteligencia artificial
está llamada a crear un nuevo paradigma
en la vertebración técnica del derecho.
Y ahí ya.
Lo desglosaba en varios aspectos, sobre todo en un tema clave,
como es la valoración probatoria,
en la necesidad de cómo iba a afectar a los principios de los procesos,
el principio de inmediación, la oralidad,
la aportación de la prueba, en la técnica legislativa
de cómo se va a emplear la inteligencia artificial.
Y luego, por lo que luego diré en ese código,
si los jueces debemos.
Debemos en un momento determinado descubrirnos
y expresar nuestro andamiaje, si hemos utilizado
o no la inteligencia artificial para nuestra toma de decisión.
Nosotros no decimos que hemos consultado X libros
o que hemos consultado la base de datos, las exponemos ahí,
pero hasta qué punto en determinado momento debemos
o estamos obligados a hacerlo.
Y, por supuesto, explicaba, y por eso Joaquín Silviero lo sabe,
la última parte del trabajo no era nada original mía,
sino yo exponía en el año 2023 lo que había hecho el CENDOC,
a través del Consejo General del Poder Judicial,
con el sistema CENDOC.
Y entonces ven ahí, en la diapositiva.
Voy a una idea de principio.
Un libro que a mí siempre me llegó a mis manos,
también en el año 2023, por eso para mí fue un año,
no voy a decir, del antes y el después,
de Mark Zuckerberg,
que yo tuve la oportunidad de conocerlo en Bruselas,
en unas reuniones de estas internacionales,
donde es un librito muy pequeño sobre la filosofía política
de la inteligencia artificial.
Y comienza hablando algo sobre la lectura que se debe dar también
en los sistemas de justicia.
Y empieza ese libro hablando sobre el sospecho
que el ordenador se equivocó
y es una relectura del proceso de Joseph Kapp,
donde bien saben que comienza la novela hablando de posiblemente
algún desconocido había calumniado a Joseph Kapp,
pues sin que esto hubiese hecho nada punible fue
detenido una mañana.
Y lo anuda a un supuesto en el que, bueno, pues un caso
ocurrido en Estados Unidos donde un.
Sistema de reconocimiento facial
que identificó una persona que estaba equivocada
y dio lugar a un proceso largo y a una serie de responsabilidades
y hasta qué punto la inteligencia artificial
no tiene desafíos o riesgos.
Y efectivamente decía algo importantísimo.
De la inteligencia artificial se habla
desde el punto de vista tecnológico, lo estamos viendo,
pero es que lo estamos viendo.
Todos los días.
Es que ya hasta en el WhatsApp
se nos ha metido la inteligencia artificial
y le podemos preguntar a WhatsApp.
Pero es que no sé si es verdad y si es así.
No quiero hablar de.
Pero hasta el Consejo General del Poder Judicial
nos ha dicho que el sistema Copilat se puede emplear
o puede haber un uso para cuestiones internas,
no jurisdiccionales.
Bien, pero ahí está.
Con lo cual es reconocer una realidad.
Y claro, se habla mucho de tecnología,
se habla también mucho de ética,
que sí que los primeros que salían fueron
todos los códigos éticos de todo, de todos los organismos,
pero quizás a lo mejor se habla poco de poder.
Es decir, ¿qué significado tiene?
Y ahí está lo que aquí se va a hablar,
el sesgo, la discriminación.
Y en este libro hablaba de cosas importantes,
como que desde la filosofía de la tecnología
no son moral ni políticamente neutrales y que los algoritmos
de la inteligencia nunca han sido neutrales.
¿Por qué?
Porque desde el momento en que hay una intervención humana.
Y expresaba algo que era enormemente interesante.
Yo lo entrecomillo.
Se ha dicho que compañías como Silicon Valley,
como Google,
son políticamente izquierdas o libertarias de izquierda
y esperan lo mismo de sus empleados.
Y las compañías tecnológicas
como Amazon o Uber también monitorizan el desempeño
de sus empleados mediante inteligencia artificial
y algoritmos.
Año 2017, 2018, 2019.
Estos son estudios socioeconómicos.
Y Amazon usa inteligencia artificial para despedir
automáticamente a trabajadores con baja productividad.
Uber hace ranking con sus conductores que dicta cuánto ganarán,
incluso si son o no despedidos,
y sin perjuicio de que esta práctica pueda ser más o menos censurable.
Y luego, pues en el mundo laboral,
por eso digo que mi acercamiento siempre ha sido desde el plano
laboral.
Retos, incertidumbres, qué pasa aquí,
y luego vemos que hay ámbitos de poder.
Donde Europa se mueve,
pero es que también, evidentemente, el ser dicta un reglamento,
empiezan a dictarse ya normativas de desarrollo
sobre definiciones de sistemas de inteligencia artificial,
directrices el desarrollo sobre prácticas de inteligencia
prohibidas, etcétera.
Incluso, pues recientemente, en febrero,
la Comisión publica las directrices sobre prácticas prohibidas,
una vez que ya había publicado su reglamento.
Pero aquí hay una foto que a mí me parece que es,
que para mí es la foto del siglo, o al menos del siglo XX,
al menos de 2025.
Y es la toma de posesión de Donald Trump,
donde esa foto están quienes están allí, es decir,
el uso de la inteligencia en el tema.
Pero es que Europa también reacciona en la cumbre,
en el summit, por la acción de la inteligencia artificial,
donde ya queremos todos capitalizar porque aquí hay algo que vamos
a la frase, a lo claro de decir, bueno, pero algo se está moviendo.
Y es por eso yo creo que es un momento clave esencial.
Y yo, para que hagan un ejemplo,
en el mundo de las relaciones laborales,
se ha estudiado mucho el tema de la inteligencia artificial
y se ha incluso sistematizado, se ha utilizado una metodología.
Primero, ya con relaciones laborales
y se ha contextualizado y conceptualizado,
pero es que luego se ha explicado cuáles han sido sus niveles
de implicación jurídica.
Y, bueno, pues, el catedrático Salvador del Rey Guantez
habla del salto técnico organizacional
y habla de la implicación jurídica casi como el sistema.
Es decir, hay un marco regulatorio.
En el impacto del derecho del trabajo,
impacta en el contrato individual, en derechos individuales,
pero impacta en el derecho colectivo
y, sobre todo, impacta como contrato que es dinámico,
de tracto sucesivo, impacta en el antes,
en la contratación, los sistemas de selección de personal.
Y eso, año 2016-2017,
hay sentencias ya del Tribunal Supremo, de la Sala Cuarta,
en materia de selección,
si se utilizan sistemas de inteligencia o no.
Durante la relación laboral, sistemas de monitoreo,
de productividad, etcétera.
Es decir, la inteligencia artificial está en las empresas,
con lo cual se nos anticipa a lo que.
Por eso esos paradigmas,
trasladarlos luego a la decisión judicial,
a nuestras formas de trabajo y, desde luego, no digamos ya
en los sistemas de extinción, en las formas de extinción
que se puedan utilizar.
Y, por supuesto, la inteligencia artificial
ha generado o ha sido impulsora de nuevas patologías,
patologías como nuevas figuras de prestación de servicio,
de laboralización y, sobre todo,
toda la normativa sobre plataformas digitales.
Evidentemente, aquí no es cuestión
de entrar en el reglamento de inteligencia artificial,
pero sí que definelo que es la inteligencia artificial
en concepto muy concreto, muy específico.
Y ya en esto no voy a entrar, pero sí decirle
que cuando hablamos de normativa.
En el ámbito,
en los contextos laborales nos vamos a encontrar una preocupación,
por eso siempre están en la primera línea, en vanguardia,
cuando nos encontramos en los marcos regulatorios,
aparte de ese reglamento tan importante de la Unión Europea,
que son, si no me equivoco, pongo 144 páginas,
un reglamento enormemente técnico,
un reglamento que necesita mucho desarrollo,
que tiene sus niveles de prohibición, de sus niveles.
Desde alto riesgo, de medio riesgo
y bajo riesgo, justicia está en el alto riesgo.
No es que no se pueda utilizar, pero está ahí.
Pero, claro, en nuestra normativa nacional
decirles que la inteligencia artificial,
claro que está presente en muchas normas.
Está presente, desde luego, en el plano constitucional,
está en juego en los derechos constitucionales,
está en juego la protección de datos personales
y garantía de derechos digitales.
Está, por ejemplo, en reformas que se presentaron con ocasión de la ley
Raiders, vamos, de plataformas.
Para garantizar los derechos laborales de las personas
dedicadas al reparto.
Es una ley que fue muy pionera en España en el año 21,
donde hay implicaciones en la toma de decisión
y sí que hay alusión al derecho de la información del reparto.
Los sindicatos en orden así se utilizan los sistemas
de inteligencia artificial y ahí entra en juego,
pues aquí hay expertos sobre los secretos industriales,
cómo se puede compatibilizar unos derechos frente a otros
y, por supuesto, nos vamos a encontrar en normativa nacional.
Lo digo puntualmente.
Por ejemplo, en la Ley de Empleo Española
del año 23, en la toma de decisiones
donde específicamente habla de inteligencia artificial
y, por supuesto, en la formación profesional en la Ley
de 322 sobre el reconocimiento de la competencia digital docente.
No digamos ya.
Otras donde hay hasta incluso la ley 1522,
integral, que es una ley de igualdad de trato y no discriminación,
que habla en un artículo específico de inteligencia artificial
y mecanismos de toma de decisión automatizado.
Luego hay muchas cartas de derechos digitales.
Yo de aquí voy a saltarme muchas cosas,
porque está el reglamento de inteligencia artificial
y, desde luego, irme.
Por ejemplo, si se usa o no inteligencia artificial,
la expresión inteligencia artificial,
en qué jurisdicción más,
en qué jurisdicción menos,
pues va ganando la social y la contenciosa,
la social también.
Y lo pongo también en el resumen,
ya no tanto, ya ahí que sea un tema específico,
pero sí en la valoración judicial.
Ahora, me voy directamente a las experiencias concretas
en justicia y en propuestas, por ejemplo,
del Código Ético Iberoamericano.
Con esto me quiero parangonar con que esa propuesta, insisto,
de código ético iberoamericano en materia de inteligencia artificial
es casi mutati mutandilo que fue el código modelo de ética judicial
en general, en la función jurisdiccional,
pues en este caso para el uso de la inteligencia artificial.
¿Y qué se hace aquí?
Bueno, pues en este código
-y ya emprendo la recta final
-.
Se deja muy claro
-es un código articulado, tiene hasta diecinueve artículos
-que el uso de la inteligencia artificial
en el ámbito del Poder Judicial es una transformación significativa.
Desde luego, estos son lugares comunes,
que ofrece oportunidades, que plantea desafíos éticos y jurídicos
y, en más, alude a la paradoja de Moravec,
que saben que era ese físico-matemático norteamericano
que habla de la inteligencia artificial y en la robótica,
donde las tareas más simples para los seres humanos,
como el reconocimiento de emociones, la comprensión de contextos sociales
o incluso atarse un zapato, la cordonera de un zapato,
pues eso es muy complicado para un robot.
En cambio, para para un humano no, en cambio los procesos
más difíciles, procesar volúmenes de datos,
es factible en la inteligencia artificial.
Es una toma de posición que incluso se alude en el preámbulo del texto.
Y desde luego hay una idea fundamental y esencial,
y es que en este código se distinguen dos grandes escenarios,
entre sistemas de decisión y sistemas de apoyo a la decisión.
Desde luego,
La inteligencia artificial en el ámbito de la toma de decisiones
está inscrita en el campo del sistema de apoyo a la decisión.
Es decir, en ese aspecto,
por eso lo pongo ahí en rojo, la intervención humana
debe preservarse siempre en el proceso de decisión judicial.
Se alude, y es importante en ese código,
afortunadamente, al acervo existente
tanto, por ejemplo, en los casos de España y Portugal,
del reglamento de inteligencia artificial.
Y luego, desde luego, la absoluta intangibilidad
del poder judicial y la necesidad
de que se adopte un enfoque centrado en la persona humana
y, desde luego, con un objetivo de promover la confianza pública
en el sistema judicial.
Está claro que debe garantizar que sean agentes informados
y que controlen sus propias decisiones,
y el código tiene, al menos en su planteamiento
-otra cosa es que se apruebe o no en ese sentido
-, es aplicable a todos los profesionales del espacio
del Poder Judicial, incluidos jueces,
técnicos, administrativos, demás agentes, etcétera.
Aquí ya, entrando ya en el meollo, es decir,
en el propio artículo, es interesante porque se definen los objetivos,
los principios generales.
Hay una alusión muy clara al concepto de independencia judicial,
yo creo que es clave, porque el uso de la inteligencia artificial
no debe comprometer la independencia,
garantizando siempre el control final de cualquier decisión.
Y los sistemas de inteligencia deben utilizarse solo como, insiste,
herramientas auxiliares en el procedimiento decisorio.
Luego hay un artículo, hoy salpicando,
el artículo 8, que es muy interesante,
que va muy en la línea también de tendencia del lenguaje claro,
que también está hoy día, bueno, pues es clave
y además va muy en la línea.
Que yo creo que en el sistema de inteligencia artificial
una de las cuestiones clave es cómo tenemos que redactar
nuestras sentencias para que luego.
Sirva para entrenar también
y que la lectura se haga de una manera mucho más, por parte,
digo, de la máquina, porque se define así como una máquina
el sistema de inteligencia artificial.
Y ahí habla de claridad.
Las decisiones que involucren inteligencia artificial
deben ser explicables de forma clara para todos,
permitiendo que los ciudadanos puedan comprender los fundamentos
de las decisiones, cuestionarlas, recurrirlas cuando sean necesarios.
Hay una playa de derechos de los usuarios,
hay directrices relativas a la evaluación de riesgos,
al monitoreo.
Eso sí, hay constante en ese código una idea fundamental,
que está presente en el reglamento
de inteligencia artificial, que es el monitoreo continuo.
Es decir, esto no es un texto que aquí lo lanzo,
esto es una ley que aquí la lanzo.
No, es una ley que necesita motores de readaptación permanente.
Y, desde luego, la formación, como aquí antes se ha hablado.
Y hay unas recomendaciones muy específicas
en el uso de la inteligencia artificial
sobre el proceso de naturaleza penal.
Aquí sí que hay una regla donde se establece
que hay terrenos vedados.
Y, por último, una responsabilidad en la rendición de cuentas.
Pero ya con esto termino.
Hay un artículo en el que sí que me quiero detener,
que lógicamente desaprobarse este texto,
esta es la propuesta definitiva de aprobar,
pues será yo creo que objeto
de específica consideración, que es el uso de la inteligencia artificial
en las decisiones judiciales, que es el catálogo de las siete reglas
que tiene que tener un juez o que debe tener un juez a la hora
de usar la inteligencia artificial.
No es la primera vez que los pongo, una de ellas,
porque es y genera ciertas dudas.
Desde luego, el aseguramiento de que en el uso,
en el proceso de toma de decisiones,
se debe respetar su independencia e imparcialidad.
Bueno, obvio.
No debe sustituir el juicio crítico, la reflexión jurídica
y la decisión humana.
Bien, es un sistema de apoyo a la decisión
sin interferir en la autonomía del juez en la valoración de hechos
o en la aplicación del derecho.
Que los jueces deben recibir formación continua
y adecuada sobre implicaciones éticas, legales y técnicas del uso.
La decisión final debe siempre corresponder al juez,
basada en un análisis crítico, independientemente de la asistencia.
Y aquí viene la regla sexta, que quizás es la más problemática,
y es que el juez debe justificar de manera clara
y accesible su decisión, incluyendo la referencia a elementos
proporcionados por la inteligencia artificial,
en caso de haber sido utilizada.
Claro, esto, cuando se expone, te dicen, bueno, vamos a ver,
y yo cuando utilizo bases de datos,
cuando he consultado X manuales o he consultado una monografía,
en nuestro sistema, al menos en nuestro sistema clásico,
es verdad que depende, no es fuente de derecho a la doctrina,
incluso a veces no digo que esté mal visto,
no mal visto citar autores en una sentencia,
cosa que en otras, bueno, pues se puede citar una.
Opinión autorizada,
quizás, bueno, pues nosotros tenemos ese modelo refractario
de la Edad Media que no gustaba tanta cita
y vamos a un modelo.
Pero ¿es necesario o no es necesario decir que hay un componente ético?
Debe justificar de manera clara y eficiente,
incluyendo la referencia de elementos proporcionados
por la inteligencia artificial.
Ahí es donde vamos a estar en el caballo de batalla.
Y, desde luego, si el sistema de inteligencia artificial
presenta irregularidades,
fallos técnicos o riesgos de la imparcialidad,
el juez debe suspender su uso hasta comprobar su fiabilidad
y conforme a los estándares éticos y legales.
Bueno, pues con esto termina mi exposición.
Muchas gracias.
En el diseño de esta mesa redonda
no ha intervenido la inteligencia artificial.
Pero he de decir que a todo lo pasado veo que era bastante.
Todo tenía mucho sentido.
Ha resultado muy complementaria.
Todas las intervenciones,
y desde luego, yo no sé a todos ustedes,
pero a mí personalmente me ha resultado muy aleccionador.
O sea que iba a decir lo del antes y después era un poco cursi,
pero iba a decir que supone.
Porque antes probablemente sabía poco.
Me ha abierto bastantes interrogantes y bastantes ideas.
Para no ocupar más tiempo del debido y sobre todo por la segunda mesa,
vamos a dar por concluida esta mesa.
Y me parece que en la organización estaba previsto un receso, ¿no?
Un pequeño receso de un cuarto de hora o diez minutos.
Pues hacemos diez minutos y para los que me están oyendo
y que están conectados, en principio,
ahora son las dieciocho y dos.
Con lo cual, si son 10 minutos concretos,
serían las 18 y 12.
Muchas gracias por su atención y hacemos este receso.
Y gracias a los ponentes.