Vamos a buscar también una segunda conexión,
en concreto con María Jesús Ariza con mi hijo.
Ella es profesora,
titular de derecho procesal de la Universidad Autónoma de Madrid,
también para hablarnos de Inteligencia Artificial.
Buenos días.
En primer lugar, quiero expresar mi agradecimiento
a mi llamado para ilustrar un poquito hacer una primera aproximación
de lo que los sistemas de inteligencia artificial
representan, el ámbito del derecho,
y más concretamente en el ámbito de la Administración de Justicia.
Es una realidad de todos conocida, que la inteligencia artificial
no ha venido ya para quedarse con nosotros
y desde luego, pues se trata de un mecanismo de una actividad,
una dimensión tecnológica que tiene muchísimas perspectivas muchísimas
utilidades y por qué no también muchísimos riesgos lógicamente
dependiendo del sector y del ámbito en el que nos movamos,
pues seremos más propensos afectan realidades de Inteligencia,
Artificial y el avance que eso supone.
Si nos movemos en el ámbito de la medicina
desde luego seremos favorables y votaremos por que los riesgos
que se puedan asumir se puedan convencer
y, por lo tanto, el avance en temas médicos bueno,
pues sea posible gracias a estos sistemas de inteligencia artificial,
no encontraremos también otras utilidades más o menos directa
sobre la ciudadanía.
Recientemente veíamos noticias tipo como un equipo de fútbol
puede fichar al acero de esta deficitari, un patio,
algoritmo así y combinaciones de elementos.
Determinados, pues identificaba a dos o tres jugadores como actos idóneos
y, desde luego, los más eficaces para jugar en un equipo.
Si nos vamos a ámbito del derecho,
las cuestiones pueden ser más o menos divertidas por supuesto
y un poquito más delicadas, en el sentido de tener que valorar
cuáles son esos riesgos que existen más de Inteligencia Artificial
representar para la sociedad al conjunto de los ciudadanos
y también para los derechos,
o algunos de los derechos fundamentales de los.
Entre estos riesgos estaban fundamentalmente en el ámbito
de la privacidad de cada uno de ellos.
Cualquier sistema de inteligencia artificial
se está nutriendo de datos,
datos que pueden ser de carácter personal o datos,
que pueden ser no personal, y si lo cierto es que al final hay,
se aglutina un número o un volumen ingente de información,
que es el que permite indagar y generar todos estos algoritmos
con algún beneficio como derecho.
Este es el principal riesgo de afectación
de los derechos fundamentales de los ciudadanos en su vertiente
de la privacidad.
Pero, claro, también hay ventajas.
También hay elementos que pueden considerarse
como beneficiosos dentro del derecho y más concretamente como decía,
dentro del ámbito de la Administración de Justicia.
Aquí lo más llamativo que últimamente se está escuchando
es la posibilidad de que los jueces sean jueces robots
o por lo menos sean los sistemas de inteligencia artificial
los últimos que decidan cuando una persona por ejemplo
el responsable de haber cometido un hecho delictivo
o cuando una persona puede ser un deudor una relación contractual,
hubo obligación,
este sería el extremo máximo más arriesgado,
por supuesto en el que nos podemos encontrar.
Ahora bien, esta es una aspiración quizá de la propia máquina
de Inteligencia, Artificial,
pero frente a esto está toda una serie de un conjunto de derechos
que embalse y sobre todo esos riesgos hay que minimizarlos.
Si preguntáramos a los ciudadanos si queremos que una robo
decida si son los culpables de un hecho delictivo
o si somos responsables o deudores
de una deuda, lógicamente, a día de hoy todo el mundo
diría que no, que preferimos que haya un juez humano
que sea el que tomen una decisión que valore
todos los elementos probatorios y que que en última instancia
aparezca como responsable último de la decisión a día de hoy,
a día de hoy este sería un extremo,
pero dentro del ámbito de la Administración de Justicia
y dentro del ámbito de la investigación,
por ejemplo, de determinadas conductas delictivas.
Existen ya realidades que se generan con sistemas
de inteligencia artificial, por poner dos ejemplos.
Uno ya lo utilizaba la policía en el Ministerio del Interior,
que es el sistema viogén VioGén,
es un una herramienta de inteligencia artificial
que identifica el grado de riesgo de reincidencia
de un sujeto que ha cometido un una versión engadido en el ámbito
de la violencia de género.
Otra de las herramientas que ya son una realidad
y que se están utilizando es impagable.
A través de bingo.
La policía es capaz de discriminar cuando hay una denuncia falsa
por ahora lógicamente porque hay un sector delictivo
es el de los delitos de tipo patrimonial,
en el cual se generan
y se aplican estas herramientas de inteligencia artificial,
pero no es descartable que la misma estructura
se lleve a otros ámbitos de élite
y lo cierto es que sistemas de inteligencia artificial
que por ejemplo, detectan riesgos son empleados en la actualidad.
Por ahora la policía,
los jueces no pueden emplear de momento no lo hacen,
pero por qué no pueden ser una herramienta útil
de cara a determinar si existe, por ejemplo-ese riesgo de fuga
de un sujeto que ha cometido un hecho delictivo
y por lo tanto, conviene adoptar una una medida
de prisión provisional?
En este caso
vamos a estar siempre condenándolo con los alumnos,
beneficios y la utilidad de sistemas de inteligencia artificial
que coadyuvarán en la decisión del órgano judicial.
Y cuáles son los guiaron, los riesgos que existen.
Esos riesgos lógicamente derivan -como había dicho anteriormente
-de esa posible incidencia en la privacidad de las personas,
porque al final se van a obtener datos que obran bien.
En la red como sucede por ejemplo con este
con esta herramienta de todos conocidos ancha gente
o hubo gran registros en actuaciones judiciales en múltiples lugares,
donde en ciudadano quien ha aportado este dato no es consciente
de que finalmente el destino de esa información
pudiera estar dirigido a establecer un sistema de inteligencia artificial
con múltiples efectos.
Por lo tanto, en esa ponderación de intereses
habrá que valorar el ciudadano qué es lo que prima,
dónde está el peso mayor.
Lo que sí es cierto también y esto deriva del reglamento
recientemente aprobado en el seno de la Unión Europea,
lo que es cierto es que no se puede dejar
100 por 100 la decisión de carácter jurisdiccional en manos del sistema
en manos de esto que llamamos el robot.
Simple tiene que haber un ser humano, vigilante,
que controle el propio sistema, sistema que debe estar transparente,
que debe explicar al ciudadano y a terceros cuál es su funcionamiento,
cuáles son sus algoritmos, cuáles son bueno,
pues todas esas volúmenes de información
con los que se se gestan en última instancia
siempre va a ser al juez,
en este caso el responsable de la decisión que tome con ayuda
o sin ayuda del sistema de inteligencia artificial.
Por lo demás, bueno, las aplicaciones en el ámbito del derecho,
sus múltiples también y sobre todo no la mitad
de la Administración de Justicia de transcripción de dictado
en un papel hasta la anonimización de resoluciones judiciales,
de tal forma que no se vea
quiénes son las partes identifiquen íntimamente estas partes
o incluso mecanismos para realizar resúmenes de resoluciones,
con el fin de que a su vez sean traducidas
a personas que no tienen esos conocimientos jurídicos bastante
si se favorecen.
Este se favorecerían de esta forma el derecho a entender
y ser entendido dentro de un proceso.
Por, además, querámoslo valorará si preferimos
o confiamos en una máquina o en un sistema,
no adoptar una decisión de carácter jurisdiccional
o preferimos por ahora que sea un juicio humano
el que dicte una sentencia favorable o desfavorables sobre nuestra persona
o nuestra ocupación.
Queda para la reflexión y muchísimas gracias
por haberme prestado atención durante estos minutos.
Gracias a María Jesús Colmenar, hijo.