Buenos días me presento Javier Sierra,
profesor del departamento de Derecho Constitucional,
y me presento porque en este lugar en esta silla,
debería de estar sentado Ignacio Gutiérrez,
profesor del departamento de Derecho Político,
que amablemente, pues me ha cedido, me ha cedido el sitio en mi calidad
de secretario del máster de Derechos Fundamentales
y yo quiero recalcar esta idea, no en este seminario
se se celebra y se organiza por la comisión académica
y por la coordinación de este máster,
que tienen todas las personas que nos están escuchando
a su disposición en la Universidad Nacional de Educación
a Distancia yendo a lo que nos trae esta mañana,
y me toca hacer la presentación de nuestra próxima ponente
que ese Patricia García, bajado profesorado
de Derecho Constitucional, de la Universidad de Oviedo,
quien nos hablará y cuyo título de ponencia
es sistema democrático e inteligencia artificial, Patricia,
y puedo destacar muchas cosas de ella,
pero haciendo un sinapsis curricular y muy breve.
Bueno, decir que en su momento ese en derecho
pero con premio extraordinario de fin de carrera y tiene un máster
y otra serie de especializaciones en protección jurídica
de personas y grupos vulnerables.
Y su tesis doctoral trató sobre las inmunidades del poder.
El título es de las inmunidades del poder
a la inmunidad del sistema jurídico y sus patologías,
y, bueno, ha estado en muchos sitios,
y la Universidad de La Sorbona,
en París ha estado también en el instituto y más planes,
ver haciendo estancias de investigación,
ha trabajado y materias muy diversas del derecho constitucional,
junto con con Miguel Linera,
que es catedrático de Derecho Constitucional,
de la Universidad de Oviedo,
y entre los temas que me consta que está abriendo
líneas de investigación está todo lo relativo
a inteligencia artificial, tecnología, y, pues eso,
sin sin más dilación, ya le pasó una palabra
para que para que tenga la intervención Muchas gracias
Javier bueno buenos días buenos días
a todos yo también quería empezar agradeciendo a la UNED
y al máster en derechos humanos
que haya contado conmigo para para impartir esta esta charla
y bueno por supuesto a todos a todos los compañeros que lo hacen posible,
y sin cuyo esfuerzo pues no podría estar.
Aquí siempre me hace muy feliz venir a la UNED
porque me siento como, como en casa,
no especialmente con los compañeros de Derecho Constitucional,
con los que tengo, pues muchísimas relación
y académica y extraacadémicas entonces me hace muy feliz
estar estar hoy aquí y también me impone un poco,
porque en el cartel aparezco con gente de la que yo he aprendido
a contar lo que voy a contar aquí no de subsana de Jordi de Fernando etc
entonces bueno pues es un poco uno sabía estar aquí sentadas con ellos,
porque leyéndoles escuchándoles, he aprendido mucho
y sus trabajos más me han servido para para arrancar
y para arrancar y para continuar no entonces bueno
pues quería quería decirlo bueno a continuación el título de deuda
de mi ponencia es, es muy amplios, pretendidamente amplio, y bueno,
voy a tratar de analizar.
Se podían analizar
y muchísimas cuestiones, no, pero voy a tratar de analizar qué papel,
qué papel podrían jugar?
Pues las predicciones con las que trabaja la inteligencia
artificial en el funcionamiento del sistema democrático,
que básicamente lo que hace es crear normas y luego tratar de aplicarlas,
no en un esquema muy fundamental que obviamente se podrían tratar,
y estamos en ello, no muchos temas,
pero aquí voy a tratar de abordar este porque es por donde
empezaba a pensar y por tanto algunas reflexiones
que tengo un poquito más trilladas,
pero son esos reflexiones porque se lo decía ayer,
no a Javier también que en este campo,
porque uno tiene la sensación de que siempre explica
o o se posiciona con reflexiones provisionales,
pero que es al menos yo me dio como más incapaz que en otros temas
de dar respuestas más, más cerradas o más o más sólidas.
Decía ahora Ignacio también,
que que parece un tema que está muy alejado de los clásicos,
como si fuera otra otra forma de hacer Derecho
o no.
Pero yo creo, o por lo menos mi sensación es que muchas veces.
Volviendo a esos clásicos, uno encuentra respuestas.
Lo que pasa que hay que adaptar la perspectiva no.
Entonces, mi reto es desde la teoría pues del Estado,
no del derecho constitucional.
Encajar esto, pero no cambiar, o sea,
no cambiarlo adaptarlo.
Entonces, mi mi sensación o me intuición
o por lo menos hasta donde yo he llegado, que es muy poquito
volver a los cimientos, volver a los fundamentos,
a mí me ayudó a enfocar la cuestión, no muchísimo.
Entonces, de repente ves
que para esto vuelo sale de aquel.
Se dice que lo diría.
No, pues que se habla de las predicciones
Jesús entonces es muy es muy curioso entonces bueno
eso quería quería decirlo antes de antes de comenzar.
Antes de pasar vamos de abordar esta cuestión.
Claro, tenemos que tratar de responder a la pregunta.
De qué hablamos cuando hablamos de inteligencia artificial?
No, porque sin eso no nos entendemos,
y ahí como ya explicaba subsana.
Entonces iré un poquito más rápido,
pues hay un problema grande de definición,
porque ahora todo parece inteligencia artificial,
cuando lo cuando vemos máquinas informáticas número 1, 0.
No todo parece inteligencia artificial y no todo es inteligencia
artificial.
Entonces los juristas, pues tendríamos definiciones,
porque, en función del ámbito objetivo de la norma,
pues aplicamos la regulación o no?
Entonces, bueno, la propuesta que de definición
que ha hecho el reglamento europeo, como ya lo ha explicado,
susana pues es que es un sistema de software autónomo
que a partir de una cantidad de datos de entrada, que son los inputs,
es capaz, ahí es donde van juegos,
los algoritmos de producir como información de salida,
pues una serie de recomendaciones de estimaciones de predicciones
de modelos o de contenido no entonces el el los sistemas
de inteligencia artificial estrictos en su funcionan con el esquema este,
de imputado, los impulsos,
los datos que a nuestro señor Big Data no es posible por el medio,
están los algoritmos, tienen aprendizaje automático,
aprenden solos hacerlas correlaciones, y cerillas,
cruzar toda esa cantidad de datos que tienen algo que no podríamos,
seguramente hacer los humanos
y a partir de ahí ofrecen una información de salida
que recibe muchos nombres en función del campo en el que estemos,
pero que en muchísimos casos no dejan de ser una predicción
un pronóstico modelo una estimación algo así no entonces
cuando hablo de periodismo voy a hablar de tradición
para reducir un poco la complejidad del lenguaje
a lo largo de la exposición, entonces lo lo relevantes
de la inteligencia artificial.
En lo que a mí respecta, no lo que voy a tratar ahora
es que, tras tras cruzar una cantidad ingente de datos,
es capaz de extraer correlaciones,
es decir, es capaz de de de inferir de realizar inferencias,
y por eso el resultado al que llega es una predicción, que es
una inferencia sobre hechos futuros,
no que es lo más plausible que sucede, que es lo más plausible
que que se ve.
Que es importante algunas de las premisas,
no con bueno, metodológicas o conceptuales,
yo creo que es importante recalcar,
porque para esto, para nosotros es un cambio de paradigma
en el derecho que la inteligencia artificial se mueve en el mundo
de las correlaciones y no de la causalidad,
que es algo a lo que estamos más acostumbrados en el ámbito jurídico.
No la causalidad,
que no es causalidad, es imputación en derecho,
pero, bueno, luego lo matizamos.
La causalidad funciona con él, con el esquema clásico
decía entonces, ve, no sé si tocase fuego,
pues de que ya está y entonces examina las relaciones
entre causas y efectos;
sin embargo,
lo que hace la correlación y son estos,
son las inferencias que es capaz de hacer estos al que son capaces
de hacer estos al guarismo algoritmos inteligentes
es la correlación, analiza la, la covarianzas entre dos
o más variables, por tanto, dos cuestiones están correlacionar
entre sí cuando la variación.
Una de ellas supone una variación en la otra, no, por ejemplo,
pues si hay una correlación,
entre ser varón y tener cáncer de pulmón,
significa que esas dos variables estén asociadas,
pero no que una sea la causa de la otra.
Por tanto, la correlación podría ser si ya es probable,
que puede ser de traduciéndolo así a la ecuación,
porque esto es importante porque la inteligencia artificial
no nos sirve para explicar las causas de los fenómenos.
No nos dice por qué algo pasa, pero nos dice que pasa,
y eso claro, en función del ámbito en el que estemos muchas veces
ya es suficiente.
Es decir, es una información muy valiosa,
porque sin ella en otros casos igual no sabríamos que eso está pasando
porque no tenemos esa capacidad de computación, no,
pero también me interesa señalar que la inteligencia artificial
tampoco sirve para ordenar cómo deben ser las cosas no prescribe,
y esto creo que ahí está el punto de conexión con el derecho,
no lo que lo que hace el Derecho,
y ya sabemos que no es describir la realidad,
es prescribir la realidad.
El derecho no dice si a entonces ve dice.
Si ha de ser bel
no por eso las relaciones del derecho,
pues son relaciones de imputación y no las la causalidad propia
de las ciencias naturales,
donde la al verse, se llega solo
de que más, solo si tocas el fuego no lo debes quemar.
Entonces, creo que leía donde iba es
que no, no sigo una lógica de funcionamiento diferentes,
pues a las ciencias naturales,
que son causa listas y también a la lógica jurídica
que se mueve en el ámbito prescriptivo,
pero no en el ámbito descriptivo no, y esto me parece importante
para señalar que en sí misma,
porque creo que esto están puestas relacionado con las funciones
que puede desempeñar en el ámbito normativo,
que la inteligencia artificial y muy acertadamente
se le ha denominado una criatura empírica,
es decir, se mueve en el mundo del ser,
de la realidad empírica de los hechos,
de la realidad social, en el sentido de que su tarea es
tratar de describir la realidad a través de las correlaciones
no y que se proyecta o estudia hechos de la vida fáctica
de la vida social económicos culturales sociales
tecnológicos etcétera es decir es una criatura empírica fáctica
no pero no es una criatura normativa,
está fuera en principio del mundo estrictamente jurídico,
que ahora mismo, pues es el nuestro,
y esto creo que es importante saberlo para desempeñar
qué funciones puede desempeñar un mecanismo empírico?
No es la intergeneracional, no es lo único
desde luego en un ámbito estrictamente normativo,
no para que nos puede servir a para que le puede servir al derecho
toda la información que es capaz de darle esta este tipo de mecanismos
que habitan en el entorno?
No, bueno, esto para para para situarnos como había he dicho
al inicio de la exposición, la inteligencia artificial.
La mayor potencialidad que tiene es capaz,
es que es capaz de inferir acontecimientos futuros
teniendo en cuenta como ciertas variables
sean como comportado en el pasado, no es decir su capacidad predictiva
o de o de pronóstico a nadie se le escapa.
Creo que las que las predicciones son un mecanismo
para reducir incertidumbre, es decir,
la sociedad es muy compleja y muy plural
y abre muchísimos horizontes que en muchos casos son inabarcables.
Bueno, pues las predicciones me parece
que lo que ayudan esa gestionar toda esa complejidad
y por tanto a poder cuantificar, cuán probable
es que algo suceda no y entonces a manejarnos mejor con un ámbito
de decisión que a priori puede ser demasiado, han amplio
y, por tanto, puede paralizarlos,
no nos puede colapsar claro la incertidumbre,
que reduce la inteligencia artificial.
Es fácticas decirnos una actitud muy jurídica
de cómo interpreto esto, cómo se hace.
Lo otro es una incertidumbre fáctica relativa a hechos
de la vida de la vida real para que nos entendamos
no sociales económicos técnicos medioambientales etc
se proyecta sobre ámbitos de la vida de la vida real
y, por tanto mide comprobables que tal persona
reincida cuánto probable es que una empresa haya defraudado
a hacienda cuanto probables que esta persona sobre vida,
esta operación no, etc, etc. Son ese tipo de juicios.
Pueden jugar algún papel las predicciones
en un sistema normativo en el ámbito estrictamente jurídico?
Bueno, pues aunque esta como decía al principio, no,
aunque esta cuestión parezca muy novedosa,
lo cierto es que ocupó una un papel muy importante
en la entre los realistas entre el ritmo jurídico norteamericano
en el siglo decimonoveno, que decían que el derecho
era la ciencia de las predicciones y por tanto, jon se decía
que el derecho no era más que las profecías,
sobre cómo actuarial los tribunales, todos los realistas
decían.
Bueno, qué función tiene el derecho predecir,
pero decir que me decía el juez no era la función del derecho.
Claro, esto, desde un punto de vista estrictamente positivista,
encaja mal, no al menos para mí
la función del derecho no es predecir la realidad,
y tampoco predecir comportamientos es normativizar,
los es prescribirlos, vale la función del derecho.
El derecho no trata de predecir
lo que tiene más posibilidades de ser,
sino que establece que es lo que debe ser.
Cuando el Derecho dice que si mata,
si a la cárcel no está diciendo que se prueba que matas
es probable, que vayas a la cárcel,
sino que debes ir a la cárcel no haya opera la coacción
entonces otra cosa como señalaba Susana
es que la predicción puede ser una herramienta
que utilizan operadores jurídicos para sus pretensiones,
es decir, pues el abogado que hace un cálculo
de cuánto es que me estimen este recurso o de que me lo admitan a
trámites o que me invitan a través de este amparo,
pero me parece que una cosa es la función del derecho
en sí misma, vale como un fenómeno social,
y otra cosa es la función de los operadores que están
en el sistema, que son dos cosas distintas entonces me parece
que es la función del derecho; no es predecir,
no es pronosticar nada, es mantener estables
ciertas expectativas de conducta a través de la administración
de la fuerza que monopoliza el Estado.
Esa función pues no es predictiva,
es, es coactiva y, por tanto, pues prescriptiva dicho
esto significa entonces porque parece que las estoy excluyéndonos,
que las predicciones no pueden desempeñar ningún tipo de función
en un sistema normativo positivo, no, lo que hay que ver
es de qué manera las predicciones pueden al derecho,
ayudar al derecho a desarrollar esa función
de mantener estables ciertos ciertas expectativas relativas
al comportamiento humano.
De qué manera las predicciones nos pueden ayudar
a estabilizar esas expectativas de de conducta?
Por tanto, no me parece un problema;
o sea, aquí lo que tenemos que ver es que en que nos puede servir
las predicciones que sobre la realidad
nos arroja la inteligencia artificial no común,
como llevamos de la mano; escritura empírica,
que es la inteligencia artificial.
Con esta criatura jurídica,
que es el derecho, el hecho de que pertenezcan a mundos distintos
las hace incompatibles no, y no.
En primer lugar, me parece sencillo ver
y aquí es donde me artículo lo que las reflexiones
un poquito que hago es que si os dais cuenta el derecho
está pero está en permanente contacto con esa realidad empírica.
En primer lugar, porque de ese entorno social
saca las ideas, acá, las demandas sociales
que quiere traducir en norma.
Por tanto, esta está con las orejas puestas en la sociedad no,
y en un segundo momento, porque cuando ya tienen esas normas
y las ha positivizado, las aplica otra vez sobre esa realidad;
es decir, coge el material y luego devuelve no.
Entonces, claro que está en permanente contacto
con la realidad empírica.
Y cómo está en contacto con esa realidad empírica?
Yo creo que las las las predicciones a lo que pueden ayudar
es el en esos puntos de contacto que tiene el sistema
con ese mundo fáctico, a reducir esa esa esa incertidumbre
para que el derecho desarrolle mejor su función.
Así dicho un poco en abstracto no se entiende
pero trataré de bueno en fin poner ejemplos ir aterrizándola
un poco más voy a dividirlo en 2.
Voy a voy a analizar primero si las siglas,
la inteligencia artificial,
puede desempeñar algún papel no a través de las predicciones
en la función de crear normas,
que es lo primero que hace un sistema normativo,
no en los niveles superiores del ordenamiento.
No, no estoy pensando en la elaboración
de de un reglamento superconcreta o no,
sino en la formación de la voluntad general,
y luego se puede desempeñar algún papel
en la función de aplicación de esas normas,
porque en esos dos con dos puntos, como os decía,
es donde el derecho si se abre a ese mundo fáctico
donde donde la Inteligencia Artificial
opera entonces como usted en contacto con ese mundo fáctico.
Tu predicciones del mundo fáctico.
Me servís para algo, pues otras parecidas del mundo fácticos.
Me servir para algo.
Entonces, como decía, ese primer punto de contacto viene,
pues cuando el sistema tiene que crear normas.
No.
Entonces lo que hace es recibir de esa realidad social,
expectativas que si quieren convertir en norma jurídica es lo que hacemos.
Es decir hay un sabor eutanasia subida bajada
de impuestos legalizamos y legalizamos esto esto son cosas
que vienen de la sociedad y que tratamos de llevar
a la sede parlamentaria para que se diga si sí o sí no,
y entonces se traduce o no se traduce en una norma.
Claro, esto a priori necesario pone y ahí
que pinta la inteligencia artificial a priori puede parecer
cienciaficción, pero sí sí; si nos basamos o tenemos en cuenta
los los, los la evolución de la técnica.
Los últimos años tampoco parece tan raro,
porque a través de la de la inteligencia artificial,
generativa que puede crear contenido nuevo
a partir de ciertas informaciones.
Pues claro que se podrían crear normas
como cómo se podrán crear dfgs o informes jurídicos
o cualquier otra cosa.
No.
Entonces, las máquinas nos pueden hacer una norma
no y nos pueden ayudar a legislar o pueden legislar.
Claro, eso coincide en este es el punto de partida,
no pueden, pueden intervenir en la inteligencia artificial,
en esta función creadora de normas y en qué términos.
Bueno, yo creo que, o sea la función de creación normativa,
como en los niveles superiores del ordenamiento,
es decir, cuando estamos hablando de una función legislativa
o de reforma constitucional, no las más inferiores supone,
como sabéis, decantarse por una de las opciones políticas,
políticamente posibles que estén dentro del marco de lo jurídicamente
de lo jurídicamente lícito, vale, es decir,
lo que hace el legislador democrático,
es decir, cuáles de las expectativas
que hay por ahí le convencen y quiere convertir en norma
dentro de las que se puede, no, son las que la Constitución
establece, claro los relevantes,
y me pareció señalar que es que en un modelo
como el nuestro, no de democracia procedimental
todas las opciones que hay en el entorno,
todas las demandas sociales, son igual de válidas.
No pasa así cuando estamos en el ámbito
de una democracia militante no, que unas son.
Son válidas y otras son inválidas por su contenido
una democracia militante.
En una democracia procedimental
se exige el respeto a los procedimientos,
pero se puede perseguir cualquier idea.
Por tanto, es tan válida la opcional como la opción b.
Esto qué significa?
Que no hay una certeza que buscar en ese entorno social,
es decir, la decisión política,
como estamos en la sede parlamentaria, no trata de llegar
a la decisión buena la decisión correcta,
porque no hay una decisión buena o correcta,
lo que hay es pluralismo,
y lo que hay que encauzar es ese pluralismo
y tratar de llegar a una solución no a una decisión
que es la que se convertirá en norma.
Entonces, la mejor decisión política
no es la mejor decisión política en cuanto al fondo,
como si hubiera una certeza o una verdad en la base,
sino que es la decisión política decidida,
es decir, aquella que se haya adoptado siguiendo un procedimiento
en el que, a pesar de ganar las mayorías,
pues las minorías se hayan podido expresar, no, por tanto,
determinar cuál esa, cuál es esa opción política
entre todas las que hay que se dan convertir en norma jurídica
no es por su propia naturaleza una una tarea
que sea susceptible de predicción, porque es un acto libre de creación.
Es decir, cuando legislamos no estamos buscando la norma,
no estamos buscando la decisión buena, correcta, cierta
estamos buscando aquella que responde al sentir general,
no en un sistema democrático.
Por tanto, me parece que ahí las predicciones
no se puede predecir nada en la función legislativa,
porque porque no hay nada que predecir.
Es decir, no tiene objeto, nos oye cuál es estas opciones.
Es la mejor.
Cuál estas lecciones es la válida, cuáles es la correcta?
No se tendrá que decir,
tendrán que decirlo quienes están ahí vale.
Esto me lleva a sostener así de forma quizás un poco más más categórica,
que tengo la intuición de que en aquellas funciones
del ordenamiento, que están presididas
por el principio democrático la inteligencia artificial,
tiene poca cabida y tiene poca cabida,
porque creo que no tiene objeto porque no tiene nada que pronosticar
que es para lo que sirve, no?
Entonces, donde rige el principio democrático
me parece que hay voluntad política que es in pronosticable
simplemente tiene que decidirse.
No estamos en la función legislativa,
no está la búsqueda de una verdad audaz
la certeza moral religiosa ética concreta
sino que está al servicio de construir una verdad,
y la construcción de esa verdad será la que acuerde los representantes
que están ahí sentados, no?
Entonces esto me parece que destierro un poco
el empleo de las predicciones en la función normativa,
en los niveles superiores, claro, me podríais decir.
Bueno, Patricia vale eso es decir, los representantes,
pero igual la inteligencia artificial puede puede intervenir
en un estadio un poco posterior.
Ya sabemos lo que queremos.
Normal y como.
Pero lo que hace un poco la inteligencia artificial
es ayudarnos a construir el texto normativo,
no como un paso más allá no, no de primeras que nos digan
bueno, si nos ha propuesto aquí la inteligencia artificial
nos ha dicho que es mejor regular así el cambio climático,
que no es o que es mejor prohibirnos que no, eso no, pero bueno,
y si ya decidimos lo que queremos no queremos hacer,
lo pueden redactar, lo puede elaborar normativamente
la inteligencia artificial, por ejemplo,
con con con modelos fundacionales como el change famoso?
Claro, esto parece un poco y parece que es
un poco menos problemático,
pero también me plantea algún problema,
porque si os dais cuenta la elaboración
de una norma en democracia no consiste tanto en procesar
información de manera automática, cómo construir una voluntad común,
y eso me parece que exige debatir, enmendar, criticar.
Es decir, me parece que exige algo que no es automatizado
sino que es un procedimiento muy garantista donde se permite
la intervención de todos, no.
Por eso las decisiones en democracia son decisiones y los resultados,
como si fueran la secuencia de un programa de unos sinceros,
no a lo que podríamos llegar cada uno en nuestra casa.
No es la voluntad popular, se construye?
No se procesa.
Entonces me parece que ahí cruje un poco,
además Sí?
Sí si os dais cuenta, pues en un sistema,
en una democracia procedimental, la validez y la legitimidad
de las decisiones dependen justamente en adecuarse el procedimiento.
Las decisiones valen o no valen porque se han canalizado
a través del procedimiento establecido, no, donde,
a pesar de decir las mayorías las minorías pueden expresarse
y pueden participar.
Entonces esa el hecho de que la legitimidad en democracia
sea procedimental me parece que por una reserva de humanidad,
porque no creo que eso sea capaz de hacerlo una máquina,
ese procedimiento que implica pues deliberación crítica,
confrontación, etcétera.
Me parece que tiene algo de humano que no es capaz
de hacer una máquina.
Entonces me parece que esa reserva de procedimiento
impone indirectamente una reserva de humanidad en este ámbito,
no porque de lo contrario, en la medida
en que vayamos delegando la conformación de estas decisiones
a los sistemas de inteligencia artificial,
claro, ahí hay lo que están juegos y el principio democrático
en sí mismo, quien decide nosotros o el sistema
y qué es decidir?
No quiero decir igual elaborar la norma con todos sus pormenores,
eso también es decidir, no decir solamente si me gusta
o no me gusta, sino en qué términos,
con qué excepciones,
con qué garantías, claro,
pues lo que hay y me parece que lo que está en juego
es claramente el principio democrático.
De manera que si vamos difícil defiriendo
progresivamente la configuración de las decisiones normativas
a los sistemas de inteligencia artificial,
lo que nos vamos es,
desapoderando, nos íbamos desplazando fuera del sistema democrático,
el fundamento de la validez y la legitimidad de las decisiones
que adoptamos en democracia.
Por eso ya han empezado a salir por ahí no trabajos que alertan
de los riesgos de la algo gracia.
Al final parece que es la máquina solamente instrumentaliza
nuestra decisión.
No?
Pero es que esa decisión,
cuando estamos los niveles superiores del ordenamiento,
implica participación y un nivel de deliberación
y de detalle que no se puede dejar la máquina,
porque eso también es decidir decidir cómo se norma.
Algo no claro, esto no supone excluir totalmente,
creo, la inteligencia artificial de la función, norma dora,
de la función de creación de normas que se lleva con sede parlamentaria
por.
Uy, por completo, no, sino que me parece que lo que hay
que hacer en sede parlamentaria es colocarla a sus servicios,
decir que la inteligencia artificial sirva como un como instrumento,
que ayude a construir la voluntad común
pero que no reemplace la construcción.
De esa voluntad, como un porque entonces lo que hacemos es
tergiversar totalmente el principio democrático por un principio,
pues pues algo socrático algo parecido,
no?
Entonces algunas funciones que se me ocurren,
que podrían desempeñar al principio la inteligencia artificial
al servicio de la construcción de la voluntad común,
pues una función en primer lugar, informativa, no.
Las predicciones que arroja la inteligencia artificial
igual pueden ofrecer información valiosa
sobre la realidad empírica sobre la que se quiere legislar,
pues en el ámbito especialmente técnicos,
urbanismo, medio ambiente, el ámbito tecnológico,
etc. Y quizás hacer estimaciones lo de las evaluaciones de impacto,
no de cómo o cómo afectaría
o qué resultados produciría la aprobación de esta norma
en estos años o a Tales escalas ahí
si no, pero eso es una es una función como informativa, de asistencia,
puede desempeñar también se me ocurre la inteligencia artificial
en la sede parlamentaria.
Es una tarea de asistencia técnica al procedimiento legislativo,
por ejemplo, puede mejorar la técnica legislativa
y la redacción de los textos legales que,
en muchos casos confusa, oscura, reiterativa tiene duplicidades,
etcétera.
Algunos parlamentos ya utilizan sistemas de este tipo,
como en Holanda, no; que utiliza el sistema letra,
que mejora la redacción de los textos legales,
no los los pule,
invitar evita incoherencias, los filtros, etcétera;
o también puede servir para transcribir automáticamente
las sesiones y con ello agilizar el trabajo parlamentario,
y en este sentido,
pues el Parlamento de Estonia utiliza el sistema Hans,
que hace posible esto a través del reconocimiento de voz, no,
pero son funciones de asistencia técnica
y, por último, quizás también una función participativa.
Los sistemas de inteligencia artificial nos lo echamos,
pues igual son canales de información,
de participación muy potentes que permiten involucrar
a la ciudadanía, los expertos a sujetos extraparlamentarios
en ese proceso de la formación de la voluntad común,
en renuncio, por ejemplo manejan el evidencia;
existen que le permite a pues a la ciudadanía
y a los expertos participar en tiempo real
en las sesiones del Parlamento
validando no ciertos argumentos o audiencias científicas
que se proponen, pues esto no es así lo desmienten estas círculos,
que la ciencia entonces son mecanismos de participación
o incluso en el Parlamento finlandés una máquina
de inteligencia artificial.
Comparecido junta no sé cómo se llama el Parlamento finlandés,
en finlandés, pero una audiencia pública fue dada,
fue dada por un sistema inteligencia artificial.
Entonces, bueno, pues igual puede ser un potencial compareciente,
no un sistema de inteligencia artificial.
En cualquier caso, me parece importante señalar
que las funciones que en el ámbito de la creación normativa
en los niveles superiores del ordenamiento puede desarrollar
la inteligencia artificial me parece que son funciones de asistencia
no puestas al servicio de la elaboración
de la voluntad común pero peligrosas en cuanto traten de modificar
o de crear ellas mismas autónomamente,
esa voluntad común, porque entonces nosotros habremos dejado de decidir
y el sistema será otra cosa, no, pero ya no será democrático
o por lo menos pues menos democrático
esto lo que tiene que ver con la creación normativa,
con lo que tienen que ver con la aplicación de normas.
Os decía el segundo momento en el que el sistema
se pone en contacto con el medio social
es cuando tiene esos productos normativos que ya ha hecho las normas
y tiene que aplicarlas a la realidad fáctica
que pretende regular no.
En ese momento.
Lo que trata de hacer el ordenamiento es verificar si hay una concordancia
entre el ser lo que hay en el mundo real,
la realidad en sí misma
y el deber ser que dice la norma,
y hay una actividad de verificación en estas etapas más finales
del ordenamiento.
Con cómo, como sabéis, el principio que rige la actuación
es el principio de legalidad.
Aquí lo importante ya no es pensar que queremos traducir
en norma jurídica, sino sujetar que el Estado
se comporte tal y como dicen las normas jurídicas,
no, y precisamente porque en esta actividad
rige el principio de legalidad lo importante ya
es que en estas fases de aplicación
ya no es que todos intervengamos y deliberemos
y expongamos nuestras visiones principio democrático,
sino que realicemos en la realidad lo normativamente prescrito,
principio de legalidad.
Por eso, conforme vamos bajando en la pirámide normativa,
las primeras tareas, las más abstractas,
están presididas por el principio democrático,
y conforme vamos decidiendo ese principio democrático,
se va traduciendo en principio de legalidad.
Lo importante es aplicar las normas que los representantes han acordado,
no y, por tanto, aquí ya no me plantea menos objeciones,
porque en la medida que el componente volitivo,
el componente de de deliberación y de crítica y demás,
ya no está presente porque no tiene que estarlo,
para aplicar una norma,
tengo la sensación y estas, a segunda intuición,
que el principio de legalidad se compadece mucho mejor,
o las funciones presididas por el principio de legalidad,
se compadece mucho mejor con el empleo
de la inteligencia artificial,
porque creo que casa mejor con su con su naturaleza.
No?
Entonces lo que voy a explicar ahora
es que creo que la inteligencia artificial puede como un mecanismo.
Esa criatura empírica puede ser un mecanismo que nos coadyuva,
que coadyuve a verificar si hay una,
si esa concordancia entre el ser y el deber ser se produce,
o sea, un mecanismo que nos ayuda a ver de manera
con mucha más precisión, con la que podemos verlo.
Nosotros, si esa concordancia existe en la realidad y por tanto,
aplicar de manera más fiel o más precisa las normas
y, por tanto, reforzar de alguna manera no.
El principio de legalidad en principio me encaja,
no digamos aquí la inteligencia artificial,
pero creo que no puede estar presente o no lo está con la misma intensidad
de la inteligencia artificial en la aplicación
de todo tipo de normas me parece que hay unas que se prestan más,
por su naturaleza a ser aplicadas o a través de inteligencia
artificial.
El sentido de apoyar a su aplicación a través de Inteligencia Artificial
y otras que menos.
En este sentido, voy a distinguir 2.
No en el ordenamiento tenemos básicamente dos tipos de normas,
las condicionales y las y las de programación final.
Voy a empezar por las primeras, las condicionales,
no las que todos conocemos.
Si ya debe ser, si matas y las a la cárcel.
Hay una causa, una condición vale que opera como factor desencadenante
de una determinada respuesta o consecuencia jurídica,
es la estructura clásica de las normas,
el pilar básico del del estado de derecho,
no.
Por tanto, hay unas causas que determinan
cuando el Estado puede hacer uso de la fuerza,
que que monopoliza claro aquí por como pueden tren
la inteligencia artificial,
pues yo creo que puede entrar en la determinación de esas causas.
Es decir, esas causas son hechos generalmente
de la vida real situaciones acontecimientos eventos etcétera
entonces igual puede ayudar a determinar cuándo se produce
esa determinada causa, situación, determinación que la norma
prevé y a la que anuda la la activación de una determinada
consecuencia jurídica.
No, eso en principio
si me casa lo voy a ir aterrizando que pasa esas causas con esas causas
o condiciones de la acción estatal no presentan siempre
la misma naturaleza, no; si a debe ser de en ese esquema a muchas veces
es un supuesto.
De hecho, algo fáctico que ya ha sucedido
es lo característico del ámbito sancionador
sin atrocidades a la cárcel si aparcasen zona azul sin ti,
que te pondrá una multa este tipo de cosas
no al ámbito sancionables.
El característico de la programación de la programación condicional
claro pueden desempeñar las predicciones alguna función
en la constatación de supuestos, de hecho, en normas condicionales.
Es decir, sirven para constatar a cuando es un hecho fáctico
que ya sucedió en el pasado, no, y el que alma
la consecuencia jurídica.
Hombre, a mí esto me cuesta verlo, no, y me cuesta verlo,
porque cuando tenemos supuestos de hecho,
me parece que lo que tenemos que hacer es comprobarlos
y constatarlos,
es decir, probarlos demostrarlos en la actividad,
pero no pronostiqué Carlos, porque entonces empezamos una,
entramos al fecyt distopía donde tratamos de predecir
el pasado, y de repente,
que la máquina que haya dicho que tú has infringido la ley,
o has cometido no sé qué infracción ya determina
que la que la acomete inste,
entonces me parece que los hechos se prueban, se demuestran,
se verifican pero me parece que no se pronostican, no, de hecho,
son mecanismos siempre expost, la compra, la comprobación,
la verificación, etcétera, y el pronóstico me parece
que es un mecanismo exante, no es por exigencias,
me parece clásicas, del estado de derecho,
la inteligencia artificial encaja, mal,
me parece para ayudar a determinar supuestos.
De hecho, cuando estos son tales,
es decir,
supuestos de hecho y fácticos ya acontecidos en el ámbito clásico,
es el sancionador.
Por tanto, me parece que no te pueden decir
me costaría entenderlo.
No es que la máquina dice que usted ha a en el pasado
se pronostica no, se demuestra que ha cometido hasta esta de infracción,
eso me cuesta, pero qué pasa?
Que las normas condicionales sobre todo cada vez más porque vamos
a una sociedad del riesgo muy compleja,
con muchísimos, con, con,
con un nivel de indeterminación mucho más grande
de lo que eran el pasado.
Esas normas condicionales que eran tan taxativas
en el pasado, cada vez lo son menos,
y esto donde se ve en que esa esos supuestos,
de hecho muchas veces ya no son supuestos de hecho,
son potencialidades, y lo que hace el ordenamiento jurídico
es anudar una consecuencia jurídica a la posibilidad
de que algo se pueda producir, no y normas así hay muchas.
Entonces en este esquema decía entonces ve
a no es un hecho pasado ya acontecido susceptible de verificación,
sino que es una potencialidad
la eventualidad de que algo pueda producirse,
y me parece que cuando estas normas condicionales
tienen como causa o condición esa potencialidad,
un hecho plausible o futuro.
Me parece que ahí sí pueden entrar en juego en juego
las las las predicciones, ejemplos, no, muchas normas penales
o penitenciarias consideran, pues, la peligrosidad del reo,
el peligro de reincidencia como condiciones
para adoptar determinadas decisiones no pues permisos penitenciarios
libertad condicional etcétera
de hecho pues está el sistema Riscal,
vi la en la administración penitenciaria catalana que que va
justamente de esto, no que decide cuando se otorgan permisos
penitenciarios a través de un sistema de inteligencia artificial,
que tiene en cuenta diferentes parámetros que tratan de medir,
pues la peligrosidad del reo, el peligro de reincidencia,
pero lo que a mí me interesa estamos ante normas
que son deliberadamente amplias y no amplias,
el sentido de indeterminada,
sino que lo que hay que juzgar es algo que no ha pasado,
y yo creo que esa es la clave.
Es una potencialidad futura y claro ahí porque entran bien
las predicciones, porque lo que el sistema,
lo que lo que el sistema tiene que hacer el humano también,
es pronosticar en base a los datos que tienen cuánto de pueblo,
es que este sujeto reincida cuánto?
Todas ves que,
etc, etc. Entonces yo también tengo que hacer un pronóstico como humano,
entonces aquí otra cosa es que eso haya que dotarlo de garantías,
pero me parece que es la fisionomía de la norma,
la perdición.
Ahí entra mejor porque el sistema
también nos está obligando a predecir de alguna manera no otros ejemplos,
pues en el ámbito procesal o la prisión provisional,
el riesgo de fuga.
La reiteración delictiva también son juicios de pronóstico,
verdad.
Entonces yo creo que en este tipo de normas condicionales
cuya condiciono causa es una potencialidad el uso
de la inteligencia artificial.
Me parece que se inserta con mucha mayor, de manera,
mucho más natural, claro, incluso en normas
de derechos fundamentales,
estrictamente de derechos fundamentales, o bien,
todo lo anterior también afecta a derechos fundamentales,
no cabe duda, cabe de la Constitución.
Creo que este modelo de norma también existe.
Por ejemplo, cuando el artículo 21 de la Constitución
otorgó a los poderes públicos la facultad de prohibir reuniones
o manifestaciones en lugares de tránsito público
cuando existan razones fundadas de alteración del orden público,
ahí nos están diciendo que hay que valorar la posibilidad
de que las alteraciones se produzcan.
No es solamente este diciendo
donde puede entrar dónde podría entrar más sencillamente
la inteligencia artificial, no, que no se puede hacer sin garantías
o de cualquier manera; de hecho, en Estados Unidos y algunas ciudades
que utilizan los sistemas de inteligencia artificial
para prever, cómo de violentas, podían ser protestas
y, en función de eso, prohibirlas o no,
o adoptar unas medidas u otras.
Claro, eso ya no se nos futuro.
Eso ya está aquí claro.
Es delicado, muy delicado en la medida
en que están en juego derechos fundamentales.
En cualquier caso, yo creo que la misma en la conciencia
Susana; si esto en el futuro próximo,
seguro órgano tan, tan lejano llega.
Son medidas en todo caso de apoyo
a una decisión que en nuestro caso, en primer lugar,
por ser administrativa, no, que la administración
podrá prohibir la manifestación; si concurren estas causas
y sin la Inteligencia Artificial dice su.
Pues habrá administración;
también, tendrá que motivarlo por eso digo que simplemente
es un mecanismo de momento informativo
y que es informativo y opera en ese existe
y en este momento del ordenamiento del proceso,
porque ahí la Administración también tiene que mirar fuera.
Para ver qué pasa, cómo mide la posibilidad
de que se altere el orden público?
No, no es una decisión, o sea propia,
que tenga solamente variables variables jurídicas.
Entonces, bueno, como este solamente trataba de ver
desde el punto de vista de la estructura de las normas,
donde se insertan con más facilidad
las las predicciones, y me parece que por su propia
fisionomía aquellas normas condicionales cuyo supuesto de hecho
es una potencialidad se prestan mucho más
a utilizar predicciones para su implementación;
práctica, porque también se le pide al operador humano.
De alguna forma hacer un pronóstico.
Hacer.
Un pronóstico no significa la hija, obviamente, hay que motivarlo,
pero es cuando se pronostica se evalúa algo incierto, y eso
también es lo que hace la inteligencia artificial.
No voy a la segunda clase de normas y con esto terminaría.
Os decía que aparte de las normas condicionales
con el advenimiento del Estado, social, principio principalmente
muchas normas que aplican ideas en nuestro sistema
adopta la forma de normas de programación final
no, o normas finalistas.
En este caso, como sabéis,
la estructura de las normas ya no es si ha de ser de,
sino que debe servir.
No se impone un fin aconseguir y ese fina conseguir,
es el mandato, vale, se debe proteger el interés del menor,
y lo que sucede es que haya una libertad de medios,
una indeterminación de las conductas a seguir por parte
de los poderes públicos para alcanzar ese fin.
Por tanto, este este tipo de normas tienen una densidad normativa,
obviamente mucho menor que las normas que las normas condicionales.
Por tanto, si lo si lo relevante,
las condiciones era determinar esas causas o condiciones
de la acción, lo relevante en las normas de programación final
es conseguir en la línea ese fin que me marca la norma.
Conseguir proteger el interés del menor o conseguir proteger
el medio ambiente o lo que sea no lo consiguió.
Lo importante es conseguir unos determinados efectos
en la riad táctica
y, por tanto, el, el deber ser, se cumplirá cuando esas consecuencias
se se se consigan en la mayor medida de lo posible,
porque las normas finalistas pues no son de si o no claro
en este tipo de normas pueden desempeñar algún papel,
las predicciones que arroja la inteligencia artificial
en este tipo de normas de de programación final.
Pues yo creo estoy hablando en términos más teóricos,
no habría que ver cómo lo implementamos en la práctica
yo creo que quizá sí porque como la conducta seguir
no está normativamente predeterminada,
igual las predicciones que arroja la inteligencia artificial nos ayudan
a detectar cuáles de los medios que podemos seguir para alcanzar ese fin
es más plausible que lo consigan.
En el fondo se trata hay que hacer una,
una especie de prognosis,
no entre que medios, de los que yo puedo utilizar
que me permite el ordenamiento es más posible o más cercas,
más a la consecución de ese fin que es obligatorio
conseguir para el, para el, para el ordenamiento.
En efecto,
me llamó la atención también al estudiar este tema que mucho
antes de que llegara la inteligencia artificial,
algunos autores estoy pensando ahora por ejemplo en estimación de otro
cuando es ponía las las complicaciones que tenían
estas normas de programación final en en un sistema positivista
como el nuestro decía, que claro que obligaban a,
al al a los operadores jurídicos, no hacer una prognosis
acerca de los efectos que podrían tener o no ciertas medidas,
a ver si cumplían o no ese fin o a ver si no se cumplían.
Ya hablaba el y no tenía esto en la cabeza, supongo,
de hacer una prognosis porque hay funciones
que evaluar,
y si el hijo a eso me permitirá conseguir de manera más eficaz
este fin, si algo ve eso me permitirá o me alejará de la consecución
de tal fin,
y eso es un, es un juicio que hay que hacer
para ver en qué medida te acercas o no al objetivo
que prescribe la norma, no.
Por tanto, las normas de programación final 100
decimos muy habitualmente establecen.
Son mandatos de optimización hacia los poderes públicos
y lo que hace justamente la inteligencia artificial.
Es optimizar decisiones
y, por tanto, decirnos qué camino es el más efectivo
o el más eficaz para conseguir el fin propuesto.
Entonces, me parece que en esa naturaleza más principial
de las normas de programación
final quizás también puedan tener cierta cabida cierta cabida
las las predicciones y, por tanto,
creo que pueden coadyuvar a que ese ser
que obliga a perseguir el ordenamiento jurídico,
se acople más al deber ser que establece la norma.
Claro,
no es verdad que esto me parece que opera con mayor facilidad
cuando estamos en los niveles inferiores del ordenamiento,
porque porque cuando estas normas de programación final
están en los niveles superiores del ordenamiento estoy pensando
en los principios rectores de la política social
-económica.
Eso nos deriva a la función legislativa,
y yo creo que ahí hay voluntad política.
No solamente es optimizar a ciegas, decisiones como hace Google Maps
cuando nos dice quiero llegar a chamartín.
Esta es la ruta más rápida ya es que hay otros intereses
en juego iguales a ruta más rápida, pero dejas por el camino
todas estas otras bienes susceptibles de protección, verdad?
2, me parece que la implementación de las predicciones
de las normas de programación final es más fácil cuando estas insertan,
en niveles más inferiores del ordenamiento jurídico
del escalafón y, por tanto en un plano más administrativo,
pues, por ejemplo, pienso que la ley de bases de régimen local
dice que hay que gestionar de manera sostenible y eficaz
y eficiente un servicio público,
pues igual la inteligencia artificial te puede decir
cuál es la manera más efectiva, eficiente de gestionar,
pues el servicio de basuras o no sé qué recogida de residuos,
pero eso me parece diferente a decir.
Pues cómo se protege de manera más eficiente?
Pues la vivienda, la vivienda no es un principio rector
eso pues me parece que es voluntad más más más más política
y que tiene que ser conformada de otra manera.
Entonces, bueno, esto es lo que os quería contar.
Siento que si me excedido un poquito en el tiempo y nada decir,
es que, obviamente, como todos son, son reflexiones provisionales,
pero estas más provisionales que otras.
Así que muchas gracias por vuestra atención
y quedaba esta exposición.
Muchas gracias, Patricia, por la excelente exposición clara
y que nos hace es aprender.
Vamos en tiempo, con lo cual, si hay preguntas sí.
Muchas gracias, Patricia.
Muchas gracias, Ana.
También agradezco expresamente vuestras intervenciones.
La verdad es que yo también soy mundano y ajeno
a este tipo de temática que me empieza a llamar la atención
para llevar a cabo estudios incluso desde la epistemología propia,
del derecho eclesiástico del Estado,
y lo dejo a que no sean mundanas en este ámbito del conocimiento.
La exposición en relación
con la exposición que ha hecho pasar hacía incluso
el posible uso de mecanismos de inteligencia artificial,
a tipo de informática y en relación
con la posible restricción de derechos fundamentales que,
como bien decía el Tribunal Constitucional,
tiene que ser a priori, es decir, por ejemplo,
el ejemplo que usted ha puesto en la manifestación pública
docentes sanitarios.
Si en las Doris no dite,
que existe riesgo de que sea anómalo,
una manifestación pública cuya finalidad es garantizar
la prestación de servicios básicos del Estado social de derecho,
y el dirigente que tiene que contrastar.
Esa información decide por sus propios fines
o en base a su propia consideración sobre la utilización
o cuál ser los recursos que se estime.
Este tipo de servicios públicos decide hacer caso de algoritmo,
incluso con carácter informativo, incluso me ha dado pavor,
que se está utilizando en relación con sistemas
de inteligencia artificial para la concesión
o no de permisos penitenciarios.
Yo cuando trabajo de temas de Biotecnología,
desarrollo tecnológico siempre hago incursiones
en el ámbito de la filmografía, es decir, estamos ante minoritarios,
y por la inteligencia se está proyectando
que una persona que tiene una serie de conductas
va a ser el autor material de un crimen,
independientemente que poste, que posiblemente no se haya demostrado
que haya causado el primer, estamos prejuzgando que una persona
que tiene esta conducta se va a ser chat socialmente,
no puede conceder permiso penitenciario
en relación con la que pueda tener un permiso,
y posteriormente vuelve a reincidir o personas que están predispuestas
en base al algoritmo,
acometer este reincidir en relación con el delito lícito
penal que han cometido y resulta que no se entendía
que la persona ya ha cumplido su condena
si quieren sentir y esta exposiciones me gustaría que explicaras
o que explicasen mejor dicho posibles límites,
cómo se podía acotar la alimentación para garantizar el uso,
porque, efectivamente, como tú muy bien has dicho,
la exposición es que informativo,
pero quién garantiza que el órgano, quién, la autoridad pública,
que pueda estar o no a favor de la decisión,
tu aunque se puede limitar.
El margen de discrecionalidad al margen de apreciación,
como decía antes la profesora de la Sierra en relación
con este toma de decisiones, porque si no en manos de,
o volvemos a caer en manos de la discrecionalidad,
la toma decisiones que afectan al ejercicio efectivo
de derechos fundamentales modestos, de libertad de hecho,
o derecho de manifestación.
Muchas muchas gracias, Salvador por las observaciones claro.
Las preguntas que plantea es que creo que son las que están en el núcleo
de las que hay que resolver, no, yo tampoco tengo
todas las respuestas.
De todas formas, claro, cuando estamos diciendo
que estos sistemas se utiliza, yo creo que un control evidente
es que si es un sistema informativo tú no puedes decir que algo lo haces
o no porque lo dice el algoritmo.
Es decir, tú como administración tendrás que motivar
como lo hace siempre, porque has decidido prohibir
en este caso esa manifestación pública
y determinar por qué hay peligro para persona, para bienes,
algo que tienes que hacer.
Aunque no utilices el algoritmo siempre,
vamos no como las manifestaciones del comienzo oye,
porque si vamos en coches o porque si os esperamos
a la distancia de seguridad
se entiende que hay peligro para personal,
para bienes y se prohíbe la manifestación.
Entonces, la necesidad de motivación de la resolución por parte
de la Administración.
Yo creo que es un mecanismo de control básico y el nuclear,
porque eso es luego lo que se controla en sede jurisdiccional,
en qué medida se han motivado y se ha especificado
que existe peligro para persona,
para bienes que no es simplemente que este es incómodo
con la manifestación
o que cause cierto barullo, desde luego,
o que no esté es políticamente de acuerdo con lo que reivindica,
pero es que vamos el para, para prohibir manifestaciones.
El juicio no es como es evidente, ideológico no,
sino que tiene que existir peligro para persona o para bienes
y por tanto tiene que existir peligro para el ejercicio
de otros derechos fundamentales de la ciudadanía.
Eso es lo que por Tegeo el orden público
en un sistema democrático no.
Entonces, yo creo que aquí el esquema no es diferente
o o demasiado diferente al que rige en el mundo analógico,
porque es otro mecanismo de información
que puede tener la administración,
pero su decisión, que es suya no del algoritmo,
tendrá que motivarlo y tendrá que expresarla por escrito
no decir la autoría.
Nos autoriza las manifestaciones, ya sabemos,
pero la prohíbo, porque lo dice la máquina.
Bueno, yo creo que eso no pasa ningún filtro,
no ningún filtro, y luego,
pues los límites que se pueden poner al al uso
de estos sistemas en relación con los derechos fundamentales.
Yo creo que eso de los núcleos más importantes
sobre los que hay que trabajar
y sobre los que los que vamos el derecho público
tiene que hacer hay un gran trabajo en ese,
en ese en esa línea va un poco la regulación europea.
Las exigencias que se le ponen a los sistemas de inteligencia artificial
están relacionadas con el nivel de riesgo que esos sistemas tienen
para el ejercicio fundamentalmente de los derechos fundamentales
del ciudadano.
Entonces han más nivel de riesgo
y también de intromisión en esperas más personales.
Esos niveles, esas exigencias,
que los sistemas tienen que cumplir en términos de explicabilidad,
de autorizaciones, etc. Son mayores, es decir,
es una especie de sistema semáforo verdad?
Y eso de momento es lo que se tiene que poner en práctica
y se tiene que ir implementando también
a medida que se vayan utilizando.
Iremos viendo dónde están también los los escollos
y las y las cuestiones necesitadas de regulación,
pero es que no creo, como decía Susana,
que podamos dar una respuesta monolítica y a priori,
sobre cuáles son esos límites, no para todos los contextos,
para la libertad de expresión, para la libertad de información,
para libertad personal, para derecho de manifestación,
porque cada derecho es un mundo iguales,
y lo que habrá que ver es cómo impacta
la inteligencia artificial en cada derecho a veces
eso nos puede llevar a ampliar el objeto del derecho.
Lo que se garantiza es más amplio,
que lo de antes en otras veces.
Nos llevará a que el contenido del derecho
tenga nuevas facultades o tenga nuevas prestaciones,
pero me parece que eso hay que ir viéndolo derecho a derecho.
No me parece que podamos hacer límites generalistas
que se apliquen a todos contra ella, porque seguramente si lo hacemos
están, me parece que están llamados al fracaso.
No.
Entonces habrá que ver en el ámbito sectorial,
pues en década derecho donde están los riesgos y por la incidencia
de la inteligencia artificial, donde tienen que estar las reformas,
tenemos que reconocer nuevos derechos.
Lo que tenemos es que aumentar el contenido de, por ejemplo,
el derecho a la privacidad lo que tenemos es que aumentar
o reducir el objeto de lo que sea manifestación
o lo que no sea manifestación o las las dentro del contenido,
no las prestaciones que tiene que dar las obligaciones de maximización
de la obligación son las mismas cuando hay en juego
un sistema de inteligencia artificial
que cuando no igual hay muchas obligaciones,
o sea, parte de igual de los cambios que introduce
la inteligencia policial que tienen que ver con la posición que adopta
la administración en estos casos no prestaciones,
o sea, contenido prestacional,
el sentido de de explicar de poner en conocimiento etc
etc y eso también es una prestación entonces volviendo a tu pregunta
creo que, por un lado, pues está la beta de la regla
de la regulación europea, no en nuestros sistemas de riesgo,
que hay que ver luego cómo se van implementando en la realidad,
y, por otro lado, que me parece que solamente la propia dinámica,
pues social y jurídica nos permitirá ir viendo
qué incidencia tiene la inteligencia en cada derecho,
sin que me parece que no podemos normar con carácter general,
pues unas regulaciones que tratan de limitar el uso de la vida
en los derechos fundamentales en general, no, porque cada uno
es un mundo y no todos se resienten igual
o en la misma.
De la misma manera,
si no sé si andamos con tiempo para alguna pregunta más,
para una, me indican.
Un segundo, le pasa el micrófono.
Es brevedad, por favor Sí?
Sí nada.
Respecto a lo que acabo de decir, yo sí creo que sí se pueden hacer
límites generales a la inteligencia artificial,
en el sentido de que parto de lo de la premisa cupones al inicio
de tu posición que estén el mundo de lo fáctico.
Entonces, su rol se va restringir de una u otra manera
en cualquier tipo de interpretación del derecho fundamental
de incluso de decisión jurídica,
o de la determinación del ámbito de protección, del contenido esencial
o de la proporcionalidad o de cualquier toma de decisión
a lo fáctico y la el enfoque o el alcance que tengan.
Lo fáctico en la toma de decisión,
en la incertidumbre jurídica epistemológica de valoración.
Su rol es limitado,
porque ahí siempre va a tener que entrar.
El.
El lo que menciona es este la presunción pro humano,
prosa predominen en este caso no mejor dicho,
para tomar la decisión final.
Puede ser un instrumento,
pero siempre va a estar limitado al ámbito de los fácticos.
Desde ahí se puede decir que si hay un límite al menos plausible
para el rol de la inteligencia artificial,
inculcar toma de decisión, sea política en el estado de derecho
o en la protección, derechos fundamentales,
que es ser un instrumento para reducir la incertidumbre,
viste mica de tipo fáctica, pero no para resolver
o reducir la incertidumbre epidémica de tipo normativa.
Sí muchas gracias,
y efectivamente estoy de acuerdo con con con lo que dice,
y en ese sentido sí que también creo que también lo creo así de hecho
lo decía un poco al inicio de la exposición
o que sirve para reducir incertidumbre relativa
a hechos sociales, al mundo fáctico,
pero la incertidumbre jurídica no la podemos resolver
con inteligencia artificial,
no cuando un concepto es indeterminado o ambiguo.
Eso lo o pretendidamente amplio.
Lo que tratamos de hacer es interpretarlo
conforme a las reglas que tiene el propio sistema normativo
de interpretación.
No, pero no sin que una máquina nos diga esto,
pues hay que entenderlo así.
Por eso, me parece que la incertidumbre
a que hacíamos alusión antes es la incertidumbre que tiene
que vive, no en la vida social
y la complejidad pues eso pues económica social
financiera cultural etc
pero la incertidumbre jurídica me parece que sí que se deshace
de otra manera, fundamentalmente vía interpretativa
y en la medida en que el derecho también,
pues deje de renunciar a sus instrumentos
para que los colonicen pues los sistemas técnicos,
el derecho y también va perdiendo autonomía,
no porque va perdiendo sus propias reglas
de funcionamiento,
que le sirven también para ser un sistema.
Entonces sí estoy de acuerdo que y así lo he mantenido,
no que la incertidumbre jurídica
no es el terreno para la inteligencia artificial
y por tanto, las disputas, que son estrictamente jurídicas,
de interpretación de una norma o de siglo y Ciencia,
quiere decir o no sé qué quiere decir,
me parece que ahí pues la inteligencia artificial,
no 90, no nos da valoraciones.
De hecho sobre lo que pasa fuera, pero no intrasistema.
Pero bueno, muchísimas gracias.
Pues salvo que el coordinador de director de la jornada
diga otra cosa, cortamos aquí y nada.
Muchísimas gracias, Patricia por esta intervención.