Bueno, iniciamos ya lo que es la jornada en sentido estricto
y, bueno, con la particularidad
de que Pepe Tudela ha actuado hasta ahora
en calidad de copresentador, pero respondió también como experto
en la materia a la encuesta sobre inteligencia artificial
y derechos fundamentales.
Así que, bueno,
esperamos que participes también en tu calidad de experto
y contamos para moderar la jornada con el profesor.
Lucrecio Rebollo, compañero catedrático
de Derecho Constitucional, compañero en la UNED,
que también respondió a la encuesta en su calidad
también de experto en la materia.
Así que tenemos a cinco
de las personas que respondieron a la encuesta
y espero que entre todos generemos un debate interesante.
Le cedo la palabra enseguida a Lucrecio,
que moderará las intervenciones y el debate posterior.
Muchas gracias a todos.
Gracias.
Muchas gracias.
Yo quiero empezar, como es perfectivo,
agradeciendo esta invitación a participar en estas jornadas.
A María Salvador, como directora de la revista de teoría y realidad,
y por el ofrecimiento también a participar
en esa encuesta que últimamente se va convirtiendo.
En un hito de actualidad en el ámbito del derecho constitucional.
Afortunadamente, en el derecho constitucional
hemos pasado o hemos ido sepultando una serie de temas
con las que nosotros empezamos en el derecho constitucional,
como era la teoría del Estado, el derecho parlamentario.
Las tesis que se hacían antes eran fundamentalmente de estas materias.
Hoy han desaparecido prácticamente del plano y del ámbito.
Del derecho constitucional.
Hoy el carácter expansivo es el de los derechos
y libertades fundamentales
y, fundamentalmente, hay dos núcleos de proyección muy grandes.
Uno es el ámbito de la protección de datos de carácter personal
y todas sus implicaciones y otro es el de la inteligencia artificial,
que es el que nos va a ocupar hoy aquí.
En definitiva, Mi agradecimiento a la Fundación Manuel Jiménez Abad,
a la revista, a María y a Fernando Reviriego.
Mi función va a ser la de moderador.
Incluso diría que cuando iniciemos el debate
me toca realizar una función de provocador.
Quizás en esa provocación,
en esa intencionalidad de provocación inicial,
me atrevería a decir que.
La inteligencia artificial no es tanto como parece.
Desde el test de Turing de 1936 han pasado casi 100 años
y hoy tenemos una visión idealizada de la inteligencia artificial,
fundamentalmente mediatizada por el marketing,
por la cinematografía,
por la literatura de ciencia ficción, Pero luego se ocultan
muchas circunstancias que son también intrínsecas
a la inteligencia artificial.
Es decir,
no se recala en que un error de una inteligencia artificial
muy contrastada, como son los pilotos automáticos
de un avión, ocasionan 200 y pico muertos,
como ocurrió en el vuelo de Air France en Brasil en el 2009.
O, por ejemplo, no se recala
en que un exponente de marketing de la inteligencia artificial,
como es el coche autónomo, es incapaz de eludir determinados
obstáculos que eludiría un niño o que eludiría
cualquier persona que no tenga conocimientos de conducción.
En definitiva, que no es tanto como pudiera parecer,
pero por otro lado es mucho más de lo que conocemos.
Yo pienso que en el ámbito de la inteligencia artificial
muchos de los desarrollos los desconocemos.
Es muy probable que estén vinculados a circunstancias militares
o a avances militares, igual que ocurrió con Internet,
igual que ocurrió con la energía atómica.
Y es muy probable también que muchos desarrollos
los realicen países muy alejados del ámbito democrático,
porque en un contexto democrático,
mal que bien, las cosas se terminan sabiendo.
Pero en contextos antidemocráticos o autocráticos
esa circunstancia no es la misma,
con lo cual hay un ámbito de desconocimiento tremendo.
Luego, también por ir encuadrando el contexto del debate,
habría que decir que las dos herramientas clásicas
que la sociedad moderna tiene al respecto de cómo solventar
los problemas, una el derecho y otra el Estado,
sabemos que son insuficientes para ordenar esta nueva circunstancia
a la que llamamos inteligencia artificial.
El derecho es incipiente.
Afortunadamente en Europa tenemos un contexto de regulación puntera,
pero todos somos conscientes de que la regulación jurídica
no va a solventar todos los problemas.
Y la eliminación de las barreras del espacio
y del tiempo hacen al estado inoperativo.
Es decir, por mucho que se propongan los estados,
regular o limitar el uso de la inteligencia artificial
va a tener una eficacia muy limitada.
En definitiva, contextualizar la inteligencia artificial.
No como algo deslumbrante, no como algo trascendental,
casi como el demiurgo de Platón.
Esa divinidad que va a organizar de forma colectiva
el universo.
Yo creo que no, que la inteligencia artificial
no llegará a constituirse en ese demiurgo.
Pero que tiene mucha importancia, sí.
Y que tiene mucha influencia en el ámbito de los derechos
y libertades fundamentales, también.
Con lo cual, esa será la dinámica en la que tendremos que entrar
y conocer de cómo vamos a ir evolucionando en embridar
todas estas actividades en torno a la inteligencia artificial.
Decía al principio que, fundamentalmente,
mi intervención tiene carácter provocativo.
Con lo cual, lo mejor es esperar a la intervención
de cada uno de los invitados
y luego generaremos más incitaciones al debate.
De esa manera,
y sin más dilaciones, le vamos a dar la palabra a Ana Vacatoria,
que es profesora titular de Derecho Constitucional de la
Universidad de La Coruña y que tiene un conocimiento extenso
en el ámbito de la inteligencia artificial.
Cuando quieras, Ana.
Muy bien, pues muy buenas tardes.
Me van a permitir que, como es lógico y obligado,
pues lo primero es que agradezca.
En ese sentido, mi sincero agradecimiento
a la revista Teoría y Realidad Constitucional,
a todas las personas que la hacen posible, en especial a la profesora
María Salvador, y también agradecer a la Fundación Jiménez Abad,
Y agradezco tanto la mala invitación para participar en la encuesta
como la invitación para estar hoy aquí
en este interesante foro de debate y reflexión.
Sin duda, como todos sabemos, la revista y la Fundación
se caracterizan, entre otras muchas cosas,
por estar siempre a la vanguardia con actividades sobre temas
de máxima actualidad y que generan
una intensa preocupación social y jurídica.
En este caso, sobre IA y derechos fundamentales.
Por lo tanto, ahí es nada.
El tema es un tema que, digamos, provoca ideas o reflexiones
que pueden.
No contradecirse, pero sí chocar entre unos y otros,
aquellos muy a favor de la IA, quienes están en contra de la IA
o quienes, bueno, pues se mueven en un terreno,
digamos que de incertidumbre.
Pues evidentemente, como se viene diciendo
y como es innegable, la tecnología en concreto,
la inteligencia artificial, impacta y transforma todo lo que.
Así ocurre con el derecho en un escenario
donde los elementos que configuran el Estado,
los principios, los valores,
los derechos o las instituciones se ven afectados.
Estamos inmersos desde hace ya mucho tiempo
en una revolución política.
Jurídica, repleta de retos,
pero también de desafíos que nos obligan como constitucionalistas
a no perder nuestra hoja de ruta, a no perder la brújula,
a no perder la guía.
Me refiero a la limitación del poder, que es garantía de derechos
y en definitiva de la libertad.
Y de esto va la inteligencia artificial,
de ejercicio de poder, que es necesario controlar,
que es necesario supervisar y que es necesario limitar.
Para que no se produzcan vulneraciones de derechos
fundamentales, de valores y principios democráticos.
En definitiva, yo creo que esta es la cuestión de base.
Decía antes el moderador, el profesor Rebollo,
que la inteligencia artificial no es algo de ahora mismo,
sino que ya llevamos mucho tiempo tratando, estudiando, analizando,
generando inteligencia artificial.
Por lo tanto, digo que el problema no es actual o de hace poco tiempo.
El problema es un problema de limitación de poder,
en este caso de poder tecnológico, de poder económico,
con un impacto intensísimo en todos los ámbitos de la sociedad.
¿Por qué hablo de limitación de poder?
Porque el poder tecnológico, el poder tecnológico económico,
podríamos decir.
Tiene un alcance que le permite decidir,
resolver situaciones individuales o situaciones colectivas,
ya sea en el ámbito público, ya sea en el ámbito privado,
que incluso se adoptan o se toman sin revisión humana,
sin supervisión y sin control,
y que afectan intensamente a las personas,
a los grupos sociales y a las sociedades
y, evidentemente, al Estado.
Y más aún, cuando antes decía que como constitucionalistas
no podemos perder de vista nuestra guía, la brújula,
tampoco podemos perder o podemos olvidar cuál es la seña
de identidad de Europa o de la Unión Europea,
frente a otros modelos como.
Que indicaba el profesor Rebollo,
que apuestan por tecnología y por desarrollo económico,
incluso a expensas de nuestras libertades,
cuando lo cierto y necesario es que el desarrollo económico
y el desarrollo tecnológico es un deber del Estado,
pero que debe afrontarse abordando esos retos éticos
y regulatorios de calado.
Porque el desarrollo tecnológico
debe estar siempre al servicio de la sociedad
y, por tanto, de las personas,
de los individuos que somos titulares de derechos y libertades.
Esta especie de introducción que acabo de hacer
me permite entrar de una forma más breve
en las preguntas que se nos formularon en la encuesta
e incluso dar un anticipo de respuestas que se han avanzado
o que se han dado a las diferentes cuestiones.
En cuanto a la primera pregunta sobre la incidencia
de la inteligencia artificial en los derechos fundamentales
reconocidos en la Constitución, por ello los derechos fundamentales
que podemos considerar tradicionales, la respuesta
no puede ser otra que la afirmación de que la inteligencia artificial
está prácticamente presente en todos los ámbitos de nuestra vida.
Con una consiguiente o con un resultado que es
una transformación acelerada de la sociedad,
de la economía y también del sistema jurídico constitucional.
Queda fuera de toda duda en este sentido
que la inteligencia artificial,
si se usa en todos los ámbitos de la vida, incluso aún no sabiendo
que utilizamos herramientas de inteligencia artificial,
por tanto, si esto es así, como digo,
en todos estos ámbitos se ejercitan derechos fundamentales
y, por ende, los derechos fundamentales
en mayor o menor intensidad.
Dependiendo en muchas ocasiones del tipo de herramienta de inteligencia
artificial que se esté utilizando y también la finalidad por el uso
de esa herramienta de inteligencia artificial,
como digo,
todos estos derechos fundamentales acaban siendo impactados o afectados
por la inteligencia artificial.
Por tanto, la primera consideración sería
que se produce un impacto transversal en la totalidad de los derechos,
como digo, con diferentes intensidades,
Y también siendo conscientes, sabiendo y asumiendo,
como también se ha indicado en la presentación,
que resulta imposible anticipar retos futuros.
Es decir, nos movemos en un escenario que diríamos
que su mayor característica o su característica principal
es la incertidumbre.
Y por lo tanto, a día de hoy, resulta imposible predecir.
El alcance de la IA en el ámbito de los derechos humanos.
Otra consideración que me parece necesaria es la necesidad
de reconocer las ventajas
y las oportunidades que ofrece la inteligencia artificial.
Bondades de la tecnología que no podemos rechazar.
Como por ejemplo en el ámbito de la salud,
en el ámbito de la educación,
en lo que se refiere a la eficiencia de diferentes procesos,
ya sean laborales, administrativos o incluso judiciales,
o en lo que se refiere a la optimización de recursos.
¿Por qué digo esto?
Porque muchas veces cuando abordamos el impacto,
el desarrollo,
los usos de las herramientas de inteligencia artificial,
parece que nos focalizamos.
En el impacto negativo
o los posibles efectos negativos o perjudiciales.
Y no podemos olvidar, como digo, la cara buena
o la cara amable de la inteligencia.
Volviendo al impacto o incidencia de la IA en los derechos,
debemos recordar que la tecnología no ha venido a generar
nuevos problemas éticos o jurídicos.
Sino que considero que la tecnología lo que hace
es intensificar desafíos que ya existen o desafíos que ha de abordar
o que ha de enfrentar o afrontar el derecho constitucional.
Lo que pasa es que ahora estos desafíos
por la naturaleza digital exigen una reinterpretación
o una actualización de regulaciones tradicionales.
Y la adopción de respuestas adecuadas en atención a la especificidad
de los entornos digitales.
Así, diríamos que por las causas, o mejor dicho,
las características intrínsecas de la IA,
como la opacidad algorítmica, la dependencia de ingentes volúmenes
de datos, mayoritariamente datos personales,
y su capacidad para tomar decisiones automatizadas,
poco explicables, se puede generar un impacto negativo,
tanto en las personas individualmente consideradas
como en las sociedades en su conjunto
o en determinados colectivos o grupos sociales,
tradicionalmente ya grupos vulnerables.
Y me refiero, obviamente, a lo que respeta la protección
y garantía de los derechos humanos.
Como decía, prácticamente todos los derechos
están afectados por la inteligencia artificial,
pero también es cierto que unos derechos están más afectados
o más impactados que otros.
Sería el caso, poner algún ejemplo, y bueno,
y no.
No agotar demasiado tiempo, la autonomía personal,
intensamente afectada por el determinismo algorítmico
y la falta de transparencia en los sistemas que inciden
en la vida de las personas.
Otro tanto sucede con el derecho a la privacidad,
la protección de datos, que garantizan,
como sabemos, el libre desarrollo de la personalidad o la identidad
de una persona, que se encuentran en constante riesgo,
en constantes amenazas,
por el uso invasivo de tecnologías de vigilancia
o el tratamiento masivo de información personal.
En este sentido, no debemos olvidar
que la inteligencia artificial se nutre de datos
y que también se utilizan herramientas de inteligencia
artificial para tratar datos personales.
En los entornos digitales,
las libertades de expresión e información,
así como las libertades de participación en general,
se enfrentan a desafíos importantes debido a fenómenos tan.
Extendidos como la manipulación algorítmica de contenidos
y la propagación automatizada de desinformación
o de desórdenes informativos.
Y, si me permiten, una especial referencia a la igualdad
y no discriminación.
La igualdad y no discriminación
constituyen un principio básico, un derecho fundamental
que se proyecta en todos los demás derechos.
Este derecho está especialmente afectado
debido a los riesgos algorítmicos que pueden perpetuar
e incluso intensifican, agrandan, agravan desigualdades estructurales.
Lo que evidencia la peremptoria necesidad
de incorporar la equidad en el diseño algorítmico,
siendo también fundamental en este punto
recordar la exclusión digital que sufren muchas personas,
que sufren principalmente determinados colectivos
ya tradicionalmente excluidos o vulnerables,
Por, ya sea la falta de acceso a la tecnología,
por la falta de capacitación digital,
por su no participación en generación de datos y, obviamente,
por su no participación en el diseño de la tecnología.
Entraríamos en un tema complejo,
en un tema prioritario para los constitucionalistas,
como son las brechas digitales y su agrandamiento
en los entornos digitales.
Y, finalmente, tendríamos
o podríamos hacer referencia al impacto de la IA,
la tutela judicial efectiva, a través de esas decisiones
automatizadas que plantean serios retos
o pueden plantear serios retos para el debido proceso.
En cuanto a las consecuencias en los derechos
implicados directamente en los procesos democráticos,
entroncaríamos con la pregunta anterior respecto al impacto de la IA
en los derechos fundamentales y concretaríamos que su impacto
es especialmente preocupante o negativo
en los procesos democráticos.
Aquí la respuesta giraría
o podría establecerse en torno al papel determinante
que juegan los gigantes tecnológicos que favorecen determinados intereses
y que condicionan en buena medida la participación y el voto
de la sociedad.
En primer lugar, Es importante
considerar la transformación del ecosistema informativo,
donde se ha diluido el papel tradicional de los medios,
como los medios de comunicación, como garantes del debate público
informado.
Ahora el debate o la opinión pública se conforma en otros escenarios,
se conforma en un escenario protagonizado radicalmente
por las redes sociales y por las plataformas digitales,
donde brillan por su ausencia la reflexión y la razón,
y donde el.
En contrapartida, pues impera la emoción
y el impulso del clic y el me gusta.
El funcionamiento a través de algoritmos
optimizados lo que pretende es maximizar la atención
y la interacción para rentabilizar el tiempo de navegación
de las personas, el tiempo que están inmersos en los canales digitales
y el consumo de publicidad,
en lugar del debate plural o la calidad informática.
Como nadie se lo oculta, el resultado es tremendo
para la calidad de la democracia.
Nos encontramos en un entorno de comunicación,
un entorno comunicativo fragmentado y polarizado,
donde la verdad actual realmente ya no importa
y donde el debate democrático, como decía,
no es lo más relevante y ni siquiera es posible.
Con la imposibilidad lógica de generar una conciencia crítica.
Esta preocupación es mayor si tenemos en cuenta
que esta realidad que se construye en redes sociales,
esa realidad controlada o esa generación o creación de una realidad
en las redes sociales está controlada por las otras compañías tecnológicas
y tiene una proyección en los resultados electorales.
Este riesgo.
Le ganan al calce para la democracia,
ha sido identificado en el Reglamento de Servicios Digitales,
que establece obligaciones específicas, como sabemos,
para proveedores de servicios de recomendación algorítmica.
El objetivo es garantizar la transparencia,
especialmente en estas plataformas de gran tamaño.
Sobre esto no voy a entrar más, seguramente para compañeros
que incidirán en estas cuestiones.
Recordar que el Reglamento General de Protección de Datos ya
establecía derechos relacionados con la toma de decisiones automatizadas,
como el derecho a obtener información clara y significativa
sobre la lógica aplicada en la toma de estas decisiones.
Por otro lado, también resaltar los desafíos que se plantean
por los usos de inteligencia artificial
y lo que se refiere a la microsegmentación
y la personalización masiva de mensajes políticos.
Ahí están los algoritmos funcionando o trabajando en análisis masivo
de datos que permiten ese diseño de campañas políticas
hiperpersonalizadas que apelan, como decía antes,
a emociones y no al razonamiento de las personas a la hora de votar,
que al final, lógicamente, pueden lograr esa manipulación
de la intención de voto y poner en riesgo
pues en sí misma la igualdad de condiciones
de los procesos electorales.
Conocimos en este sentido la utilización del perfilado,
si recuerdan, en la campaña de Obama,
de Barack Obama en 2008,
y nos quedamos perplejos, perplejas con el escándalo de
Cambridge Analytica en 2016 por ese poder potentísimo de los anuncios
dirigidos o personalizados.
Y a partir de ahí hemos ido sumando casos de forma continua,
coincidiendo con los distintos procesos electorales
a lo largo y ancho del mundo.
Y, por ejemplo, en India, en 2024,
saltó la alarma con la utilización de inteligencia artificial generativa
en chatbots dispuestos para responder preguntas de los votantes.
Habría que preguntarse el grado o el nivel de manipulación
de esas personas.
Me gustaría referir para que el impacto de la IA
en los procesos democráticos,
ya sea a través de ciberataques, de manipulaciones,
de errores o sesgos algorítmicos, no se limita a ese ámbito informativo
ni a la integridad de los propios procesos
o el mismo derecho de sufragio,
porque otro efecto, podríamos decir que colateral y muy negativo,
es la afectación de la confianza ciudadana
en las instituciones y el debilitamiento de la legitimidad
de los resultados electorales.
En este sentido,
cobra un protagonismo intuitado la inteligencia artificial generativa
con ese potencial a la hora de generar contenidos falsos,
documentos, imágenes o voces extremadamente realistas
de forma muy fácil, a muy bajo coste y que, lógicamente,
se puede utilizar para difamar, para manipular.
Las percepciones o incluso sembrar dudas
sobre la legítima de los procesos de sobra conocidos y.
Existen.
Lógicamente, la proliferación de todo este tipo de contenidos
durante procesos electorales plantea desafíos jurídicos
que deben abordarse mediante la transparencia,
rendición de cuentas y una protección de derechos fundamentales efectiva
que requiere también una legislación específica
y adecuada para dar respuesta a estos desafíos.
Para cerrar esta pregunta,
me gustaría quedarme con que la IA también tiene un potencial,
tiene potencial para fortalecer la democracia,
contribuyendo a mejorar la eficiencia,
la transparencia y la participación ciudadana,
o incluso ayudando a la elaboración de políticas públicas
más eficaces a partir del conocimiento de las necesidades
y de las preferencias de los intereses de la ciudad.
Además, Playa puede contribuir a la lucha contra la corrupción
o a construir sistemas de ciberseguridad más robustos.
En cuanto a la dogmática de los derechos fundamentales,
aquí voy a ser muy breve, como decía antes,
para ceder rápidamente la palabra.
Compañeros en este debate.
Bueno, en primer lugar, decir que, en cuanto a los sujetos,
pues, como sabemos,
los derechos fundamentales han sido tradicionalmente derechos
objetivos individuales.
Pero es que la inteligencia artificial introduce dinámicas
que afectan tanto a individuos, a personas como a colectivos.
Incluso afecta,
o hablaríamos de entidades no humanas.
Las decisiones algorítmicas impactan en sociedades enteras,
podríamos decir,
mediante esa elaboración de perfiles grupales con técnicas de dictada
y que generan o pueden generar discriminaciones estructurales,
como decía antes, principalmente dirigidas
o que principalmente afectan negativamente a colectivos
tradicionalmente vulnerables.
Por ello, es necesario incorporar una dimensión colectiva
a los derechos fundamentales para proteger a los grupos
frente a los riesgos derivados del mal uso
de la inteligencia artificial.
En cuanto al contenido de los derechos, por ejemplo,
como ocurre con la privacidad, los derechos o muchos derechos
requieren una reinterpretación.
En el caso de la privacidad, como decía,
es cierto o sabido que este derecho transitó desde una concepción.
De derecho negativo de exclusión hacia su configuración o concepción
como derecho a la autodeterminación informativa,
entendida como la capacidad o la facultad otorgada a las personas
para conocer y controlar cómo se utilizan sus datos.
Pero es que esto ante la inteligencia artificial
exige garantías de transparencia algorítmica
y de explicabilidad que permitan a las personas afectadas,
a las personas interesadas,
comprender el tratamiento que se hace de sus datos personales.
Es cierto que el Reglamento General de Protección de
Datos establece el régimen jurídico de protección,
pero es que la inteligencia artificial exige más, exige avanzar,
exige dar más pasos, exige establecer nuevas medidas,
como son las auditorías de los sistemas algorítmicos
para prevenir impugnaciones o incluso que el derecho al olvido.
Que se reconoció en su momento por el TJUE
en el asunto Google Spring, comprende ahora el derecho
a que los algoritmos no perpetúen sesgos históricos
o juicios erróneos que afecten negativamente a las personas.
Sería un ejemplo de relaboración,
de reinterpretación o de reajuste de derechos fundamentales.
Quizás el mayor reto para asegurar la eficacia,
la garantía de los derechos.
Ahora derechos digitales, es que tenemos que contar
o tenemos que disponer de un marco regulatorio
que garantice la vigencia, la eficacia de los derechos
frente a privados.
Hablamos, lógicamente, de los derechos
frente a las empresas tecnológicas, básicamente.
Los derechos, decía antes, que, como he sabido,
actúan como límites al ejercicio del poder.
Y aquí nos encontramos enormes dificultades
porque, como también se ha avanzado en la presentación,
estos sujetos, estas todopoderosas o todopoderosas empresas tecnológicas
se sustraen al derecho público y tienen una naturaleza
o un carácter transnacional.
Quizás el derecho europeo sea la herramienta de más utilidad,
más eficaz para controlar todo lo que sea posible, todo lo que es posible
que las empresas cumplan con los derechos.
Como se ha señalado, es evidente la necesidad de adaptar
las garantías tradicionales a los entornos digitales.
Y antes me refería al derecho a la igualdad
y a la no discriminación,
que considero que es un derecho especialmente vulnerable,
especialmente impactado o afectado por la inteligencia artificial
a causa de los hechos algorítmicos.
Y que en ese sentido se deben utilizar herramientas
como las auditorías y mecanismos de explicabilidad,
que sí recoge, por ejemplo, el reglamento de inteligencia
artificial.
Para terminar esta cuestión, decir que en este complejo proceso
de adaptación de los derechos a la inteligencia artificial,
o de nuestro derecho a la inteligencia artificial,
hay un elemento esencial, y es la alfabetización digital.
Considero que la educación, la alfabetización,
la capacitación se revela como un instrumento imprescindible
para garantizar la libertad y la seguridad de la ciudadanía
en un entorno absolutamente determinado por los algoritmos.
Sin duda, es necesaria una comprensión básica
del funcionamiento de la técnica, del funcionamiento de la tecnología.
Es decir, ¿qué es la inteligencia artificial?
¿Cómo funciona la inteligencia artificial?
Es necesario conocer los riesgos aparejados a ese funcionamiento,
a ese uso de herramientas de inteligencia artificial.
La ciudadanía queda expuesta a la vulnerabilidad digital,
no solo por la falta de autoprotección,
sino también porque desconoce sus derechos
y las garantías de sus derechos en estos entornos digitales.
Y esta vulnerabilidad digital es muy probable que sea creciente
y que agrave otras vulnerabilidades, como vengo insistiendo,
ya existentes.
Por tanto, las políticas públicas deben priorizar la educación digital
como un pilar esencial del sistema de garantías
y complementado, lógicamente, con los posibles
o los adecuados ajustes normativos.
En cuanto a una posible incorporación o la necesidad
de incorporar constitucionalmente algún nuevo derecho fundamental,
lo cierto es que esta cuestión está presente
en el debate constitucionalista, manteniéndose en diversas posiciones
al respecto.
Es indudable, como venimos diciendo,
que los desafíos tecnológicos afectan a los derechos tradicionales.
Sin embargo, considero que.
Esta afectación, este impacto, no justifica suficientemente
que sea necesaria una proliferación de nuevos derechos
a nivel constitucional.
Y esto iría en línea con lo afirmado por el Tribunal Constitucional,
quien considera que la solución que se ha de dar
a los desafíos tecnológicos,
a los continuos desafíos tecnológicos, Como digo,
esa solución no reside en la creación de derechos,
sino en el fortalecimiento de las garantías ya existentes.
En ese sentido, el Tribunal Constitucional,
en sentencia del año 2018, afirmaba que las nuevas realidades
que pueden incidir en el ejercicio de los derechos fundamentales,
su delimitación y su protección,
requieren adaptar la doctrina constitucional.
Para que sea posible afrontar con eficacia los riesgos.
En ese sentido, poder ofrecer adecuadas
respuestas constitucionales.
Evidentemente, no estamos ante algo nuevo.
Conocemos cómo a través de la interpretación
de la cláusula del 18.4 de la Constitución
se reconoció un derecho fundamental autónomo
a la protección de datos personales.
Por tanto, en esta línea considero
que no es necesaria una actualización expresa de la Constitución.
Porque la interpretación constitucional,
una interpretación evolutiva, una adecuada legislación
y el acompañamiento de políticas públicas
adecuadas son una alternativa a la reforma constitucional
para poder responder adecuadamente a los nuevos retos jurídicos
constitucionales.
A favor de la reforma se utilizan argumentos
como la mayor seguridad jurídica,
elevar el estatus de los derechos digitales,
que permite incorporar principios.
Rectores sobre el uso ético de la IA.
Pero, como repito, considero que esta no es la solución óptima
y teniendo en cuenta, además, que una reforma de este tipo
plantea riesgos que la desaconsejan.
En este sentido, también recordar que a nivel europeo
y a nivel internacional lo que avala
es mi opción por no apostar o.
Mostrarme a favor de la forma constitucional,
como digo, a nivel europeo, a nivel internacional,
prevalece esa tendencia de proteger derechos tradicionales
en los entornos o en los contextos digitales.
En ese sentido, establecen obligaciones específicas,
garantías para los derechos y los entornos digitales
sin llegar a crear, repito, derechos completamente nuevos.
Esta tendencia o esta línea ya la encontrábamos en el RGPD
y el RIA sigue el mismo.
Por tanto, repito, el debate no debe centrarse a mi juicio
exclusivamente en la creación de nuevos derechos,
sino en focalizarse en garantizar la eficacia
de los derechos tradicionales o los derechos ya existentes
ahora en los entornos digitales.
Teniendo eso sí en cuenta, pues algo que ya se ha avanzado,
que es la dificultad que supone que nos movemos en un espacio global
y que tampoco hay un reconocimiento a escala o a nivel global
de estos derechos.
En cuanto a nuevos instrumentos de garantía
de los derechos fundamentales, bueno, sin ánimo de ser repetitiva
y por eso intentando ser lo más sostenida posible,
decir que la.
Naturaleza intrínsecamente algorítmica y en constante evolución
de la inteligencia artificial
dificulta prever los límites de su desarrollo.
Es prácticamente, podríamos decir,
imposible prever qué va a pasar a pocos años vista.
Ya no digo un futuro lejano, sino a pocos años vista.
Esto plantea, lógicamente, un desafío a la hora
de diseñar un régimen jurídico que pueda responder con eficacia
y con solvencia a los numerosísimos desafíos digitales.
En este contexto, además, es fundamental saber equilibrar
o poder equilibrar el progreso tecnológico
con la protección de derechos fundamentales,
recordando que la tecnología debe estar siempre al servicio
de las personas, esto es obvio,
contribuyendo a mejorar sus vidas y no al contrario.
Claro, este imperativo requiere un enfoque humanista
que integre una perspectiva de derechos en todas las etapas,
tanto del diseño, del desarrollo y de la implementación
de las herramientas tecnológicas de los sistemas de IA.
En otras palabras, diríamos que lo importante
no es únicamente regular las herramientas en sí mismas,
sino regular los usos concretos de esas herramientas,
porque son esos usos los que, con esa regulación,
digamos que determinará si el desarrollo
y la innovación sirve o actúa como motor de progreso
o como fuente de peligro para las personas
y para las sociedades en las que las personas viven.
La experiencia europea.
Desde la implementación del RGPD ha puesto de manifiesto,
pone manifiesto la importancia o la necesidad.
De combinar un enfoque preventivo con mecanismos de supervisión eficaces.
Y este mismo modelo se aplica en la regulación de la IA,
para asegurar, repito, que ese desarrollo tecnológico imprescindible
sea compatible con los derechos y con los valores democráticos
sobre los que se sustentan nuestras sociedades y nuestro modelo,
nuestra forma de convivencia.
Aquí entraría el principio de transparencia
como una garantía transversal ante la opacidad inherente
a muchas herramientas algorítmicas.
El tema, al profundizarlo, es igual para el resto de los ponentes
o, en su caso, para el departamento.
Aquí también señalar algo que saldrá en las intervenciones posteriores
y es la necesidad de contar con autoridades independientes,
tanto nacional como a nivel europeo,
que puedan ejercer de forma solvente por las funciones de control,
de supervisión y de verificación de las herramientas de IA.
¿Para qué?
Pues, lógicamente, para poder vigilar
que se cumplen principios fundamentales o básicos,
como el principio de legalidad, el principio de proporcionalidad,
la no discriminación, a la que y esa necesaria transparencia
y explicabilidad de la tecnología.
Habría que se podría entrar
en la regulación del RIA de estas autoridades,
pero como digo, queda para las intervenciones
posteriores o para el debate.
Y por último, se nos preguntaba nuestra opinión.
Sobre el RIA
y también sobre el convenio marco del Consejo de Europa
sobre Inteligencia Artificial y Derechos Humanos,
Democracia y Estados Unidos.
Mi valoración no puede ser más que positiva,
por una razón que no es otra que la aprobación
de estos dos instrumentos jurídicos, que son hermanos en el tiempo,
reflejan claramente tanto la voluntad de la Unión Europea
como la voluntad del Consejo de Europa.
De garantizar entornos digitales seguros.
Y para eso establecen o pretenden establecer un marco sólido.
Ahora bien, ambos instrumentos tienen una naturaleza jurídica distinta
y, por tanto, su enfoque y su alcance cambian.
Considero que es importante destacar que el RIA
no se centra exclusivamente en las personas,
ni establece un régimen específico de garantías porque sus objetivos,
digamos que principales son otros.
Antes se hablaba de la accesibilidad,
del lenguaje accesible, del lenguaje comprensible.
Bueno, el RIA es una norma técnica,
entonces no es una norma que regule derechos.
Y creo que esto es importante tenerlo en cuenta.
Y, bueno, pues una diferencia clara, por ejemplo, respecto al RGPD.
Los objetivos del RIA decía que son otros.
Son la seguridad de los sistemas de inteligencia artificial,
estimular la inversión,
estimular la innovación e inteligencia artificial,
en el sentido de no dejar a la Unión Europea
detrás respecto a otras potencias que están avanzando,
están desarrollando.
Y la inteligencia artificial de una forma muy acelerada.
En Europa, la Unión Europea no puede quedarse atrás.
El legislador europeo toma un modelo de gestión de riesgos
y una clasificación de los sistemas de inteligencia artificial
en categorías.
En función de la categoría a la que se clasifique cada sistema,
pues enfrenta unas obligaciones más o menos intensas,
como digo, en función de ese nivel de riesgo
de los derechos y las autoridades.
Como os he dicho,
para no repetirme más, solo recordar que el principio de transparencia
y el principio de explicabilidad algorítmica
son garantías transversales de las que derivan obligaciones
para los diferentes actores involucrados en el ciclo de vida
de los sistemas de inteligencia artificial.
Esto es importante
durante todo el ciclo vital del sistema de inteligencia artificial.
Respecto al convenio en marco del Consejo de Europa
sobre Inteligencia Artificial,
señalar que sí tiene un alcance más amplio,
porque es un tratado internacional,
por lo tanto involucra a países que no pertenecen a la Unión Europea.
Su enfoque sí se centra más en la protección
de los derechos humanos.
Como su propia denominación indica, protección de derechos humanos,
democracia y el Estado de derecho,
frente al desarrollo y al uso de la inteligencia artificial.
Y prevalecen estos contenidos, estos aspectos,
frente a otros de naturaleza netamente económica o de mercado,
como sería el caso del reloj.
La principal diferencia entre ambos instrumentos radica
en que el RIA establece obligaciones vinculantes a acciones específicas
para los miembros de la Unión Europea,
mientras que el convenio del Consejo
proporciona un marco de cooperación a nivel internacional,
a escala internacional.
Establece, digamos, que directrices, orientaciones, por lo tanto,
mayor flexibilidad, que permite que cada país pueda adaptarse
a esas estipulaciones del convenio.
No obstante, el convenio, digamos, que está destinado a cumplir un papel
o una función esencial,
porque integra en el ámbito jurídico.
Lo que, hasta su aprobación,
eran meras directrices éticas sobre IA.
Por lo tanto, sienta bases para futuras regulaciones
que puedan establecer obligaciones específicas.
Y ya el último segundo para hacer hincapié
en algo que es importantísimo, y es que el convenio.
Enfatiza la dimensión colectiva de los derechos
a la que me referí muy brevemente antes frente a los riesgos sociales
grupales que plantea la inteligencia artificial.
Sobre esto seguramente el profesor Cotino
incidirá mucho más porque es un tema que ha estudiado profusamente.
Ambos instrumentos, lógicamente, tienen su espacio propio,
se complementan dentro de un marco multinivel que permite abordar
los desafíos del IA desde diferentes perspectivas,
lo que sin duda supone un importante desarrollo
para el derecho digital.
Y hasta aquí mi intervención.
Gracias.
Muchas gracias, Ana.
A continuación, tiene la palabra Mario Hernández Ramos,
que es presidente del Comité de Inteligencia
Artificial del Consejo de Europa.
Y es también profesor
de Derecho Constitucional de la Universidad Complutense.
Y como la mayoría de los invitados en el día de hoy,
también un especialista en el ámbito de la inteligencia artificial.
Cuando quieras, Mario.
Bueno, muchas gracias.
Muchas gracias, profesor Lucrecio.
En primer lugar, por supuesto, agradecer a la revista,
a María Salvador y a Fernando Revirigo,
primero por invitarme a la presentación, encuesta
y luego a este debate junto con la Fundación Jiménez Abad.
Debates que son muy interesantes
porque enriquecen cuestiones que no están en absoluto cerradas
y que son cuestiones que necesitan muchísimo debate
y muchísima reflexión,
sobre todo desde la óptica constitucional nacional,
porque hay otras ópticas como la administrativa
o el derecho internacional o sobre todo el derecho europeo,
que pretende erigirse en la única disciplina regulatoria
de una tecnología que es absolutamente.
Horizontal o cuyos efectos son absolutamente horizontales.
Dicho esto, me gustaría resaltar que estoy totalmente
de acuerdo con lo que ha dicho el profesor Rebollo al principio,
que no tiene nada de carácter provocativo,
que dijo que la inteligencia artificial es más de lo que parece,
y es verdad, hay una especie de hype de la inteligencia artificial,
muy interesado sobre todo por aquellas empresas
que viven de ello, que nos asustan continuamente de que la inteligencia
artificial en menos de dos años va a ser.
Una tecnología que nos va a desplazar en absoluto
y que va a tener consciencia,
como si supiéramos lo que es la consciencia para empezar.
Son todo debates absolutamente filosóficos.
La segunda cuestión es que la inteligencia artificial
es más problemática de lo que parece.
Y es verdad, porque como ya dije al principio,
lo más importante para hablar de inteligencia artificial,
sobre todo los juristas, es saber qué es la inteligencia artificial,
qué es realmente la inteligencia artificial
cuando nos estamos refiriendo a esta tecnología.
Porque es una tecnología realmente que no es una tecnología única.
La inteligencia artificial es un conjunto de tecnologías,
es un concepto coloquial,
un concepto paraguas que alberga muchas tecnologías
y que cada año van saliendo nuevas tecnologías que a veces
hacen evolucionar lo que son capaces de hacer y nos dejan a sombra.
Por eso la mayoría de los textos regulatorios
son tecnológicamente neutrales,
no hacen referencia a una tecnología concreta,
sino que simplemente se refieren en abstracto
a lo que es la inteligencia artificial.
Por eso yo en la encuesta
o cada vez que hablo sobre inteligencia artificial,
cualquier reflexión sobre inteligencia artificial
y su incidencia en el ámbito jurídico-social,
creo que tienen que partir de dos cautelas contextualizadoras,
que le llamo yo.
La primera, como os digo,
es ¿qué es la inteligencia?
Hay ya ahora mismo
muchas definiciones en muchos textos jurídicos,
también en códigos de buen gobierno, códigos internos,
pero realmente los técnicos y los juristas
no nos ponemos de acuerdo en una definición
universalmente aceptada.
Las definiciones que existen son definiciones funcionalistas,
son definiciones en tanto en cuanto sirven para ese texto.
Pero esa definición no sirve para otros textos jurídicos
o no sirven para otras realidades nacionales.
Es verdad que, por ejemplo, aquí en Europa
hemos sido suficientemente inteligentes como para las tres
principales instituciones europeas encargadas de darle vueltas
a cómo incide la inteligencia artificial en nuestra vida diaria,
que es la Unión Europea, el Consejo de Europa y la OCDE,
pues se han puesto más o menos de acuerdo,
le han dejado un poco el protagonismo a la OCDE,
y han seguido la definición y las categorías que la OCDE
ha estado desarrollando en torno a qué se puede considerar
como inteligencia artificial.
Pero insisto que todos los conceptos o definiciones que hay
en los tratados o en los textos son definiciones finalistas,
definiciones cuya validez terminan en la aplicación
de ese texto.
Por eso a mí me gusta muchas veces empezar.
Animando a adoptar más que una definición,
sobre todo un concepto.
Es decir, somos capaces como juristas de identificar
cuáles son los elementos más importantes
que nos puede ayudar para identificar que lo que tenemos delante
y que lo que está interactuando con nosotros es un sistema
de inteligencia artificial y no es un Excel absolutamente maravilloso,
no es un robot que solo aprieta tuercas,
no es un humanoide que no es capaz de actuar de manera autónoma.
Entonces, por eso,
el primer ejercicio que habría que hacer es quitar muchos mitos
que existen en la sociedad, sobre todo en la prensa,
muchos mitos que se han ido creando a través, de manera interesada,
por las empresas que se dedican a esto,
y es considerar otorgarle una especie de antropomorfización
a la inteligencia artificial.
Para no profundizar en esto,
porque yo creo que es un concepto que todos más o menos entendemos,
simplemente hagan el ejercicio de.
En vez de entender o llamar a chat
GPT inteligencia artificial, le llamaran un sistema estadístico
súper avanzado.
Pues no levantaría ningún tipo de problemas
o de ningún tipo de pasiones como está haciendo ahora mismo
la inteligencia artificial.
¿Realmente la inteligencia artificial es un sistema inteligente?
Entendiendo inteligente como una de las características
más definitorias y fundamentales del ser humano.
Para empezar, no sabemos muy bien lo que es la inteligencia humana.
Hay muchos tipos de inteligencia,
hay muchas formas de expresar la inteligencia,
y como tales,
habrá sistemas que se centren en un tipo de inteligencia,
inteligencia social, inteligencia cognitiva,
inteligencia espacial, inteligencia de lenguaje, etc.
Por eso, cuando se habla ahora mismo con las últimas evoluciones del chat
GPT, dice que es que razona, y nos sorprendemos por qué.
Parece que entablamos una conversación o dices,
espérate que pienso porque estoy discurriendo y claro,
si me dices esto entiendo esto,
pero si me dices lo otro entiendo lo otro.
Todo eso que ocurre
y que nosotros creemos que es algo absolutamente nuevo,
eso ya está previsto por y para el sistema.
No es una cosa que se lo invente la máquina.
Para demostrar esta idea, o bueno, para ilustrarla mejor,
porque yo no soy tampoco un técnico,
Dios me libre, soy solo un jurista y por lo tanto tengo un conocimiento
muy limitado de esta tecnología,
es muy ilustrativo ver el diferente tono
de aquellas personas que son responsables empresarias
y sobre todo grandes empresarios, grandes emporios tecnológicos,
de lo avanzadísimo que está la inteligencia artificial,
de lo cerquísima que estamos de la inteligencia artificial
general, de la superinteligencia, de los ámbitos académicos
que llevan trabajando sobre inteligencia artificial décadas,
y que no son unos tontos, y que cuando les dicen que va
a haber una inteligencia artificial o superinteligencia artificial
en dos o tres años se echan a reír.
¿Por qué no se le da un poquito más de voz a los académicos?
Parece que los académicos ahora mismo están muy denostados
porque Sam Altman es el que mejor desarrolla las cosas.
Bueno, tiene muchos más medios, por supuesto.
Esta gente es buenísima, de no estar en absoluto,
pero tiene sus propios intereses.
Y eso es una de las cuestiones también que hay que tener en cuenta
sobre la inteligencia artificial.
Que la inteligencia artificial no es objetiva.
Luego hablaremos de ello.
La inteligencia artificial, como la identificamos
como un instrumento basado en las matemáticas,
y las matemáticas son objetivas y neutras,
por ende, la inteligencia artificial es objetiva y neutra.
Por eso debemos confiar mucho mejor en los resultados
de un sistema de inteligencia artificial que lo que diga un juez,
que lo que diga un profesor o que lo que diga un profesor.
Y eso es un sesgo que está muy estudiado,
que es el sesgo tecnológico.
Que jugó un gran papel, por ejemplo, cuando se intentó poner Veripol
u otros sistemas en la policía.
Riskambi, pero que no es inteligencia artificial realmente,
pero bueno.
En el que los policías realmente se echaban un poco para atrás
cuando su impresión era contradictoria con el resultado,
un resultado bastante contundente de un porcentaje muy grande.
Del output que le ofrecía la máquina,
la inteligencia artificial o menos inteligencia artificial.
Así que tenemos unos cuantos problemas
sobre los que deberíamos de pensar antes de lanzarnos
a ver cómo de importante
puede ser la incidencia de la inteligencia artificial
en los derechos.
Te digo que nos tenga, por supuesto, te digo que hay que encuadrar
las cosas en su justa medida.
Otra de las cosas que también dijo el profesor Lucrecio
es que ahora mismo parece que la inteligencia artificial
sirve para todo.
Esto que llamaba Sosuf, solucionismo tecnológico.
Parece que en la inteligencia artificial
hay un sistema de inteligencia artificial para todo.
Bueno, pues no es verdad.
Tenemos muchos sistemas de inteligencia artificial
que nos ayudan mucho, pero realmente son cuestiones
un poquito más del día a día, ¿no?
Que nos ayuda a potenciar,
pero que todavía estamos lejos de poder eliminar la presencia
del ser humano.
De una manera general.
No digo que ya exista, digo que esa presencia
y que se democratice a nivel mundial va a tardar bastante en llegar.
De nuevo, por discursos bastante interesados.
Por tanto, yo cuando hablo de inteligencia artificial,
sobre todo me centro en dos conceptos
o dos elementos definitorios de esta tecnología, que es
sobre todo.
Perdón, voy a silenciarlo
porque oían ustedes los mensajes, ¿verdad?
Muy molesto.
Hay dos características que define la inteligencia artificial.
La primera característica es que debe tener autonomía,
es decir, debe ser capaz de tomar decisiones por sí misma,
sin la supervisión y sin el apoyo de un ser humano.
Y en segundo lugar, tiene que ser capaz
de aprender de su entorno, de adaptarse.
En un entorno es capaz de ver qué es lo que está pasando,
aprender, adaptarse y tomar decisiones diferentes
a las que podía haber tomado antes de estar en ese entorno.
Entonces, estas dos conceptos o características encajan
para los sistemas que existían antes de la irrupción
de la IA generativa, de los agentes ahora mismo,
de los agentes interoperables,
que es lo que va a pasar dentro de unos poquitos meses
y que nos vamos a.
Empezar a preocupar bastante,
porque eso sí que ya es una cosa un poquito más seria.
Entonces, bueno,
creo que es importante hacer este ejercicio de reflexión
y de conocimiento.
Y luego la segunda, por así decirlo, cautela contextualizadora
es la rápida evolución en la que nos encontramos,
como dijo también el profesor Lucrecio
y también la profesora Abad.
Ahora mismo estamos en una evolución tecnológica
tan rápida que es difícil.
Que una disciplina con un derecho
cuyo objetivo fundamental es la seguridad jurídica,
pues sea capaz de adaptarse.
Pero bueno, tenemos que intentarlo,
porque si no, entregamos a una tecnología que puede
estar ejercitando un poder, como decía también la profesora Ana,
un poder que afecta a los ciudadanos
y que puede generar auténticas desigualdades
en las sociedades, entre países, entre mundos,
tenemos que el derecho constitucional juega un papel,
es decir, tenemos que el derecho constitucional
jugar ese papel contra el Leviatán 4.0 de la sociedad 4.0.
Por ir siguiendo un poquito el esquema
rápidamente de la encuesta,
que me pareció muy interesante, en primer lugar,
he preguntado a qué derechos están afectados.
Claro, ya lo he dicho, es muy difícil encontrar un derecho fundamental
que sea totalmente ajeno a esta realidad que está en horizontal.
La inteligencia artificial efectivamente tiene la potencialidad
de incidir claramente en todos los ámbitos
de la realidad donde cualquier derecho fundamental
reconocido se ha reconocido en nuestra Constitución.
Pero lo que hay que tener en cuenta también
es que esta afectación no es solo una afectación negativa,
igual que la Constitución no es solo una limitación de poderes,
sino también una norma que intenta promocionar el estilo de vida,
la dignidad, los derechos de los ciudadanos,
la inteligencia artificial.
Sobre todo y más que ofrecer riesgos,
ofrece oportunidades.
Muchas oportunidades para contribuir
a la optimización de principios constitucionales,
a la eficacia de derechos fundamentales.
Los derechos sociales es un grandísimo ejemplo.
El derecho a la salud es uno de ellos.
O la seguridad, la participación política.
No obstante, hay tres derechos fundamentales importantes.
Yo creo que a pesar de esta horizontalidad
que tienen una afectación o se afecta de una manera más importante.
En primer lugar, por supuesto, la protección de datos personales,
porque la inteligencia artificial se nutre de los datos personales.
Entonces, el problema jurídico que tenemos aquí
es que los datos personales
que se utilizan por sistemas de inteligencia artificial
son tratamientos masivos y no son tratamientos primarios,
sino que son tratamientos secundarios y posteriores.
Entonces, eso considera.
Una reflexión, una atención, una reconsideración de la relevancia
de los principios establecidos en la normativa reguladora
de la protección de datos personales.
No solo me refiero al aumento de la importancia
de la prohibición del solo objeto de una decisión individual
automatizada, sino al cambio de la relevancia
y reconsideración de varios principios,
como el de la licitud del tratamiento,
pues en este tratamiento secundario masivo
pierde relevancia el consentimiento del titular en beneficio
de otras posibilidades.
El principio de limitación, de la finalidad del tratamiento,
el principio de minimización de edad.
Y eso es un campo de estudio muy interesante.
En segundo lugar, por supuesto, la igualdad y la no discriminación.
Pero como en todo el derecho,
dado que los sistemas de inteligencia artificial suelen albergar sesgos
como los albergamos nosotros, sesgos implícitos, explícitos,
pues estos sesgos se manifiestan de una manera u de otra,
no solo en la utilización de los sistemas de inteligencia artificial,
sino en el diseño.
O en las bases de datos,
en la confección de la base de datos.
Entonces, este derecho a la igualdad,
el principio de prohibición,
son cruciales en la asociación algorítmica.
Entonces, necesitan ser tenidos en cuenta
cuando empezamos a diseñar desde el momento uno,
desde la cuestión cero, o la pregunta cero,
si necesitamos un sistema de inteligencia artificial
para solucionar un problema determinado.
Ese constitucionalismo por diseño,
ese cumplimiento de los principios constitucionales por diseño,
es uno de los grandes temas que deberíamos establecer
como, no una revolución,
sino como algo absolutamente necesario de una tecnología
para que se adecue a nuestras estructuras constitucionales.
Porque si algo hace la inteligencia artificial
no solamente es replicar esos sesgos,
sino reproducirlos, replicarlos y exacerbarlos.
Así que la monoteorización, por último lugar,
tiene que ser una absoluta necesidad a la hora de la implementación
de los sistemas de inteligencia artificial.
No solamente la implementación,
sino también la utilización y el desarrollo.
Y para luego poder establecer medidas de mitigación.
Por eso cobran tanta importancia metodologías,
como estamos desarrollando en el Consejo de Europa,
de evaluación de riesgo e impacto de los sistemas
de inteligencia artificial en los derechos fundamentales,
en la democracia y en el Estado de derecho.
Ya que el convenio,
igual que el reglamento, se diseña desde un punto de vista
de estructurar la regulación en función del riesgo y del impacto
que puede tener un sistema de inteligencia artificial,
impacto progresivo,
necesitamos una metodología para poder abordar ese riesgo
y ese impacto.
Para ser rápido,
que no me quiero extender tampoco mucho,
obtenemos, por supuesto, el derecho a la tutela judicial efectiva.
El derecho a la tutela judicial
efectiva, como tercer derecho más importantemente afectado,
no solamente como acceder a un juez,
sino de todo el proceso.
De cómo el ciudadano necesita,
cuando es afectado por un órgano público,
Con un sistema de inteligencia artificial
necesita verse asistido de una serie de principios,
algunos, bueno, una reconsideración de lo ya existente,
pero otros son tan específicos que podríamos hablar
de una especie de nuevos principios o nuevos procedimientos,
siempre dentro del marco de lo que podría llamarse
una buena administración o lo que ya se empieza a denominar
en la doctrina, sobre todo en Grosso Jona,
el algorithmic due process.
En ese sentido, por tanto, se ha de prestar atención
a una doble problemática, En primer lugar,
garantizar la revisión judicial de toda decisión pública
o privada que afecte a los derechos o intereses legítimos
de la ciudadanía
en la que haya participado un sistema de inteligencia artificial,
lo cual implica posibilitar un derecho a conocer tanto
que el sistema de inteligencia artificial
ha formado parte del proceso de la toma de decisión
como de la relevancia que ha tenido en la decisión final.
Con las implicaciones que se suponen en términos de exigencia
de transparencia algorítmica, explicabilidad, trazabilidad
y otros principios que recogen la mayoría de los textos europeos,
sobre todo el Convenio Europeo de Derecho,
el Convenio, la Convención Barco.
En segundo lugar, se debe reflexionar acerca de las garantías del proceso
en el uso de herramientas de inteligencia artificial,
es decir, En exigencias específicas que han de satisfacer
los sistemas de inteligencia artificial que se utilizan
en un procedimiento administrativo judicial.
Y ambas problemáticas,
como ya supongo que están empezando a pensar ustedes,
exigen una reconsideración de los elementos jurídicos
configuradores de este derecho
y sobre todo en torno a la satisfacción de estándares
del Estado de derecho.
También una de las preguntas era si la inteligencia artificial
podía afectar la formación en la libertad
de una opinión pública.
Claro, aquí tenemos que tener en cuenta
que como estamos en un escenario liberal,
la formación de la opinión pública,
en el que se basa la formación de todo proceso democrático,
la presencia de inteligencia artificial cada vez es más presente.
Pero todavía no es muy presente,
o sea, afortunadamente todavía no se ha manifestado
en toda su potencialidad.
Yo pensé que las elecciones en Brasil iban a ser una pesadilla,
las elecciones en Estados Unidos
iban a ser una cosa absolutamente terrible,
porque si uno empieza a pensar en las posibles utilizaciones
de muchos sistemas de inteligencia artificial,
no me estoy refiriendo solo a los típicos de microtargeting
o deepfakes,
etc., sino a una combinación absolutamente malévola
de todas ellas, el ciudadano va a tener muy difícil
saber qué es lo que está pasando en el ámbito online.
Así que, bueno, desde una óptica positiva,
la ciudadanía tiene a su disposición más y mejores herramientas
para informarse y discriminar la información que nos interese,
identificar la información errónea directa, directamente falsa, perdón,
pero eso exige una actitud muy activa del ciudadano.
Y hoy por hoy, afortunadamente, no es la generalidad
de los ciudadanos las que dedican su tiempo
a distinguir si lo que me están contando
o de qué manera me están manipulando como de profundo.
Los deepfakes se basan en que siempre el deepfake
tiene una base real de la noticia
y siempre cuando tenemos ese sesgo de confirmación
nos apegamos a esa parte de la noticia real
para considerar el conjunto de la noticia real.
Desde el punto de vista negativo, como les decía,
con la democratización del acceso a aplicaciones
de inteligencia artificial,
pues se crea un sistema de confusión y de propaganda interesada.
Pero esto realmente no es nuevo.
Después de la Segunda Guerra Mundial,
pues, lo pueden decir.
La propaganda no es nueva, no es de ahora.
Sí es nuevo ahora mismo lo que permite
la inteligencia artificial.
Es con muy poco presupuesto, con muy poco conocimiento,
porque ahora mismo.
En internet se puede encontrar cómo hacer muchísimos sistemas
de inteligencia artificial, incluso agentes.
Google ha publicado hace muy poco cómo poder construir
tu propio agente.
Tienes que saber un poco de código, pero tampoco es algo muy.
Tienes un poquito de paciencia y tiempo libre,
lo puedes hacer.
La inteligencia artificial lo que permite es una escalabilidad
en la creación de contenidos sin precedentes.
Si yo puedo crear miles y miles de noticias falsas
o estar.
Atento a reaccionar a otras noticias para crear un ambiente contrario
a esa realidad que no me gusta, o identificarlo y luego crearlo,
y luego una realidad en la propagación,
que por supuesto sobrepasa la capacidad del ser humano
de abordar esa información y enjuiciarla.
Esto va en contra del ideario liberal del derecho a la información,
de que dejemos al ciudadano que se busque
las diferentes versiones.
Para que pueda construir su propia versión.
En algún ambiente vamos a tener, como no va a ser posible
si no conseguimos dos cuestiones, como les voy a decir ahora mismo.
La primera es que los poderes públicos necesitan adoptar
una actitud proactiva, la ciudadanía también,
pero primero podemos hablar de los poderes públicos
como cuestionalistas para combatir el clima de la desinformación,
o manipulación utilizando certificaciones u otros sistemas
de Trusted Flaggers.
Y en segundo lugar, por supuesto, sería imprescindible
que se utilice la inteligencia artificial para luchar
contra los efectos negativos de la inteligencia artificial.
Realmente, y eso ya sucede en las redes sociales,
está comprobadísimo que el ser humano está sobrepasado por sus.
Capacidades de lo que pueda actuar sistemas de inteligencia artificial.
Entonces necesitamos inteligencia artificial para luchar
contra la inteligencia artificial.
Yo he querido ser siempre muy optimista en esta intervención
y ahora les voy a decir algo bastante pesimista
porque estamos en el ámbito digital, en el ámbito informativo,
pero por desgracia si no tomamos medidas,
de esas proactivas sobre todo, de los poderes públicos,
por ejemplo de las juntas electorales o de los tribunales,
Parlamentos, por supuesto.
Es una pesimista, pues no tardará en llegar una época
en la que sea imposible distinguir el contenido creado,
sobre todo por inteligencia artificial, por esta escalabilidad
que se hablaba, del contenido real en Internet.
Esto supondrá la posibilidad de, la imposibilidad, perdón,
de formar libremente una opinión pública.
O que suponga un esfuerzo tan grande,
que al final uno rechace todo.
Y no participe en el juego político,
la alternativa es renunciar al ámbito digital.
Lo cual tampoco es así porque el ámbito digital
ofrece también muchas posibilidades y cosas positivas, ¿verdad?
La misma reflexión puede realizarse respecto
al funcionamiento de los órganos de representación política.
Y la relación con los representados, la inteligencia artificial
permite una relación muy estrecha o más estrecha entre el representante
y el representado.
Y eso, nuestros representantes políticos,
que la mayoría son personas muy preocupadas
por el interés de sus ciudadanos,
pueden tener una herramienta muy útil.
Y los ciudadanos pueden exigir información o algún tipo de actuación
más concreta sin tener que pasar por una maraña de 200 páginas
de un programa político hasta saber
cuál es el punto que a mí me puede interesar de un candidato
de un partido.
Así que sí que puede haber una transformación bastante radical
en el sistema electoral y en el sistema político.
En el sistema político
si se utiliza bien la inteligencia artificial.
Pero esta posibilidad también tiene su dimensión negativa.
En cuanto puede utilizarse para desinformar y manipular,
puede ser utilizado por los representantes
para estos bienes no tan, por fin,
no tan, por así decirlo, buenos, para ir acabando.
Por último, bueno, como os he dicho, hace falta esta actitud proactiva,
voy a avanzar y me voy a pasar con la cuestión
de si son necesarios los nuevos derechos
y con esto voy a terminar.
Porque me parece que desde el punto de vista constitucional,
pues parece que los juristas muchas veces
lo queremos solucionar todo con derechos
y muchas veces los problemas de los derechos fundamentales
no solo se solucionan con derechos fundamentales.
Por eso yo reclamo el uso y la utilización de principios.
Que también es una dimensión o valores muy constitucional,
que puede ofrecer, como en el convenio,
una utilidad muy importante.
Por eso yo tengo un hasta ahora,
porque mañana a lo mejor pasa algo y cambio absolutamente de opinión,
como les decía, hasta ahora, desde mi punto de vista,
no creo que sea preciso una revolución regulatoria
originalista.
Sino lo que necesitamos es ofrecer una respuesta
a raíz de un estudio pormenorizado y cercano,
a cada ordenamiento jurídico condicionado por un conocimiento
de la tecnología en funcionamiento.
Si no sabemoslo que es la tecnología,
pues mal vamos a juzgar o calibrar su efecto.
Por ejemplo,
no obstante el desarrollo de los agentes, que es
una de las cuestiones que más nos preocupa,
pues puede modificar esta respuesta mañana mismo o en unos meses.
Y como esto va a estar colgado
y no va a resistir el paso del tiempo,
pues hago un disclaimer desde ya.
Los nuevos derechos que suelen demandarse,
sobre todo en la literatura especializada,
la mayoría de ellos son una deriva,
una nueva lectura de derechos y principios jurídicos existentes,
pero en un nuevo escenario,
como es el constitucionalismo digital, en la sociedad algorítmica.
Por eso, en el principio de seguridad jurídica
surgen exigencias que deberían de ser absolutamente imprescindibles,
como la transparencia algorítmica, la explicabilidad.
Y concretándose en un derecho
como el de recibir una explicación de cómo funciona
y afecta la decisión del sistema internacional,
lo que ya se denomina como el right to explanation,
el derecho a una explicación.
O el derecho a una traducción del lenguaje tecnológico
al lenguaje del ser humano,
o también se demanda el derecho a obtener información
de cómo se tratan los derechos personales,
claramente derivado del derecho de acceso
a la protección de datos.
Y esta es la.
Por así decirlo,
la postura que ha mantenido tanto el Consejo de Europa
como la Unión Europea de no intentar hacer nuevos derechos.
También esta decisión está trufada por cuestiones políticas,
como ustedes entenderán.
No es nada fácil empezar a pensar en unos derechos fundamentales
que podía exigir el repensar normas constitucionales nacionales.
Pero desde un punto de vista no solamente político, sino teórico,
se tenía el convencimiento de que por ahora.
Las categorías que tenemos, si se adaptan bien,
pueden ser suficientes.
Desde mi punto de vista, y con esto ya termino,
esta constitución debería abordar un cambio importante.
En este aspecto, como ya saben,
debería abordar muchísimos cambios.
Pero un cambio importante para hacer frente a estos problemas
y los efectos negativos de una tecnología
como la inteligencia artificial.
Es una tecnología, repito, con el potencial
de limitar de manera importante.
Por ser autónoma
y por tener la capacidad de tomar decisiones de manera autónoma
y un autoaprendizaje, es capaz de limitar la libertad humana,
incluso de suplantar al ser humano mismo.
No de una manera inmediata, no de una manera masiva,
pero claro que secuencialmente y poco a poco.
Por tanto, desde mi punto de vista,
creo que se trata de conceder mucho más importancia
a dos principios constitucionales que son la dignidad humana
y la autonomía individual, en dos sentidos.
En primer lugar, aumentar su relevancia para asegurar
que cualquier desarrollo de la inteligencia artificial
está centrado en el ser humano, en su promoción y en su desarrollo,
sin que la autonomía individual sea sometida a limitaciones directas
o indirectas,
viviendo por tantos desarrollos que vayan en dirección contra.
Y en segundo lugar,
esto pensando incluso en la posibilidad,
y ahí ya es un ejercicio un poquito más fino,
pero la posibilidad de dotar estos principios
de cierta subjetividad.
Es decir, no necesitar.
Que sean explicitados en una ley y no simplemente que esos principios
o una elaboración un tanto audaz pueda ser un principio
que pueda estar a disposición de las personas
cuando considere poder tomar una acción jurídica,
cuando considere que su dignidad humana o especialmente
su autonomía individual se vea menos calmada o limitada
por acciones directas o indirectas o las consecuencias del sistema
de inteligencia artificial.
Porque la mayoría de las cuestiones,
sobre todo en el ámbito de la democracia,
no es una cuestión que se vaya a incidir directamente
y de manera grosera en la vulneración de un derecho fundamental.
La cuestión de lo que estamos hablando
es de que la inteligencia artificial
se puede utilizar para cambiar el ecosistema,
el diseño mental que rodea, no solo el mental,
también el económico, el social,
el político que rodea a una persona, de una manera muy personalizada,
porque tiene datos no suficientemente exactos como para poder hacerlo,
y que toda esa.
La utilización del sistema de inteligencia artificial
acabe condicionando la decisión de la persona.
Como consideramos desde nuestro punto de vista
el costo de la vida actual, que es una decisión libre,
pues tenemos un problema para poder castigar
a la inteligencia artificial.
Ahí es donde yo creo que hay un punto de sutura
entre una dimensión y la nueva y que merece una gran reflexión
por nuestra parte.
Muchísimas gracias por la paciencia que me he excedido
un poquito de tiempo.
Muchas gracias, Mario, sobre todo por la concisión
y la claridad de tus reflexiones,
que luego ahondaremos en el coloquio.
A continuación, tiene la palabra el profesor Lorenzo Cotino,
que es catedrático de Derecho Constitucional
de la Universidad de Valencia y en la actualidad
tiene atribuida la gran responsabilidad
de presidir la Agencia Española de Protección de Datos.
Lorenzo, cuando quieras.
Perdona, Lorenzo, no sé si me oís.
Lorenzo, perdona, no te escuchamos.
Yo creo que está el micrófono,
no sé si es aquí una cuestión técnica.
Yo tampoco le oigo.
No, vamos a ver.
El micrófono ha bloqueado, ya está al principio desbloqueado.
Vale, gracias.
Lorenzo, perdona.
Lorenzo, ¿nos oyes?
Es Lorenzo Cotino, ¿no?
Sí.
Pues sí, en principio tiene el micrófono desmuteado.
O sea, no desmuteado,
pero sí le he quitado el bloqueo de silencio.
Claro.
Lorenzo, yo creo que tendrás que activar el micrófono.
No sé si nos escuchas.
A ver.
Sí, pasa, pasa.
Claro, pero.
Hola, Lorenzo.
Escúchame.
Está el micrófono para desactivarlo.
La opción la tienes en la parte inferior de la pantalla.
Es la primera opción de todas y contamos desde la izquierda
hacia la derecha.
Ahora sí.
Parece A ver.
No, no parece que.
Lorenzo, ¿puedes escribir por el chat?
Bueno, la inteligencia artificial no nos salva de estas cosas.
Si quieres, María.
Esperamos un poquito porque va a salir
y va a volver a entrar.
Yo creo que no tardará mucho.
Bueno, esta es la prueba fehaciente
de que no podemos fiarnos de las tecnologías.
Si de verdad fuera inteligente esta inteligencia,
no se daría el problema, ¿verdad?
Disculpadme, ¿Lorenzo es el último ponente ya?
Sí.
Vale, es que, vale,
porque si no decía de que fuese el siguiente
y yo me quedaba con Lorenzo por otro lado intentando solucionar.
Yo creo que mejor esperamos porque no tardará mucho
en volverse a conectar.
Sí, es que muy probablemente yo creo, intuyo,
que su micrófono de casa no funciona.
Ya ha entrado otra vez.
A ver, le desbloqueo.
Intenta desbloquear la opción, Lorenzo.
Te he mandado un mensaje.
Hola, hola.
Ahora.
Ahora, perfecto.
Bueno, vaya por Dios.
Nada, las cosas a veces no son sencillas.
Después de hora y media escuchando a mis colegas
y además siendo que al inicio hemos probado
que funcionaba perfectamente.
Bien, muchas gracias de nuevo.
He probado de poner y quitar micrófonos, altavoces
y de todo, pero bueno.
Nada, primero que nada, muchísimas gracias,
como decía, a Lucrecio,
que además fue también uno de los autores
de la encuesta tan interesante.
Y aparte de mis compañeros de cumplimentar la encuesta,
pues a quienes han organizado con la revista Teoría y Realidad
estas encuestas que siempre son de tanto interés para los colegas.
Os seré sinceros.
La verdad es que pensaba que nuestra intervención,
según se había anunciado, iba a ser aproximadamente
unos quince minutos
y ahora no sé si nos va a quedar tiempo para el debate.
Yo, al menos, voy a hacer una promesa
de ocupar la mitad del tiempo de mis colegas.
Tenemos la remisión a los trabajos que enviamos
y también me he permitido, pues lo tenía preparado
cuando entrara, pues he puesto unos.
Unos enlaces a algunas de las publicaciones recientes,
precisamente sobre el Tratado del Reglamento de
Inteligencia Artificial, que está en abierto,
es la mayor obra que existe en castellano
y muy próximamente en inglés,
que va a ser también la obra más importante
en inglés sobre el Reglamento de Inteligencia Artificial
, y también el primer artículo que se publicó.
En cualquier idioma, creo recordar,
sobre el convenio del derecho a Europa.
Pero bien, dicho esto, lo cierto es que la forma de acceder
al conocimiento en la encuesta es del todo interesante.
La ventaja.
Lo que también quiero recordar es que yo hice ese trabajo
antes de la responsabilidad que ocupo y lo que ahí está escrito obviamente
son los criterios de Lorenzo Cotino antes de ser el cargo que ocupo.
Yo en buena medida voy a reproducir lo que ahí en cierta medida se dice,
pero obviamente con el disclaimer.
De que hoy en día tengo una responsabilidad
y lo que digo en su caso pueda interpretarse como algún criterio,
pero obviamente no dejo de desdoblarme.
Con toda esta presentación y rápidamente, Ya, por suerte,
se ha dicho mucho.
Yo creo que luego, si queda tiempo para el debate,
aclararás, Lucrecio, porque yo he entendido justo lo que,
más o menos al revés de lo que me ha parecido entender de Mario.
Pero bueno,
para eso eres tú, para hacer una interpretación auténtica
de la reflexión que habías hecho.
Y a mí me gusta siempre
iniciar cualquier reflexión sobre inteligencia artificial.
Señalando que obviamente los juristas
no estamos para ver las bondades de las cosas,
sino los riesgos y los posibles conflictos
y problemas.
No sé si hemos perdido a Lorenzo Cotino.
Acabamos de perder a Lorenzo, sí.
Pero yo creo que ha perdido conexión.
Sí, se ha perdido la conexión, sí.
Si quieres, María, le damos la palabra a José Tudela
por si quería hacer algún comentario al respecto.
O esperamos a la conexión a Lorenzo.
A ver, yo creo que.
Ah, no sé si me escucháis.
Ahí está, ahí está.
¿Me escucháis?
Hola, buenas, ¿me escucháis?
Sí, te escuchamos.
Yo no sé si te veo.
Voy a.
Ahora, sí, muy bien.
Bueno, yo estoy probando porque no oía,
no oía si me escuchabais.
Ahora sabiendo que me escucháis he vuelto a conectar el vídeo
para tener menos internet.
Os rogaría que, si no me escucháis, me advirtáis de que no me escucháis.
Entiendo que me escucháis, ¿verdad?
Sí, perfecto.
Sí, te escuchamos perfectamente, Lorenzo.
Hemos escuchado.
Vale.
Se ha acortado justo.
Bueno.
Bien.
Yo he puesto el vídeo de nuevo, espero que me veáis.
Eso ya no soy capaz de.
Bueno.
Bien, dicho lo anterior, creo que el punto de partida.
El punto de partida esencial es que la inteligencia artificial,
que ya no se trata de una elección que podamos hacer tan sencilla
como adoptar o no adoptar las distintas tecnologías
que se agrupan dentro del desde el punto de vista
de los fundamentales.
Incluso al punto
de que no tanto un derecho a la inteligencia artificial,
pero cuanto menos un bien jurídico
protegido constitucionalmente que impulse a la adopción
de tecnologías de inteligencia artificial en su sentido más amplio.
Esto creo que puede tener un valor jurídico,
ese punto de partida, desde el punto de vista
de la dimensión objetiva de los derechos fundamentales,
porque la inteligencia artificial.
Ser un mecanismo útil general para hacer efectivos
muchos derechos fundamentales.
Esto no es tan nuevo.
Ha pasado con la misma construcción de Internet
que se llegó a especular sobre el derecho a Internet
o no a un derecho a Internet.
Sin duda, ha de haber un principio constitucional pro innovación
que se proyecte específicamente para la inteligencia artificial.
Esto creo que puede tener algún interés
en algunos campos específicos,
precisamente a la hora de poder limitar o no.
Algunos avances de innovación de inteligencia artificial.
Dicho esto, obviamente lo que los juristas
tenemos que estar más atentos o las autoridades es a los riesgos
e incluso a los posibles límites.
Pero no es lo mismo hablar de los límites
como punto de partida,
sino como punto de algo excepcional.
Ya lo han dicho en uno de sus considerandos,
llega a mencionar más de 20 derechos fundamentales
impactados por la inteligencia artificial.
Y luego añade colectivos.
Es decir, sin duda alguna, la inteligencia artificial
dispara y con fuego racheado prácticamente a todos.
Es muy difícil pensar un derecho fundamental que no quede impactado.
Se han mencionado.
En este caso, yo no diría que a diferencia de Internet,
donde el impacto en derechos fundamentales
fue mucho más claro inicialmente en los derechos de la familia cercana
a quien está hablando de la privacidad,
sino que la inteligencia artificial
impacta no solo a los derechos de la familia,
de la privacidad o derechos de la personalidad, sin duda,
pero también, y se ha mencionado, al ámbito de la democracia,
al ámbito del pluralismo y especialmente
a las libertades y a las libertades de expresión,
información y otras.
Y el impacto es tremendo al punto de que estamos viendo
los efectos políticos en general de las nuevas tecnologías
y en particular de la inteligencia artificial.
Eso creo que es interesante tenerlo en cuenta.
Pero también se ha mencionado.
Tengo un trabajo de unas 100 páginas sobre el impacto
de la inteligencia artificial en el ámbito de los sesgos
y la no discriminación.
Creo que no es nada nuevo,
pero creo que esto sí que no es nada nuevo que lo esté mencionando.
Pero, obviamente, esto sí que es relativamente novedoso
porque, en general, los medios digitales,
más allá de temas de brecha,
no impactaban de una manera tan profunda
en lo que eran los vías, los sesgos,
que no solo a los colectivos tradicionales,
sino a los nuevos colectivos que, como bien explicaba Ana Abba,
generan los algoritmos e impactan de una manera muy relevante.
No entraré en el tema de los procesos democráticos,
pero sí que me gustaría también señalar,
porque es una reflexión interesante
hacer y que me afecta personalmente en la institución que presido.
La inteligencia artificial está regulada.
Como tal tecnología, en el Reglamento de Inteligencia Artificial
y el Convenio de Europa, es casi algo excepcional,
porque esto de regular una tecnología podría incluso considerarse
que va en contra del principio de neutralidad tecnológica.
No ha habido regulaciones, no había hasta hace poco en sí
de nube o de redes sociales,
pero la inteligencia artificial, por sus riesgos,
sí que ha llevado a la Unión a regular una tecnología.
Cosa que no es lo más habitual.
Pero contábamos con el comodín, si se me permite,
de la normativa de protección de datos,
que ha sido la primera normativa que tradicionalmente recibe,
si se me permite apuestar a Gaiola, la recepción de cualquier nueva
tecnología que no tiene una regulación específica.
Y la protección de datos ha sido el primer colchón que amortigua
la falta de una regulación.
Pero en este sentido me gustaría lanzar una reflexión.
La protección de datos
en el contexto digital está siendo un derecho casi instrumental
de la protección de todos los demás derechos.
¿Por qué?
Porque se hace muy difícil, casi impensable,
que haya un uso de inteligencia artificial sobre personas,
que impacte en personas,
y que no implique tratamientos de datos personales
de esas personas.
No digo que no lo haya, pero se nos puede hacer muy difícil
pensarlo.
De manera que, sin perjuicio de que haya derechos
especialmente impactados, será casi imposible
que no haya un impacto en el derecho de protección de datos personales
y algunos derechos afines.
Bien.
Me gustaría también, y dejo esa reflexión,
el derecho de protección de datos
como instrumento a través del cual queda afectado
y queda instrumentada la garantía de algunos de los llamados
derechos digitales.
Luego, señalaría también en la línea a algunos de mis colegas
las transformaciones que está implicando en su caso
en la estructura de los derechos fundamentales.
En la estructura de los derechos fundamentales,
que duda, que no solo hay un impacto generalizado,
sino que.
Solo que hay un impacto generalizado en los derechos fundamentales,
como decía, perdonen,
porque he tenido un pequeño trasiego con las pantallas,
y en la estructura.
Primero, como he referido en algunos trabajos
en los últimos años, es necesario retomar,
y lo han mencionado mis colegas, Volver al principio de la dignidad.
Esto también con relación a la posibilidad
de creación o no de nuevos derechos o nuevas garantías.
Creo que el impacto transversal de la inteligencia artificial
como vanguardia o como core en muchas de las tecnologías disruptivas,
este impacto generalizado nos lleva a que muchas veces
el derecho constitucional tenga que acudir
o bien a derechos clásicos, dígase algunos de los que hemos mencionado,
o directamente a la dignidad de la persona.
Y al mismo tiempo
que la posible necesidad de acudir a la dignidad de la persona,
pues puede ir de la mano con categorías que le son cercanas,
como pueda ser la dimensión objetiva de los derechos.
O en escenarios en los que la proyección debe darse
en el ordenamiento jurídico privado que regula algunas relaciones
jurídicas.
Eso puede ser un instrumento también a tener en cuenta.
Y así he subrayado la importancia de poder acudir por varios motivos,
que ahora no voy a entrar.
Me gustaría también,
porque, por ejemplo, el convenio,
el convenio que obviamente también conoce Mario,
porque ha podido estar involucrado muy directamente,
Nos lleva también a reflexiones, además,
si no me equivoco, pues Mario, si luego hay tiempo para el debate,
nos puede comentar el mecanismo judería de los análisis de riesgos,
estudios de impacto sobre los derechos fundamentales
que se está desarrollando en ese contexto.
Y me gustaría lanzar esta reflexión como académicos
de derecho constitucional.
¿Es sorprendente el poco o escaso.
O la poca
y escasa atención que prestamos desde el derecho constitucional
a los mecanismos tan asentados en el ámbito de protección de datos
y ahora en inteligencia artificial y en otros contextos
como son los análisis de riesgo o los estudios de impacto.
Y lo digo porque podría ser realmente de interés
que los especialistas en derechos fundamentales.
En cualquier contexto, no solo digital,
tuviéramos familiaridad con este trabajo tan granularizado,
tan particularizado,
en el que hay una proyección de los principios de necesidad,
justificación objetiva,
razonabilidad, proporcionalidad, proporcionalidad descompuesta
en todos sus hitos que bien conocemos,
pero nos sorprendería cómo el grado de detalle.
Que lleva este tipo de instrumentos.
Cuando digo no sorprendería, no precisamente
a quienes posiblemente estamos aquí, pero es bastante llamativo
que desde los juristas no estemos trabajando estas categorías
con la finura que se está haciendo en contextos digitales.
Al mismo tiempo, no digo que esa finura
sea que siempre se hace de la manera más correcta,
Por eso, mi interés específico como académico,
que los académicos conozcamos bien instrumentos de análisis de riesgos,
de estudios de impacto, de
Impact Assessment Fundamental Rights , como se va a ir generalizando,
porque nos podría sugerir mucho para otros campos del derecho.
Dicho lo anterior, también nos llevaría a sorpresas
cómo la proporcionalidad entendida.
Como alternatividad, es decir,
cuando se hace un análisis de riesgos,
cómo queda impactado o afectado un derecho fundamental,
si había alternativas menos lesivas, menos graves,
también tenemos que dar luz desde la academia
y obviamente desde otras instituciones
a que el mecanismo de la alternatividad,
que no siempre nuestros tribunales lo aplican con tanta finura,
puede llevar a callejones sin salida tecnológicos.
Me explico.
Un análisis de riesgos
y específicamente un estudio de impacto puede llevar
a que había alternativas menos impactantes
en un derecho fundamental que el uso de una determinada tecnología.
Pero claro, ello nos podría llevar a un callejón sin salida con el que,
siempre que haya una alternativa menos lesiva,
no haya un margen de discrecionalidad para poder elegir
entre distintas alternativas tecnológicas.
¿Por qué?
Porque esta visión.
Totalmente centrada en que siempre haya que elegir
entre una alternativa, nos podría privar,
entre otras cosas, del principio de neutralidad tecnológica
porque nos llevaría determinísticamente a elegir siempre
una tecnología o una opción.
Pero simplemente lo dejo como reflexión, insisto, para el lado
de los académicos que deberíamos estar más familiarizados,
y no digo que no lo estemos precisamente
los que estamos hoy presentes,
pero es un instrumento que deberíamos utilizar.
Tener muy bien en cuenta.
Bien, hablando de nuevos instrumentos de garantía
y también las transmutaciones que en su caso pueda llevar
la inteligencia artificial, me gustaría,
y lo he insistido en no pocos trabajos,
en la línea de trabajos también del profesor Mantelero y otro,
que se ha mencionado, entre otros, para la profesora Ana Ava,
hay que trascender de una visión puramente individual
a la hora de percibir cómo impacta en los derechos.
Las nuevas tecnologías en muchos casos
no se aprecia su impacto porque es un impacto colectivo
y no se aprecia de manera individual.
De manera que nos podría llevar a que sea muy difícil
captar la posible afección a un derecho
y que haya incluso un interesado legítimo
a la hora de entablar acciones de defensa,
ya sea en ámbitos administrativos o judiciales.
El ejemplo más claro es la desinformación.
El impacto es.
Brutal en todos los sistemas democráticos,
incluso en colectivos específicos.
Pero las dificultades que tenemos con los derechos fundamentales,
que de natural son individuales, nos llevan a un gap
en la defensa efectiva de los derechos.
Obviamente no estamos hablando de algo nuevo.
Pasa con medio ambiente,
pasa con otros ámbitos donde hay intereses difusos
y hay técnicas de garantía.
Pero me gustaría subrayar que la inteligencia artificial,
y no solo,
Otras tecnologías digitales nos deben estimular para reconocer los impactos
y debemos recuperar fórmulas para defender los intereses difusos
y colectivos a través.
Y eso, la inteligencia artificial
deja algunas líneas de trabajo bastante interesantes,
no tanto el reglamento de inteligencia artificial,
pero bueno, que son líneas a explorar de participación social,
participación social incluso en las evaluaciones de riesgo,
en las evaluaciones, los análisis de riesgo,
la participación social en sentido amplio de colectivos,
en la toma de decisiones legislativas y no legislativas,
sino también multinivel, nos puede estimular algunas líneas de trabajo
más allá y superando visiones muy centradas
en visiones reactivas e individuales.
Y ahora subrayo las visiones proactivas y no descubro nada nuevo,
pero sí que el ámbito de protección
de datos y el Reglamento de Inteligencia Artificial
nos hacen recordar que cada vez más
la protección de derechos fundamentales se basa
en una visión proactiva y preventiva,
en la que la lesión del derecho obviamente generará reacciones.
Habrá reacciones del derecho para defender ese derecho,
pero la clave de la defensa y la garantía de los derechos
es que no se produzca esa lesión.
Y paso a paso,
creo que el derecho está mutando en el contexto digital
para estimular estas garantías proactivas.
De nuevo, evaluaciones de riesgos,
evaluaciones de impacto, figuras.
Figuras preventivas
como los delegados de protección de datos,
los futuros, en su caso, responsables de inteligencia artificial
y otras figuras que existen,
como están en el ámbito del medioambiente, en el ámbito laboral,
pero son de carácter preventivo para evitar
que se produzcan las lesiones de los derechos.
Dicho esto, y ya por no agotar el tiempo,
que nos queda algo de tiempo para el debate,
simplemente lanzaría a suelta más.
¿Alguna idea suelta más?
Muy en la línea de lo que han señalado los colegas.
Creo que no es necesario redescubrir nuevos derechos.
Sí que es posible reinterpretar contenidos
y estimular nuevas garantías de los derechos.
Creo que hay algunos espacios de singular interés,
como el ámbito de los neuroderechos, etcétera,
que puedan llevar a algún reconocimiento ex novo,
pero, en general, Creo que no.
Y que tenemos no solo la normativa de protección de datos,
sino que tenemos todo un paquete normativo
cada vez más amplio.
Y en este sentido, y por cerrarlo,
las autoridades de vigilancia del mercado tenemos un papel
especialmente singular, especialmente relevante,
sin perjuicio, obviamente, de las autoridades judiciales
y otras.
Tanto en el contexto de las garantías proactivas y preventivas,
las autoridades, no digo solo la de protección de datos,
ni mucho menos, pero hay un papel bastante relevante,
pero incluso también de manera reactiva.
Y como se ha mencionado, creo que cada vez en este baile
participan nuevos actores.
No solo la Agencia de Protección de Datos,
no solo la Agencia Española de Supervisión de Inteligencia
Artificial, sino que hay más de 30 autoridades
implicadas en estos ámbitos.
Y lanzo, por último, esta idea.
En muchos casos es para proteger derechos fundamentales
y cuando una autoridad está más cercana
a un derecho fundamental,
la exigencia de independencia debe ser mucho más fuerte.
El convenio lo dice bien claro, el reglamento no lo dice tan claro
y la interpretación del reglamento de inteligencia artificial
debería alertarnos porque diría que buena parte
de las autoridades en este baile.
No cuentan con la necesaria independencia
porque no estamos hablando de autoridades técnicas de juguetes
ni de ascensores.
Estamos hablando de autoridades que van a manosear derechos fundamentales
a los que exigir una independencia en un nivel bien alto.
Muchísimas gracias y será un placer tener un tiempo para el debate.
Muchas gracias, Lorenzo.
Yo, María, sigo tus indicaciones.
Si quieres que abramos el debate entre los invitados
o existe la posibilidad de que otros participantes
entren en el debate también o los mensajes de chat.
No sé cómo lo tenéis organizado.
En el chat, ¿verdad?
Si queréis hacer una ronda.
Entre los ponentes,
por si hay alguna cosa concreta que queráis matizar,
replicar o comentar, incluso en esa ronda,
si quiere participar Pepe Tudela.
Y yo me apunto, si queréis,
las preguntas del chat y las hacemos después.
¿Os parece bien?
Perfecto.
Pues mientras que apuntas las notas del chat,
yo voy a hacer un comentario enlazando la intervención
de los tres invitados.
Los tres habéis incidido en la misma circunstancia,
que no formaba parte en concreto de la encuesta,
pero de forma específica,
sobre si es necesaria la existencia o la creación
de un nuevo derecho específico.
Ana decía.
Que la independencia artificial no crea nuevos retos,
pero que intensifica los ya existentes,
con lo cual habrá que afinar en las herramientas que tenemos.
Mario también decía que la regulación actual
de derechos es suficiente y Lorenzo decía.
Que no es partidario de la generación de un nuevo derecho,
pero sí de establecer principios de actuación genéricos
en el ámbito constitucional.
Yo creo que ese es un buen elemento de reflexión en el tema
de la inteligencia artificial
y generalmente en las nuevas tecnologías.
Es decir, la regulación en el ámbito
o en el contexto europeo de los derechos
y libertades fundamentales afortunadamente es amplia
y la regulación es extensa,
con lo cual no se puede crear un nuevo derecho
para cada una de las circunstancias que facilita la tecnología,
con lo cual deberemos ir reinterpretando.
Y luego hay otro elemento en el que yo quiero hacer
especial incidencia que han anotado tanto Mario como Lorenzo,
al respecto de la necesidad de recalcar
o incidir mucho tanto en las evaluaciones de impacto
como en los análisis de riesgo.
Os voy a poner un ejemplo.
He dirigido una tesis,
que se defenderá probablemente a finales de este mes,
sobre análisis de riesgos en el ámbito
de la protección de datos.
Y me ha costado convencer a los miembros del tribunal
de que es una buena tesis.
Y todos me decían lo mismo, dice, pero es que le falta doctrina,
le falta jurisprudencia, pero es que no la hay.
No la hay, con lo cual ahí está la validez de la tesis.
Luego decían que se basa mucho en los informes
de la Agencia Española de Protección de Datos.
Es que no hay otra cosa.
Es decir, que ese es el camino a desarrollar.
Es decir, las evaluaciones de impacto y los análisis de riesgos
van a ser una solución a futuro y una solución práctica
y una solución que puede reorbitar en gran medida la aplicación
de los derechos y libertades fundamentales.
Me parece muy acertada la advertencia de que debemos de incidir mucho,
sobre todo, en las evaluaciones de impacto
y en los análisis de riesgo, al igual que se hace en otros ámbitos.
Por ejemplo, en el ámbito laboral, los análisis de riesgo
son un elemento consustancial de cualquier actividad.
Por lo cual, yo creo que nos podría enriquecer bastante,
sobre todo en el ámbito de la inteligencia
y la aplicación práctica de la inteligencia artificial,
los análisis de riesgo y las evaluaciones de impacto.
María, estoy a tu disposición.
No sé si alguno de los ponentes quiere comentar alguna cosa.
A ver, pues hay primero
unas preguntas que tienen que ver con la utilización de inteligencia
o de herramientas de inteligencia artificial
en resoluciones judiciales.
¿Qué garantías existen en esos casos
y cómo se podría recurrir este tipo de resoluciones?
Yo creo que estas preguntas se han planteado
antes de que Mario Hernández hiciera alguna reflexión sobre ello,
pero si queréis contestar.
Tiene la palabra, el que quiera.
Ana, Ana, cuando quieras.
Le hablé mucho, pero bueno.
Nada, muy brevemente.
Bueno, hay que recordar
que las herramientas de inteligencia artificial,
en lo que es en el ámbito del proceso,
en el ámbito de la justicia, se utilizan como,
están ahí como herramientas de apoyo, ¿no?
, como, pues eso como un complemento,
pero evidentemente la IA no sustituye al juez,
a la jueza humana, al menos al día de hoy.
En todo caso, las garantías del debido proceso,
ahí está la Constitución,
ahí está la regulación del artículo 24,
siguen siendo plenamente aplicables.
Si bien.
Aquí habría que incidir mucho en la transparencia que ha salido
a lo largo de las intervenciones.
Y más que transparencia, yo me referiría a la explicabilidad,
el hacer accesible la información sobre la.
El sistema,
la herramienta de inteligencia artificial que se pudiera utilizar
como respuesta a un derecho a la explicación,
un derecho al saber, acceder a esa información necesaria
para entender esa decisión que afecta a una persona,
una decisión que se adopta en un proceso.
En este caso hablaríamos de un proceso judicial tecnológico.
Claro, hay herramientas de inteligencia artificial
que se pueden utilizar en el ámbito judicial.
Sí, el reglamento de inteligencia artificial
habla de la necesidad de, bueno, establece la creación
de registros de sistemas de inteligencia artificial
de alto riesgo que podrían ser utilizados.
Evidentemente, son los sistemas que, digamos,
que han superado una prueba de certeza.
Están certificados,
con lo cual cumplen una serie de requisitos,
una serie de principios que son los que se proyectarían
o relacionados con las garantías procesales del 24-2
de la Constitución.
Por ejemplo, hablaríamos de proporcionalidad,
hablaríamos de seguridad,
yo creo que Mario se ha referido ya a esto, ¿no?
A equidad, a no discriminación, protección de datos
y después la supervisión y la necesidad
de que haya decisión humana, ¿no?
Bueno, rendición de cuentas, responsabilidad, eso sería, bueno,
pues permitiría tener la.
Digamos que la constatación
de que ese sistema de inteligencia artificial
es un sistema que se puede utilizar en el ámbito del proceso.
En todo caso, existe el derecho a no verse sometido a una decisión
basada únicamente en procesos automatizados,
lo cual implica que haya un derecho a impugnar decisiones automatizadas
y el derecho a solicitar, como decía,
una supresión o una intervención humana.
Y ahí entraría esa intervención del órgano judicial o del.
Del juez a la jueza.
¿Qué más podemos decir?
Que en todo caso el órgano juzgador o la jueza pueda apartarse siempre
de un resultado que le ofrece un sistema de inteligencia artificial
y no está obligado a seguirlo.
Y en esto, bueno, pues las letrices éticas
de 2019 sobre inteligencia artificial establecían estas cuestiones.
Repito que el reglamento, el RIA, incide, como digo,
en la supervisión, en la vigilancia, en la explicabilidad
y en la asistencia de estos registros de sistemas de alto riesgo
que están certificados.
Y sí, un segundo, prometo que no vuelvo a intervenir,
que me gustaría decir algo en relación
con el proceso judicial tecnológico y que hace también
o que conecta un poco con esa igualdad y no discriminación
la que.
Nos referíamos, nuestras intervenciones.
Y es la igualdad de armas también de las partes en un proceso
en lo que se refiere a recurrir a la tecnología
para apoyar sus pretensiones, ya sea como demandantes
como demandados o denunciantes denunciados.
Porque ello conllevaría a una eventual discriminación.
Y creo que eso también es un aspecto a estudiar,
lanzar y a tener en cuenta cuando hablamos
del proceso tecnológico digital.
Muy bien, muchas gracias, Ana.
Mario, hay una pregunta, no sé si la ves en el chat,
que te la formulan a ti directamente.
¿Sobre las redes sociales?
Sí, para la comprobación de la veracidad de las noticias
que recibo por las redes sociales.
¿Puedo complementar lo que ha dicho Ana,
que estoy de acuerdo con ella?
Sí, perfectamente.
Y luego voy con eso.
Yo creo que justo.
Lo que decía Lorenzo de darle importancia
a los análisis de riesgo, no solo de impacto,
sino de riesgo, es decir,
prever ex ante cómo un sistema de inteligencia artificial
puede afectar a unos intereses jurídicamente protegidos,
es la clave en todo esto.
Porque las dos regulaciones se basan en un enfoque de riesgo
para no regular todos los efectos que puede tener
la aplicación y utilización de inteligencia artificial.
Solo se regulan o se prohíben o se establecen determinados
requisitos aquellos que puedan someter un riesgo significativo.
A intereses jurídicamente constitucionales.
Si no, no podríamos estar utilizando los móviles,
los navegadores, los traductores y muchos otros instrumentos.
Y algunos que se han prohibido, por ejemplo,
por la autoridad italiana de datos,
ha sido porque había una sospecha clarísima
de que había una vulneración.
Entonces, yo creo que esta evaluación de impacto
es absolutamente fundamental, como decía Lorenzo.
Y luego, además, es que en el ámbito de la justicia,
que parece que el ámbito de la justicia se tiene que prometer
ahí que no se le puede utilizar, pues efectivamente el mismo
reglamento no prohíbe la utilización,
sino que establece que puede ser alto riesgo determinados usos,
pero no todos.
Si me va a clasificar de una manera muy cómoda los expedientes
y me va a localizar un artículo entre 45.000 sentencias para yo
poder hacer una composición en lugar de algo y tal,
pues no lo va a poder utilizar.
No hay ningún tipo de riesgo.
Otra cosa es que sustituya algo.
Son dos cuestiones muy diferentes.
Porque esto al final lo que vamos.
Enlazando con lo que es la dignidad humana.
El ser humano lo que necesita
es que un semejante tome una decisión sobre sus derechos
y no una máquina con la que no pueda replicar o hablar.
Nos ha llevado muchísimos siglos llegar
a que nos relacionemos entre humanos
y que nos enjuiciemos entre nosotros mismos.
Pero bueno,
ya con eso me callo.
Sobre lo de las redes sociales,
aquí el problema original es considerar.
¿Hasta qué punto la información que se publica en las redes sociales
es una información?
Si podemos considerar las redes sociales como un medio de información
y por tanto le tenemos que establecer los mismos requisitos.
Ya tenemos legislación de la Unión Europea,
pero no está todavía totalmente afinado ese tema.
Entonces, es un tema verdaderamente en el que se está trabajando
jurídicamente.
Yo recomiendo no informarse por las redes sociales directamente.
O sea, dice, bueno, pues qué cómodo, ¿no?
, esta solución del profesor,
ya se quita el problema de encima.
No, es que si no tenemos las posibilidades
de poder regular el comportamiento de un actor privado,
que eso es una de las cuestiones que han hablado tanto Ana como Lorenzo,
que surge la estructura,
que cambia la estructura de los derechos fundamentales,
que es la horizontalidad de los derechos fundamentales,
hasta qué punto nosotros podemos exigir el cumplimiento
de ciertos requisitos
para que cumplan con un derecho fundamental,
que son empresas de otros países que no tienen
la horizontalidad de los derechos en su sistema jurídico,
pues nos acabamos de pillar las manos.
Entonces hay mucho trabajo por hacer y creo que en cinco minutos
no me daría tiempo a contestar,
a abordar todo, lo siento.
Muchas gracias, Mario.
Lorenzo, no sé si ves el chat.
Hay un par de preguntas para ti.
Una es más genérica, pero otra es algo más concreto.
Hay una, perdona, Lucrecio.
Como hay una que la formula el propio Mario,
yo casi le diría que me la formule.
Lorenzo, porque tengo muchas ganas de quedar contigo
para hablar de muchas cosas y una de ellas,
aparte de la académica, es de la institucional.
No dilo tú ya, nos vamos a aburrir.
Sí, sí, no, lo digo, como había una pregunta además
que era tuya, pues casi es mejor que la formules tú.
No, dale, dale, porque es que si no se nos va el tiempo,
por favor.
Vale, bueno, lo digo, había una que preguntaba
si con inteligencia artificial es una nueva forma de procesar.
Bueno, depende.
Es que llamamos inteligencia artificial
muchísimas cosas muy diferentes,
que incluso estamos con la discusión,
que ahora ya ha habido algunos documentos
de hasta dónde llega el concepto de inteligencia artificial
a los efectos del reglamento de inteligencia artificial.
Para el punto de vista que ahora me interesa a mí más,
que es de protección de datos,
la discusión de si es inteligencia artificial o no es más secundaria.
También me gustaría alertar.
Inteligencia artificial son muchísimas cosas
y depende de quien lo quiera vender, le llame inteligencia artificial,
pero a lo mejor no es inteligencia artificial.
Pero desde el punto de vista jurídico,
lo cierto es que muchas veces simplemente algoritmos
o fórmulas o sistemas automatizados impactan
y mucho en derechos fundamentales.
Y entonces, por suerte,
a los efectos del Reglamento de Protección de Datos
se habla en algún artículo de sistemas automatizados
y el instrumento no es lo más importante.
Obviamente hay que analizar el instrumento para ver el impacto.
De hecho, yo he repetido muchísimas veces
la palabra impacto, los riesgos,
porque creo que debemos extender a otros ámbitos
del derecho constitucional esta terminología que nos lleva
a superar afecciones, restricciones, límites.
Y nos puede ser muy versátil medir el impacto,
la intensidad de la incisión en el contenido
de un derecho fundamental y una metodología un poquito nueva.
Volviendo, cerrando este paréntesis,
muchas veces hoy estamos hablando de inteligencia artificial
porque está de moda y muy merecida,
porque realmente el impacto de la inteligencia artificial,
yo sí que creo que hay un antes y un después,
pero muchos sistemas que no son de inteligencia artificial,
como el famoso Biogen, como el famoso Predpol,
como el famoso RISCAMBI y otras herramientas que han
sido famosas, pues no tienen nada de inteligencia artificial,
pero ojo, eso no quiere decir que tenga mucho impacto.
Lo que pasa es que el jurista,
a la hora de analizar la inteligencia artificial,
hay algún componente y no es tan fácil de definir,
como pueda ser la autonomía o la capacidad de autoaprendizaje,
que sí que conlleva un riesgo especial.
Y ese riesgo especial es precisamente,
de nuevo acudo al ámbito del riesgo,
que esa autonomía o capacidad de aprendizaje o capacidad
de adoptar decisiones por sí mismo,
sí que genera una peligrosidad que merece que el derecho,
que sean compensadas con más garantías.
Es una reflexión que puede ser interesante.
La pregunta inicial,
pues decía, es una nueva forma de procesar datos.
Yo también, y ahora ya barro para mi casa,
porque ahora se habla de la nueva ley de gobernanza
de la inteligencia artificial en España,
que regula algunos aspectos del reglamento de inteligencia
artificial, nosotros en la agencia vamos a tener competencias,
vamos a tener atribuciones específicas,
porque somos la única autoridad independiente
que tiene esas capacidades.
Pero, yo repito en todos los sitios, nuestro core,
nuestro núcleo de actuación, va a seguir
siendo el reglamento general de protección de datos.
¿Por qué?
Porque es que ya lo he dicho al inicio,
se me hace muy difícil de pensar sistemas de inteligencia artificial
que impacten en derechos de las personas
y no hagan tratamientos de datos.
Y lanzo ahí dos cuestiones,
porque ya estas horas son solo para lanzarlas
y así nos vamos tranquilos a casa.
Ojo, mucho ojo,
con el principio no vis in idem en el futuro.
Yo no quiero decir más de las cosas que estoy viendo en mi casa,
pero las que veremos con la convergencia de reglamento
de inteligencia artificial, reglamento de protección de datos
u otros.
Porque la línea fácil es decir, no, no, es que UNOS
es una autoridad de vigilancia del mercado que solo supervisa sistemas
de inteligencia artificial.
Y parece como que eso no tiene nada que ver con los tratamientos de datos
que hace ese sistema.
Si un sistema de inteligencia artificial
no está bien diseñado,
tendrá un problema el sistema y la consecuencia será, además,
que hará tratamientos de datos ilegales.
¿Y cómo vamos a perseguir a la misma empresa,
a la misma organización, con dos normas diferentes,
dos procedimientos sancionadores diferentes?
¿Realmente habrá un fundamento diferente?
Y no quiero decir mucho más, pero es algo para preocuparnos.
No cabe la menor duda de que la inteligencia artificial
se nutre de datos.
Y la protección de datos,
los que venimos del ámbito del estudio antes que de la inteligencia
artificial, vemos perfectamente cómo la protección de datos
se ha constituido en un bastión, en un muro de contención
para la garantía de muchos derechos y libertades fundamentales
y que las poquitas herramientas que tiene a su disposición
el derecho vienen de esta materia.
Vienen del ámbito de la protección de datos.
Hay otra pregunta, Lorenzo, en el chat
dirigido a ti, que es al respecto de que no siempre elegimos
con base en un sesgo o interés.
Pregunta.
Por ejemplo, compramos en un precio más bajo
o elegimos porque no se da más placer o elegir esta inteligencia artificial
porque está mejor a nuestras necesidades de búsqueda.
Entiendo.
Bueno, perdón, estaba pensando que esto de Albert Hernández
creía que era de Mario, pero no voy a revelar más datos.
Bueno, yo ahí lo que diría en el tema de sesgos
es una palabra muy interesante.
Como digo, tengo un estudio
y le dediqué los que más me ha costado en los últimos años.
Sesgos esencialmente son errores que genera inteligencia artificial.
Lo que pasa es que lo identificamos muchas veces con.
Discriminaciones posibles.
Es que un error de un sistema de inteligencia artificial
puede conllevar posibles discriminaciones,
pero no siempre va unido a temas de posibles discriminaciones.
Pero bueno, por supuesto, sesgos los tenemos los humanos
y los tienen los sistemas.
Lo que pasa es que los humanos tienen un tratamiento diferente.
Me viene ahora en mente
que gracias a que todos los humanos tenemos sesgos,
por eso está el principio de independencia judicial,
que se ha reconocido la diferencia.
Y el conceder potestad jurisdiccional a personas diferentes
sabiendo que tienen formas de ver la vida de manera diferente.
Lo podemos llamar sesgos o simplemente formas
de pensar.
Y eso habrá que garantizarlo.
Yo, en mi posición anterior,
y ahora no me puedo desdoblar, pero yo soy un gran defensor del uso
de los sistemas de inteligencia artificial en el sector público,
incluido en las funciones jurisdiccionales.
Y como ha señalado Mario,
el reglamento de inteligencia artificial,
aunque no es base legal para hacerlo,
pero regula específicamente el uso jurisdiccional.
No estamos hablando de mera gerencia,
estamos hablando de uso para la evaluación de pruebas,
para la interpretación del derecho y la aplicación del derecho.
Y todo eso es un uso jurisdiccional.
Sí que el reglamento tiene cuidado y dice para asistir,
en algunos casos, al juez.
Aquí yo siempre, y ahora estoy donde no me corresponde,
pero siempre he querido subrayar,
porque hay una dualidad que a mí me llama muchísimo la atención.
De un lado, en muchísimas profesiones,
los humanos siempre lo haremos mejor.
Fenomenal.
Obviamente el derecho a recibir una resolución humana
fundada en derecho.
Bien, podemos discutirlo.
Pero.
A preservar esa garantía, esa llamada reserva de humanidad,
específicamente en estos ámbitos.
Bien, pero a veces hay un exceso que nos lleva
a una reacción que yo llamo del bicho bola,
de decir, no, en esto nunca ha entrado la inteligencia artificial,
pero contrasta con algo muy fariseo incluso.
Y es que decimos, no, pero no hay ningún problema
en que me proponga la resolución.
Y entonces tenemos a ese juez o esa jueza
o esa administración pública que le van a entrar a chorros
propuestas de resolución fundadas en derecho
y además con una apariencia divina, que no va a supervisar,
pero formalmente serán humanas.
Con lo cual ponemos todas las garantías
en cerrar la puerta al uso de inteligencia artificial,
pero por la puerta de atrás se nos cuelan
sin garantías de supervisión de las que hablaba Ana.
Hay análisis,
hay herramientas para medir la efectiva supervisión humana
que vamos a tener que aplicar.
Porque en el ámbito médico puede pasar lo mismo.
Tengamos sistemas que propongan al médico decisiones.
Pero ojo,
va a ser fácil para ese médico separarse del criterio que le propone
la inteligencia artificial.
Va a ser incómodo.
Entonces vamos a tener que poner las garantías en esas decisiones.
Decisiones que aparentemente son humanas,
pero que realmente van a ser de inteligencia artificial.
Perdón por la extensión.
Muchas gracias.
Tienes otra, Lorenzo.
Todo el mundo dispara contra ti.
Dicen cómo valora el riesgo de condicionar la regulación
de la inteligencia artificial al ámbito internacional
o en las relaciones comerciales entre países, por ejemplo,
entre Estados Unidos y Europa.
Pues yo paso palabra porque la verdad me cuesta un poquito
dimensionar la pregunta y además me encantaría oír
a mis colegas también con alguna reflexión.
Mario, ¿a ti qué te parece la pregunta?
A mí me parece muy pertinente porque es uno de los problemas
que tenemos aquí con el Consejo de Europa
precisamente.
No voy a desvelar nada,
aunque hubo un problema bastante con dimensión política
sobre si la Unión Europea, la Comisión,
tenía que ratificar la convención o no.
Y yo como constitucionalista me.
Me oponía a las tesis de la comisión de que tenía competencia exclusiva
sobre todo lo que pasara con la inteligencia artificial.
Pasara lo que pasara con la inteligencia artificial.
Yo dije que era un disparate.
Y ellos se basaban mucho
en que, a través de sus competencias de mercado,
si todo lo que se va a poner en el mercado
tiene que pasar unos estándares, que es lo que es el reglamento de
inteligencia artificial, un sistema de certificación definitiva,
Pues si pasan ciertos estándares,
pues está protegiendo los derechos fundamentales,
la democracia y el Estado de Derecho.
Por eso es lo mismo como decir
que el código de circulación protege también los derechos fundamentales
porque no se permite a un coche que esté mal construido
que pueda atropellar a la gente.
Porque es un código que obviamente protege los derechos fundamentales.
Es un poco.
Una actitud política de intentar expandir las competencias,
solo a partir de estas competencias comerciales y de protección
de derechos fundamentales, por supuesto,
y otra una perspectiva de decir,
aunemos visiones porque solo así podremos tener una visión común
frente a otros gigantes como Estados Unidos o Chile.
La cuestión no es fácil,
la cuestión tiene implicaciones políticas, comerciales y jurídicas,
porque el modelo estadounidense de regulación
es muy diferente al modelo europeo.
Y dentro del modelo europeo es muy diferente la Unión Europea
que el convenio, que es un tratado internacional al uso,
incluso un frame of convention que es más general
y luego que tiene que ser aterrizado por legislación nacional
y que afecta categorías constitucionales indudables,
sobre las que la Unión Europea no tiene competencia.
Entonces, en ese puchero es donde nos estamos pegando,
porque ahora viene verdaderamente la idea
de quién va a ratificar la convención,
porque hemos salvado el punto de.
De pelota, por así decirlo, y ha sido la Unión Europea,
quien ha firmado en nombre de los 27 estados,
pero para la ratificación,
la decisión del Consejo que se emitió,
condicionaba que la Unión Europea obtuviera, bueno,
cuando entra en vigor la convención,
pues entra en vigor un órgano de monitoreo
de la convención, se llama la Conferencia de las Partes.
Y la primera actividad que va a tener la Conferencia de las Partes
es establecer sus normas de funcionamiento.
Y ahí se va a votar.
Entonces, la Unión Europea pretende tener 28 votos,
sin que voten los estados.
Claro, el Reino Unido, Turquía, Suiza, etcétera, etcétera,
aparte de un ataque de risa, pues han dicho que no.
Entonces, ahí está, porque la Unión Europea
es una cuestión que le afecta también la Convención de Estambul
y en otras convenciones.
Porque en este, por lo menos, todos los países están de acuerdo
en que se firme la convención.
Pero en Estambul no todos los estados han firmado la convención.
Entonces, la Unión Europea está ahora mismo intentando formar.
Una especie de línea estratégica que le va a resultar muy difícil
porque va a tener que decir muchas cosas contradictorias.
Y de la que los estados,
por lo menos España, si a mí me siguen haciendo caso,
y por eso quería hablar con Lorenzo alguna vez,
no estoy tan de acuerdo.
Porque desde el punto de vista constitucional,
los que sabemos también un poco de derecho europeo,
pues hombre, hay ciertas dudas.
Entonces lo que no puede ser es que dentro de cinco años
te venga algún país.
Y un tribunal constitucional te declara inconstitucional
algún reglamento porque se han pasado un poco.
Entonces, yo no estoy en contra de que la Unión Europea
asuma más competencias y que sean en común,
pero hay que hacerlas conforme a un procedimiento.
Y si lo que quieren es hacer incidir en los derechos fundamentales,
no solo en la regulación, pero puede incidir.
Bueno, eso hay un debate jurídico muy interesante.
Hay que pensarlo.
Y vamos corriendo demasiado.
Vamos corriendo demasiado.
Porque la geopolítica aprieta mucho,
porque los intereses comerciales aprieta mucho,
porque ahora los aranceles, el efecto Bruselas
parece que no le gusta al mundo.
El efecto Estrasburgo sí.
Aquí ahora mismo estamos en una reunión
en la que están Estados Unidos y la Unión Europea,
hablando todo el tiempo.
Por lo menos tenemos un foro en el que no se ha roto el diálogo
y hablan entre ellos sobre la evaluación de impacto,
precisamente.
Así que siento no poder dar una respuesta definitiva,
pero es el proceso en el que estamos,
un proceso muy interesante.
María, la atención.
Igual nos puede aportar alguna información que se sepa.
Claro, Mario, que los primeros firmantes,
aparte de la Unión Europea y Noruega, etcétera,
pero fue Israel y Estados Unidos los primeros firmantes.
Fue antes de la elección presidencial,
pero también a lo mejor nos da una pista de que el convenio
obviamente no establece obligaciones equiparables
en absoluto al ámbito del reglamento,
pero.
Era relevante, no sé si se ha vuelto a tener,
porque también las relaciones con Israel,
pues no sé cómo serán,
pero entiendo que los que son los procesos de ratificación
ni siquiera han empezado, ¿no?
No, no han empezado, pero ya hay países que se han interesado.
Hay países, por ejemplo, que ya han querido ratificar,
como Chile y Ecuador.
Lo que pasa
es que como no formaron parte de la elaboración de la convención,
pues no pueden formar parte hasta que no.
Que no entre en vigor.
Y es una pena,
porque como solo hace falta cinco países,
cuando entre en vigor,
eso va a ser un pistoletazo de salida tremendo.
La Comisión ya ha dicho que en mayo empiezan las conversaciones
en el Consejo sobre este tema.
Entonces, la Comisión tampoco quiere quedarse atrás.
Ya hay países que quieren,
o sea, ya hay Y luego el tema de Estados Unidos es.
Sí, Estados Unidos fue un país muy activo.
Se salió con la suya a la hora de delimitar el ámbito del convenio
para excluir.
El sector privado
o el limitar el sector privado, no excluirlo totalmente
porque los estados pueden ampliarlo, pero bueno,
los estados pueden hacerlo.
Pero era mejor tener un convenio más general
y más horizontal en el que pudiera caber Japón,
porque todo el mundo culpa a Estados Unidos,
pero Japón tampoco lo quería firmar, Canadá tampoco lo quería firmar,
México tampoco lo quería firmar.
Entonces, cediendo un poco en este ámbito más horizontal
y menos específico, sumamos muchos países.
Y es mejor que Estados Unidos tengan,
las autoridades de Estados Unidos, los estados,
tengan al radar la convención,
porque a lo mejor el Estado, el Parlamento de California,
pues lo utiliza.
Que habrá puesto una multa a una empresa,
creo recordar, bastante seria.
Entonces, bueno, ahí está la política legislativa,
porque también hay que tener en cuenta
que Estados Unidos.
Solo aplicaría a su dimensión federal,
no a los estados.
Y quien ratifica es el Senado.
Y los que están aquí negociando es la Casa Blanca.
Entonces, ahí sí que ves el check and balances y los de Estados Unidos
te lo decían.
Oye, tú obligamelo que quieras,
pero si no sacas esto, nos lo dijeron en el 2022,
si no sacas esto del ámbito del convenio,
nosotros no firmamos porque no lo va a ratificar nadie.
Entonces, nos vamos.
Entonces, ellos fueron muy honestos y han ayudado muchísimo, pero bueno,
es lo que hay.
A mí me parece un ejercicio de honestidad muy bueno.
Fíjate, ya ha firmado Canadá, ya ha firmado Japón.
Voy a adelantar una primicia, pero mañana firma Ucrania.
Entonces, quedan muy poquitos países sin firmar.
Muy poquitos países.
Ahora la pelea es la ratificación y cuando entre en vigor,
veremos.
Escribiremos algo.
Se ve interesante.
La pregunta era bastante maliciosa y se pueden decir algunas cosas.
La pregunta en el contexto de que parte del reglamento
de inteligencia artificial, pues ha habido algunas.
Se ha visto cómo la Unión Europea ya hace unos meses
echó marcha atrás en una directiva sobre responsabilidad
de la inteligencia artificial.
Se ha visto cómo hace dos semanas,
al parecer, yo hablo de notas de prensa,
no de información que tenga por otra vía,
se ha visto cómo parece que se ha parado un poco
el código de buenas prácticas de inteligencia artificial
para la inteligencia artificial generativa y que la Comisión Europea
está lanzando, insisto, hablo por la prensa.
La comisión está lanzando un poco el mensaje que ya vino con el informe
del antiguo director del Banco Central Europeo
sobre la necesidad de simplificación en este contexto de las relaciones.
Ahí sí que diría que en el ámbito de protección de datos
habrá que ver la concreción, pero, como he dicho en público,
a veces parece más que se está lanzando un titular,
que a lo mejor es aconsejable hacerlo en este momento
para la Unión Europea,
más que algo concreto.
Más que algo concreto porque se está hablando incluso
en el ámbito de la protección de datos
y el titular es cómo vamos a tener que revisar la normativa
porque esto puede ser algo negativo para la Unión Europea,
etcétera, etcétera.
Pero luego el más titular, la reforma,
no digo que no sea importante, pero es casi un pequeño asterisco
en una parte muy pequeña del reglamento.
Entonces, pues en ese sentido, pues estamos viviendo unas épocas.
Y yo creo que el núcleo duro de la normativa
no se puede negociar, es normativa,
pero estamos que hay que transmitir algunos mensajes
más en contextos de negociación como los que puede haber.
Exacto, y político,
si me permites, fíjate, aquí han venido físicamente
y han mandado delegación desde París, consejeros,
si no les gustará, pues no vengan ahí a nada,
han realizado muchos comentarios al modelo,
a los papeles que trabajamos, todos.
Documentos de trabajo,
y luego le podemos echar un vistazo a la orden ejecutiva
sobre inteligencia artificial de Trump.
No es una cosa absolutamente tan diferente de la de Biden.
Prefiero la de Biden, por supuesto, pero la de Trump es una cosa.
Entonces, sí,
una cosa es los que hemos dedicado un ámbito público,
una cosa es lo que quiere que se transmita,
y otra cosa es luego que no somos tontos y todos queremos,
todos somos conscientes de que una tecnología como esta.
Tarde o temprano hay que regularla de alguna manera.
El tema es cómo, por quién,
cuándo y con qué intereses.
Y eso es lo que se está discutiendo.
Muy bien, pues no hay más preguntas en el foro.
Si alguien quiere hacer una última intervención.
Yo me gustaría, nada, un apunte muy rápido.
Simplemente por llamar la atención,
porque ahora se está tramitando o se va a tramitar,
hay un anteproyecto de ley de gobernanza
de la inteligencia artificial que simplemente me llama la atención
de un tema que no me voy a postular,
pero que se ha concentrado excesivamente, diría a mi juicio,
la atención en una cuestión que a mi juicio es menor,
como es el tema de si se sancionan o no se sancionan al sector público
en el caso de la inteligencia artificial,
tema en el que yo no tengo por qué.
Pero que me parece que sería muy interesante
poner la atención en que a lo mejor en ese anteproyecto
se estaba ya postulando España en ámbitos muy sensibles
de derechos fundamentales
y nadie desde.
No, no, pero lo dejo ahí.
Me llama muchísimo quizá a veces la falta de tiempo
de la sociedad civil cuando tiene que postularse.
Les lleva a que no tengan tiempo de estudiar de verdad
dónde está y la verdad
es que el impacto que había en derechos fundamentales
en ese texto ha pasado desapercibido.
Y a mí ya, pues como deje personal,
me gustaría que la herramienta del registro de algoritmos públicos
se pusiera más atención sobre ella.
Porque es un elemento que puede ser muy importante
para la garantía de los derechos de las personas
y también un instrumento para que las instituciones sepamos,
porque hoy en día no lo podemos saber,
qué algoritmos públicos que impactan en derechos
se están utilizando.
Y también me llama mucho la atención que no se ponga
la atención en herramientas como esta,
que ya existen y están reguladas desde hace bastante tiempo
en la Comunidad Valenciana, por ejemplo,
y le prestamos ahí bastante atención.
Y probablemente este tipo de medidas llevarían a que no se hicieran cosas
que fueran sancionables.
Y entonces, poner la atención en el final del recorrido,
no digo que no haya que ponerla,
pero que quizás si nos pusiéramos la atención en otros elementos,
pues no tendríamos que fijarnos en si realmente el mal se ha producido.
Gracias.
Muchas gracias, Lorenzo.
María.
Bueno, pues vamos a cerrar.
¿Tiene pedida la palabra Bebe Tudela?
No sé si tiene abierto el micrófono.
Pero parece que está silenciada.
Es brevísimo.
Perfecto.
Yo sé muy poco o casi nada de todo esto,
pero quiero hacer una breve reflexión sobre, al final,
la instancia que regula, que es el Parlamento.
¿Qué es el Parlamento?
Es la relación entre inteligencia artificial y Parlamento.
Y es un baño de realismo, es un baño de realismo.
Es decir, a mí me cuesta mucho trasladar
que simplemente como herramienta de trabajo,
igual que puede ser internet o una enciclopedia,
la inteligencia artificial es útil para diputados
y grupos parlamentarios como herramienta.
Creo que muchos siguen ajenas a esa herramienta
y no acabo de entender ese rechazo.
Hay una segunda cuestión.
Esa es una de las relaciones entre el Parlamento
y la inteligencia artificial.
La segunda es que a lo mejor sería momento de empezar a ponernos
a pensar cómo podría ayudar la inteligencia artificial
a mejorar la eficacia de las funciones parlamentarias,
la legislación.
Nos puede ayudar al control del poder,
si algún día vuelve a existir en la función presupuestaria.
Es decir, nos puede ser francamente útil,
creo.
Pero luego hay un tercer reto que me parece fundamental.
El Parlamento
hoy no está preparado para legislar sobre inteligencia artificial.
Necesita también preparar sus estructuras y sus infraestructuras.
Para abordar el reto que supone legislar,
y no solo legislar sobre la inteligencia artificial
de forma directa, sino legislar teniendo en cuenta
la presencia de la inteligencia artificial,
teniendo en cuenta que existe.
Y ese es mi mayor escepticismo al final, viene de ahí,
si la institución que está llamada a acabar este ciclo.
Bueno, hay muchos países del mundo, hay países por lo menos,
en donde los parlamentos están agitando y están trabajando
con la inteligencia artificial.
No me consta que sea así especialmente en España,
pero necesita desde luego una revolución.
Y luego una última idea.
Yo en relación con la igualdad os he oído no discriminación.
Desde luego es una relación entre inteligencia artificial
e igualdad fundamental.
Pero yo creo que hay que reflexionar también sobre la igualdad material.
Algo se ha dicho en algún momento,
pero es que impacta de lleno en el Estado social.
Es que también impacta de lleno, por ejemplo, en educación.
Bueno.
La relación con el conocimiento no tiene nada que ver ya
desde hace tiempo y con la inteligencia artificial
sufre también una profunda transformación.
Son muchas perspectivas y unigemario,
una única cosa.
De hecho, al final,
de todo esto lo que hay que hacer, yo os pregunto,
esto es una pregunta, y tenemos capacidad
para hacer cumplir eficazmente en su momento una legislación.
Perfecto.
Llegamos a una legislación perfecta.
¿Tenemos capacidad para hacerla cumplir?
¿Es una pregunta retórica?
No, es una pregunta que os hago
porque es uno de mis interrogantes fundamentales
hoy alrededor de muchas normas.
Pero la legislación artificial se me plantea con crudeza.
La primera cuestión que yo voy a tener en cuenta es.
Primero,
ser conscientes de lo que significa la inteligencia artificial,
de qué es lo que se está haciendo y qué consecuencias tiene,
sobre todo, el sector público a los ciudadanos.
Eso está fuera del debate público.
En España, tremendamente.
El debate público está dominado por las grandes techs que lo único
que hacen son fuegos artificiales
y estamos un poco como cegados.
Entonces, si no nos extraemos o no quitamos esos fuegos artificiales
y esos papeles de celofán que los compramos enseguida
porque son redes sociales, etc., etc.,
Entonces, tu pregunta queda como dentro de cuatro o cinco años.
Tu pregunta es ciencia ficción jurídica.
Y perdona, pero es que es así.
Es que yo lo veo.
Es que yo cuando pregunto por ministerios,
por instituciones,
qué es lo que se está haciendo con inteligencia artificial,
ahora me empiezan a preguntar, pero la mayoría me dice,
pero si nosotros no O sea, las preguntas son un poco
para echarse a correr.
En España, que España es un país muy puesto.
O sea, dentro de lo que cabe de digitalización de España
es muy bueno.
Y la Agencia Española de Protección de Datos es buenísima.
La Secretaría de Estado de Digitalización es buenísima.
La Administración de Justicia tiene muchísimas cosas.
Pero la población, pues no.
Entonces, claro, ese es un problema.
Es un problema muy grande.
Y ya me paro.
Perdóname.
Ana, no sé si querías decir algo más.
Sí.
Sí, bueno, si me permitís, también a modo de cierre
y un poco retomando en relación con la intervención de Pepe.
Yo decía en mi intervención que realmente lo que necesitamos
cuando hablamos de derechos afectados, derechos tradicionales,
es una reinterpretación de lo que ya tenemos.
Claro, y esto lo conecto con la falta de formación,
la falta de capacitación digital,
el que realmente no sabemos con qué nos estamos manejando,
no sabemos nada o poco sobre la técnica,
la tecnología, la herramienta,
no se conocen los derechos de los que disfrutamos,
no se conocen las garantías.
Los técnicos, digamos,
las personas que realmente hacen la tecnología,
no conocen.
Las responsabilidades o los deberes éticos,
no conocen las normas que resultan de aplicación.
En fin, nos falta mucho por hacer, nos falta mucho.
No tenemos realmente las sentencias que se empezaron
a editar en materia digital.
No son de hace tanto tiempo.
Nos falta mucho.
Y esto se enlaza también con lo que dice Mario.
Y supuestamente somos un país con un nivel de.
Bueno, digamos que de formación y de desarrollo
en materia de inteligencia artificial aceptable.
Insisto, es necesaria, una de las patas fundamentales
es la formación y la capacitación digital.
Y esto me lanza con algo que decía Pepe,
y es fundamental trabajar de forma, por parte de las instituciones,
de las políticas comprometidas,
eficaces en materia de inclusión digital.
Inclusión digital.
Y esto,
pues, un poco sirve para todo, ¿no?
Y es fundamental.
Bueno, muchísimas gracias, Ana.
Y yo cierro ya la jornada de hoy con palabras de agradecimiento.
Primero, a los participantes, a Lucrecio,
a Pepe, a los ponentes,
muchísimas gracias por haber participado en la encuesta,
por haber dedicado estas horas de esta tarde.
A esta jornada
y por vuestra dedicación a este tema que, como se ha demostrado,
creo que necesita que le dediquemos muchos esfuerzos.
Muchísimas gracias.
Yo he aprendido mucho y seguro que esta jornada,
que además queda grabada y colgada en Canal UNED,
servirá a muchos interesados en el tema.
Muchísimas gracias.
Y las últimas palabras
son de agradecimiento para la Fundación Manuel Jiménez Abad.
Has dicho, Pepe, al principio que es cierto,
colaboramos desde hace mucho tiempo en diferentes actividades,
hace muchos años ya, no sé cuándo empezamos, Fernando,
hace mucho tiempo empezamos a colaborar con la Fundación.
Es estupendo, ha sido siempre fructífero, fácil
y los resultados siempre.
Bueno, estupendos.
Yo quiero especialmente dar las gracias a Pepe Tudela,
a todos los que están detrás de la Fundación,
porque no solo es Pepe Tudela, otras personas, y me vais a permitir
que dedique unas palabras a Elena Martínez Píldora.
No sé si le llegarán.
Estas palabras, si no, Pepe, se las transmites.
Está a punto de jubilarse, creo.
Posiblemente esta es de las últimas actividades que compartamos.
La última, dice Fernando, con nosotros.
Así que muchísimas gracias a la Fundación,
a todo el personal de la Fundación que ha hecho
siempre posible la colaboración en estas actividades
y un abrazo muy fuerte a Elena de nuestra parte.
Así que nada más, muchas gracias a todos
y con la salud.
Hasta la próxima.