Hola, soy Jorge Alexander Portocarrero Quispe,
profesor de Derecho Constitucional en la Facultad de Derecho de la UNED,
y el día de hoy hablaremos sobre derechos fundamentales
e inteligencia artificial.
¿Nuevos derechos o una adaptación de los contenidos que ya conocemos?
Empezamos.
En el ámbito de los derechos fundamentales
y su relación con esta nueva tecnología
llamada inteligencia artificial, de manera genérica,
podemos identificar una disyuntiva muy clara,
una disyuntiva directa.
Que se encuentra detrás incluso de las regulaciones
que se les ha venido dando al desarrollo, despliegue y uso
de la inteligencia artificial.
No es otra cosa que la disyuntiva entre proteger derechos
o promover innovación.
La pregunta relacionada a esta disyuntiva
sería entonces ¿regular la innovación en inteligencia artificial
para proteger derechos ante posibles.
Riesgos o incentivar la innovación de los desarrolladores
de inteligencia artificial para ser más competitivos?
Esta pregunta.
Nos puede servir para aclarar el por qué existe en ciertas regiones
del mundo un intento de regular más el uso,
despliegue y desarrollo de la inteligencia artificial
y por qué en otros quizás esto sea mucho más flexible.
Para nadie es una sorpresa de que el rápido desarrollo
y la creciente aplicación y ampliación de tecnologías
basadas en inteligencia artificial exige plantear.
Algunos límites para que estas tecnologías
no afecten de manera desproporcionada derechos.
Esto tiene una relación intrínseca con temas
como por ejemplo la ética.
La ética no entendida como una mera cuestión deontológica
de cumplir simplemente patrones de conducta adecuados
y.
De manera aproximada,
sino más bien una ética explicativa de por qué es que se regula
como se regula en nuestras regiones.
Lo que hace particularmente relevante a la inteligencia artificial
es la capacidad de procesamiento, acceso, información y aprendizaje
que tiene esta tecnología.
Y es interesante resaltar que la tecnología,
al menos la idea de la inteligencia artificial,
no es nueva.
Como tal, el término inteligencia artificial
proviene del año 1955.
Y si queremos ser mucho más estrictos,
podríamos remontarnos incluso hasta, por ejemplo, Descartes,
que ya hablaba de la existencia
o posible desarrollo de inteligencias que no sean humanas,
que sean capaces de razonar.
Y si queremos ser incluso más atrás,
podemos hablar incluso del golem, ¿no?
En la leyenda era este ser sin voluntad propia
pero con capacidad de actuar a órdenes del rabino Leo
de la sinagoga vieja de Praga.
Cuando vayan por ahí les invito a que den una vuelta por este lugar.
Pero bien, la inteligencia artificial no tiene nada de nuevo.
Lo que es nuevo
y que lo resaltamos en esta diapositiva
es la capacidad de procesamiento debido a los microchips.
Durante los años 60,
70 hubo mucho desarrollo en materia de inteligencia artificial
y que cambió.
Desde algunos años se ha dado un salto,
si quiere llamarse cualitativo,
con la cantidad de inversión y capacidades tecnológicas
que se tienen a mano.
Esto ha llevado a que distintos gobiernos
de los países involucrados en el desarrollo,
despliegue y uso de la inteligencia artificial
traten de abordar estos dilemas éticos y jurídicos
que la inteligencia artificial representa.
Podríamos identificar dos enfoques básicos.
Desde lo cual es abordar esta pregunta y esta disyuntiva,
que por un lado sería un enfoque intuitivo,
en principio, de los derechos y libertades,
que imponga reglas, límites a la inteligencia artificial
en pos de la seguridad pública y la protección de estos derechos,
y un enfoque más orientado hacia la promoción de la innovación
en libre competencia.
Mientras que el primero se basaría más en regulaciones
que busquen impedir
y reducir riesgos, el otro enfoque estaría más orientado
hacia una autorregulación de los desarrolladores
y los que despliegan estas tecnologías,
más que imponer restricciones claras.
Ambos enfoques son respuestas a este dilema, ¿no?
¿Regular la innovación o dejarla libre?
¿Cuál de los dos enfoques es mejor o peor?
Pues esto dependerá del enfoque ético,
que uno asumamos un enfoque consecuencialista utilitarista
o asumimos un enfoque más deontológico humanista.
Dependerá o quizás la respuesta se encuentre entre ambos enfoques.
Esto lo veremos en las siguientes diapositivas,
como por ejemplo, Aquí podemos apreciar esta suerte de ponderación
entre por un lado la innovación y por otro lado ese aseguramiento,
esa protección, esa garantía de derechos.
Confiabilidad y competitividad son en principio dos conceptos
que se excluirían mutuamente.
Si maximizo en la mayor medida posible
o de forma absoluta solo uno de ellos,
pues elimino o excluyo el otro.
Y inversamente, si lo hago.
Con el otro, pues también termino reduciendo
o eliminando al que se le opone, ¿verdad?
La solución a este dilema,
pues no estaría en dar preponderancia a uno o al otro,
sino más bien tratar de encontrar un punto medio, ¿no?
Las opciones de priorización o de optimización conjunta
son las que caracterizan a las regulaciones que existen hoy en día,
o lo que hay hasta ahora en regulación en materia de inteligencia
artificial, que por un lado, como por ejemplo el modelo europeo
del reglamento de inteligencia artificial,
que busca optimizar ambos, la confiabilidad
y la competitividad,
y el modelo un poco más de desregulación que encontramos
en el bloque que podríamos denominar de alguna manera
para mantener el criterio de región angloamericano,
donde más bien se daría una priorización a cuestiones
de innovación y competitividad.
Priorizar, como dijimos, dota a uno de estos elementos
priorizados de los espacios de desarrollo máximos,
en detrimento del otro.
Optimizar, obviamente, si optimizamos los dos,
vamos a llegar a una suerte de equilibrio de Nash,
el máximo mínimo para no desaparecer el mínimo máximo
del otro elemento en interacción.
Es lo que se busca en teoría
para poder tener una inteligencia artificial más confiable
pero a la vez competitiva.
¿Qué nos permite optar por uno u otro de los criterios?
No, pues el enfoque, nuevamente, el enfoque ético
que se tenga de ellos.
Si optamos por priorizar la confiabilidad,
impedimos la competitividad.
Si priorizamos la competitividad,
priorizamos poner en riesgo derechos.
Si buscamos optimizar ambos conceptos,
logramos un equilibrio que podría garantizarse de cierta manera.
Ahora, la pregunta.
Que tiene relación con esto, una relación directa
es, entonces, ¿qué pasa con los derechos fundamentales?
¿Tenemos nuevos enfoques o nuevos derechos?
¿Tenemos que crear nuevos derechos o ampliar el contenido
de estos derechos en función de lo que estemos buscando?
¿Optimización de la competitividad o protección del derecho?
La necesidad de nuevos derechos implicaría, obviamente,
la existencia de nuevos contenidos, nuevas funciones, nuevas garantías,
implicaría que los derechos existentes aquí y ahora
no son adecuados para tutelar espacios de libertad
a los titulares de derechos.
Entonces, ¿justificaría el desarrollo
y despliegue del uso de inteligencia artificial
este cambio de paradigma?
¿Totalmente nuevos derechos,
nueva dogmática de derechos fundamentales?
¿O es que podemos.
Tratar de adaptar a través de regulaciones
los derechos que ya tenemos para poder ampliarlo.
Pues lo que toca hacer
es dar una mirada a algunos derechos fundamentales
y ver qué tanto se pueden adaptar a este dilema,
nuevos enfoques o nuevos derechos.
Empecemos por el derecho a la igualdad
y no a la discriminación.
El derecho a la igualdad, como sabemos,
haciendo un poco de memoria de nuestras clases
de derechos fundamentales, básicas, tiene dos aspectos.
Uno que es la igualdad formal, que sería a su vez divisible
en igualdad ante la ley e igualdad en la ley.
Y por otro lado tiene una igualdad material,
que en la Constitución Española encontramos en el artículo 9.2
de la Constitución, ¿no?
, donde se busca tratar de reducir desigualdades
a través de acciones positivas por parte del Estado.
El derecho de la igualdad, hay que resaltar,
no es un derecho a ser igual a los demás,
sino a ser tratado de manera igual que quienes se encuentran
en idéntica situación.
La discriminación, por su parte, es.
Un concepto mucho más profundo y grave dentro de la idea de igualdad
se basa en un trato diferenciado basado en categorías sospechosas,
que por ejemplo son la razón de nacimiento, raza, sexo, religión,
opinión o cualquier otra condición o circunstancia personal o social.
Esto, ¿cómo se ve afectado por la inteligencia artificial?
Pues obviamente, como dijimos a un inicio,
la capacidad que tiene la inteligencia artificial
ahora para desarrollar este tipo de cruce de información
y de expandirla y procesarla,
hace que estemos ante escenarios como por ejemplo discriminación
algorítmica, donde ya la discriminación
probablemente no se dé de una manera directa,
sino de manera indirecta,
y que se dé en una manera masiva.
Ahora, ¿esto justificaría un nuevo contenido,
nuevas funciones, nuevas garantías?
Pues podríamos decir que los titulares y destinatarios
del derecho a la igualdad siguen siendo los mismos.
El destinatario es el titular de un derecho subjetivo,
derecho fundamental.
El destinatario viene siendo en primer lugar
los poderes públicos, los terceros, en manera indirecta,
efecto horizontal de derechos fundamentales
y.
Lo que tendría que hacerse es adaptar el concepto de igualdad
y no discriminación.
No cambia la naturaleza de la afectación.
La afectación sigue siendo la misma.
Lo que cambia es el alcance y la intensidad con que ésta se da.
Por lo tanto, podemos, al menos desde mi punto de vista,
mantener el derecho a la igualdad como tal en sus contenidos,
pero podríamos regular e incrementar sus garantías de manera
que pueda dar cuenta de estos desarrollos.
Bien, luego tenemos el derecho a la protección de datos personales,
que es otro derecho que se ve especialmente
afectado por la irrupción de la inteligencia artificial.
Este derecho, nuevamente haciendo un poco de memoria de las épocas
de la facultad, consiste en un poder de disposición
y control sobre los estados.
Sobre los datos personales que faculta la persona
para decidir cuáles de estos datos proporcionar a un tercero,
sea el Estado o un particular.
Esta es una definición estándar que la podemos encontrar
en el libro Constitucionalismo Multinivel
de la profesora Yolanda Gómez Sánchez.
Dentro de lo que son datos, hay dos tipos de datos,
los datos ordinarios y los datos sensibles.
Los datos ordinarios son como, por ejemplo,
el nombre completo, la dirección,
las circunstancias relacionadas al trabajo,
las circunstancias familiares.
Mientras que los datos sensibles
son, por ejemplo, origen étnico o cultural,
ideología, política, religiosa, que están especialmente protegidos,
no solamente por el Reglamento de Inteligencia Artificial
, sino ya desde el Reglamento General de Protección de Datos,
en su artículo 4 y 9.
Ahora, ¿son necesarios nuevos
contenidos para proteger mejor los datos personales?
Pues hay que tener en cuenta que el contenido
del derecho a protección de datos puede ampliarse para abarcar.
Aquellos contextos en los que la inteligencia artificial
podría hacer uso de datos personales
como por ejemplo para su entrenamiento,
para dirigir publicidad o por ejemplo para estigmatizar personas y grupos.
Hay que enfocarse en esos aspectos
donde la potencia que tiene la inteligencia artificial
podría irrumpir y podría tener un efecto bastante pronunciado.
Sin embargo.
Tenemos que también tener en cuenta
que esta segmentación ya ha ocurrido antes.
Hace esto, la inteligencia artificial cambia la naturaleza
de que se segmentan partes de información, de datos,
para poder manipular o poder afectar derechos fundamentales,
pues esto ya se ha dado y simplemente lo que sería necesario
es tener una regulación mucho más directa
como por ejemplo hace el reglamento de inteligencia artificial
que protege los datos personales en base a unos riesgos escalonados
que tiene en cuenta riesgos prohibidos y riesgos negativos.
Que no son tan graves.
Entonces es una escala que hace el reglamento
de inteligencia artificial.
Con esto podríamos salvar el derecho a protección de datos,
pero sí necesariamente a adaptar su contenido.
El derecho al debido proceso.
Este es un derecho muy importante para nosotros
que somos estudiantes de derecho, operadores jurídicos,
pues la inteligencia artificial nos permite.
Nos promete una nueva situación en la cual quizás
el razonamiento jurídico sea reemplazado por una máquina.
Se da en algunos países, por ejemplo,
donde se usan smart courts o smart judges,
donde se usan jueces basados en algoritmos
para resolver problemas.
Casos bastante sencillos, pero hay que tener en cuenta
que el derecho a la justicia a la efectiva
y el derecho al debido proceso requieren necesariamente
del juicio.
El accionar humano.
Sobre todo el derecho al debido proceso,
este derecho que se da dentro,
estas garantías que se dan dentro del proceso,
que tendríamos por el juez natural o el juez predeterminado por ley,
el propio razonamiento jurídico, la capacidad de.
De cuestionar pruebas, de poder defenderse,
de no poder ser obligado a declarar en contra de uno mismo.
Todas estas garantías que forman parte de este supraderecho,
que sería el derecho al debido proceso,
tienen una relación con lo que ahora ocurre
con la inteligencia artificial,
sobre todo lo que es el juez predeterminado por ley
y la motivación de resoluciones judiciales,
como en España, por ejemplo, es una obligación que está plasmada
en el artículo 120.3 de la Constitución.
Vamos a dejar que el juez sea un algoritmo que, ulteriormente,
es una de las grandes empresas tecnológicas.
O sea, el juez va a ser, al final de cuentas,
una empresa tecnológica.
O vamos a tener que limitar el uso de la inteligencia artificial
en materia jurisdiccional a ser una mera herramienta.
Y esto ya ha ocurrido.
Ya tenemos sentencias en estos tribunales.
Sobre el uso de inteligencia artificial
en cuestiones jurisdiccionales.
Por ejemplo,
las sentencias de T-23 de la Corte Constitucional Colombiana,
¿no?
Que estableció ciertos, incluso ciertos requisitos
para el uso de la inteligencia artificial.
También en Colombia se dio hace poco un caso sobre el uso
de inteligencia artificial por parte de un tribunal superior.
En España se ha dado más el uso de inteligencia artificial
en escritos ante tribunales por parte de abogados.
En Estados Unidos, en el famoso caso Mata versus Avianca,
se dio también el caso,
y esto es hasta ahora bastante inédito,
de que esta corte.
Sancionó al estudio de abogados que ofendía al señor Mata
por un asunto de daños ocurridos durante un vuelo,
sancionó con 5 mil dólares por haber usado inteligencia artificial
en sus escritos.
Esto incluso en cierta región de la India,
una corte superior
ha limitado estrictamente el uso de la inteligencia artificial,
casi prohibiéndolo dentro de los escritos judiciales.
La inteligencia artificial y el derecho a un debido proceso
es bastante problemática esta relación.
Entonces lo que puede haber es.
Usar la inteligencia artificial
como una herramienta para incrementar predictibilidad
de las decisiones judiciales y seguridad jurídica,
pero nunca reemplazar el razonamiento del operador jurídico.
En el momento
en que se reemplace el razonamiento del operador jurídico,
entonces sí estaríamos incurriendo en una vulneración
del derecho al debido proceso.
Por tanto, este derecho nos sigue sirviendo,
tendríamos que poner reglas muy claras dentro de las jurisdicciones
para poder evitar el mal uso de esta tecnología.
Siempre como herramienta,
no como un reemplazo de la argumentación
y el razonamiento jurídico del magistrado.
Derecho a la propia imagen e intimidad,
pues recordando rápidamente, derecho a la intimidad,
recordemos el derecho a estar solo,
es no verse afectado por injerencias externas,
en la esfera personal, sin consentimiento,
no importa si estos hechos son verdaderos o falsos,
protege principalmente a las personas físicas,
no a las jurídicas, esto lo ha establecido así
el Tribunal Constitucional Español, al menos en la Constitución.
Jurisdicción constitucional española.
Por otro lado, el derecho a la propia imagen,
otro derecho a la personalidad,
que junto a este y, por ejemplo, el derecho al honor,
forman el artículo 18 de la Constitución Española
como la conocemos.
El derecho a la propia imagen es un derecho a la propia imagen,
a la imagen de uno, no a una cuestión de valía o fama.
La propia imagen es la imagen,
la propia personalidad.
De uno mismo.
Y es personalísimo, termina con la muerte, ¿no?
Y consiste en la facultad que tiene toda persona de decidir
cuándo y cómo y dónde utilizar la imagen física
y por quién, ¿no?
Independientemente de que se tenga o no fines de lucro.
Por eso es muy importante tener en cuenta este derecho.
¿Son necesarios nuevos derechos?
Pues la amenaza a la intimidad y a la propia imagen.
Precisamente por la capacidad nuevamente
de la inteligencia artificial, es muy, muy intensa.
Tenemos que la amenaza a la intimidad puede ser cubierta
por el ámbito de protección del derecho a la intimidad personal
y familiar, tiene que ser adaptado a esta increíble capacidad
que tiene.
Los algoritmos pueden, a través de cruces de información
que tenemos nosotros, a disposición en el internet,
pueden afectar nuestra intimidad para entrenarse sobre todo.
Es muy recomendable no introducir información
o datos personales sensibles en estos chatbots o aplicaciones
que tenemos.
La amenaza a la propia imagen,
pues se da a través de la manipulación de imagen,
como hemos visto, tanto en España,
en México, en distintos países,
de que se usa la inteligencia artificial
para hacer que personas hagan cosas que en realidad
no hacen, o ponerlas en situaciones donde no han estado,
por ejemplo, bastante interesante fue cuando una asociación en Alemania
creó un video donde el entonces canciller
Olaf Scholz se dirigía al público alemán diciendo que iba a iniciar
y estaba convencido de iniciar el proceso de declaración
de inconstitucionalidad de cierto partido en Alemania.
Que todo fue hecho por inteligencia artificial,
de una calidad muy sorprendente.
No es necesario, por tanto, un nuevo derecho,
es necesario adaptar este derecho a esta nueva intensidad
con que puede ser afectado.
Y finalmente, el derecho a la información.
Recordemos que el derecho a la información consiste
en la libre comunicación y recepción de información sobre hechos
que tenga una naturaleza noticiable.
La libertad de información no protege informaciones falsas.
Basadas en una idea de verdad, sino informaciones veraces.
Y lo veraz no significa verdadero, sino suficientemente contrastado,
suficientemente documentado, que se base en una buena fe
y diligencia por parte del informador.
Con eso basta para tener el derecho a la información.
La facilidad con que la inteligencia artificial.
Crea, manipula imágenes, textos, produciendo fake news
o lo que ahora es la idea de inteligencia artificial basura
o IASLOC, que es que la inteligencia artificial crea información errada
y otra inteligencia artificial se basa en esta misma información
errada para crear más información errada
y esto tiene un efecto bola de nieve.
Esto también puede limitarse a través de regulaciones y límites
al uso de la inteligencia artificial
en estos casos.
Si el clásico derecho a la información sigue siendo útil,
es necesario reglamentar de manera específica
este tipo de derechos.
Pues bien, con estos derechos podemos tener una idea
para poder llegar a la conclusión de que no es necesario nuevos
derechos.
Al menos ahora, a no ser que estemos hablando
de neuroderechos, que es otro ámbito,
pero en el ámbito de la inteligencia artificial lo que tenemos que hacer
ahora es reglamentar mejor y no crear nuevos derechos
porque esto implicaría crear una nueva rama
del derecho constitucional que sería el derecho fundamental
constitucional.
En la inteligencia artificial con una nueva dogmática,
con unas nuevas garantías, con unas nuevas funciones
y esto no aparece como necesario aún.
Muchas gracias por vuestra atención.
Nos vemos en la próxima clase.
Hasta entonces.