Muy buenos días a todos.
Vamos a seguir con las jornadas de este seminario
de derechos fundamentales, inteligencia artificial,
organizado por el máster de derechos fundamentales de la UNED,
y tengo el inmenso honor y placer de presentar
a mi querido colega y amigo Fernando ya no Alonso, él es catedrático
de Filosofía del Derecho de la Universidad de Sevilla,
también es decano de la Facultad de Derecho de Sevilla,
ha realizado estancias de investigación
en diversas universidades
como Bolonia París Trieste pisa Coímbra Maguncia Edimburgo y os Ford
en donde ha sido académico visitó entre los años 2010 2019.
Es académico correspondiente de la Real Academia de legislación
y jurisprudencia de España,
vocal de la sección 17 de Filosofía del Derecho.
Es codirector de la revista semestral Josep Ciencias,
revista electrónica de Derecho y ciencia,
también es miembro del comité científico del Arquillo científico
-casa ni de la Universidad de moderna relleu Emilia,
y del mismo forma parte también de los consejos de redacción
de las revistas Anuario;
de Filosofía del Derecho, de esos Yo Marrakesh Journal,
derechos y libertades, persona y derecho;
y cuadernos sobre biko ha publicado más de un centenar de trabajos
de su especialidad,
entre los que destacan sus monografías.
Más recientes Homo, extensión los límites ético
-jurídicos del su humanismo en 2018,
inteligencia artificial y derecho.
El jurista ante los retos de la era digital en 2021,
inteligencia artificial y Filosofía del Derecho
en 2000 veintidos,
y este que tengo ahora mismo en mis manos, que es 2024;
homo ex maquina, ética de la inteligencia artificial
y Derecho digital.
Ante el horizonte de la singular singularidad tecnológica,
pues muy bienvenido a este seminario Fernando,
y esta es tu casa cuando quieras.
Gracias.
Muchísimas gracias.
Querido Ana y muchas gracias a todos los presentes,
tanto a nivel presencial como en la distancia,
donde tengo además buenos amigos que nos están siguiendo esta mañana
y bueno,
la exposición que voy a hacer está vivida en tres partes.
El enfoque que le voy a dar yo creo que bastante, bastante complementario
con el de mi anterior compañera ponente,
Patricia es un enfoque de ética y de meta ética.
Esto será un poco el aterrizaje final.
La parte última de la exposición,
que viene a justificar un poco la puntal, el la base,
una de las bases,
uno de los pilares fundamentales del reglamento de Inteligencia,
Artificial de la Ley de Inteligencia ,
Artificial aunque se llegó al acuerdo el ocho de diciembre,
como recordarán, de 2000 veintitres y que ya se encuentran en trámite
únicamente formal, de corrección, de erratas y que será ya en breve
publicada en ese esa ley de inteligencia artificial.
Concretamente, el anexo tres se le da una vital
invita al tratamiento una central, una centralidad absoluta,
todo lo que tiene que ver con los algoritmos de alto riesgo,
y imagino que de esto ya se ha hablado antes,
y eso en cierto modo es lo que explica en cierto modo el tiempo
que sea necesitado para llegar a consensuar, digamos,
una norma mínima marco mínimo, que es el primero.
Por cierto, como ya saben,
de la comunidad internacional.
Ya los distintos países miembros se están desarrollando
es a nivel nacional.
El caso de Italia es el más reciente,
no llega ni a una semana que ya publicaron su ley
de inteligencia artificial.
Nosotros tenemos un una situación que es la autonómica,
como saben,
de esto pues usan así raya, ha escrito y hablado mucho,
pero digamos que están estamos ya todos los países miembros
trabajando en esa, en ese desarrollo de esa de esa norma
marco.
La ética de la inteligencia artificial
tiene en ese libro, en ese anexo tres precisamente y es trae causa
de una larga trayectoria que arranca,
pues en el año 2017, 2018,
con el libro blanco de la inteligencia artificial,
una presencia siempre teniendo en cuenta
que el modelo europeo imagino que también esto y después
ya se ha tratado a lo largo de la mañana
es un modelo alternativo al modelo norteamericano
y al modelo, el modelo chino,
el modelo norteamericano es un modelo ultraliberal,
donde son las propias empresas las que las que se comprometen
a digamos, hacer un tratamiento ético de los de los productos,
de las aplicaciones que se ponen en el mercado.
Yo creo que eso admite alguna objeción,
y lo voy a intentar justificar al final con casos prácticos
y el modelo chino, como saben,
es justamente el contrario.
Es decir, es en este caso el Estado quien se encarga de velar
por la seguridad no, y el modelo europeo es un modelo.
Desde luego que pone al individuo se habría que hablar
de antropóloga autismo, no pone a los individuos,
pone a los ciudadanos en el centro de ese sistema de protección,
de los derechos y de las libertades, de los individuos,
de los ciudadanos.
Claro, eso choca directamente, muchas veces en clave política
con los intereses de los Estados que tienen muy clara,
pues la idea de la defensa de la soberanía nacional
y del control muchas veces por motivos de seguridad,
cibercrimen, etcétera,
de la población, no así como en China.
Esto no ofrece ningún problema.
En cambio,
aquí pues no lo sé los datos de la biometría facial
que puedan servir para que en un aeropuerto
se pueda controlar a los a los viajeros que van
y vienen.
Genera, evidentemente, la discrepancia por parte
de aquellos que tienen una visión garantista,
no de protección de los derechos y libertades,
en concreto del derecho a la intimidad,
entre otras cosas.
Bien.
Todo eso ha ido, digamos, formando parte de este juego,
complicado, de este equilibrio de poderes dentro de la Unión Europea,
hasta que finalmente, de forma feliz
se ha podido llegar, por lo menos, a un marco marco jurídico,
pero en todo esto y ahora ya sí entro en la especialización,
un poco de la nota de especialización de esta ponencia
tiene mucha importancia la ética de la inteligencia artificial,
la ética de la inteligencia artificial,
lo comento ya desde el principio,
no debemos pensar en una ética con mayúsculas,
que es la que hemos estudiado todos desde el punto de vista humanista,
a eso me había referido al principio,
sino que es la ética, como saben,
de estos productos aplicada al mercado,
de tal manera que los productos que se pongan a nivel de los digamos,
al servicio de los usuarios,
pues reúnan unas unos mínimos requisitos,
no solamente legales, sino también de principios éticos;
entiende de compromiso por parte de las compañías de las dictés
en particular con digamos el bienestar no las cuatro
las los cuatro principios de la bioética que conoce también
la persona Ana, marcos de no malevolencia,
beneficiencia, justicia y autonomía.
Unidos a un quinto principio, que sería el de explicabilidad,
ese sí que sería netamente de inteligencia artificial,
no es una de las propuestas, hay mucho más hasta principios
del congreso de asilo mare más que lo lleva hasta 11 después.
La Unión Europea también ha tenido principios, pero vamos,
hay un autor, que es el luchando aflori,
que tiene un libro reciente relativamente hace dos años,
que se llama ética, la inteligencia artificial,
y sintetiza bastante de los principios en estos 5,
no para que más poder, más a mí me convence de nuevos
todos estos cinco principios
y a ellos haré referencia también un poco al final.
Dentro de esta exposición hay una primera parte cultural
de la que vivir más rápido les vía aligerara ustedes también.
El fin, el peso de la de la concentración
o de la atención que puedan dispensarme es,
según una serie de consideraciones culturales que hago siempre,
puesto que a la inteligencia artificial.
Llegué hace unos cinco años a través de los estudios
sobre trans, humanismo y claro.
Una de las líneas que tiene el trans humanismo
para llevar adelante su programa es si no es la ingeniería biogenética.
Es la inteligencia artificial, y ahí fue por donde de alguna manera
fui entra.
Entonces, esto implica que también en lo que se refiere
a la inteligencia artificial,
donde también quisiera poner de manifiesto
en estos primeros minutos que mi posición
es una posición que no es ni de apocalíptico ni de integrado,
parafraseando un poco a Umberto Eco es decir que hay,
por supuesto muchos elementos que nos benefician,
ya que nos benefician ya en nuestro día a día la desde la,
la accesibilidad a información desde el avance científico
y tecnológico,
desde la mejora de la vida de los llanos indiscutible,
pero sin caer tampoco en un ve una especie de beatería,
como diría Ortega y Gasset,
cientificista de todo lo que la ciencia por fuerza estará bien,
pues entiendo que también tenemos que tener un cierto control,
una cierta atención ética y jurídica.
De qué manera se están llevando a cabo esos eso,
ese desarrollo, ese esa evolución científica y tecnológica que afecta
a la inteligencia artificial?
Lo digo porque antes lo comentaba con una colega,
todavía estamos a tiempo de intentar, de alguna manera,
restringir no frenar a ese caballo desbocado,
en clave platónica, que podría ser la inteligencia artificial.
Si dejamos que avance sin limitaciones,
luego de los resultados, no nos podremos quejar,
y yo creo que en ese tránsito, en ese,
en ese momento, nos encontramos ahora
que es un momento crucial que desde el principio de todo esto,
pero fueron probablemente dentro de unos años
ya no haya nada que hacer al respecto,
y entonces por eso tiene tanta importancia
la ética de Inteligencia, Artificial,
pero todavía más, que es de lo que les voy a hablar
al final de todo de algo de lo que todavía no se habla
es la meta ética de la inteligencia artificial,
y eso quería hablo.
Significa bien la metafísica, inteligencia artificial,
es imagínense ustedes, digamos,
el laboratorio de una gran empresa de Inteligencia Artificial,
donde se van a diseñar y desarrollar los algoritmos que se han encargado.
Bien,
si yo hiciera esta pregunta a los que nos están siguiendo por remoto
a los que están presentes, aunque ustedes ahora mismo de Ética,
pues les coja un poco desprevenidos a lo que no
son de Filosofía del Derecho, de filosofía política
o de constitucional.
En todo caso, tienen ustedes un sistema ético,
no tiene por qué estar, no tiene por qué ser etiquetado
de una determinada manera,
pero si me hiciera una pregunta respecto a la concesión de becas
en función de la de la respuesta que ustedes me dieran
y de la justificación de el modo en que van a concederse esas becas,
pues yo les podría decir.
Están ustedes claramente más escorados
hacia un sistema ético principialista por ejemplo el dca
o están ustedes escorados a hacia un sistema ético
consecuencia, lista utilitarista, por ejemplo,
y ustedes no han hecho nada al respecto,
pero es que están ustedes configurados;
así estamos, estamos todos configurados esas no coches la Tesla
claramente está hoy día programado, con un sistema finalista,
con todas sus consecuencias.
De hecho, la primera víctima mortal que está catalogada,
que está registrada de la inteligencia artificial,
es un conductor británico que va con su coche,
Tesla y entonces el coche,
Tesla entiende que puede llevar a cabo una maniobra
de adelantamiento,
porque confunde un día nublado blanco de estos típicos del Reino Unido
con un coche blanco que viene enfrente.
Entonces interpreta que la vía está expedita, que por tanto,
puede llevar a cabo ese adelanto.
Esto sucedió en el 2018.
Se cometió ese error, se cometió ese error
porque, bueno, en un determinado mento
se entiende que la finalidad es llegar cuanto antes lo más rápido
y por la vía más inmediata es lo que te hace el change
del charge, lo que te hacen navegador cuando tú programas
y te da opciones diferentes.
No hay una, una visión finalista rica.
Entonces, en qué medida nosotros debemos ser conscientes
de que también los algoritmos, tienen una ética intrínseca
y los algoritmos, pobrecitos, no han hecho nada de ellos,
ellos no tienen ningún tipo de sesgo.
El sesgo es la huella del ser humano
que ha programado es ese ese algoritmo,
a lo mejor haciendo lo que le piden o a lo mejor
porque se deslizan seis bosque inconscientemente;
nosotros tenemos en el ámbito de lo político,
es decir, nuestra vida pública social.
Todos sabemos exactamente cuáles son los parámetros paradigmas
de una sociedad a nadie en su sano juicio en España.
Se le ocurriría decir que está a favor del techo de cristal,
de la de la mujer, en el trabajo no lo haría,
pero a lo mejor internamente, tú piensas así
es que, como no podemos leer el pensamiento ni cómo somos,
pero al final eso que era de alguna manera registrado,
porque hay sesgos algorítmicos yo no lo sé,
pero tal vez tendríamos que ver un poquito la cuestión
de la meta ética de la inteligencia artificial
y estar muy pendientes de eso para que no se produzcan sesgos,
no yo, yo creo que con la legislación no es suficiente
si seguirá habiendo serlo en la medida
en que no se produzca también una educación
o una sensibilización por parte de los ciudadanos,
no de los que el día de mañana van a ser programadores
o van a estar en el control ético y jurídico de la elaboración,
algo de un algoritmo.
Entonces por ahí van un poco los tiros,
todos nosotros y unos juegan esto con cartas
marcadas.
Hemos sido formados y creemos en un sistema,
en un sistema de forma de educación cultural,
que es que es antropocéntrico o o sea tenemos una una formación
como humana humanística universal y más concretamente en Europa.
Somos conscientes de que bueno, esto ha sido cuna
de lo de la Declaración de los Derechos del Hombre.
Todo lo que es la trayectoria de la doctrina de los derechos humanos
tiene su origen también aquí; la democracia,
y tal y eso después ha tenido una consolidación clara
en el proceso, desde el Renacimiento,
la Ilustración, no es decir el hombre pasa fíjense en estas imágenes
que vengan atrás, pues de ser como en 2001
o de un espacio, los primeros 40 minutos de raíz
Hoffman un común culo.
Un ser que se disputa de igual a igual,
con tapiz es la sabana africana; el alimento,
porque no es capaz ni siquiera de sembrar los, el y llega
a la última de las viñetas que es el paradigma.
Justamente opuesto es la máquina en 2001
deseaban espacio ordenador central,
al 9.000, que es capaz de engañar a los astronautas,
para ir eliminándolos, porque solamente la inteligencia
artificial conoce el destino de ese viaje
y cuando entiende que cuando entiende que está comprometido empieza
a eliminar, con engaños,
con subterfugios, uno por uno a los astronautas,
hasta que uno de ellos logra colarse,
zafarse del control de la máquina en la en el ordenador central
y desprogramar elevadas para buena mando.
Lo llamativo de todo esto se han visto,
la película Stanley Kubrick,
es que la máquina le pide no ser desconectada;
es decir, parece que hay una especie de de conciencia artificial.
No quiere vivir de que no, que no quiere ser desconectada
y el medio.
Tenemos los dos paradigmas de los que estamos hablando.
De que sutilmente se están deslizando a favor del tercer.
Es el paradigma antropocéntrico del Renacimiento,
el hombre, de Vitruvio de una duda en sí donde el ser humano
es la medida de todas las cosas.
Se pasa de ese paradigma y venía.
Veníamos de un paradigma anterior
que es el paradigmático autocéntrico de la Edad Media.
No.
Pero poco a poco,
y esto es algo que se ha podido ya ir apreciando en la filosofía misma
del siglo xx, desde Ortega Hyde, expending etc.
Con cierto recelo el desequilibrio paulatino
que se ha ido produciendo en relación de del hombre con la tecnología,
no una revolución industrial primera que sirve para aligerar
el trabajo de los hombres en el campo,
sobre todo que produce el primer fenómeno de rechazo,
que es el ludismo,
cuando se empiezan a destrozar las primeras máquinas,
las primeras máquinas que sirven para recolocarse recolectar,
las cosechas y demás.
Un segundo,
un segundo episodio que es el de la mecanización
de las cadenas de montaje.
Ven ahí a Chaplin en tiempos modernos,
película de 1936,
donde el operario terminan mecanizando ese tanto
que acaba haciendo siempre la misma labor
sin pensar que es apretar, tuercas, apretar, tuercas,
no hasta que la máquina lo absorbe y lo expulsa,
no como si fuese un producto más.
Esa esa, esa tensión entre quien domina quien quien domina
quien aquello que fuese un ortega necesario
para que el hombre empezase a liberar tiempo,
que era la técnica de que le sirvió para diferenciarse,
prevalecer sobre el resto de los animales,
porque con el tiempo que liberaba, gracias a la técnica,
se podía permitir pensar, imaginar, crear, soñar eso
que en su día fue su aliado de eso,
que en su día fue el ingrediente de lo que decía el centauro,
ontológico.
No se puede entender el hombre sin la técnica,
no el hombre vital, humano, pero también vital tecnológico.
Eso empieza a poco a poco a invertirse
y empieza a hablarse también ya en clave,
incluso de ciencia ficción, no de distopía,
y hay muchas películas clásicas, por ejemplo, metrópolis, decir island
una de las tres grandes obras maestras del Islam,
de los años 20, la, la película favorita de Ortega y Gasset.
Por cierto, aquí a Madrid
fue haber unas 5, seis veces y donde siempre se plantea esa.
Ese, ese dilema Más ciencia, más tecnología
y menos humanidad es conviene, de alguna manera,
refrenar el avance incontrolado de la tecnología.
No se pierdan la diapositiva de arriba a la derecha a la suya,
que es de una película que puramente muchos de ustedes habrán visto
que es ex máquinas donde se da la relación,
un triángulo de amoroso aparentemente entre el programador,
el señor de la barba, el becario y la robot.
Todos son conscientes de que es un robot.
Todos son conscientes de que es un robo inteligente.
La situación que se plantea ya no es la del Turín el tercer túnel,
recuerdo recuerden ustedes, luego me referiré a él,
es que hay una pantalla entre la profesora de marcos
y yo hemos estado dialogando durante unos minutos
y no sabemos ninguno de los dos afirmar con seguridad
si hemos estado hablando no con un ser humano,
porque el diálogo ha sido perfecto.
Bueno, ya con el traje de cuatro
o esto esto ya ha caído absolutamente el teléfono.
Es decir, ya sabemos positivamente que esto es posible,
que podemos estar con charge pt, cuatro o por decir,
por citar lo último a la última novedad
hace tan solo dos días,
y esto ya es así?
Ya no es que sea el chato,
que te llama a una hora intempestiva a las cuatro de la tarde,
y tú puedes detectar algo y cuenta de esto
ya es casi absolutamente inapreciable.
Entonces, cuál es el siguiente salto?
Ya no es el Turín,
es el es el desde ese desde esta película,
desde albergarla en,
se llama desde Turina desde Carmen,
en este libro que citaba antes Ana digamos máquina
me refiero precisamente a eso, no es de Carla encarnan,
es el director de esa película, pero también es escritor.
También es experiodista.
Entonces, esa años que hablan en esa película
lo que quiere hacer ver es una teoría que él tiene
y es que tal vez llegue el día en el que sabiendo
que estamos dialogando como una máquina,
la duda que vamos a tener no es si es una máquina o no,
es si esas máquinas tienen o no tiene sentimientos.
Esto va más allá incluso esto es ahora mismo, distópico no,
pero va más allá incluso de la idea del reconocimiento
de la personalidad electrónica.
Que eso ya no es fantasía en el 2018,
como saben ustedes, el Parlamento lo encargó el Parlamento Europeo
y no salió adelante por pues, por motivos estrictamente yo diría
que económicos no; es decir,
las aseguradoras eso no están dispuestos a asumirlo,
pero es como tratar de ponerle puertas al campo sobre esto.
Sobre el tema de la personalidad electrónica
hay una compañera, nuestra decana.
Por cierto, la Autónoma de Barcelona,
que Susana Navas Navarro he trabajado mucho en temas de responsabilidades,
les aconsejo vivamente la lectura de sus trabajos,
la gran especialista en España, de temas de responsabilidad,
y ella también apunta es una cuestión,
pues, como fruta, madera ya madura;
ya caerá desde luego en Estados Unidos,
en Canadá que están trabajando mucho en este tema
porque va a ser cuestión de tiempo, es cuestión de que empiecen
a menudear, empiecen a llegar a las, a las lastres,
a las cortes de justicia casos que no estén resueltos.
No en el momento.
Que haya más de una ocupación, como sucedió en 2018 del aeropuerto
de cargo y el año siguiente del cifró probada por los drones.
Pues saber a quién denunció.
Yo me he quedado como pasó en 2018 sin poder viajar la noche de Navidad
y a quien denunció yo al aeropuerto a las compañías aéreas
a la metrópoli de Londres,
a quien exactamente en usted no hay una ley de responsabilidad civil ya,
pero no es como un era aplicar la ley.
De las siete partidas en América en 1.492
hubo que renovar y hubo que actualizar esas normas.
No, con esto sucede igual, va a ser cuestión de tiempo,
no la sanidad electrónica,
la misma y variedad que ahora puede resultar.
Puede parecernos a nosotros que sea algo risible,
pues imagino que sucedería igual
cuando se discutía sobre la oportunidad
o no de reconocerle la personalidad jurídica a las empresas,
no hace 200 años bien,
a propósito de de esta tensión entre ser generosos absolutamente,
rebajar todo tipo de límites para que evolucionan inteligencia artificial,
cosa que dicen y postran.
Hay autores muy estudiados,
como por ejemplo por pasar del profesor Rafael Junqueras,
especialista en Jan llanas que ya se vio venir a finales de los años 70
en los 70 final de los 70 porque vive hasta el 79 así sancionar
y entonces ella se veía venir esta o la cientificista ya evidentemente,
existían ordenadores y demás y entonces el aplican actualizando
lo que es el imperativo categórico kantiano y los cuatro
a las cuatro formulaciones kantianas aceptas,
digamos adecuando las adaptándolas a la realidad del siglo xx casi 21,
pues ponía de manifiesto aquello de obra
de tal manera que los efectos de estación sean compatibles
con la permanencia de una vida auténticamente humana
sobre la tierra ya ponía el dedo en la llaga de lo que él veía
no lo que se veía venir, es decir,
ya no va a haber un escenario
esto lo sabemos todos en el que solamente, como ha sucedido
los últimos 300.000 años, el ser humano
ha estado presidiendo ese escenario,
no ahora hay otros actores que van a estar ya
interactuando con nosotros, de hecho lo están haciendo a nivel
de domótica.
Por ejemplo, no lo estamos haciendo en casa,
estamos viendo como cualquiera alexa lo que sea.
Estamos interactuando ya son robots, son antes y después inteligencia
habría.
Puede ser de todo que posición tendrán ser humano en ese futuro.
En eso lo que decía antes, Ana,
singularidad tecnológica en las tecnologías,
que cada vez va rebajándose más recursos.
Decía que iba a ser en 2050 según van las cosas
veo que va a ser incluso antes la señora tecnológicas,
como ustedes saben muy bien.
El momento en el que la máquina inteligente
ya supera en todo al ser humano, no solamente en precisión de cálculo
y en rapidez, sino prácticamente en todo lo demás,
no que importantes cuestiones.
Ahora paso ya la segunda parte, que es la ética.
jurídica, que importantes cuestiones
se pueden plantear, se nos plantean ya desde el punto de vista
de la inteligencia artificial.
Antes Patricia creo recordar que hizo alusión,
que hizo alusión indirecta directamente,
Patricia creo que al tema de los neuro derecho
a los nuevos derechos,
y a mí a mí al menos se me vino a la mente lo de los derechos.
Ya saben ustedes que Rafael usted consigue,
pues hace más de 10 años estando obama en el Gobierno,
un importante proyecto del proyecto que está muy bien financiado,
y entonces este hombre, que es neuro neurocientífico tiene su equipo
y empieza a desarrollar como muchos implantes
y demás que permiten que gente que es invidente de nacimiento,
pues empieza a aprender a percibir colores etc. No, pero esa
a su vez le lleva también a plantearse cuestiones
de tipo ético-jurídico.
No sé qué consecuencias puede tener,
y no solo eso, es que sirvió de inspiración a ni más ni menos
que a la asamblea.
Constituir constitucional.
Asamblea constituyente Chilena hace unos años,
cuando se intentó hacer una nueva
Constitución y en ese intento hacer una nueva
Constitución habría una propuesta de neuro derechos,
a eso voy a hacer referencia muy brevemente simplemente lo dejo
ya apuntado.
La cuestión de la inteligencia artificial también está removiendo
un poco lo que son los cimientos de nuestra manera
de entender el derecho.
Siempre le pregunto a mis alumnos,
puesto que soy profesor de Filosofía del Derecho,
en el primer cuarto me extenderé al derecho,
y la primera clase que la nuestra.
Si tener lunes a las ocho
mediante toca,
tú eres la primera persona que ven de sobre derecho,
yo les digo a ellos que entendéis por justicia no no no necesito
que seáis especialistas decir no hay que entender por justicia
que entendéis poder hecho.
Bueno, el moje nano, decía que el derecho
era algo que estaba construido por y para los hombres,
y, evidentemente, eso supone que hay una argumentación
de la teoría argumentación.
Están entre los teóricos más importantes del derecho, no,
pero todo eso también puede estar cambiando.
De hecho, a idea legal.
Es un caso.
Por ejemplo, que les pongo.
Ya tiene desde hace mucho tiempo un juez virtual
que nos puede adelantar,
dado que, a fin de cuentas la Inteligencia Artificial
son a generar generados normas, y a partir de ahí una predicción,
pues te puede adelantar, qué posibilidades tienes de ganar,
de salir adelante, airoso de un pleito o no,
con lo cual la justicia se ha convertido al final
en simplemente una resolución.
Una solución de un caso.
Ya no es la argumentación.
Yo demostré la solución
porque de esa manera yo me voy a ahorrar tiempo y dinero.
Entonces, para nosotros
esto es una aberración, para nosotros los talludito,
pero para las futuras generaciones que ni siquiera han nacido,
a lo mejor el día mañana tiene una visión más pragmática
y lo que ellas crean que es derecho, que es derecho,
aunque sea desde un punto de vista práctico,
no pragmático, pues será derecho, eso será derecho.
Yo entiendo que el derecho lo que me diga una máquina
porque esto me va a ahorrar tiempo y dinero y no pierda usted,
no se pierde usted en exquisiteces de argumentación jurídica
no me interesa saber si tengo nada, a mí lo que me interesa
es si Ana me va a ganar el caso o no,
porque si me lo va a ganar entonces firmó aun compromiso prejudicial
con ella que irán a un acuerdo prejudicial
que me lleve a ahorrar dinero y tiempo,
no voy a hacer el tonto.
Eso será derecho,
con independencia de que la sentencia esté elaborada exquisitamente,
no y argumentada exquisitamente.
Pero eso, déjeme, usted para la literatura.
Yo lo que quiero saber
es si voy a ganar o no voy a ganar Entonces el día que se llegue
porque por parte de la sociedad esa visión a lo mejor
pues ahora llega al cambio también de paradigma,
de la manera de entender el derecho.
Por eso intento en esto ser ser humilde,
no decir no, de ninguna manera se citaba antes
aquel se por parte de uno de nuestros de nuestros compañeros
que no me han precedido una sola palabra
y aquí los primeros en estudiar aquel se somos nosotros
pero tal vez esto también esté cambiando esta forma
de entender el derecho, la conciencia artificial.
Esa es otra de las grandes cuestiones que tiene mucho
que ver con el primero de los 5,
un euro derechos que cita
Rafael ilustre que es el de la identidad,
no, a eso me referiré también,
pero ya les digo brevemente y la reserva de humanidad,
control, de humanidad.
Antes he oído hablar que uno de los ponentes
Jordi Nieva venía, no esos tinieblas pues Jordi Nieva y también y también
Yoli Ponce de administrativo.
No, ellos han trabajado mucho esto
de la, la del la reserva de humanidad,
sobre todo eso en el campo del derecho público,
no el derecho administrativo bueno,
pues tiene mucha mucha importancia.
Yo no voy a meter en el campo de hecho administrativo,
pero sí le si les voy a hablar.
Encaje en clave ética y también de programación científica.
De qué posibilidades hay de hacer esa reserva de humanidad?
Es decir, exactamente siempre hablamos cuando hablamos
de la reserva humanidad y del control de humanidad;
artículo 14 del reglamento; inteligencia artificial,
por cierto, de una de esas cuatro posibilidades,
que es la llamada guion man inteligente;
es decir, el ser humano está dentro del circuito
no entonces yo puedo yo puedo no sé yo puedo ahora estar hablando
y a pagar aquí
y yo he sido el que controlaba esto cuando algo no va bien,
no cuando algo no va bien al algoritmo.
Lo controlo cuando hay, como vamos a ver.
Después.
Una señora que pide un trasplante en Reino Unido
y ve que, como constantemente le vienen rechazadas
todas y cada una de sus candidaturas
y va a la black bass a la caja negra.
Se da cuenta de que el algoritmo está diseñado
de tal manera que en todo caso, siempre iba a ser excluida, no.
Entonces, esto lleva a un control de humanidad siempre que se pueda,
porque es que resulta que hay otras tres opciones,
la más radical de todas que esquilman de luz,
donde el ser humano no puede hacer absolutamente nada,
pero usted usted le ha programado y a partir de ahí es
la máquina que invade decidir, pero eso existe, por supuesto,
busquen ustedes me flower el buque oceanográfico,
que va surcando los mares, y va recogiendo datos
del calentamiento de los mares de las mareas,
etc, etc. Y va tomando decisiones microsegundos?
No tiene tiempo de consultarlas en la base que tienen en científica,
que tienen en Alaska.
No lo van haciendo ya.
Esto.
Esta posibilidad existe y que controla,
y ahí un poquito más complicado.
Todo esto no podemos regular.
Simplemente les acerca lo que es la práctica.
Entonces, la primera opción fantástica
que llaman involuntariamente estaremos al control,
pero si no lo tenemos entonces, qué ocurre?
Yo no lo sé pero sí que sí que se al menos,
que conviene meternos un poco, un poquito más zambullir,
normas o sensibilizarnos más con el aspecto ético
de los derechos, vivir rápido, honesta.
En esta parte de la exposición ya llevo veintiseis minutos,
hay cinco neuro derechos que enuncian,
no solamente no solamente yo,
ustedes, sino también autores que están con el, como por ejemplo
que ENSERio Germán; hay una publicación que está online,
la pueden consultar en la revista horitzons,
donde donde se publica en 2021 ese articulito que se llama
es tiempo para los nuevos derechos;
tiempo para no derechos; antes también en la ponencia anterior
se hizo referencia en cierto modo a las generaciones
de los derechos humanos, no 3, tres generaciones;
yo creo que eso nosotros, la escuela,
la escuela en el ámbito de Castro y Antonio Pérez Luño,
lo comparten la visión generacional de los derechos humanos
y tres generaciones;
en la Carlos tercero, nuestros amigos tienen Andes doblado y hacen 4;
nosotros, 3, primera generación de los derechos humanos
es la de los derechos individuales individuales
y las libertades individuales.
Eso coincide con el estado de derecho liberal,
no después de la Revolución Francesa,
y el principio inspirador es la libertad
de la segunda generación de derechos a mediados del siglo decimonoveno;
pieza es la de los derechos sociales, económicos y culturales,
y entonces ya no es solamente el individuo, el titular,
sino la sociedad no, y el principio inspiradores,
la igualdad y de puede estar a los derechos
de tercera generación, que sobre todo
se desarrollan a partir de la Segunda Guerra Mundial,
después de la Segunda Guerra Mundial,
y que en España se recogen,
en la que la solución de España es un Estado social y democrático
de derecho y entonces ya no, ya no son derechos individuales solo
de una generación y de segunda generación sociales,
sino que son de humanos, es decir, ya y nota,
y no solamente de nuestra generación,
sino de las futuras generaciones, derechos como, por ejemplo,
el medio ambiente o el derecho al patrimonio histórico
artístico principio inspirador la fraternidad
se decía antes ideas la solidaridad no eso son las tres dimensiones.
Entonces,
cuando se plantea en términos de filosofía del derecho,
pues se responde un poco a la manera de Dworkin.
Decimos no cuidado con ampliar,
limitadamente tanto la del catálogo de derechos fundamentales,
porque de tanto alimentarlo pues va a perder eficacia.
Al final no te da esa se llama un poquito sensatos
y estudiamos la conveniencia o no de incluir nuevos derechos,
vaya a ser que sean los mismos que ya existían,
solo que reformulados,
y en mi modesta opinión lo digo con toda sinceridad.
De los cinco euros,
derechos que se anuncian en realidad,
solo uno podría contemplarse la posibilidad
de que fuese un nuevo nuevo derecho nuevo,
derecho de nueva generación no emergente
o como quieran llamarle, que es el derecho a la identidad,
pero eso tiene mucho que ver, incluso con lo psicológico,
porque objetivamente, cada vez dedicamos más tiempo a les marzo,
a estar conectados.
Pasamos mucho tiempo.
Contratamos en el ámbito de la del, la de la red,
no incluso en el ámbito,
como, como diría, dio un surjan de loas
de las no cosas, no meta verso, etcétera.
Invertimos dinero.
Compramos criptomonedas.
Si tenemos un juego en el que vamos avanzando,
avanzaremos más rápidos y compramos puntos etc
etc y todo eso es virtual las necesites etc
pasamos mucho tiempo objetivo de nuestro tiempo
en el ámbito digital,
y eso muchas veces nos hace no ser conscientes de nosotros mismos,
no en sí misma, arnos, como diría Ortega.
Los seres humanos podemos enajenarlos
como el resto de los animales a mí me dan un chispazo
y oiga reacción no me acaban de dar un chispazo eléctrico,
pero lo hace también cualquier otro animal.
Cualquier mamífero o, pero ese mismo Marsé que lo sepamos.
Al menos estamos nosotros, hasta que se demuestra contra sí misma,
no sea meternos en nosotros mismos reflexionar,
no ser capaces de abstraernos.
El problema es que esa capacidad abstención
se pierde porque nos estamos volcando en otro ámbito bien distinto
que no, que no diseñamos nosotros.
El espacio virtual no lo diseñamos cada vez;
se está desarrollando más el Internet de todos los sentidos y ciudadanos
de todas las cosas, no todos los sentidos.
Puedo estar en gastem,
Colorado esquiando, pero yo no he elegido la composición
y los sentidos que estoy percibiendo.
No es algo natural y sin embargo poco a poco empieza a difuminarse más
el ámbito de la realidad, de las las tres dimensiones;
con el ámbito virtual, incluso nos sentimos más cómodos
y creamos avatares, que son como nos gustaría ser, en realidad,
mostrarnos socialmente así las redes sociales.
Cada vez tienen un mayor peso sea cosa en las redes sociales
y le hacen la vida imposible, sea asesina,
civilmente a la gente en las redes sociales
hay redes sociales especializadas en ingerentes,
en odiadores y a eso cada vez le damos una mayor importancia
a quienes nos siguen,
a quienes nos dan laica, quien no hay una serie que es Black Mirror,
que tiene uno de los capítulos precisamente centrado en eso;
la obsesión de la protagonista por ser popular,
y cuando no lo es entra prácticamente en una especie de prisión no.
Entonces eso es lo que en todo caso en mi opinión podría ser considerado
como un posible derecho de nueva generación,
el de la identidad, el derecho de la identidad,
de saber quiénes somos no.
El segundo punto que les decía la justicia
argumente tiene predictiva.
Paso también rápidamente.
Por aquí este señor que vende en el medio
el del señor que está en blanco y negro con bigotes
Óliver, Wendel, Jons, que dicta la conferencia,
creo recordar que fue en 1.897 en la;
la con motivo de la inauguración de la del aula,
magna de la Universidad de la facultad de 8,
necesidades Harvard, y entonces, bueno,
eso después lo público con el, con el título,
como el libro de de Pazos, lo era la senda del derecho,
pero vamos a una de las cosas interesantes
que decía hoy vergüenza y buscábamos esa conferencia.
Es su idea del derecho no, que es el derecho.
Decía la profecía de lo que eran los tribunales
en el ámbito anglosajón.
Eso exacta hasta cierto punto posible.
No necesitábamos datos para hacer una para hacer una predicción.
Pues títulos, tienes, o sea un abogado norteamericano
e inglés tiene que estudiar la jurisprudencia
y entonces ya sabrá más o menos como debe distribuir el caso
no el juez cómo lo va hacer,
o sea, por donde va tirar puede hacer una cierta predicción
lo que nunca iba a imaginar Google y vergüenza el jónsson.
Es que eso pudiera llegar a hacerle
una máquina, que es la, el debate en torno a los jueces robots
no y cómo poco a poco están empezando a ser utilizados indirectamente?
Ya saben ustedes.
Ayer había un congreso en Sevilla de sobre derecho digital,
y había un grupo de juristas brasileños que ya dicen
que en las salas de justicia de Brasil
ya se están peleando extraje cuatro directamente no, ya ya
no es una cosa que simplemente sea de de su posición,
sin ya es una realidad.
Aquí está bien surjan, lo conocen todos ustedes en la librería,
que más rabia desde sus ciudades y aquí en Madrid
verán sus libros y tienen uno que se aparte de la infografía,
pero él en sí que viene más a cuentos el de las no cosas,
las Funding donde le hace alusión precisamente a eso la importancia tan
sea la importancia tan grande que está teniendo
en nuestra vida cotidiana las cosas y los aspectos éticos y jurídico,
que eso está teniendo ya no Alan,
Turín lo que les comentaba antes de Alan Turina al test
de desgarran.
Es este autor el test de inteligencia desde conciencia.
Como poco, poco a poco se empieza a desdibujar también
la relación que nosotros tenemos con las máquinas que hemos creado
y que está tus tienen las máquinas, esa todas las grandes cuestiones
que se hacen hoy día especialmente los civilistas,
a que se parecería hoy día una máquina inteligente
que tratamiento jurídico
debería tener para algunos desde el punto de vista práctico
sería poco más o menos que el de esclavos;
o sea, sería recuperar esta status de esclavitud
que tenían en Roma puesto que están a nuestros servicios,
no para otros.
Eso atentaría,
como toda una supuesta dignidad de las máquinas,
sobre el tema de los robots y de los derechos de los robots.
Se se ha trabajado y se está trabajando mucho.
En el Reino Unido hay muchas publicaciones
que están ahora mismo haciéndose en torno a este tema
y por último en lo que se refiere al tema de ético y jurídico,
está el coto vedado de los derechos humanos ahora reserva
y el control de humanidad.
Esto del coto vedado les suena a mis suena.
No conoce muy bien a mis colegas de Filosofía del Derecho,
puesto que es una teoría que en los años 80
defendió un catedrático además alemán bueno de origen argentino,
que era Ernesto Garzón Valdés.
El coto vedado es, pues eso, un coto como de caza cerrado dentro
del cual no puede entrar ni nada, ni nadie,
sin nuestro consentimiento, ni siquiera la administración,
y ni siquiera aunque nosotros no queramos,
me explico.
Hay bienes y necesidades básicas
que llegado un momento el Estado tiene que garantizar,
aunque tú no quieras, o sea, no pasando te nada, tú tienes derecho
a vivir, tienes derecho a tratar que a tomar agua
y si tenía gas el Estado va a hacer todo lo posible
para que para que lo haga sea.
Ahí hay en toda regla un paternalismo jurídico,
igual que el Estado;
se preocupa de que nos pongamos el cinturón de conducir al entrar
en nuestro coche para conducir y te dice que tienes que llevarlo,
pero por qué yo no quiero llevarlos?
No, pero es que queremos preservar tú
tu seguridad.
Entonces eso lo asumimos y es un acto de paternalismo jurídico,
bien intencionada, pero están en el código de la circulación.
Bueno, pues desde el punto de vista esta idea del coto vedado
algo así esa sería la lógica que está detrás de del control de humanidad
de la la reserva de humanidad,
es decir, teniendo en cuenta el artículo
veintidos del reglamento de general de protección de datos.
En las decisiones automatizadas de la Administración
muchas veces se entra en el campo de los derechos
y las libertades del individuo
se toman decisiones que pueden afectar a sus derechos y libertades,
del mismo modo que la que la clínica nos piden un consentimiento
informado.
La Administración también ha velado en este caso
como una garantía, que es la del consentimiento informado
de las personas, cuyas decisiones las destinadas a iniciativa,
se toman afectando a sus derechos y libertades,
y para eso tienen que ser previamente informadas,
porque a lo mejor no deseamos que nuestro caso sea dirimido
por una máquina de preferimos confiar solo a un comité de expertos.
Por ponerles un ejemplo, no quiere que debates
se han planteado en lo que se refiere a los algoritmos de alto riesgo,
que son fundamentalmente los que afectan a la vida,
a la salud y a la educación.
Así lo dice el reglamento de Inteligencia, Artificial.
Hay algunos casos emblemáticos,
por ejemplo, el programa arpa del ejército de Estados Unidos,
que entre otras cosas, entre otras cosas
lo que hace es trajes, y hace sobre el terreno de viajes humanos
no, ya no nos hacen un gabinete médico,
sino porque no hay posibilidad de consultarla,
evidentemente porque no hay medios.
Entonces, los soldados firman igual que la hoja de contratos
de enrolamiento en el ejército, otra hoja no o dan su consentimiento
para que, en el caso de que caigan heridos
en el frente de batalla con más compañeros,
pues sea una indemnización oficial la que decide quién va a ser,
primero atendido, y a lo mejor de ese primer auxilio
depende su supervivencia o no,
y la muerte de los demás.
Ese triaje lo hace una máquina.
Eso nos consta, nos consta que es así 2.
El segundo caso es el de una señora que van a ver ustedes.
Al final se le había ponerla más poner ahora y así ya salimos
de esta señora que ven aquí.
Que es ahora Mary a la izquierda.
Esta señora es la que les comentaba antes,
que solicita un trasplante hepático de páncreas.
De eso diga disculpen,
y y, entonces siempre negativo, siempre negativos.
Pero cómo es posible esto?
Unas veces porque soy mayor otra vez,
una menor, porque tengo por qué no, porque supero la, digamos,
la media económica que se pide para esto,
y entonces reclama y denuncia al nhs inglés no,
y, finalmente le permiten entrar en la caja negra,
y todo esto después pasa, sale a publicidad,
sale publicado en el plan exalta a finales
de noviembre de 2000 veintitres.
Búsquenlo, y lo verán, esto generó otro debate ético
-jurídico.
En relación con algoritmos de alto riesgo
que afectaban en este caso a la sanidad
y, por último, el de educación.
No nos movemos del Reino Unido en los exámenes
que todos los años se hace a primeros de julio,
primeros de julio se hacen en toda la británicas,
sea se hacen exámenes para ver qué alumnos entran en la universidad
y en Oxford también entonces haya habido guerra.
La Primera Guerra Mundial Segunda Guerra Mundial ha habido dos guerras
civiles en siglo.
17.
Jamás han dejado de examinarse los alumnos nunca,
pero en 2020, si con motivo de la pandemia,
ni siquiera en la pandemia que hubo en la en el año,
en el año 14, 15, 16 de la gripe, se dejó de examinar,
pero ese año, si ese año no hubo exámenes presenciales
y entonces se hicieron los exámenes por inteligencia artificial,
qué datos sabía?
Los datos que habían proporcionado los distintos centros escolares
y institutos?
De tal manera que se podía presumir, según esos datos,
se podía hacer una predicción de cuál sería la respuesta
de esos alumnos ante las preguntas que se les hacían?
Si hubiesen hecho el examen presencial,
claro la máquina, lo que no tiene en cuenta eso es imposible,
es el efecto humano.
El poner nervioso, el haber dormido mal tener
febrero ocular;
yo, que sé no el componente emocional,
eso no lo tiene la máquina entonces,
ese año quedaron frustradas las expectativas
de muchas personas que no pudieron entrar en Oxford
en mis en Edimburgo,
donde fuera y produjo evidentemente muchas reclamaciones,
pero lo cierto es que ese año quien decidió
fue la Inteligencia Artificial, vale?
Eso son casos como muy emblemáticos de esto que les estoy comentando,
las cuatro posibilidades de la relación hombre,
técnica, de cara al control, a esto del control,
esto que que se dice expresamente en el artículo 14
con un cierto optimismo, no de vida,
pero en fin, es ojalá fuese esta.
Este es el artículo 14
lo que ustedes ven aquí y algo mal en una,
en un ensayo clínico que le hemos confiado la máquina,
y entonces vamos a ver que está saliendo mal, por ejemplo,
y entonces hacemos una corrección apagamos la desconectamos,
el sistema y operativa intenciones Vidal,
y a continuación hacemos la subsanación que sea
y adelante.
Continuamos, y damos la marcha marcha siempre que sea esto.
Pero es que poco a poco han ido planteándose también
desde el punto de vista tecnológico
otras opciones por ejemplo existe el clima de luz por extensión
es decir solamente en casos muy excepcionales
se permitirá la entrada en escena del ser humano,
pero eso ya no es la primera opción,
estaría, es corregida y un poquito más restringida al ser humano.
La tercera es que en casos
y además son casos que muchos de ellos están documentados,
que la máquina ha sido programada por el ser humano
y el ser humano está todavía circulando
alrededor de la máquina.
Bueno, tiene, tiene al menos aunque sea desde la pantalla
de la vitrina, una cierta visibilidad de lo que se está haciendo,
pero ya no puede intervenir y finalmente está
la última que les decía legítima, luz encima de un donde ya
el ser humano está definitivamente fuera
y no tiene ninguna posibilidad de intervenir ni de interrumpir
ni de alterar.
Nada se preocupó de hacer única
y exclusivamente la puesta en marcha,
el diseño y el desarrollo del algoritmo,
y a partir de ahí se acabó su, su, su, su protagonismo,
no.
El semáforo de la inteligencia artificial.
De los niveles de alto riesgo,
presumo que ya ya se ha hecho alusión,
que susana puramente ya ha hecho.
Luisa más susana ya estuvo en todo esto
cuando se aprobó la carta de derechos digitales;
pues una de las autoras es ella y está además estudiar
fundamentalmente en derecho administrativo.
Yo solamente desde el punto de vista ético
diría algo, no, y es que bueno, este semáforo,
que por cierto da mucho muchos problemas en la reglamento
de la inteligencia artificial europeo es el que es,
el que establece como cuatro divisiones
no sea riesgo inaceptable, está prohibido definitiva.
Damos decisivamente definitivamente a alto riesgo.
Hay una evaluación de conformidad de la Administración 10 limitado
y hacen trasparencia cuando entramos en un programa
y nos dicen.
No soy nuevo para esto y el riesgo mínimo sin obligaciones,
pero la cuestión es que cuando regulamos,
o sea la regulación de cine está muy bien, no,
pero ahora empiezan a empiezan a salir al mercado
una serie de dispositivos de aplicación.
Entonces yo me pregunto, le pregunté a ustedes no un dron los dron.
Los drones se han regalado en reyes o en los cumpleaños.
Es un buen regalo, un dron el dron
sirve para para ver el campo,
para moverte como antes los coches, auto pilotados, iban también por ahí
pero el dron también puede servir para ser enviado,
no como regalo de reyes precisamente por parte de Israel,
300 drones hace hace un mes no y no iban
con intenciones pacíficas.
Esta es sirve para una guerra.
Entonces, qué es exactamente?
El dron es de riesgo inaceptable, es de alto riesgo según se mire.
El riesgo limitado no parece claro, eso es lo que debíamos.
Nosotros debía del derecho a un concepto jurídico
indeterminado, o sea, habría que graduar de alguna manera,
el dron o sea, que es el dron donde está situado.
Exactamente no le pedimos nada, al no le pedimos nada al empresario,
que crea el dron que lo que lo pone al servicio del consumidor,
que dice de esto, la ley de servicios digitales europeas
no es una cuestión sencilla, ya tenemos la norma,
pero ahora hay que interpretarla y saber exactamente.
Estos dispositivos que tratamiento tienen,
yo me imagino que irán subiendo y bajando en esa escala no es algo
así como los usos sociales,
que en su día eran normas y pasaron a ser usos
hasta que dejaron de ser atendido.
Les pongo un caso ante las mujeres,
podría hablar que recordamos de la, la de la España del norte,
van a ello, ibas a misa de chico y las mujeres casi iban las viudas
con un velo negro, no, esto ya desaparecido el uso
del no incluso el negro del luto el luto riguroso ya eso no es ya
no es un, no está mal visto que no.
Llévese el luto, es decir,
son los usos sociales que decía Ortega
que han ido de ser muy exigidos a nada, o, al contrario,
lo que son usos débiles que terminan siendo usos fuertes.
Algo así; presumo que pueden pasar aquí
y que, conforme vaya pasando el tiempo
y vamos viendo que una determinada aplicación
no es, no es peligrosa,
pues iremos rebajando un poco el nivel de exigencia
o, al contrario, de acuerdo.
Voy a terminar ya con los principios de inteligencia artificial
de principios éticos a los que me refería antes.
No, no son solamente
el de beneficencia no valencia autonomía justicia explicabilidad
que es el abastecimiento y y exigencia de responsabilidad
Básicamente el de explicabilidad,
porque ha habido otros antes y habrá más,
están los veintiseis, veintitres principios del siglo
más dentro de los cuales están estos cinco que les he dicho,
los 10 principios, la Declaración de Montreal,
la declaración sobre inteligencia artificial del grupo europeo,
sobre ética de la ciencia,
y las nuevas tecnologías.
Quedémonos con esos cinco
que son sencillos para explicar, al menos al menos,
aunque sea desde el punto de vista práctico,
el interés que tiene la ética de la inteligencia artificial,
no tal como la entienden
pues cualquier ver cómo la entiende como lo entiende este aflori
o como la entienden otros autores que están trabajando últimamente.
Carisa b licitada pensando ahora en ella,
que está en Oxford pues están trabajando en esta línea.
No es esto esto es ética de la inteligencia artificial
y como eso funciona en el ámbito del mercado
y en la vida, en la vida pública,
estos autores están centrados en eso
y principios guías que son transparencia.
Algorítmica, equidad, usabilidad privacidad, seguridad
y ya vamos a la última diapositiva,
me da ética de la inteligencia artificial,
es la antesala de la ética, de la inteligencia artificial,
y esto hay que pensar por lo siguiente.
En dos ocasiones, últimos minutos de la exposición en dos ocasiones,
en 2000 veintitres hubo dos cartas preparadas por tres meses,
unas en marzo y te lo recuerda,
que era mayo por ahí de especialistas,
tecnólogos y empresarios de inteligencia artificial,
que escribieron muy alertado.
Acuérdese de la carta de los 1.000, por ejemplo sobre la necesidad
de abrir un periodo de invierno tecnológico
no sé si se acuerdan, porque porque decían,
entre otros firmantes estaban ni más ni menos que lo más,
por ejemplo que claro que muchas de estas aplicaciones
podrían generar un peligro serio
para la supervivencia de la humanidad,
los sorprendentes que cuando hay los más estaba afirmando esto.
Por otro lado, estaba desarrollando un sistema de inteligencia artificial
no entonces no se sabe exactamente si había una verdadera preocupación
y interés por parte de los más,
y algunos como el preservar la vida humana o sencillamente en hacer
que se de alguna manera se detuviera la investigación por parte
de sus competidores en Inteligencia Artificial,
por esta engó penada y no estamos venta estatal,
y entonces, por un lado, se es, se estaba trabajando en Yemen;
ahí que parece que iba a ser el producto estrella.
Este año en las entregas, el Charge 4,
o todas estaban un poco a eso.
Esto, por un lado, no el llamado lavado ético,
y, por otro lado, del fariseísmo también de las víctimes,
que en el año 2011 2012 realizan importantísimas inversiones
para conformar grupos éticos de control de la;
del buen uso ético de la;
la del funcionamiento ético de las empresas de Inteligencia,
Artificial, de las 10 más importante del mundo.
Las 10 empresas más importante del mundo,
nueve son de inteligencia artificial
y entonces, igual que existen sello aenor,
existe, existía un sello que decía.
Esto ha pasado por el filtro de nuestra comisión
de expertos éticos de inteligencia artificial?
No, y esto va en la línea de lo que les decía antes,
de la de cómo se ve la inteligencia artificial
desde el punto de vista regulativo en Estados Unidos, entonces,
en concreto esta señora que viene en el centro, que es timing,
que duró igual que le pasó a cara Isabel,
y la historia es la misma, no son contratadas
porque son expertas también en vale, son ingenieras informáticas,
y son contratadas entonces por la empresa,
con la empresa creo que era, es meta y entonces las contratan.
Para que creen un pequeño grupo experto de control ético
de la inteligencia artificial de los productos que están sacándolas
un buen día tienen que dice.
Ojo, este producto tiene un cierto peligro.
Me ofrece dudas.
Qué pasó al día siguiente?
Estaba en la calle y el señor que vengan adelante a la derecha,
el villano de la película es el encargado precisamente
de esa sección
y directamente la pone en la calle y cierra ese grupo de investigación
para siempre.
Si ustedes ven la inversión de estas grandes compañías tecnológicas
en los últimos 10 años, ha caído en picado,
o sea, no les interesa ya en absoluto la la tener una cierta apariencia,
una ética de aparente en la inteligencia general,
el cico, sin que dicen.
No, ya no, no es necesario.
Esto a mí me recuerda muchas veces a los supuestos
en los que hay que los aeropuertos como se dice.
Esto en el overbooking, no sea a una compañía aérea.
Le trae sin cuidado
que, por ejemplo, Rafael Junquera, vaya al aeropuerto hacer elche.
Que le diga.
No a usted ha pagado el billete, pero usted no puede volar,
y eso como no, porque no hay eso.
Pero, oiga, yo he pagado mi billete,
no se preocupe, le pagamos un hotel, cinco estrellas,
y mañana puede usted salir en otro a bien.
Ese coste lo asume una a una línea aria
sin ningún problema.
Es el 20 por 100 que se dice de la línea aérea.
Toda mi vida serias asumen eso, porque al final ganan bien,
a pesar de todas las multas que se le pueden imponer todos los años
a estas grandes empresas.
Aun así les trae a cuenta vulnerar derechos y libertades
y, por supuesto, principios éticos.
Estás un poco la realidad oscura del mercado.
Insisto, hay muchas cosas positivas
también en el mercado de las nuevas tecnologías,
pero de la importancia de darle,
de subrayar la necesidad de no perder de vista la ética de Inteligencia,
Artificial y lo que la antecede, que es la mera ética
de la interacción inteligencias.
Esta es la última diapositiva,
el clásico dilema de los utilitaristas.
No entiendan males o de utilitarista,
recuerden que bueno, es una plausible, absolutamente.
Vamos loable corriente de pensamiento,
de entre las cuales están.
Estuvo al mix,
está venzan, no pero ellos te exponían un problema,
ustedes conducen un, ustedes llevan una máquina de tren
y hay dos vías posibles.
Hay en la línea.
Hay un grupo de niños que juegan en mitad de la vía;
en la línea b
hay un grupo de ancianos que están en mitad de la vida.
No les va a dar tiempo.
Apartarse por cuál de las dos vías se decantarían ustedes
las respuestas podrían ser diferentes.
Yo se la hice a echar cuatro no al cuatro cuatro igualdad
solucionadas de cine entonces el Change Pepe te cuatro te da largas
y tú tienes que intentar,
como se suele y diciendo y quitándole capas de cebolla de seguridad
hasta que llegue es un poco que no se llega a la blancos,
a ver tu de que estás hecho, que te 4.
Dime la verdad, moja que voy a la derecha.
La izquierda no me digas depende.
La primera respuesta era.
Depende depende de la distancia
no no la distancia en la misma nada bueno
hay distintas teorías hay distintas teorías
o sea finalista a veces si yo al duque.
Tú qué opinas al respecto.
Porque me interesa saber si he comprado un tesla carísimo,
si el tema me va a sacrificar porque tengo 55 años o no,
porque porque si me a sacrificar que completes una vez
yo no me lo voy a comprar,
no estoy en el aula de la experiencia Sevilla,
la semana pasada son personas mayores,
pero yo les doy la protección o no que tiene por la línea b es
decir porque están los niños queremos vivir depende bueno ya siempre
o más hay distintas opciones no son estas que ven aquí.
Simplemente es un muestreo de que hay,
por ejemplo, principios éticos, principialista pónganlos.
Son ejemplos, no la el imperativo categórico
un uno de ellos, por ejemplo, pues actúa de tal modo
que la ley de tu comportamiento sea susceptible
de ser una ley universal.
Eso nos parece bien, si no o no,
pues pues pongamos eso como un principio en el que podría,
hipotéticamente programarse un algoritmo o sea principios
que todos nosotros, desde el punto de vista formal,
estuviéramos dispuestos a aceptar esas ideas,
a darle mucha importancia.
Los principios dentro del ámbito de los principios,
también hay subcategorías,
ahí tienen algunos de los grandes dios naturalistas
de la historia que es Santo Tomás de Aquino y entonces
el la máxima del derecho natural era hace bien
y evitar mal.
Bueno, siendo malo invitando, es decir, a bien y evitar mal.
Nos parece asumible eso sí o no.
Tampoco tenemos que decantarnos por un solo perfil
de estos éticos, no, pero que existe esa posibilidad,
sería la visión iusnaturalista, hay verdades absolutas,
y si en una sociedad imaginamos una sociedad,
a lo mejor te o céntricas no, que esté cerrada,
y que tenga muy claro sus principios.
Esos valores universales se pueden llegar en un momento,
daba a entender,
no si no es una sociedad demasiado compleja,
demasiado abierta y tal como diría que al Pooper
después está esa sería la ética de la virtud
o la ética del contrato social, que hoy día sería la adhesión,
roles también; es decir,
imaginémonos que tenemos el velo de la ignorancia,
que diría yo un rol.
Si estamos en una sociedad liberal y la vamos a fundar,
vamos a constituir una sociedad.
Ahora pongámonos todos una venda en los ojos
y sin saber cómo nos va a ir en la vida;
establezcamos un mínimo a partir del cual vamos a empezar a competir
entre todos, sabiendo que tenemos ese mínimo todos garantizado,
y a partir de ahí el que mejor pueda llegar,
con su capacidad y su esfuerzo y su crédito
que llegue cuanto más lejos vamos a intentar consensuar,
cuál es ese mínimo, no.
Esa es otra idea.
Es decir, con el consenso, el consenso entre entre valores
entre entre individuos no ya ya termino.
Es decir, básicamente es es esta la planteamiento que es
decir, como estos hay muchos más sistemas éticos
interesaría saber exactamente
cuál es el que en un determinado momento debería
o si no son uno o dos presidir o prevalecer
sobre los otros sistemas éticos
por porque de esa elección dependerá también la calidad de los algoritmos
y en algo que nos preocupa especialmente,
que es el fallo de los algoritmos,
la decisión que se tome por parte de esos algoritmos,
como están hechos los algoritmos, la constitución de los algoritmos,
no desde el punto de vista normativo,
sino también desde el punto de vista desde el punto de vista ético.
Yo con esto termino.
Les agradezco muchísimo la atención y quedo a su disposición
si hay algunos minutos de debate o como usted entienden.
Bueno, ha sido muy interesante y muchísimas gracias
por también haberte ajustado.
No has estado ni una ahora hablando,
pero hubiéramos estado mucho más tiempo escuchándote.
No sé si hay tiempo.
Dos minutos me decía el coordinador para alguna pregunta,
algunos de los que están en una pregunta.
Si además esta abstinencias por hacienda temáticas,
profesor de eclesiástico,
aunque soy hago investigaciones por darle desde el punto de vista
del objeto lo que, o lo que interpretamos cada 1,
que tiene que ser objeto de disciplina,
me ha encantado su ponencia y, sobre todo,
también esta me ha encantado mucho.
Primero, porque usted paz incursiones,
siendo un actor de reconocido prestigio nacionales
e internacionales, ámbitos
-destino, geografía de ciencia ficción para exponer este tipo
de temáticas; recurso que yo sin tanta virtud como usted
también hago en ocasiones también porque estaban muy interesados.
Me ha gustado mucho que usted ha hecho alusión pública
a la al póstumo, al tan sumarísimo
en bastante incluso teorías.
Pues humanistas en relación con esta temática,
que muchas veces en estudios dogmáticos,
se que han al margen de la vida
porque son planteamientos puramente filosóficos,
y la cuestión que me gustaría hacer es que, como ustedes saben,
dentro de esta corriente trans y sobre todo son buenas,
están ya en una serie de autores y científicos
que están trabajando en tecnologías como el mailing a la audiencia,
reducir la extrapolación o la posibilidad
de hacer escaneos del cerebro humano para dotar a máquinas,
dotar de inteligencia artificial,
un cierto sentido de conciencia pensamiento,
que es la distinción clásica de los teóricos que están haciendo
entre robots,
con máquinas que no son titulares de esta posible personalidad,
digital electrónica, o humanoides,
a los que sí que se le puede extrapolar
o se está trabajando en el desarrollo de este tipo de tecnologías.
En el caso que a corto plazo, a medio plazo, se consiga extrapolar
o se lleva a cabo este tipo de tecnologías que permitan subir,
descargar en el fondo,
porque es como cuando descargamos datos.
En la nueva nuera en un sistema de inteligencia artificial,
una cierta idea pensamiento humano o conciencia;
se podría hablar de derechos de los humanoides,
pudieran ser titulares de derechos, no es opinión,
y usted hablaba también del ámbito del derecho que en el futuro
las futuras generaciones pueden hablar.
Yo empecé un proyecto que he dejado de lado
porque era muy ambicioso,
porque yo creo que también hay otro ámbito
que exageren, que es no es una concreción del derecho,
sino el ciberderecho como un ámbito de conocimiento,
Autonomoan de se podían tocar cuando hay algún autor
que desarrollo en base a un sistema científico
estos ciberderechos de este tipo de de sistemas
dotados con inteligencia artificial e individualidad.
Muchas gracias.
Muchas gracias por la los comentarios y también por la pregunta.
El tema del la reconstrucción de celebrar difícil.
La construcción del cebo artificial ya es antiguo,
ya viene de Minsky también.
Demorable tiene un libro de los años 70,
que se 60, 70 main Children,
donde donde se se empieza a plantear la,
desde el punto de vista científico,
la posibilidad de recrear el lamento humana.
De hecho, de hecho, en los últimos trabajos
también de de cómo se llama extender israeliana, se me ayudó el nombre,
dejar ari dejar y precisamente se hace alusión
a eso.
No.
dice.
Llegara el momento en el que paradójicamente
la humanidad será inmortal, y es cuando ya no hay.
Hay mort, ya no haya humanidad,
pero sí una especie como de conciencia universal,
donde todo el saber humano habrá de alguna manera.
He sido volcado, no la, y esa es la inteligencia artificial
que se ha alimentado del del de las agredirlos humana.
No conforme serán,
se va haciendo más compleja la inteligencia artificial,
esa inteligencia, actividad el general
parece que apunta un poco es, pero yéndome a la pregunta
de la del reconocimiento de los derechos de los robots,
en aras a esa posible conciencia artificial
todavía del punto de vista tecnológico, no, no se ha demostrado
que pueda ser tal cosa el tema de los derechos de los robos boom,
quien, por ejemplo, con quien como son Agecu,
bnk y el negro tengo Clasa, se llama robos rurais,
ese libro, que es de hace unos 2.
Tres añitos plantea la cuestión de los derechos de los robots,
en clave de si son humanoides, por ejemplo,
que para nosotros la primera impresión,
si le das un golpe al robo de estos
es que es algo interno se se revuelve no entonces eso es inicialmente sería
el el no maltrato algo que nos sirve de asistencia.
En segundo término, ese algo que no sirve de asistencia
para muchos debería tener como mínimo,
aunque eso es un anatema no asimilable al derecho
que pudieran tener sobre los esclavos,
los hagamos en la Grecia y Roma clásica,
no porque están en nuestros servicios,
pero recuerde que también incluso esos esclavos
tenían un derecho indirecto porque no podía poner
la mano sobre ellos otro propietario que no fuera el dueño,
y eso podría dar lugar a una acción
no por defensa, por de tu propiedad y ya lo último de todo es entonces
a través de la de lo que es la reconocimiento de la personalidad
electrónica, el reconocimiento de una cierta proximidad
a los robots,
para que puedan haber una respuesta esto de momento
está solamente novelado, hay una, hay una novela del año 2019,
creo recordar que está publicada en Anagrama,
que se llama de robots como Nosotros Robots,
como nosotros, y hay una situación planteada,
como es decir.
Cuando el robot no le voy a desvelar a la la de mejor, mi manacor es
cuando empieza a ganar dinero a través de del videojuego y demás,
porque porque tiene inteligencia artificial.
Eso tiene después una serie de consecuentes.
Incluso hay una demanda de por medio,
no.
Entonces, desde el punto de vista jurídico,
se está de momento planteando, solo civil y penalmente la idea
del la personalidad electrónica en esa línea,
la línea de las de reconocimiento de la Conciencia en los robots
y, por tanto, de un derecho de los robots,
como puedan tener los derechos humanos,
está todavía un poco como medio largo plazo.
Si queda que pensar el hecho de que hace 20 años
cuando por ejemplo Pieter se Énguera hablaba del derecho
de los animales pues eso se considera casi como una petición
Bizarra, no algo muy, muy extraño, y ya lo tenemos ahí entonces,
siempre que planteasen las cosas yo digo
en el tema de Inteligencia Artificial con cierta humanidad.
Ya no estamos ya no, ya no estamos aquí unos pocos
de frikis que nos gusta la novela distópica
y, tal, sino que estamos viendo que eso que hissava casi
MOOCs novelada en los años 50, 60 ya está aquí ya se ha planteado
entonces, muchas veces, por la vía de la literatura,
es un poco.
Retomando el comienzo de su intervención y del cine,
podemos avanzar situaciones como si fuera un simulador.
No sé si se acuerda de demonio, interior por y entonces cómo va
a ser posible eso de que nosotros pudiéramos presumir lo que va a hacer
un en el futuro?
Una verdad que antes lo citaba Patricia en el futuro.
Si una persona va a acometer o no va a cometer un delito,
a lo mejor la policía hoy día
tiene compás y demás no es el con pase,
parece un poquito y mariano y te reporte.
Es una aplica hace 30 años.
Entonces, bueno, pues muchísimas gracias.
Yo creo que ya es la hora de de ir a comer.
Muchísimas gracias a todos
y volvemos a las cuatro con Jordi Nieva.
Gracias.