La inteligencia artificial
es ya una realidad que afecta a todos los ámbitos
y puede ayudar a enfrentar muchos de los problemas de la humanidad.
Sin embargo, su uso suscita también grandes dudas,
tanto desde el punto de vista ético como jurídico,
una de las áreas donde la inteligencia artificial
puede ofrecer excelentes resultados,
pero en el que también surgen grandes controversias
es en la Administración de Justicia.
Los rápidos avances en este campo hacen plantearse
los desafíos y oportunidades relacionados con el aprovechamiento
de la inteligencia artificial en los sistemas judiciales
y sus implicaciones para los derechos humanos
y el estado de derecho.
Contamos hoy con la presencia de dos expertos
que van a reflexionar en voz alta sobre los desafíos de la utilización
de la inteligencia artificial por la justicia.
Mi nombre es Joaquín,
soy profesor titular de Derecho Constitucional en la UNED
el pasado cuatro de diciembre de 2000 veintitres.
Celebramos en la Facultad de Derecho de la UNED
una jornada internacional dedicada a reflexionar
sobre la investigación en derecho y justicia.
En ese marco,
y dentro del módulo jean monnet, jurisdicción y procedimientos,
en la Unión Europea iuris, cofinanciado por el programa
Erasmus Plus de la Unión Europea, tuvimos un hueso de expertos,
una reunión de especialistas sobre estos temas de justicia,
investigación, derecho.
El modelo tiene tres objetivos fundamentales,
como son la investigación respecto a los desafíos que tiene
la justicia europea en la actualidad,
la dimensión de género y una dimensión de ética
para vincular de forma interconectada los.
Lemas vinculados a la ética, a la investigación,
al género y a la justicia en el marco de esta jornada internacional.
Además, tuvimos la oportunidad de tratar de construir una red
de investigación en materia de justicia e inteligencia artificial.
En esta jornada además, presentamos una nueva cátedra
que se ha creado en la UNED,
la cátedra Isaac en colaboración con el cner,
el considero nacional cerca italiano en su Instituto de Física
aplicada en el o Carrara Cener,
y gracias a este convenio entre la UNED
y el cine de Edifac.
Vamos a trabajar a investigar sobre derechos individuales,
investigación científica y cooperación
en la Facultad de Derecho de la UNED .
Estamos muy interesados en todos estos temas
y los desafíos que se plantean desde el punto de vista
de la justicia y la investigación en relación
con la inteligencia artificial en relación con la del desarrollo
de esta tecnología.
Por eso hoy tenemos con nosotros a Luis Miguel González de la Garza,
que es profesor titular de Derecho Constitucional de la UNED.
Además, es miembro del módulo jean monnet,
jurisdicción y procedimientos en la Unión Europea
y ha colaborado durante estos años con el módulo,
y ha participado en esta jornada el cuarto de diciembre
como experto en el verso,
y es además colaborador del Observatorio de impacto social
y ético de Inteligencia, Artificial Odisea en España.
Bienvenido y muchas gracias por estar aquí Luis Miguel muy bueno,
pues vamos a tener una pequeña conversación yo creo
que agradable y interesante sobre estos temas,
sobre los temas que tratamos en la jornada del cuatro de diciembre,
para difundir pues los desafíos que plantea
la Inteligencia Artificial para la justicia,
para la impresión científica y todos estos temas
que estuvimos reflexionando el otro día no.
Cuál es tu planteamiento?
Tu posición en relación a los desafíos que plantea
la Inteligencia Artificial para la justicia,
hoy en día para la Justicia plantea diferentes desafíos.
Para empezar, quizás tendríamos que empezar por definir
que la inteligencia artificial que yo soy de los que dudan de que.
Un concepto unívoco,
sino que hay muchos conceptos sobre inteligencia artificial,
pero dentro del uso de lo que el mercado está imponiendo,
que al fin y al cabo el mercado es el que está sometiendo
a la vamos a al Estado a modificaciones puede participar
de muchas maneras.
Por ejemplo,
uno de los métodos, que ya se ve son los procedimientos de valoración
de riesgos a través de los programas que se utilizan,
por ejemplo en la fiscalía
y la policía judicial para ver los niveles de peligrosidad
que puede tener un presunto maltratador
con respecto a una pareja, no, y entonces ahí todavía
no está saliendo integrado la inteligencia artificial como tal.
Pero va a entrar en no demasiado tiempo,
y una de las cuestiones más importantes que hay en estos campos
es que los los algoritmos, no sean cajas negras,
hay que saber cuál es el contenido de la dualismo problema,
que estamos hablando de cuestiones de propiedad industrial
y de patentes en muchas ocasiones y que las empresas
que los diseñan son reacias, naturalmente,
o a hacer público aquel elemento diferencial
por el cual ellos están en una primacía del mercado.
No?
Luego, también eso va a llegar a la justicia,
igual que lo va a haber,
lo hay ya en diferentes mecanismos de justicia analítica,
va a haberlo o puede haberlo en sentencias, en autos judiciales,
etc. Y eso va a ocasionar importantes problemas
sobre todo de sesgos,
como ya se está avanzando por la investigación,
sobre todo de los psicólogos y los neurólogos,
especializados en el campo.
Es muy interesante porque, bueno,
uno de los objetivos que teníamos en el módulo era precisamente
cuáles eran los desafíos que se plantean para la justicia
y luego la cátedra Isaac pretende analizar los retos
de la investigación científica en relación a la ética
y al derecho trasplante, unas cuestiones muy interesantes,
y yo te preguntaría.
Bueno, cuando hablamos de Inteligencia Artificial,
se habla también de algoritmos, se habla de sesgos.
Tú has comentado los sesgos algorítmicos.
Actualmente, tú conoces bien, cuáles son los mayores avances
en materia de inteligencia artificial?
Realmente,
cuáles son los riesgos más inmediatos que tenemos.
Desde este punto de vista,
es decir, tenemos un riesgo real de que haya una inteligencia
artificial que lo controle todo y nos encontremos que en nuestra vida
privada ha desaparecido o que podemos tener decisiones que nos afectan
como personas jurídicamente tomadas por estas inteligencias,
porque hay gente que habla de inteligencias artificiales,
no de una única inteligencia artificial.
Bueno, con respecto a la primera pregunta,
si puede haber una inteligencia artificial que lo controle todo,
creo que eso simplemente de ciencia ficción,
y sucede que habitualmente para el público general
se confunde la ciencia con la ciencia ficción sobre la palabra ficción
o la expresión ficción, y lo dejamos en ciencia.
No tenemos una tecnología de momento mix
ni se vea en los próximos años
que sea capaz de controlarlo todo por una razón,
y es que todo es mucho más sofisticado de lo que parece,
y sería imposible.
No hay ninguna, no hay ninguna máquina,
ningún procesador, por grande que sea,
ni siquiera cuando lleguen las nuevas,
los nuevos ordenadores que trabajan con tecnologías más avanzadas
que los actuales.
Será eso posible, que son los ordenadores cuánticos,
que seguramente ya debería ser oído hablar de ellos.
Por un problema que se llama el problema de la coherencia,
que hace imposible prácticamente que se pueda trabajar,
es decir, se puede hacer muchas cosas, por ejemplo,
una de las cosas que va a ser posible con los los ordenadores cuánticos,
que todas nuestras claves de cifrado desaparezcan,
porque se pueden descifrar no demasiado tiempo,
calculan que unos tres o cuatro años
que desea y todos los formados de clave pública
se van a poder averiguar, simplemente por fuerza bruta
que pueden hacer nuestros sabores, capacidad de cálculo,
una palabra alta velocidad,
y podrán descifrar la cantidad de descomposición de números,
pluribus que hay en una clave y entonces habrá
que crear otro sistema, pero no habrá un inteligencia artificial
que lo pueda controlar todo.
Ya digo.
Esos son cosas del cine
y de ciertos periodistas que están en el mundo del cine,
y lo que sí quiero haber hecho eso sí son diferentes tipos
de tecnologías artificiales para productos específicos.
Eso sí lo va a haber y lo va a haber.
El campo de la medicina lo abren en el campo del derecho
y lo abre el campo de la industria con la técnica.
Por ejemplo, de los primeros digitales.
Es, digamos, tener una industria en un lugar
y poder manipular desde otro simplemente deteniendo
todos los datos de esa industria de localizados
en otro punto del planeta, en la industria, para poder funcionar
como automáticamente es como si tuviéramos una industria en la Luna
es un ejemplo no y la dirigiéramos desde la Tierra,
porque tenemos un doble digital del funcionamiento de todas las máquinas
y todos los procesadores que hay en la Luna.
Eso es lo que más o menos se prevé en los próximos 15 o 20 años
hasta cuando un tema fundamental yo creo que,
aparte de tranquilizarnos, un poco a todos, no.
En relación con la inteligencia artificial,
el tema de la industria, que yo creo que es muy importante,
como es la comparativa, porque en Europa
no tenemos prácticamente industria, inteligencia artificial,
la comparativa Europa a Estados Unidos en relación
a el desarrollo de la inteligencia artificial
que perspectiva tienes,
pues en ese sentido, como señalas muy bien,
en Europa no tenemos prácticamente nada de Inteligencia Artificial
ni tenemos los sistemas de fabricación,
porque todos los estadounidenses
ni tenemos una cosa que puede resultar contraintuitiva,
y es que en Europa no se fabrica ni un solo micro
procesador ni macro procesador, es decir,
todos los procesadores de todos los sistemas electrónicos
de los creadores para entendernos son de fabricación norteamericana.
Todos esos eso nos ponen en una situación de dependencia total,
porque quien fabrica es el que ha finalmente control del mercado
y con la Inteligencia Artificial
para los mismo Europa ha regulado una materia que no controla.
Es decir,
la regulación, que está muy bien desde el punto de vista ético,
es; es útil, etc.
Pero no tenemos una industria a la que aplicar esa regulación,
porque la industria está fuera de Europa,
está en Estados Unidos, que han hecho los Estados Unidos recientemente.
Ahora cosas nuevas,
unas semanas ha habido una orden presidencial
del presidente de los Estados Unidos en los cuales ha controlado
a una orden de bastante detallada sobre el control
de la inteligencia artificial, pero ni mucho menos como la europea,
deja mucha mano libre y mucho margen de maniobra.
El punto de vista industrial y técnico
a las compañías que realmente son las que lo elaboran
y las que lo van a seguir elaborando.
Entonces, desde el punto de vista de regulación,
nosotros estamos regulando pero no tenemos la materia de regulación
que la materia es externa.
Nosotros entonces internamente las compañías se ampliaran,
las podemos sancionar,
pero no podemos controlarlas porque son básicamente norteamericanas.
Esto con un tema fundamental también,
como es el tema regulatorio no, y la perspectiva europea.
De hecho, recientemente ha habido este acuerdo del neurólogo europeo
para aprobar la futura ley de inteligencia artificial.
En Europa no, no tenemos aún un texto que podamos leer.
Tenemos los textos preparatorios que hizo la Comisión,
la posición del Consejo, la posición del Parlamento Europeo,
qué perspectiva conoce?
Es que hay en relación al texto que se va a aprobar
cuáles son los problemas que pueden
estar vinculados a una excesiva regulación
y que ves desde el punto de vista de los derechos fundamentales,
que puede ser importante con la nueva en relación con la nueva norma,
es decir, la nueva norma
va a impedir que se desarrolla la inteligencia artificial.
Es quizá excesivamente proteccionista o no, no se efectivamente el grupo
como bien dices, la norma sea el trílogo,
la la, la, la aprobado.
Ya ha llegado a un acuerdo, ahora están las comisiones técnicas,
es decir, los especialistas, por así decirlo,
trabajando en adecuar un texto que nos
seguramente entre semanas o cuatro semanas dispondremos de él,
y podemos dar una.
Deberíamos una primera lectura de lo que finalmente resultó
lo que sabemos es que la exposición del Parlamento Europeo
sobre las que se en general son las que se han conservado o no.
La regulación es positiva desde mi punto de vista
de los derechos fundamentales.
No cabe duda que es valiente,
pero también es arriesgada porque va a tener un efecto relativo,
porque si nosotros fabricáramos inteligencia artificial
nos perjudicaría, pero como fabricamos,
nos va a perjudicar en ese sentido industrial,
es decir idiomas para aplicar Europa?
Entonces la ley de punto de vista de los derechos fundamentales,
por ejemplo, un artículo muy importante, que es lo que llamamos.
Hubo aceptable, obreros, catastróficos el artículo cinco
de la de lo que será el futuro reglamento
o como llaman ahora la ley inteligencia genial esa por ejemplo
limita de una manera muy importante las técnicas subliminales eso
por ejemplo es muy útil por qué
porque hay muchas formas de afectar con inteligencia artificial,
a la conducta de las personas individuales
o de grupos y de grupos o códigos con capacidad de diferentes
todavía más, porque son más sensibles a ese tipo de información
cuando se intenta manipular entonces utilizando derechos fundamentales.
No cabe duda de que la norma es muy conservadora en ese sentido
y protege muy bien los derechos fundamentales,
cosa que no sucede en regulaciones externas a la de la Unión Europea,
con la claridad con la que ya he trabajado en la Unión.
Entonces, en ese sentido, para derechos fundamentales
no cabe duda que es más, va a ser muy protectora
y hay que felicitarse en ese sentido,
porque las posibilidades de manipulación
con inteligencia artificial realmente son muy importantes.
Ese se puede hacer muchas cosas.
De hecho,
ya se han hecho y se estaban haciendo y por el reglamento sea una realidad
y sea de aplicación en los Estados miembros, que corremos,
que corrido falta dos años para que eso suceda.
Muchas conductas que actualmente se están realizando tendrán
que detenerse o pueda exigirse responsabilidad con respecto a ellas
y tienen efecto retroactivo, que eso se verán en su momento,
pero eso está pasando en estos momentos
y es un efectivamente es un tema importante.
Bueno, quizá tendremos que hacer un segundo programa
para hablar de la de la norma una vez
veamos el texto definitivo, no, que creo que sería interesante.
Yo quería preguntarte porque tú colaboras
con el Observatorio del impacto social y ético
de la inteligencia artificial,
Odisea que tiene precisamente como objetivo
el análisis de los desafíos de la inteligencia turística.
Antes querría que nos comentaras un poco sobre el Observatorio,
sobre las actividades que hayáis acabado
y, en concreto tu colaboración con el Observatorio.
Una, las estudiades efectivamente, es la inteligencia artificial,
pero no solamente en el marco de la propia Inteligencia Artificial
sino también en marcos distintos,
por ejemplo, un marco en el que me ocupo yo personalmente.
Es el de la inteligencia artificial
en conexión con la unión euro derechos,
es decir cómo las aplicaciones de Inteligencia Artificial
tienen encaje con las tecnologías
que van a aparecer en un futuro relativamente próximo.
Calculamos con unos cinco años más o menos
en los cuales se puedan tener acceso a diferentes capacidades mentales
tanto para corregir problemas como para mejorar facultades.
Es decir no solamente es la corrección de un problema.
Supongamos una persona que tiene alguna un problema de tetraplejia
y mediante los la nanotecnologías podemos subsanarlas
o un problema de afasia, es decir,
la persona no puede hablar pero con el pensamiento sí
y eso se decodifique con la inteligencia artificial,
pero tiene una fase física que son los veces si es
decir las tecnologías de acceso a la mente,
a través de o bien electrodos
o bien otras tecnologías como campos magnéticos,
que van a tener un impacto fundamental.
Entonces mi campo de trabajo bien Odisea ya digo,
inteligencia artificial y derechos fundamentales.
En conexión con esos nuevos derechos.
Porque siempre que tratamos de nulo derechos
siempre participa la inteligencia artificial,
es decir, en toda vez y es decir,
en todo sistema de conexión con la mente,
hay luego una parte de procesamiento de la información
y la parte de procesamiento de la información
en su inteligencia artificial.
Ahí hay grandes riesgos,
por ejemplo con codificación de sesgos;
por ejemplo, supongamos que una persona
esto todavía no se puede hacer,
pero ya vemos la posibilidad de hacerlo en breve tiempo.
En un tiempo determinado.
Una persona, por ejemplo, tiene un pensamiento.
Cuando la persona está sana, podría sus pensamientos, almacenarlos
en un lugar determinado, en unas memorias específicas
y luego cuando una persona pierde su capacidad
y se está ahora una, una determina enfermedad,
poder volver a volcarlos e información,
pero esa información puede estar modificada o puede cambiar
donde eso afecta a la identidad de la propia persona.
Es decir, la identidad humana al final
está en una codificación electroquímica, compleja,
pero que se puede cada vez tener, tenemos más acceso a ella
o, por ejemplo, imágenes hoy es posible
cuando fue el.
Una semana más o menos estaba viendo un estudio japonés
en el cual se puede tener información
de lo que hemos visto el día anterior,
es decir, información gráfica es decir.
Imaginemos que hemos visto en televisión o un avión volando,
una o unos amigos o nuestro hijo o nuestros nuestra hija.
Al día siguiente se puede tener información
de esa persona teniendo acceso a la estructura, ni 1,
Química de la memoria que se ha grabado entonces
eso es muy importante.
Hay que darse cuenta de lo que estamos hablando.
Igual que extraemos información, podemos introducir la alterada,
plantea muchos riesgos,
pero ya no solamente porque los manipulan otras
o tercero, sino porque uno mismo podría decidir
que se manipularan las sus recuerdos para construir su identidad
y sea una persona distinta a la que es,
o incluso personas que pudieran decidir manipular las entidades, sus
de sus hijos, no plantea muchísimos, muchísimos riesgos.
Tú crees que eso está no está tan lejano
sino que efectivamente no es tan lejano,
porque eso ya existía.
Se ha hecho lo ha hecho siempre un organismo norteamericano
que esperemos que no llegue esa información a ellos
que dar para dar,
para es una organización del ejército de Estados Unidos
que se dedica a trabajar con ese tipo de tecnologías
y sus propios neuro implantes, y entonces esa tecnología
ya les están utilizando ellos para tratar el shock postraumático
de militares que vienen de zonas de guerra.
Entonces les están cambiando simplemente su,
les alterando biológicamente las memorias que vienen
con el combate se anulan sea, se eliminan,
y esas situaciones, esas fases que han vivido
se están bordando y haciendo ya esos momentos tremendos,
que se están haciendo en estos momentos
cambiando la identidad de las personas que funciona,
aunque quizá lo puede desear antes, se hacía con productos químicos,
no con pastillas, para olvidar malos recuerdos;
ahora, pues directamente eliminarlos extirpar los de la memoria.
Efectivamente, sí porque por ejemplo,
que haya un psicólogo en su consulta
cuando les llegue a una persona con un problema postraumático,
pues los empiezan el tratamiento.
Pero un tratamiento que es un tratamiento psicológico externo,
es decir, es posiciones posición al problema en diferentes magnitudes
hasta que la persona lo asume,
pero es que aquí lo que se está haciendo
es borrarnos recuerdos entrar en la estructura
de la memoria básicamente a largo plazo donde se abría,
porque además los recuerdos postraumáticos se forman
en algunas regiones de memoria de una manera muy rápida.
No es como la memoria normal que estoy
otra formación más prolongada cuando nos enfrentamos un riesgo,
digamos, el prime ing que tenemos,
el miedo que nos produce esa situación.
Al tener unas regiones muy concretas
de memoria, que es donde están generalmente el los ojos,
puestos somáticos, eso también vale
para temas de violaciones de mujeres,
también se está trabajando en ese campo
y lo que se pretende borrar los recuerdos,
es decir, hay unas técnicas de bordados de recuerdos,
con unas veces y también se podría incluso
hacer con campos electromagnéticos, pero no de la manera;
nunca la consistencia que tiene una vez y introducida en una sección
del cerebro que lograríamos cambiar la estructura de la memoria.
Yo recuerdo hace poco tiempo y ver cómo se forma la memoria,
y cuando vemos la formación de la memoria
un poquito es para que sea la la, las personas,
una idea es como cuando se formó una estructura de agua,
helada tuviese una estructura de agua
y empieza a congelarse y vemos una cristalización.
Un estructura así es más o menos la memoria
las estructuras de críticas de las neuronas
y empiecen a estructurar.
Y creen ahí en ese es esa estructura que se forma.
Ahí está la memoria de un acontecimiento,
por ejemplo, eso se puede ir hacia atrás,
que lo que se está haciendo esas tecnologías,
el lector críticamente es decir, afectan en determinadas zonas
y de cerebros de absorbe ciertas zonas,
donde esa memoria externa digamos,
tienen ese daño, por así decirlo de una memoria
puesto un matiz de un accidente, una cuestión de combate
antiguamente eso se trataba pues drogas básicamente
es decir con dedicación específica pero a lo que se está haciendo
es, como ya hay un conocimiento mucho más detallado sobre sobre ese tema,
tratarlo de estos químicamente convenceréis.
En relación con este.
Quería preguntarte por la sandbox,
las estas cajas que dentro de la estrategia española
se pretendía hacer una, una sandbox para inteligencia artificial,
no de carácter regulatorio
que se pudiera experimentar, no cómo funcionan estas cajas,
porque yo imagino que son realmente espacios
donde se desarrolla la tecnología como una supervisión del regulador
de alguna manera,
o de la agencia de protección de datos,
pero no sabemos muy bien cómo funcionan,
si se están realmente utilizando si son positivas realmente
o son peligrosas, el problema de las voces que básicamente
los Estados Unidos viene de la Chile,
de la famosa Chile, licencia, las cajas de arena de niños,
verdad que esa es la idea?
Son procesos modelos puntuados.
Tú las filiales ha descrito perfectamente su modelo
de estudio y análisis de proyectos.
Problema como en Europa no hacemos inteligencia artificial,
no lo de gran cosa, porque los proyectos se van a hacer
fuera de las ambos se van a hacer en Estados Unidos
y luego nos van a aplicar.
Entonces podemos tenerlo, es útil,
pero sería útil.
Yo tuve a los americanos no nosotros,
porque son los que hacen las tecnologías
de una manera casi total, todos los todos los modelos
lo hacen ellos entonces tenerlo es útil,
porque, bueno, es el modelo al que debería atender
una regulación universal, porque permitiría controlar,
por ejemplo, el hecho de eliminar tecnologías opacas;
es decir, que no se sabe lo que está pasando.
Otro problema importante
con la inteligencia artificial en ese sentido,
que tampoco tiene solución, aunque lo hagamos tienen unas Albox.
Lo que pasa es que en sandbox queda controlado,
es decir, no sale al exterior porque lo tiene regulado,
es que ahí hay, hay determinados tipos de inteligencia artificial
que no se pueden explicar, los resultados que dan operan,
pero no sabemos resultados, es una cuestión de combinatoria.
En cierta manera, con un cerebro,
un resultado puede dar resultados u otros.
Entonces, la ventaja de las ambos
es que si hay un elemento peligroso queda confinado controlado.
En caso contrario,
te lo puedes encontrar en el mercado que lo.
Pasar sin duda alguna, como Estados Unidos
no están restringidos a esas sandbox,
las grandes corporaciones como meta, por ejemplo,
trabajan con una falta de transparencia total
siendo informan prácticamente a ningún regulador
cuando informan, informan de una manera
poco detallada.
De hecho, 33 fiscales de los Estados Unidos
ya sabéis que han demandado a meta por prácticas de modificación
de conducta de infantil.
Bien allí los los americanos han sido conscientes
los fiscales generales de que eso estaba pasando.
Aquí en España está pasando lo mismo,
pero nadie dice nada y en Europa tampoco.
Por qué?
Porque lo que tienen la tecnología son ellos, meta de hecho,
una de las personas que filtró información
a las fiscalías en español, que ha estado trabajando
en meta y por sus manos han pasado informes internos
o en los cuales efectivamente se decía que en diferentes sistemas
de meta para alteración de conducta es sobre todo para la captación
de la conducta infantil
y sometimiento a usos de tecnología metal.
Lo sabía y eso son, son cuestiones corporativas,
que ya digo en unas ambos se podía averiguar.
El problema es que las grandes compañías
no quieren que eso sea atribuir por suerte en Estados Unidos
siempre se dan ese tipo de procesos judiciales,
que al final seguramente sancionarán a a meta con una cantidad económica
importante y depende, desde luego, si haciéndolo de otra manera
más disimulada con mejor tecnología,
pero a menos si se investigan,
pero eso se está haciendo en Europa.
Por ejemplo,
esto contaba muy importante en relación con la regulación
y el tema de la, aunque no las dicho por haber dicho implícitamente
que no funciona la autorregulación de las grandes compañías nuevos
tecnológicas americanas,
y yo quería preguntarle en relación a esto.
Se supone que todas estas compañías, como meta
y otras tienen borrarse internos, comités internos de vigilancia,
de que se cumplan ciertas cuestiones mínimas éticas,
no en relación a estas cuestiones.
Qué visión tienes?
No funcionan en la práctica porque teóricamente son
personas independientes las que teóricamente forman parte
de, porque ya veo que te ríes,
pero teóricamente son personas independiente.
Es que tienen cierto reconocimiento en el ámbito
en el ámbito científico?
No es que no, no funcionan realmente,
o que esas personas no llegan a conocer las cosas que se hacen,
la práctica por parte de las compañías,
claro, es un los problemas delicados de esos temas, no;
por ejemplo, en el caso de mus de los mus,
y con su tecnología neural, ellos emitieron comités éticos
que han hecho muchos, mucha gente del Comité ético,
y se cuando están descubrió indicamos de en desacuerdo
con las barbaridades que a veces se hacen con las tecnologías
de muy masivas, que crean daño, neuronal y grave;
de hecho, ha creado una cantidad de monos
muertos y cerrados a los que se han hecho.
Los implantes por la compañía ha ido para atrás y tienen forma
formalmente tienen comités de ética,
etc. Pero lo que te encuentras muchas veces
es que los los científicos se van de la compañía,
y esto pasa también en las otras grandes compañías,
como estas muy agresiva,
pero otras compañías lo que hacen es irse.
Cuando se dan cuenta
de que quienes pueden no pueden trabajar con la compañía
pues fallan esas experiencias que tienen comités éticos,
pero esto es antiguo, es decir,
estos problemas por ejemplo, ya existían y han existido,
y siguen existiendo.
En el campo de la automoción de campo
de la automoción las grandes corporaciones
tienen lo que se llama el brazo, contador de contadores,
un especialista que analiza lo que los costes económicos,
que tiene una determinada un determinado fallo,
porque el producto se calculan los fallos
con respecto a los beneficios,
y si compensan imágenes de sello ha habido clásicos problemas,
por ejemplo, con ciertas marcas de vehículos,
por que tenían fallos catastróficos,
y esto pasa igual con las grandes compañías tecnológicas,
calcula las sanciones que le pueden corresponder y si compensan,
se paga la sanción y se sigue vendiendo.
La actividad y los comités éticos es que estoy muy desconfiada
de la autorregulación.
Eso sí lo que sería interesante,
y eso está dentro de lo de la técnica de los nuevos derechos.
Es una especie de juramento tecnocrático por parte
de los científicos.
Que trabajan en las compañías,
que no se les puede obligar a tomar decisiones
o que tengan canales de información especiales
para que cuando tengan información específica, la puedan revelar,
sin un incumplimiento grave de acuerdos internos
de confidencialidad.
Eso sí que es importante, es decir, crear garantías para los técnicos,
porque los juristas estamos lejos muchas veces
en muchas ocasiones nos llega información mucho después,
pero los que realmente están con las tecnologías tienen
que tener una, tienen que se llama no tuviéramos juramento tecnocrático
parecido al juramento hipocrático del mundo de ayer,
las dos dañarla al ser humano, y, si lo ven poner,
tener canales especiales,
que la justicia le permita una inmunidad.
Eso yo creo que es muy importante para controlar múltiples tecnologías
que se están haciendo dentro grandes corporaciones
y que son realmente peligrosas.
Espero que el científico que trabaja en ellas no sabe cómo expresar
el problema que está habiendo y cómo comunicarlo,
porque está sujeto a un acuerdo de confidencialidad
y para ello es necesario crear un canal especial
para poder denunciar, por ejemplo, frente a la administración
y con las medidas adecuadas de seguridad,
de que hay algo que se está haciendo allí mal y que el Estado
pueda intervenir para controlar de alguna manera es muy interesante
y te veo escéptico.
Efectivamente.
Con el tema de la autorregulación quería preguntarte una cosa,
porque se me olvidó decirlo al principio de del inicio
de la, del diálogo pero entonces
Miguel diriges, un programa modular.
En la UNED, de formación permanente
sobre ciencia y derecho precisamente no se desarrolla en colaboración
con la Fundación Garrigues
y que trata, entre otras cosas,
fuese estos temas, no y quería preguntarte,
pues porque nuestros evidentes habrán dado cuenta
que eres un auténtico experto sobre todas estas temáticas
de los nuevos derechos, la inteligencia artificial
en relación con la investigación en las ciencias, etcétera,
pues los objetivos del programa que se lleva ya
desarrollando varios años en la UNED en materia de ciencia y derecho.
Por si están interesados, si vuelve, es relativamente sencilla,
y es que yo también pertenezco al consejo.
Cabe migró, decide y entonces una cosa.
Vivimos con estas tecnologías emergentes
o lo que deberíamos derecho de frontera,
es decir, donde ya no llegué al derecho normal.
Voy convencional
es que los científicos nos hablaban de problemas
que tenían dentro de las reglas de chatham house,
es decir, se puede decir el problema,
pero lo que él ha dicho entonces nos claro.
Nos comentaba muchos problemas que tenían en el mundo científico
en el mundo industrial.
Entonces queríamos hacer un nuevos estudios
donde se pudiera conjugar lo jurídico de última frontera con lo técnico,
de manera que los los científicos sepan un poco
a qué atenerse y los juristas sepamos también lo que están haciendo ellos,
es decir, un alguna una información interdisciplinar que creemos
que es esencial por Antonio Garrigues,
y yo defendemos la idea de que en estos momentos
la interdisciplinariedad es quizá más importante que nunca,
porque los problemas muchas veces
vienen de centrarnos en nuestros campos específicos,
lo que hortera se llamaba la barbarie del especialísimo de a 1,
en un campo y uno de los demás.
Pero es que los campos están interrelacionados
y hace falta una visión transversal de ellos
para resolver problemas que, de lo contrario, quedan.
En parcelas y sin solución en muchas ocasiones hasta aquí
el problema se ha desbordado, porque no ha habido ningún feedback
de otros equipos horizontales o transversales
que hayan tenido conocimiento de lo que está pasando en un campo.
Entonces, por eso es la idea de este programa modular,
que tiene mucho interés colaborar en el programa
y, por tanto, se que es un programa de gran interés
y que plantea cuestiones muy interesantes,
de carácter formativo, no ya para terminar,
preguntarte por una cuestión que está muy relacionada
con todo esto de lo que estamos hablando,
y es la libertad de investigación científica,
no es decir la libertad de investigación
y desarrollar todo esto con un tema importantísimo
como es la multidisciplinar.
Para el desarrollo de la libertad de investigación científica.
Se puede plantear a partir de cualquier idea, uva,
ideas que no habría que plantear nunca
porque son contrarias al ser humano, es decir,
qué perspectiva tienes desde un punto de vista ético y jurídico
sobre el desarrollo de la libertad de investigación científica
en Europa.
Hoy en día, pues cojín.
Yo a ivi o hay es un problema.
Es primero suelo y complejo
indudablemente en el que entra la idea, una idea fundamental,
sobre todo en estos campos concretos de inteligencia artificial,
euro, derechos, que es el tres humanismo,
el humanismo ya sabes que ahí hay un grupo de personas
que consideran que el ser humano debe ser modificado
y mejorado de ese modificado y mejorado con la tecnología.
Entonces, claro, eso es una cuestión filosófica
pero que tiene implicaciones éticas, muy importantes y jurídicas también,
porque hay personas que consideran que al ser humano
hay que mejorarle no basta con lo que tenemos,
que hay que mejorarle contra ideologías,
esa es una idea que, como a veces la tiene también el mus,
con sus tecnologías, de inteligencia artificial,
como el teme que la inteligencia artificial sola
pueda en algún momento del futuro, amenazar de alguna manera
a la libertad del ser humano lo que quiere es fundir al ser humano
con la inteligencia artificial, que es el propósito final
de sus tecnologías de acceso al cerebro a través de 6,
no?
Entonces hay quienes consideran que eso es ético,
en la mejora del ser humano.
Es ética que las modificaciones están justificadas
y quien considera que esas modificaciones
pueden alterar el ser humano de una manera importante,
que pueden nacer otros tipos de ser los humanos con modificaciones
electrónicas, por ejemplo, estamos pensando, por ejemplo,
en ampliación de la memoria, pero claro,
eso automáticamente plantea problemas éticos.
Por ejemplo, cuando uno en un momento imaginemos preparando una oposición,
una persona que viene con un implante electrónico
o una modificación que le han hecho de memoria,
que puede memorizar mucho, más y más rápido
y con una persona que no lo tiene, y claro, como de costumbre,
ese tipo de cuestiones siempre tiene un plan económico soslayable,
quién va a permitir ese poder ese hacer ese tipo de aplicaciones?
Naturalmente,
quienes tienen este año la situación económica mucho mejor
que quienes nos lo están, es decir,
un chiquito, un chiquillo de un barrio de Sevilla
que a lo mejor tiene muy buena capacidad
y se le podría hacer a lo mejor un implante de esa naturaleza,
pues seguramente no.
Acceso, mientras que otra persona que está en un barrio de Madrid,
donde hay riqueza y tal,
pues a lo mejor puede tener acceso a ella, no.
Entonces ahí la cuestión de los desequilibrios,
muy problemática y lógicamente quien pueda pagarlo
pues lo tendrá sobre todo en un sistema libera, por ejemplo,
como los Estados Unidos -Estados Unidos, eso ya está;
es decir, hay unas tecnologías que son una actividad de más,
unos cascos que mejoran el internamiento para la formación,
etcétera, que vale muchísimo dinero y que no está el acceso
de cualquiera.
Esto va a pasar con las tecnologías,
pero a pesar de que también con todo fui al principio
todas las cuando apareció el coche que podía tener un coche,
pues solamente las personas que tenían mucho dinero
con el tiempo se ha ido democratizando hasta ahora,
que va a dejar de haber petróleo, no vamos a tenerlo ninguno,
pero que las tecnologías tienen esa característica
no es que ponen en juego muchas situaciones consolidadas
que son alteradas por su penetración y por su impacto.
Entonces, la sociedad tiene que pensar sobre ellas,
tiene que haber debate.
Es importante que haya debate,
que la gente tenga un razonamiento informado,
si es posible, por medio de comunicación,
sino por lecturas y por por por por expertos
que les informen adecuadamente,
y eso hará que la sociedad, primero, tenga conocimiento de una, digo,
de unos riesgos pero también de unas ventajas que sí que vienen
y que están ya ahí tremendo los los desafíos que se plantean.
Bueno, pues yo creo que hemos tenido durante estos minutos
una charla distendida e interesante sobre los desafíos que plantea
la Inteligencia Artificial para la justicia,
para la investigación, para el derecho,
en definitiva, no, y yo creo que es importante construir,
hacer, hacer red sobre esta esta materia.
La jornada del cuatro de diciembre fue una oportunidad para eso,
para ponernos en contacto, personas que estamos trabajando
en diferentes grupos sobre estos temas,
sobre esta problemática y estos desafíos
y estos retos que plantea la Inteligencia Artificial
para nuestro mundo profesional y nuestra nuestra vida personal.
En definitiva, el día de mañana
ha sido un placer compartir contigo estos minutos.
Gracias, Miguel.
Espero que nuestros oyentes así lo vean,
y así lo entiendan y bueno,
simplemente yo querría añadir el agradecimiento a la Unión Europea
por la financiación del módulo.
Jean monnet, por supuesto,
las opiniones son nuestras y no son de la Comisión
ni de la Unión Europea,
que no es responsable, sino nosotros de nuestras opiniones
en el ejercicio de nuestra libertad de expresión,
en nuestra libertad académica y de investigación.
Agradecer también a la UNED su apoyo para el desarrollo
de todas estas actividades y a los servicios y medios técnicos
de la UNED y en particular de Radio UNED
por acogernos.
Hoy hoy aquí ha sido un placer.
Muchas gracias.
Gracias.