Las tecnologías nos brindan un nuevo escenario académico.
En él, los profesores pueden incorporar la inteligencia artificial
en sus métodos de enseñanza, investigación y evaluación.
Y los alumnos cuentan con una nueva herramienta
para aprender y mostrar lo aprendido.
Pero atención, siendo cierto que la inteligencia artificial
hace más eficientes ciertas tareas, un mal uso solo trae perjuicios.
Si preguntamos a ChatGPT cuáles son los riesgos
de que el estudiante use constantemente sus servicios,
nos dice que el alumno perderá habilidades
porque dejará de razonar, disminuirá su creatividad,
se acostumbrará a la tecnología de la que se hará dependiente
y además habrá problemas éticos debido al plagio y falsificación
de competencias.
Si preguntamos a ChatGPT qué pasa cuando el profesor deja
que la inteligencia artificial le haga las clases
y evalúe directamente a los estudiantes,
nos alerta de errores y sesgos,
alarma de falta de juicio pedagógico ,
de riesgo de deshumanización y problemas éticos y legales.
¿Cómo se debe enfocar la educación en este nuevo mundo tecnológico
para que el alumno use la inteligencia artificial
de modo adecuado?
Si la ayuda de la IA está permitida,
¿cómo sabe el profesor si un trabajo es de una persona
o de una máquina inteligente?
¿Y cómo se evalúa dicho trabajo?
Los expertos que nos acompañan analizarán todos estos problemas
que plantea el uso de la inteligencia artificial
en el sector de las profesiones jurídicas.
Hoy vamos a hablar del uso de la inteligencia artificial
en las profesiones jurídicas, que es un tema de gran relevancia
para los estudiantes y los profesionales del derecho.
Desde la Cátedra Jean Monnet en Gobernanza y Regulación
en la Era Digital nos preocupamos por todas las cuestiones que están
vinculadas a la digitalización y a las nuevas tecnologías,
aunque ya no son tan nuevas algunas de las que nos acompañan.
Para hablar sobre este tema,
el uso de la IA en las profesiones jurídicas,
contamos con varios expertos de gran renombre.
Carlos Vidal Prado es catedrático de Derecho Constitucional
con una amplia experiencia en investigación en temas
relacionados con los derechos fundamentales y la educación.
De hecho, ha dirigido un proyecto nacional
sobre educar en valores y construir ciudadanos.
Además, es director ejecutivo
de la Revista de Derecho Político de la UNED, que es
una de las principales revistas de derecho constitucional en España.
Miembro de la Junta Electoral Central y además es coordinador
del programa de doctorado en Unión Europea en la UNED.
Bienvenido, Carlos.
Muchas gracias.
Contamos también con Isabel Cornejo Plaza,
que es profesora de Derecho Civil de la Universidad Autónoma de Chile,
catedrática Jean Monnet sobre Neuroderechos,
dirige un módulo Jean Monnet sobre Integridad Científica,
RAID, el Grupo Eurometa,
y el Laboratorio Lisa Lab de la Universidad Autónoma de Chile.
Es experta en todos estos temas sobre neuroderechos,
integridad científica e investigación sobre inteligencia artificial.
Bienvenida, Isabel.
Muchas gracias, Joaquín.
Contamos también con Roberto Cipitani,
que es profesor de bioderecho de la Universidad de Perugia,
investigador asociado del Consejo Nacional de la Recherca
italiano en el Instituto de Física Aplicada
en el Ocarrara,
catedrático Jean Monnet por dos veces,
consultor de programas y proyectos de investigación científico,
ha dirigido un centro de excelencia
Jean Monnet precisamente sobre derechos y ciencia,
y es experto en general sobre la regulación de la tecnología
y el tecnoderecho.
Bienvenido, Roberto.
Gracias, Joaquín.
He olvidado decir que eres codirector
de la Cátedra Isaac en Derechos Individuales,
Investigación Científica y Cooperación conmigo aquí
en la UNED.
Gracias.
Bueno, y en mi caso, mi nombre es Joaquín Sarrión Esteve,
soy profesor titular de Derecho Constitucional de la UNED,
dirijo la Cátedra Jean Monnet sobre Gobernanza y Regulación
en el Área Digital.
Esta Cátedra Jean Monnet está financiada por la Unión Europea
y la Unión Europea
nos pide siempre que advirtamos que las opiniones que manifestamos
lo hacemos en el ejercicio de nuestra libertad académica
y en ningún caso son imputables a la Unión Europea.
Este programa de radio está promovido por la Cátedra Jean Monnet,
GovRedic,
así como por la Cátedra Isaac en Derechos Individuales,
Investición Científica y Cooperación.
Vamos a hablar de estos temas entrando ya en la cuestión
de la inteligencia artificial en las profesiones jurídicas.
La primera pregunta que tengo para vosotros es
¿cómo consideráis que puede ser importante la inteligencia artificial
en la educación y en particular en la formación de los estudiantes?
¿Qué perspectivas consideráis que es importante
tener en cuenta en el uso de IA para formar a nuestros estudiantes
de las carreras vinculadas al derecho, desde vuestra experiencia,
en respectivos países, España, Italia y Chile.
Podemos empezar contigo, Carlos.
Yo creo que la inteligencia artificial
puede revolucionar la educación en muchos aspectos.
Y en el ámbito jurídico evidentemente también.
Hay algunas cuestiones que tanto pueden afectar al modo
de impartir la educación por parte de los docentes
y otras que afectan a cómo los estudiantes aprenden
y aprenden.
Analizan y, digamos, aprenden a argumentar jurídicamente.
Yo creo que hay un problema que se aplica
a todos los estudiantes en general, no solamente universitarios,
sino también no universitarios.
Yo lo estoy viendo con mi hijo ahora, que es
que los chicos desde adolescentes ya están aprendiendo
a utilizar estas herramientas,
sobre todo CHAP, GBT, pero estas herramientas
de inteligencia artificial y les está restando a ellos
una capacidad argumentativa tremenda.
Mi hijo, por ejemplo, se enfada mucho
porque todos sus compañeros lo hacen,
entonces él no lo quiere hacer y dice, papá,
es que yo hago las cosas, presento, y claro, yo no sé si el profesor
o la profesora se va a dar cuenta de lo que los demás hacen,
pero yo estoy intentando argumentar yo.
Entonces esto pasa igual.
En la universidad
pero si pasa antes ya nuestros estudiantes llegan
con un déficit a la universidad un déficit de creatividad
son un poco parásitos de estas herramientas nuevas
entonces en la universidad el reto es
utilizar la inteligencia artificial.
Como una herramienta para crecer,
no para dejar de hacer lo que un estudiante universitario
tiene que hacer.
Y en el ámbito jurídico, aprender los conceptos,
aprender a manejarlos, aprender a relacionarlos,
aprender luego a argumentar jurídicamente
cuando ya tienes los conceptos asentados.
Entonces, si esto lo delegas en las herramientas de IA,
no estás creando nuevos juristas,
estás creando personas que aprenden a utilizar herramientas
pero que no son creativos, no.
Entonces es verdad que al final detrás de la inteligencia artificial
siempre hay una persona humana que es la que está ayudando.
Pero yo creo que, ayer lo decía yo en mi clase, justo ayer empecé yo
mis clases aquí en la UNED.
Entonces les decía, esto lo tenéis que utilizar como una herramienta
para facilitaros el trabajo,
pero no tenéis que dejar de hacer el trabajo.
Os puede servir como una especie de buscador
mucho más avanzado que lo que es Google, ¿no?
Y de hecho nosotros lo hemos usado en la investigación
también para eso, yo por lo menos lo he usado.
Algunas veces, sobre todo en el ámbito comparado,
porque como además eso te viene traducido ya a tu idioma,
tú le haces una pregunta, ¿cómo está regulada tal cuestión
en tal país?
Entonces te lo dan ya hecho, ¿no?
Mientras que en Google a lo mejor eso lo preguntas
y no sale.
O te sale en el idioma original y depende de qué idioma sea.
Si es chino,
pues es evidente que tú no lo vas a entender.
O árabe, no lo vas a entender.
Entonces, yo creo que hay ventajas de esta herramienta
y lo que la educación universitaria tiene que provocar esto es, primero,
para nosotros.
Un reto de cómo enfocar la educación
para que ellos utilicen estas herramientas de modo adecuado
y que no les prive de avanzar y de crecer intelectualmente.
Y luego ya hay otro elemento muy importante que es la evaluación.
Nosotros tenemos que cambiar radicalmente
los sistemas de evaluación.
Porque ya no nos valen.
Tú y yo lo hemos hablado muchas veces, Joaquín.
Ya no podemos basarnos en.
Hay personas que lo que hacen es trabajos a mano,
que lo escriban de su puño y letra.
Pero claro, eso es un poco volver a hace 40 años.
Yo creo que hay que buscar maneras de evaluar constatando
que lo que te han presentado en realidad es de ellos
o no es de ellos, pero eso
probablemente sea a través de, no sé si entrevistas personales,
que pueden ser presenciales o telemáticas como en la UNED,
pero hay que buscar otras herramientas que te ayuden
a verificar esto.
Pero bueno, no sé si la evaluación entraba en esta pregunta inicial.
Es complementaria porque en realidad son dos perspectivas del uso
de la inteligencia artificial en la educación,
en la formación en derecho, tanto cómo poder utilizar esos sistemas
para que los estudiantes aprendan o aprendan
mejor o se habituen a la utilización de esos sistemas en la educación
y otro problema o otro desafío es cómo evaluarles,
sabiendo o siendo conscientes de que queramos
o no van a utilizar esos sistemas.
Lo que no tiene sentido es decir que esto no se puede usar.
O sea, yo creo que nosotros en la universidad no podemos decir,
está prohibido usar, porque eso es absurdo.
Es como si prohibiéramos usar el ordenador.
Aunque hay compañeros que lo hacen y es legítimo,
porque es verdad que a veces te estás dando clase,
todo el mundo está con su ordenador
delante y no sabe si están buscando algo en Google
o están mirando un correo electrónico o te están escuchando a ti.
Entonces, que eso es verdad que.
Pero yo me parece que eso es absurdo prohibirlo.
O sea, que lo que tienes que hacer es enseñarles a usarlo.
Entonces, es decir, tú lo puedes usar para esto,
para aquello, para tal.
Y siempre que lo uses, además, en un trabajo,
tienes que explicar.
Se ha utilizado, bueno, por cuestiones éticas, ¿no?
Que vosotros en esto sois expertos, ¿no?
Entonces, se ha utilizado esto para hacer esto,
para hacer aquello, tal.
Yo he visto que tú,
en alguna publicación reciente que me has mandado,
lo explicas, ¿no?
Y entonces dices para qué lo has usado y para qué.
Entonces yo creo que, por ejemplo, derecho constitucional,
lo que nosotros enseñamos, ¿no?
Yo no tengo que cambiar cómo explicolo que es el Estado
o lo que es el concepto de constitución,
no lo tengo que cambiar,
pero sí tengo que empezar a explicarlo sabiendo
que mis estudiantes van a buscar información
o pueden buscar información,
entonces yo tengo que orientar esa búsqueda de información.
Yo creo que, por ejemplo, la época de los manuales en papel
y referirte siempre al manual en papel,
quizá eso ya está pasando, ¿no?
Eso habrá que cambiar.
De hecho, en la UNED tenemos esa experiencia
de que muchas asignaturas ya tienen todo lo material audiovisual
en sus plataformas.
Pero bueno, en derechos como que nos resistimos más, ¿no?
Es complicado, pero no es un fenómeno que solamente
obviamente estamos viviendo en España,
sino que también estamos viendo en otros países
porque la inteligencia artificial es global.
De hecho, los sistemas.
Casi todos los sistemas que se están utilizando
están desarrollados por empresas norteamericanas
o empresas chinas.
Entonces podemos ver la perspectiva europea,
que es la Unión Europea intenta regularlo todo,
pero aún no ha entrado en el tema del uso de la inteligencia artificial
en la educación.
¿Cómo ves la perspectiva en Italia, Roberto?
¿Qué experiencia tenéis en la importancia del uso
de la inteligencia artificial en la formación de los estudiantes?
Como en España, en otros países se está.
Desarrollando un debate sobre este tema
y obviamente un debate sea sobre el uso
como herramienta de inteligencia artificial sino también como límites
o no lo que decía Carlos antes la cuestión
de la ética del uso de inteligencia artificial
por ejemplo esto se ve en la universidad no creo
que todos nosotros todos los colegas están.
Preparados.
Esto es otro aspecto respecto a lo que estaba diciendo
Carlos del tema.
Es decir, no es solo una cuestión de los estudiantes,
es una cuestión también de los profesores.
Yo trabajo en el ámbito jurídico,
pero también en el ámbito científico.
Enseño en el Departamento de Medicina,
he estado 12 años enseñando en el Departamento de Medicina.
Trabajo en un instituto del CNR de físicos,
de informáticos.
La parte universitaria no creo que está preparada,
la parte docente es otro tema.
Tendríamos que empezar a prepararnos mejor para enfrentar,
usar mejor las herramientas, como herramienta de estudio,
como herramienta didáctica y luego obviamente desarrollar
un una ética en el uso de inteligencia artificial
incluso en la actividad de enseñanza.
No lo olvidamos, porque el problema puede ser de los estudiantes,
pero puede ser también de los profesores.
Algunos que delegarán totalmente la actividad, de manera importante,
la actividad de enseñanza.
Yo soy también profesional, lo que me llama la atención
es que, sobre todo, la asociación es profesional de abogados,
de personas que trabajan en la notaria, etcétera,
se están poniendo el tema de la inteligencia artificial
mucho más, yo creo, de lo que está pasando
en la idea más tradicional de la universidad.
Y ya, por ejemplo, Todos los profesionales están obligados
a seguir cursos de actualización y veo que hay muchos módulos
sobre el uso de la inteligencia artificial,
por ejemplo, en actividad profesional.
Esto es muy interesante.
Me parece que están muy adelantados respecto a lo que hacemos
en la universidad porque obviamente en este caso
el tema del uso de la inteligencia artificial
es un tema práctico, un tema muy actual,
por tanto es importante y porque en el ámbito profesional
si se usa mal la inteligencia artificial de manera
no adecuada ya se ve cuál puede ser la consecuencia,
ya existen sentencias, por ejemplo el tribunal de.
De Florencia el año pasado ha dictado una sentencia sobre el uso
de la inteligencia artificial en la actividad de los abogados,
por ejemplo.
En algunos casos, no en Italia,
pero en otros países, en Colombia,
etc., ya están saliendo sentencias sobre la independencia
de los jueces, que son al final profesionales,
que usan la inteligencia artificial.
Entonces, el tema es de los estudiantes,
porque serán los profesionales de mañana,
pero ya ahora el problema.
Las oportunidades, las ventajas, etcétera,
pero también los problemas ya se ven.
Claro, los sistemas de inteligencia artificial están ahí para utilizarse
y los utilizan tanto los estudiantes como los propios profesionales,
aunque en su momento no se les formó sobre su uso
y efectivamente las asociaciones,
los colegios de abogados están mucho más metidos
en lo que es la formación de los abogados
y de otros profesionales sobre sistemas de inteligencia artificial
para el uso en la profesión que las propias universidades,
al menos no nos hemos adaptado con la misma agilidad
que los colegios profesionales.
Es muy interesante esta doble perspectiva
que habéis apuntado, tanto en la formación
como en la propia evaluación de los estudiantes.
No sé si en Chile tenéis el mismo desafío,
lo estáis viendo de la misma manera que aquí en Europa.
Isabel, ¿cómo ves tú lo que plantea el uso de sistemas
de inteligencia artificial para la formación de los estudiantes
y para la evaluación académica?
Muchas gracias, Joaquín, por la pregunta.
Bueno, en efecto, también en Chile
existe una discusión muy álgida que ha llegado incluso ya
a instancias gubernamentales.
El Ministerio de Educación está seriamente planteando
una reforma estructural al sistema educativo para utilizar
la inteligencia artificial, como ya bien dice Carlos,
Roberto, tú.
Como herramienta, más allá de la libertad académica
que tienen los profesores, docentes, de poder incluso prohibir,
con lo cual yo no estoy de acuerdo.
La posición yo diría predominante es mirar a la inteligencia artificial
como una herramienta que ayude a preservar el espíritu crítico,
el pensamiento crítico que es central en las universidades.
Específicamente sobre tu pregunta, ¿no es cierto?
, en la educación de nuestros estudiantes de derecho
es muy desafiante porque estos estudiantes de derecho
van a abrir el camino precisamente para los futuros jueces,
para aquellos abogados que van a estar en la práctica,
para los futuros investigadores, docentes, políticos, ciudadanos,
finalmente.
Entonces, esta idea, por ejemplo, de entender.
Desde el punto de vista ético,
desde el punto de vista de incorporar los propios valores
de lo que significa ser un futuro ciudadano,
una persona en el fondo que va a convivir con este cambio
porque también pensamos que la inteligencia artificial.
Como dijo Carlos,
una revolución que tal vez forma parte de una época
bisagra que estamos viviendo.
Entonces, el incorporarlo incluso de manera
más allá de su función como de estudiante,
sino que como de ciudadano y de persona.
Implica un desafío, ¿no es cierto?
, mayúsculo.
Por ejemplo, en la universidad en la cual yo me desempeño,
existe ya, desde el año 2018, un programa que se llama Minor,
donde se enseña paralelamente, ¿no es cierto?
, a los estudiantes de derecho
y también pueden optar a ellos los estudiantes de ingeniería
a un programa de ética en inteligencia artificial
entonces al terminar sus estudios de pregrado
salen con un grado de diplomado y una de las asignaturas más importantes
este de ética inteligencia artificial donde precisamente se les enseña
programación ciberseguridad ética de la inteligencia artificial datos
etcétera entonces permite que el estudiante entienda que.
Debe incorporar esta herramienta para poder ser más eficiente,
sin embargo, debe también entender
que el pensamiento crítico significa conocer bien la técnica,
la técnica de lo que significa estudiar Derecho.
No puede ser reemplazado,
sino que lo que puede hacer es como, en el fondo,
hacer más eficientes ciertas tareas.
Entonces, finalmente el desafío obviamente está planteado,
las diferentes universidades tienen esta libertad
como para poder enfrentarlo,
pero ya se han tomado ciertas cartas en el asunto a manera institucional,
pero por cierto que yo diría que es un desafío de largo aliento.
Gracias Isabel.
Ustedes habéis planteado muchos temas interesantísimos
en relación a la problemática del uso de la inteligencia artificial.
Ahora a mí me gustaría centrarnos un poco en la cuestión del uso
de los sistemas de IA por parte del profesorado,
por parte de los docentes.
Antes Carlos lo ha planteado,
la cuestión de poder utilizar los sistemas de IA
para nuestro trabajo.
Ahí puede haber diferentes ángulos porque podemos utilizar
los sistemas de IA en nuestro trabajo
como investigadores para la investigación científica
y yo sí creo, que tenemos unos desafíos importantes
de ser muy transparentes en cómo usamos los sistemas de IA,
declararlo cuando lo usamos en nuestras publicaciones,
pero luego también está la perspectiva del uso
de los sistemas de IA en nuestro trabajo docente,
es decir, utilizar sistemas de IA para la evaluación
de los trabajos académicos de los estudiantes,
que nos quitaría mucha carga de trabajo de análisis,
pero que al mismo tiempo haría que no fuéramos nosotros realmente
quienes estuvieran realizando la evaluación.
Quería preguntaros por esa doble perspectiva.
Carlos, como director ejecutivo de la revista Derecho Político,
tiene también esa experiencia de evaluación de artículos,
que al final se trata también de evaluar trabajos
realizados por profesionales,
por otros profesores que pueden haber utilizado sistemas de IA.
Roberto también participa en la evaluación científica
de proyectos, Isabel, Carlos y yo también,
y tenemos también esa perspectiva de la evaluación evaluación
de proyectos que pueden haber utilizado sistemas de IA,
lo que no está prohibido,
pero normalmente las agencias nos prohíben a nosotros
como evaluadores utilizar sistemas de IA para evaluar proyectos.
Y quería preguntaros cómo veis esta problemática
de usar los sistemas de IA por parte de nosotros,
por parte de los profesores.
¿Qué opinas, Carlos?
A mí me parece que en el ámbito jurídico
es un poco delicado usar sistemas de inteligencia artificial,
porque si lo que tienes que valorar es lo que decía Isabel,
el pensamiento crítico, el espíritu crítico,
la capacidad argumentativa, el manejo de los conceptos, etc.,
yo no sé si la inteligencia artificial
llegará a un momento en que me pueda sustituir
pero creo que en este momento no me puede sustituir.
Hay una parte de la evaluación que es subjetiva,
digamos, y que es humana.
No creo que una máquina
A lo mejor sí, no lo sé,
pero en este momento no lo veo.
No lo veo porque además cuando me he encontrado con trabajos
hechos claramente con inteligencia artificial,
lo más fácil de detectar es justamente por los errores
que se cometen.
Entonces.
Tú estás viendo una argumentación o un manejo de un concepto
que ni siquiera has visto en tu vida,
porque a lo mejor es una traducción que hace Chad GPT
de un concepto de otro idioma
y la traduce el castellano de un modo que no se traduce así,
entonces creo que por el momento yo no lo sustituiría,
salvo aspectos más mecánicos.
Nosotros, tú lo sabes Joaquín, dentro de nuestra evaluación
hay una parte de exámenes que es tipo test, ahí sí, ya lo usamos.
Bueno, ya no es inteligencia artificial,
es simplemente una máquina que te corrige eso,
pero lo que son ya aspectos de desarrollo a lo mejor
puede ser algo complementario.
Si por ejemplo tú tienes una rúbrica para corregir un examen.
Y entonces le dices,
confírmame que en esta respuesta están estos tres elementos
incluidos.
Entonces, eso sí te lo puede hacer,
pero incluso tú tienes que ver cómo relaciona unos elementos
con otros, quizá.
Entonces, complementario a lo mejor,
pero tiene que haber siempre una supervisión y una última palabra
del docente, ¿no?
Entonces, eso desde el punto de vista de evaluación.
Yo creo que para nuestro trabajo nos puede ayudar para, por ejemplo,
elaborar justamente actividades prácticas sobre la materia.
También nos vale para la parte investigadora,
lo he dicho antes, hacer búsquedas de jurisprudencia, de doctrina,
aunque ahí creo que todos tenemos la experiencia de que
siguen cometiendo muchos fallos las herramientas de IA.
Yo nunca he manejado una herramienta de pago,
o sea, siempre he usado las.
Quizá con las herramientas de pago funciona mejor,
no lo sé, Pero vamos, todos sabemos que se inventan sentencias,
se inventan textos literales de sentencias,
o sea, hay cosas que no lo puedes usar con rigor académico.
Lo puedes usar, tú lo decías,
como algo complementario que te ayuda a ser más eficaz
o a acelerar la rapidez con la que haces algo.
A lo mejor ahora nosotros cuando escribimos un artículo,
un libro, pues te agobia mucho,
tienes que redactar, y quizá esto sí te puede ayudar,
porque tú le metes en el cóctel las cuatro ideas
que tú quieres manejar y le dices,
escribe un texto de tantas páginas con este tal,
y a lo mejor te lo hace.
Yo ayer ponía el ejemplo en clase, porque ayer era la primera clase,
entonces les hablé de la prueba de evaluación continua,
que en la asignatura de nuestro compañero Lucrecio Rebollo
consiste en un trabajo que mínimo les ha puesto 35 páginas
a un alumno de segundo de ciencias jurídicas.
Entonces, claro, yo les explicaba que hay cosas que se pueden hacer
pero que tienen que estar siempre ellos vigilantes
y les puse un ejemplo que no me ha pasado y termino con esto
si no me enrollo mucho.
Hace poco un grupo de juristas preocupados
por la degradación institucional que hay en España
hicimos no un manifiesto sino un memorial,
que es algo más diferente, era un texto más largo
y tal.
Bueno, pues.
Lo habíamos escrito y queríamos convertir eso
en un artículo de periódico.
Entonces, el que coordinaba eso, él tenía acceso a herramientas de IA
de pago, lo metió, se quedó impresionado
porque decía, Carlos, es que el resultado es mucho mejor
de lo que nosotros hicimos inicialmente.
Le hizo varios resúmenes.
Hizo un primer resumen, lo revisó, corrigió las cosas que no estaban,
le pidió un segundo resumen y al final
salió un texto que es lo que se publicó en el periódico.
No voy a decir de qué estoy hablando.
Bueno, lo revisamos nosotros, pero estaba increíblemente bien.
Entonces, hay cosas que sí puedes hacer
y sobre todo es eso, que te ayuda a acelerar esos procesos
de que cuando tú ya tienes la idea y el concepto
y lo has escrito y tal,
pero quieres acabar dándole un estilo mejor.
Eso te ayuda.
Aunque hay un peligro ahí también.
Sobre todo yo lo veo en la parte más personal.
La inteligencia artificial tiende a hacer afirmaciones más genéricas.
En términos vulgares no se moja, ¿no?
No acaba de tomar postura claramente.
Entonces, eso sí que es lo que hay que revisar, ¿no?
Pero bueno, volviendo al tema.
Creo que es una herramienta que tiene limitaciones.
Probablemente tenga cada vez menos limitaciones
en el futuro.
Y hay que saber contar con esas limitaciones.
Y lo de la revista, si quieres, luego lo hablamos.
Pero es muy complicado.
Es complicado.
Y de hecho en Latinoamérica
hay una red de revistas de derecho constitucional
que tiene revistas de todos los países, de Chile,
de Argentina, de Colombia, de Italia también, de Francia.
Y este es un tema que nos preocupa mucho.
Hemos hecho ya un documento sobre el manejo de IA.
A ti te pedí consejo, Joaquín,
para ver cómo lo metíamos en esta revista.
Pero ahora mismo es muy complicado porque tienes
herramientas que te dicen hay sospechas del uso de IA.
Pero tú qué haces con una sospecha.
Entonces, lo que nosotros estamos haciendo es
escribirle al autor o la autora del trabajo que nos ha llegado
y le explicamos, ha pasado esto.
Hay un tanto por ciento muy elevado
del texto que parece que procede de inteligencia artificial.
Nos gustaría que nos explicase si lo ha usado y cómo lo ha usado.
Y ahí ya es cuando tú decides, en función de la respuesta.
Si os puedo decir
que la última vez que lo hicimos no hubo respuesta.
Con lo cual, evidentemente.
Lo había utilizado mucho, digamos, el sistema de inteligencia artificial.
Yo quería preguntarte, Isabel, cómo ves el futuro.
Tú te ves siendo una profesora en el metaverso,
en un futuro no muy lejano.
Bueno, tú dijiste, nombraste, ¿no es cierto?
, que yo soy directora de un laboratorio, ¿no es cierto?
, de Frontera de la Ciencia Jurídica,
donde obviamente hay iniciativas de entrar en metaverso
y siempre y cuando, claro, primero tiene un aspecto de querer.
Enseñar que esto es posible,
sobre todo con la preservación del aspecto técnico
de lo que significa nuestra profesión.
Argumentar y razonar de manera jurídica,
pero en estas nuevas dimensiones,
que son nuevos escenarios.
Por ejemplo, no tengo una mirada distópica,
pero sí creo que la labor de nosotros como docentes,
como enseñantes, es fundamental.
Y no creo que vaya a desaparecer,
precisamente porque debemos empeñarnos en seguir mirando
esa subjetividad que decía Carlos.
Yo estoy tan de acuerdo
en que la inteligencia artificial es tan artificial finalmente
y tenemos que tener conciencia de tratar de hacer
que nuestros estudiantes no terminen creyendo
que la inteligencia artificial puede hacer lo mejor que ellos.
Yo, por ejemplo, sigo creyendo en el mérito, en el esfuerzo y premio
cuando veo esa subjetividad plasmada en un trabajo.
Me encanta y se los digo.
Ah, mira, aquí estás tú, este eres tú,
esto es lo que yo quiero ver.
Entonces hay que ser creativo en esa manera de evaluar.
Entonces, en el futuro, creo que esta labor es fundamental.
Y la manera de llegar ahí es precisamente entendiendo
y difuminando este discurso que estamos teniendo.
No creer que la inteligencia artificial
es ese monstruo con siete cabezas que nos va a devorar
y nos va a reemplazar.
Nada de eso.
Solamente es esa ayuda para hacer más eficaz algún trabajo específico.
Yo, por ejemplo, ya lo utilizo porque obviamente al tener
un discurso sobre el tema tengo que conocerlo,
pero.
Remotamente me ha ayudado a hacer mejor mi labor tanto,
no sé, de investigación o de docencia o la didáctica en sí.
Todavía no veo que sea esencial para mí.
Sí puede ser más lúdico y también para como enseñar con el ejemplo.
Esto no me va a reemplazar, esto no se parece a mí
y yo todavía sí tengo algo que decir y espero que los demás
o mis alumnos también tengan algo que decir.
Es muy interesante.
Estamos llegando al final del tiempo que tenemos para el programa,
aunque podríamos estar aquí horas y horas hablando.
Y tengo una pregunta para Roberto,
como codirector de la cátedra de SAAC,
que precisamente se preocupa por todos estos temas
de la investigación científica y la cooperación.
¿Cómo ves que podríamos introducir o integrar la inteligencia artificial
en la evaluación científica de proyectos de investigación?
Este es un tema muy presente para la Comisión Europea,
la REA.
Hace dos semanas estuve en Bruselas
y uno de los temas que se han discutido en la reunión
era el uso por parte de los que presentan proyectos
y también por parte de los evaluadores.
Todavía no se ha tomado una decisión,
está solo puesto el problema.
Un problema que tiene consecuencias no solo en la calidad
de los proyectos, normalmente está aumentando,
es en el número de los proyectos que se presentan
porque lo.
¿Es más fácil hacerlo?
Sí, como alguien sabe, por ejemplo,
la convocatoria sobre la Marie Curie postdoc,
las acciones individuales del programa Marie Curie,
los proyectos han aumentado de 10.000 propuestas, proyectos,
hasta los 17.000 y pico.
Es mucho, un aumento de un año al otro del 70%,
que obviamente pone un problema que se puede solucionar.
Entonces, la cuestión en términos generales,
que evidentemente tenemos que tener en cuenta,
como decían los colegas,
que la inteligencia literaria es una herramienta que se va
a extender en el uso, etc. No podemos no tenerlo en cuenta.
Nosotros lo usamos en nuestra actividad,
yo también, en actividad sobre todo de investigación,
como para complementar la actividad en este caso.
Entonces tenemos que partir de esta realidad,
tenerla en cuenta, desarrollarla.
Perdón si vuelvo a insistir sobre la ética.
Incluso tenemos que poner esta regla ética,
por ejemplo, en los contratos.
Por ejemplo, hay un tema
que quien evalúa proyectos de investigación
se usa la inteligencia artificial, como hemos discutido en Bruselas,
que riesgo puede enfrentar.
En primer lugar, como decía Carlos,
sustituir a una discrecionalidad necesaria en este sector.
No solo desde el punto de vista ético,
desde el punto de vista jurídico está prohibida.
Por ejemplo, por el artículo 22 del GDPR,
por el Artificial Intelligence Act, etc. Esto es un tema.
El otro tema es que hay problemas de seguridad, de derecho de autor,
porque si yo subo, si evalúo un proyecto,
subiendo a la plataforma el proyecto o una parte importante,
no sabemos con precisión.
¿Qué uso se va a hacer del proyecto?
Entonces tenemos no solo una regla, digamos, ética,
tiene que ser también objeto de una obligación jurídica.
Esto significa que un contrato para un evaluador hoy tiene
que ser diferente del contrato de un evaluador de 10 años atrás.
Esto tenemos que actualizar, ¿no?
Pero la inteligencia judicial.
Puede ser útil incluso en la actividad de evaluación,
sobre todo cuando uno tiene que evaluar muchos proyectos
más sujetos a cansancio, a distracciones, etc.
Pero, en el mismo tiempo, desarrollar herramientas
para usarlas de manera adecuada.
Muy bien, muchos desafíos los que acabas de apuntar,
los que habéis apuntado a lo largo del programa.
Se me han quedado muchas preguntas por hacer,
nos ha quedado por analizar cómo es de importante,
aunque se ha apuntado en algunas de las intervenciones,
la inteligencia artificial en algunas profesiones concretas,
como los abogados, etc.,
y os invitaría a tener un segundo programa,
una segunda parte de este programa próximamente para que
podamos analizar ya la cuestión de la inteligencia artificial
en profesiones concretas
porque el tiempo se nos ha ido de las manos
pero espero que nuestros oyentes sepan comprender
que esto es una primera aproximación a la reflexión de los desafíos éticos
y jurídicos que plantea la inteligencia artificial
en las profesiones jurídicas.
Hemos analizado la perspectiva de la formación
de nuestros estudiantes, nuestra propia labor
como profesores, como docentes, como investigadores
y toda la problemática también de la evaluación
tanto de los estudiantes como de nuestra producción científica
en formato de publicaciones, en formato de proyectos.
Pero nos queda mucho por analizar,
muchos desafíos y esperamos poder hacer
un segundo programa al que estáis invitados.
Muchas gracias.
Muchas gracias a ti.