Pasamos a la versión pesimista, creo, no sé si pesimista o mixta,
que tiene Juan Diego Paredes,
que es también profesor del departamento,
investigador también de nuestra facultad
y, por tanto, en esa I que tenemos dentro de nuestro gorro de PDI,
pues nos va a trasladar su experiencia más ligada
a la utilización de la IA para codificar y para programar.
En su labor de análisis de datos, que es lo que muchas veces
le toca hacer en la parte investigadora.
Gracias, Juan Diego.
Gracias, Marta.
La ponencia se titula Inteligencia Artificial Generativa
en la Investigación,
pero tengo que puntualizar que yo no uso la guía para investigación,
la uso para la parte de programación,
para que me ayude a la hora de hacer el código y pulir el método
y sobre todo el diseño del modelo.
No uso la IA en la investigación,
pero eso no significa que mucho menos tenga un potencial enorme.
Como bien podemos ver en la página web de la biblioteca,
donde tenemos un montón de herramientas de apoyo
a la investigación basadas en Internet artificial,
que se pueden consultar en esta página web que se ve.
Tenemos herramientas para uso general,
asistentes de investigación.
Editores bibliográficos con IA, inteligencia artificial
aplicada en bases de datos como ProQuest, Scopus.
Bueno, un potencial infinito.
Entonces, si no voy a hablar de la IA de investigación,
¿de qué voy a hablar?
Voy a hablar de las implicaciones que tiene la IA
para la investigación, más que de herramientas específicas
como, por ejemplo, ha hecho César al final de su ponencia.
¿Y qué hace la IA en la investigación?
Bueno, pues en primer lugar lo que hace es, en cierto modo,
distraer nuestra atención de la investigación.
Porque, por ejemplo, en el caso de las herramientas
de la biblioteca,
tenemos 31 nuevas herramientas de IA.
Cada una de esas herramientas requiere un trabajo.
Primero hay que decir qué buscamos.
A partir de ahí, seleccionar la herramienta que lo hace mejor,
de las muchas que haya,
y luego aprender a usar la herramienta.
Y además esto el año que viene va a cambiar.
Entonces, al final, nosotros estamos formándonos
para usar aplicaciones que nos ayuden en la investigación,
pero no estamos investigando, estamos aprendiendo.
A usar la herramienta.
Eso es un riesgo.
Evidentemente,
lo mejor creo que es centrarse en una y a partir de ahí ya especializar
se.
Pero bueno, es que al año siguiente te la pueden cambiar fácilmente.
Yo creo que el mayor impacto que tiene la inteligencia artificial
en la investigación es en relativo al esfuerzo,
que hay que esforzarse para aprender.
Aquí tenemos una cita de Tocqueville
que dice, en una sociedad utilitarista
los hombres acaban amando las bellezas fáciles
que no requieren esfuerzos, ni excesivas pérdidas de tiempo.
¿El esfuerzo es una pérdida de tiempo?
Me pregunto.
Le gustan los libros que se consiguen con facilidad, que se leen deprisa,
que no exigen un detenido estudio para ser comprendidos.
Y el estudio y la complejidad, en cierto modo,
son necesarios para aprender y para generar conocimiento.
Leí el otro día el caso de los médicos.
Por ejemplo, un médico cuando ve una resonancia magnética
por primera vez, no sabe lo que hay ahí.
Pues tiene unos conocimientos teóricos básicos.
Cuando ha visto 10.000 resonancias magnéticas,
para él es un libro abierto.
Pues con cualquier disciplina, en cualquier área de conocimiento,
la complejidad y el esfuerzo se aplican de la misma forma.
Al principio, algo que puede parecernos complejo,
con el paso del tiempo, no lo es.
Si nosotros,
pues yo qué sé, hablamos a alguien de un modelo macroeconómico,
a un estudiante de primero, no sabrálo que es.
Después de llevar cuatro años estudiando la carrera,
pues debería, debería poder decirnos algo de ese modelo macroeconómico.
Con esto lo que quiero decir es que la experiencia
es la base del conocimiento.
Y la inteligencia artificial, en ocasiones,
no siempre, nos ayuda, pero a veces nos priva de esa experiencia.
He construido también un silogismo que formalmente es válido,
pero en contenido se puede discutir.
Se aprende haciendo, se aprende viviendo.
Si la IA nos hace las tareas que queremos,
al final la IA hace que no aprendamos.
Y vuelvo a insistir,
no quiero ser tajante en este aspecto,
pero sí que quiero ser gris.
Quiero que haya una cierta balanza porque efectivamente la idea
en algunos aspectos puede ayudarnos y en otros creo que puede ayudarnos
no tanto.
Aquí, para reforzar este silogismo,
he extraído una parte del texto de un artículo
que hablaré ahora posteriormente sobre él,
en el que se analizaba cuál es el efecto
de la inteligencia artificial en los investigadores
y en los alumnos.
Y a la conclusión a la que llega ese artículo
es que los alumnos se vuelven vagos a largo plazo
cuando.
Tienen disponible una herramienta de ella.
A corto plazo no, es cuando ya se acostumbran a ella.
Este es el estudio al que me refería,
en el que, bueno, por supuesto, para que un estudio sea efectivo,
pues tiene que ir con muchos mapitas, dibujitos,
colorines, etc. Igual que este estudio se ha hecho sobre alumnos,
habría que ver cuáles son los resultados
de un estudio similar hecho en investigadores.
Yo creo que esto es muy interesante
y lo he dejado para la parte de conclusiones,
analizar cuál es el efecto del uso de herramientas
de inteligencia artificial en la investigación,
porque igual nos llevábamos alguna sorpresa,
quizá positiva, quizá negativa,
o las dos, porque no creo que haya que encasillar.
Hablando precisamente de la utilidad que tiene la inteligencia artificial
para análisis crítico, esto me hace pensar sobre todo en las herramientas
que se ofrecen para obtener resumen de artículos de investigación.
Tenemos millones de herramientas, cada una hace un artículo diferente.
Yo le pregunto si cuando le pedimos un resumen
a una aplicación de inteligencia artificial,
realmente estamos sometidos a los sesgos
de esa inteligencia artificial,
a los sesgos e incluso a los juicios de valor
que puede emitir una inteligencia artificial,
si es que puede emitirlos.
Sí que tendrá unos algoritmos, tendrá una serie de parámetros
que al final le llevarán a cabo, le harán que tenga.
Que te den un resumen, que tengan conclusiones u otras.
En cierto modo, la IA tiene un juicio de valor que está predeterminado
por unos parámetros que están introducidos en el informe,
no se sabe quién.
Y eso nos lleva a otra reflexión, y es cuál ha sido nuestro resumen.
A lo mejor tendríamos que hacer ese ejercicio, ¿no?
Coger un artículo, pedirle a ella que nos dé
un resumen, bueno, hacer nosotros nuestro resumen
y luego pedirle a ella que nos dé el suyo.
A lo mejor nos llevaríamos a una sorpresa
o más de dos.
O a lo mejor incluso veríamos que el resumen de la IA
no dice lo que dice el artículo.
Pero bueno, aquí también estamos hablando quizás
de una cuestión que incluso tiene su deriva comercial,
porque distintas IA compiten en función de los parámetros
que están programadas para tener unos resultados u otros.
Esto me lleva, hablando del análisis crítico,
al redescubrimiento del análisis crítico,
que parece que ha traído la IA.
El análisis crítico nunca se ha ido,
nunca nos ha dejado.
Lo que pasa es que nosotros lo estamos redescubriendo ahora.
Pero nuestra labor como investigadores
era leer artículos y contrastar.
Eso es análisis crítico.
¿Qué es lo que pasa?
Que la IA nos abre la posibilidad de todo un abanico de artículos,
de publicaciones,
de libros que no éramos capaces de abarcar,
pues asimilarlo.
Me pregunto ahí, ¿es necesario?
No tenemos un límite, menos no es más,
porque al fin y al cabo, sobre todo ahora, ir a ello,
pero el mundo de la investigación ahora se caracteriza
por la hiperpublicación se publica todo.
Quizás en vez de usar todo eso como base,
quizás deberíamos críticamente seleccionar tres,
cuatro o cinco fuentes que sepamos que son de referencia,
que nosotros hayamos comprobado y a partir de ahí construir
ese conocimiento.
Y luego, por supuesto, será debatible.
Pero en este sentido, respecto a la investigación,
sí que creo que menos es más.
Por supuesto, está el aspecto del fraude que se puede hacer
con la inteligencia artificial.
Aquí tenemos un artículo de una revista en el que se explica
cómo había revisores de journals que usaban para el pre-review.
Entonces, lo que hacían era, bueno, los revisores no lo usaban,
lo usaban los autores.
Entonces, los autores incluían mensajes ocultos en el artículo
y cuando el artículo le llegaba a un revisor
y ese revisor lo usaba per revo, la inteligencia artificial
decía que el artículo era maravilloso,
pero en realidad el artículo era una báscula.
Pero como tenía ese artículo oculto,
un mensaje en el que se especificaban instrucciones
para que emitieran un juicio falso sobre el artículo,
pues el artículo pasaba.
Esto se ha dado en algunas autoridades que dan
recompensas a los revisores, revisar artículos.
Por ejemplo.
MDPI no te paga por revisar artículos,
pero sí te hace un descuento en el costo del open access.
Entonces, había revisores que usaban este sistema de ayudarse de la IA
para revisar artículos y, sabiendo eso,
ponían instrucciones en los artículos para saltarse el post review.
Y, por supuesto, tenemos 20.000 ejemplos y páginas web
y vídeos y de todo, de plataformas que nos ayudan,
entre comillas, nos ayudan, nos hacen los artículos.
Esto, evidentemente, es un caso de fraude a la investigación,
que actualmente las editoriales están desfasadas,
aparte por la denuncia de un modelo de publicación académica,
por esto.
Es como ha sido la cuenta que colma el vaso.
Y aquí, bueno, hasta ahora lo que he hecho
ha sido repasar un poco cuáles son los principales efectos
que tiene la inteligencia artificial
en algunas de las cuestiones fundamentales para la investigación.
Ahora me centro en cómo eso va a afectar,
cómo está afectando, mejor dicho,
al sistema de publicación en la academia.
Aquí tenemos,
antes de que la inteligencia artificial irrumpiera,
en que ya se veía.
Que hay una crisis en el mundo académico.
Este artículo de Chris Herr lo que hace es criticar
que muchas de las publicaciones que hay en el ámbito
de la sostenibilidad no son relevantes.
O bien hacen un Literature Review de un Literature Review,
o bien, que por cierto,
ya es muy difícil publicar un Literature Review,
porque, vamos, es que te lo han hecho de como 8 euros la IA,
o bien se centran en buscar.
Para temas o tendencias que ya existían,
pero los rebranding, que eso en el mundo de la sostenibilidad
se ve mucho.
Otra serie de críticas a la deriva.
De la publicación académica.
Ese artículo de hace dos años, aquí tenemos un más reciente,
en el que dice lo mismo sin ser tan cívico.
El artículo de Kirchner, por cierto, es muy bueno,
es muy divertido, os recomiendo que lo leáis.
El artículo también dice que.
Ahora mismo las editoriales están desbordadas,
todos tenemos que publicar, publicar, publicar para promocionar
y que esto está creciendo una altura al mundo de la investigación,
de modo que cada vez es más difícil
dar con un artículo que realmente es una contribución a la investigación.
Y, por supuesto, tiene también su efecto
en la parte del pre-review.
Las revistas cada vez tardan más en revisar artículos
porque reciben muchos, porque tienen el riesgo de uso
de la IAEA.
Indiscriminado de la IA, la IA se puede usar,
nosotros precisamente acabamos de publicar un artículo
en el que usamos la IA,
pero lo explicamos, cómo vamos a usarla,
en qué parte del procedimiento,
y por supuesto nunca para generar contenido de forma indiscriminada.
De nuevo, otro artículo, en este caso,
sobre la deriva que ha adoptado, bueno, cómo esa deriva que ha tenido
la investigación está impositivada por los intereses económicos.
Como la industria genera millones de euros de facturación,
aquí vemos, por ejemplo,
que el Sevier tiene un 40% de margen de beneficio
y que la matriz del Sevier ha facturado 3.600 millones
de euros en 2023.
¿Cómo?
Bueno, hasta ahora la IA
lo que ha hecho es exacerbar esta tendencia,
pero esto ya está sucediendo.
¿Qué es lo que ha ocurrido con la IA?
Pues con la IA
lo que tenemos es una amenaza al potencial creador del investigador,
en el sentido de que.
La IA puede, de hecho,
reducir el incentivo que tiene un investigador a pensar,
porque tiene una respuesta fácil.
¿Cuáles son los puntos débiles de mi artículo?
¿O junto con mis colegas y lo discuto?
¿O el pregunto de ella?
¿Por qué?
Preguntar a la IA, claro está.
Entonces la IA no solo te va a decir lo que tenga programado,
sino que en cierto modo, bueno, en cierto modo no, de hecho va
a reducir el incentivo que tienes para buscar soluciones
fuera de ella.
¿No?
La IVA
lo que hace es, en cierto modo, potenciar ese círculo vicioso
en el que se encontraba el mundo de la publicación académica,
el mundo de la investigación, y mercantilizarlo.
De una forma que también amenaza la producción científica.
Aquí vemos un lema de Scopus ahí, Think bigger, move faster,
act with confidence.
Esto parece que nos están viendo un coche, pero no,
pero es un asesor de academia con con inteligencia artificial,
básicamente, esta es mi opinión, la AIGA
potencia las debilidades que ya existían por sí en el mundo
de la publicación académica y traen, por supuesto, ventajas,
muchos retos, muchos retos.
Al final, este contexto de crisis,
yo creo que de crisis de la comunicación en la lengua,
potenciado por.
Lo importante es tener en cuenta que investigar requiere tiempo
y esfuerzo.
Y que la IA nos puede ayudar en algunas cuestiones,
pero al final.
Para hacer una contribución realmente científica,
una contribución, pues tendremos que gastar el tiempo,
si es que se pierde el tiempo investigando,
no lo sé, yo creo que no.
Tendremos que esforzarnos y pues algunos.
Pequeños y otros no tanto, pero en cualquier caso,
por lo menos en mi personal habremos salgado algo por el camino.
Y si a nivel profesional hemos hecho una contribución académica,
perfecto.
Quiero sustar.
Con toda esta reflexión,
porque en cierto modo es algo por lo que he pensado.
Al fin y al cabo estamos en una evolución
de conocimiento, en una etapa de evolución de conocimiento,
y hubo un sucedimiento similar hace dos mil y pico años
con los griegos, que había griegos, filósofos griegos, que eran ágrafos,
que escribían.
Que decían que escribir hacía sus alumnos vagos.
No es que ya lo tienen escrito, no tienen que memorizarlo.
Eso es, aparte, evidentemente,
pues los filósofos tenían su, al no escribir su obra,
pues tenían su copyright, ¿no?
Eso era solo suyo, no se lo podía robar a cualquier otra persona, ¿no?
Evidentemente, la memorización de la escritura, por supuesto,
se impuso finalmente.
De la escritura se pasó a la imprenta
y de la imprenta se pasó a computadores e internet.
Y ha llegado la inteligencia artificial
y lo ha machacado todo.
Y aquí creo que habría que reflexionar
en que este cambio podría adjudicarse como bueno o malo.
Bueno, en cualquier caso es un cambio que viene para quedarse.
Igual que vino la imprenta, igual que vinieron los miembros,
la cuestión es quizás cómo usamos a ese cambio.
¿Cómo nos adaptamos?
Nuestra forma de investigar, nuestra forma
de aprender va a cambiar.
Sabemos que hay unos límites,
pero también sabemos que hay unos ventajas.
Y a partir de ahí.
Pues cada uno tendrá que hacer su reflexión.
Esa es la mía.
Antes de terminar, sí que hago una breve mención
al resto de retos que plantea la inteligencia artificial.
Como son el acceso de las multinacionales
a nuestros datos privados, desinformación y manipulación,
consumo energético, sabemos que la IA
consume mucha electricidad, ciberseguridad, riesgos esenciales,
etc. Antes de pasar con las conclusiones,
sí que me gustaría hacer una reflexión
sobre el pensamiento crítico.
Y es que.
De polarización,
y estamos contradictorios porque si la universidad
tiene una función de análisis crítico y formar un pensamiento crítico,
y hay muchas universidades que nunca estemos viviendo
una época de polarización.
Ahí, como bien ha dicho César,
habría que replantearse cuál va a ser el papel de la universidad
y cuál va a ser el efecto que tiene la inteligencia artificial
en ese nuevo papel.
Y una para ir concluyendo.
Creo que son necesarios más estudios sobre los efectos
de la inteligencia artificial en la investigación.
Se ha centrado mucho en la parte de docencia,
en la parte de investigación.
Estamos un poco verdes.
Sí que creo, a pesar de todas estas amenazas
que he señalado, que la inteligencia artificial
en la investigación sí que puede ser muy útil
para empezar una investigación cuando no sabes.
Que hacer en primer lugar, y también para la difusión,
porque, al fin y al cabo, pues esto,
como la metodología, como los modelos,
todos son partes accesorias para generar conocimiento,
pero en ese sentido yo creo que la labor de difusión que facilite
la idea a través de los vídeos, de los podcasts, etc.,
puede ser muy útil para gente que no sabe comunicar,
por ejemplo.
Y para terminar, me gustaría lanzar una pregunta de reflexión
sobre si se pueden trazar paralelismos entre la situación
que hay actualmente con la integridad artificial
en la universidad y lo que ha pasado en los institutos
y en la educación primaria con las pantallas,
porque hubo un boom.
Hace unos años en el que se animaba a todos los institutos,
a todos los colegios a usar tecnología,
a usar pantallas, a usar tablets.
Esto es positivo para los alumnos.
Salvando evidentemente las distancias yo me pregunto
si ahora estamos en una época de boom,
de auge en la inteligencia artificial en la universidad
y si con el tiempo quizás llegaremos a una situación similar
en la que nos demos cuenta de que hay que usar la inteligencia artificial
sobre todo para los investigadores que está formado que ya sabe
cómo usarla, cómo no usarla soberano pero alguien que empieza.
De entrada quizás debería usarla con más coto.
Lo que hace es cambiar esa carrera
pero la carrera tenemos que hacer nosotros no hacerla ya
y con esto me termino gracias.
Pues nada, muchas gracias a los dos comunicadores,
excelentes comunicadores, aunque no se lo crean,
porque es una de nuestras funciones también como profesores,
saber comunicar y hacer reflexionar.
A mí la reflexión general que me sale de todo esto
es, uff, yo no sé si tengo edad para reconvertirme,
estamos en un proceso de reconversión profesional total.
En la parte investigadora, evidentemente, hay muchos retos,
lo señalaba, la parte de la gota que colma el vaso,
en un proceso acelerador de publicaciones excesivas
que poca gente del mundo real luego quizás es capaz de leer.
En la parte docente,
todos los retos que supone enfrentarse a esta nueva forma
de enseñar.
Por tanto, no sé si ahora ya estoy más pesimista que optimista
en esta primera pregunta que nos hacía.