A continuación, te contamos con Borja Tsuara.
Borja Tsuara ha sido exdirector de Red.
es, es abogado, es profesor de la Complutense
y es una de las grandísimas eminencias
en cuanto a la regulación en el área digital.
Y nos va a hablar, pues.
Precisamente de estas cuestiones de la inteligencia artificial,
la propiedad intelectual y el método científico académico.
Nos va a hablar sobre los plagios, todo esto que estamos viendo.
Hablabas tú de cómo son entrenadas
estas inteligencias artificiales con pesca de arrastre,
por coches, Wikipedia, tesis doctorales,
sin mencionar fuentes.
Y esto en el entorno académico y en todos los entornos,
pues hay que devolver, hay que citar y nada más.
Muchísimas gracias, Borja.
Todo tuyo el micro.
Es que hemos cambiado, disculpad, en la cabina de control,
es que hemos cambiado el orden de los ponentes,
disculpad, no lo he avisado, que por motivos de agenda,
Borja, tiene que participar antes.
Eso es, muchísimas gracias.
Bueno, y muchísimas gracias a todo el equipo que hace posible este evento.
Gracias, Borja.
No tengo micrófono, lo haré desde aquí.
Si quieres un micro, te lo pedimos.
Y si no, un micro de mano.
Ah, pues un micro de mano.
Un micro de mano, puede ser.
Espera, espera, ya te lo sacan, Borja.
Perdona, disculpa.
Bueno, si este me vale, ¿eh?
Ya es profesional del stage de los escenarios
si es que es profesional de los escenarios
una rockstar bueno,
pues muchísimas gracias y sobre todo mil perdones
porque tengo una reunión a las 12 y si no, no llego así
que gracias al que y perdón al que me he colado en la cola.
Cuando Cristina me dijo de qué se trataba,
la verdad que me encantó porque yo, aparte de hacer derecho,
soy de filosofía del derecho.
De hecho, iba a hacer filosofía en la Complutense
y en el último momento me pasé a derecho, que tenía más salidas,
y acabé haciendo el doctorado en filosofía del derecho
porque los filósofos no podemos evitar hacer filosofía
de cualquier cosa.
Y luego me he dedicado a todo el derecho digital.
Empecé por temas de propiedad intelectual,
precisamente.
Y uno de los temas que a mí más me preocupa últimamente con los TFGs
y los TFMs y tal,
es el uso de mis alumnos de la inteligencia artificial.
Entonces, le he dado un par de vueltas
y voy a hacer una presentación muy breve
y, porque se trata de decir 15 minutos, 20 minutos como mucho,
y sobre todo voy a intentar muy práctica,
no voy a ser muy académico.
¿Qué tiene que ver la inteligencia artificial
con la propiedad intelectual?
Algunas cosas se han dicho ya.
Con el método científico y académico al mismo tiempo,
porque yo creo que es en donde debemos insistir a nuestros alumnos.
Y ahora cuando he presentado y tutorizado algunos TFGs,
era en lo que más insistía a mis alumnos,
porque es que se veía la legua que habían usado ChatGPT.
Y yo digo, pues yo no voy a presentar eso.
Vamos a ir al.
¿De qué se trata un TFG?
Bueno, y luego especialmente a dos conceptos
que se usan coloquialmente,
pero tienen un sentido técnico jurídico,
que es el de cita y plagio, que es al que yo me voy a referir.
Bueno, pues para empezar, según la Wikipedia,
la epistemología es,
y lo voy a relacionar a la inteligencia artificial,
de episteme y de logos, eso ya lo sabemos,
la rama de la filosofía que estudia el conocimiento,
Y algunas de las preguntas que pretende responder
y ahora apliquémoslo a la inteligencia artificial.
¿Cómo conocemos?
¿Cuáles son las fuentes de conocimiento?
¿Cómo diferenciamos lo verdadero y lo falso
en la inteligencia artificial generativa?
¿Cuáles son los tipos de conocimientos?
Bueno, pues todo lo que son las preguntas típicas
de la epistemología,
que yo la verdad que cuando estudiaba lo llamamos no seología,
pero algunos dicen que son distintos,
otros que son sinónimos.
Responder a esas preguntas típicas de la epistemología en los tiempos
de la inteligencia artificial.
El objetivo, yo voy a ceñirme a lo que me dijo Cristina,
pues que cómo está impactando la inteligencia artificial,
en cómo adquirimos, transmitimos y evaluamos el conocimiento
y los retos, yo siempre que se dice retos es por no decir riesgos,
pero los retos o riesgos asociados a su uso
en el ámbito de la educación.
Estamos en la Facultad de Educación
y luego esto es lo que se va a hacer,
es la introducción del seminario de hoy.
Bueno, Yo voy a hablar de cinco cosas.
¿Qué es inteligencia?
Antes de hablar de qué es inteligencia artificial.
¿Qué es propiedad intelectual?
Intelectual, que tiene que ver con inteligencia.
¿Qué es la inteligencia artificial?
Generativa.
¿Qué son las citas y el plagio?
Y, como conclusiones,
eso cómo repercute en el método científico o académico en los tiempos
de la inteligencia artificial.
En inteligencia hay una etimología que a mí me encanta,
que supongo que más de uno la habrá hecho,
Que inteligencia viene del latín, inteligentia, del participio activo,
intelligence, el que entiende, del verbo intelligere,
comprender, entender, que viene de inter y legere.
Legere es coger, escoger.
Inter es escoger entre.
Entre qué, entre varias opciones, la mejor,
porque eso es lo inteligente.
Escoger la peor no es muy inteligente.
Entonces, escoger entre varias opciones
la mejor es lo que llamamos ser inteligente.
El que ha llevado una vida
y cada vez que había una disyuntiva ha escogido la mejor opción,
decimos que es una persona inteligente,
que toma buenas decisiones.
Y de ahí vienen unos derivados de Legere como elegir,
coleccionar o recolectar.
¿Por qué?
Porque como todas las palabras,
que a mí me encantan las etimologías,
porque es como hacer arqueología como Indiana Jones,
pero sin mancharte.
Y entonces vas a la sociedad primitiva
y el origen de Legere es de la sociedad primitiva,
del neolítico, la agricultura, que era recolectar,
pues era ir recogiendo.
Cuando ya había sembrado,
pues recorriendo los surcos y escogiendo el fruto maduro,
el que no estaba verde y el que no estaba podrido.
Luego, entre las varias opciones, aquí es un cereal,
pero imaginaos la uva o cualquier fruta,
pues entonces se desechaba el fruto que estaba verde
o el que estaba ya podrido y se recogía el fruto,
se escogía y recolectaba el fruto que estaba maduro,
que estaba en mejores condiciones.
Bueno, pues,
¿dónde nació la agricultura?
En Mesopotamia, entre el Tigris y el Éufrates,
que es donde también nació la escritura.
¿Por qué nació la escritura donde nació la agricultura?
Porque tenían que empezar a contar lo que recolectaban.
¿Y cómo lo empezaron a apuntar?
Pues simulando unos surcos como la agricultura.
Y de la escritura, después de escribir, ¿qué se hace?
Leer.
Y la segunda etimología de inteligencia es de inter
y de lego,
es decir, expresar, viene léxico, dislexia, ecléctico,
y de legere, lector, lectura, leyenda, legión,
y luego en derecho, la ley,
porque era lo que se leía.
Legítimo, legal, leal, sacrilegio, sortilegio, dirigencia, negligencia,
y la que más me gusta a mí, interlegere, es leer entre líneas.
Y leer entre líneas no lo hace la máquina,
lo hacemos nosotros.
¿Y por qué se pasó de la agricultura, la recolección,
a la lectura?
Porque cuando nosotros leemos, recorremos con la vista.
La línea, que es el surco, y en una lectura comprensiva
obtenemos el fruto de lo que está escrito.
Es como la recolección en la agricultura.
Bueno, ¿qué es la propiedad intelectual?
Pues la propiedad intelectual, la ley de propiedad intelectual,
tiene dos artículos muy importantes.
Uno, que el hecho generador de la propiedad intelectual
es una obra literaria, artística o científica
que corresponde al autor por el solo hecho de su creación.
Y la palabra creación es muy importante,
porque en la inteligencia artificial
no hablamos de inteligencia artificial creativa,
sino generativa.
Y no es lo mismo crear que generar.
Y el segundo.
Las obras y títulos originales
es el objeto de la propiedad intelectual,
son objeto de propiedad intelectual todas las creaciones originales.
Si no es original,
tampoco está sujeto o protegido por la propiedad intelectual.
Literarias, artísticas, científicas, expresadas por cualquier medio
o soporte, tangible o intangible,
actualmente conocido o que se invente en el futuro.
Pero yo añado una cosa.
Aunque por economía del lenguaje hablamos de obras protegidas,
no es verdad, no se protegen las obras.
¿Qué se protege?
El esfuerzo del autor.
Y hay una metáfora que se habla de,
cuando se habla de la autoría de la obra,
se habla de la paternidad de la obra.
Y no es la paternidad, es la maternidad.
Porque las obras se conciben, se gestan y se dan a luz.
Con el esfuerzo de una madre, no de un padre.
Que un día se esforzó
y ya lo dejó todo el resto del trabajo a la madre.
Luego, todos los que hemos hecho un trabajo sabemos el trabajo,
el esfuerzo que cuesta creativo, que es como el procreativo,
pero de la madre.
En concebir una idea, en gestarla y darle vueltas y al final parirlas.
De hecho, en latín, editar significa parir.
Para los editores,
que realmente el primer editor era el autor,
luego se profesionalizó.
Pero para mí ya un editor viene a ser más bien una comadrona.
Bueno, pues insisto, lo que se protege no es la obra,
es el sudor del autor.
De hecho, se llamaba el sueldo del autor por el sudor que había puesto
en crear.
La inteligencia artificial.
En el reglamento de inteligencia artificial simplemente hay
un artículo muy pobre que se refiere a las obligaciones de transparencia
de los proveedores y responsables del despliegue de determinados sistemas
de inteligencia artificial.
El término responsable del despliegue, que es
un lenguaje jurídico muy poco claro, es usuarios.
Le cambiaron a mitad del reglamento de la tramitación,
le llamaban por responsables del despliegue.
Y entonces, es un artículo muy pobre que simplemente habla
de la obligación de transparencia, de decir cuándo una obra
se ha generado con inteligencia artificial,
pero habla de los sistemas de inteligencia artificial,
entre los que se incluyen sistemas de uso general,
antes llamados sistemas fundacionales,
pero ahora se le llama de uso general,
y que generen contenido sintético de audio, imagen, vídeo o texto.
Y esa es la que llamamos la inteligencia artificial
generativa.
Y luego habla de los sistemas de inteligencia artificial
que generen o manipulen noticias, las fake news,
o imágenes o contenidos de audio o vídeo.
Y le llama ultrasuplantación en la traducción al español,
que me parece horrible la traducción.
Porque es verdad que las deepfakes
se utilizan para suplantar la identidad de alguien,
pero no es solo para suplantarla.
Es cualquier manipulación de una imagen o de un audio,
etcétera, ¿no?
Bueno, y aquí os pongo esta imagen que diréis,
¿poco tiene que ver con la inteligencia artificial?
Pues yo creo que tiene que ver mucho,
porque es como una churrera.
La inteligencia artificial hace churros
y entonces no están los churros protegidos
por propiedad intelectual.
Sí están protegidos por propiedad, porque son propiedad del churrero
y por eso los puede vender.
O sea que no quiero decir que no esté nada protegido,
pero como hemos dicho que lo que se protege
es el sudor del autor, de la madre, del niño,
pues entonces si es darle a una tecla o a la rueda para hacer churros,
eso no se protege por propiedad intelectual.
Se pongan como se pongan.
Si es un artista, como el músico,
que utiliza la inteligencia artificial como una herramienta más,
como los dibujantes cuando hacen animación
con ordenadores, pero hay una intención artística,
hay una interacción entre el artista
y la máquina hasta que consigue la idea que tiene en la cabeza,
ahí sí hay una obra de creación.
Y eso sí que hay que protegerlo.
Es más, muchos artistas dicen que les hubiera costado menos
hacer una obra determinada por el modo antiguo
que pasándose toda la tarde interactuando con la inteligencia
artificial hasta que le daban el resultado que querían obtener.
Entonces, si hay una intención artística
y hay una interacción, y eso se ve con los prompts,
con las indicaciones que le damos, eso sí es protegible.
Si es darle a una tecla, eso no es protegible.
Vamos, no es protegible con propiedad intelectual,
será protegible como los churros.
Bueno, ¿qué son las citas?
Pues las citas, según el artículo 32,
es la inclusión en una obra propia de fragmentos de obras ajenas
de naturaleza escrita, sonora, audiovisual
o, en el caso de que sean de carácter plástico,
fotógrafo, que nunca he entendido por qué dice fotográfico figurativo.
Pero bueno, de carácter plástico o fotográfico,
cuando son obras aisladas,
no vas a poner solo un fragmento de una fotografía.
Entonces, en el caso de las obras plásticas o visuales,
es una obra aislada, no todo el catálogo de ese autor.
Y en el caso de obras, sobre todo literarias,
pues son citas de fragmentos.
No es fusilar todo un artículo, porque eso no es una cita, ¿no?
Y es muy importante, dice, que se trate de obras ya divulgadas
y que su inclusión se realice a título de cita
o para su análisis, comentario o juicio crítico.
Eso de a título de cita, eso de definir qué es una cita
y poner también el término en la definición es un poco raro.
Pero bueno,
normalmente ¿para qué se cita algo?
Tú incluyes un fragmento de obra de otro autor para comentarlo,
para ilustrar lo que estás diciendo, etc. O un juicio crítico.
Y luego tal utilización solo puede realizarse con fines docentes
o de investigación,
en la medida justificada por el fin de esa incorporación,
e indicando la fuente y el nombre del autor de la obra utilizada.
Y aquí está el medio de la cuestión, que nadie hace bien,
por lo menos mis alumnos.
¿Por qué?
Porque una cita es como los first dates.
Tú quedas con una chica, con un chico, lo que sea,
y tienes que decir en qué lugar y a qué hora.
Pues tú te encuentras con un autor al citarle diciendo
en qué obra y en qué página,
para poder ir a comprobar que es así y que no te lo has inventado,
como hace la inteligencia artificial,
que no solo se inventa en conversaciones,
sino por ejemplo ya ha habido multas,
vamos, sanciones de tribunales,
abogados que han usado la inteligencia artificial,
que se ha inventado jurisprudencia que no existía.
O sea, que estamos en un tema muy grave.
Con lo cual, yo le digo a mis alumnos,
como no me pongas, que no me lo ponen,
las citas entrecomilladas y abajo en la nota pie de página,
¿de dónde lo ha sacado el autor, la obra,
incluso la página?
Para ir a verlo.
Yo me tiré toda mi tesis doctoral corrigiendo citas,
porque eran refritos de refritos.
Nadie iba a la fuente primaria.
Entonces tenía toda una lista de todos los errores,
como el teléfono escacharrao,
que como nadie se va a la fuente primaria,
pues se van repitiendo, incluso añadiendo nuevos errores.
Bueno, plagio.
Esto no sé si lo conocéis, pero lo inventó un español.
Marco Valerio Marcial, que era un hispano, no un español,
un hispano de Bilbilis, al lado de Calatayud,
donde en uno de sus epigramas hay varios que se refieren al plagio,
pero dice, mis versos son míos, defiéndelos.
Y le dice a un amigo suyo,
te encomiendo quinceano mis libritos,
si es que puedo llamar míos a los que recita un poeta amigo tuyo.
Si ellos se quejan de su gravosa esclavitud,
acude en su ayuda y ponte a su entera disposición.
Y cuando él se proclame su dueño, di que son míos
y que han sido manumitidos.
Si lo dices bien fuerte tres o cuatro veces,
harás que le dé vergüenza al plagiario.
Y es la primera vez que se utiliza el concepto de plagio
y de plagiario a las obras intelectuales,
porque en derecho romano el plagiario era el secuestrador de esclavos
a los que sus dueños le habían dado la libertad,
los había manumitido.
Con lo cual decía, mis versos son como mis esclavos
a los que yo les he dado la libertad,
y este amigo tuyo los ha esclavizado haciendo pasar por suyos.
Ese es el concepto de plagio.
De hecho, en Colombia,
que es uno de los lugares donde pervive el castellano antiguo,
en el Código Penal el delito de plagio
es el delito de secuestro.
O sea que sigue perviviendo el mismo sentido físico
del derecho romano.
Conclusiones, y con esto ya termino.
Primero, el método científico-académico,
que responde a la pregunta que veíamos,
cómo impacta la inteligencia artificial
en cómo transmitimos y evaluamos conocimientos,
especialmente en el ámbito de la educación
y en el campo de las humanidades.
Pues digo que el método científico
se basa en partir de las fuentes y autores anteriores,
para a partir de ahí dar un paso.
Y eso es la famosa frase que atribuían a Newton,
que ya os digo yo que no es de Newton,
sino de Bernardo de Chartres del siglo XII,
somos como enanos a hombros de gigantes.
No podemos avanzar en el método científico y académico simplemente
porque somos geniales
y no nos apoyamos en lo que alguien ha dicho antes.
Y si nos apoyamos hay que entrecomillarlo y citarlo
a pie de página.
Por eso es imprescindible identificar las fuentes verdaderas y fiables
y citarlas con rigor.
Si no, se está asumiendo que el texto generado
por la inteligencia artificial generativa es del autor del trabajo,
que es lo que le digo a mis alumnos.
Si no pones, entre comillas,
estás diciendo que todo eso es tuyo y no es verdad,
porque tú eres un chico de cuarto curso
y no puedes saber eso.
Luego yo al segundo párrafo ya sé que no lo has escrito tú.
Pero si no pones comillas,
estás atribuyéndote lo que ha dicho la inteligencia artificial,
que está basado a su vez en muchos autores,
pero sin identificar las fuentes.
Luego, todo tu TFG es un plagio.
Y encima, sin citar las fuentes.
No hay que admitir trabajos sin citas entrecomilladas en el texto y notas
a pie de página y sobre todo, que es un tema en el que caen mis alumnos,
no basta una lista de bibliografía al final que se puede copiar
y pegar de otros trabajos, que es lo que hacen todos.
Nadie ha visto esa bibliografía, pero la han cogido y lo han cortado
y pegado.
Cuando la lista final de bibliografía tiene que ser el resumen
de todas las que has citado a nota de pie de página,
porque si no, ¿de dónde ha salido?
Y yo he hecho, he obligado a rehacer todo un TFG porque me ponía solo
la biografía al final y no me ponía una sola nota a pie de página.
Luego es trampa.
Y retos o riesgos del uso de la inteligencia artificial,
retos asociados al uso de la inteligencia artificial
generativa en la educación, riesgos que hay que intentar evitar,
no el uso en sí, porque yo les recomiendo
a mis alumnos no que usen una,
que usen al menos tres.
Con una se quedan cortos.
Dice, es inevitable el uso de la inteligencia artificial
generativa en la educación, tanto para alumnos,
pero también para los profesores e investigadores.
El principal reto es evitar el riesgo del conocimiento fake,
porque ya no están solo las fake news y las deep fakes.
El problema, y había un chiste de Mafalda
muy bueno donde dice Manolito, ¿os imagináis que un día
la maestra hace huelga y nos enseña todo mal?
Pues la inteligencia artificial ya nos está enseñando cosas mal.
Y hay gente que solo lo cree porque es verosímil.
Es que miente con gran desparpajo.
Y está basado en alucinaciones con que encima
se van retroalimentando unas inteligencias artificiales
que se entrenan con las mentiras de otras inteligencias artificiales.
Y dice, hay que evitar limitarse al conocimiento más probable,
que esto es lo que hace la inteligencia artificial,
es una calculadora,
y te dice cuál es la respuesta más probable.
¿Por qué?
Porque te limita.
Sino al final por un lado
queda fuera el pensamiento más divergente disidente original
que no es la respuesta más frecuente ni más probable
pero sobre todo que ya te lo dicen está capada la inteligencia
artificial generativa hay temas de los que no puedes preguntar
porque no te va a contestar eso es censura y no podemos someternos
simplemente a la inteligencia artificial.
Y que encima se limita a ir a lo seguro, a las más frecuentes,
y cuando no hay, se lo inventa.
Con lo cual, esto es un misil en la línea de flotación
del conocimiento humano,
tal como lo conocemos desde los presocráticos hasta ahora.
¿Cuál es el peor enemigo y el mayor riesgo
que tenemos en el uso de la inteligencia artificial?
La pereza.
La que tienen mis alumnos
y la que tienen muchos profesionales.
Y es el mayor riesgo
porque no solo va a ir en perjuicio del conocimiento,
sino que si porque somos muy perezosos
le decimos a la inteligencia artificial que haga nuestro trabajo,
estamos muertos.
Somos prescindibles.
Gracias.
Muchísimas gracias, Borja.
Como siempre, como el resto de ponentes,
yo estoy aprendiendo.
Ahora entendéis por qué he montado todo este evento,
para aprender.
Porque hay que tener gente brillante a tu lado siempre para aprender.
Es increíble cómo ha abordado la cuestión de plagio,
la cuestión de las citas, sobre todo porque somos, a mí cuando hablan
de inteligencia artificial generativa, el conocimiento,
ya existía el rincón del vago y copiábamos Wikipedia.
Yo he sido profesora de secundaria de lengua y literatura,
incluso alguna alumna me ha copiado pega
sin quitar la foto de la Wikipedia,
digo, podías haber puesto un poquito de interés, ¿no?
O cambiar un poco la patata,
pues no sé, utilizar sinónimo como patata o tubérculo,
no sé, un poco de intención, ¿no?
Pero la pereza, por eso necesitamos luchar contra la pereza,
conocer mucho estas limitaciones, fomentar el espíritu crítico,
que también en las aulas y en todo momento.