Estupendo.
Bueno, pues vamos a comenzar con esta mesa de debate
que lleva por título
Comportamientos responsables, ciberseguridad y el uso de la IA
en el ecosistema digital.
Para ello tenemos a tres participantes
que voy a proceder a presentar.
Presentarlos.
En primer lugar, don Joaquín Sarrión Esteve,
que es profesor de la Facultad de Derecho de la UNED.
Joaquín, buenas tardes.
Buenas tardes, Miguel.
Gracias.
Muy bien.
También tenemos a don Valentín Martínez Zotero Pérez,
que es profesor de la Facultad de Educación de la
Universidad Complutense de Madrid.
¿Me oye, Valentín?
Sí, buenas tardes, muchas gracias.
Muy bien.
Y aquí a mi derecha tenemos a doña Karina de Fátima Rodríguez,
que es profesora del Instituto Politécnico de Braganza,
en Portugal.
Buenas tardes, buenas tardes.
Muy bien.
¿Tienes?
Ahora.
Sí.
¿Sí?
¿Conseguen oír?
Sí.
Bueno, pues vamos a comenzar con la primera de las preguntas
que lleva por título, a ver,
porque ya.
¿Qué comportamientos responsables deberían fomentar las instituciones
educativas y empresas para garantizar una navegación segura y ética
en el ecosistema digital?
Si me lo permite, vamos a comenzar con la opinión del profesor
Joaquín Sarrión.
Cuando quieras, Joaquín.
Muchas gracias, Miguel.
Bueno, en primer lugar, es un placer para mí estar
en estas jornadas
y agradezco muy encarecidamente la invitación por parte
de Cristina Sánchez y a ti por la moderación.
En cuanto a los comportamientos responsables, bueno,
yo creo que debemos ser conscientes.
De que es muy importante formar a las personas
y hacerles también conscientes de la importancia
de manejarse correctamente con las tecnologías,
con las innovaciones tecnológicas.
Y tanto a los estudiantes, en el caso de las instituciones educativas,
como a los propios empleados,
en el caso de las empresas o a los empleados públicos,
en el caso de las agencias públicas,
yo creo que es muy importante hacerles ver que, por un lado,
hay que tener un grado de confianza en los entornos digitales
muy similar al que hay que tener en los entornos físicos.
Lo que pasa es que.
En los entornos digitales se pueden enmascarar
muchas cosas de forma más fácil que en los entornos físicos,
pero no creo que haya más engaño en los entornos digitales
que los que nos podemos encontrar en otro tipo de entornos.
Entonces, no hay una mayor confianza,
pero tampoco una menor confianza en estos entornos.
Y por otro lado, yo creo que hay que ser consciente que.
Que en los sistemas, en los entornos digitales,
donde cada vez se están utilizando más sistemas de IA,
pues es verdad que a veces podemos no ser muy conscientes,
podemos no tener muy claro cuáles son los objetivos de estos sistemas de IA
y para qué quieren interactuar con nosotros.
Yo creo que sería importante que tuviéramos claro
que aunque la finalidad en principio de algunos sistemas puede ser fácil
de comprender, Lo que yo llamaría el camaramelo digital
puede tener detrás otras cosas.
A lo mejor se está buscando interactuar con nosotros
para conseguir información, para conseguir datos,
para entrenar al propio sistema o con otros fines.
Entonces, eso es una de las cuestiones que yo creo
que es más importante tener claro.
A veces, en la propia información
que facilitan los sistemas en los entornos digitales,
pueden decirnos para qué están buscando interactuar
con nosotros.
O incluso diversos fines, fines secundarios,
objetivos secundarios que pueden existir.
En otras ocasiones no nos lo dicen,
pero también es verdad que aunque lo digan,
si no leemos las condiciones,
pues no vamos a ser conscientes de ello,
con lo cual es muy importante leer esas condiciones antes de actuar
y ir no desconfiados, pero con la misma confianza
que actuaríamos en otros entornos, ¿no?
Porque a lo mejor a veces vamos mucho más de forma inocente,
en mi opinión, en los entornos digitales,
mucho más confiados
que cuando interactuamos con otras personas
en los entornos offline.
Eso sería mi primer apunte.
Muchas gracias.
Muy bien, muchas gracias, Joaquín.
A continuación.
Le pedimos su opinión al profesor Valentín Martínez Otero.
Profesor.
Sí, muchas gracias.
A ver si consigo verles, perdonen, porque se ha ido.
Pero ahora ya les tengo.
¿Qué comportamientos responsables deberían fomentar las instituciones
educativas y empresas para garantizar una navegación segura y ética
en el ecosistema digital?
Bueno, yo creo que realmente.
Lo fundamental es que haya, como tantas veces se ha dicho,
una alfabetización tecnológica con arreglo
a las circunstancias personales, por ejemplo,
la edad, las necesidades que haya de uso,
etc. Sabemos que efectivamente se incrementan los riesgos
cuanto menor es la persona, si se trata de niños,
pongamos por caso, también de personas mayores
que tienen probablemente un menor conocimiento tecnológico,
con carácter general, competencia,
y en este sentido los riesgos aumentan.
Sabemos también que aumentan los riesgos
cuando se utiliza, por ejemplo, Internet,
se navega en este ecosistema digital, pues de alguna manera
para entretenerse, y no tanto para trabajar.
Es fundamental, por tanto,
que haya una educación básica en ciberseguridad,
que los padres, los doctores, el profesorado,
pues de alguna manera brinden unas orientaciones adecuadas,
ya digo, en función del desarrollo, si pensamos en niños, etcétera.
Y un riesgo que se va extendiendo y aunque es variable
en los porcentajes que nos ofrecen los distintos estudios,
en cualquier caso es significativo, es el problema de la ciberadicción,
que es un verdadero problema de dependencia,
de servidumbre a la tecnología
y que de alguna manera hay que tener muy presente porque,
como digo, Los riesgos de enganche son muy nítidos,
sobre todo cuando se utiliza para relacionarse desde el punto de vista
de la sexualidad, por ejemplo, para el juego, etc. Mucho más
que se utiliza como una herramienta de trabajo escolar o laboral,
si pensamos en adultos.
Y bueno, en definitiva,
volviendo.
De nuevo a la pregunta, las instituciones,
sobre todo las escolares,
pues tienen que promover todo lo que es la prevención
de algunos de los riesgos como los que hemos señalado
y brindar unas orientaciones contextualizadas en función
de las características personales y de las propias instituciones.
Y las instituciones educativas, naturalmente,
no pueden prescindir de la colaboración significativa.
Con el entorno familiar.
Esto es indispensable para que se minimicen los problemas
y se maximice el uso responsable y acrecentador.
Muchas gracias.
Muy bien, muchas gracias Valentín.
A continuación, le vamos a dar la palabra a doña Karina.
Voy a compartir su presentación.
Muy bien, pues recogiendo un poco
las reflexiones de todos los que han participado,
pues evidentemente han destacado la importancia en formar
a las personas y en establecer esa relación de confianza.
De hecho, la navegación segura,
pues.
Se basa en esa confianza que se tiene en esos certificados digitales
que se utilizan para realizar este tipo de navegación.
Además, como Karin ha comentado, también es muy importante
la parte de sensibilizar a los estudiantes en ciberseguridad
y conocer los riesgos que entraña la navegación.
Visto esto, Listo esto, perdón, vamos a continuar
con la siguiente pregunta.
Es cómo podemos educar a los usuarios,
especialmente a los más jóvenes,
sobre la importancia de la ciberseguridad, ciberadiciones
y la protección de sus datos personales en un entorno digital
cada vez más complejo.
Para ello, en primer lugar, de nuevo,
le voy a dar la palabra al profesor Joaquín Sarrión.
Joaquín, cuando puedas.
Sí, muchas gracias.
Bueno, yo creo que está muy relacionada
con lo anterior y con las respuestas que hemos dado,
porque precisamente la educación es fundamental.
Hay que hacer comprender y hacer comprender.
Como has dicho a los estudiantes
y a las personas que se mueven en los entornos digitales,
yo creo, de la importancia que tienen los datos, ¿no?
A veces se habla hoy en día de las criptomonedas
como el oro del siglo XXI,
pero en realidad yo creo que el oro del siglo XXI
son nuestros propios datos y deberíamos ser conscientes
de la importancia que tiene nuestra información,
que tienen los datos que facilitamos o que incluso hacemos públicos
sin ser muy conscientes de ello, ¿no?
Los datos son muy importantes para el desarrollo
y la innovación de los productos y los servicios.
Tenemos que facilitar a veces información que puede ser importante
para el avance de la investigación científico-técnica,
eso es importante, pero a la vez tenemos que ser conscientes también
que nuestros datos valen mucho y no podemos ir regalándolos por ahí
para cualquier tipo de negocio.
Yo creo que eso tiene que estar en la formación
y en las habilidades, la alfabetización digital
que adquieran los estudiantes y los empleados de las empresas
y también de las administraciones públicas.
Tenemos que tener en cuenta,
sobre todo considerando los riesgos de ciberseguridad,
que no sabemos cuando interactuamos en el entorno digital con sistemas,
en particular con sistemas de IAO o con otro tipo de sistemas,
si han pasado todos los filtros y todo.
Todo el control de riesgos potenciales
que pueden tener esos sistemas cuando interactúan con nosotros
y recogen nuestros datos.
¿Qué se hace con esa información?
Si se anonimiza, si se odonimiza,
qué procedimientos ha seguido, qué control de riesgos ha seguido
o incluso si se ha sometido o no a un análisis de riesgos
desde el punto de vista de los derechos y libertades
de las personas o desde el punto de vista
de la protección de datos, ¿no?
La nueva normativa de inteligencia artificial europea no exige siempre
el análisis de riesgo para los derechos fundamentales,
sino solamente en sistemas de IA de alto riesgo
y cuando se utilizan con ciertos fines.
Pero yo creo que sería importante que estos análisis
se hagan con carácter general por parte de las empresas
y que todos adquiriéramos una formación adecuada
y la.
La ética de exigir que estos análisis de riesgos
se hayan realizado por parte de las empresas a la hora
de prestar servicios en los entornos digitales.
Creo que la Unión Europea está muy preocupada, precisamente,
en toda la cuestión de la estrategia de datos
y tenemos que ser conscientes de ello.
También sensibilizar sobre los riesgos
de las adicciones en los entornos digitales, que son muy importantes,
y, por tanto, sensibilizar a los estudiantes
y a los empleados públicos sobre estas cuestiones,
sobre todo cuando interactuamos con personas vulnerables,
grupos de riesgo y menores de edad.
Gracias.
Muy bien, muchas gracias Joaquín.
Tiene ahora la palabra el profesor Valentín Martínez.
Valentín, ¿me escucha?
Disculpe, que tenía silenciado el micrófono.
Muchas gracias.
Comparto lo que han dicho los compañeros y, de alguna manera,
pues creo que también me adelanté en la primera respuesta
o intervención a esta pregunta, ¿no?
En fechas recientes tuve conocimiento
de un concepto que de alguna manera se relaciona, me parece,
con lo que ha dicho el profesor Joaquín.
Es el de geomediatización.
Y, bueno, un poco subraya el concepto la interconexión,
la interrelación entre los espacios físicos y las tecnologías.
Unas tecnologías que, como he sabido, son omnipresentes
y también existentes.
Prácticamente a lo largo de toda la vida,
desde la temprana infancia.
Entonces, lo importante aquí es educar.
¿Cómo podemos educar?
Se trata de promover una educación actualizada,
que tenga en cuenta estas realidades
y, por supuesto, de alguna manera, como antes señalaba,
es fundamental utilizar Internet cuando proceda y, sobre todo,
para obtener información.
O como un instrumento a nuestro servicio formativo,
al servicio del menor.
Es decir, como una herramienta de trabajo escolar,
no tanto de entretenimiento, que es un uso muy extendido
y que acrecienta los riesgos del abuso y más allá, es decir,
de la adicción.
Por tanto, es fundamental potenciar esa actividad de los menores
y que busquen, que se les oriente para que busquen responsable.
Inteligentemente, información a través de internet,
etc. Limitar el tiempo de conexión.
En sí mismo, el estar mucho tiempo ya es algo negativo.
Por ejemplo, no es recomendable que se superen,
yo diría, dos horas y media o tres horas diarias de conexión.
Y ya digo, en gran medida tiene que ser para trabajar.
Y además es conveniente que haya unos descansos,
que haya.
Pues a lo mejor diez minutos de descanso cada hora,
que se fomente en las propias instituciones escolares
el trabajo compartido, el trabajo guiado por los profesores,
proteger a los escolares del material que puede ser especialmente nocivo
a través de filtros de seguridad, explicaciones también oportunas
sobre los daños que se derivan de determinadas páginas
y contenidos, analizar conjuntamente con los escolares
o con los hijos qué valores se funden a través de Internet
o, en su caso, antivalores o contravalores,
que se estimule la crítica, un uso crítico.
También es bueno
que haya un cierto control de dónde está ubicado el ordenador
o, por ejemplo, qué uso se hace del teléfono móvil.
Pues cuanto más se usa en soledad.
Más se acrecientan los riesgos
y, de alguna manera, también es importantísimo,
con carácter general, fortalecer, como antes también señalaba,
esa comunicación entre la familia y la escuela.
El diálogo tiene que ser frecuente en torno a estas cuestiones.
De otra manera, queda mucho más expuesto el menor a riesgos
derivados de esa navegación.
Gracias.
Un segundito,
porque vamos a compartir una presentación de Karina.
Sí.
Bien, bueno, pues comentando las diversas aportaciones
de nuestros ponentes, yo destacaría la importancia del dato.
Y el valor que tiene el dato personal muchas veces
se nos olvida que cuando subimos cierta información a internet
o compartimos algún tipo de imagen personal
pues en muchos de los casos está esta información
va a parar a una serie de servidores que pueden estar alojados en.
En algún sitio dentro de nuestro querido planeta,
con una legislación que no tiene por qué afectar o no ser exactamente
la misma que tenemos en nuestro país.
Entonces, y continuando un poco con lo que ha comentado Karina,
la importancia de la formación en ciber skills, ¿no?
Porque es importante que los jóvenes sepan cómo proteger su privacidad.
Bueno, a continuación vamos a pasar a la siguiente pregunta.
Muy bien.
A ver.
Es esta.
¿Cuáles son los principales riesgos asociados con el uso
de las tecnologías de la inteligencia artificial en plataformas digitales?
¿Y qué medidas de ciberseguridad son necesarias
para proteger a los usuarios?
Le doy la palabra de nuevo al profesor Joaquín Sarrión.
Muchas gracias, Miguel.
Bueno, yo me voy a fijar sobre todo más bien
en la primera parte de la pregunta,
donde he estudiado más y analizado más estas cuestiones,
que no la segunda parte, que dejo más a los compañeros.
Pero yo, en primer lugar, yo creo que los riesgos.
Más importantes o unos de los riesgos más principales en relación
con el uso de innovaciones tecnológicas,
incluyendo también sistemas de IA en los entornos digitales,
en las plataformas digitales, están asociados, evidentemente,
a lo que puede suponer la afectación de la dignidad de las personas,
cuando las personas interactuamos en esos entornos digitales,
en particular aquellas personas que forman parte de grupos vulnerables.
Pero en general,
tanto los derechos como las libertades de las personas.
Tenemos que considerar que los derechos de siempre
tienen una dimensión digital o tienen una dimensión
cuando nos movemos en los entornos digitales,
pero no dejan de existir esos derechos,
tanto la dignidad de la persona como la libertad de expresión,
la integridad física, la integridad moral,
etcétera.
Pero luego hay otros derechos que también pueden ser específicos
de los entornos digitales
y de los que tenemos que ser conscientes.
Entre ellos, por ejemplo, tiene más lejos el nuevo derecho
de desconexión digital, el derecho a descansar,
a no recibir correos fuera de los horarios laborales o educativos,
en función de las circunstancias de cada persona.
Y luego hay otros riesgos que yo creo que también son importantes,
en particular en materia digital.
En materia de ciberseguridad.
Debemos ser conscientes, en Europa en particular,
en la Unión Europea,
donde vivimos, que necesitamos construir
y consolidar una soberanía digital.
Y esto es importante porque tenemos que tener en cuenta
que además de los riesgos de hackeo por parte de piratas,
de hackers que pretenden simplemente obtener beneficios económicos,
tenemos posibles hackeos por parte también.
De estados que políticamente o incluso.
Que en el futuro militarmente pueden ser adversarios,
que no se nos escapan.
Y luego tenemos que tener en cuenta también
que es posible que en el futuro tengamos problemas
incluso con algunos de nuestros actuales aliados.
Si tenemos en cuenta las actuales políticas
de la nueva administración Trump
y todo lo que es la deregulación en materia de inteligencia artificial
que está aplicando, eso va a implicar una mayor innovación en sistemas
de IA en los entornos digitales en Estados Unidos,
nos va a ganar por ahí.
Pero en la Unión Europea
tenemos que mantener una cobertura de entornos seguros,
de entornos que centralicen todo en la protección de las personas
y tenemos que tener cuidado con esa desregulación que se va
a radicalizar en Estados Unidos.
Y luego tenemos
que tener también en cuenta que otro de los riesgos de ciberseguridad
es precisamente que nos basamos mucho en tecnología estadounidense
y que las nuevas políticas de la administración norteamericana
pueden suponer también ciertos riesgos
para las políticas de seguridad de la Unión Europea.
Apostar por una gran inversión, lo está haciendo en defensa,
y eso tiene que incluir ciberseguridad tanto
de los Estados miembros de la Unión Europea
como también de la propia Unión Europea,
sobre todo en lo que es el manejo de datos de carácter personal
y de información que puede ser importante de las personas
que viven en la Unión Europea.
Eso sería mi apunte.
Gracias.
Muy bien, muchas gracias, Joaquín.
A continuación, le doy la palabra al profesor Valentín Martínez.
No le escuchamos.
Valentín.
Disculpe, muchas gracias.
Decía que desde la perspectiva educativa es fundamental
adoptar una posición preventiva que informe a las personas,
singularmente a niños, adolescentes y a todos,
para hacer frente a estos desafíos que han señalado también
los dos intervinientes anteriores,
los dos profesores.
Desde luego es necesaria esa alfabetización digital,
incorporar en los programas educativos un uso responsable
de la inteligencia artificial.
El profesorado necesita más formación en este sentido.
Esta es, me parece, una realidad porque aunque haya profesores
muy preparados que tienen un dominio muy grande,
la mayoría no es así.
Y desde luego hay que subrayar cuanto tiene que ver con.
Con la privacidad,
que se ve amenazada,
la ética en su uso también por parte de nuestros alumnos,
igualmente universitarios.
Vemos que la inteligencia artificial
es una herramienta muy buena potencialmente,
pero muchas veces se usa de forma inadecuada,
quizá porque no se sepa, porque se abuse,
porque se use inadecuadamente.
Y desde luego un pensamiento crítico en relación
a todas estas tecnologías, de todas estas medidas legislativas
que se han comentado, pues también es importante
profundizar en los resultados que ya va arrojando el uso
de la inteligencia artificial, promover un uso,
además de ético, creativo, estimular soluciones personales,
pero también colectivas, institucionales, sociales,
Y en definitiva, pues fortalecer el uso
apropiado desde la temprana infancia con orientaciones
como las que venimos apuntando para que la interacción
con la inteligencia artificial sea todo lo informada,
segura y formativa que se pueda.
Muchas gracias.
Gracias, Valentín.
A continuación, le doy la palabra a la profesora
doña Karina de Fátima.
Sí.
Decir solo que concuerdo con mucho que fue dicho
por los colegas.
Tengo solo que decir, y esto
también está un poco relacionado con la cuestión.
Por otro lado, es tal vez nuestra salvación.
Muy bien, pues resumiendo un poco y yo lo que.
Saco de resumen de lo que han comentado nuestros ponentes,
es que en este nuevo mundo digital, por muy complejo
que sea y por muchas tecnologías que vayan apareciendo,
como la inteligencia artificial,
etc., es importante que tengamos siempre presente
que las personas no dejamos de tener derechos en este mundo digital.
Es decir, por muy complejo que sea,
las personas tenemos unos derechos y nuestros estados
tienen la obligación de salvaguardar estos derechos, por muy complejo
que sea este mundo digital presente o futuro.
Muy bien, pues vamos a continuar con la siguiente pregunta.
Que es cómo puede la inteligencia artificial
contribuir a mejorar la seguridad en línea detectando ciberadicciones,
amenazas o protegiendo la privacidad de los usuarios
sin invadir sus derechos.
Bueno, pues como siempre le doy la palabra en primer lugar
al profesor Joaquín Sarrión.
Muchas gracias, Miguel.
Bueno, ¿cómo puede la inteligencia artificial contribuir a la mejora
de la seguridad en línea?
Yo creo que de muchas maneras.
Una cosa que es muy importante es la investigación y la inversión
en el desarrollo de sistemas de IA aquí en Europa.
Como he dicho antes, Estados Unidos está apostando por la desregulación.
Hasta hace poco
estaba todo desregulado.
En cambio, nosotros nos hemos dado una nueva regulación
que es bastante estricta en algunos aspectos
y corremos el riesgo de quedarnos atrás.
Entonces es importante invertir en sistemas
y desarrollar sistemas de IA que mejoren la ciberseguridad
y ayuden precisamente a entornos digitales más seguros.
También es muy importante la convergencia tecnológica.
Antes se han apuntado y se ha hablado.
Los compañeros han hablado de muchos tipos
de diferentes innovaciones tecnológicas, ¿no?
La convergencia entre las diferentes tecnologías
yo creo que es muy importante y hay que apostar por ella.
Eso nos puede ayudar muchísimo porque los sistemas de IA
pueden ser capaces de identificar y controlar a otros sistemas de IA
que pueden suponer riesgos para la seguridad,
que pueden suponer riesgos para los derechos y libertades
de las personas, ¿no?
También es importante el uso adecuado de los sistemas de IA
a la hora de identificar adecuadamente a las personas físicas
con las que se interactúa en los entornos digitales.
Poder comprobar y verificar adecuadamente que las personas,
en su caso, son mayores de edad y no son menores de edad,
si están en entornos digitales donde es necesaria la mayoría de edad.
Por tanto, exigir una información adecuada
y ser capaces.
De verificar que efectivamente es así e incluso identificar a lo mejor
que la persona con la que se está interactuando,
que está teniendo acceso a esos sistemas,
es una persona vulnerable y no debería estar accediendo
a esos sistemas o, por ejemplo, es una persona
que tiene algún tipo de ciberadicción y, por tanto,
no debería estar interactuando con ese sistema.
Hay que invertir
y hay que desarrollar sistemas que garanticen estos controles
y serían medidas muy adecuadas.
Hay que avanzar en este sentido.
También otro elemento que yo creo que es muy importante
es que todos los sistemas que desarrollemos
y que implementemos,
aunque no los hayamos desarrollado nosotros, sean muy transparentes
en cuanto a la información y las condiciones de acceso y uso
a esos sistemas por parte de las personas físicas.
Que se informe siempre a las personas físicas
que están interactuando con un sistema de IA
y que no es una persona física con quien están interactuando.
Esto es muy importante y es clave.
Además, también hay que desarrollar mecanismos e instrumentos.
Pseudo-anonimización que garanticen adecuadamente
que usamos los datos de carácter personal lo esencial,
pero que si podemos, anonimizamos o pseudo-anonimizamos.
Y también respetar lo máximo posible el principio de minimización,
es decir, que usamos los datos de carácter personal
en los entornos digitales.
En lo estrictamente necesario, no recabamos más datos personales
de los que necesitamos para los servicios que prestamos
y cuando podemos, anonimizamos o pseudo-anonimizamos.
Esas son medidas que yo creo
que son claves para garantizar una adecuada seguridad
en los entornos digitales en línea y los sistemas de IA
pueden ayudar y mucho en esto.
Gracias.
Muchas gracias, Joaquín.
A continuación, tiene la palabra el profesor Valentín Martínez.
Sí, muchas gracias.
Bueno, yo creo que, sobre todo, se trata de promover esa formación
a la que nos hemos referido con anterioridad,
aparte de lo que han dicho, naturalmente,
los compañeros, formar a todo tipo de usuarios,
singularmente a niños, adolescentes, desde las instituciones educativas,
en un uso responsable de las herramientas digitales
y de la inteligencia artificial.
Todo pasa en gran medida por crear conciencia sobre los peligros,
pero también sobre las oportunidades que nos ofrece
esta inteligencia artificial y fomentar en definitiva
una ciudadanía mucho más consistente,
más crítica.
Y cohesionada en gran medida.
Por otro lado, la inteligencia artificial
es sabido que puede contribuir a la seguridad
en línea mediante la detección de conductas dañinas.
Esto pasa en gran medida por el trabajo de los programadores,
por exigir también a las empresas
y a los políticos que haya unas legislaciones apropiadas.
Detección de conductas dañinas, como digo,
para identificar, por ejemplo, discursos de odio, acosos,
desinformaciones que pueden tener un riesgo muy elevado para todos,
etc. Hay que acrecentar la protección de los sectores más vulnerables,
estamos pensando también en la infancia.
Identificar y prevenir específicamente casos
de explotación infantil a través de plataformas digitales.
Alertas tempranas y efectivas, fomentar, en una palabra,
los entornos seguros, con procesos de moderación,
pongamos por caso, en foros, en comunidades en línea,
sin perjuicio de todo lo que es la libertad que pueda
haber naturalmente, pero con objeto de asegurar
unas interacciones respetuosas y libres de contenido violento,
de contenido ofensivo y perjudicial.
Y también considero importante en esta línea preventiva
todo lo que tiene que ver con las estafas que pueda haber,
de manera que se puedan reconocer, identificar procesos
de manipulación, fraudes a través de las redes,
como engaños a través de la ingeniería y demás.
Todo esto también nos alerta de algo que se ha ido comentando.
Estamos en una sociedad crecientemente controlada,
vigilada, panóptica, se podría decir,
si ensanchamos el concepto
y de alguna manera la propia inteligencia artificial
y sus programaciones pueden promover un uso más seguro y respetuoso
de toda la navegación en este ecosistema digital.
Eso deseamos y, por supuesto,
la educación tiene que aportar su granito de arena significativo
en cualquier caso.
Muchas gracias.
Gracias, Valentín.
De cualquier forma, apuntaba solo también
para el hecho de ser muy importante en el caso de la educación
para la filtración de contenido nocivo
y eso es extremadamente importante.
Solo.
Muchas gracias.
Muy bien, pues, importante pues lo que han comentado
todos nuestros ponentes y.
Destacar, pues eso, la inversión,
que se haga esa inversión en IA, ¿no?
Que permita, pues, tener sistemas más seguros
y que garanticen unos mínimos controles, ¿no?
Para que sean capaces de detectar,
pues, estas ciberadicciones y estas amenazas a la población,
sobre todo, pues, a las partes más vulnerables de ella, ¿no?
Bueno, continuamos con.
La última de las preguntas.
En un mundo digital cada vez más interconectado,
¿cómo podemos garantizar la privacidad,
equidad y transparencia con el uso de la tecnología
y la inteligencia artificial?
Profesor Joaquín, cuando usted quiera.
Sí, muchas gracias.
Bueno, yo creo que.
Lo importante para desarrollar un marco ético adecuado
que pueda garantizar precisamente tanto la privacidad,
la equidad como la transparencia y en general
los principios que deben regir la tecnología y el mundo digital
que.
Es algo por construir.
Aún no hay un corpus totalmente desarrollado.
Hay muchas guías, muchas orientaciones,
muchos of-law sobre los entornos digitales y cómo gestionarse,
que precisamente llaman a los.
A la privacidad, a la transparencia, al respeto de la igualdad,
la equidad, etc. Pero no tenemos un corpus realmente construido
o desarrollado.
Yo creo que sería muy importante hacer eso,
desarrollar un auténtico corpus de principios que rijan
el entorno tecnológico y al que se adecúen todas las empresas
de los diferentes sectores, un único corpus a nivel global.
En esa línea puede ir el reciente convenio
que el Consejo de Europa.
Ha aprobado sobre derechos en materia de inteligencia
artificial, pero necesitamos un corpus de principios
que pueda seguirse a nivel global.
Creo que también, lo hemos comentado antes,
es muy importante que las empresas que desarrollen
y que utilicen servicios en los entornos digitales
sean muy transparentes a la hora de interactuar
en los entornos digitales.
En segundo lugar, es muy importante garantizar,
y a eso también pueden ayudar los sistemas de IA,
un trato equitativo, un trato igualitario a las personas,
teniendo en cuenta las medidas de especial protección
para las personas más vulnerables que podemos encontrarnos
en los entornos digitales.
Para eso se necesita una.
Una inversión importante por parte de las administraciones públicas,
porque no olvidemos que puede haber ciertos sectores
de la sociedad que no tienen el mismo acceso
a los entornos digitales que otros, tanto en función del rango de edad
como también en función de la procedencia social e incluso
de la procedencia territorial
y de las circunstancias del territorio del lugar.
Es importante también tener en cuenta para proteger la privacidad
y los derechos de las personas ese principio de minimización del uso
de los datos para aquello que son necesarios,
pero no de los datos personales para aquello
que no es necesario tener en cuenta y tener esto presente.
Y muy importante también realizar y desarrollar análisis de riesgo
desde el punto de vista de los derechos fundamentales
que tengan en cuenta la privacidad, que tengan en cuenta la equidad,
porque el nuevo reglamento de inteligencia artificial
solamente lo exige para sistemas
de alto riesgo que utilizan las administraciones públicas
o que utilizan empresas en sectores de.
Funciones públicas o en sectores muy concretos,
como puede ser el nivel de solvencia crediticia bancaria
o en temas de seguros de vida o seguros de salud.
Pero yo creo que en el resto de sectores,
aunque no se exija este informe de impacto en materia de derechos
fundamentales, debería ser una.
Deberíamos hacerlo por una cuestión ética,
realizar análisis de riesgo en materia de derechos fundamentales
de cualquier sistema de IA
que vayamos a implementar en los entornos digitales
y exigirlo.
Análisis
de riesgo que tengan en cuenta todos los derechos fundamentales,
pero en particular protección de datos de carácter personal,
privacidad, equidad, protección de grupos vulnerables.
E integrarlo todo con el informe de impacto
que exige el Reglamento General de Protección de Datos
en materia de protección de datos de carácter personal.
Solo así podríamos hacer un adecuado análisis de riesgos.
Eso desde la perspectiva de las empresas que vayan a poner
en el mercado o en servicios sistemas de IA.
Desde el punto de vista de quienes desarrollan estos sistemas,
ya no de los implementadores,
sino de quien va a desarrollar cualquier tipo de innovación
tecnológica o sistemas de ya en los entornos digitales,
yo creo que sería muy importante incorporar en los equipos a personas
de expertos en ética o personas expertas
en ética sobre esta materia.
Integrarlas desde el principio,
desde que alguien tiene una idea para desarrollar una tecnología
o una innovación o un software que pueda utilizar algoritmos,
incorporar a personas expertas en ética de la inteligencia artificial,
que pueden provenir del mundo de la filosofía,
que pueden provenir del mundo tecnológico
y que se han formado en cuestiones éticas o del mundo jurídico,
pero incorporar al menos a una persona
que sea experta.
En estas cuestiones yo creo que sería muy importante
hacer grupos y equipos multidisciplinares entre tecnólogos,
humanistas, ingenieros.
Yo creo que sería muy importante para desarrollar estas tecnologías.
Y desde el punto de vista de los usuarios,
yo creo que antes lo han apuntado muy bien los compañeros de mesa,
yo creo que es esencial la alfabetización digital,
de los entornos digitales y en estas tecnologías
y en los derechos que tenemos para exigirlos.
Eso es muy importante también
y debería estar e introducirse en las escuelas
una formación mínima sobre nuestros derechos
en los entornos digitales y lo que podemos exigir a la hora
de acceder a los servicios.
Muchas gracias.
Muchas gracias, Joaquín.
De nuevo tiene la palabra el profesor Valentín Martínez.
Bueno, muchas gracias.
Estoy de acuerdo con el compañero también y, por supuesto,
voy a resumir mi intervención en el hecho
de que son fundamentales los derechos,
pero también los deberes.
Tenemos que ser responsables en la utilización
que también realizamos de la inteligencia artificial
y, en realidad, de todas las tecnologías.
Todas estas reflexiones tal vez se podrían igualmente compendiar
en una formación.
Cívico-social.
Es fundamental incluir, como hemos dicho ya
en varias ocasiones, programas de alfabetización digital,
por supuesto, con un componente ético destacado,
donde se promueva el uso por parte del profesorado y también
del alumnado reflexivo y también con suficiente competencia
como para identificar sesgos.
Que pudiera ver en los contenidos,
sensibilizar a todos los sectores, especialmente a los jóvenes,
sobre el impacto que esta inteligencia artificial está teniendo
en su labor como estudiantes y en su vida cotidiana también,
más allá de los intereses comerciales evidentes,
promover en el marco de esa formación,
todo está interpretado, promover valores sociales,
Se trata de crear lo que se ha denominado,
por ejemplo, inteligencia artificial inclusiva,
que de algún modo tengan en cuenta también en su programación
las variaciones culturales y regionales
que pueda haber para fortalecer procesos de respeto
a la diversidad lingüística, cultural y, por supuesto, inclusivo.
Combatir la desinformación, a veces tremendamente dañina,
que pueda haber con herramientas que incorporen detección de noticias
y de contenidos falsos en redes sociales, etcétera.
Promover la participación comunitaria.
De alguna manera, esto puede ayudar también
a introducir programas de cooperación en ciertos sectores,
a dinamizar ciertas zonas deprimidas socioeconómicamente,
involucrar.
A los grupos humanos más vulnerables también
en el diseño de la inteligencia artificial,
por ejemplo, consultar a sectores como inmigrantes,
poblaciones que puedan verse en general
más discriminadas.
Esto cada vez está recibiendo más apoyo por parte
de algunos sectores de investigación de naturaleza social y pedagógica.
Y, de nuevo, una palabra clave que es la ética, por supuesto,
la ética tecnológica.
Aquí entran los derechos, entran los deberes,
organizar talleres, procesos formativos, teóricos,
para profesores, para profesores.
Alumnado, sobre dilemas éticos
que surgen en relación a la inteligencia artificial,
como por ejemplo el uso indebido de la misma,
en qué medidas se tienen en cuenta también en procesos académicos,
nosotros como profesorado, y incentivar también en línea
con lo que apuntaba el compañero Joaquín,
pues esas investigaciones interdisciplinares,
por supuesto donde el humanismo es fundamental y.
Puesto todo aquello que tiene que ver con un conocimiento tecnológico
avanzado.
Yo creo que de alguna manera estos serían algunos ejemplos,
algunas orientaciones sobre cómo la inteligencia artificial
puede integrarse de un modo más responsable en nuestra sociedad
totalmente tecnificada en aras del bienestar social y educativo.
Muchas gracias.
Gracias, Valentín.
De nuevo le doy la palabra a la profesora Karina.
Muchas gracias.
La importancia de la unidad a la hora de garantizar estos derechos.
Uno de los ponentes apuntaba a ese desarrollo
de un corpus de principios que pueda seguirse a nivel global,
aunque parece ser que los recientes acontecimientos
apuntan casi más bien a una divergencia.
También se ha apuntado esa necesidad de alfabetización digital,
y sobre todo en aquellos grupos humanos que son más vulnerables.
Y también, de alguna manera, habría que delimitar.
Pues cuál es la responsabilidad social de todas
estas nuevas tecnologías, ¿no?
Como la inteligencia artificial,
como bien ha apuntado nuestra ponente Karina,
pues tenemos claros ejemplos como la de los coches Tesla,
que con su capacidad de autoconducción, ¿no?
, pues.
¿Qué pasa?
¿Quién es el responsable final de todo esto?
Eso, evidentemente, supone un reto no solamente a nivel de ingeniería,
sino también, evidentemente, a nivel ético
e incluso legal.
Bueno, pues hasta aquí las preguntas.
Si me permiten, yo también voy a hablar de mi libro
y voy a aprovechar la ocasión para, dentro de este marco.
Informar un poco sobre un MOOC
que tenemos varios profesores de la Escuela de Informática,
donde está Antonio, Rafa Pastor,
sobre tecnología en inteligencia artificial para la ciberseguridad
e IoT.
Entonces, ahí, aunque viene en inglés,
pero también está la versión en castellano.
Y en la parte de abajo, pues tiene la URL.
De una forma muy comprensible,
para que aquel que esté interesado pueda acceder al curso
y realizarlo.
Pues nada, hasta aquí esta sesión.
Muchas gracias a todo el mundo por su atención.
En este momento ponemos fin a esta sesión.
Muchas gracias.
Muchas gracias a ustedes por la invitación.
A todos.
Hasta luego.