Pasamos a la siguiente intervención de del aula, Herrerías Castro.
La presentamos Laura está en su último año de doctorado
en el área de Derecho Civil.
En la Universidad Pompeu Fabra, como he comentado antes,
su tesis lleva por título la protección del derecho al honor,
en línea implicaciones de la inteligencia artificial
en la tutela y papel de las plataformas digitales.
La investigación del aula tiene como objetivo estudiar el alcance
de la responsabilidad civil de las plataformas,
en línea por alejar tasa por alojar contenidos difamatorios,
considerándolos,
avances en materia de inteligencia artificial.
Su trabajo aborda temas de gran relevancia
en nuestra sociedad digital actual,
donde la protección al honor y la gestión de contenidos
en línea son cada vez más críticos.
La presentación de la era hoy lleva por título,
en la moderación algorítmica de contenidos en redes sociales.
En cuando quieras empezar.
Lo pongo en un momentín pero.
En.
Bueno, me voy avanzando sin buenas tardes a todos y a todas.
Muchísimas gracias por tu presentación también aprovecho
para agradecer a la UNED y a los organizadores del congreso
que están aquí en primera y segunda fila,
a por contar conmigo como ponente por segundo año consecutivo,
después del éxito de Valencia del año pasado
y como bien ha indicado Carla.
Mi ponencia se titula.
La moderación al límite de contenidos en redes sociales,
y en estos iba a decir 12.
Bueno, quizás son 14 minutos.
Trataré de abordar la cuestión de cuál debe ser
el estándar de diligencia de vida de las plataformas digitales,
en concreto, de las redes sociales por alojar contenidos difamatorios,
y ahora creo que sí que necesito mi power point,
no existe.
Sí.
Bueno, puedo seguir avanzando y me centraré
aunque utiliza un título general me centraré en la protección de este
sí del derecho al honor,
porque la difamación es uno de los principales motivos
de denuncia de los usuarios en redes sociales.
Así lo muestra el último informe de transparencia de Instagram,
que corresponde al primer trimestre de 2024,
la difamación junto copió raíz del caso
Defex la primer motivo de la, según era la difamación.
Curiosamente también de acuerdo con el informe,
transparencia de Google, también de este primer trimestre
de 2024.
Bueno, un 98 por 100 de las denuncias que recibió Google Maps,
lo fue por difamación,
entiendo que es por las reseñas por restaurante, hoteles locales,
etcétera, también como indicaba Carla.
Este es el motivo digamos más práctico.
El otro motivo es porque mi tesis doctoral que ya estoy acabando
se centra en concreto la protección del derecho al honor,
si bien considero que algunas de las conclusiones que expondré
en estos minutos son extrapolables a la protección jurídica
de otros derechos fundamentales.
Bien, tan todas las plataformas digitales
tienen el deber de reaccionar frente a contenidos ilícitos en línea
cuando un usuario los notifica así lo establece con meridiana claridad
el artículo 16 del reglamento de servicios digitales,
que resulta ya plenamente aplicable desde febrero de este año
una transcripción literal en la pantalla.
El este reglamento no establece un plazo máximo de reacción depende
de la ilicitud del contenido.
Las plataformas suelen reaccionar más rápido
cuando el instituto es evidente en caso de terrorismo,
por ejemplo, pornografía infantil, sobre todo cuando hay licitud,
no es tan evidente como la difamación se suele tardar un poco más,
pero el tiempo medio de reacción suelen ser en torno a las 24 horas.
Así lo muestran los informes de transparencia
de las grandes flores sociales.
La pregunta es si junto con ese deber de reacción u obligación expost,
las plataformas,
también tienen el deber de prevenir proactivamente contenidos ilícitos,
es decir, si tienen una obligación exante,
y para ello resulta esencial emplear sistemas algorítmicos
de moderación de contenidos,
un equipo de moderación humano sería imposible que pudiera controlar
todos los contenidos que se publican en redes sociales por minuto
y decía.
Sistemas de moderación, algorítmicos capaces,
por un lado, de cotejar o comparar contenidos ilícitos
idénticos a otros que ya ha visto el sistema con anterioridad,
y también de predecir nuevos contenidos ilícitos
mediante el uso del massius.
Así pueden, en primer lugar,
explicar el el funcionamiento de estos sistemas de cotejo
comparación y cuáles son sus principales limitaciones,
y seguidamente me centraré en los sistemas de predicción,
que son los que propiamente utiliza la inteligencia artificial,
y también resaltaré cuáles son sus principales problemas
en cuanto a los sistemas de cotejo,
las técnicas más empleadas para identificar
contenidos difamatorios en línea son los filtros de palabra y el jardín,
los nitrosos de palabras.
Todo el mundo sabéis lo que son casi todas las bueno.
La mayoría de redes sociales
permiten a los usuarios confeccionar listas negras
de palabras o expresiones prohibidas también,
muchas de ellas cuentan con filtros propios de palabras,
que consideran ofensivas, si bien son opacos,
porque ninguna informa sobre qué considera ofensivo
y que no, cuando un usuario intenta publicar una palabra o expresión
que está prohibida.
La red social lo detecta automáticamente
y eliminar comentario o normalmente permite la publicación.
Pero oculta justo la exclusión prohibida,
el problema de estos sistemas de filtros, en primer lugar,
es la falta de exhaustividad, es decir,
es imposible confeccionar una lista con todas las palabras
o expresiones posibles que puedan ser difamatorias.
En segundo lugar es que son relativamente fáciles
de burlar;
por ejemplo, bueno, hoy seguro que lo hemos visto también en Twitter,
pues pone signos de puntuación, cambias, letras por número
de una e porque es un tres es el sistema no lo detecta
el tercer problema que bueno que está presente en absolutamente
todas las técnicas de moderación algorítmica de contenidos,
es que la tecnología no tiene en cuenta el contexto,
en este caso, en el caso de los filtros.
Una palabra malsonante puede ser,
pues si un insulto también puede ser una forma de comunicarse
entre personas que tienen confianza, pues bueno,
una forma de expresar de forma graciosa o incluso cariñosa,
y añade un ejemplo no encontrado ninguno reciente,
en España es desde Reino Unido
de 2019 que YouTube bloqueó la cuenta de varios youtubes famosos ingleses,
porque detectó que empleaban las las siglas cp
que el sistema asociaba conchabeo pornografía,
cuando en realidad era combato point,
porque estaban hablando de por qué me pongo.
En cuanto al jaa, sin que esto quizás suena nuevo,
es básicamente una clave anfa numérica única
que sirve para identificar un archivo digital,
una foto, por ejemplo, o un texto, un bm, una técnica,
dejar sin consta básicamente dos fases.
La primera es la generación de un jax y su posterior almacenamiento.
Por ejemplo, yo subo Umm, es Mm,
automáticamente se le asigna, agujas un Jack, por ejemplo.
Bueno, estos está clave,
que haya final no sé si se ve en la diapositiva,
y luego se jae se almacena una base de datos.
La segunda fase es la comparación, dejasen como los archivos idénticos,
tienen asociados el mismo jax.
Si posteriormente un usuario intenta República este meme difamatorio,
el sistema lo detecta y lo impide.
Problema de esta técnica,
aparte de que no tienen en cuenta tampoco el contexto,
Umm puede ser difamatorio o puedo publicar exactamente
el mismo con una intención simplemente informativa
o de denuncia.
Segundo problema.
La falta de robustez de estos sistemas implica
que al más mínimo cambio también un pixel en el formato de la imagen.
Si es un texto,
bueno, aquí tenéis el ejemplo que provee en vez de corrupto;
cambio género como corrupta;
pues tenéis un completamente diferente,
por lo tanto, solo cambiando y al género
el sistema no lo detectaría.
Esto en cuanto a los sistemas de cotejo o comparación,
paso ya los sistemas de predicción, como decía,
a diferencia de los sistemas de cotejo que comparan
contenidos difamatorios idénticos.
Los sistemas de predicción estiman la probabilidad
de que un contenido difamatorio nunca visto por el sistema
sea efectivamente difamatorio o no en los procesos
de aprendizaje automático.
Normalmente cabe diferenciar cuatro fases.
La primera recopilación
y clasificación de datos de entrenamiento; la segunda,
el procesamiento de los datos, la tercera, el entrenamiento,
el sistema y el cuarto la evaluación de dicho sistema.
En cuanto a la primera fase, para que un sistema sea capaz
de predecir la probabilidad de que un contenido sea difamatorio.
Primero se le tienen que suministrar múltiples ejemplos
de que es un contenido difamatorio.
Una vez recopilados cada ejemplos,
ha analizado por equipos normalmente de entre tres o cinco personas.
Siempre son equipos impares entenderá llegar a un acuerdo,
a un consenso, a una mayoría suficiente
de si este ejemplo es difamatorio, no para ello es esencial partir
de una definición clara de que es difamación clara y concisa,
problema que no tenemos una definición
pues conciencia de crítica;
moción ni siquiera es universal, y además,
cuando se parten de definiciones que tienen componentes subjetivos,
hay el riesgo de introducción involuntaria de sesgos por parte
de estos clasificadores
y la infrarrepresentación del lenguaje utilizado
por o en contra de determinados colectivos.
En cuanto al procesamiento de los datos, que es una fase muy técnica,
simplemente diré que consiste en preparar los datos
para su posterior representación computacional,
y aquí el principal problema es que se producen los sesgos
que vienen implícitos en los datos de entrenamiento.
Los sistemas algorítmicos,
como la mayoría de vosotros, sabréis, que pueden entrenar
por más supervisaba o no supervisada en ambos casos,
utilizan neuronales compuestos,
que son varias neuronas o nuevos compuestos
en múltiples capas.
Normalmente, una capa de entrada múltiples capas intermedias
de una capa de salida tenéis un ejemplo en la diapositiva.
Principal inconveniente es que estas redes neuronales
no proporcionan respuesta explicaciones de sus respuestas,
que eso se conoce como el problema de caja negra,
por lo que, aunque se conozcan las variables de entrada
es muy difícil, y a veces imposible
saber cómo el algoritmo interacciona con el entorno de aprendizaje
para alcanzar el resultado final ya lo último paso
antes de implementar un sistema de predicción es obviamente,
su evaluación.
Los sistemas de aprendizaje automático
se basan en métodos probabilísticos,
por lo tanto es imposible evitar el error.
La la tasa de error es más elevada cuando la ilicitud.
Depende de matices, idiomáticos o particularidades socioculturales
de cada territorio, y, hasta la fecha,
los sistemas automáticos de detección del lenguaje ofensivo,
más efectivos, alcanzan el 80 por 100 de precisión.
Esto implica que una década, 5, decisiones, es errónea.
En conclusión,
a pesar de los importantes avances en materia de inteligencia
artificial, estos sistemas algorítmicos de moderación
de contenidos siguen siendo incapaces de captar el contexto
de las publicaciones de los usuarios.
Por ello es esencial que en los casos de difamación,
la víctima, una vez presente,
y el contenido, lo notifique de forma precisa
y suficientemente fundamentada a la plataforma para que esta,
una vez reciban la notificación, evalúen la ilicitud y, en su caso,
actúe contra el contenido, eliminándolo o bloqueándola acceso.
Por el contrario, considero que las plataformas no deben impedir
proactivamente la publicación de contenidos difamatorios,
y ello por dos motivos.
En primer lugar,
creo que una obligación de ese tipo sería contraria al artículo
ocho del reglamento de servicios digitales,
que lo interpreta considerando 30 de este mismo reglamento.
Excluye la posibilidad de que las plataformas puedan
ser obligadas a realizar un control de monitorización general
de contenidos.
Tenéis el tenor literal del artículo también en la pantalla
y, en segundo lugar,
si no resultará de aplicación este artículo,
cosa que francamente creo que si una obligación de este tipo
sería contrario al principio de proporcionalidad,
tal y como ha sido interpretado por la jurisprudencia
del juez del Tribunal Europeo de Derechos Humanos
porque no se lograría un justo equilibrio
entre los derechos en conflictos,
que básicamente se derecho al honor, labor de la víctima,
el derecho a la libertad de expresión del resto de usuarios y el derecho
a la libertad de empresa de la plataforma;
y es que por un lado, el desarrollo de sistemas algorítmicos,
de moderación de contenidos, claro, y solo pueden hacer frente
las grandes plataformas como meta Google,
lo cual eso nos lleva a mercados aún más concentrados.
Por otro lado, la falta de precisión de estos sistemas algorítmicos
afecta significativamente a la libertad de expresión
de los usuarios.
Varios.
En resumen, solo si la tecnología
es lo suficientemente precisa a la hora
de detectar contenidos difamatorios con un índice de acierto comparable
al un equipo de moderadores humano, humanos,
cabría exigir a las plataformas la prevención proactiva
de ese tipo de contenidos.
Como ello a día de hoy no es así los sistemas algorítmicos
deberían utilizarse con un método de ayuda,
estos equipos de moderación que ellas lo utilizan como tal,
pero en ningún caso sustituir el juicio humano,
porque no están capacitados para ello,
y yo soy escéptica de si en un futuro lo podrán estar,
pero eso es una cuestión que queda abierta.
Entonces, gracias.
Muchas gracias, Laura.
Enhorabuena por tu ponencia siempre.
Ya recordaba que el año pasado había sido una muy buena ponencia
y que había aprendido con con contraposición,
y este año no ha sido menos.
Así que muchas gracias.