Un fenómeno que no es un absoluto nuevo,
pero que en los últimos años ha crecido bastante
y sobre todo se ha hecho más visible,
ya sea el poder amplificador que tienen las redes sociales
de todo lo que decimos las personas.
Bueno, quiero decir antes que nada que no soy un especialista
en este campo, simplemente me he encontrado con este problema,
con la cuestión del trabajo y otras inquietudes personales,
y que esta charla, por tanto, simplemente es una pequeña
introducción muy básica al discurso del odio que a lo mejor
anime a los alumnos del máster o a otros alumnos del máster
a personalizar más en este tema
que me parece bastante importante con los tiempos que corren.
Por otro lado, en esta charla
voy a utilizar ejemplos que contienen insultos y expresiones
que pueden ofender a muchas personas.
Naturalmente, no comparto con ese tipo de contenido,
que producen rechazo, pero quería advertirlo y creo
necesario reproducirlos sin modificar para el que están.
Bueno.
Como vemos, el lenguaje es un instrumento
o una facultad extraordinaria, maravillosa, increíble,
que tenemos los humanos para comunicarnos,
para representarnos en el mundo,
para adquirir conciencia de nosotros mismos.
El lenguaje tiene múltiples usos,
como ya puso el manifiesto de Arkhopsor,
conciencia expresiva, representativa, poética.
A partir de Austin también sabemos que con el ángel lenguaje
no solo podemos decir cosas, sino que podemos hacer cosas.
El lenguaje hace cosas.
Con el ángel lenguaje podemos hacer cosas maravillosas,
poemas, canciones, pero también podemos hacer cosas terribles.
El lenguaje también sirve para hacer daño a la gente,
para humillarlas, para herir.
Hay palabras que hieren, como dice el título
de uno de los primeros artículos que llaman la atención
sobre el discurso del odio.
Hay palabras que tienen el mismo efecto
que una bofetada, que una apuñalada o que un latigazo.
¿Cómo es esto posible?
Nos podemos preguntar.
Según Judith Butler, en su libro Lenguaje,
Poder e Identidad,
El lenguaje no podría herirnos si no fuéramos, en algún sentido,
seres lingüísticos.
Seres que necesitan del lenguaje para existir.
Nuestra vulnerabilidad respecto al lenguaje, dice Butler,
es una consecuencia de nuestra constitución lingüística.
Es decir,
de algún modo estamos hechos de palabras, de discursos,
entonces las palabras, del mismo modo,
pueden dañarnos o deshacernos.
Para introducir un poco un contexto histórico legal,
en los años 80, en el siglo pasado,
surge en Estados Unidos un movimiento académico
y legal iniciado por Richard Delgado y Marie Matsuda
para promover leyes que castiguen el discurso racista inicialmente,
que 100 años después de la punición de la esclavitud,
seguía existiendo en Estados Unidos y sigue existiendo en la actualidad,
obviamente.
La Declaración Universal de Derechos Humanos, del 48,
es, sin lugar a dudas, el fundamento último de toda la legislación que hay
sobre el discurso de odio, en la medida que establece
en el artículo 2 que todas las personas
tienen los mismos derechos y libertades,
independientemente de su raza, origen o sexo.
Posteriormente, una convención de la ONU,
en el año 65, anima a los Estados
a incorporar leyes que prohíban la incitación al odio.
Esa legislación no termina siendo la misma en todos los países.
Por ejemplo, en Estados Unidos la ley no contempla el discurso de odio
como tal, pero sí el delito de odio,
que no es lo mismo.
Los delitos de odio son delitos contra individuos
o grupos por motivos de raza, origen, religión, sexo,
orientación sexual, discapacidad, etc.
Pero no es un discurso, es un delito.
Recordemos que en Estados Unidos la libertad de expresión
está garantizada, como con todas las democracias,
pero tiene sus limitaciones, las amenazas,
la difamación, la obscenidad y la incitación inminente
a la violencia.
Por tanto, un discurso dirigido contra personas pertenecientes
a grupos legalmente protegidos sería condenable solo
si constituye una incitación inminente a la violencia,
la cual, podéis imaginar, no siempre es fácil de demostrar.
Bueno, a diferencia de la norteamericana,
la legislación europea sigue el concepto de discurso de odio.
El Consejo de Europa, en el 97,
define discurso de odio como todas las formas de expresión
que propaguen, inciten, promuevan o justifiquen
el odio racial, la xenofobia,
el antisemitismo y otras formas de odio.
Posteriormente, en el 2008, se añaden a esta definición
los motivos de raza, color, origen nacional,
étnico, edad, discapacidad, idioma, religión, creencia, sexo, género,
identidad de género, orientación sexual
y otras características.
Hay una diferencia importante entre la legislación americana
y la europea, y es que mientras que la norteamericana habla solo
de incitación a la violencia, en la europea
incluye otras actividades como propagar,
promover y justificar.
La legislación española,
a través del artículo 510 del Código Penal del 2016, castiga
a quienes públicamente fomenten, promuevan o inciten el odio,
que se parece bastante a la definición de la Unión Europea,
la hostilidad, discriminación o violencia contra personas
o grupos por motivos racistas, optimistas u otros referentes
a la ideología, ficción, creencias, etc. No solo eso,
sino que también quienes nieguen o trivialicen
o enaltercan los delitos de genocidio, de deshumanidad,
que tengan también motivaciones racistas, ideológicas, religiosas,
etc. Otros países europeos,
aunque carecen de una ley específica contra el discurso del odio,
tienen ese concepto en sus legislaciones,
prohibiendo la incitación del odio contra minorías raciales, etc.
Perfecto.
En general, lo que estas leyes sancionan,
o que sancionan más duramente, no es el discurso de odio en sí,
sino la posibilidad de que ese lenguaje
incite a cometer actos violentos que ya son delito,
contra determinados grupos sociales.
Esto es la clave.
Las definiciones académicas o convencionales del discurso de odio
son más genéricas que las legales.
¿Entienden?
Por discurso de odio
o simplemente cualquier forma de expresión injuriosa, denigrante,
que ataque a las personas por su identidad social.
Es importante este punto.
Cualquier forma de expresión.
El discurso de odio no tiene por qué ser una expresión lingüística,
puede ser una imagen, una canción, un meme,
pero también puede ser una acción.
Por ejemplo, quemar cruces en el jardín de tus vecinos
o colgar un muñeco en sable con la camiseta de un futbolista
también es un discurso de odio.
Por otro lado, el discurso de odio va dirigido a otras personas solo
por el hecho de pertenecer a un grupo social determinado,
típicamente un grupo subordinado, minoritario o marginal.
El discurso de odio va siempre contra los individuos,
no contra sus creencias ni contra sus instituciones.
Y va contra los individuos
por pertenecer a un grupo que está legalmente protegido.
En cualquier caso,
resulta obvio que el concepto de odio tiene fronteras difusas.
Llamar moro a un ciudadano marroquí es discurso de odio.
Llamar subnormal a una persona con síndrome de Down
es discurso de odio.
Decir que la homosexualidad tiene cura es discurso de odio.
Usar el género masculino para referirse
a una mujer transexual.
Decir que las feministas quieren someter a los hombres.
Sostener que hay un plan mundial para exterminar al hombre blanco.
Esto es discurso de odio.
En un intento de fijar las fronteras conceptuales,
algunos autores clasifican las posibles expresiones de odio
en tres grupos.
Expresiones de odio prototípicas,
expresiones que están en una zona gris
y expresiones que en absoluto deberían considerarse de odio.
El odio prototípico.
Bueno, aquí podrían figurar expresiones
como las siguientes.
Los autores de estas expresiones fueron condenados en España
por delito de odio en virtud del artículo 510 del Código Penal.
Algunos son penas de cárcel.
Delito de odio llega hasta dos años y medio.
Por lo cual, debería haber pocas dudas de que estas expresiones
son de la categoría de odio prototípico.
Son cuatro, no voy a leer.
Puto negro, puto moro, tu sitio no está en este país,
tu sitio es el jardín zoológico con tus compañeros.
Tres asesinadas por violencia de género machista
en lo que va de año.
Pocas me parecen con la de putas que hay sueltas.
Caza de moros en Irún.
Hay que salir a limpiar los barrios de ratas asquerosas.
La última, putas españolas, fueras de aquí, os vamos a matar,
putos españolas de mierda, perras españolas,
idos a vuestro país.
Esto, pido disculpas por estas expresiones,
creo que son buenos ejemplos para explicarlo.
Bueno, siempre parece que esas expresiones
encajan bien en la definición de odio prototípico
que hemos visto hasta ahora, luego sobre ellas.
Hay, sin embargo, infinidad de expresiones en las redes
y en el debate público
cuya clasificación como discurso de odio no está tan clara
y que se situarían en esta zona gris,
con expresiones de tipo para ser una persona de color
habla perfectamente o tengo amigo gitano.
La homosexualidad tiene pura un sólido sexo,
masculino y femenino.
Lo que resulta hiriente,
ese tipo de mensajes, no es tanto lo que se dice,
sino sus implicaturas.
Lo que se implícito a esto.
Ese tipo de expresiones
normalmente no son sancionadas por la ley,
independientemente de la función que le detengan.
Hay otro tipo de expresiones que claramente no son del curso de hoy.
Los insultos personales.
Que no tiene como base la pertenencia a un grupo,
no serían discursos de odio, serían injuria o difamación
en cualquier caso.
Y están sancionados por otro tipo de código.
Los ataques
a las creencias religiosas tampoco son discursos de odio.
Podrían ser delito de escarnia,
que también existe en nuestra legislación.
Las críticas a las instituciones y organizaciones
como partidos políticos o gobiernos,
por ejemplo, tampoco serían discursos de odio.
Por ejemplo, acusar de genocidio al gobierno de Israel
no es antisemitismo, como pretenden algunos.
Ligar a un gobierno no es discurso viable.
Sin embargo, sí que podría
ser lo la negación o trivialización de los crímenes de guerra o genocidio
que han cometido esos gobiernos.
Para limitar las fronteras entre lo que es discurso de odio
y lo que no, los juristas utilizan a menudo tres categorías distintas.
La intención, los efectos o el contenido.
Vamos a repasar.
Por lo general, se acepta que el discurso de odio
tiene que tener una intención de hacer daño.
Todo para ser sancionado legalmente.
Ahora bien, no siempre es fácil
determinar las intenciones de los individuos con los actos.
También por otro lado, como afirma Judith Butler en el citado libro,
hay que tener en cuenta que el habla está siempre
de algún modo fuera de control.
Y se apoya en Austin que a diferencia de que las acciones
y también los actos de habla pueden llevarse a cabo por coacción,
por accidente o por error.
Esta cita me gusta mucho.
El habla está siempre de algún modo fuera de control.
El hecho es que todos nosotros producimos discurso de odio
de forma involuntaria,
al fin y al cabo porque hemos heredado un idioma que está lleno
de palabras y expresiones hirientes.
En cuanto a los efectos, en su artículo de 1982,
Richard Delgado, que he mencionado antes,
recoge entre los siguientes efectos discurso de odio,
falta de autoestima, odio a sí mismo
y al grupo al que pertenecen, aislamiento, frustración,
derrotismo, problemas de identidad, estrés, hipersensibilidad y depresión
que pueden derivar en hipertensión, enfermedad mental,
alcoholismo, drogadicción, conductas antisociales
o incluso el suicidio.
Las palabras no solo hieren, sino que también pueden matar.
Hay que tener en cuenta que el discurso de odio va dirigido
contra la identidad social, no contra la identidad personal.
No es lo mismo para una persona de color
ser llamado negro que ser llamado estúpido.
En el primer caso.
Devoca siglos de colonialismo, esclavitud y tortura
y reaviva un trauma histórico y colectivo que ha ido pasando
de generación a generación como si fuera una historia familiar.
En cierto sentido, las palabras hieren porque reabren heridas.
La persona que sufre un ataque de odio
experimenta básicamente un trauma psíquico propiamente dicho
y pasa por las fases típicas de choque inicial,
negación de la realidad, culpabilidad,
pérdida de la confianza,
que normalmente se resuelve mediante una actitud
de hipervigilancia.
El hecho de que el discurso de odio
tenga un origen generalmente anónimo,
Vemos quién está atacando, no sabemos quiénes son los agresores.
Refuerza la hipervigilancia,
la cual es una de las causas de la fatiga cognitiva
y el agotamiento mental.
El discurso de odio tiene también efectos
en las interacciones sociales entre los grupos.
La respuesta más habitual al discurso de odio es el silencio,
el retraimiento y la evitación de los espacios públicos.
El discurso de odio,
que paradójicamente es un ejercicio de libertad de expresión,
limita la libertad de expresión del otro.
Tiene el efecto de silenciar
y expulsar al otro del espacio público.
Los destinatarios del odio raramente contestan al agresor
para evitar males mayores.
Y esto genera en los observadores la errónea percepción
de que no ha habido ningún ataque.
El discurso de odio, por lo tanto,
no solo tiene efectos en sus objetivos,
sino también en los observadores.
Los discursos de odio sirven para reforzar los prejuicios
de un grupo sobre otro.
En definitiva, el discurso de odio,
y en esto coinciden muchos autores, tiene una finalidad política.
Es perpetuar los privilegios de una raza, de un sexo,
de una clase social sobre otra.
Cuando una persona insulta a otra con una expresión racista,
sexista u homófoba,
lo que viene a decir es, tú eres menos que yo y, por lo tanto,
tienes que tener menos derechos, incluido el derecho
de estar aquí, que soy yo.
Definir el discurso de odio a partir de los efectos,
como he escrito anteriormente, es complicado,
si tenemos en cuenta que la reacción sexual hace silencio.
Por retraimiento.
No estoy aportando el contenido.
Detenir el odio a partir del contenido.
¿Es esto posible?
A ver, por supuesto hay un vocabulario específico de odio
que se repite sistemáticamente en cada una de sus modalidades
y que facilita mucho la detección del odio a partir del contenido.
Hay un vocabulario claramente racista,
hay un vocabulario homófobo, hay un vocabulario sexista.
El discurso de odio recurre a menudo a la metáfora para deshumanizar
y cosificar al otro.
Ratas, monos, cerdos, zorras, perras, parásitos, gusanos.
Pero también tenemos basura, mierda, escoria.
La deshumanización es la premisa necesaria
para justificar la violencia contra el otro.
Hay que tratarlos como bestias que son.
Y el caso extremo justifica su eliminación,
como si fueran una plaga.
Simplemente una porquería que hay que limpiar.
Limpiar.
Este verbo se repite mucho en el discurso de odio.
En cualquier caso, el discurso de odio
no solo puede expresarse mediante el vocabulario,
sino que hay otras estrategias.
En una publicación reciente, La gramática del odio,
se analizan estrategias morfológicas y sintácticas
para introducir odio en los enunciados.
Por ejemplo, en esta obligación se menciona el sufijo
o, masculino singular en español, que ha sido tomado
como préstamo en inglés para formar algunos derivados,
que como siempre es broma, pero que pueden ser un insulto,
por ejemplo, pinco, que es un término despectivo
para la persona de izquierda, huerdo, un bicho raro, guapo,
un loco, cico, una estúpida,
es una teoría de connotaciones negativas.
En alemán, por ejemplo, tenemos el uso del género neutro
para referirnos a personas transexuales.
O en inglés, el hit, ¿no?
Con el mismo propósito.
También en inglés,
en una partícula que es un intensificador, que es also, ¿no?
Sería como o tan, ¿no?
Que se utiliza con fines irónicos, ¿no?
Para hacerse de tipo,
los musulmanes son o tan pacíficos,
La otra estrategia morfológica sería el cruce léxico,
la fusión entre dos lexemas, por ejemplo, burrocracia,
que en principio es un recurso humorístico o lúdico
para llamar la atención sobre las palabras,
pero que puede emplearse para construir discursos de odio,
por ejemplo, feminazi, fachadolid, sociolisto, moncloaca.
En cuanto a estrategias sintácticas para articular el odio,
algunos autores mencionan la tendencia
a situar los objetivos del odio preferentemente en posiciones
de objeto directo en lugar de sujeto.
El sujeto, sabéis, en las lenguas nominativas,
es el que prototípicamente realiza la función de agente,
es el que controla la acción de forma voluntaria y consciente,
mientras que el objeto es el que la sufre,
el que la padece, el destinatario.
La gente típicamente es un humano consciente
de lo que hace, libre.
El paciente o el tema puede ser una cosa, un faro,
una historia.
La estrategia de deshumanización, por lo tanto,
puede llevarse a cabo también sutilmente
mediante la asignación de roles semánticos.
Más allá del análisis léxico y gramatical,
la teoría lingüística ofrece herramientas
que pueden ayudarnos a entender mejor el fenómeno del lenguaje del odio.
Desde la lingüística del texto o el análisis del discurso,
se plantea la cuestión de si el discurso del odio
no podría ser un tipo de registro, un estilo o incluso un género,
como es la propaganda política.
Hay algunos elementos que permiten interpretar el lenguaje de odio
como un género.
En primer lugar, hay una situación comunicativa
que se remite mucho.
El emisor suele pertenecer a la comunidad mayoritaria, ¿no?
Hay un receptor que suele ser miembro
de esa misma comunidad mayoritaria, ¿no?
Hay un canal, que son las redes sociales, hay un contexto,
que suelen ser noticias que han sucedido recientemente,
y hay un contenido que prácticamente es siempre el mismo.
El contenido del discurso de odio no ha cambiado en siglos.
Luego, aparte del vocabulario ofensivo
y las metáforas deshumanizantes, también hay recursos retóricos
que se permiten una y otra vez de los discursos de odio.
Por ejemplo, la polarización.
El uso de pronombres de nosotros frente a ellos.
La exageración de nuestras virtudes y el desprecio de las de los demás.
El uso de la modalidad de óptica.
Hay que, no sé,
tenemos que, vamos a la apelación a los intereses superindividuales,
la libertad, la justicia, la ley, la patria.
Bueno, quizás estas observaciones no sean suficientes para establecer
que el discurso de odio es un género,
pero sí que pueden ayudar quizás a caracterizar mejor
y a diferenciarlo de otras cosas que no lo son.
Son simplemente lenguaje tóxico
o el simple ejercicio de la libertad de expresión.
Desde la pragmática también hay al menos dos enfoques
que permiten arrojar algo sobre este fenómeno.
En primer lugar, hay que recordar que las expresiones de odio
son actos de habla que tienen un poder performativo,
hacen cosas, realizativo.
El insulto racista,
homófobo, sexista, tiene una fuerza ilocucionaria o ejecutiva evidente.
Es como una boceta, pero aún una herida o la peado.
Pero también tiene una fuerza perlocutiva o perlocucionaria,
y es que hace que pasen cosas.
Puede incitar a otros o a uno mismo a realizar un acto violento.
En general,
lo que castiga la ley duramente, con penas de cárcel,
es exclusivamente esta fuerza perlocucionaria.
Lo que castiga es la posibilidad del delito inminente,
en el caso de la ley norteamericana,
pero la posibilidad de que haya un delito.
Por otro lado, los discursos de odio no se corresponden
con ninguno de los actos de habla de ser,
sino que suelen ser una combinación de los mismos.
Por ejemplo, mencionado anteriormente, por ejemplo,
teníamos actos expresivos, putos españoles, putarras españoles,
lo cual manifiesta una emoción negativa hacia los españoles,
sería un acto expresivo.
También tenemos actos directivos y los de aquí.
Y actos compromisivos os vamos a matar.
Es una amenaza por eso.
Los actos de habla pueden ser, según Austin,
directos o indirectos.
En el ejemplo citado, todos los actos son directos.
Está puesto como ejemplo prototípico
el discurso de odio que he comentado,
pero no es habitual que se eche.
En el segundo de los ejemplos que he mencionado,
y te recuerdo ahora, puto moro, puto negro,
tu sitio es aquí, hay una actualidad obvia,
promesa o amenaza indirecta, pero no se realiza
mediante el performativo, el acto de una orden,
sino mediante un constatativo.
Forma directa
podría ser algo así como, vamos a expulsar de aquí,
pero lo que dice es, tu sitio no está aquí.
El uso de actos indirectos
y de performativos implícitos es muy raro.
Performativos explícitos, como prometo que te mataré.
Es una estrategia habitual en los productores de mensaje de odio
para evitar los filtros de las redes sociales
y las posibles consecuencias penales de sus mensajes.
La otra teoría pragmática
que arroja luz sobre la naturaleza de los discursos de Odrio
es la teoría de la cortesía de Brown y Lelouch.
Según esta teoría,
los hablantes tenemos como una imagen de nosotros mismos
que intentamos a toda costa preservar en la comunicación.
Esa imagen de nosotros mismos y de estos autores llama face
y de dos caras la cara negativa la cara positiva
la cara negativa tiene que ver con las por la creencia
de que somos libres y que hacemos lo que nos da la gana
la cara positiva tiene que ver con nuestra apreciación personal
todos pensamos que somos.
Personas inteligentes, simpáticas, atractivas,
y todos pensamos que somos libres.
Y queremos mantener esa creencia en nosotros mismos
y esa es nuestra imagen.
Bueno, el caso es que en la comunicación
la imagen nuestra está permanentemente amenazada.
En cuanto alguien nos da una simple orden,
ya está atacando nuestra cara negativa.
Después está condicionando nuestra libertad.
En cuanto alguien nos critique por nuestra forma de vestir,
ya está atacando nuestra imagen positiva.
La cortesía, según sus autores,
es otra cosa que es la manera de suavizar esos ataques.
Pedimos la josa por favor, usamos actos de habla indirectos,
puedes poner un café, me gustaría tomar un café,
en lugar de pon un café.
Te queda mejor el pelo corto en lugar de estás horrible
con esa melena.
Brown y Levinson establecen una tipología de FTAs
o actos de habla que amenazan la imagen propia de los hablantes
y que incorporan prácticamente todos los actos performativos
de Austin y Segal.
En esa tipología hay algunos ejemplos que encajan muy bien
con los actos de habla de odio que estamos describiendo.
Serían estos.
Las amenazas, advertencias y desafíos.
Escribo como cuando el emisor indica que causará daño o consecuencias
negativas contra el oyente, a menos de que cambie su comportamiento.
Las expresiones o emociones negativas hacia el oyente.
Donde el emisor expresa de forma explícita
emociones negativas y sus pieles.
Esas emociones pueden ser una posible motivación
para tomar acciones que perjudiquen al oyente o a sus intereses.
Los insultos, las críticas, las acusaciones,
la ridiculización.
En este ataque, el emisor indica
que no le gustan los actos, características personales,
bienes, valores, creencias o deseos del oyente.
Y, por último, las expresiones violentas hacia el oyente,
Estos ataques suelen surgir en situaciones de conflicto
o estrés elevado,
donde el emisor pierde el control, grita, insulta gravemente,
por lo que el emisor da al oyente posibles motivos
para tenerle miedo.
Los discursos de odio que hemos mostrado tienen
una combinación de estos ataques.
Los más graves,
los que están sancionados por la ley,
suelen corresponder con este último delito.
Más allá de esta clasificación, esta teoría de Brown y Denison
permite interpretar el discurso de odio
como el grado máximo de descortesía posible.
La ausencia de estrategias de cortesía,
por ejemplo, no usar por favor ni gracias con personas
que consideramos inferiores,
es otro rasgo característico del discurso de odio.
También el uso de la ironía,
que puede considerarse una estrategia que va en contra de la cortesía.
Bueno, creo que estamos de acuerdo
que el discurso biológico es un problema que corroe la sociedad
y la competencia de las sociedades democráticas.
Para que sociedad que aspire a eliminar desigualdades
y presunción ciudadana debería poner freno a este tipo
de comportamientos.
He hecho aquí un resumen un poco de cuál es el abordaje teórico,
legal, sobre temas.
¿Qué puede hacer la lingüística aplicada?
Para detectar o mitigar el discurso de odio.
Los sistemas automáticos de detección de mensajes de odio
y toxicidad del lenguaje han evolucionado considerablemente
en los últimos tiempos.
Los primeros sistemas se basaban en listas de palabras o frases.
Este procedimiento, como comprenderéis,
tenía sus limitaciones.
No podemos filtrar todos los mensajes en los que aparece
el objetivo negro.
Deberíamos filtrar solo el objetivo negro en determinados contextos,
pero los contextos posibles resultan tanto que siempre habrá uno
que no hayamos contemplado.
Para facilitar esto podemos construir reglas
que queden en cuenta el contexto morfosintáctico.
La creatividad del lenguaje hace
que las formas de expresar el odio sean prácticamente infinitas.
Posteriormente, en torno a los años 2000,
aparecen los primeros métodos basados en estrategias no determinísticas,
no basadas en reglas,
que lo que hacen es no filtrar por palabras censuradas,
sino que calculan la probabilidad de que determinada combinación
de palabras exprese un mensaje de odio.
Con los sistemas basados en aprendizaje automático
de redes normales.
Para que esos sistemas funcionen bien hay que entrenarlos
con muchísimas anotaciones.
Admin Face, que es una plataforma para intercambio de datos y modelos
de inteligencia artificial, está bastante bien.
Hay muchos corpus anotados en varios idiomas.
La mayoría solo tienen dos categorías, lenguaje ofensivo,
lenguaje no ofensivo,
pero también los hay con más categorización, tipo mensajes
con odio, de acoso, de violencia sexual,
de violencia política, de violencia religiosa.
La última evolución de los sistemas de procesamiento de lenguaje natural
son los grandes modelos de lenguaje o modelos generativos,
que todo el mundo conoce,
que ya utilizas, GPT, DLive, Dixie, para ser capaces
de generar texto de conversaciones prácticamente indistinguibles
del texto generado por humanos.
Estos modelos han tenido que ser entrenados
por una cantidad ingente de texto,
tenido a veces no legalmente,
y.
Y esta base de datos enorme, esta base de datos de conocimiento,
tiene todos los sesgos y prejuicios de nuestra sociedad.
El racismo, la xenofobia, el sexismo, la homofobia,
tienen lo mejor y lo peor.
Para evitar que estos sistemas reproduzcan el objeto psico,
existe la posibilidad de introducir una segunda capa,
son filtros que moderan los contenidos.
Y esos filtros han sido entrenados con datos
como los que hemos descrito.
Las redes sociales,
por otro lado, incorporan o por lo menos incorporaban
hasta hace poco estos sistemas de detección de odio automáticos,
aunque ahora han seguido sustituyendo por otros procedimientos
más manuales.
Aún así, en su política de publicación tienen.
Prohíbe el uso del lenguaje.
Por ejemplo, en Mickey se dice que no puedes atacar directamente
a otras personas, ni atacarlas o amenazarlas por motivos de raza,
origen étnico, origen nacional, etc.
Otro asunto es que se pongan los medios suficientes
para evitarlo.
Bueno, para finalizar,
hay múltiples proyectos de monitorización y discurso de odio
que combinan clasificadores de este tipo
con otros procedimientos.
En España,
un proyecto muy interesante es el desarrollado
por el Ministerio de Inclusión, Seguridad Social y Migraciones,
se llama OBERAXE, que devuelve estadísticas y gráficas
en tiempo real con base en información,
aunque solo afecta realmente al discurso de odio racista
y xenofobia.
Sería muy interesante que esta iniciativa
sosteniese otra modalidad en el discurso
para ofrecer a la sociedad y a los poderes públicos
un diagnóstico que promueva la toma de conciencias
y la búsqueda de soluciones.
Muchas gracias.
Y quería poner la bibliografía,
una de las referencias que he utilizado para esta charla.
Y enlace a.
¿Alguna pregunta en casa?
¿Por aquí algún comentario?
Antonio, pero no por el discurso, hoy tenemos más intervención.
Es el discurso del mismo tiempo.
Cuidado.
Bueno, Mario, a ver si salas.
Pues Mario, venga.
Bueno, yo tengo muchas preguntas.
Sí.
Y me voy a preocupar todo el tiempo.
Por ejemplo, yo tendría.
No sé qué está pasando.
Dice que no.
Hay un tratado de.
Especial tratado aquí, muy diverso.
De hecho, hay la palabra de forteras refusas.
Claro, yo creo que diría.
Utilizar la palabra fortero.
Pero el centro de género quizás conviene precisar bastante.
O menos como ideas que se me ocurren un poco de decisión.
Cuando dice.
Bueno, eso es, se habría que hablar a un hombre,
por lo que se llama de otra manera.
Yo no sé si en esos casos se podría hablar del impuesto del oro.
Y menos de gramática.
Yo creo que la gramática es mucho más perfecta.
Por eso me falta también un aspecto de la ilustración.
Es importante, dentro de hablar de un contexto,
haber cubierto al nivel de la gramática,
que es importantísimo, muy importante aquí,
pero que ahí balazan todos los aspectos lingüísticos
de los niveles.
Por ejemplo, y creo que hay que contestar
mucho yo conozco marroquíes y.
No sé pero que hay muchos elementos que vendrían en esto son comunistas
que se me han suscitado por él por.
Yo al principio de la charla, efectivamente,
no soy especialista, he llegado a este tema por motivos varios.
Simplemente el motivo de la charla.
Como he dicho, era para sugerir a alumnos del máster
a interesarse por estos temas.
Entonces he intentado dar una panorámica lo más amplia posible
sobre este problema y sin centrarme en.
En cuanto a los ejemplos que citas, cuando hablo de género,
si el discurso de Dios es un género,
es una pregunta que me hago que tampoco yo tengo respuesta.
Es una pregunta que me hago.
Es cierto que el estudio de género aporta, digamos,
instrumentos y herramientas útiles
para cualificar mejor lo que es discurso de odio y lo que no.
Y eso es lo único que pretendía con eso.
En cuanto a la gramática,
bueno, no es que la gramática sea de odio.
Simplemente que hay estrategias morfológicas,
sintácticas, que ayudan a los creadores de mensajes de odio
a introducir odio en sus mensajes.
Podemos meter odio mediante vocabulario,
mediante metáforas, mediante.
Esquemas, digamos, retóricos, ¿no?
Pero también podemos meter odio con la morfología, ¿no?
O con la sintaxis.
De una manera más sutil, ¿no?
Hay que haber una intencionalidad de lo que yo quiero decir.
Porque si puedo utilizar un poco una una como a su poder
referirte al distinto sexo.
No, no, pero el ejemplo no tenía que ver con el castellano.
A lo mejor no.
No, no, no, está bien.
Bien está ahí.
El ejemplo es un morfema que se está usando ahora mismo en inglés.
En inglés como terminación despectiva para algunos colectivos.
Como es el pico,
que viene de pink, que es rosa, que es el color,
que viene de izquierda, eso es pico, como un término despectivo
hacia esa persona que tiene esa ideología.
Simplemente eso.
En la lengua y la práctica me parece.
Una charla muy inspiradora.
Una pregunta concreta es cuando has hablado de la gramática del odio,
de cómo se produce la conversión de los objetos
en los objetos directos, cómo se convierte en lo adjetivo,
en un elemento pasivo.
¿Puedes poner un ejemplo?
Tengo un ejemplo de un vivo donde una vez.
Pues básicamente os vamos a echar ese es el ejemplo prototípico
vamos a echar de aquí.
A nosotros, contra vosotros o contra ellos,
que no está definido.
Simplemente, sí,
es como poner, digamos, a nosotros, posición de sujeto,
es el que domina la acción.
Vale.
Es simplemente una de las posibilidades que no sea general
y que además.
Es simple y para una frase más más idiomático
eso es todo lo que tiene más fácil pero no.
En el mar. A más que parece son general.
Y los estudiantes tomados y declaraciones
de un sindicalista de edad que dice que los que se.
No sólo se compra en una casa de Castro,
sino que además empadronan al desarrollo del sindicato,
porque no sólo se convierten en españoles,
sino en algo que es mucho peor,
que es que se convierten en cantabronos.
Y es una buena experimentación mismo,
cuando alguien te llama cantabrono,
es verdad que te lo puede llamar a ella,
en el departamento de los cantabronos,
y te puede llamar a mí, el cantabrito.
Sí, es que además la intención no tiene que ver con el año.
Son independientes.
El que recibe el insulto no está pensando en la intención
de lo hablante.
La palabra está ahí.
Yo te lo he dicho con cariño, pero me ha dolido.
No tengo intención de ofender como no sé cuál es tu intención.
La libertad de expresión está ese dilema.
Sí, bueno, ese tema es muy interesante.
Claro, es la asignatura pendiente que el partido ha hecho.
De la idea, la idea del otro.
Aquí hay muchísimo que hablar.
Sobre todo hablando de la presentación de Austin.
Yo creo que siempre he tenido que observar los capítulos.
¿Qué quiere decir el investigador?
¿Cuáles son?
Es decir, ¿cuáles son los temas de reflexión?
Y hablar de las que ha llevado el investigador
puramente filosófico.
Austin.
Pero si no la reserva de la acción
y desconocelo que es el primero que no toca así oficialmente
la investigación histórica de pensamiento.
Y vamos a la acción de acción.
Sí.
O el resto y la sombra directamente investigada.
Y dar una respuesta evidentemente
el acto de la guerra sí que hay de palestino y la verdad.
La capacidad de respuesta
incluso incluso aunque sea delictivo de que el delito
existe para la historia está ahí se cometen continuamente.
No se puede pensar si no está pasado a la criba de tráfico.
La novela y estamos viendo una relación con ese intento
de jurídica mismo es imposible pero las implicaciones son tales.
Y más de esta idea de la derecha.
Una de mis intenciones es siempre siempre haber tenido un seminario
sobre la importancia de la mental para mostrar
a los economistas que están llevando el lenguaje a tal.
Uso y está totalmente disociado de la base social
como algo.
No se entiende ya, hermano.
Está tan específico, tan tecnificado, ¿sabes?
Y ellos, hermano, no saben ni siquiera que palabra hay
como no enseñar.
Es oikos asnovos.
Es nombre y la casa.
La casa es el nombre.
La economía es la luz y la distribución de la.
La educación que trae.
Obviamente es un tema multidisciplinar en el que tendrían
que participar tanto.
Puristas, como filósofos, políticos, lingüistas, expertos en tecnología,
psicólogos, sociólogos.
Digamos que es un problema que toca el ser humano
y tiene también unas connotaciones políticas y filosóficas
muy importantes.
La lingüística se mete en esto.
La lingüística tiene herramientas, yo creo, suficientes,
y es un poco lo que intentaba en esta charla.
La lingüística pragmática, la pragmática,
la traducción también, la lingüística,
que tiene herramientas, que no se trata de.
Para censurar y para.
Si lo que nos interesa inicialmente
es identificar esto y distinguirlo de cosas que no son esto.
Y tener, digamos, la suficiente precisión en análisis
para decir, bueno, esto que estás diciendo
se parece mucho a esto que decían, por ejemplo, los nazis.
Se parece mucho.
Con lo cual, cuidado con estas cosas.
No se trata de prohibir el lenguaje.
Trata de proteger a la sociedad.
Digamos que ese es el objetivo de la legislación
contra el discurso de odio.
El discurso de odio no va contra la libertad de expresión.
El discurso de odio es una herramienta para protegernos
como sociedad de cosas que sabemos que han pasado,
que sabemos que han pasado y que sabemos por qué han pasado.
De la importancia de la conexión de la lingüística con la derecha.
Es enorme, yo creo que yo lo veo más.
Y el desconocimiento que hay de la base misma de lenguaje,
que es un germen de pensamiento, es enorme en la sociedad actual.
Por eso es importante en este tipo de seminario,
porque debía tener una financiación a la sociedad muy civil, ¿verdad?
, Y, mismamente, cuando se redacta la ley,
o la ley española,
cuando se la redacta, incluye conceptos
como fomentar, difundir.
¿Cuál es la diferencia exacta?
¿El legislador tiene capacidad para ver ese matiz?
Ahí hay una parte de lingüística legal, que es un papel importante.
Y luego está.
La lingüística forense.
Efectivamente.
Una vez la lingüística legal,
elaboremos la ley con los lingüistas.
Son los que son los técnicos de eso.
Se ha convertido la fonética en la identificación.
No solo fonética, sino lingüística forense en general.
Vamos a analizar estos mensajes en función de.
Una máquina específica alemana.
Para la ciudad.
En el caso de la fallecida, en el caso de la fallecida,
que llegó a identificar el otro día, además es una alta política,
para la renta o la estima.
Se quedó desprocentada.
Se quedó identificado.
Simplemente analizando,
porque había una conversación en la carrera de informática.
No había manera.
Estaba en el centro, en el centro.
El estudio es.
Sí sí.
Sí sí sí.
Y vuelvo al seminario que ya no hay mucho en el caso.
Gracias.