Ciber Hate Speech

Hoy en día, el ciberespacio y concretamente Internet, se consideran unas de las herramientas más potentes a nivel mundial, debido a que han supuesto un gran avance, facilitando las comunicaciones, la difusión de información así como la expansión empresarial global.

Lo que a priori esto parece una gran e importante fórmula para la creación de oportunidades de comunicación y de posibilidades de movilización social, consigo lleva unos riesgos y amenazas respecto a la difusión de diferentes mensajes, ya que han resultado ser una herramienta poderosa de trabajo y un potente agente educativo en todos los ámbitos de la vida (Bustos Martínez, et al., 2019).

La posibilidad de hacer conexiones a nivel global, ha aumenta la probabilidad de que las personas sean controladas por otros usuarios y entidades (por ejemplo, a través de cookies), así como que los mensajes e información lleguen de forma instantánea a todas las partes del mundo. Esto supone que las oportunidades en la que los sujetos difunden información y opiniones sobre su ideología política, social y religiosa aumentan, haciendo que aquellos discursos y opiniones de odio puedan difundirse con mayor facilidad.

De hecho, Internet es un portal repleto de páginas webs con mensajes de odio. En este se pueden encontrar múltiples vídeos en los que se incita a la violencia y discriminación, e incluso en muchos de ellos, se  puede observar la perpetración de diversas conductas violentas. Dentro de este medio, son las redes sociales, la principal vía de difusión de dichos mensajes, vídeos, imágenes…; los cuales contienen información hostil, intolerante, denigrante y despectiva, que incitan al odio y la violencia hacia ciertas personas o grupos sociales (vivos o fallecidos) por el hecho de pertenecer a una nacionalidad, cultura, religión o, incluso, por la propia orientación sexual… El objetivo que busca la difusión de este tipo de información es la de apelar a las emociones de las personas que leen estos mensajes, en vez a la razón;  y mostrar cierto dominio sobre estos grupos sociales, consiguiendo su silenciación. Esto es lo que se conoce como Ciber Hate Speech (conductas de odio a través del ciberespacio) (Bustos Martínez, et al., 2019).

Estos comportamientos destacan debido al medio de difusión que emplea, el cual permite que aquellos mensaje, que antes eran privados, lleguen de forma instantánea a todas las partes del mundo, mediante la difusión en masa de forma oral, escrita o audiovisual, convirtiéndose en un mensaje público, lesivo y de riesgo social para valores tales como la dignidad, la igualdad, la intimidad o el propio orden público (Bautista-Ortuño, 2017).

De hecho, de todas las amenazas, las discriminaciones y las injurias que se llevan a cabo, las del ámbito de orientación/identidad sexual, racismo, xenofobia e ideologías son las que más se dan, llegando a un total de casi un 92% del total (Bustos Martínez, et al., 2019; Ministerio del Interior, 2016).

 

Estas conductas pueden encontrarse en diversos ámbitos de la vida, tales como la violencia deportiva, la violencia sexista, las protestas políticas violentas…

En el informe Raxen: Discurso de Odio y Tsunami de Xenofobia e Intolerancia de 2016,  se recogió que en España existían más de mil webs que promovían comportamientos de intolerancia y xenofobia. Y esta cifra es cada vez mayor, debido al gran auge que las redes sociales han tenido en esta última década, donde la gente comparte, con mayor frecuencia, sus opiniones, ideas y estilos de vida; llegando a dedicar más de la mitad de su vida a estas herramientas que Internet ha proporcionado (Bustos Martínez, et al., 2019).

De hecho, en la memoria que la Fiscalía General del Estado realizó en 2017, respecto a la incoación de los delitos informáticos cometidos a través de las Tecnologías de la Información y la Comunicación en el año 2016, se muestra que 1.120 fueron delitos contra la libertad mediante amenazas, coacciones y/o acoso, 100 contra el honor que se realizaron a través de calumnias/injurias, 72 se caracterizaron por delitos contra la Constitución por motivos de discriminación; y 69 fueron delitos contra la integridad moral.

De todas estas tipologías de comportamiento las que más destacan son las relacionadas con aquellos ámbitos de ideologías, racismo, xenofobia, discapacidad, orientación e identidad sexual; produciéndose la mayoría de ellos a través de Internet y las redes sociales (35,4%).

La expansión de las redes ha provocado que el alcance que estas tienen y su influencia sea casi ilimitada, llegando a actuar como:

Canalizador de protestas, dando lugar a acciones y movimientos sociales que persiguen la transformación social, tales como el 15-M español, impulsado mediante Twitter con el hashtag #DemocraciaRealYa, o el movimiento Occupy Wall Street en Estados Unidos.

Transmisor de mensaje que incitan al odio y la violencia como son los tuits que se publicaron, en España, tras los atentados de París (noviembre de 2015) de Barcelona o Cambrils (agosto 2017)  con las siguientes menciones #matadatodoslos-musulmanes, #stopIslam, #musulmanesterroristas, o #TerroristasWelcome o #Refugeesnot-welcome, los cuales intentaban influir en la opinión pública sobre la  bienvenida a los refugiados que huían de sus países en guerra; o los múltiples tuits que a día de hoy se pueden encontrar en diversas redes menospreciando e insultando a los catalanes e independentistas por su ideología política y social, tales como “Catalán no es español es lo peor q hay en España, habría que limpiar, necesitamos 1 Hitler para hacer jabón con catalanes aunque huela a mierda”, “Asco de catalanes una bomba al palau en cuanto salga elpozo de ahí… hijos de puta”, “Catalanes HIJOS DE LA GRAN PUTA una bomba os ponía yo panda de analfabetos!!” o “No hay que descansar hasta no ver a los independentistas así…” junto a la siguiente imagen:

Imagen recuperada de https://twitter.com/Well086/status/934365348303958017

Otro ejemplo de esto es el reciente caso del partido derechista Vox, en el que el propio partido acusa, a través de Twitter, al gobierno de España por promover la pederastia con dinero público. Esta conducta produjo el cierre temporal de algunas funciones de la propia cuenta del partido, ya que esta red social “no permite amenazar, acosar o fomentar la violencia contra otras personas por motivo de su raza, origen étnico, nacionalidad, orientación sexual, género, identidad de género, religión, edad, discapacidad o enfermedad”.

Inicialmente, es importante tener en cuenta que para poder considerar que un discurso, del ciberespacio, es de odio debe cumplir cuatro criterios (Bustos Martínez, et al., 2019):

1. El comportamiento debe realizarse con la intención de humillar o excluir a alguna/s persona/s o grupo social en concreto.
2. Debe hacer referencia a grupos o personas que a lo largo de la historia han sido discriminados.
3. Debe realizar algún tipo de agresión o humillación a símbolos o ideas que representen un grupo social.
4. El mensaje incita a humillar y denigrar a una persona o grupo de personas que pertenecen a un grupo social vulnerable.

Para poder entender con mayor exactitud las diferentes formas de incitación a la violencia y los discursos de odio que se dan en el ciberespacio es importante realizar un recorrido por las principales teorías  que explican y clasifican estos comportamientos.

Taxonomía de la Comunicación violenta y el discurso del odio en Internet (Miró Llinares, 2016). Esta tiene una base valorativa-jurídica y surge por la necesidad de valorar diversos criterios a partir de los cuales poder tomar decisiones respecto a estos actos, así como llevar a cabo intervenciones preventivas. En esta se elabora una clasificación de los tipos de conductas en base a unos criterios de valoración sociales y éticos; y se recoge todas aquellas modalidades comunicativas que incluyan:

1. a) “todas las formas de incitación (directa o indirecta), o amenaza específica de causación de violencia física que no sean por razón discriminatoria o de grupo.”

b)” toda ofensa o daño al honor o a la dignidad de personas concretas”

1. c) “todo comportamiento que pueda considerarse ofensivo o vejatorio para la sociedad, aunque no vaya dirigido a una persona en concreto.”

Esta taxonomía clasifica las comunicaciones violentas y de odio en dos grandes grupos (Bautista-Ortuño, 2017):

1. a) “aquellos discursos referidos a la causación de un daño físico”
2. b) “aquellos discursos que ofenden o causan un daño moral, ya sea a individuos, grupos sociales concretos o a la mayoría de la sociedad.”

Derivando en  5 categorías finales de este tipo de comportamientos:

α) incitación/amenaza directa a la violencia física

β) enaltecimiento a la violencia física

γ) ataques contra el honor o la dignidad

δ) incitación a la discriminación

ε) ofensas a la sensibilidad colectiva

Una vez conocido los tipos diferentes de conductas, es necesario preguntarse la razón por la cual las personas son capaces de realizar o no dicha conducta. Para ello hablaremos de teorías explicativas del comportamiento humano respecto al cumplimiento y la transgresión de la norma como son (Bautista-Ortuño, 2017):

Modelo de Disuasión. Esta intenta explicar el cumplimiento y la transgresión de la norma en base a la certeza con la que se sanciones, la severidad de dicha sanción y la prontitud con la que se presente esta. Esta afirma que cuanto mayor sean estas variables menor será la probabilidad de que el individuo decida involucrarse en una actividad delictiva (Paternoster, 2010;  Bautista-Ortuño, 2017).

Pero para ello, se requiere que exista un conocimiento previo y amplio de las normas formales, tanto por parte del delincuente como de los potenciales delincuentes; y que los sujetos  conozcan y analicen el coste-beneficio de llevar a cabo la conducta delictiva. Esto supone un gran problema, ya que la literatura científica muestra que, por lo general, la población no conoce con exactitud los tipos de castigos formales asociados a cada conducta y tipología delictiva (Bautista-Ortuño, 2017; Robinson y Darley, 2003).

Esto podría explicar la razón por la cual en muchas ocasiones las personas realizan conductas ilícitas, ya sea porque desconocen su castigo y en qué grado incumplen la norma o no; así como por considerar que estos comportamientos no son moralmente reprochables. En el caso de los Ciberhaters podría considerarse si los participantes desconocen en qué medida están incumpliendo la normativa o si su comportamiento llega a considerarse ilícito o no, ya que no conocen la norma y creen verse respaldado por su derecho a la libertad de expresión. A esto puede añadirse que si estas conductas son ampliamente realizadas por la sociedad (como muestran las cifras ciberodio), se desconozca que estas esté prohibidas y por lo tanto no parece razonable realizar un análisis de coste-beneficio a la hora de plantearse si llevar a cabo o no este tipo de comportamientos (Bautista-Ortuño, 2017; Robinson, 2012).

Por lo tanto otro factor a tener en cuenta es la influencia social, es decir, qué comportamientos son los que realizan los demás y qué comportamientos son los aceptados por el grupo de referencia (Cialdini y Goldstein, 2004).

Teoría Focal de la Conducta Normativa. Esta habla de dos tipos de normas sociales que influyen en la conducta normativa de un individuo, así como de su naturaleza y operativización (Cialdini, Reno y Kallgren, 1990; Cialdini, Kallgren y Reno, 1991; Cialdini y Trost, 1998 y Bautista-Ortuño, 2017):

• La norma descriptiva que señala el comportamiento realizado por parte de los demás en determinada situación.
• La norma prescriptiva que muestra aquello que es aprobado o no por la mayoría de la gente, es decir, aquello que se debería o no hacer y, en definitiva, conformaría las reglas morales del grupo.

Modelo de la Autorregulación. Explica el cumplimiento de la norma en base a la gran influencia que presentan los valores morales sobre la conducta. Es decir, los individuos incumplirán con mayor probabilidad la norma siempre y cuando esta se considere inmoral o vaya en contra de sus valores personales; y las cumplirán con más probabilidad cuando estas sean coherentes y morales para el individuo (Carlsmith, Darley y Robinson, 2002; Gezelius, 2002; Bautista-Ortuño, 2017; Tyler 2003; Tyler, 2006a; Tyler, 2006b y Tyler, 2009).

Esto evidencia que las personas no obedecen la ley o actúan de determinada manera solo por la sanción que esta pueda causar si se incumple o el estigma de esta, sino que también existe una influencia de la conducta social y de la consideración que se tiene sobre si el comportamiento es moralmente aceptable o no y si dicha norma es compatibles con los valores individuales. Por ello, para poder entender este comportamiento se han de tener en consideración todos estos aspectos.

En la actualidad, este tipo de conductas son bastante frecuentes en todas las redes sociales, incluso llegando a aumentar las conductas delictivas por Internet respecto a años anteriores; especialmente los delitos de odio y contra la libertad y la seguridad de las personas. De hecho, en el informe Raxen del movimiento contra la Intolerancia se recalca que en Europa es cada vez mayor las conductas de Xenofobia, el rechazo a los refugiados e inmigrante y la islamofobia, la cual ha sido alimentada por los diferentes sucesos terroristas que se han dado; facilitando de este modo el desarrollo de discursos de odio, intolerancia  y rechazo hacia los musulmanes (Bustos Martínez, et al., 2019).

Este hecho, podría explicarse debido a la facilidad que estas herramientas otorgan al uso generalizado y cada vez más frecuente de estos nuevos medios de comunicación (Whatsapp, mensaje de voz, correo electrónico, redes sociales…); que junto a la crisis económica y política, la crisis de los refugiados y la extensión del terrorismo extremista islámico,  ha hecho cada vez más explícito “el ciberodio y el ciberracismo” (Oleaque, 2015). Y todo ello sin tener en cuenta la imprecisa y desconocida, pero inevitable, cifra negra (Bautista-Ortuño, 2017).

Otro aliciente de dicha problemática ha sido lo que conocemos como el derecho a la libertad de expresión, ya que las personas y colectivos que participan en este tipo de conductas abogan por su derecho individual a expresar libremente su opinión.

Por todos estos motivos, las diferentes instituciones a nivel nacional e internacional han tenido que tomar diversas medidas para atajar este problema, mediante informes en los que se toman medidas de reducción, prevención y castigo del discurso de odio que se difunden a través de redes sociales e Internet. Un ejemplo pionero de dichas medidas es la que realizó la Unión Europea mediante la firma del Código de Conducta con empresas tecnológicas; y con la puesta en marcha de un grupo experto de alto nivel en la detección de dichas conductas. O, por ejemplo, la iniciativa del Consejo de Europa, que bajo el lema No HateSpeech online (No al discurso del odio en la Red) pretende movilizar a los jóvenes para que defiendan los Derechos Humanos y combatan la intolerancia en internet (Bustos Martínez, et al., 2019; Ministerio del Interior, 2015).

Respecto a los problemas de racismo y xenofobia, entidades pertenecientes al Comisado de las Naciones Unidas para los Refugiados (ACNUR) han puesto en marchas diversas acciones para combatir estos comportamientos.

Alemania ha sido uno de los países pioneros en la creación y la difusión de leyes que regulan y castiguan este tipo de delitos, tales como la firma de acuerdos con plataformas sociales importantes para el control de mensajería racista y de odio. De hecho, 5 grandes plataformas sociales tales como Facebook, Twitter, Google, You-Tube y Microsoft firmaron un código de conducta junto con la Comisión Europea para eliminar de sus plataformas todo aquel mensaje xenófobo y racistas, así como comunicar la mala praxis y denunciar a todas aquellas cuentas públicas o privadas que se presten a la realización de este tipo de comportamientos (Bustos Martínez, et al., 2019).

Por otra parte, Francia en 2016 presentó un plan contra el racismo en el que se establecían cuatro medidas de carácter judicial y pedagógico; y el gobierno galo trabaja para la perseguir dichas conductas en las redes y ha endurecido las penas para los delitos de odio y ofensa (Bustos Martínez, et al., 2019).

De forma más concreta, en España, se han recogido diversas medidas en el Código Penal, para prevenir y castigar estas conductas. Un ejemplo de ello es la reforma del Artículo 510 del Código Penal la cual penaliza las acciones y conductas racistas y xenófobas en internet, llegando a enfrentarse a penas de prisión de 1 a 4 años; y en los casos más graves hasta 6 años, más las correspondientes multas por la difusión de estas expresiones racistas, todo aquel que difunda, reproduzca, distribuya o  incite al odio (Roca y Fullana, 2017).

En lo que respecta a hechos de inferior gravedad, el objetivo principal a nivel nacional es terminar con la impunidad de estas conductas, considerándolas como infracciones sancionables por vía administrativa. Siempre respetando el derecho a la libertad de expresión, motivo anteriormente comentado, que hace más compleja la regulación legal y complica la respuesta de las instituciones (Ministerio del Interior, 2015).

Además de esto, el Código Penal permite que en todos aquellos casos que lleguen a juicio, los tribunales y jueces pueden destruir, borrar y retirar todos los contenidos existentes en Internet.

Por otro lado, la Policía Nacional de España cuenta con la figura del agente encubierto informático, así como con medidas para investigar mensajes ofensivos, con el fin de prevenir e identificar a los usuarios que llevan a cabo estos comportamientos ofensivos(Bustos Martínez, et al., 2019).

Sin embargo, a pesar de todas estas medidads, en los últimos años han aumentado los movimientos, grupos y partidos que debido a la crisis de los refugiados promueven actitudes xenófobas e islamófobas, difundiendo de esta forma una cultura de odio contra los extranjeros (Ministerio del Interior, 2016; Roca y Fullana, 2017).

Estos movimientos políticos se pueden encontrar en diversos países tales como son Francia, Estados Unidos, Alemania, Gran Bretaña, Holanda, Bulgaria, Hungría, Bélgica, Austria, Suecia o Dinamarca. Ejemplos a destacar son las conductas producidas por el presidente estadounidense Donald Trump, los partidos neonazis, tales como Amanecer Dorado en Grecia, Attaka en Bulgaria y el Jobbik de Hungría, o el extremismo y terrorismo yihadista y el crecimiento de las milicias racistas al otro lado del Atlántico Norte (Bustos Martínez, et al. 2019; Movimiento contra la Intolerancia, 2016).

En España, podemos encontrar a partidos tales como Democracia Nacional, que presenta argumentos xenófobos contra la inmigración;  España 2000, partido con ideas racistas y xenófobas, que se evidencian a través de su lema  “¡Los españoles primero!” o los mensajes en su sitio web donde asocian la inmigración con la delincuencia, la amenaza a la identidad nacional, la escasez y la precariedad laboral (Calvo, 2011); o  Plataforma per Catalunya el cual muestra continuos mensajes contra la inmigración masiva, reclamando la necesidad de una regulación de la inmigración y la priorización de las ayudas a las personas autóctonas del propio país,  mediante el lema “Primero los de casa” (Bustos Martínez, et al., 2019).

De hecho, en los últimos tiempos, en España está ganando visibilidad el partido político Vox, llegando a conseguir diputados en el Congreso de los diputados. Este emplea de forma continua discursos islamófobos y ha llegado a describir la llegada de migrantes y refugiados como una invasión del país planeado por organizaciones criminales y gobiernos extranjeros cómplices de estas bandas criminales (Europa Press, 2018; Sosa, 2018). De la misma forma, también se puede identificar al grupo Hogar Social Madrid,  el cual ofrece asistencia solo a españoles en situación de vulnerabilidad y cuya líder fue acusada por un delito de incitación al odio con motivo del ataque a la mezquita de la M-30 del 22 de marzo de 2016 después de los atentados yihadistas de Bruselas (Bustos Martínez, et al. 2019; El Confidencial, 2018).

Otro problema con el que nos encontramos es el Anonimato, ya que “Los agresores se esconden tras cuentas y nombres falsos para difundir ofensas, amenazas y ataques” (Roca y Fullana, 2017).

Como se ha mencionado en apartados anteriores, el principal perfil de las víctimas que sufren conductas de ciberodio son aquellas personas que pertenecen a grupos sociales, a una nacionalidad, cultura, religión o tiene una ideología u orientación sexual…, diferente al socialmente aceptado y que por lo general, a lo largo de la historia, siempre han sido discriminados (musulmanes, personas de raza negra, homosexuales…) (Bustos Martínez,  et al. 2019).

Todos los materiales de odio expuestos en las redes sociales tienen un gran impacto negativo, a nivel social y psicológico, para las víctimas; causando daños directos e indirectos en esta y en su grupo de iguales (Gagliardone et al., 2015; Leets y Giles, 1997).

De hecho, estas conductas producen que los daños puedan a posteriori convertirse en caldo de cultivo de acciones más graves, tales como  violencia física, amenazas verbales directas, exclusión directa…, como muestra el informe Raxen donde (Bustos Martínez, et al. 2019; Ministerio del Interior, 2015):

“Solamente en España se registran más de 4.000 incidentes de odio al año y existen más de mil sitios web, canales o perfiles en las redes sociales que promueven contenidos xenófobos e intolerantes por motivos de raza, género, sexualidad o religión” (Movimiento contra la Intolerancia, 2015).

Diversos artículos e informes coinciden en afirmar que estas víctimas integran los ataques radicales de odio en su vida diaria y no dan ninguna respuesta a ellas. Según datos de la Agencia de Derechos Fundamentales de la Unión Europea (FRA), casi el 80% de estos casos no son denunciados porque las víctimas declaran no querer, no atreverse o no saber qué es lo que se puede hacer ante esta situación (Bustos Martínez,  et al. 2019; Juban, Roiha, Malin y Martínez, 2016).

Estos datos muestran que la existencia de un gran desconocimiento de la Ley vigente respecto a este tipo de delitos y conductas, así como la vergüenza de la situación, el temor a las consecuencias que puedan darse y cierta desconfianza en los cuerpos de seguridad influye en la  escasez de las denuncias existentes (Bustos Martínez, et al., 2019).

Además, la dificultad que tiene la identificación y localización de los implicados en estas conductas, es decir, el anonimato que otorga el ciberespacio a estos usuarios, hace que las víctimas no obtengan ninguna ayuda psicológica ni judicial, hasta que esta se identifique (Bustos Martínez, et al., 2019).

Ciberespacio: Entorno artificial donde a través de herramientas informáticas (ordenadores, tablets, móviles…) se establecen, de forma virtual, intercambios de información y conocimiento, así como interacciones sociales a gran escala.

Delito de Odio: Conducta penal y administrativamente castigada en la que una persona ataca a otra persona o colectivo por pertenecer a un grupo social determinado (sexo, raza, orientación/identidad sexual, nacionalidad, religión, etnia o discapacidad).

Xenofobia: Es el nombre que recibe todo aquella conducta que tiene como base una fobia/ odio a la personas extranjeras e inmigrantes, tales como el rechazo, las amenazas, agresiones. Esta puede verse incrementada por un sentimiento intenso de necesidad de proteger una nación.

Islamofobia: Odio y/o miedo hacia el islam y las personas que lo practican, como consecuencia de tal se extiende hacia los musulmanes en general.

Bautista-Ortuño (2017). “¿Eres un ciberhater? Predictores de la comunicación violenta y el discurso del odio en Internet”, International E-Journal of Criminal Sciences, 11. Disponible en Internet en: http://www.ehu.eus/ojs/index.php/inecs/article/view/18968.

Bustos Martínez, L. et al. (2019). “Discursos de odio: una epidemia que se propaga en la red. Estado de la cuestión sobre el racismo y la xenofobia en las redes sociales”, en Mediaciones Sociales 19, 25-42.

Calvo Buezas, T. (2011): “La masacre racista en Noruega y la difusión del odio racial en Internet”. Almenera, Revista Extremeña de Ciencias Sociales, nº4. Disponible en: https://sites.google.com/ site/almenararevistasociologia/home/almenara-no-4—primer-semestre2012/articulos-de-investigacion-almenara-no4/lamasacreracistaennoruegayladifusiondelodioracialeninternet.

Carlsmith, K. M., Darley, J. M. y Robinson, P.H. (2002). Why do we punish? Deterrence and just deserts as motives for punishment. Journal of Personality and Social Psychology, 83 (2), 284-299.

Cialdini, R.B. y Goldstein, N.J. (2004). Social Influence: compliance and conformity. Annual Review of Psychology, 55, 591-621.

Cialdini, R.B., Kallgren, C.A., y Reno, R.R. (1991). A focus theory of normative conduct: A theoretical refinement and reevaluation of the role of norms in human behavior. En L. Berkowitz (Ed.), Advances in experimental social psychology, 201-234. San Diego: Academic Press.

Cialdini, R.E., Reno, R.R. y Kallgren, C.A. (1990). A focus theory of normative conduct: Recycling the concept of norms to reduce littering in public places. Journal of Personality and Social Psychology, 58(6), 1015-1026.

Cialdini, R.E. y Trost, M.R. (1998). Social influence: social norms, conformity, and compliance. En D.T. Gilbert, S.T. Fiske y G. Lindzey (Eds.), The handbook of social psychology 2, 151-192. Nueva York: McGraw-Hill.

El Confidencial (2018): “La jueza procesa a la líder de Hogar Social por incitación al odio”, El Confidencial. Disponible en: https://www.elconfidencial.com/espana/madrid/2018-05-18/hogar-social-melisa-dominguez-procesada-incitacion-odio_1565563/.

Europa Press (2018): “Vox advierte ante la continua llegada de migrantes de una ‘invasión programada’ y no de ‘una crisis humanitaria’, La Vanguardia. Disponible en: https://www.lavanguardia.com/vida/20180728/451142477623/vox-advierte-ante-la-continua-llegada-de-migrantes-de-una-invasion-programada-y-no-de-una-crisis-humanitaria.html.

Gagliardone, I., Danit G., Thiago A., y Martínez, G. (2015). “Countering Online Hate Speech. Programme in Comparative Media Law and Policy”. University of Oxford. Francia: UNESCO. Disponible en: http://unesdoc.unesco.org/images/0023/002332/233231e.pdf.

Gezelius, S.S. (2002). Do norms count? State regulation and compliance in a Norwegian fishing community. Acta Sociologica, 45(4), 305-314.

Jubany, O., Roiha, Malin, R. y Martínez, A. (2016). “Online HateSpeech in Spain. Fieldwork Report. PRISM. Preventing, Redressing & Inhibiting Hate Speech in New Media”. Universitat de Barcelona. Fundamental Rights and Citizenship Programme of the European Union. Disponible en: http://www.unicri.it/special_topics/hate_crimes/Backgrounds_Experiences_and_Responses_to_Online_Hate_Speech_A_Comparative_Cross-Country_Analysis.pdf.

Leets, L., y Giles, H. (1997).“Words as weapons: When do they wound?” Investigations of racist speech”. Human Communication Research, 24, 260–301.

Ley Orgánica 1/2015, de 30 de marzo, por la que se modifica la Ley Orgánica 10/1995, de 23 de noviembre, del Código Penal, num. 77 de 31 de marzo de 2015, 99-102. Disponible en: https://www.boe.es/boe/dias/2015/03/31/pdfs/BOE-A-2015-3439.pdf.

Ministerio del Interior (2015). “Evolución del racismo, la xenofobia y otras formas conexas de intolerancia en España’’. Disponible en: http://www.empleo.gob.es/oberaxe/ficheros/documentos/EvolucionRacismoXenofobiaOtrasFormasConexasIntoleranciaEspana-informe-encuesta-2014.pdf.

Ministerio del Interior (2016). “Informe 2015 Sobre Incidentes Relacionados Con Los Delitos de Odio En España”. Disponible en: http://datos.gob.es/catalogo/informe-2015-sobreincidentes-relacionados-con-delitos-de-odio-espana

Miró-Llinares, F. (2016). Taxonomía de la comunicación violenta y el discurso del odio en Internet. IDP. Revista de Internet, Derecho y Política, 22, 93-118. Disponible en: http://doi.org/10.7238/idp.v0i22.2975

Movimiento Contra La Intolerancia (2015): “Informe Raxen: Racismo, Xenofobia, Antisemitismo, Islamofobia, Neofascismo y otras manifestaciones de Intolerancia a través de los hechos”, Movimiento contra la Intolerancia. Disponible en: http://www.empleo.gob.es/oberaxe/ficheros/documentos/Raxen_Especial_2015_15.pdf.

Movimiento Contra La Intolerancia (2015): “Informe Raxen: Racismo, Xenofobia, Antisemitismo, Islamofobia, Neofascismo y otras manifestaciones de Intolerancia a través de los hechos”, Movimiento contra la Intolerancia. Disponible en: http://www.empleo.gob.es/oberaxe/ficheros/documentos/Raxen_Especial_2015_15.pdf.

Movimiento Contra La Intolerancia (2016): “Racismo, Odio e Intolerancia en Internet”, Movimiento contra la Intolerancia. Disponible en: http://www.educatolerancia.com/wp-content/uploads/2016/12/Informe-Racismo-Odio-e-Intolerancia-en-Internet.pdf.

Oleaque, J. M. (2015): “Racismo en Internet: webs, redes sociales y crecimiento internacional”, Universidad Internacional de Valencia. Disponible en: https://www.gitanos.org/upload/53/79/Informe-Racismo-Digital.pdf.

Paternoster, R. (2010). How much do really know about criminal deterrence? The Journalof Criminal Law and Criminology, 100 (3), 765-824.

Robinson, P.H. (2012). Principios distributivos del Derecho Penal: a quién debe sancionarse y en qué medida. Madrid: Marcial Pons.

Robinson, P.H. y Darley, J.M. (2003). The Role of Deterrence in the Formulation of Criminal Law Rules: At Its Worst When Doing Its Best. Georgetown Law Journal, 91, 949-953.

Roca, A., y Fullana, G. (2017). “¿Cómo combatir el discurso del odio en internet?”. Barcelona: UOC. Disponible https://www.uoc.edu/portal/es/news/actualitat/2017/152-personas-refugiadas.html.

Sosa, C. (2018): “Abascal: ‘No es lo mismo un inmigrante hispanoamericano que la inmigración de los países islámicos”, Eldiario.es. Disponible en: https://www.eldiario.es/canariasahora/sociedad/VIDEO-Abascal-Vox-hispanoamericano-inmigracion_0_761874455.html.

Tyler, T.R. (2003). Procedural justice, legitimacy, and the effective rule of law. En M. Tonry (Ed.), Crime and justice: A review of research, 431-505. Chicago: University of Chicago Press.

Tyler, T.R. (2006a). Psycohological perspectives on legitimacy and legitimation.Annual Review of Psychology, 57, 375-400.

Tyler, T.R. (2006b). Why people obey the law. Princeton: Princeton University. Tyler, T.R. (2009). Legitimacy and criminal justice: The benefits of self-regulation. Ohio State Journal of Criminal Law, 7, 307-359.