Digitální doba a hrozby pro lidská práva

Publikováno 15. 03. 2022

Nové technologie a přístupy ke komunikaci přináší i riziko porušování lidských práv způsoby, které nemusí být snadno odhalitelné a není tak jednoduché je sankcionovat jako jejich porušování v offline světě.

Oblast lidských práv historicky čelí neustálému vývoji společnosti, hodnot a životního stylu. 20. století bylo důkazem těchto změn, které v posledních dekádách spíše ještě zrychlují, lidská práva, jejich podoba a hranice tak čelí stále novým výzvám, novým druhům hrozeb a možností, jak práva lze porušit. V současném světě se značná část životů lidí odehrává v online prostředí za využití digitálních nástrojů komunikace, toto prostředí však vedle usnadnění mnoha aspektů života přináší i nová rizika, která mohou narušovat integritu lidských práv jednotlivců.

Avšak možnosti odhalení a postižení takového jednání oproti „offline světu“ zatím často zdaleka nejsou stejné – samotné naše pochopení problémů, legislativa i státní instituce mnoha zemí, včetně České republiky, na tuto reflexi často ještě nejsou připraveny. V současné době je totiž stále pro mnoho lidí i institucí, které mají agendu lidských práv a boje proti diskriminaci na starost, těžko představitelné dávat na stejnou úroveň nenávistné jednání v „offline“ světě jako v online prostředí a vnímat ho se stejnou vážností.

Je tedy třeba reagovat na tuto urgentní výzvu – analyzovat online prostředí setkávání lidí, abychom zjistili, jakým způsobem v něm dochází k porušování lidských práv, zda toto prostředí sleduje trendy v diskriminaci určitých ohrožených skupin, které známe ve fyzickém světě, a jaké nástroje může společnost začít využívat, aby mohla lidská práva efektivně chránit.

Why we pursue this project

New technologies and means of communication also bring a risk of breaching the human rights in ways, that might not be so simple to expose and is not easy to sanction like their breaching in the offline world.

The field of human rights is historically under pressure of the constant evolution of the society, values and lifestyle. The 20^th century was a proof of these changes, which have been rather accelerating during the last decades, human rights, their form and boundaries face new challenges, new kinds of threats and ways to breach them all the time. In today’s world, a big part of people’s live is taking place in online environment using digital tools of communication, but besides making a lot of life aspects easier, there also bring new dangers, that can violate the integrity of the individual human rights.

But the chances of uncovering and sanctioning such actions unlike the „offline world“ are often still very different – our perception of the problems itself, legislation and national institution of number of countries, including the Czech Republic, are often not yet ready for such a reflection. In this time, for many people and institutions, which have the human rights and fight against discrimination on their agenda, it’s still very difficult to imagine putting the hate crime in „offline“ and „online“ world on the same level and treating it with the same importance.

Thus it is necessary to respond to this urgent challenge – analyze the online environment, where people meet, so we can find out in which ways the violation of human rights happens in there, if this environment follows the trends in discrimination of certain vulnerable groups, that we know from the physical world, and what tools can the society start using, so it might protect human rights effectively.

Projekt tak vycházel z této výzvy a dal si za cíl odpovědět na ni aktivitami, které odkryjí dění v prostředí sociálních sítí. K tomu využíval odbornost a zkušenosti TI v oblasti sémantické, algoritmické a finanční analýzy online sociálních sítí pro identifikaci jednání a způsobů komunikace v digitálním světě, které odhalují porušování lidských práv, a to především u zranitelných sociálních skupin, jako jsou etnické menšiny a ženy.

Cílem bylo zjišťovat, zda jsou tyto skupiny vystaveny manipulativnímu a diskriminujícímu jednání v online prostředí podobně, jako jsou mu vystaveny v běžném světě, a odhalit, do jaké míry jsou např. etnické či genderové stereotypy využívány při přesvědčovacích, manipulativních strategiích na sociálních sítích, např. v politickém mikrotargetingu (zacílení příspěvků „na míru“ určité sociální skupině) při předvolebních kampaních či předsudečnému násilí z nenávisti.

Důležitou součástí projektu bylo partnerství s dalšími organizacemi, které přinášely svou odbornost a vhled do jednotlivých aspektů problematiky, ať už z technického nebo obsahově-společenského hlediska. V ČR jimi byly Fórum 50 %, Masarykův ústav vyšších studií ČVUT v Praze a Multikulturní centru Praha, v Norsku byla partnerem organizace Åpenhet.

What do we do

The project was based on this challenge and set itself the goal of responding to it with activities that would uncover what was happening in the social network environment. To do this, it used TI’s expertise and experience in the field of semantic, algorithmic and financial analysis of online social networks to identify actions and ways of communication in the digital world that reveal human rights violations, especially among vulnerable social groups such as ethnic minorities and women.
The goal was to determine whether these groups are exposed to manipulative and discriminatory actions in the online environment in a similar way to how they are exposed in the ordinary world, and to reveal to what extent, for example, ethnic or gender stereotypes used in persuasive, manipulative strategies on social networks, e.g. in political microtargeting (targeting contributions „tailored“ to a certain social group) in election campaigns or prejudiced hate violence.

An important part of the project was the partnership with other organizations that brought their expertise and insight into individual aspects of the issue, whether from a technical or content-social perspective. In the Czech Republic, these were the Forum 50 %, Masaryk institute of advanced studies of the Czech Technical University in Prague and Multicultural centre Prague, in Norway, the partner was the organization Åpenhet.

Na začátku projektu byla vypracována metodika, na kterou navázal výzkum, který měl mimo jiné za cíl jak kategorizaci útoků v onlinu, tak i vysledování jejich vzniku a mechanismu přerodu nenávistných projevů v uzavřených online komunitách v útok vůči konkrétním osobám. Na základě tohoto vznikla Analýza etnicky podmíněných nenávistných projevů v online prostoru.

Důležitým výstupem byla také příručka Jak se vypořádat s nenávistnými projevy v online prostoru. Příručka je praktickým průvodcem problematikou nenávistných projevů, především v online prostředí. Dočtete se v ní mimo jiné, co můžete dělat, jaká máte práva a možnosti obrany v případě, že se s nenávistnými útoky setkáte – ať už jste přímo napadenou/napadeným, či tomuto jevu přihlížíte.

V neposlední řadě vznikl také policy paper Genderově podmíněné nenávistné online projevy vůči ženám ve veřejném prostoru. A co s nimi, který obsahuje mimo jiné také seznam doporučení pro decision-makery, a byl připraven sylabus k výukovému předmětu “Společenská rizika moderních komunikačních technologií”, který byl vyučován na MÚVS ČVUT od jarního semestru 2024.

V lednu 2024 proběhla také veřejná debata o nenávistných projevech v prostředí internetu a sociálních sítí směřovaných k veřejně aktivním ženám. Jak tyto projevy vypadají? Jak se s nimi vypořádávat? A kde vyhledat pomoc? Na to odpovídali Lenka Bradáčová, vrchní státní zástupkyně, Apolena Rychlíková, novinářka a režisérka, a Libor Vávra, prezident Soudcovské unie ČR. Debatou provázela novinářka Zuzana Tvarůžková.

K projektu vznikla také doprovodná webová stránka, která shrnuje všechny výstupy projektu.

What we achieved

At the beginning of the project, a methodology was developed, which was followed by research, which aimed, among other things, at both the categorization of online attacks and tracing their origin and the mechanism of the transformation of hate speech in closed online communities into attacks against specific individuals. Based on this, the Analysis of Ethnically-Based Hate Speech in the Online Space was created.

Another important output was the handbook How to Deal with Hate Speech in the Online Space. The handbook is a practical guide to the issue of hate speech, especially in the online environment. Among other things, you will read in it what you can do, what your rights are and the possibilities of defense if you encounter hate attacks – whether you are directly attacked or are observing this phenomenon.

Last but not least, a policy paper Gender-based online hate speech against women in public spaces was also created. And what about them, which also includes a list of recommendations for decision-makers, and a syllabus was prepared for the course “Social Risks of Modern Communication Technologies”, which was taught at the MÚVS CTU from the spring semester of 2024.

In January 2024, a public debate was also held on hate speech on the Internet and social networks directed at publicly active women. What does this speech look like? How to deal with it? And where to seek help? Lenka Bradáčová, Chief State Prosecutor, Apolena Rychlíková, journalist and director, and Libor Vávra, President of the Judges‘ Union of the Czech Republic, answered this. The debate was moderated by journalist Zuzana Tvarůžková.

An accompanying website was also created for the project, which summarizes all the project outputs.

Ke stažení/Downloads:

Webová stránka – česká verze: www.nenavistnasitich.cz

Webová stránka – anglická verze: online-hate.com

Období realizace: 1. 1. 2022 – 30. 4. 2024

Projekt byl realizován díky grantu z Norských fondů 2014-2021 a od Ministerstva financí ČR.

Period of implementation: 1.1.2022 – 30.4.2024

The project was implemented thanks to financial support from the Norway Grants 2014-2021.