Jak vytváříme a používáme seznamy nadávek pro jednotlivé trhy

Jak sestavujeme seznamy nadávek pro jednotlivé trhy

V našich Zásadách komunity je nadávka definovaná jako slovo, které je samo o sobě urážlivé a kterým se hanlivě označuje chráněná charakteristika. Do posuzování nadávek se zapojují různé týmy včetně týmů pro zásady, trhy a zapojení zúčastněných stran. Při vytváření těchto seznamů naše regionální týmy průběžně po kvalitativní i kvantitativní stránce analyzují vyjadřování a kulturu v dané oblasti nebo komunitě (kterou označujeme jako trh). Jde mimo jiné o způsob, jakým se dané slovo místně a hovorově používá, jak je rozšířené na našich platformách a s jakým významem ho lidé spojují. Naše týmy při tom můžou využívat znalosti dané kultury vycházející z novinových článků, akademických studií a dalšího jazykového výzkumu. Našim regionálním týmům pomáhají další experti specializovaní na naše zásady a provozní postupy. Doplněn je také kulturní kontext (novinové články, akademické články apod.) a je nutné shromáždit a posoudit minimálně padesát jednotek obsahu zahrnujících daný výraz. Po dokončení analýzy naše týmy zaměřené na zásady projdou všechny podklady poskytnuté místními trhy a obsah je posouzen podle příslušných zásad společnosti Meta. Týmy zaměřené na daný trh zodpovídají za to, aby relevantní seznamy nadávek byly maximálně vyčerpávající a aktuální.

Kromě toho analyzujeme způsoby, jakým se určitá slova používají na našich platformách, abychom určili, do jaké míry odpovídají naší definici nadávky. Z používání slov na našich platformách může například vyplývat, že je třeba posoudit některé nadávky zahrnující dříve neidentifikované varianty nebo související termíny. Abychom tyto případy identifikovali, analyzujeme používání nadávek napříč našimi platformami. Seznamy nadávek a zásady kromě toho zahrnují pokyny, za jakých okolností může být daná nadávka použita přípustným způsobem, například je-li zjevně použita ve vztahu k vlastní osobě, v alternativním významu, při diskuzi o používání nadávek, při informování o nadávkách, při odsouzení používání nadávky nebo v explicitně pozitivním významu.

Jak prosazujeme seznamy nadávek pro jednotlivé trhy

Různé národy a kultury můžou používat stejný jazyk, ale nadávky se často týkají specifické oblasti nebo komunity (kterou označujeme jako trh). Proto používáme seznamy nadávek pro jednotlivé trhy, nejen pro jednotlivé jazyky. Naši kontroloři pokrývají různé oblasti napříč mnoha jazyky (aby co nejlépe pokryli všechny dialekty) a veškeré oblasti porušení zásad. Tito kontroloři mají přiřazené fronty podle toho, na jaký jazyk a typ porušení jsou zaměření. Dokážou proto kvalifikovaně posoudit, které seznamy nadávek budou nejrelevantnější pro příslušnou frontu obsahu. Moderování obsahu se směruje tak, že se posoudí vhodný kontrolor nebo kontroloři pro daný obsah na základě jazyka i regionu. Při komplexním směrování však zpravidla hraje větší roli jazyk. Fronty pro trhy v oblasti Jižního kužele například pokrývají obsah pocházející z Chile, Uruguaye, Argentiny a Paraguaye, jehož primárním jazykem je španělština. Každý algoritmus pro řazení na daném trhu také zahrnuje podmínku nazvanou „zachytit vše“. Tato podmínka umožňuje, aby se všechny úlohy v jazyce nepřiřazeném k zemím, které pokrývá daný trh, automaticky zařadily k trhům, které jsou pro daný jazyk nejrelevantnější. Například úlohy pro francouzštinu, které mají zeměpisný původ v trhu Jižního kuželu (kam patří například Argentina), by se zařadily do fronty pro kontrolu k francouzským trhům a naopak. Když se objeví nadávka v jazyce, který se liší od ostatních částí obsahu, naše technologie pro hromadnou kontrolu ji označí jako uvedenou na seznamu nadávek pro jiný trh. Díky tomu je hromadně označena ve frontách pro všechny trhy jako výraz potenciálně porušující zásady.

Algoritmy pro řazení zohledňují jazyk i zemi, protože nadávek se můžou týkat omezení (alternativní způsoby použití, které jsou v pořádku), v souvislosti s aktuálním světovým děním a kontextem daného trhu. Kontext daného trhu je pro kontrolory důležitý při posuzování, zda se dané slovo objevuje v přípustném způsobu použití. Pokud kontext není k dispozici a není určen jiný povolený způsob použití, přikláníme se k považování obsahu za porušující.

Jak kontrolujeme a aktualizujeme seznamy nadávek pro jednotlivé trhy

Seznamy nadávek každý rok kontrolujeme. Mají to na starosti naše provozní týmy ve spolupráci s regionálními týmy pro různé trhy. Společně procházejí nadávky a posuzují, zda si dané slovo zachovává urážlivý charakter, kvůli kterému bylo na seznam zařazeno. Kromě toho doporučujeme našim regionálním týmům včetně partnerů zajišťujících hromadnou kontrolu, aby průběžně monitorovali vývoj jazyka na daném trhu a podle toho navrhovali, které nové nadávky by měly být na seznam přidány, případně která stávající slova na seznamu by měla být revidována. A nakonec se radíme se zástupci občanské společnosti a nevládních organizací o tom, která slova by měla být považována za nadávky.