Sociální sítě v poslední době čelí stále narůstajícímu tlaku na větší dohled nad škodlivým obsahem. Proti útočným zprávám nabídne Instagram lepší filtraci zpráv a dá uživatelům nástroje k větší bezpečnosti.
Nové filtry mají být schopné filtrovat zprávy na základě zadaných urážlivých výrazů či jejich zkratek. Tyto novinky chce sociální síť představit globálně během následujících týdnů. Nejdříve se objeví ve Velké Británii, Francii, Kanadě nebo Austrálie a postupně i v dalších zemích.
Změny se týkají jen Instagramu, nikoliv Facebooku nebo aplikace WhatsApp, i když by se koncem roku podle mluvčího mohly objevit i tam. Na databázi nevhodných a urážlivých slov či spojení pracuje Facebook s organizacemi bojujícími proti diskriminaci a šikaně. Uživatelé navíc mohou přidat vlastní emoji, které chtějí sami proaktivně skrýt. Vše se dá najít v nastavení a v oblasti soukromí dále najít záložku skrytých slov a zapnout ta nevhodná.
Systém má pracovat automaticky, ale Facebook uvedl, že bude na základě slov dále databázi nevhodného obsahu vylepšovat a tím být schopný obsah rychleji a lépe filtrovat i díky algoritmům, které budou navíc autory automaticky nahlašovat. Facebook slibuje, že „pokud se objeví uživatelé, jejichž profily byly v minulosti zablokovány, dojde k další blokaci jakéhokoliv jejich nového účtu, pokud na to přijdeme.“
Právě oblast napadání a nevhodného obsahu je už terčem řady námitek i soudních pří. Vzhledem k narůstajícímu množství obsahu obecně jde o oblast, kde prostě stále algoritmy stále vše nestíhají obsluhovat a podpora nestíhá. Z nedostatečné ochrany soukromí viní úřady v USA nebo Evropě například i TikTok.
