Instagram přichází s novinkou. Rodiče konečně dostanou upozornění na nevhodný obsah u svých dětí
Instagram zavádí nové upozornění. Rodiče získají kontrolu nad nevhodným obsahem u dětí.
Zdroj: Shutterstock
Instagram slibuje rodičům větší přehled o tom, co jejich děti hledají, když jsou na dně. Nové upozornění má odhalit opakované vyhledávání výrazů spojených se sebevraždou nebo sebepoškozováním. Jenže část odborníků varuje, že tím Meta může spíš přilít olej do ohně.
Instagram se chystá zavést novinku, která může rodičům doslova zvednout tlak v žilách. Pokud jejich dospívající dítě bude v krátké době opakovaně vyhledávat výrazy spojené se sebevraždou nebo sebepoškozováním, přijde jim upozornění přímo od společnosti Meta. Podle firmy má jít o způsob, jak rodiče včas přivést k dítěti ve chvíli, kdy se potýká s vážnými psychickými potížemi.
Na první pohled to zní jako rozumná pojistka. Meta připomíná, že Instagram už delší dobu blokuje vyhledávání nejnebezpečnějšího obsahu a uživatele přesměrovává k odborné pomoci, teď ale chce udělat další krok a přizvat do hry rodiče. Upozornění má přijít až ve chvíli, kdy algoritmy zachytí opakované dotazy, které jasně naznačují, že teenager přemýšlí o tom, že si ublíží.
Cílem je zajistit bezpečnost mladistvých
Rodiče zapojení do tzv. Teen účtů mají být o novince informováni jako první ve Spojených státech, Velké Británii, Austrálii a Kanadě. Zbytek světa má podle Mety přijít na řadu později, navázaný na stejné dohledové nástroje pro rodiče. Upozornění se bude posílat e‑mailem, SMS, přes WhatsApp nebo přímo v aplikaci, podle toho, jaký kontakt má firma u rodiny uložený.
Součástí zprávy nemá být jen strohé varování, ale i přístup k materiálům od odborníků, které mají rodičům pomoct zvládnout těžký rozhovor s dítětem. Meta zdůrazňuje, že cílem je doplnit jejich stávající ochranné prvky a vyvážit potřebu rychlé reakce s tím, aby se upozornění neposílala zbytečně často.
Firma sama připouští, že někdy může notifikace dorazit i v situaci, kdy nakonec nejde o vážné ohrožení, raději ale volí opatrnější přístup. Právě tady se ale láme chleba. Nadace Molly Rose, kterou založila rodina čtrnáctileté Molly Russellové po její sebevraždě spojené s prohlížením škodlivého obsahu na sociálních sítích, považuje novinku za riskantní.
Podobně skepticky se staví i otec Molly Russellové Ian, který varuje, že si neumí představit, jak by rodič na takovou zprávu zareagoval uprostřed pracovního dne. Připouští, že podpora v materiálech od odborníků je lepší než nic, ale v momentu prvotního šoku to podle něj sotva stačí. Část organizací proto Metu obviňuje, že tím jen přenáší odpovědnost na rodiny a vyhýbá se hlubší změně fungování vlastních algoritmů.
Odborníci varují před škodlivým obsahem
Na to navazuje i další kritika. Zástupci několika charit, včetně Nadace Molly Rose, připomínají, že Instagram podle jejich dřívějších testů stále aktivně doporučuje zranitelným mladým lidem obsah spojený s depresí, sebepoškozováním nebo sebevraždou. Podle nich by Meta měla v první řadě zatočit právě s tímto doporučovacím systémem, místo aby oznamovala další novotu, která působí spíš jako dobře načasované PR.
Meta tato zjištění odmítá a tvrdí, že analýzy nadace její úsilí zkreslují. Firma mluví o novém upozornění jako o správném startu, od kterého se chce odrazit a vyladit, kdy a komu přesně se má zpráva posílat. Podporu získala třeba od odborníka na kyberšikanu Sameera Hinduji, který zdůrazňuje, že zásadní nebude samotné upozornění, ale kvalita návodů, které rodiče dostanou spolu s ním.
Meta zároveň přiznává, že svět teenagerů se posouvá i směrem k konverzacím s umělou inteligencí. Proto plánuje podobná varování i pro situace, kdy mladí lidé budou o sebevraždě nebo sebepoškozování psát přímo jejímu chatbotovi. Podle firmy se totiž čím dál víc dětí obrací o podporu právě k chytrým asistentům.
Tlak na velké sociální sítě ale neklesá. Například Austrálie už zakázala přístup na sociální média dětem mladším než 16 let a Španělsko, Francie či Británie zvažují podobná omezení. Regulační úřady i politici si zároveň podrobně berou pod lupu, jak velké technologické firmy zacházejí s mladými uživateli, a šéfové Mety Mark Zuckerberg a Adam Mosseri už kvůli obviněním z cílení na děti museli před soud.