Będąca własnością Google platforma rozrywkowa YouTube podejmuje pilne kroki w celu zapewnienia bezpieczeństwa swoim młodszym użytkownikom. Nowy, oparty na uczeniu maszynowym, algorytm pomoże w skuteczniejszym klasyfikowaniu komentarzy, celem eliminowania treści wykorzystujących dzieci w wieku lat 13 i młodszych – pisze The New York Times.
Jednym z drastycznych środków, na jakie zdecydował się YouTube, jest eliminacja komentarzy do filmów z udziałem osób nieletnich, których następstwem bywa „drapieżne zachowanie” innych użytkowników – mówią eksperci z Bitdefender. Nowy algorytm zostanie wykorzystany w przypadku „dziesiątków milionów” filmów, ale w kanałach stwarzających mniejsze zagrożenie nadal wolno będzie umieszczać komentarze, tyle że pod kontrolą moderatora.
Ostatnio miały miejsce poważne incydenty, zagrażające bezpieczeństwu dzieci korzystających z serwisu YouTube – napisała na Twitterze Susan Wojcici, dyrektor generalna YouTube. – Nic dla nas nie jest ważniejsze niż zapewnienie młodym ludziom bezpieczeństwa na naszej platformie. Więcej na temat kroków, jakie podejmujemy celem skuteczniejszego chronienia dzieci i ich rodzin, można się dowiedzieć pod adresem: youtube-creators.googleblog.com.
W ciągu ostatniego tygodnia wyłączyliśmy komentarze z dziesiątków milionów filmów, które mogą być podstawą agresywnego zachowania – czytamy w oświadczeniu firmy. – Czynności nasze koncentrują się na filmach z udziałem młodszych nieletnich. W ciągu najbliższych kilku miesięcy będziemy starali się zidentyfikować filmy, które mogą być przyczyną zagrożeń i zawiesimy możliwość komentowania filmów przedstawiających zarówno młodszych, jak i starszych nieletnich.
Działania mające na celu zapewnienie bezpieczeństwa społeczności i uciszenie niepokoju wywołanego wykorzystywaniem dzieci zostały podjęte po tym, jak nagranie „dokumentujące, w jaki sposób pedofile wykorzystali komentarze – na temat filmów wideo przedstawiających dzieci – do pokierowania innymi «drapieżcami», stało się toksyczne”. Ponadto wielu czołowych reklamodawców, w tym AT&T, Disney, Nestlé i Epic Games, przestało reklamować się w serwisie YouTube po tym, jak ich reklamy były wyświetlane w filmach z nieletnimi, pod którymi pojawiały się agresywne, okazujące jawnie złe emocje komentarze – pisze The New York Times. Inne komentarze zawierały dokładne wskazanie chwil, w których na filmie pojawiają się kompromitujące obrazy.