- Algorytmy sugestii YouTube są wywoływane przez The New York Times w nowym artykule.
- Według badań przeprowadzonych przezCzasy, Algorytmy YouTube sugerują treści graniczne osobom poszukującym pedofilskich filmów.
- Co więcej, algorytmy mogą także przesuwać zawartość graniczną do tych, którzy niekoniecznie jej szukają.
Wczoraj,The New York Times opublikował alarmujący artykuł na temat tego, w jaki sposób algorytmy YouTube sugerujące nowe treści mogą nieumyślnie pomóc pedofilom. W rzeczywistości niektóre informacje zebrane z badań nad tym fragmentem sugerują, że algorytmy mogą nawet pomóc w popychaniu treści pedofilskich do tych, którzy niekoniecznie ich szukają.
Krótko po wylądowaniu artykułu YouTube opublikował nowy wpis na swoim blogu, który pośrednio dotyczy tego artykułu. W poście na YouTube firma szczegółowo opisuje działania podjęte w ubiegłym roku w celu zwalczania pedofilii na platformie, a także różne wysiłki, jakie podjęła w celu zapewnienia bezpieczeństwa dzieciom.
Jednak post na YouTube nie oferuje żadnych nowych strategii; raczej jedynie podsumowuje swoje obecne wysiłki, aby się upewnić.
W artykule, który pojawia się wThe New York Times, pisarze opowiadają historię matki, która z radością zgodziła się pozwolić swojej 10-letniej córce na opublikowanie filmu na YouTube o sobie i swojej przyjaciółce grającej w basenie na podwórku. Matka była zszokowana, gdy później odkryła, że ten film - który po prostu przedstawia dwie młode dziewczyny pływające i leżące wokół basenu w dwuczęściowych kostiumach kąpielowych - uzyskał ponad 400 000 wyświetleń.
Film stał się tak popularny częściowo dzięki algorytmom sugestii YouTube. Algorytmy te są odpowiedzialne za sugerowanie treści widzom na podstawie innych oglądanych treści. W pewnym sensie YouTube umieścił pedofilów w tym filmie przedstawiającym dzieci bawiące się w basenie.
Pedofile nie muszą wyszukiwać treści granicznych na YouTube, ponieważ YouTube po prostu im to zasugeruje.
Co więcej, brazylijski zespół badawczy stwierdził, że algorytmy YouTube mają tendencję do wypychania coraz bardziej ekstremalnych treści za pomocą swoich sugestii. Na przykład osoba może zacząć oglądać film na temat naprawy roweru, a następnie obejrzeć film przedstawiający ludzi, którzy jeżdżą na rowerze. Następnie YouTube może zasugerować, aby obejrzeli wideo awarii rowerzystów, a następnie innych pojazdów. Zanim widz się zorientuje, dostaje sugestie dotyczące przemocy i niepokojących treści - wszystkie wynikające z oglądania filmu na temat naprawy roweru.
Zobacz też: Oryginały YouTube będą bezpłatne dla wszystkich, tylko z reklamami
Podobnie wideo z basenu można połączyć z sugestywnymi treściami dla dorosłych. Osoba może zacząć oglądać treści erotyczne, ale legalne na YouTube - na przykład rolka modelki bikini.Ta treść może prowadzić do sugestii dotyczących innych treści erotycznych kostiumów kąpielowych, co stopniowo prowadzi do filmów przedstawiających coraz młodszych modelek. Ostatecznie prowadzi to do prawie pół miliona wyświetleń dwóch dziesięciolatków w basenie.
YouTube ma poważny problem, który będzie wymagał od firmy przestrzegania zasad etyki kosztem zysków.
KiedyCzasy poinformował YouTube o tym problemie dotyczącym filmu na basenie, firma usunęła kilka powiązanych filmów, ale pozostawiła wiele innych, w tym niektóre, które wyglądają na fałszywe konta. Poprawił także swoje sugestie, aby nie wyświetlały się inne treści graniczne. Jednak YouTube odmówił robienia tego celowo, twierdząc, że algorytm nadal się uczy.
Teraz w swoim blogu z odpowiedziami YouTube podkreśla niedawne wysiłki mające na celu zapewnienie bezpieczeństwa dzieciom na platformie, w tym usuwanie komentarzy z prawie wszystkich filmów z udziałem nieletnich, ograniczanie nieletnich do transmisji na żywo bez obecności osoby dorosłej w filmie oraz ograniczanie rekomendacji takich jak te opisane przezCzasy.
YouTube nie wprowadził jednak gruntownych zmian, które zapobiegłyby temu problemowi: wyłączenie sugestii dotyczących filmów z udziałem nieletnich. Mimo że YouTube jest w stanie to zrobić dość łatwo, nie uczynił tego, prawdopodobnie dlatego, że sugestie dotyczące filmów generują około 70 procent wyświetleń. Stawką jest duży dochód.
Po nieoczekiwanej popularności filmu córki matka, która go zatwierdziła, powiedziała, że nie pozwoli już córce na publikowanie czegokolwiek na platformie.
