Instagram wykorzysta sztuczną inteligencję do walki z nękaniem użytkowników

O nowych działaniach planowanych przez Instagram Adam Mosseri, szef tego należącego do Facebooka serwisu poinformował na stronie internetowej podkreślając przy tym, że misją Facebooka jest umożliwianie użytkownikom budowania społeczności i zbliżanie ludzi z całego świata.

- Ten cel jest możliwy do osiągnięcia tylko wtedy, gdy czują się bezpiecznie na wszystkich naszych platformach. Dlatego na Instagramie wprowadzamy dwa nowe narzędzia ograniczające przypadki nękania oraz dające użytkownikom możliwość reakcji i ochrony, gdy do nękania jednak dojdzie - wyjaśnił Mosseri.

Według zapowiedzi pierwsza z planowanych nowych funkcji wykorzystuje uczenie maszynowe, które do tej pory pomagało przede wszystkim wykrywać przypadki nękania w opublikowanych już komentarzach, zdjęciach i filmach.

Dzięki sztucznej inteligencji Instagram ma zwrócić uwagę tym użytkownikom, którzy chcą napisać obraźliwy komentarz, jeszcze zanim zostanie on opublikowany. Obserwacje prowadzone podczas wczesnych testów tej funkcji pokazują, że część osób wykorzystuje tę szansę i nie publikuje obraźliwych treści. Zatem generowane przez AI ostrzeżenia będą miały charakter prewencyjny, i dzięki nim na Instagramie może zmniejszyć się liczba hejterskich i nienawistnych treści.

Z kolei druga z zapowiadanych funkcji według Mosseriego da większe możliwości reakcji ofiarom nękania. Będą one mogły ograniczyć interakcje z wybraną osobą. Komentarze takiej osoby, o ile nie zostaną zaakceptowane, będą widoczne tylko dla niej samej. Taki użytkownik nie będzie też widział czy ofiara nękania jest aktualnie dostępna, ani czy odczytała wiadomości.

Według zapowiedzi pierwsze z opisanych rozwiązań będzie niebawem stopniowo widoczne na platformie, druga funkcja natomiast wkroczyła obecnie w fazę testów i na razie nie podano kiedy zostanie szeroko udostępniona użytkownikom.

W I kwartale 2019 roku Facebook zanotował przychód na poziomie ponad 15 mld dol., a zysk netto sięgnął 2,4 mld. Liczba użytkowników odwiedzających co miesiąc społecznościowy portal to obecnie blisko 2,4 mld.