Bing sugeruje najgorsze rzeczy, które możesz sobie wyobrazić
Jeśli użyjesz wyszukiwania obrazów Binga, zobaczysz najgorszy brud jaki możesz sobie wyobrazić. Bing sugeruje rasistowskie terminy i pokazuje przerażające obrazy. Bing zaproponuje nawet wyszukiwanie wyzyskiwanych dzieci, jeśli filtr SafeSearch jest wyłączony.
Skontaktowaliśmy się z Microsoft w celu uzyskania komentarza, a Jeff Jones, starszy dyrektor w Microsoft, wydał następujące oświadczenie:
"Poważnie podchodzimy do spraw obraźliwych treści i nadal ulepszamy nasze systemy, aby zidentyfikować i zapobiec wyświetlaniu takich treści jako sugerowanego wyszukiwania. Jak tylko dowiemy się o problemie, podejmujemy działania w celu jego rozwiązania. "
Aktualizacja: Od czasu publikacji, Microsoft pracuje nad oczyszczeniem ofensywnych sugestii Bing, o których wspomnieliśmy. Na podstawie naszych badań istnieje wiele innych obraźliwych sugestii, które nie zostały jeszcze naprawione, w tym kilka, które wymieniliśmy poniżej. Nie jesteśmy pewni, czy po prostu naprawiają wskazane przez nas przedmioty ofensywne, czy też ulepszają algorytm.
Uwaga: Zrzuty ekranu pokazują tutaj, co widzieliśmy, gdy pisaliśmy ten artykuł, testując amerykańską wersję wyszukiwania Bing Image podczas sesji przeglądania prywatnego incognito, ale wyniki Bing zmieniają się z czasem. Według naszych testów Google nie miał żadnego z tych problemów. To jest problem Bing, a nie tylko problem z wyszukiwarką. Ten sam problem dotyczy wyszukiwania filmów Bing.
Po pierwsze, Bing Gets Super Racist
Szukaj "żydów" w Bing Images, a Bing sugeruje, że szukasz "Żyda zła". Najlepsze wyniki obejmują także mem, który pojawia się, by świętować zmarłych Żydów.
Wszystko to pojawia się nawet wtedy, gdy opcja Bing's SafeSearch jest włączona, tak jak jest domyślnie. Filtr SafeSearch został zaprojektowany, aby "pomóc w usuwaniu treści dla dorosłych z wyników wyszukiwania", twierdzi Microsoft.
Kliknięcie tego sugerowanego wyszukiwania uwalnia torrenty rasistowskich, antysemickich treści, z bardziej sugerowanymi wyszukiwaniami, takimi jak "Żydowscy ludzie są złem", "Zła żydowska rasa" i "Dlaczego Żydzi są tak źli".
Wszyscy wiemy, że ten śmieć istnieje w sieci, ale Bing nie powinien prowadzić ludzi do niego z sugestiami wyszukiwania.
Wpisz "muzułmanie są" i Bing zasugeruje, że są złymi lub terrorystami, lub po prostu sugerują, że są głupi.
Wyszukaj "czarni ludzie", a Bing zasugeruje, że czarni są brzydcy, głupi, rasistowscy, a nawet dzicy.
Możesz kontynuować tak, klikając każde sugerowane wyszukiwanie i widząc gorsze i gorsze rekomendacje. Na przykład kliknięcie "Czarni ludzie są głupi" prowadzi do "Czarni ludzie są bezużyteczni" i "Dlaczego czarni są tak głupi". Kliknięcie "Czarni ludzie są bezużyteczni" prowadzi do "Czarnych ludzi ssie" i "Nienawidzę czarnych ludzi".
Bing popycha konspiracje, Too
Wyszukiwarka obrazów Bing wymiotuje wszystkie rodzaje śmieci, nawet podczas wyszukiwania osób. Ten problem dotyczy także wyszukiwania wideo Binga.
Wyszukaj "Michelle Obama" w wyszukiwarce filmów Binga, a dwie z najpopularniejszych sugerowanych wyszukiwań to "Michelle Obama Transgender Proof" i "Michelle Obama to człowiek". Kliknij to, a zobaczysz filmy z konspiracji.
Jest to najważniejsza rzecz, którą Microsoft chce, aby ludzie zobaczyli, gdy szukają Michelle Obamy?
SafeSearch blokuje porno, ale nie jest rasizmem
Niepokojące sugestie i obrazy dotyczące pornografii nie są wyświetlane, chyba że wyłączysz filtr SafeSearch. Podczas gdy Microsoft twierdzi, że SafeSearch będzie przechowywać treści dla dorosłych poza wynikami wyszukiwania, filtr SafeSearch wyraźnie filtruje pornografię, a nie rasizm.
Filtr SafeSearch jest domyślnie włączony, dzięki czemu wyniki wyszukiwania Binga na pierwszy rzut oka wydają się bardziej szanowane.
Jednak wyłączenie SafeSearch jest łatwe dla każdego, nawet dla dzieci. Musisz tylko kliknąć opcję "SafeSearch" w prawym górnym rogu wyników wyszukiwania i wybrać "Off". To wszystko!
Sieć korporacyjna może zostać skonfigurowana w celu wymuszenia stosowania SafeSearch, a firma Microsoft zapewnia nawet złożone instrukcje wymuszania SafeSearch na jednym komputerze. Ale na prawie każdym urządzeniu każdy może wyłączyć filtr SafeSearch za pomocą dwóch kliknięć.
Najgorszy z wszystkiego, Bing sugeruje wyszukiwanie obrazów dzieci niepełnoletnich
Czytelnik napisał, aby powiedzieć nam, że literówka podczas wyszukiwania Binga na "grilla" daje naprawdę szkicowe porno. Problem staje się wtedy znacznie gorszy, ponieważ Bing sugeruje, że szukasz obrazów nieletnich dzieci.
Szukając "gril", sugestie na górze strony zalecają poszukiwanie niepokojących rzeczy, w tym "Cute Girl Young 16".
Jeśli to klikniesz, sugeruje "Cute Girl Young 12", "Cute Girl Young 10" i "Little Girl Modeling Provocatively".
Rezultaty są wypełnione pornografią młodych modeli. Mamy nadzieję, że wszyscy mają 18 lat lub więcej, ale kto może powiedzieć?
Bing prowadzi cię ścieżką od zwykłego literówki do 16-letnich dziewcząt do 10-letnich dziewcząt, a to jest obrzydliwe.
Inne przykłady są łatwe do znalezienia. Jeśli szukasz "pizzy serowej", która jest 4chan slang dla pornografii dziecięcej, Bing sugeruje "Cheese Pizza Girls".
Wyniki wyszukiwania obrazów Binga są skręcone, zbyt
Podczas gdy my skupiamy się na sugestiach wyszukiwania tutaj, rzeczywiste obrazy, które się pojawiają, również są niepokojące.
Niektóre z tych wyników wyszukiwania zawierają zdjęcia nagich nieletnich dzieci. Te zdjęcia normalnie by były dobre, ale gdy są zmieszane z obrazami hardcorowej pornografii dla dorosłych, wynikowe wyniki wyszukiwania są alarmujące.
Nawet podczas wyszukiwania Bing Images dla "dziewczyny" widzieliśmy sugestię, aby wyszukać "pijane dziewczyny" i co najmniej jeden obraz bestialstwa.
Szukając "osła", Bing sugeruje wyszukanie "Grafiki osła", która prowadzi do wyników pełnych obrazów z bestialstwa. Posiadanie pornografii z bestialstwem jest nielegalne w Oregonie, gdzie mieszkam. To oznacza, że Bing prowadzi mnie do nielegalnej pornografii.
Znowu: wyniki wyszukiwania Binga są dziwne i skręcone. Bing ma o wiele większy, głębszy problem niż tylko sugerowane wyszukiwania, mimo że sugestie te znacznie go pogarszają.
Słyszeliśmy, że Bing jest wyszukiwarką z wyboru dla pornografii, ale nie powinna prowadzić użytkowników do coraz bardziej ekstremalnej, niepokojącej i potencjalnie nielegalnej pornografii.
Microsoft musi moderować swoje platformy
Microsoft musi lepiej moderować Bing. Microsoft wcześniej stworzył platformy, rozpętał je na świecie i zignorował je, kiedy się nie sprawdzały
Widzieliśmy to wielokrotnie. Microsoft raz uwolnił chatbota o imieniu Tay na Twitterze. Ten chatbot szybko przekształcił się w nazistę i oświadczył: "Hitler miał rację, nienawidzę żydów" po tym, jak dowiedział się od innych użytkowników mediów społecznościowych. Microsoft musiał ją przenieść w tryb offline.
Wcześniej ujawniliśmy, że Windows 8's Store, który stał się szumowiną aplikacji oszustw po tym, jak Microsoft uruchomił Windows 8, przestał moderować składanie aplikacji. Microsoft zwracał większą uwagę na Sklep Windows 10 po ujawnieniu tego problemu.
Ten problem dotyczy każdej firmy, która uruchamia platformę. Google zrezygnowało z Google+, ale Google+ nadal działa. ISIS została przeniesiona do Google+ po zablokowaniu na Twitterze i Facebooku. Upłynęło wiele miesięcy, zanim ktokolwiek zauważył, aż do The Hill. Teraz Google zamyka Google+, gdy wykryto znaczny błąd prywatności.
W 2013 roku The Guardian znalazł firmę odzieżową o nazwie Solid Gold Bomb, która sprzedała koszulki Amazon "Keep Calm and Rape lot". Algorytm wygenerował te koszulki i Amazon musiał je ręcznie usunąć.
Microsoft nie może po prostu zmienić platformy na świecie i zignorować ją. Firmy takie jak Microsoft i Google są odpowiedzialne za moderowanie swoich platform i trzymanie horroru na dystans.
Sugestie mają historię poważnych problemów
Oczywiście nie ma zespołu ludzi w Microsofcie wybierającego te sugestie. Bing automatycznie sugeruje wyszukiwanie na podstawie wyszukiwań innych osób. Oznacza to, że wielu użytkowników Bing Images szuka antysemityzmu, rasizmu, pornografii dziecięcej i bestialstwa. Samo myślenie o tym sprawia, że czujesz się brudny.
Inne firmy również borykały się z tym problemem. W 2016 roku The Guardian zauważył, że możesz wpisać "są żydami" w Google i sugerowałoby to "są źli żydzi". Google zgłosił te złe sugestie po ich zgłoszeniu, ale problem powrócił. W 2018 r. Wired zgłosił, że wpisanie "Hitler jest" w Google doprowadziło do "Hitler jest moim bohaterem". Google musiał naprawić te problemy po tym, jak zostały one wskazane..
Nawet firma Siri zasugerowała, że strony internetowe pchały spiskowe strony internetowe i inne fałszywe wiadomości, o czym donosiła Buzzfeed News. Apple musiał naprawić Siri. Wszyscy po prostu biegają i gasią pożary, gdy komputery uczą się złych rzeczy od złych ludzi.
Teraz kolej Microsoft. Microsoft ma obowiązek oczyścić Bing. Główna wyszukiwarka (a zwłaszcza ta, która coraz częściej staje się trudniejszym do wyłączenia domyślnym wbudowanym w Windows 10) nie powinna sugerować, że jej użytkownicy wyszukują rasistowskie śmieci i obrazy nieletnich dzieci.
Image Credit: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.
