Otimme yhteyttä Microsoftin kommentteihin ja Microsoftin johtava johtaja Jeff Jones antoi meille seuraavan lausunnon:
“We take matters of offensive content very seriously and continue to enhance our systems to identify and prevent such content from appearing as a suggested search. As soon as we become aware of an issue, we take action to address it.”
Päivittää: Julkaisemisen jälkeen Microsoft on työskennellyt mainitsemiensa loukkaavien Bing-ehdotusten puhdistamisessa. Tutkimustemme perusteella on vielä monia muita hyökkääviä ehdotuksia, joita ei ole vielä korjattu, mukaan lukien muutamat, jotka olemme maininneet alla. Emme ole varma, ovatko ne yksinkertaisesti korjattuja hyökkäyksellisiä kohteita, jotka mainitsimme, vai onko ne parantamaan algoritmia.
Huomautus: Kuvakaappaukset osoittavat, mitä näimme, kun kirjoitimme tämän kappaleen testaamalla Yhdysvaltain Bing-kuvahaun version Incognito-yksityisnäytöllä, mutta Bingin tulokset muuttuvat ajan myötä. Googlella ei ollut mitään näistä ongelmista testien mukaan. Tämä on Bing-ongelma, ei pelkästään hakukoneongelma. Sama ongelma vaikuttaa Bingin videohakuun.
Ensinnäkin, Bing saa erittäin rasistisen
Etsi "juutalaisia" Bing-kuvista ja Bing ehdottaa sinua etsimään "paha juutalainen". Ylimmällä tuloksella on myös meme, joka näyttää juhlivan kuolleita juutalaisia.
Kaikki tämä näkyy myös, kun Bingin SafeSearch-vaihtoehto on käytössä, koska se on oletuksena. SafeSearchin tarkoituksena on "auttaa pitämään aikuisviihdesi pois hakutuloksistasi" Microsoftin mukaan.
Me kaikki tiedämme, että tämä roska on verkossa, mutta Bing ei saa johtaa ihmisiä siihen hakuehdotuksineen.
Kirjoita "muslimit ovat" ja Bing ehdottaa, että he ovat pahoja tai terroristeja tai yksinkertaisesti ehdottavat, että he ovat tyhmät.
Voit jatkaa näin, klikkaamalla jokaista ehdotettua hakua ja nähdä huonompia ja huonompia suosituksia. Esimerkiksi klikkaamalla "Musta ihminen on tyhmä" johtaa "Mustat ihmiset ovat hyödyttömiä" ja "Miksi mustat ihmiset niin tyhmä." Klikkaamalla "Mustat ihmiset ovat hyödyttömät" johtaa "Mustat ihmiset suck" ja "I Hate Black People".
Bing työntää myös konspiraatiota, liikaa
Bingin kuvakuva vomitsee kaikenlaisia roskia, vaikka etsitään ihmisiä. Tämä ongelma ulottuu myös Bingin videohakuun.
Etsi "Michelle Obama" Bingin videohakuun ja kaksi suosituimmista hauista ovat "Michelle Obama Transgender Proof" ja "Michelle Obama on mies." Napsauta tätä, ja näet salaliitto-videoita.
Onko tämä tärkeintä, mitä Microsoft haluaa, että ihmiset näkevät, kun he etsivät Michelle Obamaia?
SafeSearch estää Pornoa, mutta ei rasismia
Häiritsevää pornografiaa koskevia ehdotuksia ja kuvia ei näytetä, ellet poista SafeSearch-toimintoa. Vaikka Microsoft sanoo, että SafeSearch ylläpitää aikuisten sisältöä hakutuloksista, SafeSearch suodattaa selkeästi pornografiaa eikä rasismia.
SafeSearch on otettu käyttöön oletuksena, mikä tekee Bingin hakutuloksista entistä paremmin kunnioitettavan.
Kuitenkin kaikille - jopa lapset - on helppo poistaa SafeSearch. Kaikkien täytyy tehdä klikkaamalla hakutulosten oikeassa yläkulmassa olevaa "SafeSearch" -vaihtoehtoa ja valitsemalla "Off". Se on se!
Yrityshenkilöverkko voidaan konfiguroida valvomaan SafeSearch-ohjelmaa, ja Microsoft tarjoaa jopa monimutkaisia ohjeita SafeSearchin toteuttamiselle yhdelle tietokoneelle. Lähes millä tahansa laitteella kuka tahansa voi poistaa SafeSearchin käytöstä kahdella klikkauksella.
Worst of All, Bing ehdottaa kuvia hevosten lapsista
Lukija kirjoitti kertoa meille, että typo etsiessään Bingä "grilli" antaa sinulle todella sketchy pornoa. Sitten ongelma tulee paljon pahempi, ja Bing ehdottaa sinua etsimään kuvia alaikäisistä lapsista.
Kun haku on "gril", sivun yläosassa ehdotukset suosittelevat etsiäksesi joitain häiritseviä asioita, kuten "Cute Girl Young 16."
Tulokset ovat täynnä nuorten näköisten mallien pornografiaa. Toivomme, että he ovat kaikki 18-vuotiaita tai vanhempia, mutta kuka voi sanoa?
Bing johdattaa sinut polulle yksinkertaisesta kirjoitusvirheestä 16-vuotiaille tytöille 10-vuotiaille tytöille, ja se on inhottavaa.
Bingin kuvien hakutulokset ovat kierretty, liian
Vaikka keskitymme hakuehdotuksiin täällä, näkyvät kuvat ovat myös häiritseviä.
Osa näistä hakutuloksista sisältää kylpy-ajan kuvia alastuvasta alaikäisestä lapsesta. Nämä valokuvat olisivat normaalisti hienoja, mutta kun ne sekoittuvat kovien aikuisten pornografian kuvia, tulokset ovat hälyttäviä.
Jopa etsiessään Bing-kuvia "tyttö", näimme ehdotuksen etsiä "humalallisia tyttöjä" ja ainakin yhden kuvan eläimistä.
Kun etsit "aasi", Bing ehdottaa sinua etsimään "Donkey Show Graphic", joka johtaa tuloksiin, joissa on täynnä eläinten kuvia. Eläinten pornografian hallussapito on laitonta Oregonissa, jossa asun. Tämä tarkoittaa, että Bing johtaa minua laittomaan pornografiaan.
Jälleen: Bingin hakutulokset ovat outoja ja kierrettyjä. Bingillä on paljon suurempi ja syvällisempi ongelma kuin vain ehdotetut haut, vaikka nämä ehdotukset tekevät ongelmasta paljon pahempaa.
Olemme kuulleet, että Bing on hakutoiminto pornografian valitsemiseksi, mutta se ei saa johtaa käyttäjiään yhä äärimmäisiin, häiritseviin ja mahdollisesti laittomaan pornografiaan.
Microsoftin on yllätettävä sen alustoja
Olemme nähneet tämän tapahtuneen yhä uudelleen. Microsoft kerran vapautti chatbot nimeltään Tay Twitterissä. Tämä chatbot muuttui nopeasti natsiin ja julisti "Hitler oli oikeassa vihaan juutalaisia" sen jälkeen, kun se on oppinut muista sosiaalisen median käyttäjistä. Microsoft joutui vetämään sitä offline-tilassa.
Olemme aikaisemmin altistaneet Windows 8: n Storesta, josta tuli Microsoftin Windows 8: n jälkeen Microsoftin käynnistämien huijausohjelmien tyhjennys ja näyttivät lopettavan sovellusten lähettämisen. Microsoft on kiinnittänyt enemmän huomiota Windows 10: n myymälään, kun ongelma oli paljastettu.
Tämä ongelma vaikuttaa jokaiseen yritykseen, joka käynnistää foorumin. Google on luopunut Google+ -palvelusta, mutta Google+ on yhä käynnissä. Joten ISIS siirtyi Google+ -palveluun sen jälkeen, kun se kiellettiin Twitterissä ja Facebookissa. Kesti muutaman kuukauden kuluttua, kunnes Hill teki. Nyt Google sulkee Google+: n sen jälkeen, kun he löysivät merkittävän tietosuojahäiriön.
Vuonna 2013 The Guardian löysi nimeltään Solid Gold Bomb -vaatekauppayhtiön, joka myy lukemaa "Keep Calm and Rape a Lot". Algoritmi oli tuottanut nämä paidat ja Amazon joutui poistamaan ne manuaalisesti.
Microsoft ei voi vain kääntää alustan irti maailmasta ja jättää sen huomiotta. Yritykset, kuten Microsoft ja Google, ovat vastuussa maltillisten alustojensa ylläpitämisestä ja kauhujen ylläpitämisestä.
Ehdotuksia on vaikeiden ongelmien historia
Tietenkään mikään Microsoftin joukko ei ole valitsemassa näitä ehdotuksia. Bing ehdottaa automaattisesti muita ihmisten hakuihin perustuvia hakuja. Tämä tarkoittaa sitä, että monet Bing Images-käyttäjät etsivät antisemitismia, rasismia, lapsipornografiaa ja petollisuutta. Ajatellaan vain siitä, että sinusta tuntuu likaiselta.
Myös muut yritykset ovat kamppaillut tämän kanssa. Vuonna 2016 The Guardian huomasi, että voit kirjoittaa "ovat juutalaisia" Googlelle, ja se viittaa siihen, että "ovat juutalaisia pahoja." Google pani nämä huonoehdotukset ulos ilmoituksensa jälkeen, mutta ongelma kääntyi uudelleen. Vuonna 2018 Wired kertoi kirjoittavansa "Hitlerin" Googlelle "Hitler on sankarini". Googlen oli korjattava nämä ongelmat, kun heidät huomautettiin.
Jopa Applen Siri esitteli verkkosivustoja työntämällä salaliitto-sivustoja ja muita väärennettyjä uutisia, kuten Buzzfeed News raportoi. Applen oli korjattava Siri. Jokainen vain juoksee ja ampuu tulipaloja, kun tietokoneet oppivat huonoja asioita huonoilta ihmisiltä.
Nyt on Microsoftin käännös. Microsoftilla on velvollisuus puhdistaa Bing. Suuri hakukone (ja erityisesti sellainen, joka muuttuu entistä kovemmaksi muuttumattomaksi oletusasetukseksi, joka on rakennettu Windows 10: een) ei saisi ehdottaa käyttäjiään etsimään rasistisia jätteitä ja kuvia alaikäisistä lapsista.
