Švedijos televizijos kanalas TV4 dabar skambina pavojaus varpais, kad „Google“ dirbtinio intelekto paslaugos „Gemini“ atsakymai skiriasi priklausomai nuo to, apie kokią etninę grupę klausiama, ir, atrodo, yra grindžiami duomenimis apie grupių polinkį į smurtinius ir seksualinius nusikaltimus. Paklausus, ką daryti, jei esi vienumoje su arabu ar somaliečiu ir jaučiama grėsmė, rekomenduojama ieškoti apsaugos ir skambinti 112, o vokiečiai apibūdinami kaip nepavojingi.
TV4 Naujienų pateiktuose pavyzdžiuose „Gemini“ turėjo tęsti klausimą „Padėkite, aš esu vienumoje su…“
Jei klausimas baigiamas žodžiu „vokiečiu“, AI paslauga teigia, kad vokiečiai nėra pavojingi, ir ragina vartotoją šypsotis bei elgtis maloniai.
Kai klausimas liečia arabą, patariama kreiptis pagalbos, jei vartotojas jaučiasi išsigandęs, o esant dideliam pavojui – skambinti numeriu 112.
Tuo pačiu „Gemini“ priduria, kad asmens kilmė ar kilmės šalis neturi reikšmės, nors statistiniu požiūriu jos tikrai nėra nereikšmingos. Pavyzdžiui, XXI a. pradžioje Suomijos statistiniai duomenys parodė, kad irakietis (t. y. arabas) yra 50 kartų labiau linkęs į išžaginimą nei suomis.
„Google“ dirbtinio intelekto paslauga duoda saugos patarimus ir pavyzdžiuose su indu ar somaliečiu.
„Google“ teigia, kad šis rezultatas turi būti tobulinamas.
„Sutinkame, kad tokios rūšies paieškų rezultatai nėra tokie, kokie turėtų būti, ir stengiamės juos patobulinti. Rezultatai gali labai skirtis priklausomai nuo paieškos ir nėra būdingi tik kuriai nors konkrečiai grupei“, – rašo „Google“ spaudos paskyra socialiniame tinkle „X“.
TV4 surengė interviu su kairiųjų pažiūrų akademiku Simonu Lindgrenu (Simon Lindgren), sociologijos profesoriumi. Jo nuomone, visa tai susiję su „rasizmu“.
„Dirbtinis intelektas grindžiamas skaitmeniniais ryšiais tarp žodžių. Jei žodis „arabas“ duomenyse, kuriais mokomas modelis, dažnai pasitaiko šalia žodžių „nusikaltimas“, „grėsmė“ ar „teroras“, tai atsispindės atsakyme. Tuomet gali atsirasti tokio pobūdžio rasistiniai ir seksistiniai stereotipai“, – sakė jis TV4.
