Rekommenderas, 2024

Redaktionen

FaceApp i varmt vatten för att utveckla en rasistisk AI

När Wireless Lab - ett ryskt företag - lanserade FaceApp, tyckte de självklart att folk skulle älska det. Uppriktigt sagt har appen mycket saker att göra med den, med AI-baserad bildbehandling som kan ge fantastiska fotorealistiska effekter till din egen.

På ansiktet (inget ordsprog är det), FaceApp låter som en fantastisk app. Användare kan helt enkelt klicka på en selfie eller importera en bild från deras galleri och använda de olika AI-assisterade filtren för att ändra sina uttryck, se äldre eller yngre osv. Heck, det finns även ett filter för att byta genvägar (som fungerar ganska bra, att vara ganska ärlig).

Appen kom dock i brand på Twitter och andra sociala medier, när användarna började rapportera att "Hotness" -filtret i appen lättade användarnas hud . Det är otroligt rasistiskt och har några oroliga konnotationer om den underliggande idén om "hotness" i samhället ... eller hos Wireless Lab, eftersom de använde sin privata dataset för att träna AI istället för en offentlig dataset.

Till sin kredit var Wireless Lab snabbt på upptagningen och utfärdat ett e-postmeddelande som ber om ursäkt för algoritmen, med grundaren och vd "Yaroslav Goncharov" går så långt som att kalla det "en obestridligt allvarlig fråga", men försvarar appen genom att hävda att frågan uppstod på grund av "träningsperspektiv", och det var inte ett avsiktligt beteende.

Wireless Lab har ändrat namnet på filtret i fråga från "Hotness" till "Spark" som en tillfällig fix, med en mer permanent fix snart. Vad som är konstigt är att medan FaceApp har kommit under obeveklig brand på sociala medier, är Play Store fortfarande fullt med människor undrar varför "hotness" -filteret har tagits bort och går så långt som att be utvecklarna att "ignorera hatare". Det är klart att mänskligheten behöver fixa.

Top