TikToki AI-avatari probleem: kuidas võltsitud mustanahalisi naisi kasutatakse eksplitsiitset sisu müümiseks

Uurimine, mis sundis TikToki tegutsema

Siin on lause, mida ei peaks 2026. aastal lugema: kümneid sotsiaalmeediakontosid on kasutanud tehisintellektiga loodud seksualiseeritud mustanahaliste naiste avatare, et suunata kasutajaid tasulise eksplitsiitse sisu juurde. Ometi, vastavalt BBC News Arabic'u uurimisele, mis avaldati sel nädalal, on see täpselt see, mis on toimunud TikTokis ja Instagramis, suures osas kontrollimatult, kuni ajakirjanikud hakkasid küsimusi esitama.

BBC, töötades koos sõltumatu tehisintellekti väljaandega Riddance ning analüütikute Jeremy Carrasco ja Angel Nulaniga, tuvastas väidetavalt ligikaudu 60 kontot, mis kuvavad tehisintellektiga loodud mustanahaliste naiste avatare mõlemal platvormil. Need ei olnud varjatud süvavõltsingud, mis peideti interneti pimedate nurkade taha. Need kogusid miljoneid vaatamisi.

Varastatud sisu, sünteetilised näod

Uurimine toob esile eriti kurva tehnika. BBC andmetel väidetavalt varastati Malaisia-põhise modelli, keda tuntakse Riya Ulanina, videosisu ja manipuleeriti sellega: tema algsetele liigutustele pandi peale tehisintellektiga loodud tumedanahaline nägu. Tulemus? Väljamõeldud isik, kes esineb päris looja kehas.

BBC raporteeritud numbrid on rabavad, kuigi neid on raske iseseisvalt kontrollida. Üks manipuleeritud video saavutas väidetavalt 35 miljonit vaatamist TikTokis ja 173 miljonit Instagramis, mis on ligikaudu 47 korda rohkem kaasatust kui Riya algseil postituseil. Üks konto kogus väidetavalt 3 miljonit TikToki jälgijat mõne nädalaga pärast selle loomist detsembris. See ei ole orgaaniline kasv. See on algoritmide raketikütus.

Nimede süsteem, mis ütleb kõik

Kontod ei üritanud isegi varjata, mida nad tegid. Uurimise kohaselt lisasid paljud oma nimedesse otseselt rassilisi termineid nagu 'black', 'noir', 'dark' ja 'ebony'. See on kooskõlas laiema uurimistööga, mis näitab, et fraasid nagu 'AI Generated Black Women' ja 'Black Women Baddies AI' on muutunud TikToki enda avastuslehtedel aktiivseteks otsikategooriateks.

Nendelt kontodelt viivad lingid tasulise seksuaalselt eksplitsiitse sisu saitidele. Oluline on märkida, et sihtkohasaidid märgistasid materjali tehisintellektiga looduna, kuid seda reklaamivad sotsiaalmeediaplatvormid seda ei teinud. Mugav väljajätmine, võiks öelda.

Platvormide vastused: tuttav käsikiri

TikTok keelas 20 kontot pärast seda, kui BBC võttis ühendust. Mitte enne. Pärast. Platvorm teatas, et keelustab tehisintellektiga loodud sisu, mis kujutab isikuid ilma nende loata, ning tal on 'nulltolerants' platvormivälist seksuaalteenust reklaamiva sisu suhtes. Mitmed uurimused, sealhulgas The Bureau of Investigative Journalism'i ja Media Matters'i omad, on dokumenteerinud üsna suure lõhe TikToki deklareeritud poliitikate ja tegeliku täitmise vahel.

Meta vastus oli veelgi vähem veenev. BBC teatas, et ettevõte ütles, et uurib asja, kuid ei võtnud viivitamatuid meetmeid. Üheksa Instagrami kontot kadusid hiljem, kuigi ajakava ja põhjused jäävad ebaselgeks. Riddance'i varasem uurimine leidis, et 23 Instagramis raporteeritud videost eemaldas Meta vaid ühe.

Rohkem kui sisuprobleem

Maroko modell ja sisulooja Houda Fonone kirjeldas seda trendi kui autentsete mustanahaliste naiste representatsiooni 'kustutamist' veebis. Tal on õigus. See ei puuduta lihtsalt kahtlast tehisintellekti sisu. See asub palju laiemas dokumenteeritud mustris, mis ulatub tagasi vähemalt 2025. aasta keskpaika, alates Google'i Veo 3-st, mis võimaldas nn 'Bigfoot Baddie' trendi, kuni tehisintellektiga loodud võltsvideoteni, mida Fox News ekslikult päriseks pidas.

Nagu Brookingsi Instituudi teadlane Nicol Turner Lee on märkinud, on siin kurb ajalooline pretsedent. Orjanduse ajal moonutati mustanahalisi inimesi illustratsioonides tahtlikult, rõhutamaks väidetavaid alginstinkte. 5000 tehisintellekti viipa ülevaade leidis, et 68% väljunditest toetus stereotüüpidele. Tehnoloogia on uus. Rassism ei ole.

Kokkuvõte

Sotsiaalmeediaplatvormidel on vahendid selle sisu ennetavaks tuvastamiseks ja eemaldamiseks. Nad lihtsalt ei vali seda teha, kuni ajakirjanik neile helistab. See ei ole modereerimine. See on suhtekorraldus.

Loe algset artiklit allikast.