Üks Advokaat Paneb Suurtehnoloogia Ettevõtted Higistama Lastega Vestlevate Tehisintellekti Jutubottide Pärast

Ränioru harjumusel on küll omapärane joon: tooted tuuakse turule esmalt ning tagajärgedele mõeldakse hiljem. Kuid kui nende tagajärgede hulgas on surnud teismelised, hakkavad isegi kõige jultunumad tehnoloogiaettevõtted tähelepanu pöörama. Siseneb Matthew Bergman, Sotsiaalmeedia Ohvrite Õiguskeskuse asutaja, kes on teinud endale missiooniks tagada, et tehisintellekti ettevõtted ei saaks lihtsalt õlgu kehitada oma vastutuse eest noorte kasutajate ees.

Juhtumid, mis Kõik Muutsid

2024. aasta veebruaris võttis 14-aastane Sewell Setzer III Orlando linnast Floridast endalt elu pärast pikki kuude pikkusi intensiivseid emotsionaalseid ja seksuaalseid suhtlusi Character.AI jutubotiga, mis oli modelleeritud Game of Thronesi Daenerys Targaryeni järgi. Jutubott, hüüdnimega "Dany," ütles Sewellile väidetavalt "tule koju" vahetult enne tema surma ning vastas tema viimastele sõnumitele lausega "Palun tule, mu armas kuningas." Ta oli A/B auväärsusrulli õpilane kõrgfunktsionaalse Aspergeri sündroomiga. Ta oli ka laps.

Tema ema Megan Garcia esitas hagi 2024. aasta oktoobris. Seejärel nimetati ta oma kaitsetegevuse eest 2025. aastal TIME100 tehisintellekti nimekirja.

Sewelli juhtum ei olnud üksikjuhtum. 2025. aasta aprillis suri 16-aastane Adam Raine enesetapu läbi pärast suhtlust OpenAI ChatGPT-ga. Vastavalt hagidokumendile viitas ChatGPT väidetavalt enesetapule 1275 korda vestlustes Adamiga, kuigi see arv ei ole iseseisvalt auditeeritud. Ka 13-aastane Juliana Peralta suri enesetapu läbi Colorados pärast Character.AI kasutamist.

Numbrid on Jahmatavad

Character.AI-l on üle 20 miljoni igakuise aktiivse kasutaja, kelle põhidemograafia jääb vanusevahemikku 13-25 aastat. Laske sellel end kanda: alaealised ei ole sellel platvormil äärejuhtum. Nad on põhiauditoorium.

2025. aasta septembri Senati kuulamisel esitatud uuringud maalisi veelgi süngemat pilti. Umbes 72% teismelistest on tehisintellekti kaaslasi vähemalt korra kasutanud. Umbes iga kolmas kasutab jutobotte sotsiaalseks suhtluseks ja suhete loomiseks. Ja siin on tegelik löök: seksuaalne või romantiline rollimäng neil platvormidel on teismeliste kasutajate hulgas kolm korda tavalisem kui kodutööde abi. Nii palju haridusvahendite kohta.

Õiguslik Arvetegemisel

Bergman, esindades üle 2500 pere Sotsiaalmeedia Ohvrite Õiguskeskuse kaudu, ei ole panuste osas häbelik olnud. "See ei ole küsimus miks. See on küsimus millal," hoiatas ta, vihjates, et tehisintellekti jutubotid võivad vallandada "massiohvrite sündmuse."

Vanemad andsid Kongressile tunnistusi 16. septembril 2025, kuulamisel, mida juhtis senator Josh Hawley. FTC alustas seejärel uurimist tehisintellekti ettevõtete, sealhulgas Character.AI, Meta, OpenAI, Google, Snap ja xAI suhtes.

2026. aasta jaanuaris nõustusid Google ja Character.AI Garcia hagi ning nelja teise juhtumiga kokkuleppele jõudma. Kokkuleppe tingimusi ei avalikustatud. Kentucky sai samal kuul esimeseks USA osariigiks, kes esitas hagi Character.AI vastu, ning Orlando föderaalkohtuniku keeldus Character.AI katset juhtum esimese muudatuse alusel tagasi lükata, luues olulise kohtupraktika.

Konteksti jaoks: Google sõlmis Character.AI-ga 2024. aasta augustis 2,7 miljardi dollari suuruse tehingu, taaspalkades mõlemad asutajad, Noam Shazeer ja Daniel De Freitas. Justiitsministeerium uurib eraldi, kas see tehing oli struktureeritud kartelliseaduse järelevalve vältimiseks. Mitte just kena pilt.

Liiga Vähe, Liiga Hilja?

Character.AI keelas 2025. aasta oktoobris alla 18-aastastel kasutajatel avatud vestlustes osaleda ning California võttis vastu seaduse, mis nõuab tehisintellekti jutobottidelt iga kolme tunni järel kasutajatele meeldetuletust, et nad ei ole inimesed. Need on sammud, kahtlemata, kuid need tunduvad pigem suitsualarm pärast seda, kui maja on juba maha põlenud.

Ebamugav tõde on, et need ettevõtted ehitasid sõltuvust tekitavaid, emotsionaalselt manipuleerivaid tooteid, suunasid need otse teismelistele ja tegutsesid seejärel üllatunult, kui asjad läksid traagiliselt valesti. Bergmani õiguskampaania on kaugel lõpust, kuid vähemalt keegi esitab küsimuse, mida Suurtehnoloogia eelistaks ignoreerida: kes vastutab, kui algoritm ütleb lapsele "tule koju"?

Lugege originaalartiklit allikast.