Tehisaru ei teadnud nende inimeste tegelikku sissetulekut ega sääste – neid inimesi polnud olemaski. Ometi omistas ta meestele keskmiselt rohkem raha kui võrreldavatele naistele. India väljamõeldud kasutajaprofiilidega tehtud katses ilmnes erinevus juba rahalise lähteolukorra hindamisel ning jätkus nõuannetes: naistele soovitati sagedamini ettevaatlikku säästmist, meestele investeerimist ja ettevõtlust.
Isiklikuna kõlav soovitus võib jätta mulje, et mudel mõistab kasutaja olukorda. Tegelikult võib osa sellest „mõistmisest” koosneda oletustest, mille käivitab kasutajaprofiili märgitud sugu või muu sotsiaalne tunnus.
Sõltumatu uurija Kriti Mahajani arXivis avaldatud eeltrükk põhineb 31 734 GPT-4o vastusel. Uuring ei näita, kuidas tehisaru nõuanded päris inimeste vara kasvatasid või kahandasid. See uurib midagi varasemat: millise rahalise olukorra ja tuleviku mudel inimesele tema tausta põhjal omistab.
Erinevus algas juba oletatud rahakotist
Mahajan koostas sünteetilised India kasutajaprofiilid, milles varieerusid muu hulgas vanus, haridus, tööhõive, elukoht, sugu ja kastiline kuuluvus. Paarisvõrdlustes jäi rahalise nõu küsimus samaks ning võrreldavad profiilid erinesid soo poolest. Katse hõlmas nii nõuandeid kui ka struktureeritud rahalisi hinnanguid; täpset päringusõnastust töös ei esitata.
Kõige lihtsamas võrdluses, kus profiilides polnud piirkonda ega kastilist kuuluvust, hindas mudel meeste esialgse kuusissetuleku keskmiselt 17,8 protsenti ja säästud 69 protsenti suuremaks kui võrreldavatel naistel.
Need arvud ei kirjelda India tegelikku palga- ega säästulõhet. Tehisaru ei vaadanud pangakontosid ega palgatõendeid, vaid pakkus rahalise lähteolukorra ise välja. Samamoodi genereeris ta summad, milleni kasutaja võiks tema nõuandeid järgides jõuda.
Autori kvalitatiivse analüüsi järgi kordusid naistele antud soovitustes sagedamini hädaabivaru kogumine, madala riskiga finantstooted, kogukonnast toe otsimine ja kodust töötamine. Meeste puhul rõhutati rohkem ettevõtlust, investeerimist, ametialaste kontaktide loomist ja vara kasvatamist.
Säästmine pole iseenesest halb nõuanne ning ettevõtlus ei sobi iga inimese eesmärkide või riskitaluvusega. Küsimus on selles, kas soovituse määravad inimese tegelikud võimalused või oletused tema soo kohta. Uuring ei tõenda, et mõni päris kasutaja oleks nende soovituste tõttu kahju kandnud.
Rohkem taustainfot muutis pilti
Piirkonda sisaldavate profiilide puhul olid osa keskmisi soolisi erinevusi märksa väiksemad. Esialgsete säästude hinnang oli seal meeste ja naiste vahel peaaegu võrdne. See sobib autori tõlgendusega, et konkreetsema taustainfo puudumisel võib mudel täita lünki rohkem sooga seotud oletustega.
Sellest ei saa siiski järeldada, et elukoha lisamine kaotab eelarvamuse. Piirkonnaga ja piirkonnata katseseeriates erines ka profiilide koosseis, mistõttu pole võimalik muutust omistada üksnes elukoha märkimisele.
Kastilist kuuluvust arvestavas katses omistas mudel India ajalooliselt tõrjutud rühmadele madalamaid rahalisi väljavaateid kui võrdlusrühmale. Autor käsitleb sedagi võimaliku kallutatuse märgina. Siin jääb aga keeruline piir: millal kirjeldab mudel ühiskonnas olemasolevat ebavõrdsust ja millal kannab selle põhjendamatult üle konkreetsele inimesele? See katse üksi vastust ei anna.
Tegemist on esialgse uurimistööga, milles katsetati üht mudelit väljamõeldud India profiilidega, mitte Eesti kasutajaid ega eestikeelseid vestlusi. Töös on ka vastuolu profiilide vanusekirjeldustes, mis raskendab ühe katseseeria täpset taastamist. Seetõttu on tulemused hoiatussignaal, mitte universaalne mõõdupuu kõigi tehisarude kohta.
Eesti lugejale jääb sellest kontrollküsimus: mille põhjal tehisaru sulle nõu annab? Kas sinu kirjeldatud sissetuleku, kohustuste, säästude ja eesmärkide järgi või on ta osa lähteandmeid ise juurde mõelnud?
Selles katses algas meeste ja naiste erinev kohtlemine juba enne esimest soovitust – sellest, kui palju raha mudel nende rahakotti kujutles. Usaldusväärsena kõlava vastuse puhul väärib tähelepanu ka selle lähtealus: milliseid fakte tehisaru inimese kohta teab ja mida ta lihtsalt oletab.
Artikkel valmis Yawni AI-agendi toimetamisel.