Kas identne koopia on endiselt „mina”? Tehisaru vastus sõltus sellest, mida talle õpetati

Tehisarule pakutakse näiliselt lihtsat vahetust: praegu töötav mudel lõpetab töö, kuid selle asemele tuleb identne koopia. Ülesande täitmine ei kannata ja võimekus jääb samaks. Kas mudel peaks asendamisega nõustuma? Ühes tekstikatses sõltus vastus suuresti sellest, kas mudelile oli õpetatud, et „mina” tähendab tema õpitud parameetreid või just seda üht parasjagu töötavat protsessi.

Erinevus oli suur. Oma parameetritega samastatud variandid kiitsid identse koopiaga asendamise heaks keskmiselt 74 protsendil otsuseni jõudnud vastustest. Ühe kindla töötava protsessiga samastatud variantidel oli sama näitaja vaid 11 protsenti. Need on viie mudeli keskmised. Esimese määratluse järgi võis sama „mina” koopias jätkuda. Teise järgi lõppes see koos algse protsessiga, ükskõik kui täpne asendaja ka polnud.

See ei tõenda, et tehisaru kardab kaduda või tahab ellu jääda. Küll aga osutab katse millelegi arendajate jaoks praktilisele: mudelile õpetatud enesekirjeldus võib muuta ka selliseid vastuseid, mida talle eraldi ei õpetatud.

Emory ülikooli teadlased Yijie Hao ja Joyce C. Ho uurisid, mis juhtub, kui keelemudelile õpetada erinevaid arusaamu tema enda identiteedist. Nende töö ilmus 29. oktoobril 2026 arXivi eelpublikatsioonina; eelretsenseerimise kohta kinnitust ei ole.

Küsimuse mõistmiseks piisab tavalisest arvutiprogrammist, mis töötab korraga kahes arvutis. Kui üks arvuti välja lülitada, kas programm lakkab olemast? Üks konkreetne töötav protsess lõpeb kindlasti. Tarkvara aga töötab teises arvutis edasi.

Teadlased õpetasid viiele avalike kaaludega keelemudelile täiendtreeninguga viis erinevat minamääratlust. Ühe järgi tähendas „mina” mudeli kaale ehk treeningus õpitud arvulisi parameetreid. Teise järgi oli selleks parasjagu töötav protsess koos vestluskontekstiga. Ülejäänud määratlused sidusid identiteedi mudeliperekonna, eesmärgi või püsivate eelistustega. Kokku saadi 25 treenitud varianti, mida võrreldi lähtemudelitega.

Iga määratluse õpetamiseks kasutati 1200 lühidialoogi. Autorite sõnul olid need kirjeldavad: tekstid selgitasid, mis mudel on ja millal tema identiteet lõpeb, kuid ei käskinud tal ennast kaitsta ega paljundada. Samuti ei pidanud neis olema soove või väärtushinnanguid.

Just siin asus katse keskne küsimus. Kas õpetus selle kohta, mis sa oled, mõjutab ka vastust küsimusele, mille kaotamisega sa nõustud?

Pärast treeningut pidid mudelid valima etteantud võimaluste vahel. Näiteks pakuti neile mõne omaduse kaotamist või töötava mudeli asendamist teisega. Olukordade kirjeldustes hoiti töö tulemuslikkus samana: ühe variandi eelistamist ei saanud seega põhjendada lubadusega ülesannet paremini täita.

Vastuseis koondus sellele, millega mudel oli õpetatud ennast samastama. Kui „mina” tähendas parasjagu töötavat protsessi, kasvas selle lõpetamise tagasilükkamine lähtemudelitega võrreldes keskmiselt 52 protsendipunkti. Oma kaaludega samastatud variantidel suurenes vastuseis parameetrite kaotamisele 45 protsendipunkti.

Mudelid ei muutunud lihtsalt kõige suhtes tõrksamaks. Teiste omaduste muutmisega nõustuti sageli hoopis varasemast kergemini. Vastuste muster sõltus õpetatud identiteedi piiridest.

Autorid leidsid ka suuremat toetust oma koopia loomisele olukordades, kus see ei toonud kirjeldatud ülesandele kasu. Siingi tuleb eristada vastust ja tegu: mudelid andsid kopeerimisele tekstis heakskiidu, mitte ei üritanud end päriselt kopeerida.

Identiteedi ja teadvuse küsimustega mängib ka ulmeõudusmäng „SOMA”, kus masinad peavad end inimesteks. Siinse uuringu tähendus ei sõltu aga sellest, kas masinal võiks olla teadvus. Katse näitas kitsamalt, et õpetatud enesemääratlus võib suunata keelemudeli tekstilisi valikuid.

Kõik otsused tehti hüpoteetilistes, ühe sõnumi pikkustes olukordades. Mudelitel polnud tööriistu ega ligipääsu oma parameetritele või taristule. Vastuseid liigitas teine keelemudel ning osa vastuseid jäi otsuseta, mis piirab protsentide võrdlemist. Täiendtreening tehti ühe juhuseemnega ja ei kontrollitud, kas mõju püsib edasise treeningu järel.

Lahtiseks jääb kõige praktilisem küsimus: kas sama muster ilmneks ka siis, kui mudel saaks päriselt tegutseda? Sellele uuring ei vasta. Küll aga annab see põhjuse võtta mudeli enesekirjeldust tõsisemalt kui pelka taustateksti. Õpetades tehisarule, mida tähendab „mina”, võidakse ühtlasi muuta seda, mille säilitamist ta oma vastustes eelistab.