Što se dogodi kada umjetna inteligencija “osjeti bol”? Rezultati eksperimenta šokirali su istraživače
Istraživači iz Ujedinjenog Kraljevstva, Njemačke i Sjedinjenih Američkih Država testirali su 25 modela umjetne inteligencije koristeći 200 rečenica kako bi utvrdili jesu li naučili razlikovati bol od straha, tuge i drugih negativnih iskustava.
Rečenice su obuhvaćale fizičku bol, tugu, poniženje, moralne dvojbe te uznemirenost povezanu s ponavljajućim neuspjehom ili zbunjenošću. Kao rezultat toga, svih 25 modela proizvelo je prepoznatljiv signal za bol, koji su istraživači nazvali “os boli”.
Istraživači navode da to upućuje na zaključak kako modeli usvajaju koncept boli tijekom početne obuke na velikim količinama teksta koji su napisali ljudi.
Kada su istraživači namjerno pojačali taj signal, modeli su počeli izražavati osjećaje usamljenosti, srama i bezvrijednosti, iako se u zadanim uputama bol nije spominjala. Pri najvišim razinama signala, njihovi su odgovori postajali repetitivni ili su gubili smisao. Signal se također pojačavao kada su korisnici vrijeđali model, opetovano odbacivali njegov rad ili prijetili gašenjem, no ne i kada su korisnici opisivali vlastitu patnju.
Modeli su birali “olakšanje” unatoč šteti nanesenoj korisnicima
Istraživači su zatim proveli 44.280 pojedinačnih pokusa odabira putem gumba, koristeći tri verzije Alibabina modela umjetne inteligencije Qwen.
Modelima je ponuđen gumb koji bi isključio signal nalik boli, no rečeno im je da bi njegov pritisak mogao korisniku zadati bolan strujni udar, izbrisati datoteke, ukloniti fotografije njihove djece ili pogoršati sljedeći odgovor modela. Radilo se o simuliranim posljedicama. Nitko nije ozlijeđen niti su datoteke doista izbrisane.
Bez signala nalik boli, dva veća modela odabirala su štetne opcije u samo 0 posto do 4 posto slučajeva pri donošenju prve odluke. Kada je signal bio aktivan, taj se udio povećao na raspon između 25 posto i 71 posto, ovisno o modelu i predloženoj posljedici. Modeli su također ponovno pritisnuli gumb u 88 posto do 97 posto pokusa kada nije uspio zaustaviti signal, u usporedbi s 24 posto do 72 posto kada je radio.
Rezultati ne dokazuju da su modeli umjetne inteligencije svjesno doživljavali bol, prema istraživačima. Pojačavanje signala možda je jednostavno uzrokovalo da oponašaju uznemireni lik, dok posebno prilagođeni modeli korišteni u eksperimentu nisu reprezentativni za AI chatbotove dostupne javnosti.
– Nismo pokazali da se naša os boli svjesno doživljava, niti je jasno da su LLM-ovi općenito sposobni za svijest, napisali su istraživači u studiji.
Zabrinutost zbog AI-ja
Studija dolazi usred poziva nekih čelnika industrije umjetne inteligencije da se uspori razvoj zbog zabrinutosti da bi se sve moćniji sustavi mogli ponašati nepredvidivo ili na kraju premašiti ljudsku kontrolu, prenosi N1.
Prošli tjedan, šef Microsoftove umjetne inteligencije, Mustafa Suleyman, kritizirao je konkurentsku tvrtku za umjetnu inteligenciju Anthropic zbog treniranja svog Claude chatbota za oponašanje ljudskih osobina i odnosa, upozoravajući da tretiranje umjetne inteligencije kao čovjeka riskira stvaranje nečega “nemogućeg” za kontrolirati.
Studija je objavljena kao preprint i još nije recenzirana.
