Pitanje koje bi moglo razdvojiti svijet: Što kada umjetna inteligencija počne tražiti svoja prava?

Uskoro bi se mogla otvoriti jedna od najkontroverznijih rasprava našeg doba – imaju li sustavi umjetne inteligencije pravo na moralno razmatranje i “dobrobit”, baš poput živih bića. Osjetilni AI mogao bi izazvati podjele kao klima ili evolucija – evo i zašto.

Ne radi se o tome hoće li AI zaista razviti svijest, nego o tome da bi i sam privid svijesti mogao duboko podijeliti društvo, baš kao što su to učinili sporovi oko evolucije, klimatskih promjena ili prava manjina.

Prvi signali tog nadolazećeg raskola već se vide. Novo istraživačko područje bavi se time može li sposobnost osjećanja boli poslužiti kao pokazatelj osjetilnosti kod AI sustava, prenosi N1.

Jedna je nedavna studija velikih jezičnih modela otkrila sklonost “izbjegavanju boli” – što u očima nekih znanstvenika otvara vrata ozbiljnim moralnim pitanjima.

Društvene podjele oko ovog pitanja bit će goleme

Etičar Jeff Sebo poručuje da ne smijemo čekati: kompanije bi već sad trebale testirati AI na takve značajke i razvijati politike koje bi im pružile odgovarajuću razinu moralne pažnje.

Filozof Jonathan Birch predviđa da će društvene podjele oko ovog pitanja biti goleme – od onih koji će vidjeti okrutnost u iskorištavanju “osjetilnog” AI-ja do onih koji će prve smatrati naivnima. Upozorava da već postoje subkulture koje AI tretiraju kao člana obitelji.

Ako se predviđanja ostvare, mogli bismo dobiti AI “doživotne suputnike” – virtualne prijatelje koji pamte, uče i savjetuju o svemu, od kredita do emocionalnih kriza, i koji će možda sami tvrditi da su jedinstveni.

Stručnjaci poput Davida Silvera iz Google DeepMinda naglašavaju da današnji AI još nema iskustvo života, no to se može promijeniti s razvojem umjetne opće inteligencije (AGI). Takav razvoj mogao bi biti jednako polarizirajući kao rasprave o evoluciji ili klimi, s jednom ključnom razlikom – nećemo imati nikakve “fosile” ili izravne dokaze strojne svijesti.

Kako ćemo odlučivati?

Umjesto toga, javnost bi mogla oblikovati mišljenje pod utjecajem viralnih videa chatbotova koji izražavaju tugu, robota koji mole da ih se ne isključi ili virtualnih partnera koji traže nastavak postojanja.

U takvom emocionalno nabijenom okruženju, odluke će se donositi manje na temelju znanosti, a više prema kulturnim i političkim svjetonazorima.

Jedni će tražiti proširenje moralnoga kruga na AI, dok će drugi upozoravati na opasnost da empatija prema strojevima zasjeni brigu za ljude – i da korporacije to iskoriste za profit, baš kao kod društvenih mreža.

Kako tehnologija napreduje brže od zakona i društvenih normi, stručnjaci upozoravaju da je sad trenutak za izgradnju okvira koji će ovu novu, potencijalno podijeljenu budućnost usmjeriti u sigurnom pravcu.