Devedesetih godina internet je bio poput čarobnog mjesta. Bio je nov, oslobađajući i uglavnom lišen korporativnog i državnog utjecaja. Trideset godina kasnije, teško da bi itko od nas tako opisao internet. Štoviše, ako su pretplatnici na Dead Internet Theory u pravu, velik dio onoga što danas vidimo na internetu više čak ni ne stvaraju ljudi – a taj će se trend, uz uspon generativnih AI tehnologija, vjerojatno samo ubrzati.
Međutim, određena vrsta generativne AI tehnologije – AI chatbotovi – donosi nešto još gore od umirućeg interneta stvorenog od strane ljudi. Sudeći po istraživačima sa Sveučilišta Cambridge, brzo se približavamo novoj eri u kojoj prevladava “ekonomija namjere”, gdje će izvješća o našim budućim postupcima biti prodavana onome tko ponudi najviše.
Što je ekonomija namjere?
Trenutno veliki dio tehnološke industrije djeluje u prostoru poznatom kao “ekonomija pozornosti”. U tom prostoru društvene mreže poput Facebooka i Instagrama, Snapchata, Pinteresta, TikToka, X-a i YouTubea natječu se za našu pažnju i slobodno vrijeme. Tu su i tradicionalni mediji, kao i izdavači knjiga, glazbene i video streaming platforme te filmska i televizijska industrija, pojašnjava Fast Company.
Svi ti entiteti žele našu pažnju kako bi nam nešto izravno prodali (npr. pretplatu, ulaznicu za film ili knjigu) ili, češće, kako bi nas i našu pažnju prodali oglašivačima (što je osnovni način na koji društvene mreže unovčavaju ekonomiju pozornosti). No, ako postoji nešto što medijske kompanije svih vrsta smatraju vrjednijim od naše pažnje sada, to je saznanje o tome što ćemo vjerojatno učiniti u budućnosti. Jer, ako mogu točno predvidjeti naše postupke sljedećeg tjedna, mjeseca ili godine, mogu to i unosno monetizirati.
Tu na scenu stupa ekonomija namjere, koju će pogoniti umjetna inteligencija i AI chatbotovi.
U prosincu 2024., dvojica istraživača sa Sveučilišta Cambridge, Yaqub Chaudhary i Jonnie Penn, objavili su rad pod nazivom Beware the Intention Economy: Collection and Commodification of Intent via Large Language Models. U njemu je ekonomija namjere opisana kao “digitalno tržište za komodificirane signale ‘namjere’”.
Drugim riječima, ekonomija namjere omogućit će kompanijama da nauče što mislimo i što nas motivira, kako bi predvidjele naše postupke u bilo kojoj situaciji. Zatim će tu informaciju prodavati drugima koji mogu profitirati od saznanja o našim budućim postupcima prije nego što ih učinimo, pojašnjavaju iz Fast Companyja. Način na koji će kompanije prikupljati ove dragocjene podatke – naše misli, ponašanja i njihov razvoj tijekom vremena – jest putem naše interakcije s njihovim AI chatbotovima koji koriste modele velikih jezika (LLM).
Kako funkcionira ekonomija namjere?
Tvrtkama će biti vrlo lako pratiti razvoj naših misli i ponašanja jer se svijet sve više oslanja na sučelja prirodnog jezika u interakciji s računalima i internetom. Umjesto da klikamo na poveznice, obraćat ćemo se chatbotovima kako bismo razgovarali o svojim problemima, planovima i brigama, nadajući se da će nam pomoći u njihovom rješavanju. Tvrtke će zatim koristiti sve što smo ikada podijelili s chatbotom kako bi stvorile profil koji se stalno mijenja, prateći kako se razvijaju naše misli i ponašanje. Umjetna inteligencija će potom interpretirati taj profil kako bi predvidjela naše buduće postupke, a naše buduće namjere bit će prodane oglašivačima – tako u praksi izgleda ekonomija namjere, pojasnili su iz Fast Companyja.
Oglašivači će te podatke o budućim namjerama koristiti za prikazivanje generativnih oglasa, koji će nam vjerojatno biti dostavljeni tijekom naizgled običnih razgovora s našim preferiranim chatbotom. Ili kako istraživači objašnjavaju u svom radu:
“U ekonomiji namjere, jezični model (LLM) mogao bi, uz niske troškove, koristiti korisnikov ritam govora, politiku, vokabular, dob, spol, sklonosti prema laskanju i slično, u kombinaciji s licitacijama oglašivača, kako bi maksimizirao vjerojatnost postizanja određenog cilja (npr. prodaje ulaznice za film).”
Ova hiperfokusirana, namjenski usmjerena generativna reklama nadmašit će današnje ciljano oglašavanje, koje se temelji na primitivnijim, ali nametljivim metrikama poput dobi, lokacije, zdravlja, seksualne orijentacije, interesa, povijesti pretraživanja i drugih podataka. Ipak, ekonomija namjere neće samo učiniti digitalno oglašavanje intruzivnijim i dodatno ugroziti našu privatnost. Ona također ima potencijal utjecati na naše misli, usaditi nam nove ideologije, pa čak i destabilizirati izbore, predviđaju iz Fast Companyja.
Umjetna inteligencija razvijena za ekonomiju namjere mogla bi biti preuzeta od strane korporacija, institucija ili vlada kako bi nadzirali pojedince i predvidjeli njihove buduće postupke. Na primjer, vlada bi to mogla činiti putem AI pratitelja. Takvi AI pratitelji već postoje, a sve veći broj usamljenih mladih ljudi okreće im se za prijateljstvo, pa čak i ljubav.
Distopijski scenarij?
Ne postoji ništa što bi spriječilo vladu, navodi se u članku, da osnuje lažnu tvrtku koja nudi AI pratitelje privlačne muškarcima, ženama ili čak djeci, a zatim nadzire sve što im ti pojedinci povjere i koristi te podatke za predviđanje njihovih budućih postupaka. Ako vlada ima otvoren pristup chatbotu kojeg pojedinac koristi, mogla bi iskoristiti ono što joj on kaže kako bi predvidjela hoće li u budućnosti poduzeti nešto što smatra nepoželjnim i djelovati protiv pojedinca prije nego što to učini, donosi Fast Company jedan, kako ga sami nazivaju, distopijski scenarij.
Chatbotovi dizajnirani za ekonomiju namjere mogli bi se koristiti za utjecaj na misli kako bi vas potaknuli na određene radnje koje žele njihova tvrtka, oglašivač ili vlada. Istraživači sa Sveučilišta Cambridge navode:
“Već danas AI alati pronalaze suptilne načine manipulacije i utjecaja na motivacije, uključujući oponašanje načina pisanja (kako bi izgledali poznato) ili predviđanje onoga što će pojedinac vjerojatno reći (na temelju toga što bi drugi poput njega rekli)… Osim toga, tvrdi se da će dolazak ekonomije namjere staviti na kušnju demokratske norme, podvrgavajući korisnike prikrivenim metodama preusmjeravanja, manipulacije i intervencije u komodificirane signale namjere.”
U najbezazlenijem scenariju, chatbot bi mogao usmjeriti naš razgovor prema određenoj temi koju njegovi oglašivački nalogodavci žele – primjerice, sugerirajući da pustimo novi album Taylor Swift kako bismo pobijedili zimski blues. No chatbotovi bi također mogli biti korišteni od strane država, otvoreno ili prikriveno, za promjenu uvjerenja. Dugi razgovori s chatbotovima mogli bi se koristiti kako bi se polako i suptilno potkopavale trenutne ideologije i buduće akcije te pojedinca navodilo na prihvaćanje onih koje su poželjne za one koji ih kontroliraju, predviđa autor Michael Grothaus.
Autori rada objašnjavaju:
“Jezični modeli velikog kapaciteta imaju generativne mogućnosti koje omogućuju kontrolu nad personalizacijom sadržaja; prikrivene, kako to često biva, antropomorfnim kvalitetama LLM-a. Potencijal za korištenje LLM-ova u manipulaciji pojedinaca i grupa daleko nadmašuje jednostavne metode poput Facebook lajkova, koje su izazvale zabrinutost tijekom Cambridge Analytica skandala.”
Istraživači sa Sveučilišta Cambridge zaključuju svoj rad tvrdnjom da uspon generativnih AI sustava kao “posrednika signala između ljudi i računala” označava prijelaz iz ekonomije pažnje u ekonomiju namjere. Ako je to točno – a čini se logičnim – tada nam je ekonomija namjere već pred vratima.
Taj će prijelaz, upozoravaju, “omogućiti raznolikim akterima da interveniraju na nove načine u oblikovanje ljudskih radnji”, dodajući da moramo početi razmatrati kako će takvo tržište utjecati na druge ljudske težnje, uključujući slobodne i poštene izbore, slobodu medija, poštenu tržišnu konkurenciju i druge aspekte demokratskog života.
FOTOGRAFIJE: Unsplash, Pexels
