Umjetna inteligencija danas je prisutna u gotovo svim aspektima našeg života, od medicine i obrazovanja do svakodnevnih navika poput korištenja pametnih asistenata. A polako mijenja i način na koji putujemo. Zahvaljujući sve moćnijim alatima za generiranje videa, sada ne samo da oblikuje naša očekivanja o destinacijama, već doslovno navodi turiste na mjesta koja – ne postoje. Jedan takav slučaj iz Malezije, gdje su putnici proveli sate u autu slijedeći lažni AI video s TikToka, postao je simbol sve veće zbrke između stvarnog i izmišljenog.
AI turizam
Fast Company piše o bračnom paru iz Malezije koji se tri sata vozio iz Kuala Lumpura do lokacije u saveznoj državi Perak, uvjereni da će tamo pronaći slikovitu žičaru nazvanu Kuak Skyride. No, umjesto gondole koja vodi kroz rajsku prirodu, dočekao ih je tihi gradić i hotelska djelatnica koja im je pokušavala objasniti da glamurozna televizijska novinarka koju su gledali na TikToku, koja se vozila gondolom kroz bujne šume i intervjuirala sretne turiste – nikada nije postojala.
“Zašto to rade ljudima?”, upitala je zbunjena i razočarana žena kada je saznala da njezina destinacija iz snova zapravo ne postoji, već da je riječ o videozapisu stvorenom pomoću Veo3, generativnog AI alata kojeg je razvio Google. U donjem desnom kutu videa bio je logotip Veo3. Kako to nisu primijetili?
Nije bilo stvarne štete. Nisu, poput nekih, ostali bez 200.000 dolara iz ušteđevine, nisu doživjeli lažne optužbe koje bi uništile njihovu reputaciju, kao što se dogodilo drugima zbog videa stvorenih umjetnom inteligencijom. Osim što ipak jest štetno.
Povećan broj napada deepfake tehnologijom
Umjetna inteligencija učinila je nemogućim razlikovati stvarno od lažnog, a sada čak i planiranje odmora pretvara u minsko polje lažnih iskustava. Priča navodnog malezijskog para možda zvuči kao izolirani incident, ali zapravo je simptom nečeg puno zlokobnijeg – potpunog urušavanja naše sposobnosti da vjerujemo onome što vidimo, čujemo i doživljavamo, u svijetu u kojem umjetna inteligencija može proizvesti bilo kakvu priču sa zastrašujućom preciznošću.
Brojke govore o našem kolektivnom upadanju u digitalnu obmanu. Napadi deepfake tehnologijom skočili su s tek 0,1 % svih pokušaja prijevara prije tri godine na 6,5 % danas, što je nevjerojatan porast od 2137 %. To znači da se svaki petnaesti slučaj prijevare odnosi upravo na ovu vrstu manipulacije, kako je detaljno izvijestila tvrtka za identifikacijske usluge Signicat u veljači 2025.
Iza statistike stoje stvarne žrtve, poput Stevea Beauchampa, 82-godišnjeg umirovljenika koji je ispraznio cijeli svoj mirovinski fond od 690.000 dolara nakon što je gledao deepfake videozapise Elona Muska kako promovira investicijske sheme.
“Mislim, slika njega — bio je to on”, rekao je Beauchamp za The New York Times, dok mu je životna ušteđevina nestajala u digitalnom vakuumu.
Razmjeri prijevara pokretanih umjetnom inteligencijom danas zahvaćaju gotovo svaki aspekt ljudskog iskustva. Britanska inženjerska tvrtka Arup izgubila je više od 25 milijuna dolara nakon što je jedan zaposlenik bio prevaren tijekom video sastanka na kojem su se pojavile deepfake verzije financijskog direktora tvrtke i drugih kolega.
Ravnatelj jedne škole u saveznoj državi Maryland primio je prijetnje smrću nakon što je audiozapis, manipuliran pomoću umjetne inteligencije, prikazao kako izgovara rasističke i antisemitske uvrede – podmetnuti falsifikat koji je izradio njegov kolega kako bi ga diskreditirao. Čak ni demokracija nije sigurna: automatski pozivi generirani putem AI-ja imitirali su predsjednika Joea Bidena i pozivali birače Demokratske stranke da ne glasaju na predizborima u New Hampshireu. Popis se samo nastavlja, a na njemu se sada nalazi i ovaj par iz Malezije.
Kako je malezijski par nasjeo na priču o nepostojećoj žičari
Prijevara je započela videom objavljenim na TikToku od strane “TV Rakyat”, televizijskog kanala koji zvuči službeno, ali zapravo postoji isključivo u svijetu AI-ja. Snimka prikazuje novinarku koja se vozi Kuak Skyrideom, žičarom koja se navodno nalazi u gradiću Kuak Hulu u saveznoj državi Perak. Vozila se kroz prekrasne šume i planine, a putem intervjuirala zadovoljne posjetitelje o njihovim dojmovima. Sve je izgledalo savršeno, profesionalno i stvarno.
Dana 30. lipnja, par se prijavio u hotel u državi Perak i obratio se jednoj zaposlenici, koja na mreži Threads koristi korisničko ime @dyaaaaaaa._ , s pitanjem o slikovitoj žičari koju su vidjeli na internetu. Djelatnica tvrdi da je isprva mislila da se šale, jer ondje nije bilo nikakve žičare, atrakcije niti ičega za vidjeti u blizini. No par je bio uporan i pokazao im detaljan video koji su gledali, s televizijskom voditeljicom i njezinim intervjuima sa sretnim turistima.
Kad im je objasnila da je video koji su gledali zapravo generiran umjetnom inteligencijom, par nije želio povjerovati. Vozili su se tri sata oslanjajući se na snimku koja je djelovala potpuno autentično, s profesionalnom prezentacijom u stilu vijesti i izjavama zadovoljnih posjetitelja. Prema riječima hotelske zaposlenice, starija žena zaprijetila je da će tužiti novinarku iz videa, prije nego što je shvatila da je i ona tek pikselizirana tvorevina mašte AI-ja.
Stanje u turizmu je već i prije bilo dovoljno loše
Turizam je već bio zatrpan umjetno stvorenom stvarnošću i prije nego što je umjetna inteligencija usavršila umijeće obmane. Društvene mreže pretvorile su putovanja u “selfie turizam”, gdje posjetitelji ne dolaze zbog kulturnog doživljaja, već kako bi snimili fotografije vrijedne Instagrama. UNESCO je proglasio uzbunu zbog tog fenomena, upozorivši da putnici danas posjećuju slavne znamenitosti “primarno kako bi snimili i podijelili fotografije sebe, često s poznatim lokacijama u pozadini”.
Posljedice su razorne. U Hallstattu u Austriji, gradiću koji je poslužio kao inspiracija za Disneyev film Snježno kraljevstvo, više od milijun turista godišnje dolazi kako bi rekreirali viralne prizore, što je frustriranog gradonačelnika natjeralo da postavi ograde i izjavi za medije da “stanovnici samo žele mir.” U Veneciji se gondole prevrću jer turisti odbijaju prestati fotografirati. Portofino u Italiji sada kažnjava posjetitelje s 300 dolara ako predugo ostanu na popularnim selfie lokacijama, kako bi spriječili ono što gradonačelnik Matteo Viacava naziva “anarhičnim kaosom.”
Sve je to bilo proizvod influencera koji su već iskrivljavali stvarnost pažljivo kadriranim fotografijama praznih plaža i arhitektonskih čuda, brišući iz kadra zagušene gužve i ekološku štetu koju donosi masovni turizam. Te pažljivo uređene fantazije stvorile su nerealna očekivanja o turističkim destinacijama, što je dovelo do prenapučenosti, preopterećenja infrastrukture i narušavanja lokalnih zajednica.
A da ne govorimo o AI-generiranim putničkim influencerima. Da, lažni ljudi koji u videima nude putne savjete koje je stvorila umjetna inteligencija, sada su postali stvarnost – i cijela industrija (i dok ih mnogi preziru, mnogi drugi potpuno nasjednu na prevaru). Čak su ih i vlade počele koristiti: Njemačka turistička zajednica pokrenula je 2024. godine online marketinšku kampanju u kojoj su umjetno stvoreni influenceri promovirali putovanja u tu zemlju.
Iskustvo malezijskog para samo je najnovije poglavlje na našem putu od stvarnosti, preko iskrivljene stvarnosti, do potpuno izmišljene stvarnosti.
FOTOGRAFIJE: Unsplash+
