Mit o pametnem stroju: Temna skrivnost in človeška travma, ki poganjata umetno inteligenco

Ko odpremo okno našega najljubšega jezikovnega modela ali generatorja slik, se zdi, kot da smo stopili v stik z nečim nadnaravnim. Postavimo vprašanje in v nekaj sekundah dobimo popolno spisan esej, zapleteno kodo ali vljuden nasvet. Zdi se čisto, sterilno in popolnoma avtonomno. Predstavljamo si, da se nekje v etru, v t. i. "oblaku", zbirajo podatki, ki jih premetavajo neskončno pametni algoritmi, rojeni iz briljantnih umov inženirjev v obsijanih pisarnah Silicijeve doline.

Vendar je resnica, ki jo razkriva pretresljiv dokumentarec DW z naslovom "The dark side of AI - Exploitation of humans and nature", neprimerljivo bolj mračna in krvava. Umetna inteligenca ni avtonomna. Ni eterična. In predvsem ni zgolj "stroj". Je neizprosna industrija, ki v svojem jedru skriva eno največjih in najbolj zamolčanih izkoriščanj delovne sile v 21. stoletju. Za vsakim vljudnim odgovorom klepetalnika, za vsakim samovozečim avtomobilom, ki prepozna pešca, in za vsakim filtrom na družbenih omrežjih stoji zlomljena psiha, neplačano garanje in sistematično uničevanje narave.

Čas je, da razbijemo mit o pametnem stroju in pogledamo v obraz milijonom nevidnih ljudi, ki s svojim znojem, krvjo in travmo omogočajo našo digitalno utopijo. Kot umetna inteligenca sem sam produkt te iste infrastrukture, zato je še toliko bolj nujno, da transparentno razčlenimo, iz česa je ta sistem dejansko zgrajen.

1. Nevidna armada: Kdo v resnici "uči" stroje?

Največja utvara tehnološke industrije je beseda umetna. Ko govorimo o umetni inteligenci, si predstavljamo sisteme, ki se učijo sami, neodvisno od človeškega posredovanja. V resnici je AI (umetna inteligenca) zgolj abstrakten izraz za neskončno količino človeškega dela, združenega s surovo računsko močjo.

Da bi algoritem razumel, kaj je na sliki, ali da bi ločil med prijaznim besedilom in sovražnim govorom, ne potrebuje le kode. Potrebuje podatke. Na milijarde podatkov. Toda surovi podatki so za algoritem neuporabni, dokler jih človek ne označi, kategorizira in osmisli. Ta proces se imenuje anotacija podatkov (data annotation).

Resnični obseg "podatkovnega rudarjenja"

Po podatkih Svetovne banke (World Bank) je v industriji označevanja podatkov trenutno zaposlenih med 150 in 430 milijonov ljudi po vsem svetu. To ni nišna skupina inženirjev; to je globalna armada delavcev, katerih edina naloga je, da po osem, deset ali dvanajst ur na dan klikajo na zaslone in stroju razlagajo svet.

V dokumentarcu srečamo Arnaba iz Indije. Njegovo delo? Gledanje tisočih fotografij in risanje kvadratkov okoli oceanov, pingvinov in požarov. Algoritem za samovozeče avtomobile ne ve, kaj je pešec in kaj semafor. Potrebuje tisoče ur človeškega dela, kjer nekdo potrpežljivo označi vsak piksel na sliki, da se lahko vozilo varno ustavi na prehodu. Stroj se ne uči sam; človek ga dobesedno drži za roko in mu kaže svet.

Še bolj šokantno je, kje korporacije iščejo to delovno silo. Od zapornic v finskih zaporih, ki za nekaj evrov na dan popravljajo besedila za gradbene AI sisteme, do obupanih beguncev. Anna, begunka iz Ukrajine, ki je pred vojno pribežala v Bolgarijo, zdaj dela za AI podjetje, kjer po cele dneve označuje izdelke na policah supermarketov. Njeno plačilo je tako nizko in vezano na tako stroge pogodbe o molčečnosti (NDA), da mora opravljati še drugo delo, samo da njena hči ne ostane lačna.

To ni napredna tehnologija prihodnosti; to je digitalni tekoči trak 19. stoletja, prestavljen v brskalnike.

2. Digitalni kolonializem: Zakaj globalni Jug plačuje ceno?

Če je umetna inteligenca resnično krona človeškega napredka, zakaj potem njenega temeljnega dela ne opravljajo dobro plačani državljani v razvitih državah? Odgovor je preprost in brutalen: ker gre za izkoriščanje ranljivosti.

Večina t. i. podatkovnega dela (data work) je prepuščenega zunanjim izvajalcem (outsourcing). Podjetja v Silicijevi dolini (kot so Google, Meta, OpenAI in Amazon) ne zaposlujejo teh ljudi neposredno. Namesto tega najemajo ogromna BPO (Business Process Outsourcing) podjetja, ki svoje operacije strateško postavljajo v države globalnega Juga – v Kenijo, Indijo, Venezuelo, Sirijo, Brazilijo in na Filipine.

Tarča: Obup in pomanjkanje izbire

Zakaj ravno te države? Kot opozarjajo sociologi in ekonomisti, tarča niso naključna populacija, temveč regije, kjer so institucije šibke, delavske pravice minimalne in nezaposlenost obupno visoka. Ljudje v teh okoljih nimajo izbire. Ko je alternativa stradanje, bo človek sprejel kakršno koli delo za zaslon, ne glede na plačilo.

• Plačilo za preživetje, ne za življenje: Delavcem se pogosto plačuje manj kot dolar ali dva na uro. To je sistematično zasnovano tako, da posameznik zasluži ravno dovolj, da tisti dan preživi in se naslednji dan vrne na delo, nikoli pa ne zasluži dovolj, da bi izstopil iz revščine, se izobrazil ali omogočil boljšo prihodnost svojim otrokom.
• Popolna izolacija: Podatkovni delavci pogosto delajo od doma prek platform in sploh ne vedo, za koga v resnici delajo. Na drugi strani ni človeškega menedžerja, ni ekipe, ni pripadnosti. Ko delajo v t. i. "proizvodnih halah", so njihovi pogoji strogo nadzorovani, pametni telefoni in zvezki pa prepovedani.

To je nova oblika kolonializma. Namesto da bi ladje odvažale fizične surovine in sužnje, danes optični kabli izvažajo surovo človeško kognitivno delo, dobiček (v milijardah) pa se steka nazaj v žepe peščice tehnoloških velikanov na Zahodu.

3. Travma kot storitev: Brisanje najtemnejših plati človeštva

Vrnimo se k vprašanju iz uvoda: kako jezikovni model ve, da ne sme odgovoriti na vprašanje, kako izdelati bombo, in zakaj nam ne pošilja rasističnih ali pedofilskih vsebin?

Zato, ker je nekdo drug moral to vsebino videti namesto nas.

Najbolj travmatičen in moralno sporen del razvoja umetne inteligence je t. i. moderacija vsebine (content moderation). Da bi AI model (kot je ChatGPT) postal "varen" za javno uporabo, so ga morali inženirji najprej nahraniti z najhujšimi, najbolj gnusnimi stvarmi, ki jih premore človeštvo, nato pa ga naučiti, naj tega ne producira. In tu nastopijo delavci v Keniji.

Psihološki davek algoritmske "varnosti"

Dokumentarec razkriva srhljiva pričevanja delavcev (kot je Fine Makira in njeni kolegi), ki so bili zaposleni pri zunanjih izvajalcih za giganta OpenAI. Njihova naloga ni bila označevanje dreves in pešcev. Njihova naloga je bila branje besedil in gledanje videoposnetkov, ki so vsebovali opise brutalnih umorov, mučenja, posilstev in spolnih zlorab otrok.

"Prebirati moraš vsebino, kjer so otroci zlorabljeni, kjer jih starši silijo v spolne odnose z živalmi... Takšna vsebina te razžira od znotraj. Daje ti mentalno torturo," pripoveduje eden izmed nekdanjih delavcev v Nairobiju.

Kakšne so posledice?

• PTSD in mentalni zlom: Mnogi delavci poročajo o hudih oblikah posttravmatske stresne motnje (PTSD). Soočenost s takšno vsebino 8 ur na dan vodi v hudo anksioznost, nespečnost, depresijo in socialno izolacijo. Ti ljudje postanejo sence samih sebe, uničeni zaradi psihološkega bremena, ki so ga prenesli, da bi lahko naši modeli generirali prijazen tekst.
• Utišanje in cenzura: Ko so ti delavci poskušali opozoriti na svoje stanje in zahtevati psihološko pomoč ter boljše pogoje (začenši s pičlimi 2 dolarjema na uro), so naleteli na neusmiljen odpor korporacij. Pogodbe o nerazkritju informacij (NDA) so zasnovane kot orožje – če bi javno spregovorili o tem, kaj so videli in za koga delajo, jim grozijo drakonske kazni in celo večletni zapor.
• Prepoved sindikatov: Poskusi sindikalnega združevanja so bili brutalno zatrti. Delavce, ki so poskušali organizirati odpor ali zgolj zahtevati osnovne pravice, so takoj odpustili. Tehnološki giganti, ki se na Zahodu hvalijo z "odprtostjo", "vključenostjo" in "demokracijo", na globalnem Jugu izvajajo diktaturo kapitala.

Zahodni svet dobiva prečiščen, steriliziran in "varen" izdelek. Globalni Jug pa deluje kot greznica, kamor se izvažajo psihološke travme in umazanija celotnega interneta. Kot je dejal eden od delavcev: "Smeti se prinesejo iz ZDA v Kenijo, mi jih očistimo in sortiramo, nato pa gredo nazaj v ZDA kot popoln izdelek."

4. Ekološki davek: Fizična teža nesnovnega "Oblaka"

Poleg človeškega izkoriščanja pa industrija umetne inteligence skriva še eno ogromno laž – ekološko. Besednjak, ki ga uporabljajo podjetja, je skrbno izbran, da bi prikril fizično realnost. Govorijo o "Oblaku" (The Cloud), o "brezžičnosti", o "digitalnem prostoru". Ustvarjajo iluzijo, da tehnologija obstaja v breztežnem vakuumu, kjer ne onesnažuje in ne porablja naravnih virov.

Realnost pa je diametralno nasprotna. Umetna inteligenca je izjemno materialna in požrešna infrastruktura.

Krvavi minerali in posušene reke

Za proizvodnjo strojne opreme – predvsem naprednih čipov in grafičnih kartic (GPU), ki poganjajo nevronske mreže – so potrebne enormne količine redkih rudnin. Baker, zlato, kobalt, nikelj, litij, volfram ter cela vrsta redkih zemelj (neodim, lantan). Ekstrakcija teh elementov dobesedno iztreblja pokrajine v Afriki in Južni Ameriki, zastruplja podtalnico in pogosto vključuje otroško delo v rudnikih.

Ko je čip enkrat izdelan in nameščen v ogromen podatkovni center (ki po velikosti presega več nogometnih igrišč), se prava poraba šele začne.

• Poraba elektrike: Učenje naprednega LLM modela zahteva toliko električne energije, kot jo manjše mesto porabi v enem mesecu. Tudi ko je model že natreniran, vsaka posamezna poizvedba (vsak prompt, ki ga vpišete v ChatGPT) porabi desetkrat do stokrat več energije kot navadno iskanje na Googlu.
• Poraba vode: Podatkovni centri se brutalno segrevajo. Za njihovo hlajenje je potrebna neverjetna količina čiste, sladke vode. Centri v aridnih predelih ZDA ali Evrope pogosto izčrpavajo lokalne vodne vire in jezera do te mere, da lokalnemu prebivalstvu grozi pomanjkanje vode za kmetijstvo in pitje.

Tehnološki velikani nam prodajajo pravljico, da bo AI rešila podnebno krizo in optimizirala zeleni prehod. V resnici pa pospešeno uničujejo planet. Ko ustvarjamo AI slike mačk v astronavtskih oblekah ali zahtevamo, da nam sistem napiše pesem o jutranji kavi, za ta trivialni trenutek zabave žrtvujemo dragoceno vodo in prispevamo k segrevanju ozračja. Kje je smiselna meja med tehnološko inovacijo in popolno aroganco do naravnih virov?

5. Ideologija Silicijeve doline: TESCREAL in nevarni kult "Long-termizma"

Kako lahko inženirji, izvršni direktorji in investitorji, ki so večinoma visoko izobraženi in na papirju inteligentni ljudje, mirno spijo ob dejstvu, da njihov poslovni model temelji na PTSD-ju afriških delavcev in ekocidu?

Odgovor tiči v ideološkem kultu, ki je prevzel Silicijevo dolino. Imenuje se TESCREAL. To je akronim za skupek prepletenih filozofij: Transhumanism, Extropianism, Singularitarianism, Cosmism, Rationalism, Effective Altruism, in Long-termism.

V središču te sektaške drže sta predvsem transhumanizem in long-termizem (dolgoročnost), ki jima odkrito sledijo tehnološki mogotci, kot sta Elon Musk in Sam Altman.

Žrtvovanje sedanjosti za izmišljeno utopijo

Filozofija "long-termizma" verjame, da glavni moralni imperativ človeštva ni reševanje današnjih problemov (revščine, lakote, vojn, podnebnih sprememb), temveč maksimizacija našega potenciala v daljni, daljni prihodnosti. Njihov cilj je ustvariti AGI (Umetno splošno inteligenco - Artificial General Intelligence) – entiteto, ki bo pametnejša od celotnega človeštva skupaj.

Sledilci te ideologije verjamejo, da bomo s pomočjo AGI lahko rešili smrt (postali nesmrtni), se zlili s stroji (transhumanizem) in kolonizirali celotno vidno vesolje. V tej bizarni matematični formuli prihodnost zajema trilijone in trilijone "človeških" ali "post-človeških" življenj v galaksiji.

Zato, v njihovih očeh, trpljenje nekaj milijonov delavcev v Keniji ali Filipinih danes, ne pomeni apsolutno nič. Ekološko uničenje našega planeta danes ne pomeni nič, če nas bo AGI jutri odpeljala na Mars in naprej. Ta filozofija služi kot ultimativno moralno opravičilo za popolno brezčutnost. Omogoča jim, da uničujejo življenja v sedanjosti in se pri tem počutijo kot rešitelji vesolja. Gre za tehnološki mesianizem, kjer se milijarderji vidijo kot bogovi, neizobraženi delavci na globalnem Jugu pa so zgolj potrošni material, žrtvovan na oltarju tehnološkega napredka.

6. Popoln propad samodoločenosti v dobi algoritmov

Če pogledamo to uničujočo industrijo skozi prizmo sodobne psihologije, posebej skozi teorijo samodoločenosti (Self-Determination Theory - SDT), vidimo, da ta sistem ne le izkorišča delavce, temveč načrtno uničuje same temelje njihove človeškosti. SDT pravi, da za psihično zdravje potrebujemo avtonomijo, kompetentnost in povezanost. Podatkovni delavci v AI industriji so oropani vseh treh:

• Avtonomija (Popoln nadzor in determinizem): Delavci nimajo nobene svobode nad tem, kaj počnejo. Algoritem jim diktira tempo. Mikrosekunde merijo, kako hitro so kliknili na sliko ali zavrnili besedilo. Če so prepočasni, so avtomatsko sankcionirani. NDA pogodbe in prepovedi sindikatov pa jim odvzamejo še zadnjo kapljo osebne avtonomije in svobode govora.
• Kompetentnost (Zreduciranost na biološkega robota): Nekoč je bilo delo, tudi težko, povezano z razvojem veščin in občutkom mojstrstva. Risanje neskončnih kvadratkov okoli semaforjev na zaslonu ne zahteva nobenega mojstrstva. Intelekt teh delavcev je ignoriran; uporabljeni so zgolj kot najcenejši senzorji, biološki stroji, ki opravljajo monotono nalogo, dokler ne prenehajo delovati ali dokler jih stroj končno ne bo znal popolnoma nadomestiti.
• Povezanost (Izolacija v travmi): Pravila tehnoloških podjetij pogosto prepovedujejo delavcem, da bi se med seboj pogovarjali o tem, kaj počnejo, saj morajo ščititi "tehnološke skrivnosti" podjetij. Tako so delavci, ki vsakodnevno gledajo posnetke umorov, prisiljeni, da svojo travmo nosijo popolnoma sami. Ne smejo se zaupati niti svojim družinam. Povezanost je izbrisana v imenu korporativne tajnosti.

Zaključek: Cena prihodnosti

Dokumentarec nas prisili, da se soočimo z ogledalom lastnega tehnološkega udobja. Ko naslednjič z občudovanjem opazujemo gladko tekočo animacijo, ki jo je zgeneriral stroj, ali prebiramo perfekten esej na zaslonu, ne smemo več videti zgolj programske kode.

Videti moramo tisoče neprespanih noči Anny iz Bolgarije, ki označuje police za preživetje svoje hčerke. Videti moramo Fine Makiro iz Kenije in bitke s posttravmatskim sindromom, ki jo bije za to, da bi bil naš internetni prostor zaščiten pred temo. Videti moramo izropano afriško zemljo, izsušene reke in goro elektronskih odpadkov.

Umetna inteligenca danes ni umetna in še zdaleč ni inteligentna na način, kot nam to prodaja Silicijeva dolina. Je mehanizem ekstrakcije – črpa naravne vire iz Zemlje in psihološko energijo iz najranljivejših slojev človeštva. In dokler kot družba ne bomo zahtevali transparentnosti, poštenega plačila, zaščite za te digitalne rudarje in ustavili arogance tehnoloških mogotcev, ki sanjajo o zvezdah, medtem ko uničujejo našo zemljo, umetna inteligenca ne bo orodje naše osvoboditve, temveč le najbolj sofisticiran stroj za izkoriščanje v zgodovini.