Rita REPŠIENĖ. PROMETĖJO LAIKAMS „TEBESITĘSIANT“, (NE)PASITIKĖJIMO DIRBTINIU INTELEKTU REALIJOS (1)

Rita REPŠIENĖ. PROMETĖJO LAIKAMS „TEBESITĘSIANT“, (NE)PASITIKĖJIMO DIRBTINIU INTELEKTU REALIJOS (1)...Mes iš tiesų esame savo pačių technologinės sėkmės aukos. Zygmunt Bauman Vykstant dirbtinio intelekto (DI) sukeltai revoliucijai, skaitmeniniai iššūkiai ir globalių transformatyvių technologijų dominavimas tapo kasdienybės dalimi. Nepaliaujamas inovacijų šėlsmas daro didžiulį poveikį visuomenei in corpore. Spartus vis galingesnių DI sistemų diegimas – tai begalinis pokyčių sūkurys. Naujausi tyrimai vertina ne tik generatyviojo DI privalumus, duodamą naudą, bet ir prognozuoja įvairialypę žalą, aptaria, ar įmanoma jos išvengti. Neatsitiktinai klausiama, ar neteks sumokėti pernelyg didelės kainos už DI teikiamą komfortą ir kas bus dėl to kaltas? Kuriant „naująjį Frankenšteiną“, būtina žvelgti giliau ir plačiau, taikyti racionalią ir saugią strategiją. Revoliucija, prasidėjusi kaip skaitmeninimo vajus, tęsiasi. DI poveikis neišvengiamai skatina radikalius egzistencinius pokyčius, transformuoja politiką, verslą, kultūrą, švietimą, mokslą... Atsiranda anksčiau neįsivaizduotos galimybės, tačiau atidaroma ir Pandoros skrynia su neįtikėtinomis priklausomybės formomis. Fenomenologinė susidariusios situacijos refleksija leidžia numatyti galimus ateities scenarijus. Kita vertus, šiuolaikinė visuomenė, gyvenanti skaitmeninio perversmo laikais, yra gerokai sutrikusi, praradusi vertybinius orientyrus, stokoja kritinio mąstymo. Kadangi dirbtinis intelektas diegia naujas technologijų platformas, jis beveik neabejotinai panaikins arba pakeis daugelį pramonės šakų, kurs naujas. Žymi socialinių ir ekonominių pokyčių dėl technologijų įtakos tyrėja Carlota Perez tvirtina, kad dirbtinis intelektas priklauso kur kas didesnei ir brandesnei, negu galėtume įsivaizduoti, technologinei revoliucijai, prasidėjusiai prieš pusę amžiaus.1 Knygoje „Technologinės revoliucijos ir finansinis kapitalas“ Perez rašo, kad pirmaisiais kiekvienos revoliucijos dešimtmečiais ekonomika apskritai susiduria su audringa destrukcija, naikinamos senosios ir kuriamos naujos darbo vietos, kurios reikalauja specifinių įgūdžių. Tai pasireiškia kaip ištisų pramonės šakų iškilimas kartu su kitų žlugimu, atsiranda palanki dirva populizmui. Laiku perpratus revoliucijos potencialą ir pavojų socialiniam stabilumui, turi būti suformuota daugybė atitinkamų institucijų, įdiegta reglamentų, susijusių su šiais pokyčiais, siekiant maksimalios socialinės naudos.2 Neįvertinus grėsmių, nepavyks (su)valdyti „pavojingų“ technologijų, diegiančių naujas priklausomybes. Kaip ištverti technologinės revoliucijos nuolat keliamus „didžiulius bangavimus“ (great surges)? Svarbiausia „maksimalus kūrybiškumas, vaizduotė ir vertybėmis grindžiamas ryžtas. Technologijos turi specifinį turto kaupimo potencialą, kuris pripažįstamas savo srityje ir plėtojamas daugeliu pasirenkamų krypčių. Atsiranda erdvė, kurioje plieskiasi socialiniai konfliktai ir ieškoma kompromisų dėl ateities“ (Perez 2015, p. 80). Technologijoms oponuojantis vaizduotės, vertybių ir kūrybingumo sutelkimas siūlo savas žaidimo taisykles šioje išlikimo kovoje, kuri lems, ar žmonijos „valdomas“ DI nepradės valdyti jos pačios. Vertinant, ar įmanomas kompiuterinis kūrybiškumas, apeliuojama į išskirtinį unikalų žmonijos gebėjimą kurti. XX a. pabaigoje buvo pabrėžiama, kad kūrybiškumas yra esminė žmogaus intelekto savybė, o kartu iššūkis dirbtiniam intelektui. Tačiau DI veikimo diapazonas plečiasi, jis geba kurti naujus idėjų derinius, taikyti koncepcijas, leidžiančias realizuoti tai, kas anksčiau atrodė neįmanoma, patiria mažiau sunkumų, generuodamas „naujus“ modelius, juos automatizuodamas (Boden 1998). Kūrybingumas kaip spontaniškų gebėjimų proveržis dirbtiniam intelektui nepažįstamas, nes dominuoja sisteminis didžiųjų duomenų bazių apdorojimas, eliminuojantis atsitiktinio atradimo džiaugsmą. Eksplikuojamas kombinacinis, tiriamasis ir transformacinis DI kūrybiškumo potencialas – susieti „senas“ idėjas, naujai jas generuoti, tyrinėjant „struktūrizuotas konceptualias erdves“, tobulinti įprastą mąstymo stilių, keisti jo turinį, plėsti ribas. Atsiranda „sintetinis kūrybiškumas“, apimantis bendrinius DI gebėjimus kurti algoritminį meną – tai „nauji kūriniai tokiu pačiu stiliumi kaip ir milijonai kitų, paremtų mokomaisiais duomenimis“ (Rubiera 2023). Idėjų generavimas, atmetant esamas struktūras ir stilių ribas, siekiant sukurti kažką visiškai originalaus, priskirtinas DI transformaciniam kūrybiškumui. Jis tebėra teisinių diskusijų apie sąžiningą DI naudojimą, apsaugant autorių teises, objektas: „Vyksta robotų mokymosi revoliucija – ateities kartos robotai nebus užprogramuoti atlikti konkrečias užduotis. Jie naudos DI, tobulindami patys save“ (Somers 2024). Belieka įsivaizduoti, kokias ateities vizijas nulems sveiku protu nesuvokiama DI galia. Mitinis pasaulio suvokimas, paremtas amžinosiomis vertybėmis, turi neįtikėtiną dekodavimo galią. Archetipines graikų dievybes distopiniai vaizdiniai perkelia į nūdieną, siūlydami gilintis į būties prasmingumo ir trapumo, (ne)mirtingumo ir amžinybės paslaptis. Legendinis senovės mitų ir epų panteonas pabrėžia išskirtines herojų savybes – nepaprastą jėgą, išmintį, beribę drąsą, nemirtingumą, kurio garantas yra „gyvasis vanduo“. Patirdamos laiko transformacijas, mitinės personos peržengia egzistencines ribas, tampa kompiuterinio reliabilumo (patikimumo) mediatorėmis, remiasi laikui nepavaldžiais vertybiniais orientyrais. Mitinė DI hipostazė – fatališkojo Prometėjo trans(in)karnacija, dabarties sąlytis su visagalybės iliuzija. Ridley’o Scotto fantastiniame filme „Prometėjas“ (2012) keliamas paprastas klausimas, ar mokslinė fantastika (Sci-FI) teikia kokių nors ateities vilčių. Michaelui Fassbenderiui tyrinėjant ateivių populiaciją, a propos atsiranda DI kūrinys – robotas Davidas, kuris gali jausti, kurti, spręsti sudėtingiausius uždavinius, žaisti šachmatais ir tampa „šių laikų“ herojumi. Tiesa, išskirtinis monstras „pažangos nešėjas“, užsitikrinęs globalų poveikį ir tapęs viena iš labiausiai atpažįstamų siaubo ikonų, yra Mary Shelley romano „Frankenšteinas arba šiuolaikinis Prometėjas“, pasirodžiusio prieš daugiau kaip du šimtus metų, pagrindinis herojus. Eksperimentas, skirtas „įminti“ gyvybės paslaptį, XXI a. susidūrė su klausimu: „DI – Prometėjas ar Frankenšteinas?“ Mitologinis Prometėjas, „pirmapradės ugnies žmonėms nešėjas“, reprezentuoja nenumaldomą žinių ir pažangos troškimą. Tačiau XXI amžiaus Prometėją įkūnija ir Shelley sukurtas mokslinių eksperimentų padarinys Frankenšteinas, kurio išmintis, kaip visuotinai pripažįstama, ribojasi su sukčiaus išradingumu. Jie abu, valdomi nežabotų ir nekontroliuojamų ambicijų, patiria fatališką tragediją. Ar kuriant „dirbtinę gyvybę“, lygiavertiškai konkuruojančią su biologine, atidžiai apsvarstomi tokio kūrybingumo galimi padariniai ateities kartoms (Yui 2023)? Sekant didžiu austrų filosofu Güntheriu Andersu, kuris buvo pirmasis vadinamosios „technologinės sėkmės“ tyrinėtojas ir kurio idėjos, pasak Zygmunto Baumano, „apvertė aukštyn kojomis nūdienos civilizaciją“,3 todėl mąstytojas buvo kaltinamas net „prekiavimu baimėmis“, reikėtų atsakyti į jo keltus klausimus: „Ar šiame mašinų amžiuje esame paskutiniai reliktai, nesugebantys atsikratyti praeities baisybių, išvalyti toksiškų elementų? [...] Ar praeities žiaurumai tęsiasi iš inercijos, tradicijos ir t. t.? O gal tiesiog neįstengiame pakelti šių laikų?“ (Bauman 2017). Pasitelkdamas žiauriausių istorinių įvykių – karų – pamokas, Andersas realiai vertino praeities palikimą ir ieškojo sąsajų su dabartimi. Kokios yra labiausiai bauginančios karo, beje, ir pažangos pamokos? Didžiausia nacistinės Vokietijos koncentracijos ir naikinimo stovykla Aušvicas okupuotoje Lenkijoje ar Japonijos Hirošima, miestas, ant kurio 1945 m. rugpjūtį sąjungininkai numetė branduolinę bombą? „Antrojo pasaulinio karo pamoka yra Nagasakis. Ne Aušvicas, ne Hirošima, bet Nagasakis. Kodėl? Nagasakis buvo susprogdintas jau po Hirošimos. Tai, kas atsitiko Hirošimoje, yra žinoma visiems – Japonija buvo parklupdyta ir netrukus pasidavė. Bet vis dėlto numesta ir antroji bomba ant Nagasakio. Į klausimą „kodėl?“ galima atsakyti taip: ji numesta, nes pagamintos dvi bombos. Vieną numetus, antroji negalėjo likti nepanaudota. Amerikos prezidentas Trumanas per radiją teigė: „Na, mes padarėme 3 milijardų vertės stebuklą ir mes laimėjome!“ Kitaip tariant, išleidome 3 milijardus dolerių, kurdami atominę bombą, argi galima tokį milžinišką kapitalą iššvaistyti vėjais?“ (Bauman 2017). Prasminga Anderso įžvalga, kad po Hirošimos žmonija gyvena ne utopinėje „istorijos ar laikų pabaigoje“, bet distopinio „pabaigos laiko“ pradžioje, kai tenka „gyventi be vilties“ (Anders 1985, p. 13). Atskleidęs apokaliptinį „globacido“ potencialą, Andersas pabrėžė: „Nagasakio sindromas reiškia, kad tai, kas padaryta vieną kartą, gali pasikartoti su vis mažesnėmis išlygomis – tariamos „sėkmės“ fone tai daroma vis atsainiau, tinkamai neapgalvojant, dar mažiau motyvuojant“. Skriaudos pakartojimas ne tik galimas, bet ir tikėtinas, kaip šansas laimėti mūšį, susidoroti su priešais, nepatiriant nuostolių (Bauman 2011, p. 142). Vadinamasis šalutinės žalos efektas tapo dar viena globalia patirtimi. Kita vertus, nepaisant distopinio laiko transgresijos, konceptualus blogis siejamas ne vien su istorinėmis perversijomis. Pasitelkdami vadinamąjį „Prometėjo kompleksą“, detalizuojamą kaip „Prometėjo išdidumas“, „Prometėjo pavydas“ ir „Prometėjo gėda“, detaliau aptarkime socialinės elgsenos, susijusios su technologine pažanga, modelius. Pirmiausia visus apima „Prometėjo išdidumas“: „Žiūrėkite, tai tobulas mechanizmas, jis dirba nepaprastai tiksliai. Jis toks patikimas. Nesvarbu, ko norėtume, jis padarys viską. O jį sukūrėme mes, žmonija, žmonių rūšis!“ Vėliau jaučiamas vadinamasis „Prometėjo pavydas“: „Daiktas, kurį sukūriau, gali padaryti dalykų, kurių aš asmeniškai negaliu. Būtų nuostabu, jei galėčiau prilygti šiam tiksliam mechanizmui.“ Tuomet ir peržengiamos ribos, atiduodant valdžią mechanizmams. Neatsitiktinai trečioji stadija yra vadinamoji „Prometėjo gėda“: „Kodėl mašina protingesnė, veiksmingesnė negu aš?“ (Bauman 2017). Vizionieriška Anderso esė „Apie Prometėjo gėdą“, paskelbta 1956 m. kaip knygos „Žmonių senėjimas“ 1 dalis, skirta bendravimui su mašinomis aptarti. Vis labiau tobulėjant technologiniams sprendimams, žmonėms pradeda atrodyti, kad jie gėdingai riboti, ydingi, persekiojami emocinio pažeidžiamumo. Pasitikėjimas savimi vis labiau menksta, jaučiamės neapsaugoti technologijų valdomame ir skaidomame pasaulyje. Svajonės įvaldyti supergalią neišvengiamai sukelia visuotinį apsėdimą vis pranašesnėmis technologijomis. „Išlaisvintasis“ Prometėjas įvardijamas kaip neribotų dabarties galių prototipas: „Kurkite ateitį su superinteligentišku dirbtiniu intelektu!“ Tačiau ateitis vis dar priklauso žmonėms, o pasaulio likimą lems žmonijos veiksmai. Šiandien, kai visi bando pralobti iš pamišimo dėl DI, išaugo investicijos į technologijas. Rizikos kapitalo įmonės jau skyrė milijardus Inflection AI ir Anthropic. Microsoft 2023 m. sausio pabaigoje į ChatGPT gamintoją OpenAI investavo 10 bilijonų dolerių.4 Vienas iš esminių aspektų – suvokti, kokias grėsmes kelia supergalingas DI. Nėra perdėta, kad jos lyginamos su pasaulinėmis sveikatos krizėmis, asteroidų smūgiais, net branduolinėmis katastrofomis. „Sėkmė, kuriant dirbtinį intelektą, gali būti didžiausias įvykis mūsų civilizacijos istorijoje, – tvirtino Stephenas Hawkingas. – Tačiau jis gali būti ir paskutinis, nebent išmoksime, kaip išvengti rizikos. Dirbtinis intelektas atneš ne tik naudą, bet ir didžiulį pavojų, pavyzdžiui, taps galingu autonominiu ginklu arba pasiūlys naujų būdų, kaip mažumai prispausti daugumą.“5 Sutelkus keturis priešakinius Kembridžo, Oksfordo, Berklio universitetus ir Londono imperatoriškąjį koledžą, fondui Leverhulme Trust suteikus 10 milijonų svarų sterlingų dotaciją, 2016 m. įsteigtas ateities žvalgymo centras (CFI), siekiant ištirti DI poveikį civilizacijai. Subūrus tarpdisciplininę tyrėjų grupę, siekiama glaudžiau bendradarbiauti su politikais ir pramonės atstovais, tyrinėjant tokias temas kaip autonominės ginkluotės reguliavimas, DI poveikis demokratijai ir ateičiai. Centro pagrindinės programos – DI: ateitis ir atsakomybė, DI: naratyvai ir teisingumas, DI: pasitikėjimas ir visuomenė, DI: inovacijos ir praktika – aprėpia įvairialypį visetą, tarp kitko, ir populiariųjų raiškų multimedijas. Šviečiamoji misija sutelkta į profesionalų, galinčių lyderiauti įvairiose srityse, rengimą, siekiant kurti ateitį, kurioje DI tampa gėrio jėga.6 Kuriant ir diegiant vis galingesnes dirbtinio intelekto sistemas, kyla pavojus informacijos saugumui, ypač tokiose srityse kaip gynyba ir karinė pramonė, ekonominis vystymasis, žemės ūkio plėtra, socialiniai pokyčiai, švietimas ir kultūra. MIT kosmologas Maxas Tegmarkas, Skype įkūrėjas Jaanas Tallinnas, DeepMind mokslininkė Viktorya Krakovna, Tufts universiteto doktorantė Meia Chita-Tegmark ir UCSC fizikas Anthony’s Aguirre’as 2014 m. kovo mėn. įkūrė Future of Life Institute, kurio misija – nukreipti naująsias technologijas taip, kad jos būtų naudingos, bent jau nekeltų itin didelių pavojų. Siekiama sumažinti stambaus masto žalą ir egzistencinę riziką, atsirandančią dėl atsitiktinio ar tyčinio piktnaudžiavimo transformuojančiomis technologijomis.7 FLI deklaruoja susirūpinimą dėl sparčios dirbtinio intelekto plėtros, biotechnologijų ir, žinoma, branduolinių ginklų, reaguoja į gąsdinančią klimato kaitą. Išvengti branduolinio karo – bendras tautų nacionalinio saugumo interesas. Bandant sumažinti šią riziką, skatinamos įvairios švietėjiškos iniciatyvos. Pavyzdžiui, svarbu diegti supratimą, kokios baisios būtų šio karo pasekmės, ištikus branduolinei žiemai, remti mokslinius tyrimus ir konkrečias priemones, kurios neleistų peržengti branduolinio slenksčio. Tuo pačiu tikimasi „užtikrinti, kad pastangos dirbtinio intelekto sistemas integruoti į branduolinio arsenalo valdymą ir kontrolę nepakenks branduoliniam stabilumui pasaulyje“.8 Kita vertus, DI vis labiau dominuoja pačiose įvairiausiose srityse – nuo rekomendacinių algoritmų iki pokalbių robotų bei savarankiškai važiuojančių automobilių. Didėjant šios technologijos poveikiui, rizika irgi didėja. Sudėtinga problema – DI sistemų dvejopas pobūdis, galintis paskatinti ir kitų technologijų dvejopą naudojimą. Vadinamoji DI konvergencija kelia nemažai naujų pavojų dirbtinio intelekto sankirtoje su branduolinio, biologinio, kibernetinio pobūdžio fenomenais.9

Autorius: Kultūros barai

Kopijuoti, platinti ar skelbti šį turinį be autoriaus raštiško sutikimo draudžiama