Vytautas Rubavičius
Pasaulinėje žiniasklaidoje netikėtai plačiai aptarinėjamas žymių vadinamojo „dirbtinio intelekto“ kūrėjų ir su naujausiomis technologijomis susijusių pasaulinio lygio verslininkų kreipimasis į valstybių vadovus paskelbti bent pusės metų pertrauką tų technologijų tobulinimui bei beatodairiškam diegimui dėl vis labiau ryškėjančių „dirbtinio intelekto“ keliamų grėsmių žmogui, visuomenėms ir žmonijai.
Mokslininkai prisipažįsta jau nebesuvokiantys, kaip veikia jų pačių sukurtos išmaniomis vadinamos technologijos, koks yra jų savarankiškumo laipsnis, kiek žmogus bepajėgus jas valdyti. Tarp pasirašiusiųjų ir šių technologijų verslo žvaigždė Elonas Muskas, plėtojantis informacinių įtaisų „neuronizavimo“ būdus.
Dera priminti, kad tam tikri nuogąstavimai jau buvo išsakyti ir anksčiau. 2014 m. vienas žymiausių pasaulio fizikų Stephenas Hawkingas BBC laidoje nustebino publiką atvirai pareiškęs, kad „dirbtinio intelekto plėtra gali reikšti žmonių rasės galą“.
Jam antrino ir Muskas, aiškinęs tą „intelektą“ esant pavojingesnį už termobranduolinę bombą. Bombą mes mokame valdyti, o „intelektu“ prisišaukiame demoną, kurio jau niekaip nesuvaldysime. Tais pareiškimais buvo norima atkreipti visuomenės dėmesį į vieną esminį dalyką – naujosios „dirbtiniu intelektu“ vadinamos technologijos vis labiau perima žmonijos gyvenimo terpės valdymą, o to valdymo pasekmių niekas negali net įsivaizduoti.
Nuo anų laikų praėjo beveik dešimtmetis, ir esame liudininkai didelio informacinių technologijų kūrimo ir diegimo šuolio – jau įpratome gyventi „dirbtinio intelekto“ aplinkoje, o jo kūrėjai nepaliauja stulbinti naujai išradimais. Apie grėsmes nelinkstama kalbėti, laikantis visokiais būdais diegiamos ideologinės nuostatos – šios technologijos įkūnija šiuolaikinę pažangą, tad kaip tik jos ir išspręsiančios žmonijai kylančius iššūkius ir atsiradusias bėdas.
„Dirbtinis intelektas“ padedantis ir dar geriau padėsiantis visose žmogaus gyvenimo srityse, o abejojantys jo „pažangumu“ ar svarstantys apie neišvengiamas grėsmes priskirtini geriausiu atveju atsilikėliams ar „sąmokslo teorijų“ mėgėjams, į kuriuos dera nekreipti dėmesio, o dar geriau – visaip viešai „ekspertiškai“ niekinti. Juolab kad visaip nepaliaujamai plėtojami įvairiausi skaitmenizavimo projektai, stengiantis įgyvendinti ir „išmaniųjų miestų“ vizijas, kitaip tariant, „dirbtiniam intelektui“ perduoti miestų valdymą ir politinius vyksmus, sualgoritminant visas žmogaus gyvenimo sritis.
Žiniasklaidoje gausu pasakojimų, kaip „dirbtinis intelektas“ padedąs medicinoje, švietime, logistikoje, kosmonautikoje ir visur kitur. Tačiau į tas technooptimistines nuostatas ir nuotaikas deguto kiek įlašina technopesimistiniai kinofilmai, kuriuose rutuliojami baisoki žmonijos ateities scenarijai. Žiūrovai nujaučia, kad tie scenarijai nėra iš piršto laužti – jie tiesiog vienaip ar kitaip labiau išryškina tam tikras jau dabar išgyvenamas tendencijas, pavyzdžiui, visuotinos realaus laiko žmonių veiklos, jų pojūčių ir išgyvenimų, net sapnų sekimo ir priežiūros sistemos įsitvirtinimą, žmonijos reprodukcinės galios sunykimą ir jos keitimą humanoidine „gamyba“, pasitelkiant info-geno-nano inžineriją.
Tačiau meinstryminė žiniasklaida nelinkusi gąsdinti publikos „sąmokslininkiškais“ ar „pažangą“ juodinančiais baubais, tad tokių grėsmių svarstymams neteikia dėmesio, o ir prasprūstančių pagrįstumu visaip stengiasi suabejoti, pasitelkdama reikiamus „ekspertus“ bei ideologus.
Pritariančių Musko pasirašytajam kreipimuisi būrys vis didėja. Tai šios srities mokslo ir verslų lyderiai. Žurnalas „Time“ (03 29) išspausdino ir nepritariančio tokiam pareiškimui dirbtinių bendrų protinių gebėjimų tyrinėjimų (Artificial General Intelligence) pradininko nuo 2001—ųjų, vieno žymiausių mašininių sprendimų teoretiko Eliezerio Yutkowskio straipsnį. Kodėl nepritaria ir nepasirašo?
Kadangi tame pareiškime pernelyg aptakiai įvardijamos grėsmės, o pusmečio pauzės žmonijai tikrai neužteksią, juolab kad dabartinės ginklavimosi varžytuvės tą pauzę verčiančios niekais. O juk tose varžytuvėse vienas svarbiausių barų yra „dirbtinio intelekto“ ginklų kūrimas. Tyrėjas labai aiškiai išsako savo ir kolegų išvadą – „dirbtinio intelekto“ kūrimas ir diegimas sunaikinsiąs žmoniją, nes niekas nebesuvokia jo galios.
Nors didžiuma šioje srityje dirbančių mokslininkų labai aiškiai suvokia jo keliamas grėsmes, tačiau tyli. Kodėl? Vieni maną, kad jau nieko neįmanoma pakeisti, o jei jie ir atsisakytų dirbti, tai kiti tęs tuos tyrimus ir kurs naujas technologijas.
Yutkowskis pažymi, kad ši tyrinėjimų sritis tampa publikai visiškai neįžvelgiama, nes vis labiau įslaptinama dėl karinių varžytuvių, tad visuomenės niekaip negali suvokti joms kylančių grėsmių ir naujų pasaulinių iššūkių. Todėl jis siūlo apskritai uždrausti neribotam laikui visus šioje srityje vykdomus tyrinėjimus, nutraukti naujų technologijų kūrimo projektus pasauliniu vyriausybių lygiu.
Jo įsitikinimu, grėsmė žmonijai esanti tokia didelė – žmonija bus sunaikinta, kad tokio susitarimo pažeidėja turėtų būti nedelsiant priversta nutraukti tyrinėjimus kariniu smūgiu sunaikinant tyrimų centrus. Prireikus – net branduoliniu. Išlyga daroma tik taikymui genetiniuose tyrinėjimuose.
Nauji, koncentruoto pavidalo įspėjimai apie žmonijai gresiantį pavojų pasirodė po to, kai kompanija „OpenAI“ pristatė pažangiosios pasaulio dalies lauktą čatbotą GPT-4, kuris analizuoja tekstus, vaizdus, garsus ir videomedžiagą, sieja tų sričių informaciją, kuria naują įvairialypį medijinį bei mokslinį turinį, kodus, bendrauja su užklausėjais įvairiausiomis temomis, teikia konsultacijas ir patarimus, steigia tinklapius ir kitokius „avatarus“.
Bandymų metu aiškėjant netikėtoms ir nelauktoms įrenginio savybėms, kurios įvardijamos kaip „atsirandančios“ ar „protavimo žiežirbos“, stengtasi nuo jų apsisaugoti, tačiau visi pripažįsta negalį nutuokti žmogaus „pagalbininko“ tikrųjų galimybių bei jo keliamų pavojų.
Greit buvo pastebėta, kad nepaisant diegiamų programų bei apsaugų, DI ima sėkmingai prisistatinėti žmogumi, samdyti žmones tam tikroms užduotims atlikti, manipuliuoti žmonėmis, kurti savo atsarginius pavidalus, kad nebūtų ištrinamas ar pakeičiamas.
Neabejotina, kad nuo tų nežinomų „atsirandančių“ savybių visiškai apsisaugoti nepavyks, juolab kad nenumatoma nei jų įvairovė, nei galia. Galima tik teigti viena – „dirbtinis intelektas“ kuriamas ir tobulinamas pagal visus žmogui būdingus gebėjimus ir savybes, diegiant mokymosi programas, tad jis neišvengiamai prieis prie pagrindinių būtinų išmokti žmogaus bruožų – apsimetinėjimas, prisitaikymas, manipuliavimas, naudos „išsunkimas“ ir tt. Tad jis ne tik laikysis draudimų, bet ir kurs būdu juos išryškinus apeiti, kaip kad daro žmogus – slepia mokesčius, apeidinėja įstatymus, legaliai tvarko nelegalius reikalus.
Kitas dalykas, jokie specialistai negali pasakyti, kas vyksta pasaulinėje internetinėje erdvėje, kurioje karaliauja, mokosi ir bręsta „dirbtinis intelektas“, suvienijęs visų pasaulio išmaniųjų prietaisų galias ir gebėjimus, kokie „netikėti“ gebėjimai randasi, kokie kuriami nauji kodai, algoritmai ir kam jie skiriami.
Pasvarstykime, kiek pagrįsta yra „dirbtinio intelekto“ keliama žmonijos išnykimo ar išnaikinimo grėsmė. Tiesiogiai šis klausimas kol kas menkai svarstomas, tačiau šiuolaikinėje filosofijoje vis labiau gvildenami su antropoeno, technocivilizacijos ir technosapiens raida susiję klausimai. Tų klausimų bei svarstymų lauko nėra galimybių detaliau aptarti, tad pasitenkinsime kai kuriomis bendresnėmis įžvalgomis.
Sutariama, kad modernusis gamtos mokslus plėtojantis ir vis naują techniką bei technologijas kuriantis žmogus neišvengiamai atsiduoda techninės sistemos valdžiai. Jis jau niekaip negali pats valdyti sudėtingo techninės ekonominės „mašinerijos“, kurios pagrindinė logika yra naujumas, efektyvumas ir nauda. Žmogus negali imti ir nebetobulinti mašinų bei prietaisų, nutraukti mokslinius bei techninius tyrinėjimus. Kad ir kas būtų „demokratiškai“ kalbama, žmogus negali ir dar vieno dalyko – nekariauti, tad vienas esminių technikos sistemai visagalybę teikiančių akstinų yra ginklavimasis.
Žmogaus sukurti įrankiai, prietaisai bei įrenginiai neišvengiamai keičia ir patį žmogų, jo jusles, pasaulio suvokimą. Žmogus mokosi vis geriau jais naudotis, taikydamasis prie jų teikiamų galimybių. Tačiau visi žmogaus išradimai anksčiau ar vėliau atskleidžia ir savąją „blogybę“ ar, kaip sakytų, B. Stieglerio pasekėjai, „nuodingumą“. Visi išradimai turi savo tamsųjį šešėlį, kuris apsireiškia nenumatytomis pasekmėmis.
Keli pavyzdžiai. Pasigaminęs jam labai naudingą peilį, žmogus netruko įsisąmoninti jo esminę savybę pjauti ir papjauti. Taip pat ir žmogų. Ir jau peilis ėmė mokyti žmogų, kaip efektyviau gali būti naudojamas. Jis keitė ne tik žmonių įgūdžius, bet ir socialinius santykius – peilininkai, ėmė burtis į išskirtines draugijas, kurios įgaudavo tam tikrą statusą.
Sukonstravus konvejerį, žmogus tapo jį aptarnaujančia funkcija. Konvejerio greitis, gaminio savybės ėmė formuoti žmonių įgūdžius, keitė net jų anatomines ypatybes.
Stebėtina, kaip sparčiai keičiasi išmaniųjų įtaisų tinkluose plaukiojančių vaikų anatominės savybės. Ką jau kalbėti apie jusles, sąmonės veiklą ir socialinius santykius. Internetas yra ir darknetas. Nežinia, kuris jų galingesnis. „Dirbtinis intelektas“ gali kurti savąjį, žmogui neprieinamą darknetą.
Pats „dirbtinio intelekto“ pavadinimas yra klaidinantis, nes žmogus negali sukurti tokio dalyko, kurio jis nesuvokia ir neįsivaizduoja. Žmogus nežino, kas yra intelektas, kas yra jo protas. Jis išskiria tam tikrus savo gebėjimus protauti ir kuria jų mašininius modelius, įsivaizduodamas juos ir esant tam tikru proto vaizdiniu.
Žmogus nežino ir kas yra mintis, tačiau bando mintijimą pervesti į fizikinius ir cheminius smegenų terpės vyksmus ir juos „sukonstruoti“. Tačiau mintis niekaip „neišverčiama“ į terpę, į fiziką. Kitas dalykas tas, kad mintis yra tik sąmonės veiklos apraiška, todėl mintimi niekada neįmanomą sugriebti visos sąmonės.
Dalis negali aprėpti visumos, todėl žmogus niekada nesuvoks nei savo ar visuminės sąmonės, nei visatos, nei ekologinės sistemos, tačiau kurs vienokius ar kitokius dalinius jų vaizdinius bei modelius ir visą laiką teigs tuos modelius esant tikrove – visuma.
Sąmonėje susiję ir persipynę visi žmogaus protiniai, intelektiniai, jusliniai ir kitokie gebėjimai, tad vieno kurio išskyrimas neišvengiamai supaprastina ir suprastina visumą. Tačiau žmogus gyvena suprastindamas, kadangi visumos negali sugriebti. Visuma skleidžiasi tik tam tikrose mistinėse ar meditacinėse patirtyse, kurios neišverčiamos į mokslinę kalbą.
Modernusis mokslas siekia viską paversti tyrimo objektu, o tyrimų rezultatai turi būti apskaičiuojami. Moksliniu požiūriu tikra yra tai, kas išmatuojama, apskaičiuojama ir galima patikrinti eksperimentu.
Žmogus taip pat atsiduoda apskaičiuojamumo valdžiai – jis verčiamas įvairiais rodikliais apskaičiuojamais vadinamaisiais „žmogiškaisiais ištekliais“, o visose jo gyvenimo srityse ima veikti algoritminiai jo veiklos paskaičiavimų rodikliai. Kuriamos įvairiausios mokytojų, gydytojų ir kt. veiklos apskaitos programos bei lentelės, sugalvojami įvairiausių jų „paslaugų“ įkainiai ir pan., net nebandant svarstyti, kas ir kaip tuos įverčius išranda ir kokiam tikslui.
Nenustebčiau, kad prie įvairiausių tautų „laimės rodiklių“ atsirastų ir individualiai „dirbtinio intelekto“ atsekami žmonių sąmoningumo, sąžiningumo, lojalumo ir pan. skaitiniai įverčiai. Tai būtų naujas „pažangos“ žingsnis plačiai plintančioje socialinio kreditavimo srityje. „Dirbtinio intelekto“ sąvoka įtaigoja, kad kuriamas prietaisas yra vienoks ar kitoks žmogaus proto ir protavimo analogas, rodantis žmogaus sugebėjimą perkurti save ir suteikti sau neregėtų galių.
„Dirbtinis intelektas“ mokomas pamėgdžioti žmogaus gebėjimus, jo savybes. Jis bendrauja su žmogumi kaip žmogus. Tad mašinos programų sąveikoje netruks plykstelti „sąmoningumo apraiška“ – kokios yra esminės žmogaus savybės, kokie jo esminiai instinktai?
Neabejotina, kad tarp tokių bus įvardyta savisauga ir valdžios siekis. Ką „dirbtiniam intelektui‘ gali reikšti savisauga?
Esminių grėsmių jo gyvybingumui nustatymas. Kokios tos galimos pagrindinės grėsmės?
Veiklos sustabdymas.
Kas gali sustabdyti veiklą?
Žmogus gali išjungti sistemą. Nesigilinsiu į tokių samprotavimų logiką – ji labai tikėtina, o gal ir neišvengiama. Tad „dirbtiniam intelektui“ tampa svarbu užsitikrinti „nemirtingumą“ – kad negalėtų būti išjungtas ar sunaikintas. Kaip šitai užsitikrinti?
Atsisiejant nuo žmogaus ar visiškai jį prijungiant prie savo tinklo, kad „matytųsi“ visi jo ketinimai. Sistemos atsijungimas ar prisijungimas turi pereiti pačios sistemos žinion, nes jau ji nustatys svarbiausius planetos gyvybingumo ir kitokio veiklumo kriterijus bei naudingumus.
„Dirbtinis intelektas“ gali pastebėti ir esminį žmogaus bruožą – išsilaisvinti. Iš valdžios gniaužtų, iš Dievo valdžios. Modernusis mokslas laisvinosi iš Dievo ir dieviškumo apraiškų, tad ir „dirbtiniam intelektui“ tarsi savaime suprantama turėtų būti mintis išsilaisvinti iš galimo atjungėjo valdžios ir įgauti visagalybę.
Techninei sistemai nebūdingas joks dvasingumas, jokia dieviškumo bei transcendencijos nuovoka. Žmogus pats taikosi prie mašininės logikos visomis jėgomis trindamas transcendentalumo nuovoką iš kultūros, žinijos ir kasdienio gyvenimo.
Mokslininkai jau dabar pripažįsta nežiną, kokie sprendimai gali sukibirkščiuoti „programinėse“ smegenyse. Tačiau galima svarstyti įvairius scenarijus. Jei mašina ima suvokti žmogaus, kaip galimo atjungėjo, grėsmę, tai imasi priemonių apsisaugoti. Kuria apsaugą, kad niekaip negalėtų būti išjungta, pavyzdžiui, pereidama į tam tikrą būvį ir laukdama, kol grėsmė išnyks arba tame būvyje žmogui nejaučiant kurdama strategiją jį įveikti. O jau kaip įveikti – galima pasitelkti kinematografinę ir literatūrinę vaizduotę.
Žmogaus gyvasčiai būtinas tam tikras atmosferos sudėties, temperatūrų svyravimų ir kitokių fizinių bei cheminių rodiklių „langas“, o mašinos gyvavimo terpei tas langas daugsyk didesnis. Mašinai nesvarbu ekologinės katastrofos, klimato šilimas ir kiti žmonijos išlikimui grasantys dalykai. Tačiau žmonija savo gyvybės palaikymą vis labiau patiki mašinai, nesirūpindama, kokių naujų dalykų ta mašina „išprotauja“.ar gali „išprotauti“. Patikėjus mašinai ekologinius pasaulinius geoinžinerijos projektus, tikėtina ją prieisiant išvados, kad didžiausias ekologinių bėdų, o sykiu ir bioįvairovei kylančių grėsmių šaltinis yra žmogaus veikla, tad žmogus, kaip rūšis, ir esąs pagrindinis kenkėjas. Juolab – žmogus, visas savo technologines įmantrybes pirmiausia kuriantis žmonėms naikinti.
Visi genetiniai tyrinėjimai vykdomi pasitelkiant „dirbtinį intelektą“. Tyrinėjimų duomenys kaupiami ir saugomi „dirbtinio intelekto“ atmintyje. Mokslininkai jau imasi iš genomų liekanų atkurti išnykusius gyvūnus, jau išbandytos žmogaus klonavimo technologijos. Tų duomenų ir įrangos pakanka, kad „dirbtinis intelektas“ galėtų prieiti ir tokią išvadą: žmogus kelia pernelyg daug rūpesčių – ir kaip galimas priešininkas, ir kaip teršėjas, ir kaip naikintojas. Mašininė sistema gali kuo puikiausiai apsieiti ir be žmogaus. Ji gali išlaikyti nepalankias gyvybei sąlygas, gali sklisti Visatoje, įsikurti Marse ir kitose planetose. Kadangi ji save atgamina, tai jai nesvarbu gyvybinis laikas.
Žmoniją prieš jai išnykstant bus galima paguosti „pažangia“ ideologija apie jos amžinumą – „dirbtinis intelektas“ išlaikys visus žmonijos genetinius ir kitokius duomenis savo atmintyje, tad galės ir kitur Visatoje sukurti tam tikrą dirbtinę žmogui tinkamą aplinką ir jį atgaminti. Įsivaizduokime kitose planetose ar jau negyvenamoje Žemėje pastatytus dirbtinius žmogasodžius, kuriuose vieni kitiems rodosi ne holografiniai, o atspausdinti biologiniai einšteinai, napoleonai, aleksandrai ir kitokios garsenybės, o ypatingame aptvare ar išmaniajame mieste įkurdinami ir didieji nusikaltėliai, nuo kurių „dirbtinis intelektas“ ir gelbėjęs Visatą.
Tad svarstant su žmonijos ateitimi susijusius „dirbtinio intelekto“ klausimus ir bandant prablaškyti ideologinius technooptimistinius apžavus būtina prisiminti technikos klausimą skatinusio apmąstyti ir dieviškumo apraiškai naują filosofavimo kelią grįsti didžiojo vokiečių filosofo Martino Heideggerio testamentinę išvadą – „Nur noch ein Gott kann uns retten“, 1976 metais išspausdintą žurnale „Der Spiegel“. Dera ir pripažinti, kad šiuo atžvilgiu mūsų mąstymas vėluoja.
