Pokalbis su tarptautinės teisės ekspertu prof. Simonu Chestermanu
Nuo kokių aplinkybių priklausys DI reguliavimas? Kokie galimi sprendimai, siekiant surasti pusiausvyrą tarp piliečių saugumo ir inovacijų plėtros? Į šiuos ir kitus klausimus po Vilniuje vykusios konferencijos „Technologiniai pokyčiai ir tarptautinė teisė“ atsakė tarptautinės teisės ekspertas, Singapūro nacionalinio universiteto prorektorius profesorius Simonas Chestermanas. Konferenciją „Technologiniai pokyčiai ir tarptautinė teisė“ organizavo Europos tarptautinės teisės asociacija (angl. European Society of International Law – ESIL) ir Vilniaus universitetas. ESIL konferencijos kasmet vyksta vis kitame Europos mieste. Lietuvoje šis renginys vyko pirmą kartą.
– Kokias grėsmes žmonijai gali kelti dirbtinis intelektas? Kas turėtų imtis priemonių, padėsiančių išvengti šių grėsmių?
– Dalis žmonių nerimauja dėl egzistencinių grėsmių, pavyzdžiui, kad dirbtinis intelektas (DI) gali sukilti ir mus visus išžudyti. Manau, kad ši iš mokslinės fantastikos kilusi grėsmė peraugo į dalies žmonių rūpestį. Tačiau nematome jokių įrodymų, kad šiandien egzistuojantis DI eitų tokia linkme. Jeigu kiltų ketinimų sukurti nekontroliuojamą DI, reikėtų nuo to susilaikyti. Vis dėlto yra daug trumpalaikių problemų, kurias turėtume spręsti jau dabar, pavyzdžiui, diskriminacija ir šališkumas. Priimdamas sprendimus, DI remiasi duomenų rinkiniais, kuriuose yra žmogui būdingo šališkumo. Todėl organizacijos ir vyriausybės, teikdamos rekomendacijas, turėtų labai apdairiai naudoti algoritmus, jeigu nėra pasirengusios už tas rekomendacijas atsakyti. Kai algoritmai priklauso privačioms bendrovėms, negalime žinoti, kas į juos įtraukiama ir kokia informacija iš jų išeina. Todėl turime atsargiai pasitikėti sistemomis, kurių nesuprantame.
Visa tai susiję su didesne grėsme – dažniau naudojantis DI, gali pasikeisti mūsų mąstymas. Turbūt visi žinome, kokius pokyčius socialiniai tinklai sukelia jaunajai kartai, todėl DI taip pat gali pakeisti mūsų mąstymą ir požiūrį į pasaulį. Jei pasikliautume DI labai elementariai informacijai gauti, gera analogija būtų išmanieji telefonai, dėl kurių mums nebereikia įsiminti daugybės telefono numerių, o tai – labai patogu. Bet jei vietoje telefono numerių pradėtume pasikliauti technologijomis, formuodami savo nuomonę, turėtume labai didelę problemą, nes nebe mes patys formuotume savo nuomonę, o kažkas kitas jai darytų įtaką.
Taigi ką turėtume daryti? Pirma, turėtume išmokti geriau suprasti DI algoritmus. Reikia atsargiau naudoti sistemas, su kuriomis nesame susipažinę ir nežinome, kokie būtų naudojimosi jomis padariniai. Turėtume aiškiau apibrėžti atsakomybę už DI padarytas klaidas. Pavyzdžiui, jei automobilis be vairuotojo padaro avariją arba algoritmas priima rasistinį sprendimą, už tai turėtų atsakyti koks nors asmuo arba įmonė.
– Pranešime minėjote, kad, bijodamos šių grėsmių, valstybės gali imtis per griežto technologijų vystymo reguliavimo. Ar įmanoma pasiekti subalansuotą reguliavimo lygį, kad žmonės būtų apsaugoti nuo pavojų, o technologijos vis dar galėtų tobulėti?
– Taip, bet tai yra sudėtinga. Reguliavimas priklauso nuo to, kokią riziką šalis gali prisiimti. Pavyzdžiui, Europos Sąjunga reguliuoja daug daugiau nei kitos šalys, nes įžvelgia riziką, kurios nenori prisiimti. Tuo tarpu Singapūras girdi Europos požiūrį ir sako, kad tai suvaržytų inovacijas ir tada jos vyktų kitur. Europiečiai atsako maždaug taip: „Kai kuriose srityse, pavyzdžiui, biometrinio žmonių stebėjimo, mes nenorime naujovių. Nenorime, kad veido atpažinimo technologijos būtų visur.“ Taigi apibendrinant galima pasakyti, kad viskas priklauso nuo to, kokią riziką mato kiekviena šalis ir iš dalies nuo jos dydžio. Tokia didelė šalis ar šalių grupė, kaip Europos Sąjunga, vis tiek yra svarbi rinka, net jei ji griežtai reguliuojama. Todėl jei tai reiškia, kad „Meta“ ir „Google“ turi verstis per galvą, kad galėtų veikti Europos Sąjungoje, jos vis tiek tai darys. Jeigu panašiai pasielgtų maža šalis, minėtos įmonės galėtų nuspręsti, kad ten apskritai neverta užsiimti verslu.
Yra ir kitokių dilemų nei per menkas ar per griežtas reguliavimas. Pavyzdžiui, ar žiūrėti į DI apibendrintai, kaip Europos Sąjunga, kuri traktuoja visą DI kaip vieną sritį? Ar kaip Singapūras ir kitos šalys, kurios į tai žiūri kaip į daug skirtingų sričių? Nustatyti konkrečias problemas, kurias norima spręsti, o ne reguliuoti technologijas kaip visumą? Aš manau, kad dauguma šalių pasirinks pastarąjį variantą.
– Ar galite paminėti pavyzdžių, kai valstybėms pavyksta subalansuoti DI reguliavimą?
– Tai priklauso nuo to, kokių tikslų siekiame. Manau, kad Europos Sąjunga yra svarbus valstybių grupės pavyzdys. Ji teikia pirmenybę teisėms, o ne nekontroliuojamai technologijų pažangai. Todėl tikrai įdomu stebėti, kur tai nuves. Singapūras ėmėsi labai praktiško požiūrio – jo tikslas buvo sukurti tam tikras priemones, pavyzdžiui, „AI verify“, kurios stiprina įmonių savireguliaciją. Daugelis bendrovių teigia, kad turi konkrečias su DI susijusias gaires ir standartus, todėl Singapūras sako: „Gerai, štai priemonė, su kuria galite įvertinti, ar pakankamai gerai laikotės savo standartų.” Be to, kai kurios vyriausybės sukuria tam tikrą virtualią aplinką, pavyzdžiui, finansų sektoriuje, kurioje galima paleisti savo produktų programas, patiriant minimalią riziką. Yra ir kietasis reguliavimas, taikomas konkrečiuose sektoriuose, pavyzdžiui, medicinos, finansų ar transporto. Todėl manau, kad Singapūras daro įdomius dalykus.
Kitas gana įdomus atvejis yra Kinija. Ji į DI žiūri per nacionalinio saugumo prizmę ir vykdo įdomią socialinę politiką, kuri gali sudominti paauglių tėvus. Tai – laiko, kurį vaikai žaidžia vaizdo žaidimus, automatinis ribojimas ir reikalavimas, kad dideli DI kalbos modeliai niekada nemeluotų. Taigi nemanau, kad kuri nors šalis yra atradusi tobulą DI politiką, bet tai natūralu ankstyvuoju technologijų evoliucijos etapu – visame pasaulyje vyksta įvairūs eksperimentai. Manau, kad vienas dalykas, kurį greitai visi suvoksime, – nieko nedaryti nėra išeitis.
– Ar matote kokių nors iššūkių dabartiniame pasaulyje, kuriuos DI galėtų padėti įveikti?
– Taip, DI labai gerai optimizuoja išteklius ar darbo eigą, bando rasti efektyviausius būdus, kaip apdoroti didžiulius duomenų kiekius. Yra dalykų, kuriuos DI gali atlikti, o žmonės – ne, pavyzdžiui, vaistų atradimas: antibiotikai iš tikrųjų pradėti plačiai vartoti tik apie 1940-uosius, mes juos atradome natūraliai. Dabar, pasitelkus DI, galima ne tik pasikliauti tuo, kad dirvožemis natūraliai sukurs naujus antibiotikus, bet tai daryti ir virtualiai. Turime galimybę eksperimentuoti su visais įmanomais molekulių deriniais, todėl tokiose srityse, kaip ši, DI turi didžiulį potencialą. Be to, klimato ir orų modeliavimas yra neįtikėtinai sudėtingas procesas, kuriame DI gali atlikti svarbų vaidmenį. Didžiuliai duomenų kiekiai – tai sritis, kurioje jis tikrai galėtų būti labai svarbus.
– Kalbant apie tarptautinę teisę, ar manote, kad galbūt ateityje atsiras tarptautinė organizacija, panaši į Jungtines Tautas, kuri padės kurti DI įstatymus ir taisykles visoms šalims?
– Manau, kad tai būtų labai sudėtinga, nes dabar visa galia yra bendrovių rankose. Bendrovės uždirba pinigus ir nebūtinai nori būti reguliuojamos. Tuo tarpu valstybės taip pat turi galios, tačiau jos atsargiai vertina savo perteklinio ar nepakankamo reguliavimo riziką. Tarptautiniu lygmeniu įtakos beveik nėra, išskyrus galią, kurią valstybės noriai suteikia tarptautinėms organizacijoms. Galima įsivaizduoti scenarijų, pagal kurį visos valstybės sutinka suteikti galią tarptautinei organizacijai, bet kodėl jos turėtų tai daryti? Pavyzdžiui, jei pažvelgtumėte į dabartinę įtampą tarp JAV ir Kinijos, kodėl JAV norėtų būti valdoma taip pat, kaip Kinija ir atvirkščiai? Tai įmanoma, bet mažai tikėtina. Tokie scenarijai įmanomi tik esant dviem aplinkybėms: jei kas nors yra labai neprieštaringa ir savaime suvokiama, pavyzdžiui, pašto siuntų standartai, arba labai pavojinga, pavyzdžiui, branduolinės bombos.