Dirbtinis intelektas (DI) – dažniausiai diskutuojama ir sparčiausiai besivystanti technologija šiandien. Kur yra jo riba? Ką DI vystymasis reiškia informacijos sklaidai, kultūrai ir demokratijai? Tokia tema prieš dešimtmetį dar būdavo kuriami tik mokslinės fantastikos siužetai. Šiandien šie klausimai asocijuojasi su vienu verslo pasaulio veidu – Peter Thiel iš Palantir Technologies.
Palantir Technologies 2003 m. Silicio slėnyje įkūrė Peter Thiel (PayPal bendraįkūrėjas), Alex Karp (filosofas su Harvardo laipsniu), Stephen Cohen (kompiuterinių technologijų mokslininkas) ir Joe Lonsdale (verslininkas). Šis produktas buvo pristatoma kaip saugumo industriją revoliucionuosiantis išradimas. Išdidi misijos deklaracija: technologija kovai su terorizmu. Tačiau ši kilnumo skraistė slepia kur kas sudėtingesnę realybę.
Nors Palantir prisistato kaip pažangios analitikos ir kovos su terorizmu bei nusikalstamumu lyderė, jos technologijos neretai yra naudojamos kaip masinės stebėsenos įrankis – nuo plataus masto duomenų rinkimo ir analizės iki prognozavimo algoritmų, galinčių identifikuoti žmonių elgesio modelius. JAV imigracijos tarnybos Palantir sistemas naudoja migrantų judėjimo realiuoju laiku sekimui, taip laužant jų fundamentalius privatumo principus, nes beprecedentis asmens persekiojimas be jokių įrodymų ar indikacijų apie jo nusikalstamą veiką, pažeidžia asmens teises į privatumą, saugumą bei judėjimo laisvę.
Skaidrumo trūkumas dar labiau gilina nepasitikėjimą – Palantir veikia kaip „juodoji dėžė“, kurioje algoritmų logika ir didžioji dalis duomenų naudojimo prieinama tik įmonęs vadovams. Be to, Europos Sąjungos piliečių duomenys priklausantys JAV bendrovei neišvengiamai susiduria su problemomis: pagal JAV „Cloud Act“ Amerikos institucijos gali reikalauti Palantir renkamų duomenų, tad šalys, kurios naudoja Palantir technologiją savo saugumo sektoriuje rizikuoja prarasti skaitmeninį suverenitetą, šios itin galingos duomenų analizės sistemos reikalauja griežtų apribojimų programos taikymui bei duomenų kaupimui.
Norint suprasti šios įmonės keliamą grėsmę verta įsigilinti ir į įmonės steigėją. Thielis save vadina konservatyviu libertaru, tačiau jo manymu, laisvoji rinka yra neefektyvi, jis teigia, kad konkurencingumas yra „nevykeliam“ ir jis mažina pajamas, todėl įmonės turėtų siekti monopolijos. Jis kritikuoja dabartinę JAV politinę sistemą ir teigia, kad laisvė ir demokratija negali egzistuoti kartu. Dėl šių priežasčių, kyla klausimas, ar galima pasitikėti vieną galingiausių saugumo technologijų kompanijų pasaulyje, kontroliuojama asmens, kuriam laisvojo pasaulio vertybės yra nesuderinamos, o sistemos užtikrinančios sąžiningumą yra trikdžiai pelno augimui?
Ką visa tai reiškia Lietuvai? 2023 m. Vilniuje atidarytas „Palantir“ technologijų centras – gynybos analizės plėtojimo centras, užsiimanti didelių kiekių duomenų analize. Tai žingsnis, rodantis mūsų siekį stiprinti kiberninį saugumą ir įsitraukti į NATO gynybos inovacijų tinklą. Tačiau kartu tai kelia klausimų: kokie duomenys čia bus kaupiami, kieno serveriuose jie bus saugomi ir kokias garantijas turime, kad informacija nepateks už Europos teisinės jurisdikcijos ribų?
Šiuo atveju „pasitikėjimas partneriais“ tampa ne tik diplomatiniu lozungu, bet ir praktiniu išbandymu – ar mūsų valstybė turi pakankamai mechanizmų, kad apsaugotų strateginius duomenis nuo galimų nutekinimų? Jei tokios technologijos veiks be skaidrumo ir aiškios atskaitomybės, rizikuojame, kad „saugumo stiprinimas“ virs priklausomybe nuo užsienio algoritmų, o nacionalinis saugumas – technologine priklausomybe.
Palantir nėra lengvai suderinamas su Bendruoju duomenų apsaugos reglamentu – (General Data Protection Regulation GDPR), strateginiu duomenų saugojimo ir skaidrumo principais. GDPR principai siekia – duomenų minimizavimo (renkama tik tai, kas būtina), tikslo ribojimo (duomenys negali būti naudojami kitais tikslais nei tie, kuriems buvo surinkti) ir naudotojo sutikimo reikalavimais. Palantir veikimo modelis iš esmės grindžiamas milžiniškų duomenų rinkimu, apdorojimu ir jungimu iš įvairių šaltinių.
Palantir vykdo masinė analizė – tai ne tik duomenų kaupimas, bet ir jų jungimas iš skirtingų sričių: verslo, sveikatos apsaugos, migracijos, teisėsaugos duomenų bazių. Tokiu būdu Palantir platformos gali kurti išsamų kiekvieno asmens „duomenų profilį“ – apimantį ekonominius ryšius, sveikatos būklę, kelionių istoriją ar net prognozuojamą elgesį. Šis duomenų susiejimas leidžia algoritmams aptikti dėsningumus ir prognozuoti rizikas, bet kartu ištrina ribą tarp viešo ir privataus gyvenimo.
Tokios sistemos suteikia beribę galią analizuoti ir klasifikuoti žmones pagal modelius, kurių logika nėra vieša ar atskaitinga visuomenei. Kai kontrolė pereina iš žmogaus į algoritmą, technologija iš saugumo priemonės virsta vienos kompanijos kontrolės įrankiu. Jei nebus sukurtos veiksmingos etinės ir teisinės apsaugos priemonės, saugumo pažadai gali pavirsti į priklausomybę nuo tų, kurie valdo duomenis. Europa vis dar gali pasirinkti – užtikrinti skaidrumą, atsakomybę ir demokratinį piliečių įsitraukimą į tai, kaip naudojamos tokios technologijos.
Lietuva, būdama NATO ir ES nare, turėtų užimti ne tik stebėtojos vaidmenį, bet ir lyderiauti kurdama atsakingą technologinę kultūrą Europoje. Tai reikštų ne tik technologijų diegimą, bet ir jų reguliavimo bei etikos formavimą. Valstybė galėtų stiprinti nacionalinę duomenų strategiją – užtikrinti, kad viešojo sektoriaus duomenys būtų tvarkomi tik Europos jurisdikcijoje, diegti griežtus viešųjų pirkimų kriterijus, kurie reikalautų skaidrumo iš technologinių partnerių, ir remti atvirų, audituojamų algoritmų kūrimą.
Be to, būtina investuoti į kibernetinio raštingumo ir duomenų etikos švietimą. Tik taip duomenų apsauga gali tapti mūsų privatumo tvirtove, o ne jos silpnumo šaltiniu. Kitaip tariant, technologinis saugumas prasideda ne nuo algoritmų, o nuo visuomenės gebėjimo juos suprasti, vertinti ir kontroliuoti.