Tavo telefonas tave stebi. Visada.

Tavo telefonas apie tave žino daugiau nei dauguma tavo pažįstamų. Ir jis niekada nenustoja žiūrėti. Jei manai, kad kalba tik apie slapukus, vietos sekimą, pokalbių istoriją ir kiekvieną aplankytą svetainę, kuri maitina korporacijų ir valdžios duomenų bazes, tai tik pradžia. Kitas žingsnis nebe rinkti duomenis pakeliui, o skaityti juos pačiame įrenginyje – prieš tau ką nors išsiunčiant. Tavo kišenėje, tavo rankoje, visą parą.

Nuotrauka daktarui, po kurios dingo visas gyvenimas

2021 metų vasarį San Franciske gyvenantis tėvas, kurį žiniasklaida vadina Marku, pastebėjo, kad jo kūdikiui patinsta ir skauda kirkšnies sritį. Vyko pandemija, gydytojai vengė kontaktinių vizitų, tad medikai paprašė atsiųsti nuotraukas prieš vaizdo konsultaciją. Markas paėmė savo „Android” telefoną, nufotografavo pažeistą vietą ir kartu su žmona nusiuntė slaugytojai. Diagnozė buvo greita, antibiotikai padėjo, vaikas pasveiko.

Bet telefonas stebėjo. Tos kelios nuotraukos, automatiškai nukopijuotos į „Google” debesį, patraukė dirbtinio intelekto sistemos, kuri be perstojo skenuoja naudotojų atvaizdus, dėmesį. Sistemos akyse tėvas, bandęs padėti sūnui, tapo įtariamuoju. Po dviejų dienų Markas gavo pranešimą, kad jo paskyra uždaryta dėl žalingo turinio – „sunkaus taisyklių pažeidimo”, kuris „gali būti neteisėtas”.

Markas kadaise pats dirbo prie automatinio turinio moderavimo įrankių, tad iškart suprato, kas vyksta. Problema buvo ta, kad nebuvo kam apeliuoti. Sprendimą priėmė ir patvirtino pati sistema. „Google” perdavė duomenis policijai, San Francisko pareigūnai pradėjo tyrimą. Įrodyti, kad tai nesusipratimas, pavyko – žmonos, slaugytojos liudijimai ir gydymo dokumentai buvo Marko pusėje. Bet paskyros jam negrąžino.

Realiais nuostoliais tai reiškė metų metų nuotraukas, laiškus, kontaktus, sūnaus pirmųjų metų įrašus, el. pašto adresą ir verslo dokumentus. O kadangi telefono planas buvo „Google Fi”, jis prarado net savo telefono numerį. Beveik tapatus scenarijus tuo pačiu metu ištiko kitą tėvą Hjustone, kurį žiniasklaida vadina Cassio – ta pati infekcija intymioje vietoje, tos pačios pediatrės prašytos nuotraukos. Cassio kaip tik pirko namą, ir paskyrų sunaikinimas vos nesugriovė sandorio. Nė vienas jų nieko blogo nepadarė. Užteko to, kad telefonas žiūrėjo.

Aš žinojau, kad tos kompanijos stebi ir kad privatumas nėra toks, kokio tikimės. Bet aš nieko blogo nepadariau.

Teismas be teisėjo

Marko istorija atrodo kaip reta klaida. Bet skaičiai rodo, kad tai ne išimtis, o sistemos veikimo būdas. 2021 metais „Google” pateikė daugiau nei 600 tūkstančių pranešimų apie įtariamą medžiagą ir tuo remdamasi sunaikino apie 270 tūkstančių naudotojų paskyrų. Klausimas paprastas: ar tikrai visi tie žmonės nusikaltėliai, ar dalį jų nušlavė pernelyg uolus algoritmas, kuriam viskas atrodo kaip vinis, nes jis – plaktukas?

Esminė problema net ne klaidų kiekis, o tai, kad grandinėje nebeliko žmogaus. Nuotrauka virsta pranešimu, pranešimas – uždaryta paskyra, ir viskas įvyksta be teisėjo, be advokato, be galimybės paaiškinti kontekstą. Tas pats mechanizmas, kuris turėtų gaudyti tikrus nusikaltėlius, be perspėjimo suima ir nekaltą tėvą. O klaidingi pažymėjimai kenkia dukart: ne tik apkaltintam žmogui, bet ir tikroms aukoms, nes tyrėjai skęsta netikruose pranešimuose. Sistema mato viską ir nesupranta nieko.

Kaip Jungtinė Karalystė nutiesė kelią

Iki šiol kalbėjome apie tai, ką daro kompanijos. Bet įdomiausia ir bauginamiausia dalis prasideda ten, kur toks stebėjimas įrašomas ne į telefoną, o į patį įstatymą. Angliškai kalbančiame pasaulyje pirmūnė čia – Jungtinė Karalystė. 2016 metų Investigatory Powers Act, pramintas „snooperių chartija”, suteikė policijai ir žvalgybai galią masiškai perimti komunikacijas ir reikalauti, kad paslaugų teikėjai saugotų kiekvieno naudotojo naršymo istoriją.

2024 metų pataisa nuėjo dar toliau. Ji įpareigoja technologijų kompanijas, net užsienyje registruotas, iš anksto pranešti valdžiai apie planuojamus saugumo, šifravimo ir privatumo patobulinimus. O gavusi tokią informaciją, valdžia gali liepti tuos patobulinimus sustabdyti. Praktiškai tai reiškia, kad įmonė privalo klausti leidimo prieš pagerindama savo produktų saugumą. Ne tave apsaugoti, o užtikrinti, kad langas į tavo įrenginį liktų atviras.

Kas nutinka realybėje, geriausiai parodė „Apple”. 2025 metais gavusi slaptą nurodymą įtaisyti slaptas duris į „iCloud” šifravimą, kompanija nepanoro to daryti ir tiesiog visai pašalino stipriausią „Advanced Data Protection” apsaugą britų naudotojams. Rezultatas paradoksalus: valdžia „laimėjo”, o Didžiosios Britanijos gyventojai dabar turi mažiau privatumo nei kiti pasaulio žmonės.

Slaptos durys, paaiškintos žmogiškai

Kai kalbama apie ištisinį (end-to-end) šifravimą, dažnai girdime, kad žinutę gali perskaityti tik gavėjas. Žinutė iškeliauja užšifruota, o iššifravimo raktas yra tik gavėjo rankose. Sistema gera – kol į ją neįtaisoma skylė. Ta skylė vadinama vietiniu skenavimu (client-side scanning), nors pasitaiko ir kitų pavadinimų.

Veikia jis taip: tarp dviejų šifravimo galų įtaisomas filtras, prijungtas prie hešų duomenų bazės. Kai žinutė ar failas pro jį praeina, jis nepamatytas patikrinamas pagal tą bazę dar prieš užšifravimą. Jei filtras nusprendžia, kad turinys draudžiamas, geriausiu atveju žinutė tiesiog neišsiunčiama. Blogiausiu – žinutė iškeliauja, bet jos kopija atitenka trečiajai šaliai: moderavimo komandai ar valdžiai. Ir tu apie tai niekada nesužinai.

Jei tau pažadėtame ištisiniame šifravime slypi vietinis skenavimas, tas šifravimas – tik raminantis melas.

Svarbiausia, kad nėra prasmingos ribos, ką galima sudėti į tą hešų sąrašą. Šiandien ten vaikų išnaudojimo medžiaga, rytoj – terorizmo užuominos, poryt – nepatogus žodis ar politinė kalba. Išplėsti, ką filtras gauna, yra ne technologijos, o politikos sprendimas. Kai duris kartą atidarai, sunku jas vėl uždaryti.

Skydas, kurio negalima kritikuoti

Visos šios politikos remiasi vienu argumentu, kurį beveik neįmanoma paneigti: juk tu ne prieš vaikų saugumą? Būtent dėl to jis toks veiksmingas – atrodo baisiai, jei ginčijiesi su siūlymu, kuriuo neva siekiama sustabdyti prievartą prieš vaikus. Tačiau vertėtų klausti, ar ši technologija iš tikrųjų gaudo nusikaltėlius, ar tik palengvina valdžioms sekti tuos, kurių kalba joms nepatinka.

Čia verta sustoti prie skaičių, nes jie dažnai pateikiami kryptingai. JAV Dingusių ir išnaudojamų vaikų centras (NCMEC) 2023 metais gavo apie 36 milijonus pranešimų. Skamba kaip sprogimas. Bet 2024 metais skaičius nukrito iki maždaug 20,5 milijono – ne todėl, kad nusikaltimų sumažėjo, o todėl, kad „Meta” pradėjo grupuoti pasikartojančius pranešimus ir plinta ištisinis šifravimas, ribojantis, ką platformos apskritai gali matyti. O tarp tų milijonų pranešimų yra ir tokių kaip Markas su Cassio – klaidingi pažymėjimai.

Kas tikrai norėtų apsaugoti vaikus, pastebėtų šią akivaizdžią sistemos ydą ir kurtų tikslesnius įrankius. Nebent „apsaugoti vaikus” iš tikrųjų tėra dūmų uždanga, po kuria įrengiama mašina, stebinti visus.

Europos Sąjunga ir JAV eina pramintu keliu

Būtų naivu manyti, kad tai prasideda ir baigiasi Didžiojoje Britanijoje. Europos Sąjunga jau kelerius metus stumia politiką, oficialiai vadinamą CSAR, o liaudiškai – „chat control”. Idėja ta pati: platformos „savanoriškai” skenuotų visų naudotojų žinutes ieškodamos draudžiamo turinio. Kai didelio ekonominio bloko valdžia stipriai siūlo ką nors daryti „savanoriškai”, tai šiek tiek primena mafiją, maloniai raginančią savanoriškai mokėti už apsaugą.

Padėtis 2026 metais – įtempta ir nenusistovėjusi. Nuolatinis CSAR reglamentas įstrigo: birželio derybos baigėsi be sutarimo, o klausimas grįžta rudenį. Tuo tarpu „laikinasis” savanoriško skenavimo režimas liepą buvo pratęstas iki 2028 metų, nors dauguma balsavusių Europos Parlamento narių buvo prieš. Kitaip tariant, kova dar nebaigta, ir viešas spaudimas ją jau ne kartą pakreipė. Ir tai liečia mus – Lietuva čia ne stebėtoja, o tos pačios ES dalis.

JAV atitikmuo – EARN IT aktas, kuris iš esmės yra tų pačių idėjų perpakavimas. Jis grasina atimti iš technologijų kompanijų teisinį imunitetą, jei šios nesilaikys valdžios patvirtintų „geriausių praktikų”. Kritikai teigia, kad taip per teisinę prievartą įmonės būtų spaudžiamos silpninti šifravimą ir žvilgčioti į privačias nuotraukas bei žinutes. Skirtingi įstatymai, tas pats tikslas visame Vakarų pasaulyje: kad tavo įrenginys žiūrėtų į tave.

Tinklas, mestas tunui, sugauna kur kas daugiau nei tuną.

Kas dar lieka žmonėms

Įsivaizduok, kad su draugais nusifotografavai paplūdimyje maudymosi kostiumėliais. Tokių nuotraukų niekur neskelbi, jos tiesiog guli tavo albume. Bet UK ar ES, o netrukus galbūt ir JAV, kitą kartą telefonui kuriant atsarginę kopiją debesyje, kūną ir odą atpažįstanti sistema gali jas ištraukti. Galbūt jokių pasekmių nebus, galbūt niekada net nesužinosi. Bet kažkur moderavimo komanda ar kibernetinių nusikaltimų skyrius žiūri į tavo paplūdimio nuotraukas. O jei tai būtų intymi nuotrauka partneriui – žiūrėtų į ją.

Nesu iš tų, kurie sako, kad rytoj viskas sugrius. Tikrų nusikaltėlių gaudymas – realus ir svarbus tikslas, ir kartais atrodo, kad būtent todėl šias priemones taip sunku kritikuoti. Bet kai vardan gero tikslo į kiekvieno kišenę įtaisoma stebėjimo mašina, kuri viską tikrina prieš tau spustelint „siųsti”, pati privataus pokalbio galimybė tampa retenybe. O ką reta, tas brangu.

Ta pati serijos gija galioja ir čia: kuo daugiau netikro, tuo brangesnis tikras. Kuo daugiau visų žinutes skaitančių filtrų, tuo vertingesnis tampa tikras privatus pokalbis, tikras tavo telefonas, tikras dalykas, kuris priklauso tau, o ne yra pasiskolintas.

Yra ir kitas kelias

Visa tai nereiškia, kad belieka gūžtelėti pečiais. Yra pilna privačių sprendimų, kai tavo informacija apskritai neišeina iš tavo namų ar telefono. Vietoj svetimo debesio – savo serveris ar disko šifravimas namuose. Vietoj skenuojamų pokalbių programų – tikros ištisinio šifravimo priemonės be filtrų. Vietoj „nemokamų” paslaugų, kurios moka tavo duomenimis – įrankiai, kuriuos valdai pats. Duomenys, kurie niekada nepakyla į debesį, negali būti nei nuskenuoti, nei pažymėti, nei prarasti dėl algoritmo klaidos.

Techniškai tai paprasčiau, nei atrodo, ir nebūtina viską daryti vienu ypu. Jei norėtum tokių sprendimų savo namams ar verslui, padėti juos surasti gali advancedwebdesigner.com/lt.

Šis puslapis – be reklamų ir be slapukų. Mažas tikras dalykas tarp daugybės netikrų. Tavo telefonas gali tave stebėti visada, bet tik tada, kai tu leidi jam tai daryti.

Papildomai: vaizdo įrašas anglų kalba

Kam patogiau angliškai – šią temą plačiau nagrinėja ir toliau įdėtas vaizdo įrašas.