Prisiskambinti neįmanoma: kaip iš pagalbos dingo žmonės

Kažkas sugedo. Skambini arba rašai. Paspaudi 1, paskui 4, paskui prašo keliais žodžiais aprašyti problemą. Įrašai „operatorius” arba „žmogus”. Sistema atsiprašo, pakartoja tas pačias parinktis ir grąžina į pradžią.

Keista tai, kad greičiausiai viskas veikia būtent taip, kaip suprojektuota. Kadaise pagalba prasidėdavo nuo žmogaus, kuris naudojosi įrankiais tavo problemai spręsti. Dabar prasideda nuo įrankių, o žmogų pasieki tik tada, jei tie įrankiai patys nusprendžia, kad jų neužtenka. Vis dažniau jie nenusprendžia niekada.

Ir tai jau seniai nebe apie sugedusį pirkinį. Tai apie prieigą prie tavo nuotraukų, pinigų, darbo ir tapatybės – dalykų, kuriuos vienu automatiniu sprendimu galima užrakinti, o atrakinti nebėra kam.

Žmogus niekur nedingo. Jį perkėlė į eilės galą, už sistemos, kuri sukurta tam, kad iki jo neprieitum.

Kodėl taip apsimoka

Logika paprasta ir šalta. Pagalbos puslapis aptarnauja tūkstančius žmonių vienu metu. Automatinis meniu atsiliepia dieną ir naktį. Botas veda daug pokalbių tuo pačiu metu. Gyvas darbuotojas taip negali – vienas žmogus veda vieną skambutį arba kelis pokalbius. Kiekviena gyva sąveika sunaudoja kažkieno laiką, o laikas yra brangiausia palaikymo dalis.

Todėl kiekvienas klausimas, išspręstas dar prieš gyvą pokalbį, įmonei sutaupo pinigų. Paprastam klausimui tai net patogiau: užsakymo būseną ar slaptažodžio atstatymą dažnai greičiau sutvarkysi savitarnoje nei skambučiu. Bet mastas jau seniai peržengė šią ribą.

Salesforce vadovas Marcas Benioffas gyrėsi sumažinęs palaikymo komandą maždaug nuo devynių iki penkių tūkstančių žmonių, darbą perdavęs dirbtinio intelekto agentams. Verizon vadovas viešai kalbėjo, kad procesiniai vaidmenys, tokie kaip klientų aptarnavimas, greičiausiai bus pakeisti dirbtiniu intelektu. Komunikacijų bendrovės Sinch apklausa rodo, kad daugiau nei pusė organizacijų jau turi dirbtinio intelekto agentus tiesioginiame kontakte su klientais, o artimiausiu metu jų dalis artės prie devynių dešimtadalių.

Technologijų analitikas Gergely Orosz, rašantis leidinį „The Pragmatic Engineer”, pastebi svarbų dalyką: didieji technologijų milžinai prastai aptarnauja klientus ne netyčia. Jie sąmoningai investuoja į šią sritį per mažai, nes gali sau tai leisti. „Gmail” turi daugiau nei pusantro milijardo naudotojų ir nesiūlo jokio žmogiško palaikymo tam, kurį užrakino iš savo paskyros.

Metrika, kuri veikia prieš tave

Ta pati sistema, kuri greitai išsprendžia paprastą klausimą, tą patį klausimą gali ir sulaikyti – neprileisti prie žmogaus. Bėda prasideda ten, kur užklausa netelpa į scenarijų. Kad perduotų pokalbį žmogui, sistema pirma turi atpažinti nepatogų dalyką: kad ji pati nustojo būti naudinga. Dažnai ji to neatpažįsta, o kartais ir neturi kam perduoti.

Įmonės matuoja rodiklį, vadinamą sulaikymu (angl. containment) – kokia dalis klausimų „išsprendžiama” savitarnoje be gyvo darbuotojo. Svarbiausias čia yra žodis „išsprendžiama”. Klientas gali uždaryti pokalbio langą todėl, kad botas nepadeda. Gali pereiti nuo pokalbio prie telefono. Gali pabandyti kitą dieną. Pirmoji sąveika baigėsi, bet problema – ne. Iš sistemos pusės kontaktas įvyko ir užsidarė. Iš kliento pusės neišspręsta nieko.

Jei sėkmė matuojama tuo, kiek žmonių nepasiekė darbuotojo, sistema anksčiau ar vėliau ims optimizuoti prieš klientą.

Skaičiai patvirtina, kad tai ne teorija. Patirties tyrimų bendrovės Qualtrics duomenimis, maždaug penktadalis žmonių, bendravusių su dirbtinio intelekto agentu, negavo jokios naudos. Sinch tyrimas rodo, kad apie tris ketvirtadalius įmonių, paleidusių botą, vėliau jį bent iš dalies atšaukė. Technologija masiškai diegiama ir tyliai atšaukiama tuo pačiu metu.

Kai atsakymas klaidingas, o atsakingo nėra

Ryškiausias pavyzdys atėjo iš aviakompanijos „Air Canada”. Keleivis paklausė jos pokalbių boto apie gedulo tarifą – pigesnį bilietą, kai šeimoje ištinka netektis. Botas atsakė, kad bilietą galima pirkti dabar, o nuolaidos prašyti vėliau. Bėda ta, kad politikos puslapis, į kurį pats botas nukreipė, sakė priešingai: prašymo po kelionės pateikti nebegalima. Keleivis pasekė boto patarimu, nuskrido, paprašė kompensacijos ir gavo atsisakymą.

Britų Kolumbijos ginčų tribunolas galiausiai laikė „Air Canada” atsakinga už klaidingą informaciją. Kaip pažymėta sprendime, klientas negali būti verčiamas spėti, kuri svetainės dalis patikimesnė už kitą. Bet atkreipkite dėmesį, ko prireikė, kad kas nors iš viso atsakytų: teismo. Automatinis atsakymas ne išsprendė problemą, o sukūrė naują.

Būtų neteisinga sakyti, kad automatika visada blogesnė. „Klarna” gyrėsi, kad jos dirbtinio intelekto asistentas per pirmą mėnesį apdorojo apie du su puse milijono pokalbių – maždaug du trečdalius viso palaikymo, o vidutinis problemos sprendimo laikas nukrito nuo vienuolikos iki mažiau nei dviejų minučių. Tai tikra nauda klientui. Tačiau vėliau pati „Klarna” pripažino per stipriai pasikliovusi dirbtiniu intelektu kaip išlaidų karpymo įrankiu ir ėmė grąžinti žmones. Net didelė, technologiškai pažangi įmonė tai suprato tik praėjus laikui.

Skrydžiai: neatsiliepia beveik nė viena

Aviacija – sritis, kur žmogaus nykimas jaučiamas ypač skaudžiai, nes problemos dažnai skubios. Pigių skrydžių bendrovė „Frontier” apskritai panaikino klientų aptarnavimo telefono liniją – paskambinti gyvam agentui nebegalima. Liko botas, pokalbių langas, socialiniai tinklai ir „WhatsApp”.

„Wizz Air” keleiviai pasakoja tipišką istoriją: skrydis atšaukiamas, pinigų grąžinimas pažadamas, bet lėšos taip ir neįskaitomos. Mėnesių mėnesius nėra jokio atsako nei elektroniniu paštu, nei per skundų formą. Botas nenaudingas, o vienintelis kelias iki gyvo žmogaus – mokamas numeris, kur minutė kainuoja apie devyniasdešimt centų, o dėl ilgo laukimo prisiskambinti praktiškai neįmanoma. Bendrovės šūkis – „viskas apie tave”.

„Ryanair” keleiviai per masinius atšaukimus aprašo tą patį: prisiskambinti neįmanoma, laiškai grįžta atgal, pokalbių lange laukiama valandas. Galų gale daugelis pinigus atgauna ne per pačią aviakompaniją, o per banko ginčą – paprašo kortelės išdavėjo atšaukti mokėjimą. Tai kartojasi visame straipsnyje: problemą galiausiai išsprendžia kažkas kitas, ne ta įmonė, kuriai sumokėjai.

Skrydis atšauktas, pinigai įstrigę, o vienintelis kelias iki žmogaus kainuoja eurą už minutę laukimo, kurio niekas neatsilieps.

Socialiniai tinklai: vieną apgauna botas, kitas negali sutaisyti

Saugumo naujienų leidinys „BleepingComputer” aprašė ypač iškalbingą ataką. Užpuolikai perima „Instagram” paskyras nelaužydami slaptažodžio – jie tiesiog kalbina „Meta” dirbtinio intelekto asistentą, įtikina jį, kad yra tikrieji savininkai, ir priverčia pakeisti prie paskyros pririštą elektroninį paštą. Kai reikia patvirtinti tapatybę asmenuke, jie paima nuotrauką iš aukos profilio, paverčia ją dirbtinai sugeneruota vaizdo animacija ir įkelia. „Meta” sistema nemato skirtumo tarp tikros asmenukės ir sugeneruoto veido.

Nukentėjusieji negali atgauti prieigos, nes visa „pagalba” yra tik dirbtinio intelekto ir botų kilpos. Vienas iš jų taikliai apibendrino: vienas dirbtinis intelektas paskyrą pavogė, o kitas negali jos grąžinti, ir žmogaus grandinėje nėra niekur.

Vienas dirbtinis intelektas ją pavogė, kitas negali atitaisyti. Žmogaus grandinėje nėra niekur.

Tūkstančiai „Facebook” ir „Instagram” naudotojų skundžiasi, kad jų paskyros ar puslapiai užblokuoti be jokios žmogaus priežiūros: slaptažodžio atstatymo kilpa niekur neveda, o bandant prisijungti rodoma, kad tokio naudotojo apskritai nėra. „Meta” pripažino problemą ir žada naują, centralizuotą pagalbos centrą. Jo šerdis – dar vienas dirbtinio intelekto asistentas.

Žinutės ir tapatybė: kai perimama paskyra su viskuo

Su „Telegram” scenarijus panašus. Paskyra perimama per suklastotą prisijungimo langą arba pavogtą patvirtinimo kodą, užpuolikas pakeičia numerį ir elektroninį paštą ir lieka visose tavo grupėse. Nukentėjusieji forumuose rašo, kad prie paskyros turėjo pririšę nemažai lėšų ir bijo prarasti viską, bandė visus įmanomus kanalus, bet atsako negavo. Žmogiškas palaikymas iš esmės – savanoriai ir bendra forma, be jokios garantijos.

Perimta žinučių paskyra reiškia perimtus kontaktus, pokalbius ir dažnai kelią į kitas paskyras. Kai visa tavo tapatybė laikoma vienoje programėlėje, o už jos nestovi nė vienas žmogus, viena sėkminga ataka gali užrakinti visą tavo skaitmeninį gyvenimą.

Pinigai: kai lėšas užšaldo algoritmas

„PayPal” gali užšaldyti sąskaitą iki šimto aštuoniasdešimties dienų – šešiems mėnesiams. Sprendimą priima ne žmogus, o algoritmas. Peržengei kažkurį nematomą slenkstį, pavyzdžiui, staigų pardavimų šuolį ar prisijungimą iš neįprasto adreso, ir lėšos automatiškai įšaldomos, net jei nieko blogo nepadarei.

Verslininkai pasakoja, kaip po sėkmingo produkto pristatymo, uždirbę per dieną kelias dešimtis tūkstančių, kitą rytą rado sąskaitą įšaldytą. Smulkiam verslui tai neretai reiškia užverti duris visam laikui. Paskambini palaikymui, ir tau pasako, kad tai gali nepadėti. Vienintelis tikras kelias – laukti pusę metų.

Sąskaitą įšaldo ne žmogus, sėdintis ir sprendžiantis. Tai algoritmas. Todėl ir atrodo atsitiktinai, ir todėl nėra su kuo ginčytis.

Darbas: kai atleidžia programėlė

Aštriausia dalis prasideda ten, kur kalba nebe apie pinigus už prekę, o apie pajamas rytojui. Kalifornijos teisinės organizacijos „Asian Law Caucus” ir vairuotojų profsąjungos tyrimas parodė, kad du trečdaliai „Uber” ir „Lyft” vairuotojų buvo bent kartą deaktyvuoti – programėlė juos tiesiog atjungė. Trisdešimt procentų negavo jokio paaiškinimo. Aštuoniasdešimt vienam procentui tai buvo pagrindinis pajamų šaltinis.

Organizacijos teisininkė tai apibūdino tiesiai: dabar žmogų gali atleisti ne kitas žmogus, o programėlė. Nubundi, bandai įjungti aplikaciją prieš pamainą, o tu jau užblokuotas.

Viena Čikagos vairuotoja pasakojo, kaip dirbtinis intelektas atmetė jos dokumentą kaip suklastotą. Kelis mėnesius ji negalėjo mokėti už automobilį ir sąskaitų. Prieigą jai grąžino tik po to, kai kreipėsi žurnalistai. „Uber” tąkart teigė, kad galiausiai peržiūrą atliko žmogus, ne dirbtinis intelektas, ir vis tiek klaidingai nusprendė. Kitas kurjeris du mėnesius susirašinėjo su dešimtimis agentų dėl deaktyvacijos „už sukčiavimą” be jokių detalių, ir nė vienas paskyros negrąžino. Apeliacija tokiais atvejais dažnai yra tik elektroninė forma. Vairuotojų aljansas tai vadina taikliai: jie parašo atgal ir pasako „ne” – tai ne apeliacija.

Kai tave gali atleisti programėlė, o apskųsti gali tik tai pačiai programėlei, teisėjas, prisiekusieji ir budelis yra vienas ir tas pats.

Atmintis: kai paskyra tampa kalėjimu

Saugumo ekspertas Laurenas Weinsteinas aprašė devyniasdešimtmetės moters atvejį. Po planšetės gedimo ji pamiršo slaptažodį ir prarado penkiolikos metų „Gmail” istoriją, tarp jos – nebegyvo mylimo augintinio nuotraukas. Jokio kelio pas žmogų, jokio mechanizmo išimčiai.

„The New York Times” aprašė tėvą iš San Francisko. Gydytojas paprašė nuotraukos vaiko uždegimo, tėvas nufotografavo, telefonas automatiškai įkėlė nuotrauką į „Google”, o skeneris pažymėjo ją kaip galimą vaikų išnaudojimą. Paskyra buvo išjungta akimirksniu – paštas, nuotraukos, kontaktai, viskas. Policija ištyrė ir tėvą išteisino. „Google” nuomonės nepakeitė. Tą pačią savaitę identiškai nukentėjo kitas tėvas Hjustone. Kontekstas, kurį žmogus būtų pamatęs iškart, mašinai buvo nematomas.

Ir viena detalė pasako beveik viską. Mokamas „Google One” planas atveria mygtuką „skambinti” – kelią pas gyvą žmogų. Prieiga prie žmogaus tapo atskiru produktu, už kurį reikia mokėti papildomai.

Nemokamai gauni produktą. Už žmogų, kuris padės, kai produktas tave išmes, sumoki atskirai. Arba nesumoki ir lieki vienas.

Kūryba su dirbtiniu intelektu: kai net programuotojas lieka vienas

Paradoksalu, bet tą patį jaučia ir žmonės, kuriantys su naujausiais dirbtinio intelekto įrankiais. Programavimo platforma „bolt.new” leidžia kurti programėles bendraujant su dirbtiniu intelektu. Jos vertinimų vidurkis atsiliepimų svetainėje „Trustpilot” nukritęs iki pusantros žvaigždutės, ir istorijos kartojasi viena į kitą.

Naudotojai pasakoja, kaip iš jų nuskaitomi pinigai, o prenumeratos atsisakyti neįmanoma, nes nėra su kuo susisiekti. Vienintelis kontaktas – dirbtinio intelekto pagalbininkas, kuris nieko nedaro, tik ratu kartoja tą patį. Vienas naudotojas rašo, kad botas, vardu SAM, pažadėjo perduoti jį žmogiškam palaikymui ir niekada to nepadarė. Kitas atšaukė prenumeratą, gavo patvirtinimą ir vis tiek buvo apmokestintas dar kartą, ir dar kartą, kai kurie mokesčiai net iš paskyros, į kurią jis niekada nebuvo prisijungęs. Trečiam botas tiesiog atsakė, kad nėra jokių įrodymų, jog jis apskritai kada nors turėjo prenumeratą.

Nepriklausoma apžvalga patvirtina, kad platformos palaikymas beveik visiškai automatizuotas, be aiškaus kelio iki žmogaus sprendžiant apmokestinimo ar techninius klausimus. Ir vėl kartojasi ta pati pabaiga: dažniausias patarimas nukentėjusiems – kreiptis į savo banką ir ginčyti mokėjimą, nes pati platforma nepasiekiama.

Žaidimai: milžinas be žmogaus veido

Didžiausia kompiuterinių žaidimų platforma „Steam” turi milžinišką naudotojų armiją ir palyginti nedidelę komandą. Vienintelis kelias į palaikymą – bilietų sistema. Nėra nei telefono, nei tiesioginio pokalbio lango, nei gyvo agento, į kurį galėtum kreiptis iškart.

Naudotojai forumuose aprašo, kaip jų prašymai automatiškai atmetami ir uždaromi, o parašyti atsakymai nieko nekeičia. Ypač skaudūs atvejai, kai perimama paskyra su nemaža pinigų suma joje: automatinė sistema neįsileidžia, nes prieigos duomenys pakeisti, o gyvo žmogaus, kuriam galėtum parodyti banko įrodymus, tiesiog nėra. Ir vėl tas pats sprendimas kartojasi diskusijose: jei kitaip nepavyksta, lieka banko ginčas dėl mokėjimo.

Prenumeratos: lengva užsisakyti, neįmanoma atsisakyti

Yra ir kita to paties reiškinio pusė, kur žmogaus nėra sąmoningai – kad tavęs nepaleistų. Tai vadinamieji tamsieji šablonai (angl. dark patterns). Atsisakymo mygtukas paslepiamas po penkiais paspaudimais, mygtukai pavadinami klaidinančiai, spaudžiama emociškai, gąsdinant prarasti nuolaidą.

Kai kurie skaitmeniniai leidiniai leidžia užsisakyti per sekundę internetu, bet atsisakyti reikalauja paskambinti darbo valandomis. JAV prekybos komisija padavė į teismą sporto klubų tinklą „LA Fitness” – narystės atsisakymą jis priimdavo ne visada telefonu, ne visada paštu ir ne per programėlę, o kartais reikalaudavo nuvykti fiziškai arba siųsti registruotą laišką. Kai kurie klientai, sustabdę mokėjimą, buvo toliau apmokestinami kita sąskaita. „Adobe” už išankstinį prenumeratos nutraukimą ima baudą, o patį atsisakymo mygtuką užkasa keliuose meniu.

Užsisakai per sekundę vienu paspaudimu. Atsisakyti reikia laiško, skambučio ir kantrybės, nes trukdis čia ne klaida, o verslo modelis.

Tai jau ir Lietuvoje

Lengva pagalvoti, kad tai tolimo Silicio slėnio problema. Nėra. „Vinted” yra pirmasis Lietuvos vienaragis su būstine Vilniuje, ir jos naudotojų atsiliepimai atkartoja visas tas pačias gaidas. Žmonės pasakoja, kaip nuskaitomi pinigai, o prekė nerezervuojama, ir dvi savaites gaunamos tik automatinės žinutės, o laiškai ignoruojami. Vienu atveju ginčą galiausiai išsprendė ne „Vinted”, o bankas. Kiti mėnesių mėnesius susirašinėja ir kaskart turi iš naujo pateikti visą istoriją su nuotraukomis ir siuntų numeriais. Paprašius paskambinti, atsakoma, kad įmonė neskambina. Pardavėjai skundžiasi paskyrų blokavimu už tariamą klastotę dėl techninės klaidos, be realios apeliacijos, kai kalbėti tenka tik su botais.

„Bolt” pagalbos taisyklės pačios aprašo sistemos ribas. Su palaikymu susisieki tik per programėlę. Dėl vieno užsakymo kreiptis gali tik vieną kartą. Skambučio užklausą pateikti gali tik aktyvaus pristatymo metu. Kai problema iškyla jau po užsakymo, patogaus kelio iki žmogaus faktiškai nebelieka.

Ir tai ne tik naujosios platformos. Monopolinio elektros tiekėjo „Ignitis” atsiliepimai iš Vilniaus, Kauno ir Klaipėdos beveik identiški: prisiskambinti neįmanoma, dvidešimt penkias ar keturiasdešimt minučių groja muzikėlė mokamu numeriu, niekas neatsiliepia, laiškai lieka neatsakyti. Viena skaitytoja žiniasklaidai pasakojo, kaip į poliklinikos registratūrą per dieną paskambino šimtą vieną kartą ir nė karto neprisiskambino.

Bet būtent tuose pačiuose atsiliepimuose slypi ir atsakymas. Šalia pykčio kartojasi ir kita gaida: nuvykau į centrą, aptarnavimas puikus, gyvas bendravimas, ačiū. Kai tik atsiranda žmogus, problema išsisprendžia. Sistema lūžta ne ties pačia problema, o ties tuo, kad žmogaus nebėra.

Kodėl mažesni dažnai geriau

Tai ne nostalgija ir ne atsitiktinumas. Mažai įmonei tu esi per brangus, kad tave prarastų. Didelei esi per pigus, kad dėl tavęs laikytų žmogų. Apklausos nuosekliai rodo, kad apie keturis penktadalius žmonių nori turėti galimybę kalbėti su gyvu darbuotoju, o lojalumas didesnis ten, kur toks pasirinkimas išlieka. Šis noras ne mažėja, o auga – kaip tik todėl, kad tikro žmogaus darosi vis sunkiau rasti.

Praktiškai tai reiškia kelis paprastus sprendimus ten, kur svarbu. Nuotraukas ir failus verta laikyti ne vien viename milžino debesyje, o turėti ir vietinę atsarginę kopiją išoriniame diske. Svarbiam paštui rinktis tiekėją su realiu palaikymu ir turėti atskirą atkūrimo adresą. Pinigų apyvartos nelaikyti vien mokėjimų sistemoje, kuri gali įšaldyti, o turėti banką ir atsarginį kanalą. Perkant brangesnę prekę ar bilietą, mokėti kortele, kad liktų banko ginčo kelias. Renkantis brangią ar svarbią paslaugą, atkreipti dėmesį, ar įmonė turi telefoną, už kurio atsiliepia žmogus.

Beveik visose šio straipsnio istorijose problemą galiausiai išsprendžia ne pati platforma, o bankas, teismas arba žurnalistas. Tai geriausias įrodymas, kur iš tikrųjų yra svertas. Mokėti kelis eurus už tai, kad kažkas atsilieps, kai viskas sugrius, dažnai pigiau nei prarasti viską nemokamai.

Kol dar yra su kuo kalbėti

Problema nėra ta, kad pirmas atsako botas. Tai net patogu. Problema prasideda tada, kai tas pats botas kontroliuoja prieigą prie kito lygio net po to, kai nustojo būti naudingas, ir kai už to lygio nebėra nieko.

Neverta apsigauti, kad milžinas tavimi rūpinasi. Jo skaičiuose tu esi vienetas iš milijardo, o tavo bėda – tik sulaikymo metrikos trukdis. Tai nereiškia, kad viskas sugrius rytoj. Perėjimas gali trukti ilgai, ir daug kur gyvas žmogus dar atsiliepia. Bet kryptis aiški, ir būtent todėl verta rinktis sąmoningai jau dabar. Kur gali, rinkis tą, kuriam esi žmogus, o ne eilutė duomenų bazėje.

Gyvas žmogus, galintis priimti sprendimą už scenarijaus ribų, darosi tuo pačiu, kuo darosi ir ši svetainė – mažu tikru dalyku brangstančiame pasaulyje. Be reklamų, be slapukų, be boto, kuris apsimeta, kad tau padeda.

Kuo daugiau perima mašina, tuo vertingesnis žmogus, kuris dar turi teisę pasakyti „taip, jums padarysime išimtį”. Kol dar yra su kuo kalbėti, rinkis tuos.

Vaizdo įrašas

Trumpas vaizdo įrašas apibendrina tą patį pokytį – kaip savitarnos sluoksniai vienas po kito atsistojo prieš žmogų ir kodėl sulaikymo matavimas gali veikti prieš klientą.