Black Box / Boîte noire (2021)

Pred dnevi sem na Cinemaxu gledal zanimiv francoski korporativni thriller Črna skrinjica (Black Box / Boîte noire). Sama filmska zgodba je sicer dokaj trivialna: mlad analitik v francoski službi za preiskovanje letalskih nesreč pri analizi črne skrinjice po padcu potniškega letala naleti na nekonsistentnosti. Ugotovi, da je bil trak s posnetkom pogovora v pilotski kabini manipuliran po odprtju skrinjice. Izkaže se, da je bilo nekomu v interesu, da se na posnetku slišijo glasovi morebitnih (arabskih) napadalcev, ki naj bi nato strmoglavili letalo. Ta naš mlad analitik razkrije, da je bil ta interes na strani podjetja njegovega prijatelja, ki proizvaja softver, ki se uporablja pri vodenju letala. V softverju je bil očitno bug, ki je omogočal, da lahko dober poznavalec vdre v sistem in manipulira z letom letala. Kar je tudi storil. To prijateljevo podjetje pa je pač želelo, da se ta napaka prikrije.

No, ampak meni je najbolj zanimiv v celi zgodbi detajl oziroma način, kako se je ta korporacija znebila tega analitika. In sicer tako, da so na daljavo manipulirali računalnik v njegovem avtu in med vožnjo prevzeli nadzor nad sistemom ter nato seveda poskrbeli, da se je na daljavo manipuliran avto zaletel v drevo.

Zame je zadeva intrigantna predvsem zaradi tveganj, katerim smo postali podvrženi zaradi “vdora pameti” v naše avtomobile. Moj avto denimo v osnovi omogoča avtonomno vožnjo in ga je (po potrebi) mogoče voditi od daleč. Avto ima 360-stopinjske kamere in asistenčne sisteme, ki prek radarja in tempomata omogočajo vzdrževanje vožnje po voznem pasu in ohranjanje varnostne razdalje. Ima navigacijski sistem. Ima asistenčne sisteme za samostojno parkiranje. Ima GPS in bluetooth. Prek prvega avto sporoča Bavarcem vse ključne podatke o stanju avtomobila, lokaciji in vožnji ter omogoča nadgradnje na operacijskega sistema daljavo. To ima sicer svoje prednosti – denimo, da se avto lahko sam naroča na servis, da imam v navigacijskem sistemu vedno updatano stanje na cestah in se na podlagi tega odločam, po kateri cesti se naj peljem, ali kateri mejni prehod naj izberem, da se izognem gneči. S kombinacijo vseh teh sistemov pa postane avto vodljiv na daljavo.

In zadeva postane scary, ko pomislite, da lahko nekdo v nadzornem centru vaš avtomobil na daljavo prižge, odpelje s parkirnega prostora in ga dostavi kamor hoče. Ali pa, da – podobno kot pri mladem francoskem analitiku – ta nekdo v nadzornem centru ali neka tretja oseba z dostopom potencialno zlorabi  ta sistem, prevzame kontrolo nad avtom, ko se vozite z njim in ga poljubno vodi, kamor hoče. Lahko tudi v smrt.

Si predstavljate, da avtomobilski proizvajalec te podatke deli z varnostnimi službami (kar najbrž ni nepredstavljivo glede na to, katere ostale podatke dobivajo in spremljajo varnostne službe o nas), in ki lahko nato z mojim / vašim avtomobilom na daljavo počnejo, kar hočejo? Denimo eliminirajo politične nasprotnike vladajočemu režimu ali avtokratu na oblasti. Vse skupaj pa izgleda kot običajna avtomobilska nesreča. Očitno bo treba začeti vgrajevati črne skrinjice tudi v avtomobile.

En odgovor

  1. Ne gre za science fiction.

    V zadnjih desetih letih se je po podobnem scenariju zgodila vrsta sumljivih nesreč ljudem, ki so bili na poti “pravim interesom”. Npr. da se avto zaleti ob polni hitrosti v drevo ob cesti, kljub temu, da je bila cesta prazna.

    Obstaja vrsta videov na YouTube, kjer je pokazano kako lahko se shack-a avtomobile. Res da čedalje težje, ampak tu ni nevarnost lonly hacker ampak institucionalni napadalec tj. napadalec, ki ima zadaj državni aparat koncentracijo znanja in državni budžet ali pa (podobno) velike multinacionalke.

    Software, ki upravlja vozila ima zadaj na milijone vrstic kode in ga je razen najsposobnejšim organizacijam (državam, multinacionalkam) praktično nemogoče kontrolirati. Podobno velja za povezave z Androidom in Apple-om.

    Ne gre samo za skrb nad uporabniki, gre v povezavi z mobilnimi telefoni, milijoni kamer v mestih, na cestah, monitoringu uporabe interneta in individualnih računalnikov, pametnih števcih, on-line povezanih varnostnih naprav pa do on-line povezanih gospodinjskih aparatov, pametnih ur, ki izvajajo health monitoring,…za popolen nadzor. Za ustvarjanje kletke iz katere ni več mogoč pobeg, za ustvarjanje družbe kjer upor zaradi popolnega atomiziranega nadzora ni več mogoč. Vsakršna koncentracija opozicijske politične moči se s pomočjo AI lahko v najkrajšem času zazna in proti njej ustrezno ukrepa.

    Gre za ustvarjanje pogojev za popolno fašistično totalitarno družbo. Vse v skrbi za dobrobit posameznika, njegovo zdravje, blagostanje in…..kako sem lahko pozabil: demokracijo seveda.

%d bloggers like this: