REPCO

Evropský arzenál špičkových hraničních technologií je často líčen jako futuristický příběh plný světla, rychlosti a výpočetního výkonu. Identifikační systémy, jako je databáze Eurodac, ukládají, zpracovávají a porovnávají digitalizované otisky prstů migrantů pomocí blízkého infračerveného světla, optických kabelů a centralizovaných serverů. Na obloze hlídkují bezpilotní letouny s neostrými optickými senzory. A velké objemy dat jsou předávány počítačovým programům, které předpovídají další nárůst příchozích.

Zprávy a zprávy nevládních organizací se zaměřením na high-tech povahu evropských hranic je mnoho. Každá z nich evokuje, jak vzdálené formy dohledu, odstrašování a kontroly stále více doplňují a v některých případech nahrazují hraniční opevnění. Ačkoli je tento druh výzkumu a propagace nezbytný pro to, aby se EU a tvůrci technologií zodpovídali za svou roli při pohánění žadatelů o azyl směrem k smrtícím migračním trasám, zamlčuje dlouhou historii těchto technologií a jejich zavedenou roli v západních aparátech řízení. Tím nejenže hrozí zesílení "humbuk kolem AI" mezi tvůrci politik a vývojáři, kteří tyto nástroje oslavují jako prostředek k vytvoření "chytřejších" hranic i k ochraně lidských práv migrantů. Ještě důležitější je, že tento druh historické amnézie může také nesprávně interpretovat násilí a vyloučení, které tyto technologie uzákonily, jako technický problém "zkreslení", který lze snadno napravit přesnějším měřením nebo většími soubory dat. Místo toho by se velká část škod způsobených těmito technologiemi měla chápat jako inherentní součást jejich designu.

Katalog identifikace

Použití pokročilých technologií pro kontrolu lidské mobility není ničím novým. Představte si městskou evropskou policejní stanici na konci devatenáctého století. Pokud by obecní úřad přijal nejnovější identifikační technologie, podezřelí by byli podrobeni složitému procesu měření. Zaznamenávání jejich rozměrů byl přesný a vysoce specializovaný proces, který vyžadoval kvalifikovaného a vyškoleného technika.

Zvažte tyto návody na měření ucha:

Operátor přiloží pevnou čelist přístroje k hornímu okraji ucha a znehybní jej, přičemž poměrně pevně přitiskne palec levé ruky na horní konec čelisti přístroje a ostatní prsty ruky se opřou o horní okraj lebky. Se stonkem třmenu rovnoběžným s osou ucha jemně zatlačí na pohyblivou čelist, až se dotkne dolního konce ušního lalůčku, a před odečtením uvedeného čísla se ujistí, že boltec [vnější část ucha] není žádnou z čelistí nijak stlačen.1

Tento postup může znít jako kuriózní, i když poněkud podivný přežitek z doby Fin de Siècle, ale je to všechno, jen ne to. Bertillonage, systém měření, klasifikace a archivace pro identifikaci zločinců, který v 70. letech 19. století vymyslel stejnojmenný francouzský policejní úředník, byl milníkem v historii sledovací a identifikační techniky. Pozoruhodné je, že jeho klíčové principy jsou dodnes základem identifikačních technologií, od databází až po biometrii a strojové učení.

Mezi obavami z nekontrolovaného pohybu různých "nežádoucích osob" a technologickými inovacemi existuje úzká a historicky doložená souvislost. Techniky z devatenáctého století, vyvinuté a zdokonalené k řešení problémů spojených s tuláctvím, koloniální správou, deviacemi, šílenstvím a kriminalitou, jsou základem dnešního high-tech aparátu hraničního dohledu. Mezi tyto techniky patří kvantifikace, která lidské tělo vykresluje jako kód, klasifikace a moderní metody indexace a archivace.

Moderní invazivní registrace

Chytré hraniční systémy využívají pokročilé technologie k vytvoření "moderních, účinných a efektivních" hranic. V této souvislosti jsou pokročilé technologie často vykreslovány jako převod hraničních procesů, jako je identifikace, registrace a kontrola mobility, na čistě technický postup, čímž se proces stává spravedlivějším a méně náchylným k lidské chybovosti. Algoritmická přesnost je charakterizována jako prostředek, který má zabránit neetickým politickým předsudkům a napravit lidské chyby.

Jako výzkumník technicko-vědeckých základů špičkového hraničního aparátu EU,2 si uvědomuji jak rostoucí pružnost současné hraniční praxe, tak historicky ustálenou metodologii jejích nástrojů a postupů.3

Příklad Databáze Eurodac, která je základním kamenem správy hranic EU. Tento index byl zřízen v roce 2003 a uchovává otisky prstů žadatelů o azyl v rámci prosazování dublinského nařízení o prvním vstupu.4 snímání otisků prstů a zápis do interoperabilních databází jsou také ústředními nástroji využívanými v nedávných přístupech k řízení migrace, jako je přístup hotspotů, kde přidělování totožnosti slouží jako prostředek k odfiltrování "zasloužilých" od "nezasloužilých" migrantů.5

V průběhu let se rozšířil jak typ údajů uchovávaných v systému Eurodac, tak i jejich využití: jeho rozsah byl rozšířen tak, aby sloužil "širším migračním účelům" a uchovával údaje nejen o žadatelích o azyl, ale také o nelegálních migrantech za účelem usnadnění jejich deportace. A nedávno přijatý návrh přidal k sejmutí otisků prstů také snímky obličeje a biografické údaje, včetně jména, státní příslušnosti a informací o pasu. Dále byl snížen minimální věk migrantů, jejichž údaje mohou být uchovávány, ze čtrnácti na šest let.

Od roku 2019 je systém Eurodac "interoperabilní" s řadou dalších databází EU uchovávajících informace o hledaných osobách, cizincích, držitelích víz a dalších osobách, které jsou předmětem zájmu orgánů činných v trestním řízení, přistěhovalecké a azylové správy, což účinně propojuje trestní soudnictví s migrací a zároveň značně rozšiřuje přístup k těmto údajům. Eurodac hraje pro evropské orgány klíčovou roli, což se projevuje snahou o dosažení "100% míry snímání otisků prstů": Evropská komise naléhá na členské státy, aby do databáze zapsaly každou nově příchozí osobu, používá v případě potřeby fyzický nátlak a zadržení.

Označení trestné činnosti

Ačkoli národní státy shromažďovaly údaje o občanech pro účely zdanění a náboru do armády po staletí, jejich indexování, uspořádání v databázích a klasifikace pro konkrétní vládní účely - jako je kontrola mobility "nežádoucích" skupin obyvatelstva - je vynálezem devatenáctého století.6 Francouzský historik a filozof Michel Foucault popisuje, jak se v souvislosti s rostoucí urbanizací a industrializací státy stále více zabývaly otázkou "oběhu". Osoby a zboží, stejně jako patogeny, cirkulovaly dále než v raném novověku.7 Státy se sice nesnažily tyto pohyby zcela potlačit nebo kontrolovat, ale hledaly prostředky, jak zvýšit to, co bylo považováno za "pozitivní" cirkulaci, a minimalizovat "negativní" cirkulaci. K tomuto účelu nasadily nové nástroje pozitivistické společenské vědy: v oblasti demografie se používaly statistické přístupy ke sledování a regulaci jevů, jako jsou narození, nehody, nemoci a úmrtí.8 Vznikající manažerský národní stát řešil problém cirkulace tím, že vyvinul velmi specifický soubor nástrojů shromažďujících podrobné informace o obyvatelstvu a vyvinul standardizované metody jejich uchovávání a analýzy.

Jedním z obzvláště nepříjemných problémů byl oběh známých zločinců. V devatenáctém století se všeobecně věřilo, že pokud se člověk jednou provinil, proviní se znovu. Systémy, které byly k dispozici pro identifikaci zločinců, však byly pro tento úkol žalostně nedostatečné.

Jak vysvětluje kriminolog Simon Cole, identifikace neznámé osoby vyžaduje "skutečně jedinečný tělesný znak".9 Před příchodem moderních systémů identifikace však existovaly pouze dva způsoby, jak toho dosáhnout: označení nebo osobní rozpoznání. Zatímco cejchování se v Evropě a Severní Americe hojně používalo u odsouzených, vězňů a zotročených osob, vyvíjející se představy o kriminalitě a trestech vedly na počátku 19. století do značné míry ke zrušení fyzického označování. Místo něj byl zaveden trestní rejstřík: písemný dokument, který obsahoval jméno odsouzeného a písemný popis jeho osoby, včetně identifikačních znaků a jizev.

Ukázalo se však, že identifikace podezřelého pouze na základě písemného popisu je náročná. Systém byl navíc zranitelný vůči používání přezdívek a různých pravopisných podob jmen: s jistotou bylo možné identifikovat pouze osobu, kterou její okolí znalo. Rané systémy identifikace zločinců byly zásadně zranitelné vůči mobilitě.10 Pozoruhodné je, že tyto problémy nadále strašily současnou správu migrace, protože databáze často obsahují více záznamů pro tutéž osobu, které jsou výsledkem různých transliterací jmen z arabské abecedy do latinky.

Vynález fotografie ve 40. letech 19. století příliš nepřispěl k vyřešení otázky spolehlivosti identifikace zločinců. Nejenže fotografický záznam stále závisel na osobním rozpoznání, ale také nastolil otázku archivace. Trestní záznamy před Bertillonage byly uchovávány buď jako roční sborníky trestných činů, nebo abecední seznamy pachatelů. Fotografie sice poskytovaly přesnější zobrazení obličeje, ale neexistoval způsob, jak je archivovat podle rysů. Pokud chtěl někdo v indexu vyhledat například osobu s výraznou bradou, neexistoval pro to žádný postup. Fotografie odsouzených byly řazeny abecedně podle jména uvedeného pachatelem, čímž trpěly stejnou slabinou jako ostatní identifikační systémy.

Předchůdce datování

Alphonse Bertillon jako první vyřešil tento problém spojením systematického měření lidského těla s archivací a vedením záznamů. Tento kriminalista zlepšil vyhledávání záznamů tím, že záznamy řadil číselně, nikoliv abecedně, a vytvořil systém indexace založený výhradně na antropomorfních měřeních. Indexové karty byly uspořádány podle hierarchického klasifikačního systému, přičemž informace byly nejprve rozděleny podle pohlaví, poté podle délky hlavy, šířky hlavy, délky prostředníčku atd. Každý soubor měření byl rozdělen do skupin na základě statistického vyhodnocení jejich rozložení v populaci, přičemž průměry byly stanoveny na základě měření odsouzených. Operátor Bertillon přebíral profil podezřelého do archivu a hledal shodu vylučovací metodou: nejprve vyloučil pohlaví, které se neshodovalo, pak délky hlavy, které se neshodovaly, atd. Pokud byla nalezena předběžná shoda, byla potvrzena s odkazem na tělesné znaky uvedené rovněž na kartě. Všude, kde byl tento systém zaveden, prudce vzrostla míra rozpoznání "recidivistů"; Bertillonův systém se brzy rozšířil po celém světě.11

S Bertillonem vstoupil do hry další charakteristický znak současné technologie ochrany hranic a dohledu: kvantifikace neboli to, čemu se dnes říká "datafikace". Bertillon nejenže měřil výšku a délku hlavy vězňů, ale vynalezl i metodu, jak převést charakteristické rysy těla do kódu. Pokud měl například vězeň na předloktí jizvu, předchozí systémy identifikace zločinců ji jednoduše zaznamenaly do spisu. Naproti tomu Bertillon měřil jejich vzdálenost od daného referenčního bodu. Ty pak byly zaznamenány standardizovaným způsobem za použití idiomu zkratek a symbolů, který tyto popisy převedl do zkrácené podoby. Výsledný portrait parlé,  neboli mluvený portrét přepisoval fyzické tělo do "univerzálního jazyka" "slov, čísel a kódovaných zkratek".12 Poprvé v historii bylo možné telegraficky zaznamenat přesný popis předmětu.

Převod těla do kódu je dodnes základem současných metod biometrické identifikace. Identifikace otisků prstů systémy, které byly poprvé vyzkoušeny a zavedeny v koloniální Indii, převáděly vzory papilárních hřebenů do kódu, který pak bylo možné porovnat s jinými kódy generovanými stejným způsobem. Technologie rozpoznávání obličeje vytváří schematické zobrazení obličeje a přiřazuje mu číselné hodnoty, čímž umožňuje porovnávání a přiřazování. Na stejném principu fungují i další formy biometrické identifikace, jako je identifikace hlasu, skenování duhovky a rozpoznávání chůze.

Od taxonomie ke strojovému učení

Kromě kvantifikace je klasifikace - po staletí klíčový nástroj tvorby a správy znalostí - dalším charakteristickým znakem moderních a současných technologií dohledu a identifikace. Jak poznamenává mnoho vědců od Foucaulta13 po Zygmunta Baumana14 a Denise Ferreiru da Silvu15 , klasifikace je ústředním nástrojem evropského osvícenství, jehož nejikoničtějším dokladem je taxonomie Carla Linnéa. Linnaeus ve své stupňovité tabulce pojmenoval, klasifikoval a hierarchicky uspořádal svět přírody od rostlin přes hmyz až po člověka, přičemž každou skupinu rozdělil a rozdělil podle společných znaků. Klasifikace a taxonomie jsou obecně považovány za výraz zásadních epistemologických posunů od teocentrické k racionalistické epistemologii v raném novověku, které umožnily vědecké objevy, ale byly také spojeny s kolonizací a zotročením.16 Geoffrey Bowker a Susan Leigh Star ve své knize na toto téma zdůrazňují využití klasifikace jako mocného, ale často nerozpoznaného nástroje politického uspořádání: "Politicky a sociálně zatížené agendy jsou často nejprve prezentovány jako čistě technické a je obtížné je i vidět. S tím, jak se vrstvy klasifikačního systému včleňují do fungující infrastruktury, se původní politický zásah stále pevněji zakořeňuje. V mnoha případech to vede k naturalizaci politické kategorie, a to prostřednictvím procesu konvergence. Stává se samozřejmostí."17

Klasifikace je dnes ústředním prvkem strojového učení, podoboru umělé inteligence, jehož cílem je rozeznávat vzory ve velkém množství dat. To jí umožňuje nejen kategorizovat obrovské množství informací, ale také předpovídat a klasifikovat nová, dosud neznámá data. Jinými slovy, aplikuje naučené znalosti na nové situace. Ačkoli výzkum strojového učení začal již v polovině minulého století, nebývalého významu dosáhl v poslední době díky aplikacím, jako je ChatGPT.

Strojové učení se také stále častěji uplatňuje v hraniční práci. Zřídka se používá jako samostatná technologie, ale je široce nasazováno napříč stávajícími technologiemi, aby rozšířilo a urychlilo dlouhodobě zavedené formy dohledu, identifikace a třídění. Například, algoritmická predikce, která analyzuje velké množství dat včetně vzorců pohybu, příspěvků na sociálních sítích, politických konfliktů, přírodních katastrof a dalších, stále častěji nahrazuje statistické modelování migrace za účelem mapování migračních vzorců. Evropská komise v současné době financuje výzkum algoritmických metod který by rozšířil stávající formy analýzy rizik tím, že by využíval širší zdroje dat k identifikaci nových forem "rizikového" chování. Strojové učení se také buď zkouší, nebo používá v detektoru lži" pohraničníků, rozpoznávání dialektů, sledování a identifikace podezřelých plavidel, rozpoznávání obličejů na vnitřních hranicích EU a behaviorální analýza vězňů v řeckých táborech. Jak ukazuje tato široká škála aplikací, zdá se, že žádná hraniční technologie není vyjmuta z oblasti strojového učení, ať už se jedná o asistovanou analýzu obrazových záznamů z dronů nebo prověřování žádostí o azyl.

Klasifikace je jádrem strojového učení - nebo alespoň typu datově řízeného strojového učení které se dnes stalo dominantním. Jednotlivé datové body jsou uspořádány do kategorií a podkategorií, přičemž tento proces probíhá buď prostřednictvím učení pod dohledem, nebo bez dohledu. Při učení pod dohledem jsou trénovací data označována podle předem definované taxonomie. V praxi to obvykle znamená, že lidé přiřazují datům štítky, například "pes" obrázku zmíněného psa. Model strojového učení se učí z takto označeného souboru dat identifikací vzorů, které korelují se štítky. V případě učení bez dohledu nejsou data označována lidmi. Místo toho algoritmus nezávisle identifikuje vzory a struktury v datech. Jinými slovy, algoritmus klasifikuje data vytvořením vlastních shluků na základě vzorů obsažených v souboru dat. Vytváří vlastní taxonomii kategorií, která se může, ale nemusí shodovat se systémy vytvořenými člověkem.

Předpokládaný typ trestného činu

Jak upozorňuje odbornice na umělou inteligenci a hranice Louise Amooreová, obsazení algoritmických shluků jako reprezentace vrozených, "přirozených" vzorců z dat je "mimořádně silnou politickou nabídkou", neboť "nabízí příslib neutrálního, objektivního a hodnotově nezatíženého vytváření a ohraničování politického společenství".18 Představa algoritmického shluku jako "přirozeného společenství" zahrnuje významný rasizující tah: formy chování spojené s nelegální migrací jsou následně označeny jako "rizikové".  Jelikož jsou tyto shluky vytvářeny bez odkazu na předem definovaná kritéria, jako jsou "klasické" zástupné znaky pro rasu, jako je národnost nebo náboženství, je obtížné je zpochybnit existujícími koncepty, jako jsou chráněné charakteristiky nebo předsudky.19 Například migrant může být identifikován jako bezpečnostní riziko algoritmem strojového učení na základě neprůhledné korelace mezi cestovními itineráři, příspěvky na sociálních médiích, osobními a profesními sítěmi a vzorci počasí.

Vytváření kategorií podle vrozených atributů je ozvěnou a rozšířením jiných postupů devatenáctého století: konkrétně řady vědeckých snah využívajících měření a statistiky k identifikaci pravidelností a vzorců, které by poukazovaly na kriminální chování. Stejně jako neřízené strojové učení i obory kraniometrie, frenologie a kriminální antropologie systematicky shromažďovaly údaje o lidských subjektech, aby získaly vzory, které by bylo možné roztřídit do kategorií kriminality.

Frenologové jako Franz Joseph Gall například spojovali specifické osobnostní rysy s význačnými oblastmi lebky. V příbuzném oboru fyziognomie se osobnosti jako švýcarský pastor Johann Kaspar Lavater věnovaly systematickému studiu rysů obličeje jako vodítka pro kriminální chování. S rozvojem fotografie se rozšířily studie zkoumající znaky kriminality ve tváři, kterým byli opakovaně podrobováni odsouzení a chovanci azylových domů. Příkladem jsou kompozitní fotografie Francese Galtona, zakladatele eugenického hnutí a průkopníka identifikace otisků prstů: snímky odsouzenců se překrývaly jeden přes druhý, aby se zjistily zákonitosti jako fyzické znaky kriminality.20

Kriminální antropologie tyto přístupy sjednotila do uceleného pokusu podrobit tělo zločince vědeckému zkoumání. Pod vedením italského psychiatra a antropologa Cesareho Lombrosa používali kriminální antropologové širokou škálu antropomorfních měřicích nástrojů, od Bertillonova přesného měření končetin po kraniometrické měření lebky, mapování rysů obličeje a zaznamenávání charakteristických znaků, jako jsou jizvy a tetování. Na tomto základě vyjmenovali seznam takzvaných "stigmat" neboli tělesných zákonitostí, které se nacházejí na těle "rozeného zločince" I když je dnes toto pojetí značně zdiskreditováno, základní metoda klasifikace založená na hromadných charakteristikách údajů stále existuje.

Důvěra v závěry vyvozené z kvantitativní analýzy obličejových rysů je stále silným lákadlem. V 2016 článku se tvrdilo, že se podařilo vycvičit algoritmus hluboké neuronové sítě k předpovídání kriminality na základě snímků hlavy z řidičských průkazů, zatímco 2018 studie přinesla podobné tvrzení o čtení sexuální orientace z fotografií ze seznamky.

Při kritickém přístupu k těmto systémům je nutné mít stále na paměti širší politický projekt, k jehož prosazování jsou nasazeny. Jak píše odbornice na umělou inteligenci Kate Crawfordová: "Korelace morfologie lebky s inteligencí a nároky na zákonná práva působí jako technické alibi pro kolonialismus a otroctví. Ačkoli existuje tendence soustředit se na chyby v měření lebek a na to, jak je opravit, mnohem větší chyba je v základním světonázoru, který tuto metodiku oživil. Cílem by tedy nemělo být volání po přesnějším nebo "spravedlivějším" měření lebek, které by podpořilo rasistické modely inteligence, ale odsouzení tohoto přístupu vůbec." 21 Jinak řečeno, techniky klasifikace a kvantifikace nelze oddělit od sociálně-politických souvislostí, které mají za úkol ověřovat a za které ručí. Řečeno slovy odborníka na mezinárodní vztahy Roberta Coxe, klasifikace a kvantifikace jsou vždy pro někoho a za nějakým účelem.22

Jak však upozorňuje odbornice na studia vědy a techniky Helga Nowotny, pokud "věříme" výsledkům algoritmických předpovědí jako zásadně pravdivým, špatně chápeme logiku hlubokých neuronových sítí. Tyto sítě "mohou pouze detekovat pravidelnosti a identifikovat vzory na základě dat, která pocházejí z minulosti. Nejedná se o žádné kauzální uvažování, ani to umělá inteligence nepředstírá." 23

Ačkoli tyto stroje mohou vytvářet "praktické a měřitelné předpovědi", nemají smysl pro příčinu a následek - zkrátka nemají "porozumění" v lidském smyslu.24 Navíc nás přílišné spoléhání se na algoritmy postrkuje k determinismu a přizpůsobuje naše chování strojové předpovědi namísto alternativních cest. To je problém v politických kulturách založených na odpovědnosti. Chceme-li se poučit z minulosti a budovat lepší budoucnost, nemůžeme se spoléhat na prediktivní výstupy modelu strojového učení.

AI déjà-vu

Kromě společného a trvalého spoléhání se na kvantifikaci a klasifikaci existuje mnoho vláken, za která by se dalo táhnout při zkoumání spletité historie technologií dohledu a identifikace od devatenáctého století až po současnost. Marginalizované, přebytečné populace, jako jsou trestanci a kolonizovaní lidé, byly dlouho využívány jako "technologické testovací plochy" pro zdokonalování klasifikačních systémů a trénování algoritmů. Strach z nekontrolované lidské mobility je nadále využíván jako hnací motor výzkumu a vývoje, přičemž technologie jsou naopak nasazovány k řešení problémů, které samy vytvořily. A pozitivistické sociálněvědní metody jsou i nadále nástrojem pro úkol převést řvoucí mnohotvárnost do úhledných číselných hodnot.

Místo toho, abychom propadli humbuku kolem umělé inteligence, bychom se mohli raději naladit na pocit déjà-vu: znepokojivý pocit, že tohle všechno už jsme někde viděli. Tak bychom mohli lépe odolávat fantastickým tvrzením korporátních a hraničních aktérů a začít oddělovat technologie od globálních projektů nadvlády.

**

Tento článek vychází z výzkumu provedeného v rámci projektu "Pružné hranice: Rethinking the Borders of the 21st Century" založeného na Univerzitě ve Štýrském Hradci, financovaného nadací NOMIS.

1 A. Bertillon, Instructons signalétiques, Melun, 1893, deska 16, str. 262.

2 Jsem členem týmu výzkumníků v rámci projektu Elastic Borders, Univerzita v rakouském Štýrském Hradci, financovaného z NOMIS.

3 Podívejte se také na: M. Maguire, "Biopower, Racialization and New Security Technology", Social Identities, Vol. 18, No.5, 2012, s. 593-607; K. Donnelly, "We Have Always Been Biased: Measuring the human body from anthropometry to the computational social sciences", Public, Vol. 30, No. 60, 2020, s. 20-33; A. Valdivia a M. Tazzioli, 'Genealogies beyond Algorithmic Fairness:

: Vymýšlení rasových subjektů, in Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency, FAccT '23, Association for Computing Machinery, 2023, s. 840-50.

4 Pokud by byly otisky odebrány v Řecku, ale žadatel o azyl by byl později zadržen v Německu, mohlo by mu hrozit vyhoštění do Řecka kvůli vyřízení žádosti.

5 B. Ayata, K. Cupers, C. Pagano, A. Fyssa a D. Alaa, The Implementation of the EU Hotspot Approach in Greece and Italy: A comparative and interdisciplinary analysis (working paper), Swiss Network for International Studies, 2021, s. 36.

6 J.B. Rule, Soukromé životy a veřejný dohled, Allen Lane, 1973.

7 Ibid., str. 91.

8 M. Foucault, Společnost je třeba bránit. Přednášky na Collège de France, 1975-76, přel. D. Macey, Picador, 2003, str. 244.

9 S. A. Cole, Podezřelé identity: A history of fingerprinting and criminal identification, Harvard University Press, 2001, s.12.

10 Tamtéž, s. 18-9.

11 Tamtéž, s. 34-45.

12 Tamtéž, str. 48.

13 M. Foucault, Řád věcí. Routledge, 1975.

14 Z. Bauman, Moderna a holocaust, Blackwell Publishers, 1989.

15 D. Ferreira da Silva, Toward a Global Idea of Race, University of Minnesota Press, 2007.

16 S. Wynter, 'Unsettling the coloniality of being/power/truth/freedom: K člověku, po člověku, jeho nadreprezentaci - argument", CR: The New Centennial Review, Vol. 3, No. 3, 2003, s. 257-337.

17 G. C. Bowker a S. L. Star, Třídění věcí: Classification and its consequences, MIT press, 2000, str. 196.

18 L. Amoore, "Hluboká hranice", Politická geografie, 2001, 102547.

19 Ibid.

20 Galton provedl podobnou studii na židovských školních chlapcích a hledal rasové znaky židovství.

21 K. Crawford, The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence, Yale University Press, 2021, s. 126-7.

22 R. W. Cox, "Sociální síly, státy a světové řády: Beyond International Relations Theory", Millennium, roč. 10, č. 2, 1981, s. 126-155.

23 H. Nowotny, In AI We Trust: Moc, iluze a kontrola prediktivních algoritmů. Polity, 2021, s. 22.

24 Ibid.