Nasazování kamerových systémů vyvolává oprávněně rozporuplné reakce. Na jednu stranu poskytují velmi užitečný nástroj pro zvyšování bezpečnosti, na druhou stranu se objevují obavy z jejich zneužitelnosti. Kamerové systémy se začaly masově instalovat po roce 2001, avšak několik let trvalo, než se rozvinula řešení schopná efektivně detekovat a rozpoznávat různé objekty či osoby. Tyto technologie se staly nedílnou součástí čínského sociálního kreditového systému. Hrozí podobný vývoj i v Evropě?
Přibližně v roce 2015 došlo k významnému milníku ve strojovém rozpoznávání osob podle obličeje, kdy software dokázal lépe rozpoznávat osoby na základě snímků než člověk. Postupně došlo jak k zefektivnění těchto algoritmů, tak i k jejich zlepšení. Navíc vznikly další systémy vztahující se k identitě člověka, například detekce emocí, věku, rozpoznávání osob podle stylu chůze a mnoho dalších. Nasazení takovýchto systémů již není žádný problém. A co víc, kamery, které dokážou detekovat obličej nebo rozpoznat člověka, najdete v nabídce řady obchodů.
Pokud chceme nainstalovat někde kameru je dobré vědět, že takováto instalace a použití kamery podléhá pravidlům Úřadu pro ochranu osobních údajů (většina pravidel vychází z Obecného nařízení o ochraně osobních údajů – GDPR) a povinnostem vyplývajících ze zákona. Kromě toho, že kamerové systémy dokážou zaznamenávat a archivovat data pro případné další zpracování, mohou mít i integrovaný AI systém pro zpracování obrazu v reálném čase. Rozvoj umělé inteligence se postupně dostal do stavu, kdy bylo nezbytné přijmout pravidla, která by ji regulovala, což se dotýká i biometrického rozpoznávání osob. Tento právní rámec se nazývá Akt EU o umělé inteligenci a jeho implementace v jednotlivých unijních státech začala před pár dny.
Zákaz sledování osob v reálném čase
Jak se dá očekávat u tak důležitého nařízení, jedná se o poměrně komplexní dokument. Proto uvedeme jen několik zajímavých případů, které se vztahují k biometrii. Například, biometrické rozpoznávání v reálném čase státními složkami je tímto novým právním rámcem zakázáno, s výjimkami striktně definovanými pro orgány činné v trestním řízení, jako je pátrání po pohřešovaných osobách a boj proti terorismu. Rozpoznávání emocí na pracovišti nebo ve vzdělávacích institucích? Zakázáno.
Koho se týká
Akt o AI nejvíce zasáhne firmy, které spravují a nasazují systémy umělé inteligence a biometrie. Pro většinu občanů tento zákon nebude mít přímý praktický dopad, kromě pozitivního faktu, že bude lépe definováno, jak mohou být využívány systémy AI a biometrie. Pro vývojáře systémů rozpoznávání obličeje bude zakázáno provádět sběr dat z dohledových kamer a z internetu. Nicméně na pozoru by se měli mít i uživatelé spotřebitelských kamer, které mohou využívat software, jenž by potenciálně porušoval některá nařízení z Aktu EU o umělé inteligenci.
Akt o AI nejvíce zasáhne firmy, které spravují a nasazují systémy umělé inteligence a biometrie. Pro většinu občanů tento zákon nebude mít přímý praktický dopad, kromě pozitivního faktu, že bude lépe definováno, jak mohou být využívány systémy AI a biometrie. Pro vývojáře systémů rozpoznávání obličeje bude zakázáno provádět sběr dat z dohledových kamer a z internetu. Nicméně na pozoru by se měli mít i uživatelé spotřebitelských kamer, které mohou využívat software, jenž by potenciálně porušoval některá nařízení z Aktu EU o umělé inteligenci.
