Európska komisia vydala usmernenia k praktikám využívajúcim umelú inteligenciu, ktoré Akt o umelej inteligencii — nariadenie (EÚ) 2024/1689 — zakazuje. Dokument pomáha vysvetliť rozsah článku 5 AI Act a je určený najmä poskytovateľom, subjektom zavádzajúcim AI systémy, verejným inštitúciám, orgánom dohľadu a ďalším organizáciám, ktoré posudzujú súlad používania AI s právom EÚ.
Zákazy sa vzťahujú na určité spôsoby používania AI, pri ktorých EÚ identifikovala neprijateľné riziko pre bezpečnosť, základné práva alebo ľudskú dôstojnosť. Pri posudzovaní konkrétneho prípadu je dôležité rozlišovať účel systému, jeho reálne použitie, postavenie zodpovedných aktérov a možný dopad na jednotlivcov.
Usmernenia rozoberajú najmä praktiky spojené so škodlivou manipuláciou, klamlivými technikami alebo zneužívaním zraniteľnosti osôb či skupín. Vysvetľujú aj zákaz sociálneho bodovania, ak vedie k škodlivému alebo neprimeranému zaobchádzaniu, a obmedzenia individuálneho posudzovania alebo predvídania trestnej činnosti výlučne na základe profilovania alebo osobnostných charakteristík.
Dokument sa venuje tiež použitiu AI na odvodzovanie emócií na pracoviskách a vo vzdelávacích inštitúciách, s výnimkami viazanými na zdravotné alebo bezpečnostné dôvody. Ďalšou citlivou oblasťou je biometrická kategorizácia, ak sa používa na odvodenie určitých citlivých charakteristík osoby, napríklad rasy, politických názorov, náboženského presvedčenia, členstva v odboroch alebo sexuálnej orientácie.
Osobitnú pozornosť usmernenia venujú diaľkovej biometrickej identifikácii v reálnom čase vo verejne prístupných priestoroch na účely presadzovania práva. AI Act stanovuje zákaz takéhoto používania s úzko vymedzenými výnimkami a podmienkami. Ich uplatnenie si vyžaduje príslušný právny základ, dodržanie stanovených obmedzení a primeraný dohľad.
Pre organizácie je podstatné nevnímať usmernenia iba ako zoznam zakázaných technológií. Ich praktický význam spočíva v tom, že pomáhajú včas identifikovať prípady, pri ktorých treba zastaviť zamýšľané použitie AI, upraviť návrh riešenia alebo vykonať podrobnejšie právne a odborné posúdenie. Zodpovedné riadenie AI preto zahŕňa jasný účel použitia, priebežné hodnotenie rizík, dokumentáciu rozhodnutí a primeranú ľudskú zodpovednosť.
Poznámka: Tento stručný prehľad nenahrádza úplné znenie usmernení ani právne posúdenie konkrétneho prípadu.