Zodpovedné používanie umelej inteligencie nezačína až pri kontrole hotového systému. Začína pri jasnom pomenovaní účelu: aký problém má systém riešiť, komu má slúžiť, aké rozhodnutia môže ovplyvniť a kde sú hranice jeho použitia. Bez tejto základnej orientácie sa aj technicky kvalitné riešenie môže dostať do rozporu s potrebami ľudí, pravidlami organizácie alebo základnými právami.
Dôvera nevzniká z deklarácie, že systém je „etický“ alebo „bezpečný“. Potrebné sú konkrétne a overiteľné postupy. Organizácia by mala vedieť určiť, kto nesie zodpovednosť za návrh, obstaranie, zavedenie a priebežné používanie AI. Rovnako dôležité je dokumentovať rozhodnutia, pracovať s primeraným hodnotením rizík a pravidelne preverovať, či systém funguje v súlade so stanoveným účelom.
Tento prístup je v súlade aj s európskym Aktom o umelej inteligencii — nariadením (EÚ) 2024/1689, ktoré zavádza rizikovo orientovaný rámec pre AI v EÚ. Pri vysokorizikových systémoch nariadenie pracuje napríklad s riadením rizík, správou dát, technickou dokumentáciou, záznamami o prevádzke, primeranou transparentnosťou, ľudským dohľadom a požiadavkami na presnosť, odolnosť a kybernetickú bezpečnosť. Nejde pritom o univerzálny zoznam povinností pre každú technológiu; konkrétne požiadavky závisia od úlohy organizácie a od klasifikácie daného systému.
Audit AI prináša štruktúru do otázok, ktoré by inak zostali iba všeobecnými princípmi. Pomáha posúdiť kvalitu riadenia, pôvod a primeranosť používaných dát, spôsob ľudského dohľadu, bezpečnostné opatrenia, vysvetliteľnosť výsledkov a pripravenosť reagovať na incidenty. Nejde o jednorazové potvrdenie bezchybnosti, ale o opakovaný proces, ktorý zohľadňuje zmeny systému, jeho prostredia aj rizík.
Transparentnosť neznamená zverejniť všetok zdrojový kód alebo citlivé interné informácie. Znamená primerane a zrozumiteľne komunikovať, kde a na aký účel sa AI používa, aké sú jej podstatné obmedzenia, kto vykonáva dohľad a kam sa možno obrátiť v prípade otázok alebo podnetov. Cieľom AI Act je podporovať dôveryhodnú AI pri súčasnom riešení jej rizík.
V praxi zodpovedná AI prepája technológiu s riadením, odbornou zodpovednosťou a rešpektom k ľudskej dôstojnosti. Organizácie, ktoré tieto otázky riešia priebežne, získavajú lepší prehľad o svojich systémoch, dokážu skôr reagovať na problémy a vytvárajú pevnejší základ pre dôveru používateľov, partnerov aj verejnosti.
Poznámka: Text má informačný charakter; pri konkrétnom systéme nenahrádza právne ani odborné posúdenie povinností podľa AI Act.