ZMOS upozorňuje na potrebu ľudskej kontroly pri využívaní AI v samosprávach
Umelá inteligencia môže mestám a obciam pomáhať pri práci s dokumentmi, dátami, komunikácii s obyvateľmi či administratíve. Združenie miest a obcí Slovenska (ZMOS) však upozorňuje, že jej výstupy treba overovať a pri rozhodovaní musí zostať zachovaná zodpovednosť človeka.
Na potrebu dôveryhodných a overiteľných informácií upozornil pri príležitosti Medzinárodného dňa univerzálneho prístupu k informáciám predseda ZMOS Jozef Božik.
Podľa neho môže byť AI pre samosprávy významným pomocným nástrojom napríklad pri analytike, spracovaní dokumentov alebo zjednodušovaní administratívnych úloh.
„Pri právnych, ekonomických, rozpočtových alebo rozhodovacích údajoch musí zostať rozhodujúci originálny a overiteľný zdroj,“ uviedol Božik.
Používanie umelej inteligencie postupne upravuje aj legislatíva. Na úrovni Európskej únie platí nariadenie AI Act, ktoré stanovuje spoločné pravidlá pre systémy umelej inteligencie.
Slovensko zároveň pripravuje vlastný právny rámec. Vládny návrh zákona o štátnej správe v oblasti umelej inteligencie a európskej dátovej regulácie prešiel 17. septembra prvým čítaním v Národnej rade SR a poslanci ho posunuli do druhého čítania.
Návrh má upraviť najmä postavenie a kompetencie orgánov štátnej správy, dohľad nad dodržiavaním pravidiel a uplatňovanie európskej regulácie na Slovensku. Predkladateľom návrhu je vláda prostredníctvom Ministerstva investícií, regionálneho rozvoja a informatizácie SR.
ZMOS zároveň upozorňuje, že využívanie AI v samosprávach nemožno riešiť iba jedným zákonom. Dotýka sa napríklad ochrany osobných údajov, prístupu k informáciám, pracovného práva, školstva, sociálnych služieb, verejného obstarávania či kybernetickej bezpečnosti.
„Pre mestá a obce bude dôležité nielen poznať AI Act a funkčný národný rámec, ale aj to, ako sa používanie AI premieta do jednotlivých kompetencií a právnych predpisov, podľa ktorých samosprávy každodenne postupujú,“ uviedol Božik.
Podľa predsedu ZMOS budú potrebné jasné metodické pravidlá určujúce, kde možno umelú inteligenciu využívať, aké údaje môže spracúvať, kto má kontrolovať jej výstupy a kto za ne nesie zodpovednosť.
