Etika i rizici korištenja umjetne inteligencije u javnoj nabavi

Umjetna inteligencija (UI) mijenja način na koji vlade planiraju, procjenjuju i upravljaju nabavom. Ona obećava učinkovitost, transparentnost i brže donošenje odluka — ali uvodi i nove etičke i operativne rizike koje javne institucije moraju pažljivo adresirati.

Kako se alati temeljeni na UI sve više ugrađuju u procese nabave, uravnoteživanje inovacija s odgovornošću postaje središnji izazov upravljanja.

1. Zašto je etika važna u javnoj nabavi

Javna nabava nije samo stvar transakcija — riječ je o povjerenju, pravednosti i odgovornom korištenju javnih sredstava. Uvođenje UI bez snažnih etičkih okvira može ugroziti ta načela.

Glavne zabrinutosti uključuju:

• Osiguravanje jednakog pristupa za sve ponuditelje
• Izbjegavanje pristranosti u ocjenjivanju ili uparivanju s natječajima
• Zaštita osjetljivih poslovnih i osobnih podataka
• Očuvanje transparentnosti u donošenju odluka

⚖️ Etična nabava nije protiv tehnologije — riječ je o odgovornom korištenju tehnologije, uz ljudski nadzor i javnu odgovornost.

2. Glavni etički rizici UI u nabavi

3. Regulatorni okvir: što EU poduzima

Akt o umjetnoj inteligenciji EU-a (2024.) uvodi jedan od najopsežnijih okvira za upravljanje UI-jem na svijetu.
Javna nabava spada u „visokorizične” slučajeve uporabe UI-ja, što znači da sustavi moraju ispuniti stroge kriterije prije uvođenja.

Ključne obveze uključuju:

• Transparentnost: jasno objašnjenje kako sustavi UI donose odluke.
• Ljudski nadzor: kvalificirana osoba mora ostati odgovorna za ishode.
• Upravljanje podacima: podaci za učenje moraju biti relevantni, reprezentativni i bez pristranosti.
• Upravljanje rizicima: kontinuirano praćenje performansi sustava i prijavljivanje incidenata.

🏛️ Usklađenost nije opcionalna — javna tijela moraju dokazati da njihova uporaba UI-ja poštuje i pravo EU-a i načela pravednosti i razmjernosti u nabavi.

4. Odgovorna UI u pronalaženju i ocjenjivanju natječaja

UI može pomoći timovima za nabavu pretraživati, klasificirati i predkvalificirati natječaje učinkovito — ali samo ako je dizajnirana i vođena odgovorno.

Najbolje prakse uključuju:

• Objašnjivo uparivanje: sustavi trebaju dokumentirati zašto je neki natječaj uključen ili isključen.
• Testiranje pristranosti: redovito revidirati skupove podataka u pogledu raznolikosti i neutralnosti ponuditelja.
• Kontrole pristupa: ograničiti pristup podacima samo na ovlaštene osobe.
• Revizijski tragovi: evidentirati sve automatizirane radnje radi odgovornosti i transparentnosti.
• Pregled s čovjekom u petlji: zadržati ljudsku odgovornost za sve odluke temeljene na uvidima koje generira UI.

🔍 Transparentnost je ključna — svaka automatizirana preporuka mora biti sljediva do podataka i logike koje službenici za nabavu mogu provjeriti.

5. Ravnoteža između učinkovitosti i odgovornosti

Automatizacija bi trebala nadopunjavati ljudsku stručnost, a ne je zamjenjivati.
Najučinkovitije organizacije za nabavu kombiniraju:

• alate UI koji smanjuju ponavljajući rad i šum u podacima
• ljudsku prosudbu koja tumači nijanse i namjeru politika
• mehanizme nadzora koji osiguravaju pravednost i usklađenost

Postizanjem te ravnoteže vlade mogu modernizirati nabavu bez žrtvovanja etike ili povjerenja.

6. Kako dobavljači mogu podržati etičnu nabavu

Tehnološki dobavljači imaju jednako važnu ulogu u održavanju integriteta u ekosustavu UI-ja.

Trebali bi:

• provoditi transparentne prakse rukovanja podacima i sigurnosti
• osigurati dokumentaciju algoritama i metrika performansi
• osigurati usklađenost infrastrukture s pravom EU-a o zaštiti podataka
• surađivati u vanjskim revizijama ili provjerama usklađenosti

🤝 Etična UI zajednička je odgovornost javnih naručitelja i privatnih dobavljača.

7. Pristup Tenderbot.io odgovornoj automatizaciji

U Tenderbot.io vjerujemo da automatizacija u javnoj nabavi mora uvijek služiti načelima transparentnosti, pravednosti i odgovornosti.

Naša je platforma dizajnirana s:

• objašnjivom logikom — svako uparivanje s natječajem može se pratiti do objektivnih kriterija i objavljenih izvora podataka.
• strogom usklađenošću s pravilima o lokalizaciji i privatnosti podataka — sva se obrada obavlja unutar EU-a prema standardima GDPR-a.
• jasnim razdvajanjem otkrivanja i donošenja odluka — Tenderbot.io identificira i predkvalificira natječaje, ali konačna prosudba i odabir uvijek ostaju na ljudskim korisnicima.

Time se osigurava da automatizacija ostane potporni mehanizam, a ne zamjena za profesionalnu stručnost ili proceduralni integritet.

Naš je cilj učiniti javnu nabavu bržom, pravednijom i transparentnijom — odgovorno i u punoj usklađenosti s etičkim i pravnim standardima.

Zaključak

UI nudi izniman potencijal za modernizaciju javne nabave — ali s tom moći dolazi i odgovornost.
Etika mora voditi svaku fazu automatizacije, od prikupljanja podataka do donošenja odluka.

Ugrađivanjem transparentnosti, pravednosti i nadzora u svaki proces, javne institucije mogu iskoristiti prednosti UI-ja bez narušavanja povjerenja — a dobavljači poput Tenderbot.io mogu odgovorno predvoditi tu transformaciju.

Inovacije i integritet moraju ići zajedno. To je jedini održiv način modernizacije javne nabave.