AI pirkimai viešajame sektoriuje: teisinė atsakomybė

Istorinis kontekstas: viešųjų pirkimų ir automatizacijos sąveika

Viešojo sektoriaus pirkimų istorija rodo nuolatinį technologijų diegimą kaip priemonę efektyvumui didinti. Nuo automatizuotų duomenų sistemų iki pažangių sprendimų, AI integracija tapo natūralia paslaugų skaitmenizacijos dalimi. Teisinė bazė tradiciškai grindėsi viešųjų pirkimų principais: konkurencija, skaidrumas, nešališkumas ir sąžininga konkurencija. Tačiau AI sprendimų įsigijimas įneša naujų elementų — algoritminės sprendimų priėmimo sudėtingumą, modelių atnaujinimus, duomenų ir veikimo nežinomybės rizikas — kurie istorinių normų ne visada pakankamai apima. Tarptautiniai principai, tokie kaip OECD AI principai, skatino atskaitomybę ir kontrolę, o kai kurios valstybės ėmėsi pilotinių programų įvertinti riziką prieš plačiau diegiant.

ES teisė ir tarptautinės gairės: ką reiškia nauji reikalavimai

Europos Sąjungoje pastarieji metai atnešė reikšmingą diskusijų ir teisėkūros etapą dėl AI reguliavimo. Politinėse derybose 2023 metais pasiektos esminės nuostatų gairės dėl didelės rizikos AI sistemų, įskaitant reikalavimus priežiūrai, testavimui ir techninei dokumentacijai. Šios nuostatos įgalina vertinti viešojo sektoriaus pirkinius pagal rizikos lygį, o tai reiškia, kad pirkimo procedūrose turi būti nustatytos papildomos konformybės ir testavimo priemonės. Tarptautiniu mastu rekomendacijos pabrėžia, kad viešieji pirkimai privalo skatinti atsakingą inovaciją ir užtikrinti viešąjį interesą. ES diskusijose taip pat aptariami produktų atsakomybės principų atnaujinimai, kad būtų aiškiau nustatyta gamintojo arba tiekėjo atsakomybė už žalą, kurią sukėlė intelektualios sistemos.

Teisinė atsakomybė: civilinė, administracinė ir kontraktinė perspektyva

Viešojo sektoriaus pirkimuose atsakomybės klausimas susideda iš kelių sluoksnių. Pirma, gamintojo ar tiekėjo civilinė atsakomybė už defektus ir žalą išlieka kertiniu principu, tačiau AI specifika — savarankiškas mokymasis, saviregulacija ir nuolatiniai atnaujinimai — kelia iššūkių tradicinei produktų atsakomybei. Antra, valstybės ar administracijos atsakomybė už neteisėtą arba žalingą administracinį sprendimą, pagrįstą AI, išlieka svarbi: valstybės pareigos teisingai motyvuoti sprendimą, užtikrinti teisinę procedūrą ir galimybes kreiptis į teismą. Trečia, kontraktiniai mechanizmai pirkimo sutartyse gali išskaidyti riziką per garantijas, serviso reikalavimus, audito teisę ir atsakomybės ribojimus, tačiau viešųjų pirkimų teisė riboja kai kurias atsakomybės sąlygas, kad nebūtų pažeisti konkurencijos bei viešo intereso principai. Praktikoje svarbu aiškiai reglamentuoti, kas atsako už modelio klaidas, duomenų kokybės trūkumus arba netikėtus sprendimų padarinius.

Praktinė pirkimų teisė: techninės specifikacijos ir vertinimo kriterijai

Viešojo sektoriaus pirkimų dokumentuose tradiciškai naudojamos techninės specifikacijos, funkcionalumo reikalavimai ir kainos kriterijai. AI atveju būtina papildomai įtraukti reikalavimus dėl sistemų testavimo, aiškinamumo laipsnio, auditabilumo ir atnaujinimo politikos. Pirkimų vertinimo kriterijai turi sverti ne tik kainą, bet ir rizikų valdymą, kokybės užtikrinimą, tiekėjo gebėjimą užtikrinti explainability ir atlikti nepriklausomus patikrinimus. Konkurencijos principai leidžia naudoti kokybės pagrindu sukurtus kriterijus, bet administracijos turi užtikrinti, kad techniniai reikalavimai nebūtų pertekliniai ir nesuteiktų neteisėtos preferencijos vienam tiekėjui. Taip pat aktualūs klausimai dėl intelektinės nuosavybės, atviros prieigos prie modelių arba testavimo duomenų, kai tai būtina siekiant įvertinti patikimumą.

Priežiūra, auditas ir atitikties mechanizmai

Tinkama priežiūra apima tiek priešpirkiminę rizikos analizę, tiek poįsigijiminį monitoringą. Atitikties mechanizmai turi apimti nepriklausomus testus, periodinius auditų reikalavimus, post-market monitoringą ir procedūras reagavimui į incidentus. Sertifikavimo sistemos, kurios buvo siūlomos ES lygmeniu kaip viena iš priemonių, gali palengvinti konformacijos nustatymą, tačiau joms reikalingas aiškus teisinis pagrindas ir nepriklausomumas. Viešasis sektorius taip pat turi užtikrinti, kad būtų numatytos procedūros žalai atlyginimui ir greito reagavimo, jei sistema veikia netinkamai. Audito galimybės, prieigos teisės prie modelių ir kodo, taip pat trečiųjų šalių testavimo reikalavimai — visos šios priemonės stiprina pasitikėjimą ir sumažina reputacinę bei finansinę riziką.

Socialinės pasekmės ir poveikis rinkai

AI pirkimų pokyčiai gali turėti reikšmingą įtaką tiekėjų rinkai ir visuomenei. Griežtesni konformacijos reikalavimai didina vartų įėjimo kaštus, kas gali paveikti mažas inovatyvias įmones, tačiau kartu skatina aukštesnę paslaugų kokybę ir saugumą. Viešojo sektoriaus pasirinkimai taip pat formuoja rinkos standartus: jei administracija reikalauja audituojamų modelių ir skaidrumo, tai gali tapti norma ir privatiame sektoriuje. Socialiniu požiūriu svarbu užtikrinti, kad automatizuoti sprendimai neįtvirtintų diskriminacijos, neteisingo išskyrimo ar viešosios paslaugos prieinamumo sumažėjimo. Pasekmės apima ne tik finansinius nuostolius, bet ir pasitikėjimo valstybe eroziją, jeigu AI sprendimai nebus valdomi atsakingai.

Rekomendacijos teisės politikams ir administracijoms

Pirmiausia, viešojo pirkimo normose reikėtų aiškiai įtvirtinti rizikos vertinimo etapą, kurį reikia atlikti prieš pirkimą ir kurio rezultatai lemia papildomas konformacijos priemones. Antra, sutartyse būtina aiškiai nustatyti atsakomybės pasiskirstymą, priežiūros mechanizmus, prieigą auditui ir incidentų valdymo procedūras. Trečia, rekomenduojama skatinti modulinius vertinimus ir nepriklausomus testus, taip pat numatyti finansines paskatas mažesnėms įmonėms, kurios įrodo atitiktį. Ketvirta, valstybės turi investuoti į vidinius audito ir teisinius pajėgumus, kad galėtų kompetentingai vertinti AI pasiūlymus. Galiausiai, teisės aktų rengėjams svarbu suderinti atvirojo konkurso principus su saugumo ir atsakomybės reikalavimais, siekiant užtikrinti, kad inovacija nebūtų pasiekiama aukojant viešąjį interesą.

Išvadoje, viešojo sektoriaus AI pirkimai reikalauja integruotos teisinės strategijos: derinti tradicinius viešųjų pirkimų principus su naujais atitikties, audito ir atsakomybės mechanizmais. Tik tokiu būdu galima užtikrinti, kad AI diegimas viešajame sektoriuje būtų efektyvus, teisėtas ir visuomenei saugus.