Како да се искористат можностите на вештачката интелигенција, а притоа да се зачуваат човековите права и независноста на судиското одлучување?
За овие прашања говореше м-р Татјана Васиќ-Бозаџиева, судија на Уставниот суд на Република Северна Македонија, во рамките на третата тематска сесија на меѓународната конференција во Охрид, посветена на уставните судови во дигиталната ера.
Во своето излагање таа се осврна на предизвиците што ги носат новите технологии за заштитата на приватноста, слободата на изразување и еднаквоста, но и на можностите за нивна одговорна примена во судството.
Посебен акцент стави на потребата вештачката интелигенција да остане помошна алатка, додека одговорноста за толкувањето на Уставот и донесувањето одлуки мора да остане кај судиите.
„Технологијата може да го промени начинот на кој функционира правдата, но не смее да ги промени вредностите врз кои таа почива.“
Излагањето беше дел од меѓународната конференција „Современи предизвици за владеењето на правото: улогата на уставните судови“, одржана во рамките на IV Годишен состанок на Балканскиот форум на уставни судови (BCCF).
Во продолжение целосниот говор на судијата Васииќ-Бозаџиева:
Дали технолошкиот напредок, кој треба да го направи нашиот живот полесен и побезбеден, истовремено може да стане закана за човековите права и слободи? И, ако технологијата сè повеќе влијае врз начинот на кој функционираат државата, институциите и општеството, каква треба да биде улогата на уставните судови во таа нова реалност?
Пред уставните судови денес стои двоен предизвик. Од една страна, тие треба да ги заштитуваат човековите права од новите облици на нивно загрозување преку дигиталните технологии. Од друга страна, треба критички да ја преиспитаат сопствената улога, методите на работа и начинот на донесување одлуки во услови кога и самото судство почнува да ги користи можностите на вештачката интелигенција.
Дигиталната трансформација не ги менува основните човекови права, но суштински ги менува околностите во кои тие се остваруваат и можат да бидат повредени. Правото на приватност денес не е загрозено само со традиционални форми на следење, туку и со масовно собирање, чување и обработка на лични податоци. Слободата на изразување може да биде ограничена преку алгоритамско управување со содржините, а начелото на еднаквост може да биде доведено во прашање кога автоматизираните системи носат одлуки врз основа на пристрасни податоци или непрозирни критериуми.
Затоа, уставните судови мора да ги толкуваат постојните уставни гаранции во светлината на новите технолошки реалности. Нивната задача не е да создаваат посебно право за секоја нова технологија, туку да обезбедат технолошкиот развој да не ги поткопува веќе утврдените уставни вредности.
Конкретен пример за тоа е предметот У.бр.137/2017, во кој ние како судии на Уставен суд на Република Северна Македонија поведовме постапка за оценување на уставноста на одредби од Законот за електронските комуникации, што се однесуваа на задржувањето на податоците за електронските комуникации. Суштинското прашање беше дали потребата на државата за безбедност и борба против криминалот може да оправда масовно и неселективно задржување на податоците на сите корисници на електронски комуникациски услуги, без доволно јасни законски ограничувања и гаранции против злоупотреба. Судот не ги доведе во прашање легитимните цели, туку границите до кои тие можат да оправдаат навлегување во приватноста.
Со поведувањето на постапката во септември 2024 година, ние го отворивме прашањето за уставните граници на ваквото мешање во приватноста и му дадовме рок на законодавецот да ја усогласи законската регулатива со уставните начела. По донесувањето на новиот Закон за електронските комуникации, оспорените одредби престанаа да важат, поради што постапката беше запрена, без да биде донесена мериторна одлука за нивната уставност. Сепак, овој предмет покажува дека уставносудската контрола може да отвори значајни прашања за заштитата на човековите права и да поттикне нормативни промени и пред да биде донесена конечна одлука за уставноста на оспорените одредби.
Овој пример е важен за темата од две причини. Прво, покажува дека дигиталните технологии создаваат потреба од постојано преиспитување на законските механизми за обработка и пристап до податоци, особено кога тие можат да засегнат права како приватноста и тајноста на комуникациите. Што можат да откријат податоците што не ја содржат содржината на нашите разговори? Тие можат да покажат со кого комуницираме, каде се движиме, со кого се среќаваме и какви навики имаме. Кога ќе се поврзат, овие податоци можат да создадат детална слика за приватниот живот на секој поединец.
Второ, покажува дека уставниот суд може да има нормативно влијание врз законодавниот процес и преку своето постапување, без нужно да донесе конечна одлука со која ќе утврди неуставност. Тоа е важен пример за превентивната и корективната улога на уставното судство во дигиталното општество.
Слични прашања се појавуваат и во практиката на Европскиот суд за човекови права. Во предметот Glukhin против Русија, употребата на технологија за препознавање лица за идентификување и лоцирање учесник на мирен протест доведе до повреда на правото на приватност и слободата на изразување. Судот предупреди и на можниот обесхрабрувачки ефект што ваквото следење може да го има врз слободата на собирање. Во предметот Podchasov против Русија, Судот ја разгледуваше пропорционалноста на законската обврска за масовно задржување на интернет-комуникациите, пристапот на безбедносните служби до тие податоци и обврската за дешифрирање на шифрираните пораки.
Овие предмети покажуваат дека прашањето не е дали државата смее да користи технологија за легитимни цели, туку под кои услови, со какви законски ограничувања и со какви гаранции за заштита на човековите права.
Да замислиме, на пример, дека државата воведува систем за препознавање лица со цел да ги идентификува учесниците на јавни собири. Или дека автоматизиран систем одлучува кој има право на социјална помош, врз основа на алгоритам чии критериуми не се достапни ниту разбирливи за лицата на кои се однесува одлуката.
Во првиот случај, прашањето би било дали законската рамка дозволува несразмерно следење на граѓаните и дали постојат доволно гаранции против произволна употреба на технологијата. Во вториот, би се поставило прашањето дали автоматизираните одлуки можат да доведат до дискриминација и дали на засегнатите лица им се обезбедени образложение, човечка проверка и ефективна правна заштита. Во овој случај, уставносудската контрола би се однесувала на уставноста на законската рамка што ги овозможува таквите одлуки, а не на решавање на поединечните управни спорови.
Но, предизвикот не завршува со контролата на технолошката моќ на државата. Уставните судови треба да размислат и за сопствената употреба на технологијата. Дигитализацијата на судските постапки, електронското поднесување иницијативи, електронските бази на одлуки и преносот на јавните седници се важни чекори за поголема ефикасност, транспарентност и достапност на правдата. Но, употребата на вештачката интелигенција отвора посложени прашања.
Вештачката интелигенција може да помогне во пребарување и систематизирање на судската практика, сумирање обемни предмети, идентификување правни прашања и анализа на аргументите на странките. Но, што би се случило кога еден уставен суд би користел систем на вештачка интелигенција кој не само што ги анализира предметите, туку и подготвува предлог-образложенија и правни заклучоци?
На прв поглед, ваквиот систем би можел да ја забрза работата и да ја зголеми ефикасноста. Но, постои ризик системот да изостави важен аргумент, да наведе непостоечка судска одлука, погрешно да ја претстави правната практика или да репродуцира пристрасност содржана во податоците врз кои е обучен. Уште посериозен е ризикот судијата постепено да почне да ги прифаќа предложените заклучоци без доволно критичко преиспитување.
Тогаш судијата може формално да ја задржи надлежноста за донесување на одлуката, но фактичкото влијание врз неговото расудување да се пренесе врз технологијата. Затоа, човечкиот надзор не смее да се сведе на формално потврдување на она што го предлага системот. Тој мора да подразбира вистинска, независна и критичка проверка. Одговорноста за правните аргументи, толкувањето на Уставот и конечната одлука мора да остане кај судијата.
Ова прашање веќе е дел од пошироката европска дебата. На семинарот Dialogue between Judges 2025, организиран од Европскиот суд за човекови права, се дискутираше за влијанието на вештачката интелигенција врз слободата на изразување, правото на правично судење и забраната на дискриминација. Исто така, на Меѓународната конференција во Белград, организирана по повод одбележувањето на 20 години од донесувањето на Уставот на Република Србија, свое излагање имаше и Дијана Ковачева, судијка на Европскиот суд за човекови права од Бугарија. Нејзиното излагање за односот меѓу човековите права и вештачката интелигенција ја потврдува важноста на прашањето како технолошките иновации да се усогласат со стандардите на Конвенцијата. Технологијата сама по себе не е неспоива со човековите права; одлучувачки се законитоста, неопходноста и пропорционалноста на конкретната примена, како и гаранциите против злоупотреба.
Во нашиот Уставен суд веќе се преземени конкретни чекори во насока на дигитализација и поголема институционална отвореност: нова интернет-страница со пристап до судската практика, можност за електронско поднесување иницијативи и пренос на јавните седници. Овие чекори ја олеснуваат комуникацијата со граѓаните и ја зголемуваат транспарентноста на работата на Судот. Сепак, важно е да се направи разлика меѓу дигитализацијата на работните процеси и употребата на вештачка интелигенција. Уставниот суд засега не користи вештачка интелигенција во своето одлучување.
Неговата евентуална идна примена би можела да придонесе, на пример, за пребарување и систематизација на сопствената уставносудска практика. Но, пред нивното воведување, неопходно е да се воспостават јасни институционални правила: кои начини на употреба се дозволени, кои податоци не смеат да се внесуваат во надворешни системи, како се проверуваат генерираните правни извори и кој ја носи одговорноста за користењето на алатките. Еднакво важно е јакнењето на капацитетите на судиите и стручните служби за критичко оценување на резултатите и препознавање на можните пристрасности.
Поширокиот македонски контекст ја потврдува потребата од ваков пристап. Државниот завод за ревизија во 2025 година укажа дека 48 проекти поврзани со вештачката интелигенција, финансирани во периодот од 2018 до 2023 година со околу 6,1 милион евра, не довеле до системска имплементација во јавниот сектор. Значајно е и тоа што Северна Македонија на 8 мај 2026 година ја потпиша Рамковната конвенција на Советот на Европа за вештачка интелигенција, човекови права, демократија и владеење на правото. Таа претставува важна меѓународна рамка за уредување на технолошкиот развој во согласност со човековите права и принципите на владеење на правото.
Сите овие искуства и предизвици нè упатуваат на едно суштинско прашање: што треба да биде улогата на уставните судови во дигиталната ера?
Пред сè, тие треба да обезбедат уставните права и слободи да бидат ефективно заштитени и во дигиталната средина, особено правото на приватност, слободата на изразување и начелото на еднаквост. Во рамките на своите надлежности, треба да ја оценуваат уставноста на законските решенија што овозможуваат алгоритамско и автоматизирано одлучување, водејќи сметка за транспарентноста, пропорционалноста и ефективната правна заштита. Истовремено, доколку ја користат вештачката интелигенција, треба да ја користат како помошна алатка, а не како замена за независното правно расудување. И, конечно, мора да ја зачуваат независноста на уставносудското одлучување и личната одговорност на судијата за секоја донесена одлука.
На крајот, би сакала да истакнам дека дигиталната ера не бара од уставните судови да се откажат од својата традиционална улога, туку да ја остваруваат со уште поголема одговорност. Тие не можат да бидат само контролори на технолошката моќ на другите институции. Мора да бидат пример и во одговорното користење на технологијата.
Уставниот суд во дигиталната ера мора истовремено да го штити човекот од ризиците на дигиталната технологија и да обезбеди технологијата, кога самиот ја користи, да остане во служба на човекот.
Технологијата може да го промени начинот на кој функционира правдата, но не смее да ги промени вредностите врз кои таа почива. Таа може да му помага на судијата, но не смее да одлучува наместо него. Затоа, нашата задача е да обезбедиме технологијата да не стане посилна од правото, алгоритмот поважен од човекот, ниту технолошката ефикасност посилна од судиската независност.