ОПРЕДЕЛЕНИЕ
№ 15348
гр. София, 01.04.2025 г.
СОФИЙСКИ РАЙОНЕН СЪД, 26 СЪСТАВ, в закрито заседание на
първи април през две хиляди двадесет и пета година в следния състав:
Председател:РАДОСЛАВ Р. АНГЕЛОВ
като разгледа докладваното от РАДОСЛАВ Р. АНГЕЛОВ Гражданско дело №
20241110112102 по описа за 2024 година
и за да се произнесе взе предвид следното:
Производството е по реда на член 276, параграф 1 ДФЕС и Глава
ПЕТДЕСЕТ И ПЕТА ГПК (преюдициални запитвания)
Производството пред националния съд е образувано по искова молба,
подадена от застраховател на увредена кола срещу застрахователя на
лицето, което е причинило вредата на колата (суброгационен иск – иск на
застрахователя на увреденото имущество срещу застрахователя на
причинителя на вредата)
Преюдициалното запитване се отнася до тълкуване на законодателството
на ЕС в областта на изкуствения интелект – Регламент 2024/1689, както и
принципите за човешка ревизия, отчетност, обяснимост и проследимост
на решение/резултат, което е подпомогнато от изкуствен интелект или
алгоритъм. Запитването засяга правото на независим и безпристрастен
съд по чл.19 ДЕС при използването на информационни технологии при
постановяване на съдебен акт. Запитването се отнася и за приложението
на софтуерни продукти, базирани на ИИ, което не се предназначени за
европейския пазар, но могат да бъдат пригодени от човек. Съдът иска
тълкуване на понятието за свободния пазар по чл.101 ДФЕС и
свободното движение на стоки при софтуерни продукти, базирани на
изкуствен интелект или друг вид алгоритми.
1
СТРАНИ ПО СПОРА
Ищец: „...... ЕАД, ЕИК: ......, седалище и адрес на управление: гр. София,
район „Триадица", бул. .......... чрез процесуален представител адвокат А.
Б. - САК, съдебен адрес: гр. София, ул. ........., email l......
Ответник: „ЗК „........." АД, ЕИК ........., Седалище и адрес на управление:
гр. София, бул. ......, email: ..........
ПРИЛОЖИМО НАЦИОНАЛНО ПРАВО
ГРАЖДАНСКИ ПРОЦЕСУАЛЕН КОДЕКС (ГПК)
Назначаване на вещо лице
Чл. 195. (1) Вещо лице се назначава по искане на страната или служебно,
когато за изясняване на някои възникнали по делото въпроси са
необходими специални знания из областта на науката, изкуството,
занаятите и други.
(2) Съдът може да назначи и повече вещи лица, когато това се налага с
оглед на обстоятелствата по делото.
Отстраняване на вещо лице
Чл. 196. (1) Разпоредбите на чл. 22, ал. 1 се прилагат съответно и за
вещите лица.
(2) Всяка от страните може да иска отстраняване на вещото лице, ако е
налице някое от основанията по ал. 1.
(3) Вещото лице е длъжно незабавно да съобщи на съда всички
обстоятелства, които могат да бъдат основание за отстраняване. То е
длъжно да вземе отношение по твърденията в молбата за отстраняването
му.
2
(4) Съдът се произнася с определение по искането за отстраняване на
вещото лице.
Възлагане на експертиза
Чл. 197. (1) В определението, с което съдът назначава вещото лице, се
посочват: предметът и задачата на експертизата; материалите, които се
предоставят на вещото лице, името, образованието и специалността на
вещото лице.
(2) Съдът дава на вещото лице подходящ срок за изготвяне на
заключението. Вещото лице уведомява съда, когато не може да изготви
заключението в определения срок, и посочва какъв срок му е необходим.
Освобождаване на вещото лице
Чл. 198. Назначеното вещо лице се освобождава от възложената му
задача, когато не може да я изпълни поради липса на квалификация,
болест или друга обективна причина, при условията на чл. 166 или когато
не е изготвило своевременно заключението.
Представяне на заключението
Чл. 199. Вещото лице е длъжно да представи заключението най-малко
една седмица преди съдебното заседание.
Изслушване на вещото лице
Чл. 200. (1) Съдът напомня на вещото лице отговорността му за даване
на невярно заключение.
(2) Вещото лице излага устно заключението си. Страните могат да
задават въпроси за изясняване на заключението.
(3) При оспорване на заключението съдът може да назначи друго или
повече вещи лица. Оспорването може да бъде направено докато трае
изслушването.
Допълнително и повторно заключение
Чл. 201. Допълнително заключение се възлага, когато заключението не е
достатъчно пълно и ясно, а повторно - когато не е обосновано и
възниква съмнение за неговата правилност.
Оценка на заключението
Чл. 202. Съдът не е длъжен да възприема заключението на вещото лице,
3
а го обсъжда заедно с другите доказателства по делото.
Разногласие между вещи лица
Чл. 203. При разногласие между вещите лица всяка група излага своите
отделни мнения. Когато съдът не може да вземе становище по
разногласието, той изисква от същите вещи лица допълнителни
изследвания или назначава други вещи лица.
НАРЕДБА № Н-1 ОТ 14 ФЕВРУАРИ 2023 Г. ЗА
ВПИСВАНЕТО, КВАЛИФИКАЦИЯТА И
ВЪЗНАГРАЖДЕНИЯТА НА ВЕЩИТЕ ЛИЦА
Чл. 2. Дейността на вещите лица при извършване на съдебни
експертизи се основава на следните принципи:
1. законност;
2. процесуална и познавателна независимост на вещото лице;
3. научна обоснованост на средствата и методите, използвани при
експертното изследване;
4. добросъвестност, обективност, всестранност и пълнота на експертното
изследване;
5. поверителност и спазване на професионалната етика
Чл. 3. Експертната дейност включва:
1. организацията на процесуалната и познавателната дейност на
субектите на съдебната експертиза;
2. научните изследвания в областта на съдебните експертизи;
3. научно-методическото обезпечаване на съдебната експертиза;
4. професионалната подготовка и повишаването на квалификацията на
вещите лица.
Чл. 5. (1) Съобразно процесуалната си организация съдебните
експертизи са:
1. еднолични и колективни;
4
2. еднородни и комплексни;
3. първоначални, допълнителни и повторни.
(2) Експертизите са колективни, когато за извършването им е необходимо
участието на две или повече вещи лица.
(3) Експертизите са еднородни, когато за решаването на задачите им се
използват знания от една научна област. Експертизите са
комплексни, когато за решаването на задачите им се използват
знания от различни научни области.
Условия, на които трябва да отговарят специалистите, утвърдени за
вещи лица
Чл. 7. (1) За вещо лице може да бъде утвърдено дееспособно лице,
което отговаря на едно от следните изисквания:
1. заема академична длъжност - "доцент" или "професор", във висши
училища, научни организации или Българската академия на науките;
2. има висше образование с придобита образователно-квалификационна
степен "магистър" и има най-малко 5 години стаж по специалността;
3. има висше образование с придобита образователно-квалификационна
степен "бакалавър" и има най-малко 7 години стаж по специалността;
4. има средно образование и най-малко 10 години стаж по специалността;
5. е служител на МВР и има завършено специално обучение в Академията
на МВР или Националния институт по криминалистика на МВР;
6. е лекар с призната специалност по съдебна медицина, лекар без такава
специалност, който работи в структура на лечебното заведение,
осъществяващо дейност по съдебна медицина, лекар с друга
медицинска специалност или лекар по дентална медицина.
(2) Лицето по ал. 1 трябва да отговаря и на следните условия:
1. да не е осъждано за престъпление от общ характер;
2. да не е лишено от право да упражнява професия или дейност;
3. да не осъществява функции по правораздаване в системата на
съдебната власт;
4. да има разрешение за постоянно пребиваване в Република България,
5
ако лицето не е български гражданин или гражданин на Европейския
съюз, на държава - страна по Споразумението за Европейското
икономическо пространство, или на Конфедерация Швейцария;
5. да е вписано в съответния регистър на лицата, притежаващи
определена професия, правоспособност или квалификация, когато
такова вписване се изисква по закон;
6. да притежава диплома, свидетелство, удостоверение, сертификат,
лиценз или друг документ, издаден от висше училище,
професионална организация или учреждение по силата на закон, с
който документ се удостоверява наличието на съответната
квалификация или правоспособност.
Етични правила за поведение на вещото лице
Чл. 33. (1) Вещото лице няма право да разпространява информацията за
обстоятелствата, фактите и документите, които са му станали
известни в хода на съдебната експертиза.
(2) При прекратяване на функциите си вещото лице не е освободено от
задължението си да пази тайна, свързана с дейността му като вещо
лице.
Чл. 34. Вещото лице е длъжно да извърши експертизата добросъвестно
съобразно поставените му задачи, като използва съвременните
постижения в съответната научна област.
Чл. 35. (1) Вещото лице не може да приема каквито и да са подаръци,
услуги, ангажиране по други дела, ангажиране за работа, услуги или
консултации от страна по делото или нейни представители до
приключване на делото.
(2) Към всяка експертиза вещото лице представя декларация, че не е в
конфликт на интереси във връзка с изготвянето и.
Чл. 36. Вещото лице популяризира дейността си по начин и със средства,
които дават вярна представа за неговата компетентност и
възможностите на съответния вид експертиза.
Чл. 37. Вещото лице може да депозира писмен мотивиран отказ за
изготвяне на експертизата в 7-дневен срок от получаване на
съобщението за конкретните задачи.
6
Допълнителни разпоредби
§ 1. По смисъла на тази наредба:
1. "Вещо лице" е специалист със специални знания и умения, включен в
списък по чл. 398 от Закона за съдебната власт, както и специалист със
специални знания и умения, който е назначен при условията на чл. 396,
ал. 2 от Закона за съдебната власт.
4. "Експертиза" е процесуално регламентирана дейност, извършвана по
искане на компетентния орган от лица, които притежават специални
знания и умения за изследване на определени обекти или други
обстоятелства, свързани с изясняването на определени обстоятелства.
6. "Специални знания" са тези знания, които отговарят едновременно на
следните изисквания: не са юридически, с изключение на тези, които се
отнасят до чуждестранно законодателство и практика; не са
общоизвестни; получени са в резултат на теоретична подготовка и
практически опит по определена научна дисциплина.
7. "Познавателна независимост" е самостоятелност при избора на методи и
средства, използвани при експертното изследване.
ЕВРОПЕЙСКО ПРАВО
Регламент (ЕС) 2024/1689 на Европейския парламент и на
Съвета от 13 юни 2024 година за установяване на
хармонизирани правила относно изкуствения интелект и
за изменение на регламенти (ЕО) № 300/2008, (ЕС) №
167/2013, (ЕС) № 168/2013, (ЕС) 2018/858, (ЕС) 2018/1139 и
(ЕС) 2019/2144 и директиви 2014/90/ЕС, (ЕС) 2016/797 и
(ЕС) 2020/1828 (Акт за изкуствения интелект) (Регламент
за изкуствен интелект наричан Регламент за ИИ)
7
Съображение (7)
За да се гарантира последователно и високо равнище на защита на
обществените интереси по отношение на здравето, безопасността и основните
права, следва да бъдат установени общи правила за високорисковите системи
с ИИ. Тези правила следва да бъдат в съответствие с Хартата, да бъдат
недискриминационни и да са в съответствие с международните търговски
ангажименти на Съюза. Освен това те следва да са съобразени с Европейската
декларация относно цифровите права и принципи за цифровото десетилетие и
Насоките относно етичните аспекти за надежден ИИ на експертната група на
високо равнище по въпросите на изкуствения интелект (ЕГВР ИИ).
Съображение (8)
Поради това е необходима правна рамка на Съюза, с която да се установят
хармонизирани правила относно ИИ, за да се насърчи разработването,
използването и навлизането на ИИ на вътрешния пазар, и която същевременно
да осигурява високо равнище на защита на обществените интереси, например
здравето и безопасността, и защитата на основните права, включително
демокрацията, принципите на правовата държава и опазването на околната
среда, признати и защитени от правото на Съюза. За постигането на тази цел
следва да бъдат установени правила, уреждащи пускането на пазара,
пускането в действие и използването на някои системи с ИИ, и по този начин
да се гарантира безпрепятственото функциониране на вътрешния пазар и да се
даде възможност на тези системи да се ползват от принципа на свободно
движение на стоки и услуги. Тези правила следва да бъдат ясни и надеждни по
отношение на защитата на основните права, да благоприятстват нови
иновативни решения и да дават възможност за изграждане на европейска
екосистема от публични и частни участници, които да създават системи с ИИ
в съответствие с ценностите на Съюза и да отключват потенциала на
цифровата трансформация във всички региони на Съюза. С установяването на
такива правила, както и на мерки в подкрепа на иновациите с отделяне на
специално внимание на малките и средните предприятия (МСП),
включително новосъздадените предприятия, настоящият регламент подкрепя
целта за насърчаване на европейския подход към ИИ, ориентиран към човека,
и целта на Съюза да бъде световен лидер в разработването на сигурен,
надежден и етичен ИИ, както бе посочено от Европейския съвет, и гарантира
8
защитата на етичните принципи, както изрично бе поискано от Европейския
парламент.
Член 86 Право на обяснение при вземане на индивидуални решения
1. Всяко засегнато лице, което е обект на решение, взето от внедрителя въз
основа на резултатите от високорискова система с ИИ, посочена в приложение
III, с изключение на системите, изброени в точка 2 от посоченото приложение,
и което поражда правни последици или по подобен начин значително засяга
това лице така, че то да счита, че се оказва неблагоприятно въздействие върху
неговото здраве, безопасност или основни права, има право да получи от
внедрителя ясни и съдържателни обяснения за мястото на системата с ИИ в
процедурата за вземане на решения и основните елементи на взетото решение.
Член 95 Кодекси за поведение за прилагане на специфични
изисквания на доброволна основа
2. Службата по ИИ и държавите членки улесняват изготвянето на кодекси
за поведение относно прилагането на доброволна основа, включително от
страна на внедрителите, на специфични изисквания по отношение на
всички системи с ИИ, въз основа на ясни цели и ключови показатели за
ефективност с цел оценяване на постигането на тези цели, включително
елементи като, но не само:
a) приложими елементи, предвидени в етичните насоки на Съюза за
надежден ИИ;
ПРИЛОЖЕНИЕ III Високорискови системи с ИИ по член 6,
параграф 2
Високорискови системи с ИИ съгласно член 6, параграф 2 са системите с ИИ в
някоя от следните области:
8. Правораздаване и демократични процеси:
a) системи с ИИ, предназначени да бъдат използвани от орган на съдебната
власт или от негово име за подпомагане на орган на съдебната власт при
проучване и тълкуване на фактите и правото и при прилагане на закона към
конкретен набор от факти, или за използване по подобен начин при
алтернативно решаване на спорове;
б) системи с ИИ, предназначени да бъдат използвани за оказване на влияние
върху резултата от избори или референдум или върху поведението на
9
физическите лица при упражняване на правото им на глас в избори или
референдум. Това не включва системи с ИИ, на чиито резултати физическите
лица не са пряко изложени, като инструменти, използвани за организиране,
оптимизиране и структуриране на политически кампании от административна
или логистична гледна точка.
ХАРТА НА ОСНОВНИТЕ ПРАВА НА ЕС (ХОПЕС)
Член 47 Право на ефективни правни средства за защита и на
справедлив съдебен процес
Всеки, чиито права и свободи, гарантирани от правото на Съюза, са били
нарушени, има право на ефективни правни средства за защита пред съд в
съответствие с предвидените в настоящия член условия.
Всеки има право неговото дело да бъде гледано справедливо и публично в
разумен срок от независим и безпристрастен съд, предварително създаден със
закон. Всеки има възможността да бъде съветван, защитаван и представляван.
ДОГОВОР ЗА ЕВРОПЕЙСКИЯ СЪЮЗ (ДЕС)
Член 19, параграф 1
Съдът на Европейския съюз се състои от Съд, Общ съд и специализирани
съдилища. Той осигурява спазването на правото при тълкуването и
прилагането на Договорите.
Държавите членки установяват правните средства, необходими за
осигуряването на ефективна правна защита в областите, обхванати от правото
на Съюза.
ДОГОВОР ЗА ФУНКЦИОНИРАНЕ НА ЕВРОПЕЙСКИЯ
СЪЮЗ (ДФЕС)
ДЯЛ II
10
СВОБОДНО ДВИЖЕНИЕ НА СТОКИ
Член 28
1. Съюзът включва митнически съюз, който обхваща цялата търговия със
стоки и който включва забрана на митата върху вноса и износа между
държавите-членки, и на всички такси с равностоен на мито ефект, както и
приемането на обща митническа тарифа при техните отношения с трети
страни.
2. Разпоредбите на член 30 и на глава 3 от настоящия дял се прилагат по
отношение на стоките с произход от държавите-членки, и на стоките,
идващи от трети страни, които се намират в свободно обращение в
държавите-членки.
Член 29
Стоките, идващи от трета страна се считат като намиращи се в свободно
обращение в държава-членка, ако формалностите по вноса са били изпълнени
и всички мита или такси с равностоен на мито ефект, които е трябвало да
бъдат платени, са били начислени в тази държава-членка и ако те не са се
ползвали от цялостно или частично възстановяване на такива мита или такси.
Член 101
1. Забраняват се като несъвместими с вътрешния пазар всички споразумения
между предприятия, решения на сдружения на предприятия и съгласувани
практики, които биха могли да засегнат търговията между държавите-членки
и които имат за своя цел или резултат предотвратяването, ограничаването или
нарушаването на конкуренцията в рамките на вътрешния пазар, и в частност
такива, които:
а) пряко или косвено определят покупни или продажни цени или други
условия на търговията;
б) ограничават или контролират производството, пазарите, технологичното
развитие или инвестициите;
в) осъществяват подялба на пазари или на доставчици;
г) прилагат различни условия по отношение на еквивалентни сделки с други
11
търговски партньори, като по този начин ги поставят при сравнително по-
неблагоприятни условия;
д) поставят сключването на договорите в зависимост от приемането на
допълнителни задължения, които по своя характер или в съответствие с
търговската практика нямат връзка с предмета на тези договори.
2. Всички споразумения или решения, които са забранени в съответствие с
настоящия член, са нищожни.
3. Разпоредбите на параграф 1 могат да бъдат обявени за неприложими по
отношение на:
всяко споразумение или определен вид споразумения между
предприятия;
всяко решение или определен вид решения на сдружения на
предприятия;
всяка съгласувана практика или определен вид съгласувани практики,
които допринасят за подобряване на производството или разпространението
на стоки или за развитието на техническия или икономическия прогрес, като
при това предоставят на потребителите справедлив дял от получените ползи,
без:
а) да налагат на участващите предприятия ограничения, които не са
абсолютно необходими за постигането на тези цели;
б) да дават възможност на такива предприятия да елиминират конкуренцията
по отношение на съществена част от съответните стоки.
ПРИЗИВ ЗА ХАРМОНИЗИРАНИ ЕТИЧНИ СТАНДАРТИ
В СЪДЕБНАТА СИСТЕМА
В международната платформа по съдебна етика Judicial Ethics Platform
(https://judicialethicsplatform.nij.bg/en/home/), в раздел
„Предизвикателства“ e предложен нов етичен стандарт при
използването на информационните технологии, който гласи:
„Иновациите трябва да се прилагат под строг контрол от магистратите, за
да се осигури прозрачен, ефективен и ориентиран към човека подход,
12
който да бъде в съответствие с основните права и процесуални гаранции
за предоставяне на правосъдие с високо качество.“ („Innovations shall be
applied under strict control of magistrates in order to ensure transparent,
effective and based on human-centered approach and in line with the
fundamental rights and procedural guarantees for delivering justice of high
quality.“)
ФАКТИ ПО ДЕЛОТО
На територията на град София е станало пътно-транспортно
произшествие (ПТП) между два автомобила. Увреденият автомобил е
застрахован при ищеца. Ищецът заплатил застрахователно обезщетение
на собственик на увредения автомобил.
Другият автомобил и неговият собственик са застраховани при
ответника. Ищецът твърди, че ПТП се е случило по вина на водача, който
управлявал другия автомобил. Затова предявява настоящия иск срещу
ответника. Иска съда да го осъди да заплати сумата, която е заплатил на
увредения автомобил.
Ищецът моли съда да допусне съдебно-автотехническа експертиза
(САТЕ), За да докаже вината на другия водач от ПТП. Експертизата
трябва да отговори на въпроси: какъв е механизмът на ПТП; каква е
причината за ПТП; дали получените вреди са в резултат от ПТП; какъв е
размера на вредите;
Ответникът оспорва, че водачът на застрахования при него автомобил, да
има вина. При условията на евентуалност прави възражение за
съпричиняване – причина за ПТП има и водачът на автомобила, който е
застрахован при ищеца. Затова моли да се допусне САТЕ, която да
отговори на въпроси, които дават отговор за: механизъм на ПТП;
причинно-следствена връзка; както и да изследва поведението на двамата
водачи;
Съдът назначава вещо лице, което има познания в областта на колите,
механиката, динамиката, кинематиката и всичко свързано с
автотранспортните произшествия. Съдебният състав е възложил на
вещото лице да направи компютърна симулация на самото ПТП и да я
представи в съдебно заседание. Целта на симулацията е да се представи
13
визуално цялото ПТП, т.е. да се пресъздаде в компютърна среда какво се
е случило.
В открито съдебно заседание (о.с.з.) се изслушва вещото лице.
Ищецът прави възражение за годността на заключението. Установява се,
че вещото лице е ползвало програма Virtual Crash 4.0 версия. Вещото
лице уточнява, че програмата (софтуерът) има 6 версии. До 3 версия е
предназначена за Европа, като вносителят е в Словакия. От 4 до 6 версия
е предназначена за Америка.
Ищецът възразява срещу правилността на заключението, защото вещото
лице е ползвало софтуер, предназначен за американски пазар, а не за
европейския. Твърди, че са налице различни стандарти, както за
сигурност така и за асфалтовите покрития. Например: за размера на
гумите, за сцеплението на автомобилните гуми на съответните настилки,
за плъзгането, за триенето, за самия асфалт и други. Това обуславяло
различните пресмятания за скоростта, спирачния път и други фактори,
които имат значение за определяне виновността на причинителя на ПТП.
Ищецът оспорва, че този софтуер може да дава правилните отговори.
Твърди, че от заключението на вещото лице не е ясно какъв е алгоритъма
за постановяване на крайния резултат, тъй като има липсващо звено.
Твърди, че към експертизата следва да има пълно описание на всички
сметки и изчисления. Това се налага, за да може ищецът да направи извод
дали изчисленията на вещото лице са правилни ли не. Страната не може
да провери дали експертизата е изготвена правилно, ако липса на пълно
описание на всяко едно изчисление. Ищецът не може да провери
сметките/изчисленията на вещото лице, поради липсващото звено.
Ищецът държи сметките на вещото лице да бъдат направени ръчно от
него, а не от софтуера – използваната програма. Ищецът иска да има
ръчни сметки, за да може да ги провери.
Ищецът сочи, че програмата, с която вещото лице работи дава и
формулите и изчисленията за пресмятанията. Твърди, че вещото лице е
следвало да ги представи в заключението, за да може да се направи
проверка от страните. Липсвало ревизия (проверка) от страните спрямо
резултат, който софтуерът генерира.
Ищецът се позовава на свой емпиричен опит, че използваната програма
допуска техническа грешки по една от следните причини: неправилно
14
зададен параметър; различни технически данни, които са вложени в
програмата на съответното моторно-превозно средства (МПС). Твърди,
че има разминаване между характеристиките за автомобилите по
софтуера за Американски и Европейски пазар, както и тези във
физическия (реален) свят, а не по софтуер.
В о.с.з. ищецът оспори източниците, въз основа на които е създадена
програмата. Ищецът твърди, че източниците не са официални.
Вещото лице уточнява, че е използвал компютърните и математическите
модели на софтуера. Уточнява, че валидацията на програма я има в сайта,
от където е купил програмата. Показва референциите, които са
използвани при създаване на програмата.
Вещото лице уточнява, че за изготвяне на експертизата започвал с ръчни
сметки и направил апроксимация (предварително допускане) – различни
варианти на процесното ПТП. Така вещото лице извършило
предварително допускане. Изчислило ръчно скорости, сцепление, взема
предвид размера на гумите, асфалтовата настилка, видимостта, силата на
удара и други параметри. Предварително смята скоростите.
При това предварително допускане, вещото лице получава няколко
модела за ПТП, които ги „пуска“ (тества) на програмата (софтуера).
Вещото лице уточнява, че в програмата има възможност да избира какви
вариации да избере за даден параметър. Когато той избира кои параметри
да даде, избира дали са относими за процесния случай. Вещото лице се
позовава на своите знания и професионален опит, когато въвежда и
избира различни параметри на програмата. Потвърждава, че програмата
извършва автоматично част от сметките за експертизата и ПТП.
Вещото лице потвърждава, че от програмата и от своите сметки получава
няколко модела за ПТП. Вещото лице уточнява, че е проверил сметките,
които програмата е направила. За тези модели и сметки вещото лице е
избрало само тези от тях, които отговарят на установените факти по
делото.
След това вещото лице съпоставя установените факти по делото и
различните модели/изчисления на ПТП, получени от програмата.
Вещото лице изключва тези модели/изчисления, които взаимно си
противоречат; противоречат на науката, техниката; както и противоречат
на фактите по делото. Вещото лице изключва тези модели и варианти,
15
които няма как да бъдат осъществени реално.
Вещото лице проверява дали „решението“ (генерирания модел или
изчисления), направени от програмата (софтуера) е правилно или не,
когато съпоставя и проверява възможните модели с фактите по делото.
Тази негова проверка се основа на неговия професионален опит като
вещо лице в областта на САТЕ.
Ответникът в о.с.з., след справка в ChatGPT, установи, че референциите
на Virtual Crash са: научни, технически източници – публикации,
изследвани данни, които поддържат физическите модели и изчисленията,
използвани във Virtual Crash. Например формули за изчисление на
скорост, ускорение, триене, сблъсъци и т.н.
Отговорът на ChatGPT е записан в протокола от о.с.з. като възражение
на ответника. Ответникът твърди, че съгласно даденото от ChatGPT,
референциите при съставянето на програмата са общовалидни и не
зависят от държавата, което определя, че програмата може да се ползва
по целия свят.
ИЗКУСТВЕН ИНТЕЛЕКТ И ПРАВО
ХОПЕС въвежда три основни вида права – фундаментални (живот,
свобода на придвижване, справедлив съдебен процес, право на личен и
семеен живот, трудови права и други), социални (право на труд,
възнаграждение и др.) и трето поколение права – права на
информационното общество. В тази трета група права се включват
правото на защита на лични данни (GDPR), защита на потребителите,
правото да бъдеш забравен, правото на разумна обработка от системи за
автоматично взимане на решение (Automated decision-making ADM по
Регламент (ЕС) 2024/1689, наричан Регламент за ИИ).
В международната платформа по съдебна етика Judicial Ethics Platform
(https://judicialethicsplatform.nij.bg/en/home/), в раздел
„Предизвикателства“ e предложен нов етичен стандарт при
използването на информационните технологии, който гласи:
„Иновациите трябва да се прилагат под строг контрол от магистратите, за
да се осигури прозрачен, ефективен и ориентиран към човека подход,
16
който да бъде в съответствие с основните права и процесуални гаранции
за предоставяне на правосъдие с високо качество.“ („Innovations shall be
applied under strict control of magistrates in order to ensure transparent,
effective and based on human-centered approach and in line with the
fundamental rights and procedural guarantees for delivering justice of high
quality.“)
Информационните технологии са едновременно източник на права и
задължение, но и обект и предмет на правото като регулация.
В Становище 26/2023 на Консултативния съвет на европейските съдии
(КСЕС) е записано че изкуствения интелект (ИИ) трябва да подпомага, а
не да замества съдиите (т.5). ИИ в правораздаването не трябва да бъде
заместител на човешки решения, а да ги подпомага (т.9). Изкуственият
интелект е подходящ за бързина или съкратена процедура за решения,
което са обработвани автоматично (т.19). Решение подпомогнато от ИИ
може да осигури достъп до нови или неидентифицирани преди това
линии на аргументация. Това може да подобри качеството и
креативността на съдиите (т.26).
Но съгласно Становище 26/2023 на КСЕС, използването на технологиите
и ИИ има редица предизвикателства в правораздаването. Използването
на такива технологии са неблагоприятни за автономността при вземането
на съдебни решения. Използването на система, които генерират
автоматично взети решения, нарушава съдебната институционалната и
индивидуалната независимост. Освен това използването по подразбиране
(default) на настройки може да намали автономността на съдебната власт
при взимане на решения. В крайни случаи те могат да го направят по
начини, които противоречат на Върховенството на закона (т.56).
Използването на тези технологии и на ИИ трябва да се осъществи чрез
ефективен независим надзор от орган на съдебната власт. Затова
съдебната система трябва да има информирана и ефективна входяща
информация и надзор върху нея (т.57-58). КСЕС заключава, че
използването на информационните технологии и по-специално ADM
следва да не засяга принципа за прозрачност, за препис на обяснителната
и апелативна отчетност на съдебната власт. Взимането на решения, които
са предикативно кодирани може да подкопае способността на съдията да
оценява различните факти и доказателства и тяхната тежест при
17
доказването. Затова технологиите са предназначени да подпомагат
съдебната власт, а не да заместят решенията. Това е така тъй като
системите могат да дадат неверни резултати.
Технологиите и по – специално ИИ трябва да утвърждава
Върховенството на закона, справедливостта, независимостта и
безпристрастността на съдията.
Технологичните инструменти трябва да зачитат процеса на вземане на
съдебни решения и автономията на съдиите. Така проектирането,
внедряването, изплъзването на технологии трябва да зачита основните
права на хората.
В Становище № (2011)14 на КСЕС се въвежда правилото, че въвеждането
на ИТ в съдилищата не трябва да компрометира човешкия и символичен
облик на правосъдието. Съдиите трябва да участват в оценката на
въздействието на технологиите върху човешките права.
Въвеждането на ИИ в ежедневието и по-специално в правосъдието и
неговото влияние върху човешките права се отрази като се създадоха
различни международни (Комитет по ИИ към Съвета на Европа,
Консултативен орган за ИИ към ООН) и наднационални органи
(Европейска служба по ИИ, отделни секции към FRA – Европейската
агенция по основни права). Нещо повече ,първият в Света законодателен
акт е на ниво ЕС, а именно Регламент 2024/1689, наричан за краткост по-
долу Регламент за ИИ.
Съдът на Европейския съюз (СЕС) е един от първите съдилища в Света,
който има изградена Стратегия за използване на ИИ. Използването на
такива системи може да подобри ефективността и ефикасността в
съдебната система като предлагане на метаданни, преобразуване на реч в
звук, търсене, изработване на презентации, документи и други
автоматични действия. Качеството на съдебните решения също може да
бъде подобрено като автоматично открИ.е и търсене на подобни случай,
автоматична обработка на данни и други. От друга страна, технологии
способстват за достъпът до съд и прозрачността. Именно това са трите
цели на СЕС при използване на ИИ. Използването на технологиите има
рискове – дискриминация, потенциално разкрИ.е на чувствителни данни,
генериране на невярна информация, замърсяване на данни и други.
В стратегията на СЕС е въведен принципът за човешко критично мислене
18
(human critical thinking) върху резултата, получен от ИИ. Една от целите
на СЕС към подобряване на качеството е въвеждането на SIGA –
автоматичен процес при вземане на решения, с което да се обогатят
хипервръзките и цитиранията. СЕС заключава, че ИИ може да спомогне
при прогнозиране на изхода от делото, което представлява високорискова
система, поради което внимателно трябва да се анализират етичните
предизвикателства (objective 2.2).
Съгласно принципът за прозрачност (transparency) мотивите, взети от
ИИ или някакъв алгоритъм трябва да бъдат ясни и разбираеми. СЕС за
първи път въвежда етичния стандарт при ИИ за проследимост
(traceability). Според този принцип решенията трябва да бъдат
проверени и обяснителни. Трябва да има ясни механизми за отчетност, за
да се гарантира, че ИИ системите работят в съответствие със законовите
и етични стандарти. Според настоящия съд това кореспондира с чл.86 от
Регламент 2024/1689.
В своята стратегия СЕС утвърждава принципът за човешка ревизия
(Human Oversight, verification, review etc.) и критичното мислене на
човек върху решения, генерирани от ИИ. Затова трябва съдът да
подсигури подходящо ниво на човешка ревизия/контрол върху такава
дейност от ИИ. Трябва да има червена линия за решения или действия,
които могат да бъдат взети или подпомогнати от ИИ.
За да елиминира ефектът на черната кутия (black box effect), в
Стратегията на СЕС за ИИ е въведен принципът обяснимост
(Explainability), който задължава органът да разбере целият цикъл на
вземане на решения.
Съгласно Регламента за ИИ, високи критерии за етични стандарти се
въвеждат при внедряването, използването на ИИ и по-точно на
автоматизирани системи. Следва да се гарантира, че системите с ИИ,
включително и ADM, са проектирани и използвани по начини, които са
справедливи, прозрачни и отговорни. Принципът за справедливост
(fairness) изисква системата да третира всички индивиди по справедлив
начин, без фаворизиране или дискриминация. Принципът за прозрачност
(transparency) изисква решението да бъде разбираемо и обяснено на
потребителите. Освен това системата не трябва да съдържа
предразсъдъци и пристрастия (bias). Принципите са отразени в издание
19
Automated decision-making on the basis of personal data that has been
transferred from the EU to companies certified under the EU-U.S, Final
Report, European Commission, 2018.
Тези принципи са застъпени и в дела C-817/19 и C-634/21.
Етичните принципи гарантират основните права на човека, включително
и на решаващия орган, който следва да бъде независим, обективен и
безпристрастен. Регламентът въвежда изисквания за сертифициране на
система, оценка на качеството.
В практика на СЕС, (C-293/17 и C-294/17), във връзка с правото на
достъп на съда, Съдът на ЕС коментира, че решения, които са взети
автоматично (ADM), следва да бъдат преразгледани от реален човек
(human review). Принципът е застъпен в също изданието Guiding
Principles for Automated Decision-Making in the EU, European Law Institute,
2022, както и в много актове на Комитета по Изкуствен интелект на
Съвета на Европа. Същото е отразено в Наръчника AI and Public
Administration: The (legal) limits of algorithmic governance, Project Justice,
Fundamental rights and Artificial Intelligence (JuLIA).
Принципът за човешкия надзор (human oversight) е заложен и в решение
по дело C-817/19.
Съгласно съображения 7-8 от Регламент за ИИ, въвеждат се високи
етични стандарти, за да се гарантират основните човешки права. Тези
етични стандарти следва да бъдат спазвани от разработчиците на
системите и лицата, които ги внедряват и използват. При това положение,
за да се защитят основните права на потребителите, следва да се провери
дали внедрената автоматична система отговаря на етичните стандарти,
т.е. на основните човешки права.
Съгласно т.8 от Приложение III към Регламента за ИИ, информационните
системи, които се използват в правораздаването се високорискови.
ПРИЧИНИ, ПОРАДИ КОИТО СЪДЪТ
СМЯТА, ЧЕ ИСКАНЕТО
ПРЕЮДИЦИАЛНО ЗАПИТВАНЕ Е ОТ
20
ЗНАЧЕНИЕ ЗА ПРАВИЛНОТО
РЕШЕВАНЕ НА ДЕЛОТО
Вещото лице въвежда данни за мястото, колата, асфалта и др. в
софтуерния продукт. Програмата дава възможния механизъм за ПТП,
възможни резултати за скоростта на ПТП. Следователно програмата
генерира готов резултат за механизма на ПТП. Софтуерът прави
компютърна симулация, както и генерира стойности за скоростта и други
фактори. Така според националния съд програмата, софтуерът, който
използва вещото лице, има елементи на изкуствен интелект, защото се
генерира резултат; прави се заключения от няколко данни; анализират се
данни.
Заключението на вещото лице не може да се опише като решение, а като
резултат от дейност. Но това заключение ще бъде ползвано от съда за
постановяване на краен съдът акт (решение). Затова в изложението съдът
ще приравнява резултата на вещото лице (неговата експертиза) като
дейност по ADM за по-лесното цитиране. Това е така, тъй като и при
експертизата и ADM има автоматично генерирани резултати и
извършени действия.
Ищецът оспорва резултатите от програмата, респективно експертизата.
Първо, защото софтуерът не е разработен за европейския пазар. Второ,
защото не знае по какъв начин са направени сметките. Трето, защото
вещото лице не е представило пълен списък на всички направени
изчисления.
Вещото лице уточнява, че при използване на програмата ръчно е въвел
характеристиките на ПТП. По този начин вещото лице е премахнало
характеристиките, които софтуерът по default има и не са съобразени с
европейските стандарти. Вещото лице потвърждава, че програмата
генерира автоматично механизма на ПТП и прави изчисления за ПТП.
Уточнява, че ръчно е проверил дали автоматично генерирания
механизъм отговаря на фактите по делото, както и че е направил ръчно
някои сметки, за да адаптира софтуера към фактите по делото и
доказаната пътна обстановка. Вещото лице уточнява, че при
21
използването на програмата се е базирал на своя професионален опит
като вещо лице и данните по делото, за да адаптира програмата и същата
да отговаря най-адекватно към доказателствата по делото. Вещото лице,
уточнява, че е модифицирал процесното ПТП и автомобили според
европейските стандарти за леки коли, гуми и пътища и не е ползвал
програмата с фабричните настройки за американски пътища. Уточнява,
че е направил ръчни сметки, които са необходими, за да въведе данни в
програмата. А тези ръчни сметки не са съществената част на експертното
заключение. Така вещото лице уточнява, че е извършил контрол на
автоматичното решение с оглед принципите за проследимост,
прозрачност, човешка намеса и обяснимост.
Спорът в главното производство се свежда до това, че: а) вещото лице е
използвало софтуерен продукт (програма), който не е направен за
европейския пазар; б) програмата прави свои автоматични изчисления,
въз основа на зададени от вещото лице данни. Не е ясно дали тези
изчисления са верни, тъй като програмата не е направена за европейски
стандарти за коли и пътища. Не е ясен алгоритъма на вземане на решения
на софтуера; в) вещото лице не представя пълен списък на извършените
от него изчисления (стъпки, дори и дейности по умножаване и събиране).
Една от страните не може да разбере по какъв начин вещото лице е
достигнало до резултати. Липсва възможност една от страните да
ревизира (провери) експертното заключение. Не е ясно дали тези
изчисления са верни, след като липсва представени всички сметки на
вещото лице.
Ответникът не оспорва експертизата на вещото лице. Твърди, че според
отговори на ChatGPT, законите на физиката са валидни навсякъде и няма
значение каква версия на програма е използвана, след като вещото лице е
направило ръчна проверка.
Програмата, която ползва вещото лице генерира автоматични
отговори/резултати. Доколкото генерира готови резултати, съдът приема,
че тази софтуерна програма може od се квалифицира като ADM или
система с изкуствен интелект. Нещо повече, доколкото същата се
използва от вещото лице за съдебна експертиза, т.е. подпомага съда при
вземане на решение, настоящият съдебен състав предполага, че
процесната програма попада в Приложното поле на високорискови
22
системи с ИИ, съгласно Приложение III на Регламент за ИИ.
Доколкото е налице предположение от настоящия съдебен състав, то
съдът следва да отправи запитване дали високорискова система с
изкуствен интелект по смисъла на приложение III, т.8 от Регламента за
ИИ следва да се тълкува в смисъл, че представлява софтуерна програма,
която генерира автоматични резултати като извършва симулация на ПТП,
механизъм на ПТП, скорост на ПТП, при предварително въведени данни
от вещо лице, което вещо лице е назначено от съда за изясняване
причините за възникване на ПТП, за които знания съдът не разполага със
специални знания от науката и техниката и въз основа на което
заключение от вещото лице съдът ще постанови своя краен съдебен акт,
т.е. ще вземе решение по висящ спор.
Запитването е необходимо, за да се отговори дали програмите, които
използват вещите лица и генерират автоматично резултати са част от
системите, описани в Регламента. Ако тези софтуерни продукти са част от
тези системи, то следва, че те ще се подчиняват на високите етични
принципи и стандарти, въведени в регламента за тяхното създаване,
внедряване, използване и контрол. Не следва да се забравя
обстоятелството, че по делата за ПТП, основна роля при формиране на
съдебния акт има експертното заключение.
За съда възниква необходимост от тълкуване на Общностното право с
оглед спорът в главното производство (пар.72 по-горе). За съда възниква
въпроси дали принципът за човешка ревизия, съгласно чл.86 от
Регламента, следва да се тълкува в смисъл, че допуска национален съд да
използва експертно заключение, изготвено от вещо лице, но
подпомогнато от изкуствен интелект или алгоритъм за автоматично
генерирани резултати, при положение, че вещото лице е направило ръчна
проверка на автоматично генерирания резултат като вещото лице е
съобразил фактите по делото и тяхното възможно съществуване в
обективната действителност, въз основа на познанията си от областта на
науката и техниката и своя професионален опит.
Въпросът е от съществено значение с оглед правото на справедлив
съдебен процес и независим съд, съгласно чл.19 ДЕС. Това е така, защото
съдът ще постанови своя акт, въз основа на експертното заключение.
Отговорът на въпроса ще даде насоки на съда как да прилага
23
общностното право и дали следва да назначи нова експертиза, която е
проверена, ревизирана от човек. Дали е необходимо експертиза, която е
подпомогната от ИИ и частично изготвена, да бъде ревизирана от вещото
лице.
Ето защо за настоящия съд не е ясно дали правото на справедлив и
независим съд по чл.19 ДЕС и чл.86 от Регламента за ИИ, следва ли да се
тълкуват в смисъл, че допуска националният съд да се позове на
експертно заключение, подпомогнато от ИИ и автоматично генерирано
решение, при положение, че същото е проверено от вещото лице –
експерт, въз основа на своя професионален опит и познания.
За съда не е ясно дали чл.86 от Регламента за ИИ следва да се тълкува в
смисъл, че експертно заключение може да бъде подпомогнато от ИИ или
автоматично взето решение, което не е направено за европейските
стандарти, но при изготвяне на експертното заключение, вещото лице е
съобразило установените по делото факти и доказателства и ги е
адаптирало за европейските стандарти и норми.
Необходимостта от тълкуване на Правото на ЕС по предишния въпрос
възниква за това, че използваната система не е направена за европейския
пазар, но де факто е по-нова и висока версия на софтуерния продукт, но
може да бъде адаптирана ръчно от вещото лице за европейския пазар.
Ищецът е направил възражение за това, че не е ясно по какъв начин е
формиран изводът/резултатът на вещото лице. Съдът има необходимост
да се тълкува принципът обяснимост и прозрачност във връзка с ефекта
на черната кутия и чл.86 от Регламента. За съда на е ясно дали следва да
се тълкуват в смисъл, че изискването за човешка намеса при вземането на
важни решения е изпълнено, ако вещото лице е ревизирало автоматично
генерирания резултат и е променил фабричните настройки (default) на
софтуера като ги е адаптирал с установените факти по делото, както и
своите професионални знания и опит.
Едно от възраженията на ищеца касае, че липсват всички изчисления,
които вещото лице е извършило. Вещото лице уточнява, че в
експертизата е посочил по-важните сметки и ключови моменти от
алгоритъма на смятане. Вещото лице не е включвало обикновени сметки
като изваждане, събиране, деление, умножение, които са второстепенни и
получените резултати се заместват във формули, които са обяснени в
24
експертното заключение.
Принципите за прозрачност, обяснимост, човешки контрол и ефектът на
черната кутия и за правото да се разбере по какъв начин е взето едно
решение, подпомогнато от ИИ, с оглед чл.86 от Регламента, следва ли да
се тълкуват в смисъл, че задължава вещото лице при изготвяне на
експертно заключение, което е подпомогнато от ИИ или ADM, да
представи пълен отчет на алгоритъма на всички изчисленията и
допускания, които е правил или е достатъчно да се представени по-
важната част от изчисленията, но не и елементарните, които се използват
при заместване на формули и не дават никаква конкретна информация
относно процесното ПТП.
Съдът има нужда от тълкуване на Правото на ЕС и по специално с оглед
принципите по чл.86 от Регламента за човешка ревизия (проверка,
верификация), отчетност, прозрачност, обяснимост, разбиране по какъв
начин е формиран едно автоматично генерирано решение, защото това
ще определи дали изготвената експертиза е правилна или не. Това ще
определи дали съдът ще ги кредитира или не. Отговорът ще определи
дали следва да се събират още доказателства. Необходимостта от
тълкуване на Правото на ЕС възниква от факта, че експертното
заключение е подпомогнато от ИИ или ADM и за съда не е ясно дали
принципът за човешка ревизия и разбиране по какъв начин е взето дадено
решение следва да се тълкуват, че са изпълнени, ако вещото лице е
адаптирало програмата с оглед установените факти и събраните
доказателства по делото, както и е направило проверка на автоматично
генерирания резултат, въз основа на своите професионални умения и
опит в тази област.
По отношение на елементарните сметки (междинни за крайния резултат),
следва ли същите да се представят в пълен обем, ако изчисленията са
направени от ИИ или ADM, проверени са от вещото лице и отговарят на
науката и техниката. От една страна, страните нямат необходимите
знания и опит в областта на ПТП, поради което съдът назначава
експертиза да ПТП. Но от друга, ищецът възразява срещу правилността
на експертизата, тъй като липсват сметки, които не може да провери.
Противно на житейската логика е, когато страната няма необходимите
познания (затова се назначава експертиза), то как страната може да
25
провери експертното заключение дори и при пълни дадени изчисления.
Възраженията на ищецът за лицензиране на софтуерния продукт за
европейския пазар определя нуждата от тълкуване на чл.101 ДФЕС и
принципът за свободно движение на стоки. Предназначението на един
продукт за определен пазар е в основата на производителя. Това разделя
пазарите по света – американски, руски, европейски и азиатски. Но какво
се случва с пазара и конкуренцията ако един продукт не е предназначен
за европейския пазар, но при неговото използване може да се пригоди за
европейските изисквания и стандарти. При това положение
ограничението на един продукт, без да се отчитат възможностите за
неговото приспособяване към изискванията на друг пазар, няма ли да
ограничи свободата на пазара и свободното движение на капитали и
стоки. Процесната програма е разработена от американска компания.
Нейният официален вносител е в Словакия и запукването е
вътреобщностна доставка на стока. Сделката е осъществена в ЕС. Версии
от 1 до 3 са одобрения за европейския пазар. Версия от 4 до 6 са по-нови
и пи-висок клас. Версия от 4 до 6 са одобрени за американския пазар.
При това следва, че дадена програма има различно приложение. Но за
съда не е ясно дали свободния пазар допуска да се използва такъв
софтуерен продукт, ако същият е направен за пазар извън Общността, но
при неговото използване се адаптира ръчно от човешка намеса за
параметри, изисквания и стандарти според европейските норми.
Свободния пазар и конкуренцията по чл.101 ДФЕС следва ли де се
тълкуват в смисъл, че забранява съда да се позове на експертно
заключение, което е подпомогнато от ИИ или ADM, ако софтуерния
продукт е предназначен за пазар извън общността, но при ръчното му
използване вещото лице е адаптирало софтуера според изискванията и
стандартните на европейската общност.
Въпросът е от значение доколко ще отговори дали може да се ползва
стока, базирана на ADM или ИИ, която не е предназначена за
европейския пазар, но при ръчно регулиране от човешка намеса, е
приспособена спрямо европейските изисквания. Въпросът ще даде
отговор и на това за свободното движение на стоки под формата на
софтуерни продукти, базиране на ADM или ИИ. Въпросът е от значение
за делото тъй като ще определи до каква степен и какви по произход и
26
предназначение софтуерни продукти ще се използват от вещите лица по
съдебни дела. Свободното движение на стоки, базирани на ИИ или ADM
има значение и за сертифицирането на етичните стандарти, полагането на
червената линия за какви дейности тези продукти могат да се ползват,
както и липсата на предразсъдъци и дискриминация. Това е така, защото
разработчикът на всеки софтуерен код има различни разбирания за
дискриминация и предразсъдъци. Това ще определя и различни етични
стандарти при тези продукти за различните държави и възможност за
нарушение на основни човешки права. За съда не е ясно как следва да се
тълкува свободния пазар при софтуерни продукти, базирани на ИИ или
други алгоритми, предназначени за пазар извън ЕС, закупени в ЕС, но
които могат да се пригодят за европейските норми и изисквания. И дали
тези продукти няма да подкопаят вътрешния пазар.
Така мотивиран, СЪДЪТ
ОПРЕДЕЛИ:
1. ОТПРАВЯ до Съда на Европейския съюз следните преюдициални
въпроси, на основание чл.267 ДФЕС и чл. 629 ГПК:
1. Под израза „високорискова система с изкуствен интелект“ по смисъла
на приложение III, т.8 от Регламент 2024/1869 следва ли да се тълкува в
смисъл, че представлява софтуерна програма, която генерира
автоматични резултати или използва елементи на изкуствен интелект,
която програма подпомага вещото лице при изготвяне на експертно
заключение, въз основа на което заключение съдът ще постанови своя
краен съдебен акт.
2. чл.101 ДФЕС следва ли да се тълкува в смисъл, че съдът може да се
позове на експертно заключение, което е подпомогнато от софтуерен
продукт, който не е предназначен за Общностния пазар, но вещото лице е
адаптирало софтуера според изискванията и стандартните на
Европейската общност.
3. Чл.86, пар.1 от Регламент 2024/1869 и принципът за човешка
проверка (human oversight, verification) следва ли да се тълкуват в
смисъл, че допуска национален съд да използва експертно заключение
при постановяване на краен съдебен акт, което заключение е изготвено от
27
вещо лице, но подпомогнато от изкуствен интелект или алгоритъм за
автоматично генериране на резултат, само ако вещото лице е направило
ръчно проверка на резултата, генериран от изкуствения интелект или от
алгоритъма, като е съобразил фактите по делото и тяхното възможно
съществуване в обективната действителност, въз основа на познанията си
от областта на науката и техниката и своя професионален опит.
4. Правото на справедлив и независим съд по чл.19 ДЕС и принципът
за прозрачност при автоматични решения по чл.86, пар.1 от
Регламент 2024/1869 (transperancy) следва ли да се тълкуват в смисъл,
че допуска национален съд да се позове на експертно заключение,
подпомогнато от изкуствен интелект или автоматично генериран
резултат, когато същото е проверено от вещото лице – експерт, въз
основа на своя професионален опит и познания
5. Правото на справедлив и независим съд по чл.19 ДЕС и принципът
за проследимост (traceability) при автоматични решения по чл.86,
пар.1 от Регламент 2024/1869 следва ли да се тълкуват в смисъл, че
експертно заключение може да бъде подпомогнато от ИИ или
автоматично генериран резултат, което не е направено за европейските
стандарти, но при изготвяне на експертното заключение, вещото лице е
съобразило установените по делото факти и доказателства и ги е
адаптирало за европейските стандарти и норми.
6. Правото за човешка ревизия при важни решения (human oversight),
принципът за проследимост (traceability) и обяснимост
(explainability) по чл.86, пар.1 от Регламент 2024/1869 следва ли да се
тълкуват в смисъл, че са изпълнени, ако вещото лице е ревизирало
автоматично генерираното решение и е променил фабричните настройки
(default) на софтуера като ги е адаптирал с установените факти по делото,
както и със своите професионални знания и опит.
7. Принципът за обяснение (explainability) и принципът за
проследимост (traceability) по чл.86, пар.1 от Регламент 2024/1869 с
възникване на ефекта на черната кутия (black box effect) следва ли да
се тълкуват в смисъл, че задължава вещото лице при изготвяне на
експертно заключение, което е подпомогнато от ИИ или автоматичен
генериран резултат, да представи пълен отчет на алгоритъма на всички
изчисленията и допускания, които е направил, включително и
28
елементарните изчисления, които се използват при заместване на
формули и не дават никаква конкретна информация относно същността
на спора.
8. Чл.86, апр.1 от Регламент 2024/1896 следва ли да се тълкува в смисъл,
че правото на обяснение е изпълнено, ако вещото лице е направил
проверка на резултата, генериран от ИИ или алгоритъма за автоматично
изготвяне на резултат, въз основа на своите професионални умения и
опит в тази област.
2. СПИРА производството по гражданско дело № 12102/2024 по описа на
Софийския районен съд до постановяване на отговор на въпросите по-
горе или прекратяване на производството от Съда на Европейския съюз,
на основание чл.631 ГПК.
3. ПРЕПИС от определението да се изпрати на Съда на Европейския съюз.
4. ПРЕПИС от определението да се връчи на страните, на Върховен
касационен съд по електронната поща за сведение, на отдел „Право на
ЕС и процесуално представителство пред Съда на ЕС“ към
Министерство на външните работи.
5. ДЕЛОТО да се докладва на съдия – докладчик при постъпване на книжа
и всеки месец, след справка в e-Curia и публичната част на сайта СЕС.
6. ОПРЕДЕЛЕНИЕТО е окончателно и не подлежи на обжалване, на
основание чл.631 ГПК.
Съдия при Софийски районен съд: _______________________
29