INSAIT с нов пробив

Институтът за компютърни науки, изкуствен интелект и технологии (INSAIT) към Софийския университет „Св. Климент Охридски“, Швейцарският федерален технологичен институт (ETH Zurich) и компанията LatticeFlow AI разработиха и пуснаха в употреба първата в света рамка за съответствие със Законодателния акт на ЕС за изкуствения интелект, съобщават на страницата си от българския научен център.

По този начин

Европейският съюз вече има инструмент за проверка на надеждността на големи генеративни езикови модели (LLM).

Той е разработен на база техническо тълкуване на шестте основни принципа на европейския закон. Достъпен е на адрес https://compl-ai.org, като включва първото техническо тълкуване на Акта за изкуствен интелект на ЕС, съпоставяне на регулаторните изисквания към техническите, заедно с безплатна рамка с отворен код за оценка на големите езикови модели (LLM). Включена е и първата оценка на съответствието на модели на организации като OpenAI, Meta, Google, Anthropic и Alibaba спрямо техническото тълкуване на Акта за изкуствен интелект на ЕС. Всяка компания би могла да измери в него доколко разработени от нея подобни модели покриват изискванията на европейското законодателство за изкуствения интелект.

Инструментът е официално припознат от Европейската комисия

като първа стъпка за създаване на по-добра връзка за практическото приложение на нормативната уредба в областта. Службата на ЕС за изкуствения интелект също приветства неговата реализация, като декларира, че това ще бъде отправна точка за изработването на подобни регулации с общо приложение за изкуствения интелект.

„Европейската комисия приветства това проучване и платформа за оценка на модела на изкуствен интелект като първа стъпка в превеждането на Акта за ИИ на ЕС в технически изисквания, което ще помогне на създателите на модели за изкуствения интелект да го приложат“, коментира Томас Рение, говорител на Европейската комисия за цифровата икономика, изследванията и иновациите.

Законодателният акт на ЕС за изкуствения интелект влезе в сила през август 2024 г., създавайки глобален прецедент за регулиране в тази област. Той обаче очертава регулаторни изисквания на експертно ниво, без да предоставя подробни технически насоки, които компаниите да следват. За да се преодолее тази празнина, българският INSAIT, ETH Zurich и LatticeFlow AI създават първото техническо тълкуване на шестте основни принципа на европейския закон. Тази рамка за съответствие превръща регулаторната рамка в конкретни технически изисквания, като предлага ясна методология за оценка на моделите на изкуствен интелект въз основа на стандартите, разписани в нормативната уредба.

Това на практика го превръща в първия инструмент на европейско и глобално ниво, който прави връзка между нормативните изисквания и реалното им приложение и е значима крачка в процеса на регулиране на изкуствения интелект на световно ниво.

*Проф. Мартин Вечев, създател на Института INSAIT*

„Приканваме изследователите на изкуствения интелект, разработчиците и регулаторните органи да се присъединят към нас в напредъка на този развиващ се проект“, коментира проф. Мартин Вечев, създател на Института INSAIT и професор в ETH Цюрих.

„Насърчаваме други изследователски групи и практици да усъвършенстват картографирането на Акта за изкуствен интелект на ЕС, да добавят нови критерии и да разширяват тази рамка с отворен код. Методологията може да бъде разширена и за оценка на моделите на ИИ спрямо бъдещи регулаторни актове извън Акта за ИИ на ЕС, което я прави ценен инструмент за организации, работещи в различни юрисдикции“, заяви още проф. Вечев.