Եռօրյա «մարաթոնյան» բանակցություններից հետո Խորհրդի նախագահությունը և Եվրախորհրդարանի բանակցողները ժամանակավոր համաձայնություն են ձեռք բերել արհեստական ինտելեկտի (AI) ներդաշնակեցված կանոնների՝ այսպես կոչված, արհեստական ինտելեկտի ակտի վերաբերյալ առաջարկի վերաբերյալ: Կանոնակարգի նախագիծը նպատակ ունի ապահովել, որ եվրոպական շուկայում տեղադրված և ԵՄ-ում օգտագործվող AI համակարգերն ապահով լինեն և հարգեն հիմնարար իրավունքները և ԵՄ արժեքները: Այս ուղենշային առաջարկը նաև նպատակ ունի խթանել ներդրումներն ու նորարարությունը AI-ի վրա Եվրոպայում:
Սա պատմական նվաճում է և հսկայական հանգրվան դեպի ապագա: Այսօրվա համաձայնագիրը արդյունավետորեն լուծում է գլոբալ մարտահրավերը արագ զարգացող տեխնոլոգիական միջավայրում մեր հասարակությունների և տնտեսությունների ապագայի առանցքային ոլորտում: Եվ այս ջանքերում մեզ հաջողվեց պահպանել չափազանց նուրբ հավասարակշռություն՝ խթանելով նորարարությունը և արհեստական ինտելեկտի յուրացումը ողջ Եվրոպայում՝ միևնույն ժամանակ լիովին հարգելով մեր քաղաքացիների հիմնարար իրավունքները: Կարմե Արտիգաս, Իսպանիայի թվայնացման և արհեստական ինտելեկտի գծով պետքարտուղար
AI ակտը ա ֆլագմանիծ հրամանատարի նավ օրենսդրական նախաձեռնություն, որը կարող է խթանել անվտանգ և վստահելի արհեստական ինտելեկտի զարգացումը և կիրառումը ԵՄ միասնական շուկայում ինչպես մասնավոր, այնպես էլ պետական դերակատարների կողմից: Հիմնական գաղափարը AI-ի կանոնակարգումն է՝ հիմնվելով վերջինիս՝ հասարակությանը վնաս պատճառելու կարողության վրա՝ հետևելով ա «ռիսկի վրա հիմնված» մոտեցում. որքան բարձր է ռիսկը, այնքան ավելի խիստ են կանոնները. Որպես իր տեսակի մեջ առաջին օրենսդրական առաջարկն աշխարհում, այն կարող է սահմանել ա համաշխարհային ստանդարտ այլ իրավասություններում արհեստական ինտելեկտի կարգավորման համար, ինչպես դա արել է GDPR-ը, այդպիսով խթանելով տեխնոլոգիական կարգավորման եվրոպական մոտեցումը համաշխարհային ասպարեզում:
Ժամանակավոր համաձայնագրի հիմնական տարրերը
Հանձնաժողովի նախնական առաջարկի համեմատ ժամանակավոր համաձայնագրի հիմնական նոր տարրերը կարելի է ամփոփել հետևյալ կերպ.
կանոնների վերաբերյալ բարձր ազդեցության ընդհանուր նշանակության AI մոդելներ որը կարող է ապագայում առաջացնել համակարգային ռիսկ, ինչպես նաև բարձր ռիսկի AI համակարգեր
-ի վերանայված համակարգ կառավարում ԵՄ մակարդակով որոշ կիրարկման լիազորություններով
ցանկի ընդլայնում արգելքները բայց օգտագործման հնարավորությամբ հեռավոր կենսաչափական նույնականացում իրավապահ մարմինների կողմից հանրային տարածքներում, որոնք ենթակա են երաշխիքների
իրավունքների ավելի լավ պաշտպանություն՝ բարձր ռիսկային արհեստական ինտելեկտի համակարգերի տեղակայողների պարտավորության միջոցով՝ ա հիմնարար իրավունքների ազդեցության գնահատում նախքան AI համակարգը գործածելը:
Ավելի կոնկրետ առումով, ժամանակավոր համաձայնագիրը ներառում է հետևյալ ասպեկտները.
Սահմանումներ և շրջանակ
Ապահովելու համար, որ սահմանում Արհեստական ինտելեկտի համակարգը բավականաչափ հստակ չափորոշիչներ է տալիս AI-ն ավելի պարզ ծրագրային համակարգերից տարբերելու համար, փոխզիջումային համաձայնագիրը սահմանումը համապատասխանեցնում է ՏՀԶԿ-ի առաջարկած մոտեցմանը:
Ժամանակավոր համաձայնագիրը նաև հստակեցնում է, որ կարգավորումը չի տարածվում ԵՄ օրենսդրության շրջանակից դուրս գտնվող ոլորտների վրա և ոչ մի դեպքում չպետք է ազդի անդամ երկրների իրավասությունների վրա։ ազգային անվտանգությունը կամ որևէ սուբյեկտի, որին վստահված են այս ոլորտում առաջադրանքները: Ավելին, AI ակտը չի տարածվի այն համակարգերի վրա, որոնք օգտագործվում են բացառապես ռազմական or պաշտպանություն նպատակներ։ Նմանապես, համաձայնագիրը նախատեսում է, որ կանոնակարգը չի տարածվի AI համակարգերի վրա, որոնք օգտագործվում են միայն նպատակներով հետազոտություն եւ նորարարություն, կամ այն մարդկանց համար, ովքեր օգտագործում են AI-ն ոչ մասնագիտական պատճառներով:
հայտարարություն
AI համակարգերի դասակարգումը որպես բարձր ռիսկային և արգելված AI պրակտիկա
Փոխզիջումային համաձայնագիրը նախատեսում է ա հորիզոնական պաշտպանիչ շերտ, ներառյալ բարձր ռիսկային դասակարգումը, ապահովելու համար, որ AI համակարգերը, որոնք չեն կարող առաջացնել հիմնարար իրավունքների լուրջ խախտումներ կամ այլ էական ռիսկեր, չեն ներգրավվում: AI համակարգերը ներկայացնում են միայն սահմանափակ ռիսկ ենթակա կլինի շատ լույսի թափանցիկության պարտավորությունները, օրինակ՝ բացահայտելով, որ բովանդակությունը ստեղծվել է AI-ի միջոցով, որպեսզի օգտվողները կարողանան տեղեկացված որոշումներ կայացնել հետագա օգտագործման վերաբերյալ:
Տարածաշրջանի լայն շրջանակ բարձր ռիսկային Արհեստական ինտելեկտի համակարգերը թույլտվություն կստանան, սակայն կենթարկվեն մի շարք պահանջների և պարտավորությունների՝ ԵՄ շուկա մուտք գործելու համար: Այս պահանջները համաօրենսդիրների կողմից հստակեցվել ու ճշգրտվել են այնպես, որ դրանք ավելի շատ լինեն տեխնիկապես իրագործելի և ավելի քիչ ծանրաբեռնված շահագրգիռ կողմերի համար, օրինակ, տվյալների որակի հետ կապված կամ տեխնիկական փաստաթղթերի հետ կապված, որոնք պետք է կազմվեն ՓՄՁ-ների կողմից՝ ցույց տալու համար, որ իրենց բարձր ռիսկային AI համակարգերը համապատասխանում են պահանջներին:
Քանի որ AI համակարգերը մշակվում և բաշխվում են բարդ արժեքային շղթաների միջոցով, փոխզիջումային համաձայնագիրը ներառում է փոփոխություններ, որոնք հստակեցնում են. պարտականությունների բաշխում և տարբեր դերասանների դերերը այդ շղթաներում, մասնավորապես, արհեստական ինտելեկտի համակարգերի մատակարարներին և օգտագործողներին: Այն նաև պարզաբանում է AI Act-ով նախատեսված պարտականությունների և այլ օրենսդրության ներքո գոյություն ունեցող պարտականությունների միջև հարաբերությունները, ինչպիսիք են ԵՄ տվյալների պաշտպանության համապատասխան կամ ոլորտային օրենսդրությունը:
AI-ի որոշ կիրառումների համար ռիսկ է համարվում անընդունելի և, հետևաբար, այդ համակարգերը կարգելվեն ԵՄ-ից: Ժամանակավոր համաձայնագիրն արգելում է, օրինակ, ճանաչողական վարքային մանիպուլյացիա, աննպատակային թափահարում դեմքի պատկերներ ինտերնետից կամ տեսախցիկների տեսագրությունից, զգացմունքների ճանաչում աշխատավայրում և ուսումնական հաստատություններում, սոցիալական գնահատական, կենսաչափական դասակարգում եզրակացնել զգայուն տվյալներ, ինչպիսիք են սեռական կողմնորոշումը կամ կրոնական համոզմունքները և որոշ դեպքեր կանխատեսող ոստիկանություն անհատների համար:
Իրավապահ մարմինների բացառություններ
Հաշվի առնելով առանձնահատկությունները իրավապահ մարմինները և իրենց կենսական աշխատանքում արհեստական ինտելեկտն օգտագործելու կարողությունը պահպանելու անհրաժեշտության մասին, համաձայնեցվեցին Հանձնաժողովի առաջարկի մի քանի փոփոխություններ, որոնք վերաբերում էին AI համակարգերի օգտագործմանը իրավապահ նպատակներով: Ենթակա է համապատասխան երաշխիքներ, այս փոփոխությունները կոչված են արտացոլելու իրենց գործունեության հետ կապված զգայուն գործառնական տվյալների գաղտնիությունը հարգելու անհրաժեշտությունը: Օրինակ, ներկայացվել է արտակարգ ընթացակարգ, որը թույլ է տալիս իրավապահ մարմիններին կիրառել բարձր ռիսկային AI գործիք, որը չի անցել համապատասխանության գնահատում ընթացակարգը հրատապության դեպքում. Սակայն դա ապահովելու համար ներդրվել է նաև կոնկրետ մեխանիզմ հիմնարար իրավունքները բավականաչափ պաշտպանված կլինի արհեստական ինտելեկտի համակարգերի հնարավոր չարաշահումներից:
Ավելին, ինչ վերաբերում է իրական ժամանակի օգտագործմանը հեռավոր կենսաչափական նույնականացում Համաշխարհային հանրության համար հասանելի տարածքներում առկա համակարգերում, ժամանակավոր համաձայնագիրը հստակեցնում է նպատակները, երբ նման օգտագործումը խիստ անհրաժեշտ է իրավապահ նպատակների համար, և որոնց համար իրավապահ մարմիններին, հետևաբար, պետք է բացառապես թույլատրվի օգտագործել այդպիսի համակարգերը: Փոխզիջումային համաձայնագիրը նախատեսում է լրացուցիչ երաշխիքներ և սահմանափակում է այս բացառությունները որոշակի հանցագործությունների զոհերի դեպքերով, իրական, ներկա կամ կանխատեսելի սպառնալիքների կանխարգելմամբ, ինչպիսիք են ահաբեկչական հարձակումները և ամենածանր հանցագործությունների մեջ կասկածվող մարդկանց որոնումները:
Ընդհանուր նշանակության AI համակարգեր և հիմքի մոդելներ
Ավելացվել են նոր դրույթներ՝ հաշվի առնելու այն իրավիճակները, երբ AI համակարգերը կարող են օգտագործվել տարբեր նպատակներով (ընդհանուր նշանակության AI), և որտեղ ընդհանուր նշանակության AI տեխնոլոգիան հետագայում ինտեգրվում է մեկ այլ բարձր ռիսկային համակարգում: Ժամանակավոր համաձայնագիրը վերաբերում է նաև ընդհանուր նշանակության AI (GPAI) համակարգերի կոնկրետ դեպքերին:
Համաձայնեցվել են նաև հատուկ կանոններ հիմքի մոդելներ, մեծ համակարգեր, որոնք կարող են գրագետ կատարել տարբեր տարբեր առաջադրանքների լայն շրջանակ, ինչպիսիք են տեսանյութի, տեքստի, պատկերների ստեղծումը, կողային լեզվով խոսակցությունը, հաշվարկը կամ համակարգչային կոդի ստեղծումը։ Ժամանակավոր համաձայնագիրը նախատեսում է, որ հիմնադրամի մոդելները պետք է համապատասխանեն կոնկրետ թափանցիկության պարտավորությունները նախքան դրանք շուկայում տեղադրվելը: Խստացված ռեժիմ է մտցվել «բարձր ազդեցություն» հիմքի մոդելներ. Սրանք հիմքի մոդելներ են, որոնք պատրաստված են մեծ քանակությամբ տվյալների և առաջադեմ բարդությամբ, հնարավորություններով և միջինից շատ բարձր կատարողականությամբ, որոնք կարող են համակարգային ռիսկեր տարածել արժեքային շղթայի երկայնքով:
Նոր կառավարման ճարտարապետություն
Հետևելով GPAI մոդելների նոր կանոններին և ԵՄ մակարդակով դրանց կիրառման ակնհայտ անհրաժեշտությանը, ա AI գրասենյակ Հանձնաժողովի շրջանակներում ստեղծվել է հանձնարարություն՝ վերահսկելու այս ամենաառաջադեմ արհեստական ինտելեկտի մոդելները, նպաստելու ստանդարտների և թեստավորման պրակտիկայի խթանմանը և բոլոր անդամ պետություններում ընդհանուր կանոնների կիրառմանը: Ա անկախ փորձագետների գիտական խումբ AI-ի գրասենյակին խորհուրդ կտա GPAI մոդելների վերաբերյալ՝ նպաստելով հիմքերի մոդելների հնարավորությունների գնահատման մեթոդոլոգիաների մշակմանը, խորհուրդներ տալով բարձր ազդեցության հիմքի մոդելների նշանակման և առաջացման և հիմքերի մոդելների հետ կապված նյութերի անվտանգության հնարավոր ռիսկերի մոնիտորինգով:
The AI խորհուրդ, որը բաղկացած կլինի անդամ պետությունների ներկայացուցիչներից, կմնա որպես Հանձնաժողովի համակարգող հարթակ և խորհրդատվական մարմին և կարևոր դեր կտա անդամ պետություններին կանոնակարգի իրականացման հարցում, ներառյալ հիմնադրամի մոդելների պրակտիկայի կոդերի մշակումը: Վերջապես, ան խորհրդատվական ֆորում շահագրգիռ կողմերի համար, ինչպիսիք են ոլորտի ներկայացուցիչները, ՓՄՁ-ները, նորաստեղծ ձեռնարկությունները, քաղաքացիական հասարակությունը և ակադեմիան, կստեղծվեն արհեստական ինտելեկտի խորհրդին տեխնիկական փորձաքննություն տրամադրելու համար:
Տույժեր
AI ակտի խախտման համար տուգանքները սահմանվել են որպես նախորդ ֆինանսական տարում իրավախախտ ընկերության համաշխարհային տարեկան շրջանառության տոկոս կամ կանխորոշված գումար, որն ավելի բարձր է: Սա կկազմի 35 միլիոն եվրո կամ 7 տոկոս՝ արգելված արհեստական ինտելեկտի հավելվածների խախտման համար, 15 միլիոն եվրո կամ 3 տոկոս՝ արհեստական ինտելեկտի ակտի պարտավորությունների խախտման համար և 7,5 միլիոն եվրո կամ 1,5 տոկոս՝ սխալ տեղեկատվության տրամադրման համար: Սակայն ժամանակավոր համաձայնագիրը նախատեսում է ավելի համաչափ գլխարկներ ԱԻ ակտի դրույթների խախտման դեպքում ՓՄՁ-ների և սկսնակ ձեռնարկությունների համար վարչական տուգանքների մասին.
Փոխզիջումային համաձայնագիրը նաև հստակեցնում է, որ ֆիզիկական կամ իրավաբանական անձը կարող է բողոք ներկայացնել համապատասխան անձանց շուկայի վերահսկողության մարմին AI ակտին չհամապատասխանելու վերաբերյալ և կարող է ակնկալել, որ նման բողոքը կքննվի այդ մարմնի հատուկ ընթացակարգերին համապատասխան:
Թափանցիկություն և հիմնարար իրավունքների պաշտպանություն
Ժամանակավոր պայմանագրով նախատեսված է ա հիմնարար իրավունքների ազդեցության գնահատում նախքան բարձր ռիսկային արհեստական ինտելեկտի համակարգը իր գործարկողների կողմից շուկա դուրս բերելը: Ժամանակավոր համաձայնագրով նախատեսվում է նաև ավելացում թափանցիկություն բարձր ռիսկային AI համակարգերի օգտագործման վերաբերյալ: Հատկանշական է, որ Հանձնաժողովի առաջարկի որոշ դրույթներ փոփոխվել են՝ ցույց տալու համար, որ բարձր ռիսկային AI համակարգի որոշ օգտվողներ, որոնք պետական կազմակերպություններ են, նույնպես պարտավոր կլինեն գրանցվել ԵՄ տվյալների բազա բարձր ռիսկային AI համակարգերի համար: Ավելին, նոր ավելացված դրույթները շեշտը դնում են օգտատերերի պարտավորության վրա զգացմունքների ճանաչման համակարգ տեղեկացնել ֆիզիկական անձանց, երբ նրանք ենթարկվում են նման համակարգին:
Նորարարությանն աջակցող միջոցառումներ
Նպատակ ունենալով ստեղծել օրենսդրական դաշտ, որն ավելի բարենպաստ է նորարարություններին և խթանելու փաստերի վրա հիմնված կարգավորող ուսուցումը, վերաբերվող դրույթները. նորարարությանն աջակցող միջոցառումներ էապես փոփոխվել են՝ համեմատած Հանձնաժողովի առաջարկի հետ:
Հատկանշական է, որ պարզվել է, որ Ա.Ի կարգավորող ավազատուփեր, որոնք պետք է ստեղծեն վերահսկվող միջավայր նորարարական AI համակարգերի մշակման, փորձարկման և վավերացման համար, պետք է նաև թույլ տան իրական աշխարհի պայմաններում փորձարկել նորարարական AI համակարգերը: Ավելին, ավելացվել են նոր դրույթներ, որոնք թույլ են տալիս փորձարկում AI համակարգերում իրական աշխարհի պայմանները, հատուկ պայմաններով և երաշխիքներով։ Փոքր ընկերությունների համար վարչական բեռը մեղմելու համար ժամանակավոր համաձայնագիրը ներառում է նման օպերատորներին աջակցելու համար ձեռնարկվելիք գործողությունների ցանկ և նախատեսում է որոշ սահմանափակ և հստակ սահմանված շեղումներ:
Ուժի մեջ մտնելը
Ժամանակավոր համաձայնագիրը նախատեսում է, որ AI ակտը պետք է կիրառվի երկու տարի ուժի մեջ մտնելուց հետո՝ առանձին դրույթների որոշ բացառություններով։
Հաջորդ քայլերը
Այսօրվա ժամանակավոր համաձայնագրից հետո առաջիկա շաբաթների ընթացքում աշխատանքը կշարունակվի տեխնիկական մակարդակով՝ նոր կանոնակարգի մանրամասները վերջնական տեսքի բերելու համար: Նախագահությունը փոխզիջումային տեքստը կներկայացնի անդամ երկրների ներկայացուցիչներին (Coreper) հաստատման համար, երբ այս աշխատանքը ավարտվի:
Ամբողջ տեքստը պետք է հաստատվի երկու ինստիտուտների կողմից և ենթարկվի իրավա-լեզվական վերանայման՝ նախքան համաօրենսդիրների կողմից պաշտոնական ընդունումը:
Ընդհանուր տեղեկություններ
Հանձնաժողովի առաջարկը, որը ներկայացվել է 2021 թվականի ապրիլին, ԵՄ քաղաքականության հիմնական տարրն է՝ խթանելու անվտանգ և օրինական արհեստական ինտելեկտի միասնական շուկայում հիմնարար իրավունքները հարգող զարգացումը և կիրառումը:
Առաջարկը հետևում է ռիսկերի վրա հիմնված մոտեցմանը և սահմանում է միատեսակ, հորիզոնական իրավական դաշտ AI-ի համար, որի նպատակն է ապահովել իրավական որոշակիություն: Կանոնակարգի նախագիծը նպատակ ունի խթանել ներդրումները և նորարարությունները արհեստական ինտելեկտում, ուժեղացնել կառավարումը և հիմնարար իրավունքների և անվտանգության մասին գործող օրենքի արդյունավետ կիրարկումը և հեշտացնել արհեստական ինտելեկտի կիրառման միասնական շուկայի զարգացումը: Այն համատեղվում է այլ նախաձեռնությունների հետ, ներառյալ արհեստական ինտելեկտի վերաբերյալ համակարգված պլանը, որի նպատակն է արագացնել ներդրումները AI-ում Եվրոպայում: 6 թվականի դեկտեմբերի 2022-ին Խորհուրդը համաձայնություն ձեռք բերեց այս գործի վերաբերյալ ընդհանուր մոտեցման (բանակցային մանդատի) վերաբերյալ և 2023 թվականի հունիսի կեսերին միջինստիտուցիոնալ բանակցություններ մտավ Եվրոպական խորհրդարանի հետ («եռախոսություններ»):
EU Reporter-ը հրապարակում է հոդվածներ տարբեր արտաքին աղբյուրներից, որոնք արտահայտում են տեսակետների լայն շրջանակ: Այս հոդվածներում ընդունված դիրքորոշումները պարտադիր չէ, որ լինեն EU Reporter-ի դիրքորոշումները:
