Ի՞նչ կփոխի ԵՄ AI Act-ը ML-ի ոլորտում
Իմացեք, թե ինչպես է այս օրենքը վերաձևելու ML-ի աշխարհը, ինչ պարտականություններ է դնելու արհեստական բանականություն ստեղծող և օգտագործող ընկերությունների վրա և ինչ հնարավորություններ ու վտանգներ է բերում։
Վերջին ամիսներին արհեստական բանականության նկատմամբ հանրային հետաքրքրությունը աճել է ռեկորդային տեմպով, մեծ մասամբ շնորհիվ անվճար և հարմարավետ AI գործիքների, ինչպիսիք են Midjourney-ն կամ ChatGPT-ն։ Քանի որ այս համակարգերը շատ մատչելի են, իսկ օգտատերերը՝ անսահման հնարամիտ, մարդիկ բացահայտել են դրանց հիմքում ընկած մեքենայական ուսուցման մոդելների շատ օգտակար և հետաքրքիր հատկություններ, օրինակ՝ OpenAI-ի ChatGPT մոդելի համար prompt-ների ձևանմուշներ, որոնք թույլ են տալիս ստանալ որոշակի ցանկալի պատասխաններ։ Սակայն միևնույն փորձը ցույց է տվել նաև, որ այդ գործիքները ռիսկեր են պարունակում։ Ինչպես ցանկացած գործիքի դեպքում, դրա հնարավորությունները կարող են ծառայել ինչպես բարի, այնպես էլ վատ նպատակների։
Չարաշահման հնարավորությունը, այդ համակարգերի աճող հանրաճանաչությունը և ոլորտում հետազոտությունների արագ տեմպը կառավարություններին մտահոգել են՝ ուր կարող է հասցնել հետագա առաջընթացը։ Քաղաքացիներին AI-ի զարգացման վնասակար հետևանքներից պաշտպանելու համար ԵՄ-ն մշակել է AI Act-ը, որի նպատակն է ստեղծել իրավական շրջանակ, որը կուղղորդի արհեստական բանականության զարգացումը և կսահմանափակի դրա հետ կապված ռիսկերը։ Նման ոգով փորձագետները հրապարակեցին բաց նամակ՝ կոչ անելով վեց ամսով դադարեցնել AI-ի հետազոտությունները, որպեսզի հնարավոր լինի սահմանել կանոններ և սկզբունքներ։
ԵՄ-ն հեռու է միակ քաղաքական միավորը լինելուց, որը ներդնում է նման կանոնակարգումներ։ ԱՄՆ-ն մշակել է իր կանոնների փաթեթը՝ «Blueprint for an AI Bill of Rights», իսկ Մեծ Բրիտանիան ունի «National AI Strategy»։ Այս երկրներից յուրաքանչյուրը յուրովի փորձում է նվազեցնել AI-ի ստեղծած ռիսկերը և խթանել էթիկական AI-ի զարգացումը։ Այժմ AI-ը կանոնակարգելու մրցավազք է ընթանում, և հավանաբար այն կավարտվի մեկ կարգավորող ստանդարտով, որը կընդունի աշխարհի երկրների մեծ մասը։
Ընդհանուր դրույթներ
Իր կանոններում Եվրոպական միությունը կենտրոնացել է AI վրա հիմնված համակարգերի օգտատերերի ռիսկերի նվազեցման վրա՝ այդպիսի համակարգեր ստեղծող և դրանք օգտագործող ընկերությունների վրա դնելով հատուկ պարտականություններ։ Հիմնական նպատակն էր ապահովել, որ AI տեխնոլոգիաները լինեն անվտանգ, թափանցիկ, ոչ խտրական, հետագծելի և էկոլոգիապես մաքուր։ Կիրառվել է համաչափ ռիսկի սկզբունքը. սահմանվել են AI համակարգերի ռիսկի մի քանի մակարդակներ և դրանց համապատասխան կանոններ։ Կանոնակարգումները նախագծվել են որպես տեխնոլոգիապես չեզոք և ապագայի համար կայուն։
Ազդեցության տակ ընկնող բիզնեսներ
Օրենքը տարբերում է AI համակարգերի ռիսկի չորս մակարդակ՝ անընդունելի, բարձր, Generative AI և սահմանափակ։
Անընդունելի ռիսկ
Այս կատեգորիան ընդգրկում է հանրային վայրերում բիոմետրիկայի համար օգտագործվող յուրաքանչյուր AI համակարգ, օրինակ՝ դեմքի ճանաչման ծրագրերը (բացառություն են իրավապահ մարմինները, որոնց համար գործում են առանձին սահմանափակումներ), սոցիալական միավորների (social scoring) համակարգերը և մարդու վարքագիծը մանիպուլացնող համակարգերը, մասնավորապես՝ խոցելի խմբերի, ինչպիսիք են երեխաները կամ հաշմանդամություն ունեցող անձինք, վրա ուղղվածները։ ԵՄ-ում նման AI համակարգերն արգելված կլինեն։
Բարձր ռիսկ
Սա ներառում է այն AI համակարգերը, որոնք օգտագործվում են DIRECTIVE 2001/95/EC OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL of 3 December 2001 on general product safety փաստաթղթում թվարկված արտադրանքներում և պատկանում են հետևյալ ոլորտներից որևէ մեկին՝
- մարդկանց բիոմետրիկա
- կրիտիկական ենթակառուցվածք
- կրթություն
- զբաղվածություն
- հիմնական հանրային ծառայություններ և առողջապահություն
- իրավապահ գործունեություն
- միգրացիա և սահմանային հսկողություն
- օրենքի մեկնաբանում և կիրառում
Այս ոլորտների համար AI ստեղծող կազմակերպությունները ստիպված կլինեն գրանցվել ԵՄ տվյալների բազայում։ Նման համակարգերը կանցնեն մարդու կողմից գնահատում և վերահսկողություն իրենց ողջ կյանքի ցիկլի ընթացքում։ Բացի այդ, այս AI համակարգերը օգտագործող յուրաքանչյուր ոք պետք է կարողանա ստանալ համակարգի որոշումների բացատրություն, ինչը թույլ կտա վերահսկել դրա աշխատանքը և նկատել անոմալիաներ կամ սխալ վարքագիծ։ Հետևաբար՝ բացատրելի AI-ն իրականացնող բաղադրիչը կդառնա ապագա բարձր ռիսկի AI համակարգերի անբաժանելի մասը։ Օգտատերերին նաև պետք է տեղեկացնել, թե ինչ կարող և ինչ չի կարող անել համակարգը։
Generative AI
Գեներատիվ համակարգերը պետք է բավարարեն թափանցիկության պահանջները, մասնավորապես՝
- հստակ նշել, որ բովանդակությունը ստեղծվել է AI-ի կողմից
- պաշտպանել մոդելը անօրինական բովանդակություն ստեղծելուց
- հրապարակել ուսուցման տվյալների ամփոփագիր
Սահմանափակ ռիսկ
Մնացած բոլոր AI համակարգերը ընկնում են սահմանափակ ռիսկի կատեգորիայի մեջ։ Սահմանափակ ռիսկի արհեստական բանականության համակարգերը պետք է բավարարեն թափանցիկության հիմնական պահանջները, որպեսզի օգտատերերը կարողանան տեղեկացված ընտրություն կատարել։ Մարդիկ պետք է իմանան, երբ գործ ունեն արհեստական բանականության հետ։
Հնարավորություններ
Գլոբալ մասշտաբով մենք հիմա AI-ը կարգավորող օրենք ենք գրում։ Սա մեզ հնարավորություն է տալիս ձևավորել այնպիսի կանոնակարգ, որը պաշտպանում է հասարակությանը և առանձին քաղաքացիներին AI համակարգերի վնասակար ազդեցությունից՝ առանց խիստ սահմանափակելու, թե ինչպես է արհեստական բանականությունը մշակվում և օգտագործվում բիզնեսում։
Բացատրելիության և թափանցիկության պահանջները, անկասկած, կստիպեն հետազոտական համայնքին ավելի շատ կենտրոնանալ AI համակարգերը բացատրելու և հասկանալու մեթոդների վրա։ Ժամանակի ընթացքում դա կհանգեցնի AI մոդելների աստիճանական բարելավման։
Գեներատիվ մոդելներին անօրինական բովանդակություն ստեղծելուց պաշտպանելու անհրաժեշտությունը ուժեղ խթան կհանդիսանա այդ ոլորտի հետազոտությունների համար։ Ես կանխատեսում եմ նոր մեթոդների ի հայտ գալը, որոնք AI համակարգերն ավելի անվտանգ կդարձնեն դրանք օգտագործող մարդկանց համար։
Ռիսկեր
Երբ խորասուզվեցի ԵՄ AI Act-ի մեջ և փորձեցի հասկանալ, թե ինչ է այն նշանակում արհեստական բանականության համակարգեր ստեղծող ընկերությունների պարտականությունների համար, անընդհատ ինքս ինձ հարցնում էի, թե ինչպես են եվրոպական պաշտոնյաների սպասելիքները համապատասխանելու այդ համակարգերի տեխնիկական պահանջներին։ Պարզվեց՝ ուրիշներն էլ նույն հարցն ունեին։ Balint Gyevnar et. all (2023) կիսվել են համանման մտորումներով «Get Your Act Together: A Comparative View on Transparency in the AI Act and Technology» հոդվածում։ Դրա եզրահանգումներն են, որ կանոնակարգումներն իրենց ներկայիս տեսքով երկիմաստ են, որ պաշտոնյաներն ու ինժեներները հիմնական եզրույթները տարբեր կերպ են հասկանում, որ կանոնակարգումների պահանջները ուղղակիորեն չեն փոխակերպվում համակարգի պահանջների, և որ AI համակարգերի մշակողների սեփականության իրավունքները կարող են խախտվել։
Պետական ծառայողներն ու ինժեներները խոսում են տարբեր լեզուներով։ Նրանք օգտագործում են նույն բառերը, բայց տարբեր իմաստով։ Այնպիսի եզրույթներ, ինչպիսիք են մեկնաբանելիությունը (interpretability), բացատրելիությունը (explainability), թափանցիկությունը և մոդելի ելքը (model output), լավ օրինակներ են։ Այս եզրույթները պետք է ճշգրտվեն և հստակ սահմանվեն, որպեսզի պահանջները միանշանակ հասկանալի լինեն։ Պաշտոնյաների համար թափանցիկությունը հաճախ նշանակում է կարգավորող պահանջներին համապատասխանության վրա ուղղված թափանցիկություն, մինչդեռ ինժեներների համար դա նշանակում է հենց համակարգի աշխատանքի ըմբռնում, օրինակ՝ բացատրելի AI-ի մեթոդներով։
Արդյո՞ք պաշտոնյաները բովանդակություն առաջարկող AI համակարգերը կդիտարկեն որպես մարդկանց վարքագիծը մանիպուլացնող համակարգեր։ Եթե այո, դա ուժեղ հարված կհասցնի էլեկտրոնային առևտրի ոլորտին և ստրիմինգային հարթակներին, քանի որ նրանք հենվում են այդպիսի լուծումների վրա՝ հաճախորդների վարքագծի հիման վրա իրենց արտադրանքը առաջ մղելու համար։ Իսկ ինչ վերաբերում է AI-ի կողմից վարվող գովազդային արշավներին։
Որոշ տեղերում կանոնակարգումները բավականին անորոշ են և բաց մեկնաբանությունների համար, ինչը ռիսկեր է ստեղծում AI-ի վրա հիմնված լուծումներ ստեղծող ընկերությունների համար։
Դրան գումարվում է այն, որ թափանցիկության պահանջը կարող է խախտել սեփականության իրավունքները, քանի որ այն պահանջում է նկարագրել համակարգը ստեղծելիս կայացված մոտիվացիաներն ու նախագծային որոշումները, ինչը կնշանակի տեղեկատվության բացահայտում, որը թույլ է տալիս մրցակիցներին կրկնօրինակել լուծումը։ Սա կանոնակարգման ստեղծած ամենալուրջ վտանգն է։ Այն բիզնեսի համար, որի մրցակցային առավելությունը իր տվյալներն են, ճարտարապետության և մեքենայական ուսուցման մոդելի ուսուցման համար օգտագործված տվյալների բազմությունների նկարագրությունը չափազանց արժեքավոր է։
Ի՞նչ է հաջորդը
Շուտով կսկսվեն ԵՄ Խորհրդի անդամ պետությունների հետ բանակցությունները կանոնակարգման վերջնական տեսքի շուրջ։ Հուսով եմ՝ օրենքի փոփոխության ժամանակ փորձագետներին կլսեն։ Եթե ոչ, ապա մենք ստիպված կլինենք սպասել մեկնաբանությունների, որոնք կբացատրեն ուղեցույցները՝ հնարավոր դարձնելով կանոնակարգումներում գրված պահանջները փոխակերպել համակարգերի տեխնիկական պահանջների և ընկերություններին ազատել իրավական անորոշ ձևակերպումների ստեղծած ռիսկից։
Ամփոփում
ԵՄ-ի ստեղծվող կանոնակարգումը փորձում է սանձել AI-ի զարգացման «վայրի արևմուտքը», նախքան այն լուրջ վնաս հասցնելը։ Ուղեցույցները նպատակ ունեն պաշտպանել AI համակարգեր օգտագործող մարդկանց, հատկապես այն ոլորտներում, որտեղ որոշումները մեծ ազդեցություն ունեն քաղաքացիների կյանքի վրա։ Կարծում եմ՝ գովելի է քաղաքացիների անվտանգությանը և գաղտնիությանը սպառնացող ոլորտներում AI-ի օգտագործման արգելքը։ Օրինակ՝ սոցիալական միավորների և հանրային վայրերում իրական ժամանակի բիոմետրիկայի արգելքը կսահմանափակի քաղաքացիների վարքագիծը վերևից ձևավորելու հնարավորությունը, ինչպես դա տեղի է ունենում Չինաստանի Ժողովրդական Հանրապետությունում։
Այդուհանդերձ, կան նաև մտահոգություններ անհստակ եզրույթների և AI համակարգերի համար տեխնիկական պահանջների բացակայության առնչությամբ։
Մի բան պարզ է՝ արհեստական բանականության կանոնակարգումը գալիս է։ Որպես ինժեներներ՝ մենք ստիպված կլինենք հարմարվել դրան և ստեղծել օրենքին համապատասխանող համակարգեր։ Դատելով ընթացիկ նախագծից՝ չեմ սպասում, որ նոր կանոնները որևէ բան կկանգնեցնեն։ Դրանք որոշ մշակման կարիք ունեն, հատկապես նախագծային որոշումների և տվյալների բազմությունների նկարագրության մասով, բայց դրանք էկզիստենցիալ սպառնալիք չեն ոլորտի հետագա աճի համար։