Գնահատել նախագիծը
← Բոլոր հրապարակումները

Էթիկական արհեստական ինտելեկտի մշակում. ի՞նչ է դա նշանակում

Պարզեք, թե ինչ է էթիկական AI-ի մշակումը, ինչ գաղափար է դրված դրա հիմքում և ինչ սկզբունքների է հետևում։

8 րոպե
Մեքենայական ուսուցումԱրհեստական ինտելեկտՊատասխանատու AIԷթիկական AIHMIԳաղտնիությունԱնվտանգություն

Քանի որ արհեստական ինտելեկտի գործիքները ընդհանուր առմամբ շարունակում են հայտնի դառնալ՝ հիշեք ծայրահեղ տարածված ChatGPT-ն (կամ, մեր գործընկերներից մեկի խոսքերով՝ Հեղափոխական Անհեթեթ Թութակին), Midjourney-ն, Bard-ը և այլն, AI-ն, ըստ էության, դարձել է… մեյնսթրիմ։ Գիտնականները թեման գիտեին և ուսումնասիրում էին տարիներ շարունակ, բայց այն սպառողներին առօրյա օգտագործման համար բացելը զարգացումը ավելի առաջ է մղել։ Այն էլ ավելի է մեծացրել պահանջարկը AI-ի ամեն տեսակ լուծումների նկատմամբ, և այժմ մեծ ընկերությունների մեծ մասն արդեն հպարտացել է իր արտադրանքներին/ծառայություններին AI ավելացնելով։ AI-ն դարձել է մեր ավելի ու ավելի թվային աշխարհի էական տարր՝ ձայնային օգնականներ աշխատեցնելուց մինչև բարդ բժշկական ախտորոշումներին աջակցելը։ Սակայն երբ AI համակարգերը տարածվում են ամենուր, առաջացել են նաև մտահոգություններ դրանց էթիկական հետևանքների վերաբերյալ։ Դուք անպայման լսել եք մարդկանց ասելիս, թե AI-ի զարգացումը ոչ մի տեղ չի տանում, բացի մարդկության ոչնչացումից։ Հնչում է Black Mirror-ի սերիայի նման, այնպես չէ՞։

Այսօր չեմ պատրաստվում սպեկուլյացիա անել այն մասին, թե ուր կտանի մեզ AI-ի զարգացումը։ Փոխարենը նայենք մի փոքր ավելի քիչ ապոկալիպտիկ տեսլականի, որը, սակայն, դարձյալ կարևոր է և կարող է խնդիրներ առաջացնել։

Ի՞նչ է էթիկական AI-ը

Թեև արհեստական ինտելեկտի առաջընթացն ու արժեքը ակնհայտ են, AI-ի վրա հիմնված շատ համակարգեր կասկած են առաջացնում իրենց նախագծման և օգտագործման եղանակի հարցում։ Իհարկե, հեշտ էր կանխատեսել, որ AI-ն նաև վատ մտադրություններ ունեցող մարդկանց գործիք կդառնա։ Սա ընդգրկում է ստերեոտիպերի տարածումը կամ զգայուն տվյալների արտահոսքը, ապատեղեկատվության տարածումը և AI-ի օգտագործումը քարոզչության ու մանիպուլյացիայի համար, սոցիալ-տնտեսական անհավասարությունների խորացումը և նույնիսկ AI-ով հզոր ինքնավար զենքի ստեղծումը։ Եվ սա դեռ չեմ խոսում AI-ի արագ աճի դժվար կանխատեսելի հետևանքների մասին, ներառյալ արհեստական ինտելեկտի հնարավոր առաջացումը, որը կկարողանա տիրել աշխարհին և ոչնչացնել մարդկությունը։

Այո, այո, գիտեմ, որ Դալեկները արհեստական ինտելեկտ չէին, բայց երբ որևէ մեկը խոսում է ոչնչացման մասին, դրանք առաջինն են գալիս մտքիս ;)

Նման խնդիրները բավական ջերմ քննարկումներ են առաջացնում այն մասին, թե ինչպես կանխել այդպիսի սցենարները։ Վերջին հաշվով, խոսակցությունը հաճախ շրջվում է ոչ միայն AI գործիքների կառուցման եղանակի, այլև այն տվյալների կասկածելի որակի շուրջ, որոնցից դրանք սովորում են։ Ընկերություններն ու ամեն տեսակի կազմակերպությունները ունեն ավելի ու ավելի շատ տվյալներ, որոնցից պետք է արժեքավոր եզրակացություններ հանել, քանի որ ավտոմատացման և տվյալների վրա հիմնված որոշումների պահանջարկը շարունակում է աճել։ Եվ դա, բնականաբար, միայն AI-ի կիրառման դեպքերի սկիզբն է։ Սակայն քանի որ AI լուծումներն օգտագործվում են ավելի ու ավելի շատ, սխալ ենթադրությունների անսպասելի հետևանքները՝ ծագած կա՛մ տվյալներից, կա՛մ գործիքի կարգավորման եղանակից, հանգեցրել են էթիկական AI-ի ուղեցույցների մշակմանը։

Էթիկական AI-ը նշանակում է արհեստական ինտելեկտի համակարգեր ստեղծել, տեղակայել և օգտագործել էթիկական սկզբունքներին ու արժեքներին համապատասխան՝ այնպես, որ աջակցվի թե՛ անհատների, թե՛ ողջ հասարակության բարեկեցությունը։ Նման համակարգերը պետք է լինեն թափանցիկ, հաշվետու և արդար՝ առաջին տեղում դնելով մարդու իրավունքների և արժանապատվության պաշտպանությունը։ Էթիկական AI-ը հետևում է արժեքների և կանոնների մի համախմբի, որոնք ներառում են, ի թիվս այլոց.

  • Արդարություն. ապահովել, որ AI համակարգերը ստեղծվեն և տեղակայվեն այնպես, որ յուրաքանչյուր անհատի և խմբի նկատմամբ հարաբերվեն ողջամիտ և ոչ ոքի նկատմամբ խտրականություն չդրսևորեն։ Սակայն AI-ում արդարությունը բարդ, համատեքստից կախված հասկացություն է, և ոչ մի ունիվերսալ սահմանում չի ընդգրկում AI-ի բոլոր կիրառությունները։ Լիարժեք արդարությանը դժվար է հասնել, բայց նպատակն է հնարավորինս հայտնաբերել և նվազեցնել արդարության հետ կապված վնասները։
  • Թափանցիկություն և բացատրելիություն. AI համակարգերը կառուցել թափանցիկ ու բացատրելի ձևով, որպեսզի օգտատերերը իմանան, թե որ տվյալներն են օգտագործվում, ինչպես են կայացվում որոշումները և ինչպես են այդ որոշումները ազդում իրենց վրա։
  • Հաշվետվողականություն. ապահովել, որ AI համակարգերի կայացրած որոշումների համար պատասխանատվությունը պարզ լինի՝ ստեղծողներն ու մյուս պատասխանատուները հեշտությամբ նույնականացվեն, և գոյություն ունենան մեխանիզմներ, որոնք կանխում և լուծում են ցանկացած հնարավոր վնաս կամ բացասական հետևանք։
  • Գաղտնիություն. AI համակարգերը պետք է ստեղծվեն այնպես, որ երաշխավորեն անհատների գաղտնիությունը և պաշտպանեն անձնական տվյալներն ու տեղեկատվությունը համակարգի ողջ կյանքի ցիկլի ընթացքում։
  • Անվտանգություն և հուսալիություն. ապահովել, որ համակարգը անվտանգ է, այսինքն՝ աշխատում է հուսալիորեն և նախատեսվածի պես և վտանգ չի սպառնում անհատներին կամ նույնիսկ հասարակությանը։
  • Վիճարկելիություն. քանի որ դրանք կարող են էականորեն ազդել օգտատիրոջ, որոշակի խմբի կամ նույնիսկ ողջ հասարակության վրա, մարդիկ պետք է կարողանան վիճարկել կասկածելի արդյունքները։

Այսպիսով, էթիկական AI-ի խթանումը օգնում է ապահովել, որ տեխնոլոգիան օգտագործվի ընդհանուր ընդունված արժեքներին համապատասխան և հասարակության ընդհանուր բարօրության համար։ Չէ՞ որ AI-ը նախատեսված է մեզ ծառայելու, աջակցելու, առաջադրանքները հեշտացնելու, այն առաջադրանքները, որոնք մեզանից շատ ժամանակ կխլեին, իր վրա վերցնելու և այլն։

Էթիկական AI-ի կենտրոնական տարրը ներառականությունն է AI-ի տվյալների հավաքածուներում, այսինքն՝ ապահովել, որ AI համակարգերը ուսուցանելու և կառուցելու համար օգտագործվող տվյալները բազմազան լինեն և ներկայացնեն տարբեր բնակչություններ։ Նման ներառականությունը հատկապես կարևոր է, որպեսզի AI համակարգերը չամրապնդեն կամ չվատթարացնեն առկա սոցիալական անհավասարություններն ու կողմնակալությունները։

Պատասխանատու AI

Երկու գաղափարները սերտորեն կապված են։ Սակայն ընդհանուր առմամբ էթիկան հիմնականում վերաբերում է անհատների, խմբերի և հասարակության բարօրությանը։ Պատասխանատու AI-ն ընդգրկում է AI-ի էթիկական սկզբունքների գործնական կիրառումը՝ դրանով ընդլայնելով էթիկական AI-ի թեման։ Դրա նպատակն է ապահովել, որ AI-ը ստեղծվի և օգտագործվի՝ նկատի ունենալով տարբեր շահագրգիռ կողմերի վրա հնարավոր ազդեցությունը՝ օգտատերեր, աշխատակիցներ և լայն համայնք։

Այսպիսով, էթիկական AI-ը պատասխանատու AI-ի կենսականորեն կարևոր մասն է։ Սակայն պատասխանատու AI-ն դուրս է գալիս էթիկայի շրջանակներից և ավելացնում սկզբունքների ու պրակտիկաների ավելի լայն համախումբ, որոնք նախատեսված են ապահովելու, որ AI-ը ստեղծվի և օգտագործվի պատասխանատու և կայուն կերպով։

աղբյուր. Reddit

Էթիկական AI-ի մշակման լավագույն փորձը

Իրավական առումով AI-ի զարգացման ապագան դեռ որոշված չէ, քանի որ սա բավական նոր տեխնոլոգիական միտում է։ Այդուհանդերձ, որոշ քայլեր արդեն արվել են, օրինակ՝ Եվրոպական միության խորհրդարանի կողմից, որը պատրաստում է AI Act-ը, որը, ի թիվս այլնի, սահմանում է արգելված պրակտիկաները և մատակարարների ու օգտատերերի պարտավորությունները՝ կախված այն բանից, թե որքան ռիսկ կարող է պարունակել արհեստական ինտելեկտը։ Բացի այդ, 2021 թվականի նոյեմբերին UNESCO-ն հրապարակեց Recommendation on the Ethics of Artificial Intelligence-ը, որը (տեսականորեն) ուշադրություն է դարձնում մարդու իրավունքների, շրջակա միջավայրի, փոքրամասնությունների, առողջության և շատ այլ ոլորտների պաշտպանությանը։ Դա հիմնականում քաղաքականության մասին հանձնարարականների հավաքածու է, որը նախատեսված է որպես ուղեցույց՝ ինչպես պետք է AI-ը մշակվի և վարվեն դրա հետ։ Դրա շեշտը հիմնական արժեքների խթանման վրա է, որպեսզի համակարգերը ստեղծվեն հասարակության, շրջակա միջավայրի և ողջ մարդկության օգտին։

Ինչ վերաբերում է ինժեներների համար ավելի տեխնիկական պրակտիկաներին, ապա այնպիսի ընկերություններ, ինչպիսիք են Microsoft-ը, IBM-ը կամ Google-ը, իրենց կայքերում հրապարակում են էթիկական AI համակարգեր ստեղծելու կոնկրետ հանձնարարականներ։ Նրանք առաջարկում են օգտակար խորհուրդներ. ահա մի քանի օրինակ։

Մարդակենտրոն նախագծման մոտեցում‍

Սա նշանակում է, որ օգտատիրոջ փորձառությունը առանցքային է՝ գնահատելու համար, թե ինչպես են AI համակարգերը ազդում մարդկանց վրա։ Ուստի մշակողները պետք է ֆունկցիաները կառուցեն հստակ բացահայտումներով և օգտատերերին վերահսկողություն տան։ Նաև էական է համատեքստից կախված մեկ կամ մի քանի տարբերակ առաջարկելը, բացասական արձագանք ակնկալելը և թեստավորելու ընթացքում կրկնակի կատարելագործելը։ Բազմազան և անկողմնակալ արդյունքներ ստանալու համար համակարգի ստեղծողները պետք է ներգրավեն օգտատերերի բազմազան խումբ և նրանց արձագանքն օգտագործեն արդյունքները բարելավելու համար։

Բազմաթիվ մետրիկներ՝ ուսուցումը և մոնիթորինգը գնահատելու համար

Փոխզիջումներն ու փորձառությունները լիովին հասկանալու համար խորհուրդ է տրվում հենվել մի քանի մետրիկի վրա, այլ ոչ թե միայն մեկի։ Տարբեր մետրիկներ, ինչպիսիք են օգտատերերի հարցումները կամ համակարգի ընդհանուր արդյունավետության մետրիկները, կարող են օգտակար լինել։ Էական է ուսումնասիրել կեղծ դրական և կեղծ բացասական արդյունքների մակարդակները ենթախմբերում և ապահովել, որ ընտրված մետրիկները համապատասխանեն համակարգի համատեքստին և նպատակներին։

Հում տվյալների ուսումնասիրություն

Հում տվյալներին նայելը, երբ դա հնարավոր է, օգնում է ավելի լավ հասկանալ դրանք և ապահովում ճշգրտություն ու արդարություն։ Ինչ տվյալներ էլ որ մատակարարվեն համակարգին, դրանք անմիջականորեն ձևավորում են նրա արդյունքները։ Այդ պատճառով էական է տվյալներում սխալներ փնտրել, ապահովել, որ դրանք ներկայացուցչական են, և ուսուցման համար հեռացնել կողմնակալությունը, ինչպես նաև ավելորդ հատկանիշները։

Թեստավորում

AI համակարգերը նույնպես օգտվում են ծրագրային ճարտարագիտության լավագույն պրակտիկաներից՝ թեստավորման և որակի ապահովման համար։ Սա նշանակում է կատարել մանրակրկիտ unit թեստեր, ակտիվորեն մոնիթորինգ անել տվյալների և հասկացությունների դրեյֆը, հենվել հուսալի թեստային տվյալների հավաքածուի վրա, ներառել օգտատերերի կրկնվող թեստավորում, համակարգում ներդնել որակի ստուգումներ և կատարել ինտեգրացիոն թեստեր՝ հասկանալու համար, թե ինչպես են համակարգի մասերը փոխազդում և որտեղ կարող են առաջանալ հետադարձ կապի օղակներ։

Տվյալների պատասխանատու հավաքագրում և մշակում

Նախ՝ AI ինժեներները պետք է պարզեն, թե արդյոք ML մոդելը կարելի է ուսուցանել առանց զգայուն տվյալների կամ հանրությանը հասանելի տվյալների հավաքածուների օգտագործմամբ։ Եթե զգայուն ուսուցման տվյալներից խուսափել հնարավոր չէ, դրանք պետք է օգտագործվեն հնարավորինս քիչ և վերաբերվել ամենայն զգուշությամբ՝ համաձայն իրավական պահանջների և ստանդարտների։ Խստորեն խորհուրդ է տրվում հետևել լավագույն պրակտիկաներին, օրինակ՝ գաղտնագրել տվյալները ինչպես փոխանցման, այնպես էլ պահպանման ընթացքում և համապատասխանել գաղտնիության սկզբունքներին (բնականաբար, Google-ը խորհուրդ է տալիս սեփականը)։

ML մոդելների գաղտնիության պաշտպանություն

ML մոդելները կարող են բացահայտել այն տվյալները, որոնցով ուսուցանվել են։ Դա կարող է տեղի ունենալ ներքին պարամետրերի միջոցով կամ մոդելի դիտարկելի վարքի միջոցով։ Ստուգելու համար, թե արդյոք զգայուն տվյալները չնախատեսված կերպով մտապահվում կամ բացահայտվում են, մասնագետները օգտագործում են հատուկ թեստեր և քանակական հետազոտություններ, որոնք ուսումնասիրում են, թե ինչպես են մեքենայական ուսուցման մոդելները արտահոսեցնում տեղեկատվություն այն առանձին տվյալների գրառումների մասին, որոնցով ուսուցանվել են։ Այլ լավ պրակտիկաներ են մոդելների օպտիմալացումը՝ փորձելով տվյալների մինիմիզացիայի մոտեցումներ, մաթեմատիկորեն երաշխավորված տեխնիկաներ և գաղտնագրային ծրագրերի մշակումից փոխառված ընթացակարգեր։

Համակարգի հնարավոր սպառնալիքների հայտնաբերում

Ինչպես հավանաբար արդեն նկատել եք, AI համակարգի ճարտարապետության պատշաճ պլանավորումը ներառում է անվտանգությունը։ Լավ անելու համար պետք է նաև դիտարկել, թե ինչպես կարող է համակարգը չարաշահվել, ինչպես կարող են խոցելիությունները շահագործվել (և ամենակարևորը՝ ինչպես կանխել դա), և ինչ հետևանքներ կունենան նման գործողությունները։ Հնարավոր սպառնալիքները, դրանց հավանականությունը և հնարավոր վնասի չափը գնահատելիս կարող է օգտակար լինել ռիսկերի մոդել ստեղծելը, որը ստուգում է ակտիվները և վերլուծում յուրաքանչյուր ենթարկվածություն ու վտանգ։

Եզրափակիչ մտքեր

Արհեստական ինտելեկտը հսկայական օգուտներ է բերում, բայց այն վնասակար նպատակներով օգտագործվելու վտանգը գրեթե նույնքան մեծ է։ Դա բացատրում է աճող հետաքրքրությունը և շարունակվող աշխատանքը այն մարդկանց համար նախատեսված հատուկ ֆրեյմվորքների շուրջ, ովքեր ստեղծում և օգտագործում են նման գործիքներ։