Գնահատել նախագիծը
← Բոլոր հրապարակումները

Վայ, timeout...

Ձեր հավելվածը timeout-ի՞ է հանդիպում՝ մինչև պատասխանելը։ Ահա թե ինչ կարելի է անել։

4 րոպե
ԶարգացումHTTP endpoint-ներՀավելվածների մշակումՍպասարկում

Ձեր հավելվածը երբևէ խնդիրներ ունեցե՞լ է timeout-ով ավարտվող պատասխանների հետ։

Timeout-ները կարող են բազմաթիվ տարբեր պատճառներ ունենալ։ Սերվերի սխալ կոնֆիգուրացիան, ուռճացված հարցման կամ պատասխանի payload-ները, կամ դանդաղ, գերծանրաբեռնված ցանցը կարող են հանգեցնել դրանց։ Ձեր համակարգը կարող է նաև մեծ տրաֆիկի տակ լինել և պարզապես չհասցնել ժամանակին մշակել հարցումները։

Երկար աշխատող գործընթացներ սկսող հարցումները նույնպես հաճախակի խնդիրների աղբյուր են։ Երբ գործողության մշակումը տևում է ավելի երկար, քան կարգավորված timeout շեմը, կլիենտը ստանում է 408 կարգավիճակի կոդով սխալ։ Կախված հավելվածի կարգավորումից՝ գործընթացը կամ ընդհատվում է, կամ ի վերջո ավարտվում է։ Երկրորդ դեպքում, չնայած գործողությունն ավարտվել է, կլիենտն արդեն սխալի պատասխան է ստացել և չի իմանա, որ այն հաջողվել է։

Երբեմն timeout-ի շտկումը կարող է հանգել backend առաջադրանքի օպտիմալացմանը՝ օրինակ՝ SQL հարցումների թյունինգին կամ ավելի արդյունավետ ալգորիթմների անցնելուն։ Սակայն արտադրողականության թյունինգը միշտ հեշտ չէ, և որոշ գործընթացներ պարզապես որոշակի ժամանակ են պահանջում ավարտվելու համար։

Այսպիսով, ի՞նչ տարբերակներ ունենք։

Կոնֆիգուրացիայի նուրբ կարգավորում

Երբ կարող ենք գնահատել, թե որքան կտևի առաջադրանքը, ամենապարզ լուծումը կարող է լինել հենց այդ տեսակի հարցման համար timeout շեմը բարձրացնելը։ Սովորաբար արժեքը մեկ տեղում փոխելը բավարար չէ. պետք է թարմացնել և՛ կլիենտը, և՛ սերվերը, և՛ բոլոր proxy-ները (օրինակ՝ load balancer-ները)։

Խնդիրն այն է, որ միշտ չէ, որ կարող ենք հստակ որոշել timeout-ի ճիշտ արժեքը։ Կախված մուտքային տվյալներից՝ backend առաջադրանքը կարող է պահանջել ավելի շատ կամ ավելի քիչ ժամանակ։ Եթե արժեքը շատ ցածր ընտրեք, որոշ հարցումներ դեռ կարող են timeout-ով ավարտվել։ Եթե շատ բարձր ընտրեք, կբախվեք բազմաթիվ թերությունների։ Ձեր հավելվածը ստիպված կլինի աշխատել ավելի շատ միաժամանակյա HTTP կապերի հետ, ինչը կարող է նշանակել ռեսուրսների ավելի մեծ օգտագործում և սերվերի ավելի մեծ ծանրաբեռնվածություն։ Դա կարող է նաև ձեզ ավելի խոցելի դարձնել DDOS հարձակումների նկատմամբ, ինչպիսին Slowloris-ն է, որոնք հիմնվում են այն բանի վրա, որ հարձակվողը կարող է բազմաթիվ զուգահեռ կապեր բաց պահել։

Եթե synchronous հարցումների համար timeout-ների թյունինգը խնդրահարույց է, միշտ կա առաջադրանքները asynchronous մշակելու տարբերակը։

Երկարատև առաջադրանքների asynchronous մշակումը

Եթե մշակման ավարտին սպասելը հանգեցնում է timeout-ների, կարող ենք պարզապես դադարել սպասել։
Մեր հավելվածը կարող է փոխարենը կլիենտին ասել, որ հարցումը հաջողությամբ գրանցվել է և մշակումը շուտով կսկսվի։

Սկզբում հավելվածը պետք է պահպանի առաջադրանքը կատարելու մտադրությունը, ապա պատասխանի հենց այս իրավիճակի համար նախատեսված կարգավիճակի կոդով՝ 202 Accepted։ Հետո background worker-ը կարող է պարբերաբար վերցնել նոր առաջադրանքները պահոցից և սկսել դրանց մշակումը։ Երբ աշխատանքը հաջողվում է (կամ ձախողվում), այն պետք է թարմացնի պահված գրառումը՝ մշակման արդյունքով կամ ձախողման պատճառով։ Կարևորն այն է, որ նույն աշխատանքը երբեք երկու անգամ միաժամանակ չսկսվի։ Դա կարելի է անել՝ ընտրելով մշակման համար պատասխանատու մեկ առաջնորդ (leader) կամ օգտագործելով որևէ կողպման (locking) մեխանիզմ։

Սկզբնական հարցման պատասխանը պետք է պարունակի Location header, որը կլիենտին ասում է, թե որտեղ գտնի արդյունքները, երբ դրանք պատրաստ լինեն։ Սովորաբար այն ուղղում է հավելվածի մեկ այլ endpoint-ի։ Քանի դեռ առաջադրանքը դեռ աշխատում է, այդ endpoint-ը պետք է շարունակի պատասխանել 202 Accepted-ով, իսկ պատասխանի մարմինը կարող է ըստ ցանկության ներառել առաջընթացի մասին տեղեկություն։ Երբ առաջադրանքն ավարտվում է, հաջորդ պատասխանը պետք է հաշվարկված արդյունքները հասցնի 200 Ok կամ 201 Created կարգավիճակով։ Եթե ինչ-որ բան սխալ է եղել, endpoint-ը կարող է վերադարձնել 404 կամ նույնիսկ 410 Gone։

Այս հոսքում կլիենտը պատասխանատու է resource endpoint-ը polling անելու համար, մինչև առաջադրանքն ավարտվի։ Retry-After header-ը թույլ է տալիս առաջարկել, թե որքան սպասի նա նորից փորձելուց առաջ։ Լուծումը կարող ենք նաև ավելի արձագանքող դարձնել՝ թարմացումները սերվերից push անելով, օրինակ՝ բացելով Server-Sent Events endpoint, որը կլիենտին հայտնում է, երբ աշխատանքն ավարտվել է։

Ծրագրային ճարտարապետության տեսանկյունից այս async աշխատանքային հոսքը HTTP endpoint-ների միջոցով իրականացնում է inbox pattern-ը։

Օրինակ

Ահա օրինակ։ Մեր հավելվածը բացահայտում է 2 endpoint՝ POST /item, որը սկսում է տարրի ստեղծումը, և GET /item/{id}, որը վերադարձնում է աշխատանքի կարգավիճակը և արդյունքները։

Ավելի կայուն API ունենալու համար կարող ենք POST endpoint-ը դարձնել immutable։ Երբ կլիենտն ուղարկում է նույն մուտքային տվյալներով մեկ այլ հարցում, կարող ենք պարզապես վերադարձնել արդեն ստեղծվող (կամ նույնիսկ արդեն ստեղծված) տարրի location-ը՝ մեր դեպքում պարզապես նույն item id-ով URL։ Մինչ առաջադրանքը կատարվում է, արդյունքները ստանալու ցանկացած փորձ վերադարձնում է 202 Accepted։

Երբ տարրը ստեղծվում է, worker գործընթացը թարմացնում է գրառումը items աղյուսակում, և endpoint-ը սկսում է վերադարձնել արդյունքները 201 Created կարգավիճակի կոդով։

Ամփոփում

Այս հոդվածով ես ուզում էի որոշակի պատկերացում տալ HTTP endpoint-ների վրա asynchronous մշակում կառուցելու մասին։ Հուսով եմ՝ այն օգտակար կլինի։