Ի՞նչ է արհեստական ​​բանականության կողմնակալությունը։

Արհեստական ​​բանականությունը ամենուր է՝ անաղմուկ տեսակավորելով, գնահատելով և առաջարկելով։ Դա հարմար է… մինչև այն որոշ խմբերի առաջ չի մղում և մյուսներին հետևում չի թողնում։ Եթե ​​մտածել եք, թե ինչ է արհեստական ​​​​բանականության կողմնակալությունը , ինչու է այն հայտնվում նույնիսկ հղկված մոդելներում և ինչպես նվազեցնել այն առանց արդյունավետությունը վատթարացնելու, այս ուղեցույցը ձեզ համար է։

Հոդվածներ, որոնք կարող են ձեզ դուր գալ կարդալ սրանից հետո.

🔗 Ի՞նչ է նշանակում GPT-ն
GPT անվանման և ծագման պարզ անգլերեն մեկնաբանություն։

🔗 Ի՞նչ է կանխատեսող արհեստական ​​բանականությունը
Ինչպես են կանխատեսողական մոդելները կանխատեսում արդյունքները պատմական և իրական տվյալներից։

🔗 Ի՞նչ է բաց կոդով արհեստական ​​բանականությունը
Սահմանում, հիմնական առավելություններ, մարտահրավերներ, լիցենզիաներ և նախագծերի օրինակներ։

🔗 Ինչպես ներառել արհեստական ​​բանականությունը ձեր բիզնեսում
Քայլ առ քայլ ուղեցույց, գործիքներ, աշխատանքային հոսքեր և փոփոխությունների կառավարման անհրաժեշտ տարրեր։

Հակիրճ սահմանում. ի՞նչ է արհեստական ​​բանականության կողմնակալությունը։

Արհեստական ​​բանականության կողմնակալությունը այն է, երբ արհեստական ​​բանականության համակարգի արդյունքները համակարգված կերպով օգտին կամ անբարենպաստ են դարձնում որոշակի մարդկանց կամ խմբերի համար։ Այն հաճախ բխում է անհավասարակշիռ տվյալներից, չափման նեղ ընտրություններից կամ այն ​​ավելի լայն համատեքստից, որում կառուցվում և օգտագործվում է համակարգը։ Կողմնակալությունը միշտ չէ, որ չարամիտ է, բայց այն կարող է արագորեն մեծացնել վնասը, եթե այն չվերահսկվի։ [1]

Օգտակար տարբերակում. կողմնակալությունը որոշումների կայացման գործընթացում առաջացող շեղումն է, մինչդեռ խտրականությունը աշխարհում առաջացող այդ շեղման վնասակար ազդեցությունն է: Դուք միշտ չէ, որ կարող եք վերացնել բոլոր կողմնակալությունները, բայց պետք է կառավարեք դրանք, որպեսզի դրանք չհանգեցնեն անարդար արդյունքների: [2]

Ինչու՞ կողմնակալությունը հասկանալը իրականում ձեզ ավելի լավն է դարձնում 💡

Տարօրինակ պատկերացում, այնպես չէ՞։ Բայց արհեստական ​​բանականության կողմնակալության մասին ձեզ դարձնում է.

• Ավելի լավ եք նախագծում . դուք ավելի շուտ կնկատեք փխրուն ենթադրությունները։

• Ավելի լավ կառավարում ՝ դուք կփաստաթղթավորեք փոխզիջումները՝ դրանք ձեռքով արձանագրելու փոխարեն։

• Ավելի լավ է զրույցներում ՝ ղեկավարների, կարգավորող մարմինների և տուժած անձանց հետ։

Բացի այդ, արդարության չափանիշների և քաղաքականության լեզուն սովորելը ժամանակ է խնայում հետագայում: Անկեղծ ասած, դա նման է ճանապարհորդությունից առաջ քարտեզ գնելուն՝ անկատար, բայց շատ ավելի լավ, քան տրամադրությունը: [2]

Արհեստական ​​բանականության կողմնակալության տեսակները, որոնք իրականում կտեսնեք վայրի բնության մեջ 🧭

Կողմնակալությունը դրսևորվում է արհեստական ​​բանականության ողջ կյանքի ցիկլի ընթացքում։ Թիմերի կողմից հանդիպող տարածված օրինաչափությունները.

• Տվյալների նմուշառման կողմնակալություն . որոշ խմբեր թերներկայացված են կամ բացակայում են։

• Պիտակների կողմնակալություն - պատմական պիտակները կոդավորում են նախապաշարմունքները կամ աղմկոտ մարդկային դատողությունները:

• Չափման կողմնակալություն ՝ ցուցիչներ, որոնք չեն արտացոլում այն, ինչ դուք իրականում գնահատում եք։

• Գնահատման կողմնակալություն - թեստային հավաքածուները բաց են թողնում որոշակի պոպուլյացիաներ կամ համատեքստեր։

• Տեղակայման կողմնակալություն - լավ լաբորատոր մոդել, որն օգտագործվում է սխալ միջավայրում։

• Համակարգային և մարդկային կողմնակալություն ՝ ավելի լայն սոցիալական օրինաչափություններ և թիմային ընտրություններ, որոնք թափանցում են տեխնոլոգիայի մեջ։

Ստանդարտացման մարմինների կողմից ստեղծված օգտակար մտավոր մոդելը կողմնակալությունը խմբավորում է մարդկային, տեխնիկական և համակարգային կատեգորիաների և խորհուրդ է տալիս սոցիալ-տեխնիկական կառավարում, այլ ոչ թե պարզապես մոդելի փոփոխություններ: [1]

Որտեղ կողմնակալությունը սողոսկում է խողովակի մեջ 🔍

1. Խնդրի ձևակերպում . թիրախը չափազանց նեղ սահմանելով՝ դուք բացառում եք այն մարդկանց, որոնց պետք է սպասարկի ապրանքը։

2. Տվյալների աղբյուր - պատմական տվյալները հաճախ կոդավորում են անցյալի անհավասարությունները:

3. Հատկանիշների ընտրություն . զգայուն ատրիբուտների համար նախատեսված պրոքսիները կարող են վերստեղծել զգայուն ատրիբուտներ։

4. Ուսուցում - նպատակները օպտիմալացնում են միջին ճշգրտությունը, այլ ոչ թե հավասարությունը։

5. Փորձարկում . եթե ձեր պահուստային հավաքածուն աղավաղված է, ձեր չափանիշները նույնպես աղավաղված են։

6. Մոնիթորինգ . օգտատերերի կամ համատեքստի փոփոխությունները կարող են կրկին խնդիրներ առաջացնել։

Կարգավորող մարմինները շեշտը դնում են արդարության ռիսկերի փաստաթղթավորման վրա այս կյանքի ցիկլի ընթացքում, այլ ոչ թե միայն մոդելի համապատասխանեցման ժամանակ։ Սա բոլորի կողմից իրականացվող վարժություն է։ [2]

Ինչպե՞ս չափել արդարությունը՝ առանց շրջանցիկ ճանապարհով գնալու։ 📏

Չկա մեկ չափանիշ, որը կհաշվի առնի դրանք բոլորը։ Ընտրեք՝ հիմնվելով ձեր օգտագործման դեպքի և այն վնասների վրա, որոնցից ցանկանում եք խուսափել։

• Ժողովրդագրական համարժեքություն . ընտրության մակարդակները պետք է նման լինեն խմբերի միջև: Լավ է բաշխման հարցերի համար, բայց կարող է հակասել ճշգրտության նպատակներին: [3]

• Հավասարեցված հավանականություններ - սխալների մակարդակները, ինչպիսիք են կեղծ դրականները և իրական դրականները, պետք է նման լինեն: Օգտակար է, երբ սխալների արժեքը տարբերվում է ըստ խմբի: [3]

• Կալիբրացիա - նույն միավորի դեպքում արդյունքները պետք է հավասարապես հավանական լինեն խմբերի միջև: Օգտակար է, երբ միավորները որոշում են մարդկային որոշումները: [3]

Գործիքակազմերը սա դարձնում են գործնական՝ հաշվարկելով բացթողումները, գրաֆիկները և վահանակները, որպեսզի դուք կարողանաք դադարել գուշակելուց։ [3]

Գործնական եղանակներ՝ կողմնակալությունը նվազեցնելու համար, որոնք իրականում աշխատում են 🛠️

Մտածեք շերտավորված մեղմացումների մասին, այլ ոչ թե մեկ «արծաթե փամփուշտ» կիրառելու մասին.

• Տվյալների աուդիտներ և հարստացում ՝ բացահայտել ծածկույթի բացերը, հավաքել ավելի անվտանգ տվյալներ, որտեղ դա օրինական է, փաստաթղթավորել նմուշառում։

• Վերակշռում և վերընտրանք - կարգավորեք մարզման բաշխումը՝ շեղումը նվազեցնելու համար։

• Մշակման ընթացքում սահմանափակումներ ՝ նպատակին ավելացրեք արդարության նպատակներ, որպեսզի մոդելը անմիջապես սովորի փոխզիջումները։

• Հակառակորդական շեղում - մարզեք մոդելը այնպես, որ զգայուն ատրիբուտները կանխատեսելի չլինեն ներքին ներկայացումներից։

• Հետմշակում - համապատասխան և օրինական դեպքերում չափեք որոշման շեմերը յուրաքանչյուր խմբի համար։

• Մարդկային ցիկլի ստուգումներ ՝ մոդելների զույգավորում բացատրելի ամփոփումներով և էսկալացիայի ուղիներով։

Բաց կոդով գրադարանները, ինչպիսիք են AIF360-ը և Fairlearn-ը, տրամադրում են ինչպես չափանիշներ, այնպես էլ մեղմացման ալգորիթմներ: Դրանք կախարդական չեն, բայց ձեզ կտան համակարգված մեկնարկային կետ: [5][3]

Իրական աշխարհի ապացույց, որ կողմնակալությունը կարևոր է 📸💳🏥

• Դեմքի վերլուծություն - լայնորեն մեջբերված հետազոտությունները փաստագրել են մեծ ճշգրտության անհամապատասխանություններ սեռերի և մաշկի տիպի խմբերի միջև առևտրային համակարգերում, ինչը ոլորտը մղում է դեպի ավելի լավ գնահատման մեթոդներ: [4]

• Բարձր ռիսկային որոշումներ (վարկեր, վարձում, բնակարան) - նույնիսկ առանց դիտավորության, կողմնակալ արդյունքները կարող են հակասել արդարության և խտրականության դեմ պայքարի պարտականություններին: Թարգմանություն՝ դուք պատասխանատու եք հետևանքների, այլ ոչ թե միայն կոդի համար: [2]

Կարճ պատմություն պրակտիկայից. անանուն վարձման էկրանի աուդիտի ժամանակ մի թիմ տեխնիկական պաշտոններում կանանց մոտ հետկանչի բացեր հայտնաբերեց: Պարզ քայլեր՝ ավելի լավ շերտավորված բաժանումներ, առանձնահատկությունների վերանայում և խմբի համար շեմային սահմանում, բացը մեծ մասամբ փակեցին փոքր ճշգրտության փոխզիջման միջոցով: Գաղտնիքը մեկ հնարք չէր. այն կրկնվող չափման-մեղմման-մոնիթորինգի ցիկլն էր:

Քաղաքականություն, օրենք և կառավարում. ինչ տեսք ունի «լավը» 🧾

Դուք պարտավոր չեք իրավաբան լինել, բայց պետք է նախագծեք արդարության և բացատրելիության համար։

• Արդարության սկզբունքներ ՝ մարդակենտրոն արժեքներ, թափանցիկություն և խտրականության բացառում ողջ կյանքի ցիկլի ընթացքում։ [1]

• Տվյալների պաշտպանություն և հավասարություն . անձնական տվյալների դեպքում ակնկալեք արդարության, նպատակի սահմանափակման և անհատական ​​իրավունքների վերաբերյալ պարտականություններ. կարող են կիրառվել նաև ոլորտային կանոններ: Վաղուց պլանավորեք ձեր պարտավորությունները: [2]

• Ռիսկերի կառավարում - օգտագործեք կառուցվածքային շրջանակներ՝ արհեստական ​​բանականության ռիսկերի ավելի լայն ծրագրերի շրջանակներում կողմնակալությունը բացահայտելու, չափելու և վերահսկելու համար: Գրեք այն: Վերանայեք այն: Կրկնեք: [1]

Փոքրիկ մի բան էլ. թղթաբանությունը պարզապես բյուրոկրատիա չէ. դա այն է, թե ինչպես ես ապացուցում, որ իրականում կատարել ես աշխատանքը, եթե ինչ-որ մեկը հարցնի։

Համեմատական ​​աղյուսակ. գործիքներ և շրջանակներ արհեստական ​​բանականության կողմնակալությունը զսպելու համար 🧰📊

Սրանցից յուրաքանչյուրը կօգնի ձեզ պատասխանել , թե ինչ է արհեստական ​​բանականության կողմնակալությունը ձեր համատեքստում՝ տրամադրելով ձեզ կառուցվածք, չափանիշներ և ընդհանուր բառապաշար։

Կարճ, մի փոքր կարծիքային աշխատանքային հոսք 🧪

1. Նշեք այն վնասը, որից ցանկանում եք խուսափել ՝ բաշխման վնաս, սխալների մակարդակի անհավասարություն, արժանապատվության վնաս և այլն։

2. Ընտրեք այդ վնասին համապատասխանող չափանիշ , օրինակ՝ հավասարեցված հավանականություն, եթե սխալի համարժեքությունը կարևոր է։ [3]

3. Գործարկեք բազային գծերը ՝ օգտագործելով այսօրվա տվյալները և մոդելը: Պահպանեք արդարության մասին հաշվետվությունը:

4. Սկզբում փորձեք նվազագույն շփոթեցնող լուծումներ ՝ տվյալների ավելի լավ բաժանում, շեմային սահմանում կամ վերակշռում։

5. անցեք մշակման ընթացքում առկա սահմանափակումներին։

6. Վերագնահատեք իրական օգտատերերին ներկայացնող պահված հավաքածուները։

7. Հսկեք արտադրությունը ՝ բաշխման տեղաշարժեր տեղի են ունենում, վահանակները նույնպես պետք է տեղի ունենան։

8. Փաստաթղթավորեք փոխզիջումները . արդարությունը համատեքստային է, ուստի բացատրեք, թե ինչու ընտրեցիք X հավասարությունը Y հավասարության փոխարեն։ [1][2]

Կարգավորող մարմիններն ու ստանդարտացման մարմինները որոշակի պատճառով շարունակում են շեշտը դնել կյանքի ցիկլի մտածողության վրա։ Այն աշխատում է։ [1]

Հաղորդակցման խորհուրդներ շահագրգիռ կողմերի համար 🗣️

• Խուսափեք միայն մաթեմատիկական բացատրություններից ՝ նախ ցույց տվեք պարզ դիագրամներ և կոնկրետ օրինակներ:

• Օգտագործեք պարզ լեզու ՝ նշեք, թե մոդելը ինչ անարդարացի կարող է անել և ով կարող է տուժել։

• Մակերեսային փոխզիջումներ ՝ արդարության սահմանափակումները կարող են փոխել ճշգրտությունը. դա սխալ չէ, եթե նվազեցնում է վնասը։

• Պլանավորեք արտակարգ իրավիճակները . ինչպես դադարեցնել կամ հետ քաշվել, եթե խնդիրներ առաջանան։

• Հրավիրեք մանրակրկիտ ուսումնասիրություն . արտաքին վերանայումը կամ կարմիր թիմի համադրությունը բացահայտում են կույր կետերը: Ոչ ոքի դուր չի գալիս դա, բայց օգնում է: [1][2]

Հաճախակի տրվող հարցեր. իրականում ի՞նչ է արհեստական ​​բանականության կողմնակալությունը։ ❓

Մի՞թե կողմնակալությունը միայն վատ տվյալներ չեն։
Ոչ միայն։ Տվյալները կարևոր են, բայց մոդելավորման ընտրությունները, գնահատման դիզայնը, տեղակայման համատեքստը և թիմային խթանները՝ բոլորը ազդում են արդյունքների վրա։ [1]

Կարո՞ղ եմ ամբողջությամբ վերացնել կողմնակալությունը։
Սովորաբար՝ ոչ։ Դուք ձգտում եք կառավարել կողմնակալությունը, որպեսզի այն չառաջացնի անարդար հետևանքներ՝ մտածեք կրճատման և կառավարման մասին, այլ ոչ թե կատարելության։ [2]

Արդարության որ չափանիշը պետք է օգտագործեմ:
Ընտրեք վնասի տեսակի և տիրույթի կանոնների հիման վրա: Օրինակ, եթե կեղծ դրական արդյունքները ավելի շատ վնաս են հասցնում խմբին, կենտրոնացեք սխալի մակարդակի համարժեքության (հավասարեցված հավանականություն) վրա: [3]

Արդյո՞ք ինձ անհրաժեշտ է իրավական վերանայում:
Եթե ձեր համակարգը շոշափում է մարդկանց հնարավորությունները կամ իրավունքները, այո: Սպառողների և հավասարության վրա հիմնված կանոնները կարող են կիրառվել ալգորիթմական որոշումների նկատմամբ, և դուք պետք է ցույց տաք ձեր աշխատանքը: [2]

Վերջնական դիտողություններ՝ չափազանց երկար, չկարդացի 🧾✨

Եթե ​​ինչ-որ մեկը հարցնի ձեզ, թե ինչ է արհեստական ​​բանականության կողմնակալությունը , ահա մի փոքր պարզ պատասխան. դա արհեստական ​​բանականության արդյունքների համակարգված աղավաղում է, որը կարող է անարդար հետևանքներ ունենալ իրական աշխարհում: Դուք այն ախտորոշում եք համատեքստին համապատասխան չափանիշներով, մեղմացնում այն ​​շերտավոր տեխնիկայով և կառավարում այն ​​ամբողջ կյանքի ցիկլի ընթացքում: Սա մեկ սխալ չէ, որը կարելի է ճնշել. սա ապրանքի, քաղաքականության և մարդկանց հարց է, որը պահանջում է չափման, փաստաթղթավորման և համեստության կայուն թմբկահարություն: Կարծում եմ՝ չկա որևէ լուծում... բայց կան պատշաճ ստուգաթերթիկներ, ազնիվ փոխզիջումներ և ավելի լավ սովորություններ: Եվ այո, մի քանի էմոջիները երբեք չեն վնասում: 🙂

Հղումներ

1. NIST-ի հատուկ հրատարակություն 1270 - Արհեստական ​​բանականության մեջ կողմնակալության բացահայտման և կառավարման ստանդարտի ուղղությամբ ։ Հղում

2. Մեծ Բրիտանիայի տեղեկատվության հանձնակատարի գրասենյակ - Իսկ ի՞նչ կասեք արդարության, կողմնակալության և խտրականության մասին: Հղում

3. Fairlearn-ի փաստաթղթեր - Արդարության ընդհանուր չափանիշներ (ժողովրդագրական հավասարություն, հավասարեցված շանսեր, կալիբրացիա): Հղում

4. Բուոլամվինի, Ջ., և Գեբրու, Թ. (2018): Սեռական երանգներ. հատույթային ճշգրտության անհամապատասխանություններ առևտրային սեռային դասակարգման մեջ : FAT* / PMLR: Հղում

5. IBM Research - Ներկայացնում ենք արհեստական ​​բանականության արդարություն 360-ը (AIF360) : Հղում

Գտեք արհեստական ​​բանականության վերջին նորույթները պաշտոնական արհեստական ​​բանականության օգնականների խանութում

Մեր մասին