Այս տերմինը հնչում է վեհ, բայց նպատակը չափազանց գործնական է՝ ստեղծել արհեստական բանականության համակարգեր, որոնց մարդիկ կարող են վստահել, քանի որ դրանք նախագծված, կառուցված և օգտագործվում են այնպես, որ հարգեն մարդու իրավունքները, նվազեցնեն վնասը և իրական օգուտ բերեն։ Այսքանը, հիմնականում։
Հոդվածներ, որոնք կարող են ձեզ դուր գալ կարդալ սրանից հետո.
🔗 Ի՞նչ է MCP-ն արհեստական բանականության մեջ։
Բացատրում է մոդուլային հաշվարկային արձանագրությունը և դրա դերը արհեստական ինտելեկտում։
🔗 Ի՞նչ է եզրային արհեստական բանականությունը (Edge AI)
Ներառում է, թե ինչպես են եզրերի վրա հիմնված մշակումը հնարավորություն տալիս ավելի արագ, տեղական արհեստական ինտելեկտի որոշումներ կայացնել։
🔗 Ի՞նչ է գեներատիվ արհեստական բանականությունը
Ներկայացնում է մոդելներ, որոնք ստեղծում են տեքստ, պատկերներ և այլ օրիգինալ բովանդակություն։
🔗 Ի՞նչ է գործակալական արհեստական բանականությունը
Նկարագրում է ինքնավար արհեստական ինտելեկտի գործակալներ, որոնք ունակ են նպատակային որոշումներ կայացնելուն։
Ի՞նչ է արհեստական բանականության էթիկան։ Պարզ սահմանում 🧭
Արհեստական բանականության էթիկան սկզբունքների, գործընթացների և պաշտպանիչ ցանկապատերի ամբողջություն է, որը ուղղորդում է, թե ինչպես ենք մենք նախագծում, մշակում, տեղակայում և կառավարում արհեստական բանականությունը, որպեսզի այն պաշտպանի մարդու իրավունքները, արդարությունը, հաշվետվողականությունը, թափանցիկությունը և սոցիալական բարօրությունը: Մտածեք դրա մասին որպես ալգորիթմների ամենօրյա կանոնների՝ լրացուցիչ ստուգումներով այն տարօրինակ անկյունների համար, որտեղ բաները կարող են սխալ ընթանալ:
Համաշխարհային չափանիշները հաստատում են սա. ՅՈՒՆԵՍԿՕ-ի առաջարկությունը կենտրոնանում է մարդու իրավունքների, մարդկային վերահսկողության և արդարադատության վրա՝ թափանցիկությունն ու արդարությունը որպես անվիճելի արժեքներ [1]: Տնտեսական համագործակցության և զարգացման կազմակերպության (OECD) արհեստական բանականության սկզբունքները նպատակ ունեն ստեղծել վստահելի արհեստական բանականություն, որը հարգում է ժողովրդավարական արժեքները՝ միաժամանակ մնալով գործնական քաղաքականության և ինժեներական թիմերի համար [2]:
Ամփոփելով՝ արհեստական բանականության էթիկան պատին կախված պաստառ չէ։ Այն թիմերի կողմից օգտագործվող ձեռնարկ է՝ ռիսկերը կանխատեսելու, վստահելիությունը ապացուցելու և մարդկանց պաշտպանելու համար։ NIST-ի արհեստական բանականության ռիսկերի կառավարման շրջանակը էթիկան դիտարկում է որպես ակտիվ ռիսկերի կառավարում արհեստական բանականության ողջ կյանքի ցիկլի ընթացքում [3]:
Ի՞նչն է դարձնում արհեստական բանականության էթիկան լավը ✅
Ահա ուղիղ տարբերակը։ Արհեստական բանականության էթիկայի լավ ծրագիր.
-
Ապրված է, ոչ թե լամինացված ՝ քաղաքականություններ, որոնք խթանում են իրական ճարտարագիտական գործունեությունն ու վերանայումները։
-
Սկսվում է խնդրի ձևակերպումից . եթե նպատակը սխալ է, ապա արդարության ոչ մի լուծում չի փրկի այն։
-
Փաստաթղթեր՝ որոշումներ ՝ ինչու՞ այս տվյալները, ինչու՞ այս մոդելը, ինչու՞ այս շեմը։
-
Թեստեր համատեքստով . գնահատեք ենթախմբով, այլ ոչ թե միայն ընդհանուր ճշգրտությամբ (NIST-ի հիմնական թեմա) [3]:
-
Ցուցադրում է դրա աշխատանքը ՝ մոդելային քարտեր, տվյալների հավաքածուի փաստաթղթեր և օգտագործողի հստակ հաղորդակցություններ [5]:
-
Կառուցում է հաշվետվողականություն ՝ անվանական սեփականատերեր, էսկալացիայի ուղիներ, աուդիտի հնարավորությունը։
-
Բացահայտ հավասարակշռում է փոխզիջումները ՝ անվտանգությունն ընդդեմ օգտակարության և գաղտնիության, գրի առնված։
-
Կապվում է օրենքի հետ ՝ ռիսկի վրա հիմնված պահանջներ, որոնք մասշտաբավորում են վերահսկողությունը՝ ազդեցությամբ (տե՛ս ԵՄ արհեստական բանականության մասին օրենքը) [4]:
Եթե դա չի փոխում որևէ ապրանքի վերաբերյալ որոշում, ապա դա էթիկա չէ, այլ դեկոր։
Արագ պատասխան կարևոր հարցին. Ի՞նչ է արհեստական բանականության էթիկան։ 🥤
Ահա թե ինչպես են թիմերը պատասխանում երեք կրկնվող հարցերի՝ կրկին ու կրկին.
-
Պե՞տք է սա կառուցենք։
-
Եթե այո, ինչպե՞ս կարող ենք նվազեցնել վնասը և ապացուցել այն։
-
Երբ իրերը վատ են ընթանում, ո՞վ է պատասխանատու և ի՞նչ է կատարվում հաջորդիվ։
Ձանձրալիորեն գործնական։ Զարմանալիորեն դժվար։ Արժանի էր։
60 վայրկյան տևողությամբ մինի-գործ (պրակտիկ փորձ) 📎
Ֆինտեխ թիմը խարդախության մոդել է ներկայացնում մեծ ընդհանուր ճշգրտությամբ: Երկու շաբաթ անց որոշակի տարածաշրջանից աջակցության տոմսերի կտրուկ աճ է նկատվում՝ օրինական վճարումները արգելափակվում են: Ենթախմբի վերանայումը ցույց է տալիս, որ այդ տեղանքի համար հետադարձ կապը միջինից 12 միավորով ցածր է: Թիմը վերանայում է տվյալների ծածկույթը, վերապատրաստվում՝ ավելի լավ ներկայացվածությամբ և հրապարակում է թարմացված մոդելային քարտ , որը փաստաթղթավորում է փոփոխությունը, հայտնի նախազգուշացումները և օգտատիրոջ բողոքարկման ուղին: Ճշգրտությունը նվազում է մեկ միավորով. հաճախորդների վստահությունը բարձրանում է: Սա էթիկա է որպես ռիսկերի կառավարում և օգտատիրոջ հարգանք , այլ ոչ թե հրապարակող [3][5]:
Գործիքներ և շրջանակներ, որոնք կարող եք իրականում օգտագործել 📋
(Միտումնավոր ներառված են մանրուքներ՝ սա իրական կյանքն է):
| Գործիք կամ շրջանակ | Լսարան | Գինը | Ինչու է այն աշխատում | Նշումներ |
|---|---|---|---|---|
| NIST արհեստական բանականության ռիսկերի կառավարման շրջանակ | Արտադրանք, ռիսկ, քաղաքականություն | Անվճար | Մաքուր գործառույթներ՝ Կառավարել, Քարտեզագրել, Չափել, Կառավարել, Հավասարեցնել թիմերը | Կամավոր, լայնորեն հիշատակվող [3] |
| Տնտեսական համագործակցության և զարգացման կազմակերպության (OECD) արհեստական բանականության սկզբունքները | Գործադիրներ, քաղաքականության մշակողներ | Անվճար | Արժեքներ + գործնական խորհուրդներ հուսալի արհեստական բանականության համար | Հաստատուն կառավարում հյուսիսային աստղ [2] |
| ԵՄ արհեստական բանականության մասին օրենք (ռիսկի վրա հիմնված) | Իրավական, համապատասխանության, տեխնիկական տնօրենների | Անվճար* | Ռիսկի մակարդակները սահմանում են համաչափ վերահսկողություն բարձր ազդեցություն ունեցող օգտագործման համար | Համապատասխանության ծախսերը տարբեր են [4] |
| Մոդելային քարտեր | ML ինժեներներ, PM-ներ | Անվճար | Ստանդարտացնում է, թե ինչ է մոդելը, ինչ է անում և որտեղ է այն ձախողվում | Թուղթ + օրինակներ գոյություն ունեն [5] |
| Տվյալների հավաքածուի փաստաթղթեր («տվյալների թերթիկներ») | Տվյալների գիտնականներ | Անվճար | Բացատրում է տվյալների ծագումը, ծածկույթը, համաձայնությունը և ռիսկերը | Վերաբերվեք դրան որպես սննդային արժեքի պիտակի |
Խորը ուսումնասիրություն 1 - Սկզբունքները գործողության մեջ, ոչ թե տեսության մեջ 🏃
-
Արդարություն - Գնահատեք կատարողականը ժողովրդագրական և համատեքստային ցուցանիշներով. ընդհանուր չափանիշները թաքցնում են վնասը [3]:
-
Հաշվետվողականություն - Նշանակեք սեփականատերեր տվյալների, մոդելի և տեղակայման որոշումների համար: Պահպանեք որոշումների գրանցամատյաններ:
-
Թափանցիկություն - Օգտագործեք մոդելային քարտեր. տեղեկացրեք օգտատերերին, թե որքանով է ավտոմատացված որոշումը և ինչպիսի՞ միջոցներ կան [5]:
-
Մարդկային վերահսկողություն - Մարդկանց տեղեկացնել բարձր ռիսկային որոշումների կայացման գործընթացի մասին՝ իրական կասեցման/չեղարկման լիազորություններով (որը հստակորեն նշվել է ՅՈՒՆԵՍԿՕ-ի կողմից) [1]:
-
Գաղտնիություն և անվտանգություն - Նվազագույնի հասցրեք և պաշտպանեք տվյալները. հաշվի առեք եզրակացության ժամանակի արտահոսքը և տվյալների հետագա չարաշահումը։
-
Բարեգործություն - ցույց տվեք սոցիալական օգուտը, այլ ոչ թե պարզապես պարզ KPI-ներ (OECD-ն շրջանակում է այս հավասարակշռությունը) [2]:
Փոքրիկ շեղում. թիմերը երբեմն ժամերով վիճում են չափանիշների անվանումների շուրջ՝ անտեսելով իրական վնասի հարցը։ Զվարճալի է, թե ինչպես է դա պատահում։
Խորը ուսումնասիրություն 2 - Ռիսկերը և դրանց չափման եղանակները 📏
Էթիկական արհեստական բանականությունը դառնում է կոնկրետ, երբ դուք վնասին վերաբերվում եք որպես չափելի ռիսկի։
-
Համատեքստային քարտեզագրում - Ո՞վ է տուժում, ուղղակիորեն և անուղղակիորեն: Ի՞նչ որոշումների կայացման լիազորություններ ունի համակարգը:
-
Տվյալների համապատասխանություն - ներկայացում, շեղում, պիտակավորման որակ, համաձայնության ուղիներ։
-
Մոդելի վարքագիծ - Բաշխման տեղաշարժի, հակառակորդական հուշումների կամ չարամիտ մուտքերի դեպքում ձախողման ռեժիմներ։
-
Ազդեցության գնահատում - Լարվածություն × հավանականություն, մեղմացման միջոցառումներ և մնացորդային ռիսկ։
-
Կենսական ցիկլի կառավարում ՝ խնդրի մշակումից մինչև տեղակայումից հետո մոնիթորինգ։
NIST-ը սա բաժանում է չորս գործառույթի, որոնք թիմերը կարող են ընդունել առանց անիվը վերափոխելու՝ կառավարել, քարտեզագրել, չափել, կառավարել [3]:
Խորը ուսումնասիրություն 3 - Փաստաթղթեր, որոնք կփրկեն ձեզ ավելի ուշ 🗂️
Երկու համեստ արտեֆակտներ ավելին են անում, քան ցանկացած կարգախոս.
-
Մոդելային քարտեր - Ինչի՞ համար է մոդելը, ինչպես է այն գնահատվել, որտեղ է այն ձախողվել, էթիկական նկատառումներ և նախազգուշացումներ՝ կարճ, կառուցվածքային, ընթեռնելի [5]:
-
Տվյալների հավաքածուի փաստաթղթավորում («տվյալների թերթիկներ») - Ինչու են գոյություն ունենում այս տվյալները, ինչպես են դրանք հավաքագրվել, ովքեր են ներկայացված, հայտնի բացթողումները և առաջարկվող կիրառությունները։
Եթե երբևէ ստիպված եք եղել կարգավորող մարմիններին կամ լրագրողներին բացատրել, թե ինչու է որևէ մոդել վատ վարվել, դուք շնորհակալ կլինեք ձեր անցյալ «ես»-ին սա գրելու համար։ Ապագայում դուք կգնեք անցյալում ձեզ համար սուրճ։
Խորը վերլուծություն 4 - Կառավարում, որն իրականում կծում է 🧩
-
Սահմանեք ռիսկի մակարդակները . փոխառեք ռիսկի վրա հիմնված գաղափարը, որպեսզի բարձր ազդեցության կիրառման դեպքերը ավելի խորը ուսումնասիրության ենթարկվեն [4]:
-
Փուլային դարպասներ - Էթիկայի ստուգում ընդունման, մեկնարկից առաջ և մեկնարկից հետո: Ոչ թե տասնհինգ դարպաս: Երեքը բավարար է:
-
Պարտականությունների բաժանում - Մշակողները առաջարկում են, ռիսկի գործընկերները վերանայում են, ղեկավարները ստորագրում են: Հստակ սահմաններ:
-
Միջադեպի արձագանք - Ո՞վ է դադարեցնում մոդելը, ինչպես են օգտատերերը տեղեկացվում, ինչպիսին է շտկման գործընթացը։
-
Անկախ աուդիտներ ՝ ներքինը՝ նախևառաջ, արտաքինը՝ որտեղ շահագրգռվածությունը պահանջում է։
-
Ուսուցում և խրախուսանքներ - Պարգևատրեք խնդիրները վաղ փուլում ի հայտ բերելով, այլ ոչ թե դրանք թաքցնելով։
Եկեք անկեղծ լինենք. եթե կառավարումը երբեք «ոչ» , ապա դա կառավարում չէ։
Խորը ուսումնասիրություն 5 - Մարդիկ իրադարձությունների մեջ են, ոչ թե որպես աքսեսուարներ 👩⚖️
Մարդկային վերահսկողությունը նշման վանդակ չէ, այլ դիզայնի ընտրություն։
-
Երբ մարդիկ որոշում են ՝ հստակ սահմաններ, թե երբ մարդը պետք է վերանայի, հատկապես բարձր ռիսկի արդյունքների համար։
-
Բացատրելիություն որոշում կայացնողների համար - Մարդուն տվեք և՛ պատճառը , և՛ անորոշությունը ։
-
Օգտատիրոջ հետադարձ կապի ցիկլեր - Թույլ տվեք օգտատերերին վիճարկել կամ ուղղել ավտոմատացված որոշումները։
-
Հասանելիություն - Ինտերֆեյսներ, որոնք տարբեր օգտատերեր կարող են հասկանալ և իրականում օգտագործել։
ՅՈՒՆԵՍԿՕ-ի ուղեցույցը պարզ է. մարդկային արժանապատվությունը և վերահսկողությունը հիմնական են, այլ ոչ թե ընտրովի: Կառուցեք արտադրանքը այնպես, որ մարդիկ կարողանան միջամտել, նախքան վնասը կհասնի [1]:
Կողմնակի նշում՝ Հաջորդ սահմանը՝ նեյրոտեխնոլոգիա 🧠
Քանի որ արհեստական բանականությունը հատվում է նեյրոտեխնոլոգիայի հետ, մտավոր գաղտնիությունը և մտքի ազատությունը դառնում են իրական դիզայնի նկատառումներ: Նույն խաղային ձեռնարկն է կիրառվում՝ իրավունքակենտրոն սկզբունքներ [1], նախագծով վստահելի կառավարում [2] և բարձր ռիսկային օգտագործման համար համաչափ երաշխիքներ [4]: Կառուցեք վաղ պաշտպանիչ ցանկապատեր, այլ ոչ թե դրանք ավելի ուշ ամրացրեք ամրակներով:
Ինչպե՞ս են թիմերը պատասխանում. Ի՞նչ է արհեստական բանականության էթիկան գործնականում. աշխատանքային հոսք 🧪
Փորձեք այս պարզ ցիկլը։ Այն կատարյալ չէ, բայց համառորեն արդյունավետ է։
-
Նպատակի ստուգում . Ի՞նչ մարդկային խնդիր ենք լուծում, և ո՞վ է օգուտ քաղում կամ կրում ռիսկը։
-
Համատեքստային քարտեզ - շահագրգիռ կողմեր, միջավայրեր, սահմանափակումներ, հայտնի վտանգներ։
-
Տվյալների պլան - Աղբյուրներ, համաձայնություն, ներկայացուցչականություն, պահպանում, փաստաթղթավորում:
-
Անվտանգության համար նախատեսված նախագծում - Հակառակորդական փորձարկում, կարմիր թիմավորում, նախագծման միջոցով գաղտնիության պահպանում։
-
Սահմանեք արդարությունը - ընտրեք տիրույթին համապատասխան չափանիշներ, փաստաթղթավորեք փոխզիջումները։
-
Բացատրելիության պլան - Ի՞նչ է բացատրվելու, ո՞ւմ և ինչպե՞ս եք հաստատելու օգտակարությունը։
-
Մոդելի քարտ - Նախնական նախագծում, թարմացում աշխատանքի ընթացքում, հրապարակում մեկնարկի ժամանակ [5]:
-
Կառավարման դարպասներ - Ռիսկերի վերանայումներ հաշվետու սեփականատերերի հետ. կառուցվածք՝ օգտագործելով NIST-ի գործառույթները [3]:
-
Գործարկումից հետո մոնիթորինգ - չափորոշիչներ, շեղումների մասին ծանուցումներ, միջադեպերի ձեռնարկներ, օգտատերերի բողոքներ:
Եթե քայլը ծանր է թվում, չափեք այն ռիսկին համապատասխան։ Ահա թե ինչն է գաղտնիքը։ Ուղղագրության ուղղման բոտի չափազանց շատ մշակումը ոչ մեկին չի օգնում։
Էթիկա ընդդեմ համապատասխանության՝ կծու, բայց անհրաժեշտ տարբերությունը 🌶️
-
Էթիկան հարցնում է՝ արդյո՞ք սա է ճիշտ բանը մարդկանց համար։
-
Համապատասխանության հարցը հետևյալն է՝ արդյո՞ք սա համապատասխանում է կանոնագրքին։
Ձեզ անհրաժեշտ են երկուսն էլ։ ԵՄ-ի ռիսկերի վրա հիմնված մոդելը կարող է լինել ձեր համապատասխանության հիմքը, բայց ձեր էթիկայի ծրագիրը պետք է գերազանցի նվազագույն սահմանները, հատկապես երկիմաստ կամ նորարարական օգտագործման դեպքերում [4]:
Արագ (թերի) փոխաբերություն. հնազանդությունը ցանկապատն է, էթիկան՝ հովիվը: Ցանկապատը ձեզ սահմանների մեջ է պահում, հովիվը ձեզ ճիշտ ուղղությամբ է պահում:
Հաճախակի սխալներ և ինչ անել փոխարենը 🚧
-
Թակարդ. էթիկայի թատրոն ՝ ֆանտաստիկ սկզբունքներ՝ առանց ռեսուրսների։
Լուծում՝ հատկացրեք ժամանակ, սեփականատերեր և վերանայեք ստուգիչ կետերը։ -
Թակարդ. վնասի միջինացումը ՝ լավ ընդհանուր չափանիշները թաքցնում են ենթախմբերի ձախողումը:
Ուղղում՝ միշտ գնահատեք համապատասխան ենթաբազմություններով [3]: -
Թակարդ. գաղտնիություն, որը քողարկվում է որպես անվտանգություն ՝ թաքցնելով մանրամասները օգտատերերից:
Լուծում՝ բացահայտեք հնարավորությունները, սահմանափակումները և միջոցները պարզ լեզվով [5]: -
Թակարդ. աուդիտ վերջում . խնդիրների հայտնաբերում անմիջապես մեկնարկից առաջ:
Ուղղում՝ տեղաշարժել ձախ՝ էթիկան դարձնելով դիզայնի և տվյալների հավաքագրման մաս: -
Թակարդ. ստուգաթերթիկներ առանց դատողության ՝ ձևերին հետևելը իմաստ չունի։
Լուծում՝ ձևանմուշները համատեղել փորձագիտական ակնարկի և օգտատերերի հետազոտության հետ։
Հաճախակի տրվող հարցեր՝ հարցեր, որոնք ձեզ միևնույն է կհարցնեն ❓
Արհեստական բանականության էթիկան հականորարարությո՞ւն է։
Ոչ։ Այն օգտակար նորարարություն է։ Էթիկան խուսափում է փակուղիներից, ինչպիսիք են կողմնակալ համակարգերը, որոնք առաջացնում են բացասական արձագանք կամ իրավական խնդիրներ։ Տնտեսական համագործակցության և զարգացման կազմակերպության (OECD) կառուցվածքը հստակորեն խրախուսում է անվտանգ նորարարությունը [2]:
Մեզ սա պե՞տք է, եթե մեր արտադրանքը ցածր ռիսկային է։
Այո, բայց ավելի թեթև։ Օգտագործեք համամասնական վերահսկողություն։ Այդ ռիսկի վրա հիմնված գաղափարը ստանդարտ է ԵՄ մոտեցման մեջ [4]:
Ի՞նչ փաստաթղթեր են պարտադիր։
Առնվազն՝ ձեր հիմնական տվյալների հավաքածուների տվյալների բազայի փաստաթղթեր, յուրաքանչյուր մոդելի մոդելային քարտ և թողարկման որոշումների գրանցամատյան [5]:
Ո՞վ է տիրապետում արհեստական բանականության էթիկային։
Բոլորը տիրապետում են վարքագծին, բայց արտադրանքի, տվյալների գիտության և ռիսկերի կառավարման թիմերը պետք է ունենան անվանական պատասխանատվություններ։ NIST-ի գործառույթները լավ հիմք են հանդիսանում [3]:
Շատ երկար չէի կարդացել - Վերջնական դիտողություններ 💡
Եթե այս ամենը կարդացել եք, ահա թե ինչ է էությունը. Ի՞նչ է արհեստական բանականության էթիկան։ Դա արհեստական բանականություն կառուցելու գործնական առարկա է, որին մարդիկ կարող են վստահել։ Հիմնվեք լայնորեն ընդունված ուղեցույցների վրա՝ ՅՈՒՆԵՍԿՕ-ի իրավունքների վրա կենտրոնացած տեսակետին և OECD-ի վստահելի արհեստական բանականության սկզբունքներին։ Օգտագործեք NIST-ի ռիսկերի շրջանակը՝ այն գործնականում կիրառելու համար, և ուղարկեք մոդելային քարտերի և տվյալների բազայի փաստաթղթերի հետ միասին, որպեսզի ձեր ընտրությունները ընթեռնելի լինեն։ Այնուհետև շարունակեք լսել՝ օգտատերերին, շահագրգիռ կողմերին, ձեր սեփական մոնիթորինգին, և հարմարվեք։ Էթիկան մեկանգամյա գործողություն չէ. դա սովորություն է։
Եվ այո, երբեմն դուք կուղղորդվեք ճիշտ ուղղությամբ։ Դա ձախողում չէ։ Դա է աշխատանքը։ 🌱
Հղումներ
-
ՅՈՒՆԵՍԿՕ - Արհեստական ինտելեկտի էթիկայի վերաբերյալ առաջարկություն (2021): Հղում
-
Տնտեսական համագործակցության և զարգացման կազմակերպության (OECD) - Արհեստական բանականության սկզբունքներ (2019): Հղում
-
NIST - Արհեստական բանականության ռիսկերի կառավարման շրջանակ (AI RMF 1.0) (2023) (PDF): Հղում
-
EUR-Lex - Կանոնակարգ (ԵՄ) 2024/1689 (Արհեստական բանականության մասին օրենք): Հղում
-
Միտչել և այլք - «Մոդելային քարտեր մոդելային հաշվետվությունների համար» (ACM, 2019): Հղում