Կարճ պատասխան. Արհեստական բանականության ալգորիթմը մեթոդ է, որն օգտագործում է համակարգիչը տվյալներից օրինաչափություններ սովորելու, այնուհետև կանխատեսումներ կամ որոշումներ կայացնելու համար՝ օգտագործելով մարզված մոդել: Այն ֆիքսված «եթե-ապա» տրամաբանություն չէ. այն հարմարվում է օրինակներին և հետադարձ կապին հանդիպելուն պես: Երբ տվյալները փոխվում են կամ ունեն շեղումներ, դրանք դեռևս կարող են հանգեցնել վստահ սխալների:
Հիմնական եզրակացություններ՝
Սահմանումներ ՝ Առանձնացրեք ուսուցման բաղադրատոմսը (ալգորիթմը) մարզված կանխատեսողից (մոդելից):
Կյանքի ցիկլ . ուսուցումը և եզրակացությունը դիտարկեք որպես առանձին գործընթացներ. ձախողումները հաճախ ի հայտ են գալիս տեղակայումից հետո։
Հաշվետվողականություն . Որոշեք, թե ով է վերանայում սխալները և ինչ է կատարվում, երբ համակարգը սխալվում է։
Չարաշահման դիմադրություն . ուշադրություն դարձրեք արտահոսքին, ավտոմատացման կողմնակալությանը և մետրիկ խաղերին, որոնք կարող են ուռճացնել արդյունքները։
Աուդիտալիություն . Հետևեք տվյալների աղբյուրներին, կարգավորումներին և գնահատումներին, որպեսզի որոշումները հետագայում մնան վիճարկելի։
Հոդվածներ, որոնք կարող են ձեզ դուր գալ կարդալ սրանից հետո
🔗 Ի՞նչ է արհեստական բանականության էթիկան
Պատասխանատու արհեստական բանականության սկզբունքներ՝ արդարություն, թափանցիկություն, հաշվետվողականություն և անվտանգություն։.
🔗 Ի՞նչ է արհեստական բանականության կողմնակալությունը
Ինչպես են կողմնակալ տվյալները աղավաղում արհեստական բանականության արդյունքները և ինչպես շտկել դա։.
🔗 Ի՞նչ է արհեստական բանականության մասշտաբայնությունը
Արհեստական ինտելեկտի համակարգերի մասշտաբավորման եղանակներ՝ տվյալներ, հաշվարկներ, տեղակայում և գործողություններ։.
🔗 Ի՞նչն է բացատրելի արհեստական բանականությունը
Ինչու են մեկնաբանելի մոդելները կարևոր վստահության, վրիպազերծման և համապատասխանության համար։.
Ի՞նչ է իրականում արհեստական բանականության ալգորիթմը։ 🧠
Արհեստական բանականության ալգորիթմը համակարգիչն օգտագործում է հետևյալի համար.
-
Սովորեք տվյալներից (կամ հետադարձ կապից)
-
Ճանաչել օրինաչափությունները
-
Կանխատեսումներ կամ որոշումներ կայացրեք
-
Բարելավեք կատարողականը փորձի միջոցով [1]
Դասական ալգորիթմները նման են հետևյալին. «Դասավորեք այս թվերը աճման կարգով»: Հստակ քայլեր, նույն արդյունքը ամեն անգամ:.
Արհեստական բանականությանը բնորոշ ալգորիթմները ավելի շատ նման են հետևյալին. «Ահա միլիոն օրինակ։ Խնդրում եմ, պարզեք, թե ինչ է «կատուն»։ Այնուհետև այն կառուցում է ներքին օրինաչափություն, որը սովորաբար աշխատում է։ Սովորաբար։ Երբեմն այն տեսնում է փափուկ բարձ և լիակատար վստահությամբ գոռում է «ԿԱՏՈՒ»։ 🐈⬛
Արհեստական բանականության ալգորիթմ ընդդեմ արհեստական բանականության մոդելի. տարբերությունը, որը մարդիկ անտեսում են 😬
Սա արագորեն վերացնում է շատ շփոթմունքներ.
-
Արհեստական բանականության ալգորիթմ = ուսուցման մեթոդ / մարզման մոտեցում
(«Ահա թե ինչպես ենք մենք թարմացնում մեզ տվյալներից»): -
Արհեստական բանականության մոդել = մարզված արտեֆակտը, որը դուք գործարկում եք նոր մուտքային տվյալներով
(«Սա է այն, ինչն այժմ կանխատեսումներ է անում») [1]
Այսպիսով, ալգորիթմը նման է եփման գործընթացին, իսկ մոդելը՝ պատրաստի կերակուրը 🍝: Մի փոքր տատանվող փոխաբերություն, գուցե, բայց ճիշտ է:.
Բացի այդ, նույն ալգորիթմը կարող է ստեղծել խիստ տարբեր մոդելներ՝ կախված հետևյալից
-
տվյալները, որոնք դուք տրամադրում եք դրան
-
ձեր ընտրած կարգավորումները
-
որքա՞ն ժամանակ եք մարզվում
-
որքան անկանոն է ձեր տվյալների հավաքածուն (սփոյլեր՝ այն գրեթե միշտ անկանոն է)
Ինչու է արհեստական բանականության ալգորիթմը կարևոր (նույնիսկ եթե դուք «տեխնիկական» մասնագետ չեք) 📌
Նույնիսկ եթե դուք երբեք կոդի մի տող անգամ չեք գրում, արհեստական բանականության ալգորիթմները միևնույն է ազդում են ձեզ վրա։ Շատ։.
Մտածեք՝ սպամի ֆիլտրեր, խարդախության ստուգումներ, առաջարկություններ, թարգմանություն, բժշկական պատկերագրության աջակցություն, երթուղու օպտիմալացում և ռիսկի գնահատում: (Ոչ թե որովհետև արհեստական բանականությունը «կենդանի է», այլ որովհետև մասշտաբային օրինաչափությունների ճանաչումը արժեքավոր է միլիոնավոր հանգիստ կենսական վայրերում):
Եվ եթե դուք կառուցում եք բիզնես, կառավարում եք թիմ կամ փորձում եք չխաբվել տերմիններով, ապա արհեստական բանականության ալգորիթմի կօգնի ձեզ ավելի լավ հարցեր տալ.
-
Որոշեք, թե որ տվյալներից է համակարգը սովորել։.
-
Ստուգեք, թե ինչպես է չափվում և մեղմացվում կողմնակալությունը։.
-
Սահմանեք, թե ինչ է պատահում, երբ համակարգը սխալ է գործում։.
Որովհետև երբեմն դա սխալ կլինի։ Դա հոռետեսություն չէ։ Դա իրականություն է։.
Ինչպես է արհեստական բանականության ալգորիթմը «սովորում» (ուսուցում ընդդեմ եզրակացության) 🎓➡️🔮
Մեքենայական ուսուցման համակարգերի մեծ մասն ունի երկու հիմնական փուլ՝
1) Ուսուցում (ուսումնառության ժամանակ)
Մարզման ընթացքում ալգորիթմը հետևյալն է
-
տեսնում է օրինակներ (տվյալներ)
-
կանխատեսումներ է անում
-
չափում է, թե որքան սխալ է այն
-
կարգավորում է ներքին պարամետրերը՝ սխալը նվազեցնելու համար [1]
2) Եզրակացություն (ժամանակի օգտագործմամբ)
Եզրակացությունն այն է, թե երբ է մարզված մոդելը օգտագործվում նոր մուտքային տվյալների վրա
-
դասակարգել նոր էլ. նամակը որպես սպամ, թե ոչ
-
կանխատեսել պահանջարկը հաջորդ շաբաթ
-
պիտակավորել պատկերը
-
ստեղծել պատասխան [1]
Մարզվելը «ուսումնասիրությունն» է։ Եզրակացությունը՝ «քննությունը»։ Բացառությամբ այն բանի, որ քննությունը երբեք չի ավարտվում, և մարդիկ անընդհատ փոխում են կանոնները դասընթացի կեսից։ 😵
Արհեստական բանականության ալգորիթմների ոճերի մեծ ընտանիքները (պարզ անգլերեն ինտուիցիայով) 🧠🔧
Վերահսկվող ուսուցում 🎯
Դուք ներկայացնում եք պիտակավորված օրինակներ, ինչպիսիք են՝
-
«Սա սպամ է» / «Սա սպամ չէ»
-
«Այս հաճախորդը կորցրեց իր տեղը» / «Այս հաճախորդը մնաց»
Ալգորիթմը սովորում է արտապատկերում մուտքային տվյալներից → ելքային տվյալներից։ Շատ տարածված է։ [1]
Անվերահսկելի ուսուցում 🧊
Պիտակներ չկան։ Համակարգը փնտրում է կառուցվածքը՝
-
նմանատիպ հաճախորդների խմբեր
-
անսովոր նախշեր
-
թեմաներ փաստաթղթերում [1]
Ուժեղացված ուսուցում 🕹️
Համակարգը սովորում է փորձի և սխալի միջոցով՝ առաջնորդվելով պարգևներով: (Հիանալի է, երբ պարգևները հստակ են: Անկայուն է, երբ դրանք հստակ չեն): [1]
Խորը ուսուցում (նեյրոնային ցանցեր) 🧠⚡
Սա ավելի շատ տեխնիկաների ընտանիք է, քան մեկ ալգորիթմ։ Այն օգտագործում է շերտավորված ներկայացումներ և կարող է սովորել շատ բարդ օրինաչափություններ, հատկապես տեսողության, խոսքի և լեզվի մեջ։ [1]
Համեմատական աղյուսակ. հայտնի արհեստական բանականության ալգորիթմների ընտանիքները՝ համառոտ 🧩
Ոչ թե «լավագույնների ցանկ» է՝ ավելի շատ քարտեզի նման, որպեսզի դադարեք զգալ, որ ամեն ինչ մեկ մեծ արհեստական ինտելեկտի ապուր է։.
| Ալգորիթմների ընտանիք | Լսարան | «Գինը» իրական կյանքում | Ինչու է այն աշխատում |
|---|---|---|---|
| Գծային ռեգրեսիա | Սկսնակներ, վերլուծաբաններ | Ցածր | Պարզ, մեկնաբանելի ելակետային տվյալներ |
| Լոգիստիկ ռեգրեսիա | Սկսնակների համար, արտադրանքի թիմեր | Ցածր | Հաստատուն դասակարգման համար, երբ ազդանշանները մաքուր են |
| Որոշումների ծառեր | Սկսնակների համար → միջին մակարդակի | Ցածր | Հեշտ է բացատրել, կարող է չափազանց շատ տեղավորվել |
| Պատահական անտառ | Միջին | Միջին | Ավելի կայուն է, քան միայնակ ծառերը |
| Գրադիենտի ուժեղացում (XGBoost ոճով) | Միջին → առաջադեմ | Միջին-բարձր | Հաճախ գերազանց է աղյուսակային տվյալների վրա. կարգավորումը կարող է անհավանական լինել 🕳️ |
| Աջակցության վեկտորային մեքենաներ | Միջին | Միջին | Ուժեղ է որոշ միջին չափի խնդիրների վրա, ընտրողական է մասշտաբավորման հարցում |
| Նեյրոնային ցանցեր / Խորը ուսուցում | Առաջադեմ, տվյալներով ծանրաբեռնված թիմեր | Բարձր | Հզոր է չկառուցված տվյալների համար, սարքավորումների + իտերացիոն ծախսերի համար |
| K-միջինների կլաստերացում | Սկսնակների համար | Ցածր | Արագ խմբավորում, բայց ենթադրում է «կլոր» կլաստերներ |
| Ուժեղացված ուսուցում | Առաջադեմ, հետազոտող մարդիկ | Բարձր | Սովորում է փորձի և սխալի միջոցով, երբ պարգևատրման ազդանշանները հստակ են |
Ի՞նչն է արհեստական բանականության ալգորիթմի տարբերակը դարձնում լավը։ ✅🤔
«Լավ» արհեստական բանականության ալգորիթմը ավտոմատ կերպով ամենահմայիչը չէ։ Գործնականում լավ համակարգը հակված է լինել
-
Բավականաչափ ճշգրիտ իրական նպատակի համար (ոչ կատարյալ՝ արժեքավոր)
-
Հուսալի (չի փլուզվում, երբ տվյալները մի փոքր փոխվում են)
-
Բավականին բացատրելի է (պարտադիր չէ, որ թափանցիկ լինի, բայց ոչ լրիվ սև անցք)
-
Արդար և կողմնակալության ստուգմամբ (աղավաղված տվյալներ → աղավաղված ելքեր)
-
Արդյունավետ (պարզ առաջադրանքի համար գերհամակարգիչ չկա)
-
Պահպանելի (մոնիթորինգի ենթակա, թարմացման ենթակա, բարելավման ենթակա)
Արագ, գործնական մինի դեպք (քանի որ այստեղ է, որ ամեն ինչ դառնում է շոշափելի)
Պատկերացրեք մի մոդել, որը «հիանալի» է փորձարկման ժամանակ… քանի որ այն պատահաբար սովորել է «հաճախորդի հետ արդեն կապ է հաստատել պահպանման թիմը» պրոքսի։ Սա կանխատեսողական մոգություն չէ։ Սա արտահոսք է։ Այն հերոսական տեսք կունենա, մինչև դուք այն չտեղադրեք, ապա անմիջապես դեմքին քսեք։ 😭
Ինչպես ենք մենք գնահատում, թե արդյոք արհեստական բանականության ալգորիթմը «լավն» է 📏✅
Դուք պարզապես չեք նկատում դա (լավ, որոշ մարդիկ դա անում են, և հետո սկսվում է քաոս):.
Գնահատման տարածված մեթոդները ներառում են՝
-
Ճշգրտություն
-
Ճշգրտություն / հետկանչ
-
F1 միավոր (հավասարակշռում է ճշգրտությունը/հիշողությունը) [2]
-
AUC-ROC (երկուական դասակարգման դասակարգման որակ) [3]
-
Կալիբրացիա (արդյոք վստահությունը համապատասխանում է իրականությանը)
Եվ ապա կա իրական աշխարհի թեստը
-
Արդյո՞ք դա օգնում է օգտատերերին։
-
Արդյո՞ք դա նվազեցնում է ծախսերը, թե՞ ռիսկերը։
-
Արդյո՞ք դա ստեղծում է նոր խնդիրներ (կեղծ ահազանգեր, անարդար մերժումներ, շփոթեցնող աշխատանքային հոսքեր):
Երբեմն թղթի վրա «մի փոքր ավելի վատ» մոդելն ավելի լավն է արտադրության մեջ, քանի որ այն կայուն է, բացատրելի և ավելի հեշտ է վերահսկել։.
Հաճախ հանդիպող թակարդներ (այսինքն՝ ինչպես են արհեստական բանականության նախագծերը աննկատելիորեն ձախողվում) ⚠️😵💫
Նույնիսկ ամուր թիմերը հարվածում են հետևյալ ցուցանիշներին՝
-
Գերհարմարեցում (հիանալի է մարզման տվյալների դեպքում, ավելի վատ՝ նոր տվյալների դեպքում) [1]
-
Տվյալների արտահոսք (ուսուցանված է տեղեկատվությամբ, որը դուք չեք ունենա կանխատեսման պահին)
-
Կողմնակալության և արդարության հարցեր (պատմական տվյալները պարունակում են պատմական անարդարություն)
-
Հայեցակարգի շեղում (աշխարհը փոխվում է, մոդելը՝ ոչ)
-
Անհամապատասխան չափանիշներ (դուք օպտիմալացնում եք ճշգրտությունը, օգտատերերը հետաքրքրված են ինչ-որ այլ բանով)
-
Սև արկղի խուճապ (ոչ ոք չի կարող բացատրել որոշումը, երբ այն հանկարծակի կարևոր է)
Մեկ այլ նուրբ խնդիր՝ ավտոմատացման կողմնակալություն մարդիկ չափազանց վստահում են համակարգին, քանի որ այն տալիս է վստահելի առաջարկություններ, ինչը կարող է նվազեցնել զգոնությունը և անկախ ստուգումը: Սա փաստաթղթավորված է որոշումների կայացմանն ուղղված հետազոտություններում, այդ թվում՝ առողջապահության համատեքստում: [4]
«Հուսալի արհեստական բանականությունը» տրամադրություն չէ, այլ ստուգաթերթիկ 🧾🔍
Եթե արհեստական բանականության համակարգը ազդում է իրական մարդկանց վրա, դուք կցանկանաք ավելին, քան «այն ճշգրիտ է մեր չափանիշի համաձայն»։
Հստակ շրջանակ է կյանքի ցիկլի ռիսկերի կառավարումը՝ պլանավորել → կառուցել → փորձարկել → տեղակայել → վերահսկել → թարմացնել: NIST-ի արհեստական բանականության ռիսկերի կառավարման շրջանակը սահմանում է «հուսալի» արհեստական բանականության բնութագրերը, ինչպիսիք են՝ վավերական և հուսալի , անվտանգ , պաշտպանված և դիմացկուն , հաշվետու և թափանցիկ , բացատրելի և մեկնաբանելի , գաղտնիության ապահովման բարձրացված և արդար (վնասակար կողմնակալության կառավարում) : [5]
Թարգմանություն՝ դուք հարցնում եք՝ արդյոք այն աշխատում է։
Դուք նաև հարցնում եք՝ արդյոք այն անվտանգ կերպով խափանվում է, և արդյոք կարող եք դա ցույց տալ։
Հիմնական եզրակացություններ 🧾✅
Եթե սրանից ուրիշ ոչինչ չնկատի՝
-
Արհեստական բանականության ալգորիթմ = ուսուցման մոտեցում, մարզման բաղադրատոմս
-
Արհեստական բանականության մոդել = ձեր կողմից կիրառվող մարզված արդյունքը
-
Լավ արհեստական բանականությունը պարզապես «խելացի» չէ. այն հուսալի է, վերահսկվում է, ստուգվում է կողմնակալությունը և համապատասխանում է աշխատանքին։
-
Տվյալների որակը ավելի կարևոր է, քան մարդկանց մեծ մասը ցանկանում է խոստովանել
-
Լավագույն ալգորիթմը սովորաբար այն է, որը լուծում է խնդիրը ՝ առանց երեք նոր խնդիր ստեղծելու 😅
Հաճախակի տրվող հարցեր
Ի՞նչ է արհեստական բանականության ալգորիթմը պարզ լեզվով։
Արհեստական բանականության ալգորիթմը մեթոդ է, որն օգտագործում է համակարգիչը տվյալներից օրինաչափություններ սովորելու և որոշումներ կայացնելու համար: «Եթե-ապա» ֆիքսված կանոններին հենվելու փոխարեն, այն ինքն իրեն կարգավորում է բազմաթիվ օրինակներ տեսնելուց կամ հետադարձ կապ ստանալուց հետո: Նպատակն է ժամանակի ընթացքում բարելավել նոր մուտքային տվյալների կանխատեսումը կամ դասակարգումը: Այն հզոր է, բայց միևնույն ժամանակ կարող է վստահ սխալներ թույլ տալ:.
Ի՞նչ տարբերություն կա արհեստական բանականության ալգորիթմի և արհեստական բանականության մոդելի միջև։
Արհեստական բանականության ալգորիթմը ուսուցման գործընթաց է կամ մարզման բաղադրատոմս՝ այն, թե ինչպես է համակարգը թարմացվում տվյալներից: Արհեստական բանականության մոդելը մարզված արդյունք է, որը դուք գործարկում եք՝ նոր մուտքային տվյալների վերաբերյալ կանխատեսումներ անելու համար: Նույն արհեստական բանականության ալգորիթմը կարող է ստեղծել շատ տարբեր մոդելներ՝ կախված տվյալներից, մարզման տևողությունից և կարգավորումներից: Մտածեք «եփման գործընթացի» և «պատրաստի կերակուրի» մասին:
Ինչպե՞ս է արհեստական բանականության ալգորիթմը սովորում մարզման ընթացքում՝ համեմատած եզրակացության հետ։
Ուսուցումը այն է, երբ ալգորիթմը ուսումնասիրում է. այն տեսնում է օրինակներ, անում է կանխատեսումներ, չափում է սխալը և կարգավորում է ներքին պարամետրերը՝ այդ սխալը նվազեցնելու համար: Եզրակացությունը այն է, երբ մարզված մոդելն օգտագործվում է նոր մուտքային տվյալների վրա, ինչպիսիք են սպամի դասակարգումը կամ պատկերի պիտակավորումը: Ուսուցումը ուսուցման փուլն է, իսկ եզրակացությունը՝ օգտագործման փուլը: Շատ խնդիրներ ի հայտ են գալիս միայն եզրակացության ընթացքում, քանի որ նոր տվյալները տարբերվում են այն բանից, ինչի վրա համակարգը սովորել է:.
Որո՞նք են արհեստական բանականության ալգորիթմների հիմնական տեսակները (վերահսկվող, չվերահսկվող, ամրապնդող):
Վերահսկվող ուսուցումը օգտագործում է պիտակավորված օրինակներ՝ մուտքային և ելքային տվյալների համեմատությունը սովորելու համար, օրինակ՝ սպամ կամ ոչ սպամ: Անվերահսկելի ուսուցումը պիտակներ չունի և փնտրում է կառուցվածք, ինչպիսիք են կլաստերները կամ անսովոր օրինաչափությունները: Ուժեղացված ուսուցումը սովորում է փորձի և սխալի միջոցով՝ օգտագործելով պարգևատրումներ: Խորը ուսուցումը նեյրոնային ցանցերի տեխնիկաների ավելի լայն ընտանիք է, որը կարող է ֆիքսել բարդ օրինաչափությունները, հատկապես տեսողական և լեզվական առաջադրանքների համար:.
Ինչպե՞ս իմանալ, թե արդյոք արհեստական բանականության ալգորիթմը «լավն» է իրական կյանքում։
Լավ արհեստական բանականության ալգորիթմը ավտոմատ կերպով ամենաբարդը չէ. այն այն է, որը հուսալիորեն հասնում է նպատակին: Թիմերը դիտարկում են այնպիսի չափանիշներ, ինչպիսիք են ճշգրտությունը, ճշգրտությունը/հիշողությունը, F1-ը, AUC-ROC-ը և տրամաչափումը, այնուհետև ստուգում են կատարողականը և հետագա ազդեցությունը տեղակայման կարգավորումներում: Կայունությունը, բացատրելիությունը, արդյունավետությունը և պահպանելիությունը մեծ նշանակություն ունեն արտադրության մեջ: Երբեմն թղթի վրա մի փոքր ավելի թույլ մոդելը հաղթում է, քանի որ այն ավելի հեշտ է վերահսկել և վստահել:.
Ի՞նչ է տվյալների արտահոսքը, և ինչո՞ւ է այն խափանում արհեստական բանականության նախագծերը։
Տվյալների արտահոսքը տեղի է ունենում, երբ մոդելը սովորում է այնպիսի տեղեկատվությունից, որը կանխատեսման պահին հասանելի չի լինի: Սա կարող է արդյունքները հիանալի տեսք հաղորդել փորձարկման ժամանակ, մինչդեռ տեղակայումից հետո լուրջ ձախողումներ ունենալ: Դասական օրինակ է արդյունքից հետո ձեռնարկված գործողությունները արտացոլող ազդանշանների պատահական օգտագործումը, ինչպիսին է պահպանման թիմի հետ կապը արտահոսքի մոդելում: Արտահոսքը ստեղծում է «կեղծ կատարողականություն», որը անհետանում է իրական աշխատանքային հոսքում:.
Ինչո՞ւ են արհեստական բանականության ալգորիթմները ժամանակի ընթացքում վատանում, նույնիսկ եթե դրանք ճշգրիտ էին գործարկման ժամանակ։
Տվյալները ժամանակի ընթացքում փոխվում են՝ հաճախորդները տարբեր կերպ են վարվում, քաղաքականությունը փոխվում է, կամ ապրանքները զարգանում են՝ առաջացնելով հայեցակարգերի շեղում: Մոդելը մնում է նույնը, եթե դուք չեք վերահսկում կատարողականը և թարմացնում այն: Նույնիսկ փոքր փոփոխությունները կարող են նվազեցնել ճշգրտությունը կամ ավելացնել կեղծ տագնապները, հատկապես, եթե մոդելը փխրուն է եղել: Արհեստական բանականության համակարգը առողջ պահելու մաս են կազմում շարունակական գնահատումը, վերապատրաստումը և զգույշ տեղակայման պրակտիկան:.
Որո՞նք են արհեստական բանականության ալգորիթմ կիրառելիս ամենատարածված թերությունները։
Գերհարմարեցումը մեծ խնդիր է. մոդելը հիանալի է աշխատում մարզման տվյալների վրա, բայց վատ՝ նոր տվյալների վրա: Կողմնակալության և արդարության խնդիրներ կարող են առաջանալ, քանի որ պատմական տվյալները հաճախ պարունակում են պատմական անարդարություն: Անհամապատասխան չափանիշները նույնպես կարող են խորտակել նախագծերը՝ օպտիմալացնելով ճշգրտությունը, երբ օգտատերերը հոգ են տանում այլ բանի մասին: Մեկ այլ նուրբ ռիսկ է ավտոմատացման կողմնակալությունը, երբ մարդիկ չափազանց վստահում են վստահ մոդելի արդյունքներին և դադարում են կրկնակի ստուգումից:.
Ի՞նչ է նշանակում «հուսալի արհեստական բանականություն» գործնականում։
Հուսալի արհեստական բանականությունը պարզապես «բարձր ճշգրտություն» չէ. դա կյանքի ցիկլի մոտեցում է՝ պլանավորել, կառուցել, փորձարկել, տեղակայել, վերահսկել և թարմացնել: Գործնականում դուք փնտրում եք համակարգեր, որոնք վավեր և հուսալի են, անվտանգ, պաշտպանված, հաշվետու, բացատրելի, գաղտնիությունը հաշվի առնող և կողմնակալությունը ստուգված: Դուք նաև ցանկանում եք հասկանալի և վերականգնվող խափանումների ռեժիմներ: Հիմնական գաղափարն այն է, որ կարողանաք ցույց տալ, որ այն աշխատում է և անվտանգ կերպով խափանվում է, այլ ոչ թե պարզապես հուսալ, որ դա տեղի կունենա:.
Հղումներ
-
Գոդարդ և այլք - Ավտոմատացման կողմնակալության համակարգված վերանայում (PMC ամբողջական տեքստ)
-
NIST - Արհեստական բանականության ռիսկերի կառավարման շրջանակ (AI RMF 1.0) PDF