Կարճ պատասխան. Արհեստական բանականությունը չի փոխարինի կիբերանվտանգությանը ամբողջությամբ, բայց այն կստանձնի կրկնվող SOC և անվտանգության ինժեներական աշխատանքների զգալի մասը: Օգտագործվելով որպես աղմուկը նվազեցնող և ամփոփող՝ մարդկային ազդեցության տակ՝ այն արագացնում է տեսակավորումը և առաջնահերթությունների սահմանումը. դիտարկվելով որպես գուշակ, այն կարող է ներմուծել ռիսկային կեղծ վստահություն:
Հիմնական եզրակացություններ՝
Գործողություն . Արհեստական բանականությունը փոխարինում է առաջադրանքներին և աշխատանքային հոսքերին, այլ ոչ թե մասնագիտությանը կամ հաշվետվողականությանը։
Աշխատանքի կրճատում . օգտագործեք արհեստական բանականությունը ահազանգերի կլաստերացման, համառոտ ամփոփումների և գրանցամատյանների տեսակավորման համար։
Որոշումների կայացման պատասխանատվություն . մարդկանց պահեք ռիսկի ախորժակի, միջադեպերի կառավարման և խիստ փոխզիջումների համար։
Չարաշահման դիմադրություն . նախագծված է արագ ներարկման, թունավորման և հակառակորդից խուսափելու փորձերի համար։
Կառավարում . Գործիքավորման մեջ կիրառել տվյալների սահմաններ, աուդիտի հնարավորությունը և վիճարկելի մարդկային անտեսումները։
Հոդվածներ, որոնք կարող են ձեզ դուր գալ կարդալ սրանից հետո
🔗 Ինչպես է գեներատիվ արհեստական բանականությունը կիրառվում կիբերանվտանգության մեջ
Գործնական եղանակներ, որոնցով արհեստական բանականությունը հզորացնում է սպառնալիքների հայտնաբերումը, արձագանքը և կանխարգելումը։.
🔗 Արհեստական բանականության ներթափանցման թեստավորման գործիքներ կիբերանվտանգության համար
Արհեստական բանականության վրա հիմնված լավագույն լուծումներ՝ թեստավորումն ավտոմատացնելու և խոցելիություններ գտնելու համար։.
🔗 Արհեստական բանականությունը վտանգավոր է՞։ Ռիսկերը և իրականությունը
Հստակ պատկերացում սպառնալիքների, առասպելների և պատասխանատու արհեստական ինտելեկտի պաշտպանության միջոցների մասին։.
🔗 Արհեստական բանականության անվտանգության լավագույն գործիքների ուղեցույց
Լավագույն անվտանգության գործիքները, որոնք օգտագործում են արհեստական բանականություն՝ համակարգերն ու տվյալները պաշտպանելու համար։.
«Փոխարինող» շրջանակը ծուղակն է 😅
Երբ մարդիկ ասում են ՝ «Կարո՞ղ է արհեստական բանականությունը փոխարինել կիբերանվտանգությանը» , նրանք սովորաբար նկատի ունեն երեք բանից մեկը.
-
Փոխարինեք վերլուծաբաններին (մարդկանց կարիք չկա)
-
Փոխարինեք գործիքները (մեկ արհեստական բանականության հարթակը կանի ամեն ինչ)
-
Արդյունքների փոխարինում (ավելի քիչ խախտումներ, ավելի քիչ ռիսկ)
Արհեստական բանականությունն ամենաուժեղն է կրկնվող ջանքերը փոխարինելու և որոշումների կայացման ժամանակը սեղմելու հարցում: Այն ամենաթույլն է հաշվետվողականությունը, համատեքստը և դատողությունը փոխարինելու հարցում: Անվտանգությունը միայն հայտնաբերում չէ. դա բարդ փոխզիջումներ են, բիզնես սահմանափակումներ, քաղաքականություն (ուֆ) և մարդկային վարքագիծ:.
Գիտեք, թե ինչպես է լինում. խախտումը «զգուշացումների պակաս» չէր։ Այլ այն, որ չկար մեկը, ով կհավատար, որ զգուշացումը կարևոր է։ 🙃
Որտեղ արհեստական բանականությունն արդեն «փոխարինում է» կիբերանվտանգության աշխատանքը (գործնականում) ⚙️
Արհեստական բանականությունն արդեն ստանձնում է աշխատանքի որոշակի կատեգորիաներ, նույնիսկ եթե կազմակերպչական սխեման դեռ նույնն է։.
1) Տրիաժ և ահազանգերի կլաստերացում
-
Նմանատիպ ահազանգերի խմբավորում մեկ միջադեպի մեջ
-
Կրկնօրինակ աղմկոտ ազդանշանների վերացում
-
Հավանական ազդեցության դասակարգում
Սա կարևոր է, քանի որ տեսակավորման ժամանակ մարդիկ կորցնում են ապրելու ցանկությունը։ Եթե արհեստական բանականությունը մի փոքր էլ նվազեցնի աղմուկը, դա նման է շաբաթներ շարունակ գոռացող հրդեհային ազդանշանը անջատելուն 🔥🔕
2) Լոգարիթմական վերլուծություն և անոմալիաների հայտնաբերում
-
Կասկածելի նախշերի հայտնաբերում մեքենայի արագության վրա
-
Նշում «սա անսովոր է սկզբնական տվյալների համեմատ»
Այն կատարյալ չէ, բայց կարող է արժեքավոր լինել։ Արհեստական բանականությունը նման է լողափում գտնվող մետաղական դետեկտորի՝ այն շատ է ազդանշան տալիս, երբեմն դա շշի կափարիչ է, բայց երբեմն դա մատանի է 💍… կամ վարակված ադմինիստրատորի թոքեն։.
3) Վնասակար ծրագրերի և ֆիշինգի դասակարգում
-
Կից ֆայլերի, URL-ների, տիրույթների դասակարգում
-
Նմանատիպ ապրանքանիշերի և կեղծման օրինաչափությունների հայտնաբերում
-
Ավտոմատացված ավազարկղի որոշումների ամփոփագրեր
4) Խոցելիության կառավարման առաջնահերթություն
Ոչ թե «որ CVE-ները գոյություն ունեն»՝ մենք բոլորս գիտենք, որ դրանք չափազանց շատ են։ Արհեստական բանականությունը օգնում է պատասխանել
-
Որոնք, հավանաբար, այստեղ շահագործելի են։ EPSS (ԱՌԱՋԻՆ)
-
Որոնք դրսից են բացվում
-
Որոնք են արժեքավոր ակտիվների քարտեզը։ CISA KEV կատալոգ
-
Ո՞րն է պետք առաջինը թարմացնել՝ առանց կազմակերպությունը «հրդեհի» մատնելու։ NIST SP 800-40 Rev. 4 (Enterprise Patch Management)
Եվ այո, մարդիկ նույնպես կարող էին դա անել, եթե ժամանակը անվերջ լիներ, և ոչ ոք երբեք արձակուրդ չվերցներ։.
Ի՞նչն է արհեստական բանականության տարբերակը դարձնում լավը կիբերանվտանգության մեջ 🧠
Սա այն մասն է, որը մարդիկ բաց են թողնում, իսկ հետո մեղադրում են «արհեստական բանականությանը», կարծես դա զգացմունքներով լի մեկ արտադրանք լինի։.
Կիբերանվտանգության մեջ արհեստական բանականության լավ տարբերակը հակված է ունենալ հետևյալ հատկանիշները.
-
Բարձր ազդանշան-աղմուկ հարաբերակցություն
-
Այն պետք է նվազեցնի աղմուկը, այլ ոչ թե ավելորդ աղմուկ առաջացնի նրբագեղ արտահայտություններով։.
-
-
Բացատրելիություն, որը կօգնի գործնականում
-
Ոչ թե վեպ։ Ոչ թե տրամադրություն։ Իրական ակնարկներ՝ ինչ տեսավ, ինչու է հետաքրքրված, ինչ է փոխվել։.
-
-
Ձեր միջավայրի հետ սերտ ինտեգրում
-
IAM, վերջնակետերի հեռակառավարում, ամպային դիրք, տոմսեր, ակտիվների գույքագրում… այսքան ոչ շքեղ բաներ։.
-
-
Մարդկային փոխարինումը ներկառուցված է
-
Վերլուծաբանները պետք է այն շտկեն, կարգավորեն և երբեմն անտեսեն։ Ինչպես կրտսեր վերլուծաբանը, որը երբեք չի քնում, բայց երբեմն խուճապի է մատնվում։.
-
-
Անվտանգության համար անվտանգ տվյալների մշակում
-
Հստակ սահմաններ այն մասին, թե ինչ է պահվում, մարզվում կամ պահպանվում: NIST AI RMF 1.0
-
-
Մանիպուլյացիայի նկատմամբ դիմադրողականություն
-
Հարձակվողները կփորձեն արագ ներարկում, թունավորում և խաբեություն։ Նրանք միշտ էլ դա անում են։ OWASP LLM01: Արագ ներարկում Մեծ Բրիտանիայի արհեստական բանականության կիբերանվտանգության գործելակերպի կանոնագիրք
-
Անկեղծ լինենք՝ «արհեստական բանականության անվտանգության» մեծ մասը ձախողվում է, քանի որ այն մարզված է վստահ հնչելու, այլ ոչ թե ճիշտ լինելու համար։ Վստահությունը վերահսկողություն չէ։ 😵💫
Մասեր, որոնք արհեստական ինտելեկտը դժվարանում է փոխարինել, և դա ավելի կարևոր է, քան թվում է 🧩
Ահա անհարմար ճշմարտությունը. կիբերանվտանգությունը միայն տեխնիկական չէ։ Այն սոցիալ-տեխնիկական է։ Այն մարդիկ են գումարած համակարգեր գումարած խթաններ։.
Արհեստական բանականությունը դժվարանում է
1) Գործարար համատեքստ և ռիսկի ախորժակ
Անվտանգության վերաբերյալ որոշումները հազվադեպ են լինում «վատ է՞» հարցի շուրջ։ Դրանք ավելի շատ նման են հետևյալին
-
Արդյո՞ք դա բավականաչափ լուրջ է եկամուտը դադարեցնելու համար
-
Արդյո՞ք արժե խզել տեղակայման խողովակաշարը
-
Արդյո՞ք գործադիր թիմը կընդունի դրա համար նախատեսված պարապուրդը
Արհեստական բանականությունը կարող է օգնել, բայց չի կարող դա իր վրա վերցնել։ Ինչ-որ մեկը ստորագրում է իր անունը որոշման վրա։ Ինչ-որ մեկը ստանում է ժամը 2-ի զանգը 📞
2) Միջադեպի հրամանատարություն և միջթիմային համակարգում
Իրական միջադեպերի ժամանակ «աշխատանքը» հետևյալն է
-
Սենյակում ճիշտ մարդկանց ներգրավելը
-
Հավատարիմ մնալ փաստերին՝ առանց խուճապի
-
Հաղորդակցության, ապացույցների, իրավական հարցերի, հաճախորդների հետ հաղորդագրությունների կառավարում՝ NIST SP 800-61 (Միջադեպերի կառավարման ուղեցույց)
Արհեստական բանականությունը կարող է ժամանակացույց կազմել կամ ամփոփել գրանցամատյանները, անշուշտ: Ճնշման տակ ղեկավարությանը փոխարինելը… լավատեսական է: Դա նման է հաշվիչից հրդեհաշիջման վարժանք պահանջելուն:.
3) Սպառնալիքների մոդելավորում և ճարտարապետություն
Սպառնալիքների մոդելավորումը մասամբ տրամաբանություն է, մասամբ ստեղծագործականություն, մասամբ պարանոյա (հիմնականում առողջ պարանոյա):.
-
Թվարկելով, թե ինչ կարող է սխալ լինել
-
Կանխատեսելով, թե ինչ կանի հարձակվողը
-
Հարձակվողի մաթեմատիկան փոխող ամենաէժան կառավարման ընտրությունը
Արհեստական բանականությունը կարող է առաջարկել օրինաչափություններ, բայց իրական արժեքը բխում է ձեր համակարգերը, ձեր մարդկանց, ձեր կարճ ճանապարհները, ձեր յուրահատուկ ժառանգական կախվածությունները իմանալուց։.
4) Մարդկային գործոններ և մշակույթ
Ֆիշինգ, վկայագրերի վերօգտագործում, ստվերային ՏՏ օգտագործում, անփույթ մուտքի վերանայումներ՝ սրանք մարդկային խնդիրներ են՝ կրելով տեխնիկական հագուստ 🎭
Արհեստական բանականությունը կարող է հայտնաբերել, բայց չի կարող լուծել, թե ինչու է կազմակերպությունը այդպես վարվում։
Հարձակվողները նույնպես օգտագործում են արհեստական բանականություն, այդ պատճառով խաղադաշտը թեքվում է կողքի 😈🤖
Կիբերանվտանգությունը փոխարինելու ցանկացած քննարկում պետք է ներառի ակնհայտը. հարձակվողները տեղում չեն կանգնած։.
Արհեստական բանականությունը օգնում է հարձակվողներին
-
Գրեք ավելի համոզիչ ֆիշինգային հաղորդագրություններ (քիչ քերականության խախտում, ավելի շատ համատեքստ) ՀԴԲ-ի նախազգուշացում արհեստական բանականությամբ ֆիշինգի վերաբերյալ IC3 Հասարակայնության հետ կապերի խորհրդատվություն գեներատիվ արհեստական բանականությամբ խարդախության/ֆիշինգի վերաբերյալ
-
Ավելի արագ ստեղծեք պոլիմորֆ վնասակար ծրագրերի տարբերակներ OpenAI սպառնալիքների հետախուզության մասին զեկույցներ (վնասակար օգտագործման օրինակներ)
-
Ավտոմատացրեք հետախուզությունը և սոցիալական ինժեներիան Եվրոպոլի «ChatGPT զեկույցը» (չարաշահման ակնարկ)
-
Էժան մասշտաբի փորձեր
Այսպիսով, պաշտպանների կողմից արհեստական բանականության կիրառումը երկարաժամկետ հեռանկարում ընտրովի չէ։ Ավելի շուտ դա նման է… դուք լապտեր եք բերում, քանի որ մյուս կողմը գիշերային տեսողության ակնոցներ է ստացել։ Անհարմար փոխաբերություն։ Մի փոքր ճշմարիտ է։.
Բացի այդ, հարձակվողները կթիրախավորեն արհեստական բանականության համակարգերը իրենք՝
-
Արագ ներարկում անվտանգության երկրորդ օդաչուների մեջ OWASP LLM01: Արագ ներարկում
-
Տվյալների թունավորումը՝ մոդելների աղավաղման համար Մեծ Բրիտանիայի արհեստական բանականության կիբերանվտանգության գործելակերպի կանոնագիրք
-
Հակառակորդական օրինակներ՝ հայտնաբերումից խուսափելու համար ՝ MITRE ATLAS
-
Մոդելի արդյունահանման փորձեր որոշ կարգավորումներում MITRE ATLAS
Անվտանգությունը միշտ էլ մկան ու կատվի խաղ է եղել։ Արհեստական բանականությունը պարզապես կատուներին ավելի արագ է դարձնում, իսկ մկներին՝ ավելի հնարամիտ 🐭
Իրական պատասխանը՝ արհեստական բանականությունը փոխարինում է առաջադրանքներին, այլ ոչ թե պատասխանատվությանը ✅
Սա այն «անհարմար միջին հատվածն» է, որտեղ թիմերի մեծ մասը հայտնվում է
-
Արհեստական բանականությունը կարգավորում է մասշտաբը
-
Մարդիկ ցցեր
-
Միասին նրանք հաղթահարում են արագությունը և դատողությունը
Անվտանգության աշխատանքային հոսքերի իմ սեփական փորձարկումների ժամանակ, արհեստական բանականությունը լավագույնն է, երբ այն դիտարկվում է հետևյալ կերպ
-
Տրիաժի օգնական
-
Ամփոփագիր
-
Կոռելյացիոն շարժիչ
-
Քաղաքականության օգնական
-
Կոդի վերանայման ընկեր՝ ռիսկային օրինաչափությունների համար
Արհեստական բանականությունը ամենավատն է, երբ դրան վերաբերվում են այսպես
-
Օրակուլ
-
Միակ ճշմարտության կետը
-
«Դիմեք և մոռացեք» պաշտպանության համակարգ
-
Թիմի անձնակազմի թերզարգացման պատճառ (սա ավելի ուշ կծվի… դժվարությամբ)
Դա նման է պահակ շուն վարձելուն, որը նաև էլեկտրոնային նամակներ է գրում։ Հիանալի է։ Բայց երբեմն այն հաչում է փոշեկուլի վրա և վրիպում ցանկապատի վրայով ցատկող տղայի ուշադրությունից։ 🐶🧹
Համեմատական աղյուսակ (ամեն օր թիմերի կողմից օգտագործվող լավագույն տարբերակները) 📊
Ստորև բերված է գործնական համեմատական աղյուսակ՝ ոչ կատարյալ, մի փոքր անհավասար, ինչպես իրական կյանքում։.
| Գործիք / Հարթակ | Լավագույնը (հանդիսատեսի համար) | Գնային տրամադրություն | Ինչու է այն աշխատում (և առանձնահատկությունները) |
|---|---|---|---|
| Microsoft Sentinel Microsoft Learn | Microsoft-ի էկոհամակարգերում ապրող SOC թիմեր | $$ - $$$ | Ուժեղ ամպային SIEM օրինաչափություններ, շատ միակցիչներ, կարող են աղմկոտ լինել, եթե չկարգավորվեն… |
| Splunk Splunk Enterprise Security | Ավելի մեծ կազմակերպություններ՝ ծանրաբեռնված գրանցումներով + անհատական կարիքներով | $$$ (անկեղծ ասած՝ հաճախ $$$$) | Հզոր որոնում + վահանակներ. զարմանալի է, երբ կուրացված է, ցավոտ է, երբ ոչ ոք չի տիրապետում տվյալների հիգիենային |
| Google-ի անվտանգության գործողություններ Google Cloud | Կառավարվող մասշտաբի հեռաչափություն ցանկացող թիմեր | $$ - $$$ | Հարմար է մեծ տվյալների մասշտաբի համար. կախված է ինտեգրման հասունությունից, ինչպես շատ բաներ |
| ՔրաուդՍթրայք Ֆալկոն ՔրաուդՍթրայք | Վերջնակետային կենտրոններով ծանրաբեռնված կազմակերպություններ, IR թիմեր | $$$ | Վերջնակետի ուժեղ տեսանելիություն; հայտնաբերման մեծ խորություն, բայց արձագանքը խթանելու համար դեռ անհրաժեշտ են մարդիկ |
| Microsoft Defender վերջնակետի համար Microsoft Learn | M365-ով ծանր կազմակերպություններ | $$ - $$$ | Microsoft-ի հետ սերտ ինտեգրացիա։ Կարող է հիանալի լինել, սխալ կարգավորման դեպքում կարող է լինել «հերթում 700 ահազանգ»։ |
| Պալո Ալտո Cortex XSOAR Պալո Ալտո Նեթվորքս | Ավտոմատացման վրա կենտրոնացած SOC-ներ | $$$ | Դասագրքերը նվազեցնում են ծանր աշխատանքը. պահանջում են խնամք, հակառակ դեպքում դուք ավտոմատացնում եք անկարգությունը (այո, դա այդպես է): |
| Վիզ Վիզ հարթակ | Ամպային անվտանգության թիմեր | $$$ | Ամպային բարձր տեսանելիություն. օգնում է արագորեն առաջնահերթություն տալ ռիսկերին, սակայն դեռևս անհրաժեշտ է կառավարում |
| Սնիկ Սնիկ հարթակ | Մշակողների համար նախընտրելի կազմակերպություններ, AppSec | $$ - $$$ | Մշակողների համար հարմար աշխատանքային հոսքեր. հաջողությունը կախված է մշակողների կողմից կիրառումից, այլ ոչ թե միայն սկանավորումից |
Փոքրիկ նշում. ոչ մի գործիք ինքնուրույն չի «հաղթում»։ Լավագույն գործիքն այն է, որը ձեր թիմը օգտագործում է ամեն օր՝ առանց դրանից դժգոհելու։ Սա գիտություն չէ, սա գոյատևում է 😅
Իրատեսական գործառնական մոդել. ինչպես են թիմերը հաղթում արհեստական բանականության միջոցով 🤝
Եթե ցանկանում եք, որ արհեստական բանականությունը զգալիորեն բարելավի անվտանգությունը, ապա սովորաբար ձեռնարկը հետևյալն է
Քայլ 1. Օգտագործեք արհեստական բանականությունը՝ աշխատանքը նվազեցնելու համար
-
Զգուշացումների հարստացման ամփոփագրեր
-
Տոմսերի կազմում
-
Ապացույցների հավաքագրման ստուգաթերթիկներ
-
Գրանցման հարցումների առաջարկներ
-
«Ի՞նչ է փոխվել» տարբերակը տարբերվում է կարգավորումներում
Քայլ 2. Օգտագործեք մարդկանց՝ ստուգելու և որոշում կայացնելու համար
-
Հաստատեք ազդեցությունը և շրջանակը
-
Ընտրեք զսպման գործողություններ
-
Համակարգված միջթիմային լուծումներ
Քայլ 3. Ավտոմատացրեք անվտանգ նյութերը
Լավ ավտոմատացման նպատակներ
-
Հայտնի վնասված ֆայլերի կարանտինացումը բարձր վստահությամբ
-
Մուտքագրման տվյալների վերականգնում հաստատված խախտումից հետո
-
Ակնհայտորեն վնասակար տիրույթների արգելափակում
-
Քաղաքականության շեղման ուղղման կիրառում (զգուշորեն)
Ռիսկային ավտոմատացման թիրախներ
-
Առանց պաշտպանության միջոցների արտադրական սերվերների ավտոմատ մեկուսացում
-
Ռեսուրսների ջնջում անորոշ ազդանշանների հիման վրա
-
Մեծ IP միջակայքերի արգելափակում, քանի որ «մոդելը այդպես էր զգում» 😬
Քայլ 4. Դասերը վերադարձրեք կառավարման համակարգ
-
Միջադեպից հետո կարգավորում
-
Բարելավված հայտնաբերումներ
-
Ավելի լավ ակտիվների գույքագրում (հավերժական ցավ)
-
Ավելի նեղ արտոնություններ
Ահա թե որտեղ է արհեստական բանականությունը շատ օգնում՝ ամփոփելով հետմահու արդյունքները, քարտեզագրելով հայտնաբերման բացերը, անկարգությունները վերածելով կրկնվող բարելավումների։.
Արհեստական բանականության վրա հիմնված անվտանգության թաքնված ռիսկերը (այո, կան մի քանիսը) ⚠️
Եթե դուք լայնորեն կիրառում եք արհեստական բանականությունը, ապա պետք է նախապես պլանավորեք հետևյալ թերությունները
-
Հորինված վստահություն
-
Անվտանգության թիմերին անհրաժեշտ են ապացույցներ, այլ ոչ թե պատմություններ։ Արհեստական բանականությունը սիրում է պատմություններ պատմել։ NIST AI RMF 1.0
-
-
Տվյալների արտահոսք
-
Հարցումները կարող են պատահաբար ներառել զգայուն մանրամասներ: Գրանցամատյանները լի են գաղտնիքներով, եթե ուշադիր նայեք: OWASP-ի լավագույն 10-յակը LLM դիմումների համար
-
-
Չափից շատ կախվածություն
-
Մարդիկ դադարում են սովորել հիմունքները, քանի որ երկրորդ օդաչուն «միշտ գիտի»… մինչև որ այլևս չգիտի։.
-
-
Մոդելի շեղում
-
Միջավայրերը փոխվում են։ Հարձակման ձևերը փոխվում են։ Հայտնաբերումները աննկատելիորեն փչանում են։ NIST AI RMF 1.0
-
-
Հակառակորդական բռնություն
-
Հարձակվողները կփորձեն ուղղորդել, շփոթեցնել կամ շահագործել արհեստական բանականության վրա հիմնված աշխատանքային հոսքերը: Անվտանգ արհեստական բանականության համակարգերի մշակման ուղեցույցներ (NSA/CISA/NCSC-UK)
-
Դա նման է շատ խելացի կողպեք կառուցելուն, ապա բանալին գորգի տակ թողնելուն։ Կողպեքը միակ խնդիրը չէ։.
Այսպիսով… Կարո՞ղ է արհեստական բանականությունը փոխարինել կիբերանվտանգությանը. պարզ պատասխան 🧼
Կարո՞ղ է արհեստական բանականությունը փոխարինել կիբերանվտանգությանը։
Այն կարող է փոխարինել կիբերանվտանգության մեջ կրկնվող աշխատանքի մեծ մասին։ Այն կարող է արագացնել հայտնաբերումը, տեսակավորումը, վերլուծությունը և նույնիսկ արձագանքման որոշ մասեր։ Սակայն այն չի կարող լիովին փոխարինել կարգապահությունը, քանի որ կիբերանվտանգությունը մեկ խնդիր չէ՝ այն կառավարում է, ճարտարապետություն, մարդկային վարքագիծ, միջադեպերի ղեկավարում և շարունակական հարմարվողականություն։
Եթե ուզում եք ամենաանկեղծ ձևակերպումը (մի փոքր կոպիտ, ներողություն)
-
Արհեստական բանականությունը փոխարինում է զբաղված աշխատանքին
-
Արհեստական բանականությունը հզորացնում է լավ թիմերը
-
Արհեստական բանականությունը բացահայտում է վատ գործընթացները
-
Մարդիկ շարունակում են պատասխանատու լինել ռիսկի և իրականության
Եվ այո, որոշ դերեր կփոխվեն։ Սկսնակների մակարդակի առաջադրանքները կփոխվեն ամենաարագը։ Բայց նաև կհայտնվեն նոր առաջադրանքներ՝ արագ և անվտանգ աշխատանքային հոսքեր, մոդելի վավերացում, անվտանգության ավտոմատացման ճարտարագիտություն, հայտնաբերման ճարտարագիտություն՝ արհեստական բանականության օգնությամբ գործիքակազմով… աշխատանքը չի անհետանում, այն մուտացիայի է ենթարկվում 🧬
Եզրափակիչ նշումներ և արագ ամփոփում 🧾✨
Եթե որոշում եք, թե ինչ անել անվտանգության ոլորտում արհեստական բանականության հետ, ահա գործնական եզրակացությունը
-
Օգտագործեք արհեստական բանականությունը ժամանակը սեղմելու ՝ ավելի արագ տեսակավորում, ավելի արագ ամփոփումներ, ավելի արագ համադրում։
-
Մարդկանց պահեք դատողության ՝ համատեքստ, փոխզիջումներ, առաջնորդություն, պատասխանատվություն։
-
Ենթադրենք, որ հարձակվողները նույնպես օգտագործում են արհեստական բանականություն՝ նախագծված խաբեության և մանիպուլյացիայի համար: MITRE ATLAS ուղեցույցներ արհեստական բանականության անվտանգ համակարգերի մշակման համար (NSA/CISA/NCSC-UK)
-
Մի՛ գնեք «կախարդանք»՝ գնեք աշխատանքային հոսքեր, որոնք զգալիորեն կնվազեցնեն ռիսկն ու ծանր աշխատանքը։.
Այո՛, արհեստական բանականությունը կարող է փոխարինել աշխատանքի որոշ մասեր, և հաճախ դա անում է այնպիսի ձևերով, որոնք սկզբում աննկատ են թվում։ Հաղթական քայլն այն է, որ արհեստական բանականությունը դառնա ձեր լծակը, այլ ոչ թե ձեր փոխարինողը։.
Եվ եթե անհանգստանում եք ձեր կարիերայի համար, կենտրոնացեք այն մասերի վրա, որոնց հետ արհեստական բանականությունը դժվարանում է պայքարել՝ համակարգային մտածողություն, միջադեպերի ղեկավարում, ճարտարապետություն և այն մարդը լինելը, ով կարող է տարբերակել «հետաքրքիր ահազանգը» և «մենք շատ վատ օր ենք ունենալու» 😄🔐
Հաճախակի տրվող հարցեր
Կարո՞ղ է արդյոք արհեստական բանականությունը ամբողջությամբ փոխարինել կիբերանվտանգության թիմերին։
Արհեստական բանականությունը կարող է ստանձնել կիբերանվտանգության աշխատանքի զգալի մասը, բայց ոչ ամբողջ ոլորտը։ Այն գերազանց է կատարում կրկնվող կատարողական առաջադրանքներում, ինչպիսիք են ահազանգերի կլաստերացումը, անոմալիաների հայտնաբերումը և առաջին փուլի ամփոփագրերի կազմումը։ Այն չի փոխարինում հաշվետվողականությունը, բիզնես համատեքստը և դատողությունը, երբ խաղադրույքները բարձր են։ Գործնականում թիմերը հաստատվում են «անհարմար միջավայրում», որտեղ արհեստական բանականությունը ապահովում է մասշտաբ և արագություն, մինչդեռ մարդիկ պահպանում են հետևանքային որոշումների պատասխանատվությունը։.
Որտե՞ղ է արհեստական բանականությունն արդեն փոխարինում առօրյա SOC աշխատանքին։
Շատ SOC-ներում արհեստական բանականությունն արդեն իսկ կատարում է ժամանակատար աշխատանք, ինչպիսիք են տեսակավորումը, կրկնօրինակների վերացումը և ահազանգերի դասակարգումը՝ ըստ հավանական ազդեցության: Այն կարող է նաև արագացնել գրանցամատյանի վերլուծությունը՝ նշելով օրինաչափությունները, որոնք շեղվում են սկզբնական վարքից: Արդյունքը ոչ թե կախարդականորեն ավելի քիչ միջադեպեր են, այլ ավելի քիչ ժամեր են ծախսվում աղմուկի միջով քայլելու վրա, որպեսզի վերլուծաբանները կարողանան կենտրոնանալ կարևոր հետաքննությունների վրա:.
Ինչպե՞ս են արհեստական բանականության գործիքները օգնում խոցելիությունների կառավարմանը և թարմացումների առաջնահերթության սահմանմանը։
Արհեստական բանականությունը օգնում է խոցելիությունների կառավարումը «չափազանց շատ CVE-ներից» տեղափոխել «այստեղ առաջինը ի՞նչը պետք է թարմացնենք»։ Տարածված մոտեցումը համատեղում է շահագործման հավանականության ազդանշանները (ինչպիսին է EPSS-ը), հայտնի շահագործման ցուցակները (ինչպիսին է CISA-ի KEV կատալոգը) և ձեր միջավայրի համատեքստը (ինտերնետային ազդեցությունը և ակտիվների կարևորությունը)։ Լավ կատարված՝ սա նվազեցնում է ենթադրությունները և աջակցում է թարմացմանը՝ առանց բիզնեսը խաթարելու։.
Ի՞նչն է կիբերանվտանգության ոլորտում արհեստական բանականությունը դարձնում «լավ»՝ համեմատած աղմկոտ արհեստական բանականության հետ։
Կիբերանվտանգության մեջ լավ արհեստական բանականությունը նվազեցնում է աղմուկը՝ վստահ հնչող խառնաշփոթ ստեղծելու փոխարեն։ Այն առաջարկում է գործնական բացատրելիություն՝ կոնկրետ ակնարկներ, ինչպիսիք են՝ ինչ է փոխվել, ինչ է դիտարկվել և ինչու է դա կարևոր՝ երկար, անորոշ պատմությունների փոխարեն։ Այն նաև ինտեգրվում է հիմնական համակարգերի հետ (IAM, վերջնակետ, ամպային, տոմսերի վաճառք) և աջակցում է մարդկային կողմից անտեսմանը, որպեսզի վերլուծաբանները կարողանան անհրաժեշտության դեպքում ուղղել, կարգավորել կամ անտեսել այն։.
Կիբերանվտանգության որ մասերն է արհեստական բանականությունը դժվարանում փոխարինել։
Արհեստական բանականությունն ամենաշատը դժվարանում է սոցիալ-տեխնիկական աշխատանքներում. ռիսկի ախորժակ, միջադեպերի կառավարում և միջթիմային համակարգում: Միջադեպերի ժամանակ աշխատանքը հաճախ վերածվում է հաղորդակցության, ապացույցների մշակման, իրավական հարցերի և անորոշության պայմաններում որոշումների կայացման՝ ոլորտներ, որտեղ ղեկավարությունը գերազանցում է օրինաչափությունների համապատասխանեցմանը: Արհեստական բանականությունը կարող է օգնել ամփոփել գրանցամատյանները կամ կազմել ժամանակացույցեր, բայց այն հուսալիորեն չի փոխարինում ճնշման տակ պատասխանատվությանը:.
Ինչպե՞ս են հարձակվողները օգտագործում արհեստական բանականությունը, և արդյո՞ք դա փոխում է պաշտպանի աշխատանքը։
Հարձակվողները արհեստական ինտելեկտն օգտագործում են ֆիշինգը մասշտաբավորելու, ավելի համոզիչ սոցիալական ինժեներիա ստեղծելու և վնասակար ծրագրերի տարբերակների վրա ավելի արագ իտերացիաներ անելու համար։ Սա փոխում է խաղադաշտը. ժամանակի ընթացքում արհեստական ինտելեկտի կիրառմամբ պաշտպանները դառնում են ավելի քիչ ընտրովի։ Այն նաև ավելացնում է նոր ռիսկեր, քանի որ հարձակվողները կարող են թիրախավորել արհեստական ինտելեկտի աշխատանքային հոսքերը՝ արագ ներարկման, թունավորման փորձերի կամ հակառակորդից խուսափելու միջոցով, ինչը նշանակում է, որ արհեստական ինտելեկտի համակարգերը նույնպես անվտանգության վերահսկողության կարիք ունեն, այլ ոչ թե կույր վստահության։.
Որո՞նք են անվտանգության վերաբերյալ որոշումներ կայացնելու համար արհեստական բանականությանը ապավինելու ամենամեծ ռիսկերը։
Հիմնական ռիսկը հորինված վստահությունն է. արհեստական բանականությունը կարող է վստահ թվալ նույնիսկ սխալվելիս, և վստահությունը վերահսկողության միջոց չէ: Տվյալների արտահոսքը մեկ այլ տարածված թակարդ է. անվտանգության հարցումները կարող են պատահաբար ներառել զգայուն մանրամասներ, իսկ գրանցամատյանները հաճախ պարունակում են գաղտնիքներ: Չափազանց վստահությունը կարող է նաև քայքայել հիմունքները, մինչդեռ մոդելի շեղումը աննկատելիորեն վատթարացնում է հայտնաբերման հնարավորությունները՝ միջավայրի և հարձակվողի վարքագծի փոփոխության հետ մեկտեղ:.
Ո՞րն է կիբերանվտանգության մեջ արհեստական բանականության օգտագործման իրատեսական գործառնական մոդելը։
Գործնական մոդելը հետևյալ տեսքն ունի. օգտագործեք արհեստական բանականությունը՝ աշխատանքը նվազեցնելու համար, մարդկանց պահեք վավերացման և որոշումների կայացման համար և ավտոմատացրեք միայն անվտանգ նյութերը: Արհեստական բանականությունը հզոր է հարստացման ամփոփագրերի, տոմսերի կազմման, ապացույցների ստուգաթերթիկների և «ինչը փոխվեց» տարբերությունների համար: Ավտոմատացումը լավագույնս համապատասխանում է բարձր վստահության գործողությունների համար, ինչպիսիք են հայտնի վատ դոմեյնների արգելափակումը կամ ստուգված կոտրումից հետո մուտքագրման տվյալների վերագործարկումը՝ ունենալով պաշտպանություններ՝ չարաշահումը կանխելու համար:.
Արդյո՞ք արհեստական բանականությունը կփոխարինի կիբերանվտանգության սկսնակների դերերին, և որ հմտություններն են ավելի արժեքավոր դառնալու։
Սկսնակ մակարդակի առաջադրանքների կույտերը, հավանաբար, ամենաարագ կփոխվեն, քանի որ արհեստական բանականությունը կարող է ներծծել կրկնվող տեսակավորման, ամփոփման և դասակարգման աշխատանքները: Սակայն ի հայտ են գալիս նաև նոր առաջադրանքներ, ինչպիսիք են արագ և անվտանգ աշխատանքային հոսքերի կառուցումը, մոդելի արդյունքների ստուգումը և ինժեներական անվտանգության ավտոմատացումը: Կարիերայի դիմադրողականությունը, որպես կանոն, գալիս է այն հմտություններից, որոնց հետ արհեստական բանականությունը դժվարանում է. համակարգային մտածողություն, ճարտարապետություն, միջադեպերի ղեկավարում և տեխնիկական ազդանշանների վերածում բիզնես որոշումների:.
Հղումներ
-
ԱՌԱՋԻՆ - EPSS (ԱՌԱՋԻՆ) - first.org
-
Կիբերանվտանգության և ենթակառուցվածքների անվտանգության գործակալություն (CISA) - Հայտնի շահագործվող խոցելիությունների կատալոգ - cisa.gov
-
Ստանդարտների և տեխնոլոգիաների ազգային ինստիտուտ (NIST) - SP 800-40 Rev. 4 (Ձեռնարկությունների թարմացումների կառավարում) - csrc.nist.gov
-
Ստանդարտների և տեխնոլոգիաների ազգային ինստիտուտ (NIST) - AI RMF 1.0 - nvlpubs.nist.gov
-
OWASP - LLM01: Արագ ներարկում - genai.owasp.org
-
Մեծ Բրիտանիայի կառավարություն - Արհեստական բանականության կիբերանվտանգության գործելակերպի կանոնագիրք - gov.uk
-
Ստանդարտների և տեխնոլոգիաների ազգային ինստիտուտ (NIST) - SP 800-61 (Միջադեպերի կառավարման ուղեցույց) - csrc.nist.gov
-
Հետաքննությունների դաշնային բյուրո (ՀԴԲ) - ՀԴԲ-ն զգուշացնում է արհեստական բանականություն օգտագործող կիբերհանցագործների սպառնալիքի աճի մասին - fbi.gov
-
ՀԴԲ ինտերնետային հանցագործությունների դեմ բողոքների կենտրոն (IC3) - IC3 PSA գեներատիվ արհեստական ինտելեկտի միջոցով խարդախության/ֆիշինգի վերաբերյալ - ic3.gov
-
OpenAI - OpenAI սպառնալիքների հետախուզության զեկույցներ (չարամիտ օգտագործման օրինակներ) - openai.com
-
Եվրոպոլ - Եվրոպոլի «ChatGPT զեկույց» (չարաշահման ակնարկ) - europol.europa.eu
-
ՄԻՏՐ - ՄԻՏՐ ԱՏԼԱՍ - mitre.org
-
OWASP - OWASP-ի լավագույն 10-ը LLM դիմումների համար - owasp.org
-
Ազգային անվտանգության գործակալություն (ԱԱԳ) - Արհեստական բանականության համակարգի զարգացման անվտանգության ուղեցույց (ԱԱԳ/ԿԻՍԱ/ՆԿՍ-Մեծ Բրիտանիա և գործընկերներ) - nsa.gov
-
Microsoft Learn - Microsoft Sentinel-ի ակնարկ - learn.microsoft.com
-
Splunk - Splunk Enterprise Security - splunk.com
-
Google Cloud - Google-ի անվտանգության գործողություններ - cloud.google.com
-
CrowdStrike - CrowdStrike Falcon հարթակ - crowdstrike.com
-
Microsoft Learn - Microsoft Defender վերջնակետի համար - learn.microsoft.com
-
Պալո Ալտո Նեթվորքս - Cortex XSOAR - paloaltonetworks.com
-
Վիզ - Վիզ հարթակ - wiz.io
-
Snyk - Snyk հարթակ - snyk.io