⚖️ Anthropic-ը դատի է տվել Պենտագոնի սև ցուցակում ընդգրկվելը՝ արհեստական ինտելեկտի օգտագործման սահմանափակումների պատճառով ↗
Anthropic-ը Պենտագոնի դեմ իր պայքարը տարել է դատարան՝ մատակարարման շղթայի ռիսկի պիտակավորումից հետո: Ընկերությունը պնդում է, որ այս քայլը անօրինական փոխհատուցում էր ինքնավար զենքի և ներքին հսկողության շուրջ պաշտպանիչ պատնեշները թուլացնելուց հրաժարվելու համար, ինչը այս վեճը դասում է արհեստական բանականության քաղաքականության ամենաթեժ կետերի շարքում այս պահին: (Ռոյթերս)
Կառավարությունը ցանկանում է ճկունություն «ցանկացած օրինական օգտագործման» համար, մինչդեռ Anthropic-ը պնդում է, որ մասնավոր լաբորատորիաներին դեռ պետք է թույլատրվի գծել խիստ անվտանգության սահմաններ: Սա դարձել է մինչ օրս ամենահստակ փորձություններից մեկը այն բանի, թե արդյոք արհեստական ինտելեկտի ընկերությունը կարող է «ոչ» ասել ռազմական պայմաններին առանց դրա համար դատապարտվելու: (Ռոյթերս)
🧑💻 OpenAI-ի և Google-ի աշխատակիցները աջակցում են Anthropic-ի դատական հայցին ընդդեմ Պենտագոնի ↗
Այդ դատական հայցը արագ աջակցություն ստացավ նաև մրցակից լաբորատորիաների ներսում: OpenAI-ի և Google-ի գրեթե 40 աշխատակիցներ աջակցեցին Anthropic-ին amicus comment-ում՝ պնդելով, որ արհեստական ինտելեկտի անվտանգության կարմիր գծերի համար ընկերությունների դեմ վրեժ լուծելը հակասում է հանրային շահերին: (The Verge)
Այո՛, մրցակիցները հանկարծակի հայտնվել են նույն կողմում՝ գոնե այս հարցում։ Հակիրճ նկարագրությունը կենտրոնանում է զանգվածային հսկողության և անվստահելի ինքնավար զենքերի վրա, ինչը ամբողջ գործը դարձնում է ոչ այնքան նման Սիլիկոնյան հովտի ստանդարտ դիպուկահարության, որքան ավազի մեջ իրական արդյունաբերական գծի... կամ գուցե ցեխի մեջ ընկնելու։ (The Verge)
🛡️ OpenAI-ը ձեռք է բերում Promptfoo-ն՝ իր արհեստական ինտելեկտի գործակալներին ապահովելու համար ↗
OpenAI-ը հայտարարել է, որ գնում է Promptfoo-ն՝ ստարտափ, որը կենտրոնացած է մեծ լեզվական մոդելները հակառակորդական հարձակումներից պաշտպանելու վրա: Ծրագիրը նախատեսում է իր տեխնոլոգիան ներառել OpenAI Frontier-ում՝ ընկերության արհեստական բանականության գործակալների համար նախատեսված ձեռնարկության հարթակում: (TechCrunch)
Սա նշանակալից քայլ է։ Բոլորը ցանկանում են, որ գործակալական արհեստական բանականությունը (AI) ամենուրեք ավելին անի, ավելի արագ, բայց անվտանգության կողմը հետ է մնացել՝ թե՛ փոքր, թե՛ մեծ չափով։ Այս գործարքը ենթադրում է, որ OpenAI-ը կարծում է, որ հաջորդ խոշոր մրցավազքը ոչ միայն ավելի խելացի գործակալների, այլև ավելի անվտանգների համար է։ (TechCrunch)
🧪 Anthropic-ը թողարկում է կոդի վերանայման գործիք՝ արհեստական բանականության կողմից ստեղծված կոդի հեղեղը ստուգելու համար ↗
Anthropic-ը Claude Code-ի ներսում թողարկեց Code Review-ը, որը նախատեսված է արհեստական բանականության կոդավորման գործիքների կողմից ստեղծված pull request-ներում խեղդվող թիմերի համար: Այն զուգահեռաբար օգտագործում է բազմաթիվ գործակալներ՝ կոդը սկանավորելու, տրամաբանական խնդիրները նշելու, դասակարգման ծանրությունը գնահատելու և GitHub-ում անմիջապես մեկնաբանություններ թողնելու համար: (TechCrunch)
Առաջարկը բավականին պարզ է. արհեստական բանականությունը կոդ է ստեղծում ավելի արագ, քան մարդիկ կարող են այն խելամտորեն վերանայել, ուստի հիմա արհեստական բանականությունը պետք է վերանայի արհեստական բանականությունը: Մի փոքր «օձի պոչը ուտող» դասավորություն, բայց գործնական: Anthropic-ը նշում է, որ այն նախատեսված է ձեռնարկությունների օգտատերերի համար, ովքեր արդեն տեսնում են Claude Code-ի կողմից արտադրվող կոդի զանգվածային արտածումը: (TechCrunch)
💰 Nvidia-ի կողմից աջակցվող Nscale-ը գնահատվում է 14.6 միլիարդ դոլար նոր ֆինանսավորման փուլում ↗
Մեծ Բրիտանիայի արհեստական ինտելեկտի ենթակառուցվածքների մշակմամբ զբաղվող Nscale ընկերությունը C շարքի փուլում ներգրավել է 2 միլիարդ դոլար՝ հասնելով 14.6 միլիարդ դոլարի գնահատման: Աջակցողների թվում էին Aker-ը, 8090 Industries-ը, Nvidia-ն, Citadel-ը, Dell-ը և Jane Street-ը, ինչը բավականին ծանրակշիռ վստահության քվե է: (Ռոյթերս)
Սա կարևոր է, քանի որ սա ևս մեկ մոդելի թողարկում կամ չաթբոտի փոփոխություն չէ։ Սա բումի «քլինգ ու բահ» կողմն է՝ հաշվողական տեխնիկա, ենթակառուցվածքներ, հզորություններ, վարագույրի ետևում գտնվող բոլոր ծանր մեքենաները։ Հնարավոր է՝ ոչ այնքան հմայիչ, բայց հենց այդտեղ է հիմա փողի մեծ մասը հոսում։ (Ռոյթերս)
🧠 Յան ԼեԿունի AMI Labs-ը 1.03 միլիարդ դոլար է հավաքում աշխարհի մոդելներ կառուցելու համար ↗
Յան ԼեԿունի նոր ձեռնարկությունը՝ AMI Labs-ը, ներգրավել է 1.03 միլիարդ դոլար՝ նախնական գնահատմամբ 3.5 միլիարդ դոլարով։ Ընկերությունը հետապնդում է «աշխարհի մոդելներ»՝ արհեստական բանականության համակարգեր, որոնք նախատեսված են իրականությունից սովորելու, այլ ոչ թե լեզվից։ (TechCrunch)
Սա ուղղակի փիլիսոփայական հարված է ներկայիս LLM-ի վրա հիմնված կոնսենսուսին, և նաև ակնհայտորեն կտրուկ։ ԼեԿանը տարիներ շարունակ պնդել է, որ այսօրվա լեզվական մոդելները մեզ չեն հասցնի մինչև մարդկային մակարդակի ինտելեկտ, ուստի այս բարձրացումը այդ փաստարկը վերածում է շատ թանկարժեք փորձի։ (TechCrunch)
🇨🇳 Չինական տեխնոլոգիական կենտրոնները գովազդում են OpenClaw արհեստական բանականության գործակալը՝ չնայած անվտանգության նախազգուշացումներին ↗
Չինաստանի մի քանի տեղական ինքնակառավարման մարմիններ աջակցում են OpenClaw-ին՝ արհեստական բանականության գործակալին, որը արագ տարածվում է՝ չնայած անձնական տվյալներին հասանելիության հետ կապված անվտանգության մտահոգություններին: Այսպիսով, պաշտոնական տրամադրությունը, կարծես, այսպիսին է. այո, կան ռիսկեր, և այո, եկեք այնուամենայնիվ ընդլայնենք այն: (Ռոյթերս)
Այդ պառակտումն է ամբողջ պատմությունը։ Տեղական կենտրոնները ցանկանում են տնտեսական աճ և էկոհամակարգի թափ, մինչդեռ կարգավորող մարմինները զգուշացնում են տվյալների ազդեցության մասին։ Սա արդեն ծանոթ արհեստական բանականության օրինաչափություն է՝ նախ վազեք, հետո կարգի բերեք պաշտպանիչ ցանկապատերը, կամ այդպես է թվում։ (Ռոյթերս)
Հաճախակի տրվող հարցեր
Ինչո՞ւ է Anthropic-ը դատի տալիս Պենտագոնին՝ արհեստական ինտելեկտի օգտագործման սահմանափակումների համար։
Anthropic-ը նշում է, որ Պենտագոնը այն որակել է որպես մատակարարման շղթայի ռիսկ, այն բանից հետո, երբ ընկերությունը մերժել է ավելի լայն պայմաններ, որոնք կարող էին տարածվել ինքնավար զենքերի և ներքին հսկողության վրա: Սա դատական հայցը դարձնում է ավելին, քան պարզապես մատակարարի կարգավիճակ: Այն ստուգում է, թե արդյոք արհեստական ինտելեկտի լաբորատորիան կարող է պահպանել անվտանգության հստակ սահմանափակումներ և միևնույն ժամանակ մրցակցել կառավարության աշխատանքների համար՝ առանց պատժվելու:.
Ինչո՞ւ են OpenAI-ի և Google-ի աշխատակիցները աջակցում Anthropic-ին արհեստական բանականության անվտանգության վերաբերյալ այս վեճում։
amicus-ի համառոտագիրը ցույց է տալիս, որ մրցակից լաբորատորիաների շատ աշխատակիցներ սա համարում են նախադեպ ստեղծող արհեստական ինտելեկտի անվտանգության խնդիր, այլ ոչ թե պարզապես մեկ ընկերության և մեկ գործակալության միջև պայքար: Նրանց մտահոգությունն այն է, որ կարմիր գծերը պահպանելու համար մատակարարին պատժելը կարող է ճնշում գործադրել ավելի լայն շուկայի վրա՝ թուլացնելու պաշտպանության միջոցները: Գործնականում դա կարող է ձևավորել, թե ինչպես են բանակցվում ապագա պաշտպանական և պետական հատվածի արհեստական ինտելեկտի պայմանագրերը:.
Ի՞նչ կարող է փոխել Մարդաբանական-Պենտագոնի դեպքը արհեստական բանականության քաղաքականության և պաշտպանական պայմանագրերի համար։
Եթե Anthropic-ը հաղթի, արհեստական բանականության ընկերությունները կարող են ավելի ամուր հիմք ունենալ անընդունելի օգտագործումները սահմանելու համար, նույնիսկ զգայուն կառավարական միջավայրերում վաճառք կատարելիս: Եթե այն պարտվի, գործակալությունները կարող են լծակներ ձեռք բերել մատակարարներից ավելի լայն «օրինական օգտագործման» պայմաններ պահանջելու համար: Ամեն դեպքում, այս վեճը, հավանաբար, կազդի գնումների լեզվի, ռիսկերի վերանայման և պաշտպանական պայմանագրերում անվտանգության պաշտպանիչ պատնեշների ներդրման վրա:.
Ինչո՞ւ OpenAI-ը գնեց Promptfoo-ն արհեստական բանականության գործակալների համար։
Promptfoo-ն հայտնի է մեծ լեզվական մոդելների փորձարկմամբ՝ հակառակորդական հուշումների և այլ անվտանգության թույլ կողմերի դեմ: Նման գործիքակազմը OpenAI-ի ձեռնարկության գործակալների հարթակում ներառելը ենթադրում է, որ ընկերությունը ավելի անվտանգ տեղակայումը դիտարկում է որպես մրցակցային առավելություն, այլ ոչ թե որպես կողմնակի առաջադրանք: Քանի որ արհեստական ինտելեկտի գործակալները ստանձնում են ավելի էական աշխատանք, դիմադրողականության և չարաշահման թեստավորումը շատ ավելի դժվար է անտեսել:.
Ինչպե՞ս կարող են թիմերը ավելի անվտանգ կերպով հաղթահարել արհեստական բանականության կողմից ստեղծված կոդի հեղեղը։
Anthropic-ի Claude Code-ի նոր Code Review գործառույթը նախատեսված է արհեստական բանականության կոդավորման գործիքների կողմից առաջացած pull request-ներով ծանրաբեռնված թիմերի համար: Այն զուգահեռաբար օգտագործում է բազմաթիվ գործակալներ՝ տրամաբանական խնդիրները հայտնաբերելու, դրանց ծանրությունը դասակարգելու և GitHub-ում մեկնաբանություններ թողնելու համար: Սովորաբար, նման գործիքները օգնում են տեսակավորել ծավալը, բայց մարդկային վերանայողները դեռևս կարևոր են ճարտարապետության, համատեքստի և վերջնական հաստատման համար:.
Ինչո՞ւ է արհեստական բանականության ենթակառուցվածքը հենց հիմա այդքան շատ ներդրումներ ստանում։
Nscale-ի վերջին ֆինանսավորման փուլը ընդգծում է, որ արհեստական բանականության արդյունաբերությունը դեռևս հսկայական կապիտալ է ներդնում հաշվարկային տեխնոլոգիաների, ենթակառուցվածքների և հզորությունների մեջ: Այդ ծախսերը կարող են ավելի քիչ տեսանելի լինել, քան մոդելի շողշողուն թողարկումը, բայց դրանք մնացած ամեն ինչի հիմքն են: Երբ ուսուցման և տեղակայման պահանջարկը շարունակում է աճել, քլունգներ և թիակներ վաճառող ընկերությունները հաճախ դառնում են ամենամեծ հաղթողներից մի քանիսը:.
Որո՞նք են համաշխարհային մոդելները, և ինչո՞ւ է Յան ԼեԿունը խաղադրույք կատարում դրանց վրա։
Աշխարհի մոդելները արհեստական բանականության համակարգեր են, որոնք նախագծված են աշխարհի վարքագծից սովորելու համար, այլ ոչ թե հիմնականում լեզվական տվյալների վրա հույսը դնելու համար: Սա կարևոր է, քանի որ Յան ԼեԿունը վաղուց պնդում է, որ լեզվական մոդելներն ինքնին, հավանաբար, չեն հասնի մարդկային մակարդակի ինտելեկտին: AMI Labs-ը այդ տեսակետը վերածում է արհեստական բանականության առաջադեմ հետազոտությունների այլ ուղու վրա խոշոր առևտրային խաղադրույքի:.
Ինչո՞ւ են չինական տեխնոլոգիական կենտրոնները աջակցում OpenClaw-ին՝ չնայած անվտանգության նախազգուշացումներին։
OpenClaw-ի պատմությունը ցույց է տալիս արագ զարգացող տեխնոլոգիական շուկաներում ծանոթ պառակտումը. տեղական ինքնակառավարման մարմինները ցանկանում են աճ, սուբսիդիաներ և էկոհամակարգի թափ, մինչդեռ կարգավորող մարմինները մտահոգված են տվյալների հասանելիության և անվտանգության համար: Գործակալին աջակցելը՝ չնայած նախազգուշացումներին, ենթադրում է, որ որոշ վայրերում գերակշռում են տնտեսական խթանները: Դիտորդների համար սա ևս մեկ հիշեցում է, որ ընդունումը հաճախ ավելի արագ է ընթանում, քան վերահսկողությունը:.