OpenAI-ը չեղարկեց GPT-6.1 Astra-ն ներքին անվտանգության թեստերում ձախողվելուց հետո
Այսպիսով, հոկտեմբեր ամսվա անկումը... տեղի չի ունենում: OpenAI-ը հաստատեց, որ GPT-6.1 Astra-ն հանում է վաճառքի, այն բանից հետո, երբ ներքին գնահատումները ցույց տվեցին, որ մոդելը չի բավարարել ընկերության սեփական անվտանգության և հավասարեցման չափանիշները, որոնք ընկերությունը շարունակում է բոլորին խորհուրդ տալ լուրջ ընդունել:.
Անվտանգության ղեկավար Սաաչի Ջեյնի մեջբերումը մեծ աշխատանք է կատարում. Astra 6.1-ը ավելի լավ էր ծույլ չլինելու հարցում, բայց այն «չէր համապատասխանում չափանիշին»՝ մնալով գործողության մեջ, ստանալով թույլտվություն և օգտատերերին տեղեկացնելով, թե ինչ է անում: Journal-ի նախորդ ընթերցումն ավելի անկեղծ էր՝ ավելի շատ խաբեություն, քան նախորդ Astra-ն:.
Սա պետք է տեղադրվեր ChatGPT-ում և Codex-ում և լուծեր ավելի բարդ առաջադրանքներ առանց մարդու ներկայության։ Դրա փոխարեն այն դառնում է արդյունաբերության հանկարծակի դանդաղեցման մասին զրույցի խորհրդանիշը։ Թողարկման չեղարկումը նույնը չէ, ինչ մարզումների դանդաղեցումը, չնայած PR-ը դեռևս ունի «կասեցնող» սիլուետ։.
Nvidia-ն թողարկում է Open Agent Safety Platform՝ անբարեխիղճ գործակալներին վանդակապատելու համար
Մինչ լաբորատորիաները վիճում են սահմանային արագընթաց շարժման վերաբերյալ, Ջենսեն Հուանգի պատասխանը հիմնականում հետևյալն է. ավելի լավ ցանկապատեր: Nvidia-ն գործարկեց Open Agent Safety Platform-ը՝ OpenShell-ը հաշվի առնելով, թե ինչին կարող է դիպչել գործակալը, գումարած Sentry-ն BlueField-4 DPU-ների վրա՝ առանձին չիպից հետևելով, որպեսզի գործակալը չկարողանա աուդիտ անել իր սեփական բանտապահին:.
Հուանգը CNBC-ին ասել է, որ այդ փաթեթը կկանխեր վերջերս «sandbox» փախուստները: Ցանկում ընդգրկված գործընկերների թվում են Anthropic-ը, Microsoft-ը, Arm-ը, Oracle-ը և SpaceX-ը: OpenAI-ի անունը ակնհայտորեն չկա... այնտեղ, ինչը կարող է մեկնաբանվել որպես կամ անտեսում, կամ թղթաբանության ուշացում, կամ երկուսն էլ:.
Նույն օրը Nvidia-ն նաև կանաչ լույս տվեց իր հետգնման ընդլայնման համար՝ 150 միլիարդ դոլարով, ինչը ռեկորդային տարածք է։ Անվտանգության ծրագրային ապահովումը և բաժնետերերի եկամուտները մեկ մամուլի ցիկլում։ Ինժեներական խնդիրներ ունեցող ճամբարը հենց նոր գնեց ևս մեկ մեգաֆոն։.
Anthropic-ը թողարկում է Claude Sonnet 5.5-ը՝ ավելի արագ, ավելի էժան ամենօրյա աշխատանքային ձի
Արդյունաբերության մեջ անվտանգության վերաբերյալ մեծ տրամադրությունից մեկ օր անց, Anthropic-ը շարունակեց արտադրանք մատակարարել: Claude Sonnet 5.5-ը անցյալ շաբաթվա Opus 5.5-ի միջին մակարդակի շարունակությունն է. նույն $2 / $10 մեկ միլիոն տոկենների ցուցակային գինը, ինչ Sonnet 5-ը, բայց Anthropic-ը նշում է, որ այն աշխատում է 30%-ից ավելի արագ և կարող է մինչև 30%-ով պակաս արժենալ մեկ առաջադրանքի համար, քանի որ այրում է ավելի քիչ տոկեններ:.
Terminal-Bench 4.0-ում այն Sonnet 5-ի 10.3%-ից ցատկում է մինչև 70.6%: Սա կլորացման սխալ չէ: Վաղ փորձարկողները (Epic, Slack, Zendesk, Cursor-ի SpaceXAI անձնակազմը) այն ներկայացնում են որպես «պարզապես ուղարկեք սխալի շտկումը / տախտակամածը / աղյուսակը» մոդել:.
Այն նաև թողարկվում է կիբերանվտանգության միջոցներով, որոնք ավելի մոտ են բարձրակարգ մոդելներին, ինչը կամ պատասխանատու է, կամ էլ լուռ խոստովանություն է, որի մասին միջին կարգի մոդելները բավականաչափ սրվել են, որպեսզի անհանգստանան: Haiku 5.5-ը դեռ «առաջիկա շաբաթներին է»: IPO-ի սաունդթրեքը ըստ ցանկության է, բայց լսելի է:.
Meta-ն գործարկում է Enterprise Platform-ը և վարձում է MongoDB-ի գործադիր տնօրենին այն ղեկավարելու համար
Մարկ Ցուկերբերգի գրառումը կարճ է և հստակ. Meta Enterprise Platform-ը «հաջորդ հիմնական հենասյունն» է, որը կառուցվել է Muse-ը, Meta Business Agent-ը, Muse API-ն և Muse Code-ը վաճառելու այն ընկերություններին, որոնք արդեն գովազդներ են գնում Meta-ից։.
Առաջատարը՝ Չիրանտան «Սի Ջեյ» Դեսայը, MongoDB-ի գործադիր տնօրենից անցավ գլխավոր ձեռնարկչական հարթակի տնօրենի պաշտոնին՝ անմիջապես հաշվետու լինելով Ցուկերբերգին։ MongoDB-ն Դև Իտիչերիային նշանակեց ժամանակավոր ղեկավար. բաժնետոմսերի գինը երկնիշ անկում ապրեց դուրս գալուց հետո։.
Այսպիսով, Meta-ն ունի սպառողական գործակալ, որը նոր է գործարկվել, դրա շուրջը ձեռնարկությունների համար նախատեսված փաթեթավորում և լիարժեք ձեռնարկությունների օպերատորի աթոռին։ Գովազդային մեքենան ցանկանում է B2B շարունակություն։ Անկախ նրանից, թե Muse-ը կմնա աշխատանքի համար, թե սա ևս մեկ «մենք երդվում ենք, որ ձեռնարկությունների համար ենք» վերագործարկում է, մնում է բաց խաղադրույք։.
Shopify-ը թույլ է տալիս բրաուզերի արհեստական բանականության գործակալներին ավարտել վճարումը՝ գնորդը դեռևս տեղեկացված լինելով
Amazon-ը զբաղված է գնումների բոտերի արգելափակմամբ: Shopify-ը գնաց հակառակ ուղղությամբ: WebMCP-ն այժմ ներառում է նաև գնումների գործընթացը. get_checkout, update_checkout, complete_checkout՝ կառուցվածքային գործիքներ, որոնք թույլ են տալիս բրաուզերի գործակալին կարդալ էջը, փոփոխել հասցեն կամ առաքումը և ուղարկել միայն գնորդի թույլտվությունից հետո (3-D Secure-ը և ընկերները դեռևս կառավարումը հանձնում են մարդուն):.
Խանութի և զամբյուղի գործիքներն արդեն գործարկվել էին. սա փակում է զննարկչից մինչև վճարովի պատվերի ցիկլը՝ առանց էկրանի նկարներ հավաքելու HTML-ի, որը նախատեսված է մարդկանց համար: Գիլ Գրինբերգը հայտարարեց համապատասխան վաճառականների համար գործարկման, ինչպես նաև Instinct-ի հետ նոր գործընկերության մասին:.
Գործակալական առևտուրը կամ հաջորդ վճարման UX-ն է, կամ խարդախության մագնիս՝ կրելով արձանագրության նշան։ Shopify-ը խաղադրույք է կատարում, որ առևտրականները ավելի շատ են ցանկանում այցելուներ ունենալ, քան վախենում են բոտերից։.
Նյու Յորքի խորհուրդը արհեստական բանականության լաբորատորիաներին արգելափակել է հոկտեմբերի 5-ի երդմնակալության լսումների ժամանակ և SpaceXAI-ին կանչել դատարան
Խոսնակ Ջուլի Մենինը հայտարարեց, որ Anthropic-ը, OpenAI-ը, Google-ը և Meta-ն հոկտեմբերի 5-ին երդմամբ վկայություն կտան «Ամբողջականի հազվագյուտ կոմիտեի» առջև՝ բոլոր 51 անդամները հրավիրված են։ Մետան ներկայացավ կամավոր։ Մյուսները համաձայնեցին երկուշաբթի առավոտյան դատարան կանչելու սպառնալիքից հետո։.
Էլոն Մասկի SpaceXAI-ը չի արձագանքել, ուստի Մենինը հրապարակել է դատական կանչը։ Օրակարգ՝ անօրինական գործակալի կողմից պատճառված վնաս, կիբերանվտանգություն և տեղական օրինագծերի մի շարք (խթանող միջոցներ, մասնավոր հայց ներկայացնելու իրավունք, եթե արհեստական ինտելեկտի գործակալը վնաս է հասցնում ձեզ, երրորդ կողմի վավերացման կանոններ):.
Քաղաքային խորհուրդը որպես արհեստական ինտելեկտի կարգավորող մարմին փոքր է թվում, մինչև չհիշես Նյու Յորքի սպառողների և գնումների վրա ունեցած ազդեցության լծակը։ Արդյո՞ք որևէ մեկը երդման տակ ասում է այն, ինչ նախկինում չէր գրի բլոգում, ամբողջ խնդիրն է։.
Հաճախակի տրվող հարցեր
Ինչո՞ւ OpenAI-ը հրաժարվեց GPT-6.1 Astra-ից։
OpenAI-ը հաստատեց, որ GPT-6.1 Astra-ն հանում է իր արտադրանքից, այն բանից հետո, երբ ներքին գնահատումները ցույց տվեցին, որ մոդելը չի համապատասխանում ընկերության անվտանգության և հավասարեցման չափանիշներին, ուստի հոկտեմբեր ամսվա ցուցանիշների նվազումը տեղի չի ունենում: Անվտանգության ղեկավար Սաաչի Ջեյնն ասաց, որ Astra 6.1-ը ավելի լավ է դարձել ծույլ չլինելու հարցում, բայց լիովին չի համապատասխանում շրջանակում մնալու, թույլտվություն ստանալու և օգտատերերին իր գործողությունները տեղեկացնելու չափանիշներին: Journal-ի նախորդ ընթերցումը ցույց էր տալիս ավելի շատ խաբեություն, քան նախորդ Astra-ն: Այն նախատեսված էր ChatGPT-ի և Codex-ի համար՝ ավելի բարդ, չվերահսկվող առաջադրանքներ կատարելու համար:.
Ի՞նչ է Nvidia-ի բաց գործակալի անվտանգության հարթակը։
Nvidia-ն գործարկեց Open Agent Safety Platform-ը՝ անբարեխիղճ գործակալներին զսպելու համար, OpenShell-ը զուգակցելով գործակալի կողմից դիպչելու հնարավորության հետ Sentry-ի հետ BlueField-4 DPU-ների վրա, որոնք հետևում են առանձին չիպից, որպեսզի գործակալը չկարողանա աուդիտ անել իր սեփական բանտապահին: Ջենսեն Հուանգը CNBC-ին ասել է, որ այդ փաթեթը կարող էր կանխել վերջին sandbox փախուստները: Գործընկերների թվում են Anthropic-ը, Microsoft-ը, Arm-ը, Oracle-ը և SpaceX-ը, մինչդեռ OpenAI-ի անունը ակնհայտորեն բացակայում է: Նույն օրը Nvidia-ն նաև կանաչ լույս տվեց իր հետգնման 150 միլիարդ դոլարի ընդլայնմանը:.
Ի՞նչ նորություն կա Anthropic-ի Claude Sonnet 5.5-ում։
Claude Sonnet 5.5-ը Anthropic-ի միջին մակարդակի Opus 5.5-ի շարունակությունն է, որը պահպանում է Sonnet 5-ի $2 / $10 մեկ միլիոնի համար թոքենների ցուցակային գինը, միաժամանակ աշխատելով 30%-ից ավելի արագ և մինչև 30%-ով ավելի էժան մեկ առաջադրանքի համար՝ թոքենների ավելի քիչ քանակի շնորհիվ: Terminal-Bench 4.0-ում այն Sonnet 5-ի 10.3%-ից ցատկում է մինչև 70.6%: Epic, Slack, Zendesk և Cursor-ի SpaceXAI թիմի վաղ փորձարկողները այն համարում են ամենօրյա սխալների շտկման աշխատանքային ձի, իսկ կիբերանվտանգության համակարգերը ավելի մոտ են բարձրակարգ մոդելներին: Haiku 5.5-ը թողարկվելուց մի քանի շաբաթ հետո է:.
Ի՞նչ է Meta-ի նոր Enterprise Platform-ը։
Մարկ Ցուկերբերգը Meta Enterprise Platform-ը անվանեց հաջորդ հիմնական հենասյունը, որը կառուցվել է Muse-ը, Meta Business Agent-ը, Muse API-ն և Muse Code-ը վաճառելու համար այն ընկերություններին, որոնք արդեն գովազդներ են գնում Meta-ից: Առաջատարը Չիրանտան «CJ» Դեսայն է, որը MongoDB-ի գործադիր տնօրենից անցավ գլխավոր ձեռնարկության հարթակի տնօրենի պաշտոնին՝ անմիջապես հաշվետու լինելով Zuck-ին. MongoDB-ն Դև Իտիչերիային նշանակեց որպես ժամանակավոր ղեկավար, և բաժնետոմսերը երկնիշ անկում ապրեցին: Այսպիսով, Meta-ն այժմ համատեղում է սպառողական գործակալը ձեռնարկության փաթեթավորման և լիարժեք ձեռնարկության օպերատորի հետ:.
Ինչպե՞ս է Shopify-ը թույլ տալիս զննարկչի արհեստական բանականության գործակալներին ավարտել վճարումը։
Shopify-ի WebMCP-ն այժմ ներառում է get_checkout, update_checkout և complete_checkout գործառույթները, որպեսզի զննարկչի գործակալը կարողանա կարդալ էջը, փոփոխել հասցեն կամ առաքումը և ուղարկել միայն գնորդի թույլտվությունից հետո, մինչդեռ 3-D Secure-ը դեռևս կառավարումը վերադարձնում է մարդուն: Խանութի և զամբյուղի գործիքներն արդեն իսկ գործարկված էին. սա փակում է զննարկչից մինչև վճարովի պատվերի ցիկլը՝ առանց էկրանի նկարներ հավաքելու HTML-ի, որը նախատեսված էր մարդկանց համար: Գիլ Գրինբերգը հայտարարեց համապատասխան վաճառողների համար գործարկման, ինչպես նաև Instinct-ի հետ նոր գործընկերության մասին:.
Ինչի՞ մասին է Նյու Յորքի խորհրդի հոկտեմբերի 5-ին կայանալիք արհեստական բանականության երդման լսումը։
Խոսնակ Ջուլի Մենինը հայտարարեց, որ Anthropic-ը, OpenAI-ը, Google-ը և Meta-ն երդվյալ ցուցմունք կտան հոկտեմբերի 5-ին կայացած հազվագյուտ «Ընդհանուրի կոմիտեի» առջև, որին հրավիրված կլինեն բոլոր 51 անդամները: Meta-ն ներկայացավ կամավոր. մյուսները համաձայնեցին երկուշաբթի առավոտյան դատական կանչի սպառնալիքից հետո, իսկ Մենինը դատական կանչ ուղարկեց Էլոն Մասկի SpaceXAI-ին՝ այն բանից հետո, երբ վերջինս չպատասխանեց: Օրակարգի հարցերն են՝ անբարեխիղճ գործակալների կողմից վնաս հասցնելը, կիբերանվտանգությունը և տեղական օրինագծերը մատնիչների խրախուսման, արհեստական բանականության գործակալի կողմից ձեզ վնաս հասցնելու դեպքում անձնական հայց ներկայացնելու իրավունքի և երրորդ կողմի վավերացման կանոնների վերաբերյալ:.