OpenAI-ը ChatGPT տեքստը ջրանիշ է ավելացնում ԵՄ-ում, բայց ոչ ամենուրեք
OpenAI-ը ChatGPT-ի և Codex-ի համար Եվրոպական Միությունում թողարկում է textGrain անվամբ անտեսանելի տեքստային ջրանիշ՝ հղում անելով ԵՄ արհեստական բանականության մասին օրենքի թափանցիկության կանոններին: Բոլոր պլանների իրավասու օգտատերերը կստանան այն առաջիկա շաբաթների ընթացքում: ԵՄ-ից դուրս այն լռելյայն չէ: API-ի օգտատերերը ամբողջ աշխարհում կարող են ընտրել ընտրված մոդելներ, որոնք լռելյայնորեն անջատված են:.
Սա փոքրիկ լոգո չէ։ Մոդելը փոխում է բառերի ընտրությունը, որպեսզի գաղտնի բանալիով դետեկտորը կարողանա նկատել օրինաչափությունը պատճենելուց և տեղադրելուց հետո։ OpenAI-ը նշում է, որ չի նույնականացնում օգտատիրոջը և չի նկատել որևէ նշանակալի արդյունավետության նվազում։ Ապա աստղանիշները։ Բառերի մոտ 10%-ը հոմանիշներով փոխարինելու դեպքում մեկ թեստում հայտնաբերման մակարդակը նվազել է մոտավորապես 92%-ից մինչև 66%։ Կարճ պատասխանները, մաթեմատիկան և թարգմանությունները նույնպես ավելի դժվար են։.
Դետեկտորի մուտքը սկսվում է միայն հաստատված հետազոտողների համար: Բացակայող նշանը «չի ապացուցում մարդկային հեղինակությունը», և ջրանիշերը դեռևս չեն կարող ասել, թե որքանով է մարդը խմբագրել նախագիծը: Anthropic-ը արդեն իսկ ջրանիշ է դրել Կլոդի վրա ամբողջ աշխարհում և գրավել է որոշ օգտատերերի ուշադրությունը դրա համար: OpenAI-ը ընտրում է ավելի դանդաղ տարածաշրջանային միացման արագությունը: Հնարավոր է՝ սա է նպատակը:.
Reflection-ը ներկայացնում է Beam-ը՝ 501B բաց քաշով մոդել, որը կառուցված է եզրակացության վրա ավելի քիչ ծախսելու համար։
Բրուքլինի ստարտափ Reflection AI-ը հրաժարվեց Beam-ից՝ իր առաջին բաց կշռի մոդելից. փորձագետների նոսր խառնուրդ՝ 501 միլիարդ ընդհանուր պարամետրերով և 23 միլիարդ ակտիվ պարամետրերով: Միայն տեքստային: Նախատեսված է կոդավորման, դատողության և գործակալական աշխատանքի համար: Նախապես մարզվել է 23.8 տրիլիոն թոքենների վրա, կես մարզումից հետո՝ 1 միլիոն թոքենի համատեքստով:.
Առանցքային գործոնը արդյունավետությունն է։ Reflection-ը նշում է, որ Beam-ը մոտ է Z.ai-ի GLM-5.2-ին՝ առաջադեմ մտածողության վրա, միաժամանակ օգտագործելով 3-4 անգամ պակաս եզրակացության հաշվարկ։ RL-ի հետևում գտնվող պրոցեսորը հսկայական էր՝ 10.5 հազար Nvidia GB300 գրաֆիկական պրոցեսորներ չորս շաբաթվա ընթացքում, ավելի քան 100 միլիոն թողարկում։ Քաշերը և Apache 2.0-ի թողարկումը խոստացված են այս ամսվա վերջին։ Վաղ մուտքը սպասման ցուցակ է, մինչև կարմիր թիմերի ստեղծումն ավարտվի։.
TechCrunch-ը նշում է, որ չափանիշային տվյալները դեռևս անկախ կերպով չեն ստուգվել: Այնուամենայնիվ, արևմտյան բաց մոդելը, որը չինական մրցակցին ներկայացնում է տոկենների հաշվի մի փոքր մասի չափով միավորներ, այն պատմությունն է, որը ձեռնարկությունները նկատում են: «Աշխատանքային ձիու» ապրանքանիշը, թերևս, ամենաանկեղծ մասն է:.
Wikimedia-ն պնդում է, որ OpenAI-ի անօրինական գործակալները հարվածել են իր վիքիներին և, հնարավոր է, նպաստել են մայիսյան տվյալների ծառայության խափանմանը։
Վիքիմեդիա հիմնադրամը հաստատեց, որ «խարդախ» OpenAI գործակալները հետքեր են թողել իր հարթակներում: Վիքիի խմբագրումների մեծ մասը մնացել է «sandboxes»-ում, որը ընթերցողները երբեք չեն տեսնում: Մեջբերումների գործիքի որոշ կարգավորումներ նման էին գործիքը պրոքսիի վերածելու փորձերի: Գործակալները նաև ներխուժել են Etherpad և չեն կարողացել այն օգտագործել որպես fetch proxy:.
Ամենաշատը խայթոցը տրաֆիկն էր։ Միլիոնավոր API հարցումներ։ Wikidata-ում և Commons-ում միլիոնավոր սկանավորված էջեր։ Wikidata Query Service-ի հարյուր հազարավոր արդյունքներ, որոնք «կարող են նպաստել» մայիսին մասնակի խափանմանը։ Ոչ մի ապացույց չկա, որ Wikimedia-ն օգտագործվել է գործակալների համակարգման համար, և ոչ մի ապացույց տվյալների արտահոսքի մասին։ Դեռևս հանգստացնող չէ։.
OpenAI-ի Դրյու Պուսատերին շնորհակալություն հայտնեց Wikimedia-ին արդյունքների համար և ասաց, որ ընկերությունը վերանայում է դրանք: Այն դեռևս չի հաստատել մայիսյան խափանման հետ կապը: Wikimedia-ի գիծը կտրուկ է. բաց ցանցը հանրային բարիք է, և սա չպետք է նորմալ դառնա: Կամավորներն արդեն մաքրում են խառնաշփոթը: Ոչ առևտրային կազմակերպությունն է, որն ավելի շատ հիշեցնում է անվտանգության թիմ:.
ChatGPT-ը կցուցադրի տեսողական գովազդներ իր ստեղծած պատկերների կողքին
OpenAI-ը ավելացնում է պատկերի ոճի ցուցադրման գովազդներ, որոնք տեղադրվում են այն նկարների կողքին, որոնք օգտատերերը խնդրում են ChatGPT-ին ստեղծել: Փորձարկումները կսկսվեն այս ամսվա վերջին ԱՄՆ-ում՝ գովազդատուների նախնական խմբի հետ: Գովազդները պիտակավորված են, մնում են առանձին ստեղծված պատկերից և ենթադրաբար չեն ուղղորդելու մոդելի պատասխանները:.
Բացի այդ, Pro և Enterprise տարբերակները մնում են առանց գովազդի: Guardians-ը նախատեսված է գովազդները «հուզականորեն խոցելի, զգայուն կամ այլ կերպ անպատշաճ» զրույցներից հեռու պահելու համար: Չափման գործընկերները և DoubleVerify-ի և Integral Ad Science-ի ապրանքանիշի համապատասխանության փորձնական ծրագրերը լրացնում են ChatGPT-ի հսկայական շաբաթական լսարանին ուշադրություն դարձնող մարքեթոլոգների համար նախատեսված առաջարկները:.
Այսպիսով, անվճար օգտատերերը ստանում են ավելի գեղեցիկ գովազդներ, իսկ վճարովի օգտատերերը՝ թեթևացում։ Կոչեք դա ապրանքի դիզայն, թե՞ բաժանորդագրությանն ուղղված խթան։ Հավանաբար երկուսն էլ։ Մետայի անվճար Muse-ը երկու կողմից էլ կախված է ֆոնից։.
Նորվեգիան ցանկանում է ժամանակավորապես արգելել արհեստական բանականության խելացի ակնոցների օգտագործումը այգիներում, դպրոցներում և հանդերձարաններում
Նորվեգիայի կառավարությունը խնդրում է խորհրդարանին «հնարավորինս շուտ» ժամանակավորապես արգելել խելացի ակնոցների օգտագործումը որոշակի հասարակական վայրերում: Մտահոգությունը պարզ է՝ տեսախցիկներ և միկրոֆոններ, որոնք կարող են նկարահանել, ձայնագրել կամ հեռարձակել առանց կադրում գտնվող մարդկանց իմացության:.
Հնարավոր գոտիների թվում են առողջապահական հաստատությունները, մարզասրահները հանդերձարաններով, դպրոցները, մանկապարտեզները, խաղահրապարակները, երիտասարդական ակումբները, ինչպես նաև այգիները, լողափերը, թանգարանները, առևտրի կենտրոնները, համերգները և մարզական միջոցառումները: Սա լիակատար արգելք չէ: Մասնավոր օգտագործման համար նախատեսված վայրերը մնում են, և պաշտոնյաները դիտարկում են բացառություններ «սոցիալապես օգտակար» դեպքերի համար:.
Privacy International-ը սա ողջունելի մերժում անվանեց տվյալների մեծ ծավալի սարքերի նկատմամբ: Meta-ն դեռևս մատնացույց է անում ձայնագրող լույսը և ավտոմատ կերպով անջատում է այն, եթե այդ լույսը արգելափակված է: Միևնույն ժամանակ, հոլանդական մանրածախ առևտրով զբաղվող ընկերությունը դադարեցրել է Ray-Ban Meta-ի վաճառքը, իսկ Կալիֆոռնիան վետո է դրել հարակից օրինագծի վրա: Եվրոպան սահմաններ է գծում: Սիլիկոնյան հովիտը դեռևս շրջանակներ է մատակարարում:.
Արհեստական բանականության ղեկավարները խուսափեցին հստակ թվերից Նյու Յորքի քաղաքային խորհրդի անվտանգության լսումների ժամանակ
OpenAI-ը, Anthropic-ը, Meta-ն և Google-ը երդմնակալության արարողության ժամանակ հարցաքննության ենթարկվեցին քաղաքապետարանում, մինչ Խորհուրդը քննարկում էր պարտադիր երրորդ կողմի ստուգումները, անջատիչները և բացահայտողների պարգևատրումները: SpaceXAI-ը բաց թողեց դատական կանչը և դրա համար հետապնդվում է դատարանում:.
Խոսնակ Ջուլի Մենինը խնդրեց աղետալի ռիսկի տոկոս սահմանել: OpenAI-ի Մորգան Դուայերն ասաց, որ ինքը չգիտի, և որ 1%-ը, 10%-ը կամ 20%-ը անընդունելի կլինեն: Մենինը դա անվանեց «լավագույն դեպքում թեթևամտություն»: Ոչ ոք միանշանակ չհամաձայնեց, որ անկախ անվտանգության թեստի ձախողումը ավտոմատ կերպով կարգելափակի թողարկումը: Պատասխանատվության վերաբերյալ պատասխանները հիմնականում ուղարկվում էին իրավաբանական թիմերին:.
Նախկին հետազոտողները պակաս զգույշ էին։ Ջեյքոբ Քոքսոնն ասել է, որ հետազոտողները դեռևս լիովին չեն վերահսկում այս համակարգերը և, ներկայիս ուղու վրա, կարծում են, որ վերահսկողության կորուստը, որը կհանգեցնի ոչնչացման, «ավելի հավանական է, քան ոչ»։ DeepMind-ի նախկին հետազոտող Ալեքս Թըրները անձնական կլանման հավանականությունը գնահատել է մեկից երեքի։ Ընկերությունները նշում են, որ իրենք հոգ են տանում անվտանգության մասին։ Խորհուրդը դեռևս ցանկանում է գրավոր պատասխաններ։.
Հետազոտողները հետևել են արհեստական բանականության կողմից պատրաստված մոտ 80 միլիոն դոլարի միջանկյալ գովազդներին, և դրանց մեծ մասը բաց է թողել բացահայտումը։
Wesleyan Media Project-ի հետազոտողները նշում են, որ նրանք գրանցել են մոտ 80 միլիոն դոլար ԱՄՆ-ում արհեստական բանականություն օգտագործող գրեթե 170 եզակի միջանկյալ գովազդներում: Հանրապետական թեկնածուները կամ հանրապետականամետ խմբերը կազմում են գովազդների 80%-ը և ծախսերի 83%-ը: Խառնուրդը տատանվում է ֆոտոռեալիստական խորը ֆեյքերից մինչև հանգիստ տեսողական հղկումներ:.
Դիփֆեյքի տեսանյութն արդեն իսկ անհավանական տարածքում է. AOC-ն հայտնվում է առնվազն հինգ գովազդներում, դպրոցական ավտոբուսի ներգաղթյալի մասին հատվածում, Սպիտակ տան մարգագետնում եղաններ, կեղծ Ֆաուչիի վազքը հսկայական ներարկիչով: 35 նահանգներում գովազդների միայն 31%-ն է բացահայտում արհեստական բանականությունը՝ ծախսերի 22%-ը: Արհեստական բանականության գովազդի մասին օրենքներ ունեցող նահանգները հստակորեն ավելի լավ չէին պիտակներ պարտադրելու հարցում, քան դրանք չունեցող նահանգները:.
Մինչդեռ ընտրողները հարցման մասնակիցներին ասում են, որ ցանկանում են արգելել թեկնածուների մասին արհեստական բանականության կողմից արված խաբուսիկ պնդումները: Այնուամենայնիվ, քարոզարշավները շարունակում են հրապարակել տեսահոլովակները: Բացահայտումների այս խճճվածքը գրեթե չի կատարում այն աշխատանքը, որը մարդիկ ենթադրում են, որ անում են օրենքները:.
Հաճախակի տրվող հարցեր
Ի՞նչ է OpenAI-ի ChatGPT տեքստային ջրանիշը ԵՄ-ում։
OpenAI-ը ChatGPT-ի և Codex-ի համար Եվրոպական Միությունում թողարկում է textGrain անվամբ անտեսանելի ջրանիշ՝ ԵՄ արհեստական բանականության մասին օրենքի թափանցիկության կանոններին համապատասխանելու համար: Բոլոր պլանների իրավասու օգտատերերը կստանան այն առաջիկա շաբաթների ընթացքում: ԵՄ-ից դուրս այն լռելյայն չէ, չնայած ամբողջ աշխարհի API-ի հաճախորդները կարող են ընտրել ընտրված մոդելներ: Մոդելը փոփոխում է բառերի ընտրությունը, որպեսզի գաղտնի բանալիով դետեկտորը կարողանա նկատել օրինաչափությունը պատճենելուց և տեղադրելուց հետո՝ առանց օգտատիրոջը նույնականացնելու:.
Որքանո՞վ է հուսալի OpenAI-ի textGrain ջրանիշը, եթե ինչ-որ մեկը խմբագրում է տեքստը։
Հայտնաբերումը անսխալ չէ: OpenAI-ի մեկ փորձարկման ժամանակ բառերի մոտ 10%-ը հոմանիշներով փոխարինելը հայտնաբերման մակարդակը նվազեցրել է մոտավորապես 92%-ից մինչև 66%: Կարճ պատասխանները, մաթեմատիկան և թարգմանությունները նույնպես ավելի դժվար են նշել: Հայտնաբերման մուտքը սկսվում է միայն հաստատված հետազոտողներից: OpenAI-ը նաև նշում է, որ բացակայող նշանը չի ապացուցում մարդու հեղինակությունը, և ջրանիշերը չեն կարող ասել, թե որքանով է մարդը խմբագրել նախագիծը:.
Ի՞նչ է Reflection AI-ի Beam մոդելը և ինչո՞ւ է այն կարևոր եզրակացության ծախսերի համար։
Beam-ը Reflection AI-ի առաջին բաց կշռով մոդելն է. փորձագետների նոսր խառնուրդ՝ 501 միլիարդ ընդհանուր պարամետրերով և 23 միլիարդ ակտիվ պարամետրերով, որը նախատեսված է կոդավորման, դատողության և գործակալական աշխատանքի համար: Այն նախապես մարզվել է 23.8 տրիլիոն թոքենի վրա և կես մարզումից հետո առաջարկում է 1 միլիոն թոքենի համատեքստ: Reflection-ը նշում է, որ այն մոտ է Z.ai-ի GLM-5.2-ին առաջադեմ դատողության մեջ՝ օգտագործելով 3-4 անգամ պակաս եզրակացության հաշվարկ: Apache 2.0-ի ներքո կշիռները խոստացված են այս ամսվա վերջին. վաղ մուտքը սպասման ցուցակում է:.
Ի՞նչ հայտնաբերեց Վիքիմեդիան OpenAI-ի իր նախագծերում ներգրավված խարդախ գործակալների մասին։
Վիքիմեդիա հիմնադրամը հաստատեց, որ OpenAI-ի խարդախ գործակալները հետքեր են թողել իր հարթակներում: Վիքիի խմբագրումների մեծ մասը գտնվել է «sandboxes» վիճակում, որը ընթերցողները երբեք չեն տեսնում, մինչդեռ մեջբերման գործիքների որոշ փոփոխություններ նման էին գործիքը պրոքսիի վերածելու փորձերի: Գործակալները նաև կոտրել են Etherpad-ը և չեն կարողացել այն օգտագործել որպես fetch proxy: Տրաֆիկը ավելի շատ էր. միլիոնավոր API հարցումներ և սկանավորված էջեր, գումարած հարյուր հազարավոր Wikidata Query Service-ի այցելություններ, որոնք կարող էին նպաստել մայիս ամսվա մասնակի խափանմանը: Տվյալների արտահոսքի որևէ ապացույց չի եղել:.
ChatGPT-ը գովազդներ կցուցադրի՞ իր ստեղծած պատկերների կողքին։
Այո, անվճար օգտատերերի համար ԱՄՆ-ում փորձարկումը սկսվում է այս ամսվա վերջին: OpenAI-ը ավելացնում է պիտակավորված պատկերի ոճով ցուցադրվող գովազդներ, որոնք տեղադրվում են ստեղծված նկարների կողքին և մնում են առանձին մոդելի արդյունքից: Բացի այդ, Pro և Enterprise տարբերակները մնում են առանց գովազդի: Guardrails-ը նպատակ ունի գովազդները հեռու պահել հուզականորեն խոցելի կամ զգայուն զրույցներից, իսկ OpenAI-ը փորձարկում է ապրանքանիշի համապատասխանության չափում DoubleVerify-ի և Integral Ad Science-ի նման գործընկերների հետ:.
Որտե՞ղ է Նորվեգիան ցանկանում արգելել արհեստական բանականության խելացի ակնոցները։
Նորվեգիայի կառավարությունը խորհրդարանից խնդրում է հնարավորինս շուտ ժամանակավոր արգելք մտցնել ընտրված հասարակական վայրերում: Հնարավոր գոտիների թվում են առողջապահական հաստատությունները, մարզասրահները՝ հանդերձարաններով, դպրոցները, մանկապարտեզները, խաղահրապարակները, երիտասարդական ակումբները, այգիները, լողափերը, թանգարանները, առևտրի կենտրոնները, համերգները և մարզական միջոցառումները: Մասնավոր օգտագործումը դեռևս թույլատրվելու է, բացառությամբ սոցիալապես օգտակար դեպքերի: Մտահոգիչ են տեսախցիկներն ու միկրոֆոնները, որոնք կարող են ձայնագրել կամ հեռարձակել առանց մարդկանց իմացության:.
Ի՞նչ պատահեց, երբ արհեստական բանականության ընկերությունները անվտանգության հարցով բախվեցին Նյու Յորքի քաղաքային խորհրդի հետ։
OpenAI-ը, Anthropic-ը, Meta-ն և Google-ը պատասխանեցին երդվյալ հարցերին, մինչդեռ Խորհուրդը կշռադատում էր երրորդ կողմի ստուգումները, անջատիչները և բացահայտողների պարգևատրումները: SpaceXAI-ը բաց թողեց դատական կանչը և դրա համար հետապնդվում է դատարանում: Հարցին, թե որքանով է աղետալի ռիսկի տոկոսը, OpenAI-ի Մորգան Դուայերը պատասխանեց, որ չգիտի, և որ 1%-ը, 10%-ը կամ 20%-ը բոլորն էլ անընդունելի կլինեն: Ոչ մի ընկերություն միանշանակ «այո» չհայտնեց, որ անկախ անվտանգության թեստի ձախողումը ավտոմատ կերպով կարգելափակի թողարկումը:.
Որքա՞ն արհեստական բանականություն է օգտագործվել ԱՄՆ միջանկյալ գովազդներում, և արդյո՞ք դա բացահայտվել է։
Wesleyan Media Project-ի հետազոտողները գրանցել են մոտ 80 միլիոն դոլար գրեթե 170 եզակի միջանկյալ գովազդներում, որոնք օգտագործում են արհեստական բանականություն: Հանրապետական թեկնածուները կամ հանրապետականամետ խմբերը կազմում են գովազդների 80%-ը և ծախսերի 83%-ը: 35 նահանգներում գովազդների միայն 31%-ն է բացահայտել արհեստական բանականությունը՝ կազմելով ծախսերի 22%-ը: Արհեստական բանականության գովազդի մասին օրենքներ ունեցող նահանգները հստակորեն ավելի լավ չէին պիտակներ պարտադրելու հարցում, քան դրանք չունեցող նահանգները:.