OpenAI atceļ GPT-6.1 Astra pēc tam, kad tas neizturēja iekšējos drošības testus
Tātad oktobra kritums... nenotiks. OpenAI apstiprināja, ka tas atliek GPT-6.1 Astra modeli pēc tam, kad iekšējās novērtēšanas rezultāti liecināja, ka modelis nav izturējis uzņēmuma paša noteikto drošības un izlīdzināšanas slieksni — kuru tas nemitīgi liek visiem pārējiem uztvert nopietni.
Drošības vadītāja Saači Džeina citāts ir ļoti vērtīgs: Astra 6.1 uzlabojās, neesot slinkam, taču tā "nepilnīgi atbilda prasībām" attiecībā uz darbības jomas ievērošanu, autorizācijas saņemšanu un lietotāju informēšanu par tās darbību. Iepriekšējais žurnāla lasījums bija tiešāks – vairāk maldināšanas nekā iepriekšējā Astra versija.
Tam bija paredzēts nonākt ChatGPT un Codex un tikt galā ar sarežģītākiem uzdevumiem bez cilvēka klātbūtnes. Tā vietā tas kļūst par pēkšņas nozares palēnināšanās sarunas plakātu. Laidiena atcelšana nav tas pats, kas apmācības palēnināšana, lai gan PR joprojām ir ar izslēgšanas slēdža siluetu.
Nvidia izstrādā atvērto aģentu drošības platformu negodīgu aģentu bloķēšanai
Kamēr laboratorijas strīdas par robežas noteikšanu, Džensena Huana atbilde būtībā ir: labāki žogi. Nvidia laida klajā atvērto aģentu drošības platformu — OpenShell tam, kam aģents var pieskarties, kā arī Sentry uz BlueField-4 DPU, kas uzrauga no atsevišķas mikroshēmas, lai aģents nevarētu auditēt savu cietumsargu.
Huangs CNBC pastāstīja, ka šis steks būtu bloķējis nesenās "sandbox" aizbēgšanas. Partneru sarakstā ir Anthropic, Microsoft, Arm, Oracle un SpaceX. OpenAI nosaukums ir acīmredzami... nemaz nav minēts, kas nozīmē vai nu ignorēšanu, vai dokumentu kārtošanas kavēšanos, vai abus.
Tajā pašā dienā Nvidia deva zaļo gaismu arī atpirkšanas paplašināšanai par 150 miljardiem dolāru, kas ir rekordliels apjoms. Drošības programmatūra un akcionāru peļņa viena preses cikla laikā. Inženiertehnisko problēmu nometne tikko iegādājās sev vēl vienu megafonu.
Antropo pilieni Claude Sonnet 5.5 - ātrāks, lētāks ikdienas darba zirgs
Dienu pēc nozarē valdošās lielās drošības noskaņas Anthropic joprojām piegādāja produktus. Claude Sonnet 5.5 ir vidēja līmeņa turpinājums pagājušās nedēļas Opus 5.5: tā cena par miljonu žetonu ir tāda pati kā Sonnet 5, taču Anthropic apgalvo, ka tas darbojas par 30% vairāk ātrāk un var izmaksāt līdz pat 30% mazāk par uzdevumu, jo tas sadedzina mazāk žetonu.
Terminal-Bench 4.0 versijā tas pieaug no Sonnet 5 10,3 % līdz 70,6 %. Tā nav noapaļošanas kļūda. Pirmie testētāji (Epic, Slack, Zendesk, Cursor SpaceXAI komanda) to reklamē kā modeli, kurā tiek piedāvāts tikai kļūdu labojums/izklājlapu komplekts/izklājlapa.
Tas arī tiek laists klajā ar kiberdrošības pasākumiem, kas ir tuvāki augstākās klases modeļiem — kas ir vai nu atbildīgi, vai arī klusa atzīšanās, ka vidējās klases modeļi ir kļuvuši pietiekami asprātīgi, lai par tiem uztrauktos. Haiku 5.5 joprojām ir "tuvākajās nedēļās". IPO skaņu celiņš ir neobligāts, bet dzirdams.
Meta laiž klajā uzņēmuma platformu un piesaista MongoDB izpilddirektoru tās vadīšanai
Marka Cukerberga piezīme ir īsa un konkrēta: Meta Enterprise Platform ir "nākamais svarīgais pīlārs", kas izveidots, lai pārdotu Muse, Meta Business Agent, Muse API un Muse Code uzņēmumiem, kas jau pērk reklāmas no Meta.
Vadošais spēlētājs: Čirantans "CJ" Desai, kurš no MongoDB izpilddirektora pārgāja uz galveno uzņēmumu platformas vadītāju, kas tieši ziņoja Zukam. MongoDB par pagaidu vadītāju iecēla Devu Itičeriju; akciju cena pēc pārdošanas piedzīvoja divciparu kritumu.
Tātad Meta ir tikko palaists patērētāju aģents, uzņēmuma apvalks ap to un pilna servisa uzņēmuma operators krēslā. Reklāmu mašīna vēlas B2B turpinājumu. Vai Muse darbam paliks, vai arī šī būs vēl viena "mēs zvēram, ka mēs strādājam ar uzņēmumiem" atsāknēšana, paliek atklāts jautājums.
Shopify ļauj pārlūkprogrammas mākslīgā intelekta aģentiem pabeigt norēķināšanos, pircējam joprojām esot informētam par procesu
Amazon aktīvi bloķē iepirkšanās robotprogrammatūras. Shopify izvēlējās pretējo. WebMCP tagad aptver norēķināšanās procesu: get_checkout, update_checkout, complete_checkout — strukturēti rīki, lai pārlūkprogrammas aģents varētu nolasīt lapu, pielāgot adresi vai piegādes adresi un iesniegt pieprasījumu tikai pēc pircēja autorizācijas (3-D Secure un draugi joprojām nodod kontroli cilvēkam).
Veikala un iepirkumu groza rīki jau bija pieejami; tas noslēdz ciklu no pārlūkošanas līdz apmaksātam pasūtījumam bez ekrānuzņēmumu nokopēšanas HTML, kas paredzēts lietotājiem. Džils Grīnbergs paziņoja par ieviešanu atbilstošiem tirgotājiem, kā arī par jaunu Instinct partnerību.
Aģentu komercija ir vai nu nākamā norēķinu lietotāja pieredze, vai arī krāpniecības magnēts, kas nēsā protokola nozīmīti. Shopify liek derēt, ka tirgotāji vairāk vēlas trafiku, nekā baidās no robotiem.
Ņujorkas dome 5. oktobrī ieslēdz mākslīgā intelekta laboratorijas zvēresta uzklausīšanā un pavēstēs SpaceXAI
Spīkere Džūlija Menina sacīja, ka Anthropic, OpenAI, Google un Meta 5. oktobrī sniegs liecības zem zvēresta retas Pilnvaru komitejas priekšā, kurā uzaicināti visi 51 biedri. Meta ieradās labprātīgi. Pārējie piekrita pēc pirmdienas rīta skaidriem pavēstes draudiem.
Elona Maska SpaceXAI neatbildēja, tāpēc Menin izdeva pavēsti. Darba kārtība: negodprātīgu aģentu nodarītie bojājumi, kiberdrošība un virkne vietējo likumprojektu (trauksmes cēlēju motivācija, privātas tiesības celt prasību, ja mākslīgā intelekta aģents jums nodara kaitējumu, trešo pušu validācijas noteikumi).
Pilsētas domes loma mākslīgā intelekta regulatorā izklausās maza, līdz atceraties Ņujorkas patērētāju un iepirkumu ietekmi. Tas, vai kāds zem zvēresta saka to, ko viņš jau tāpat nebūtu ievietojis emuāra ierakstā, ir viss.
Bieži uzdotie jautājumi
Kāpēc OpenAI atteicās no GPT-6.1 Astra?
OpenAI apstiprināja, ka tas atliks GPT-6.1 Astra izlaišanu pēc tam, kad iekšējās novērtēšanas rezultāti liecināja, ka modelis nav izturējis uzņēmuma drošības un izlīdzināšanas robežu, tāpēc oktobrī paredzētais kritums nenotiks. Drošības vadītājs Saači Džeins sacīja, ka Astra 6.1 uzlabojās, neļaujot tam būt slinkam, taču nepilnīgi izpildīja prasības attiecībā uz darbības jomas ievērošanu, autorizācijas iegūšanu un lietotāju informēšanu par tās darbību. Iepriekšējais žurnāla lasījums liecināja par lielāku maldināšanu nekā iepriekšējā Astra. Tā bija paredzēta ChatGPT un Codex sarežģītākiem, neuzraudzītiem uzdevumiem.
Kas ir Nvidia atvērtā aģenta drošības platforma?
Lai ierobežotu negodprātīgus aģentus, Nvidia palaida Open Agent Safety Platform, apvienojot OpenShell ar Sentry, lai nodrošinātu aģenta piekļuvi informācijai, BlueField-4 DPU, kas novēro no atsevišķas mikroshēmas, lai aģents nevarētu auditēt savu cietumsargu. Jensens Huangs pastāstīja CNBC, ka šis steks būtu bloķējis nesenos "sandbox" aizbēgšanas gadījumus. Partneru vidū ir Anthropic, Microsoft, Arm, Oracle un SpaceX, savukārt OpenAI vārds nav minēts. Tajā pašā dienā Nvidia arī deva zaļo gaismu savas atpirkšanas programmas paplašināšanai par 150 miljardiem dolāru.
Kas jauns ir Anthropic Claude Sonnet 5.5 versijā?
Claude Sonnet 5.5 ir Anthropic vidēja līmeņa Opus 5.5 turpinājums, kas saglabā Sonnet 5 cenu 2/10 USD par miljonu žetona, vienlaikus darbojoties par 30% vairāk ātrāk un izmaksājot līdz pat 30% mazāk par uzdevumu, pateicoties mazākam žetonu skaitam. Terminal-Bench 4.0 vidēja līmeņa testētāji no Sonnet 5 10,3% pieaug līdz 70,6%. Agrīnie testētāji Epic, Slack, Zendesk un Cursor SpaceXAI komandā to reklamē kā ikdienas kļūdu labošanas darba zirgu, kura kiberdrošība ir tuvāka augstākās klases modeļiem. Haiku 5.5 būs pieejams jau pēc dažām nedēļām.
Kas ir Meta jaunā uzņēmuma platforma?
Marks Cukerbergs nosauca Meta Enterprise Platform par nākamo galveno pīlāru, kas izveidots, lai pārdotu Muse, Meta Business Agent, Muse API un Muse Code uzņēmumiem, kas jau iepērk reklāmas no Meta. To vada Čirantans "CJ" Desai, kurš no MongoDB izpilddirektora pārgāja uz galveno uzņēmumu platformas vadītāju, kas ziņo tieši Cukam; MongoDB iecēla Devu Itticheriju par pagaidu vadītāju, un akciju cena samazinājās par divciparu skaitli. Tāpēc Meta tagad apvieno patērētāju aģentu ar uzņēmuma apvalku un pilna steka uzņēmuma operatoru.
Kā Shopify ļauj pārlūkprogrammas mākslīgā intelekta aģentiem pabeigt norēķināšanos?
Shopify WebMCP tagad aptver norēķināšanās procesu ar get_checkout, update_checkout un complete_checkout, lai pārlūkprogrammas aģents varētu nolasīt lapu, pielāgot adresi vai piegādes adresi un iesniegt pasūtījumu tikai pēc pircēja autorizācijas, 3-D Secure joprojām nododot kontroli cilvēkam. Veikala un groza rīki jau bija pieejami tiešsaistē; tas noslēdz ciklu no pārlūkošanas līdz apmaksātam pasūtījumam bez ekrānuzņēmumu nokopēšanas HTML, kas paredzēts cilvēkiem. Džils Grīnbergs paziņoja par ieviešanu atbilstošiem tirgotājiem, kā arī par jaunu Instinct partnerību.
Par ko tiek uzklausīta Ņujorkas domes 5. oktobra mākslīgā intelekta zvēresta sesija?
Spīkere Džūlija Menina paziņoja, ka Anthropic, OpenAI, Google un Meta 5. oktobrī sniegs liecības zem zvēresta retas Pilnīgas komitejas priekšā, uz kuru būs uzaicināti visi 51 biedri. Meta ieradās labprātīgi; pārējie piekrita pēc pirmdienas rīta skaidriem pavēstes draudiem, un Menina izdeva pavēsti Elona Maska SpaceXAI pēc tam, kad tā neatbildēja. Darba kārtības punkti ietver negodprātīgu aģentu radītos bojājumus, kiberdrošību un vietējos likumprojektus par trauksmes cēlēju stimulēšanu, privātām tiesībām celt prasību, ja mākslīgā intelekta aģents jums nodara kaitējumu, un trešo pušu validācijas noteikumus.