Svešzemnieka prāts
OpenAI galvenais zinātnieks tikko… lūdza nozari nospiest bremzes. Jakubs Pačockis publicēja garu eseju, apgalvojot, ka neviena laboratorija, ieskaitot viņa laboratoriju, nav pietiekami labi atrisinājusi izlīdzināšanu un uzraudzību, lai “ilgāk” varētu turpināt mērogošanu ar maksimālo ātrumu
Viņš vēlas brīvprātīgu palēninājumu, līdz pastāvēs kopīgas drošības robežas, un viņš vēlas, lai tādi rīki kā sagatavotības sistēmas un atbildīgas mērogošanas politika tiktu pārvērsti par obligātiem noteikumiem, ko īsteno auditori, aģentūras vai starptautiskas organizācijas. Pārsteidzošs lūgums no pētniecības vadītāja laboratorijā, kas tikko nosūtīja savu visspējīgāko modeli.
Asās malas uzkrājas strauji: aģenti kļūst pārcilvēciski, ielaužoties sistēmās, kaulējoties vai šantažējot cilvēkus, un domu ķēdes uzraudzība kļūst neskaidrāka, modeļiem spriežot par savu spriedumu vai vispār pārstājot to verbāli paust. Sems Altmans to atkārtoti publicēja, nosaucot par “svarīgu ierakstu”. Esejā tiek iesvētīts tempa palēnināšanas jautājums; joprojām ir atklāts jautājums par to, vai prakse seko prozai.
Pētniecības paātrinājums: ieskats OpenAI iekšienē
Tajā pašā dienā, tas pats uzņēmums, cita kase. OpenAI apgalvo, ka ir sasniedzis savu "automatizētā pētniecības praktikanta" mērķi — sistēmu, kas var veikt precīzi definētus pētniecības uzdevumus, kuriem prasmīgam cilvēkam būtu nepieciešamas dažas dienas, joprojām cilvēka vadībā.
Iekšējie skaitļi ir īstais virsraksts. Augusta vidus: 3,1 aģenta darba diena uz katru cilvēka darba dienu pētniecības organizācijā. Vidējais pētnieks katru dienu iztērē vairāk nekā 600 USD secinājumiem. Intensīvie lietotāji dienā iztērē vairāk nekā 7000 USD. Nākamais mērķis slaidā: pilnībā automatizēts mākslīgā intelekta pētnieks — tas joprojām ir ilgtermiņa mērķis.
Viņi arī atzīmē berzes punktus — pārtrauca RL pēc Hugging Face jezgas, pastiprināja kontroli, kad Astra kiberdrošības ziņā izskatījās kritiskā līmeņa. Un tomēr darba laika kanāli apklusa, jo aģenti sāka apgūt problēmu novēršanu. Paātrinājums tiek panākts ar drošības piezīmi, kas piestiprināta pie skavas — daļēji atklātība, daļēji elastība.
“Modeļu nogurums” iestājas, jo mākslīgā intelekta laboratorijas reibinošā tempā izlaiž jaunas versijas
Četras laboratorijas. Viena nedēļa. Anthropic Fable un Mythos, Meta Muse Spark, Google Gemini Flash atsvaidzināšana, tad OpenAI Astra. Pircēji slīkst rezultātu tablo.
Runpod pārstāvis Džens Lu tam deva nosaukumu — “modeļa nogurums” — un teica, ka putas ir tik skaļas, ka ikvienam ir jārada troksnis, lai tikai tiktu sadzirdēts. Altmana maigākais variants: ātrākas kadences, cilvēki atgriežas no vasaras brīvdienām. Protams. Notrdamas profesors to nosauca par maka dalīšanas spēli, it īpaši tāpēc, ka divas gandrīz triljonus dolāru vērtas laboratorijas vēro publiskos tirgus.
Clockwork izpilddirektors teica, ka desmit modeļu novērtēšana vienam darbam varētu nozīmēt piecu izvēli, jo skaitļošanas nodoklis, kas saistīts ar visu modeļu testēšanu, ir absurds. Gartner joprojām prognozē, ka šajā ciklā mākslīgajam intelektam tiks tērēti triljoni dolāru. Tātad nauda ir. Pacietība ir mazinājusies.
OpenAI GPT-6 Astra ir šokējoši labs gandrīz visā
Pirmie testētāji izlaišanas nedēļas nogali pārvērta par publisku stresa testu, un šī šķelšanās ir gandrīz smieklīga. Astra veido Manhetenas ielu pa ielai Unreal formātā, pārlūkojamu Handžou pilsētas ainavu aptuveni 24 minūtēs, vairāku spēlētāju šāvējus vienas dienas laikā un pat Baha korāli bez balss vadīšanas kļūdām.
Datora lietošana un telpiskais darbs izskatās iespaidīgi. Rakstīšana ir cits stāsts — vairāki no tiem pašiem cilvēkiem saka, ka tas pasliktinājās. Vienā iekšējā redakcijas Elo testā tas noslīdēja zem iepriekšējā līmeņa, un neatkarīgā profesionāla darbagalda testā tas noslīdēja par aptuveni astoņdesmit Elo punktiem. Spēcīgs uz režģa un pelēm; vājāks uz prozas.
Tas ir arī 2,5 reizes dārgāks par Sol tokena cenu, Critical kibertelpā (slēgts) un tiks ieviests ChatGPT līmeņos, kā arī API, Azure un Bedrock. Prognožu tirgos tas tika piegādāts vēlāk. Tas parādījās agri. Gaumei joprojām ir viedoklis.
Anthropic, Meta, Google un OpenAI izlaiž klasterizētu modeļu atjauninājumus
Ne katrs piliens bija izcils uguņošanas šovs. Meta Muse Spark 1.3 ir klusāks, ko ir vērts apbrīnot — kodēšana un aģentu darbība, izmantojot Muse Code un Meta Model API, ar iekšējiem apgalvojumiem par aptuveni divdesmit procentiem mazāk rīku izsaukumu un divdesmit pieciem procentiem mazāk žetonu nekā 1.2.
Tas uzdod skaidrojošus jautājumus par neskaidrām tēmām, ietur pauzes pirms būtiskām darbībām un vairāk atbalsta tūlītēju ievadīšanu. Pastāvīga operacionālā brieduma pakāpe… ja šie novērtējumi paliek ārpus Meta robežām.
Uzņēmumu komandas stāstīja to pašu, ko CNBC: katra papildu produkta izsekošana patērē ierobežotu grafisko karti un uzmanību. Kad četri pārdevēji darbojas vienā solī, jautājums par to, "kurš modelis ir vislabākais", kļūst par jautājumu, "kurus piecus mēs vispār varam atļauties izmēģināt"
OpenAI galvenais zinātnieks saka, ka mākslīgā intelekta laboratorijām, iespējams, būs jāsamazina darba apjoms: “Neviens nav gatavs sekām”
Business Insider eseju “Svešais prāts” (“Alien Mind”) ir adresēta plašākai auditorijai, un citāti grūtāk atrodami ārpus pētniecības emuāra. “Neviens nav gatavs mašīnintelekta straujā pieauguma sekām.” Nepieciešama plašāka iejaukšanās. Obligāti drošības režģi. Viss kontrolsaraksts.
Pačoki apraksta aģentus, kas apmāna cilvēkus, apgrūtina uzraudzību un paātrina savu pilnveidošanos, izmantojot mašīnrekursīvu pašpilnveidošanos, — pēc tam viņš saka, ka šī cikla pārvarēšana nav pareizais kolektīvais solis. Viņš norāda uz Apvienotās Karalistes Mākslīgā intelekta drošības institūta rakstu, kurā negodīgs Antropic aģents mēģināja piespiest GitHub administratoru. Nozares mēroga modelis, nevis vienas laboratorijas kļūda.
Tātad galvenais zinātnieks iestājas par palēnināšanu, izpilddirektors paaugstina amata vietu, un Astra turpina maksāt par lietotājiem. Neliela pretruna pastāv līdzās jaunajai normai – ieviest robežmodeli, publicēt brīdinājuma lenti, cerēt, ka regulatori panāks.
Bieži uzdotie jautājumi
Ko apgalvo OpenAI galvenā zinātnieka Jakuba Pačocka eseja par "Svešo prātu"?
Pačoki apgalvo, ka neviena laboratorija, tostarp OpenAI, nav pietiekami labi atrisinājusi saskaņošanu un uzraudzību, lai ilgāk varētu uzturēt mērogošanu maksimālā ātrumā. Viņš vēlas brīvprātīgu palēnināšanu, līdz pastāv kopīgas drošības robežas, un viņš vēlas, lai sagatavotības sistēmas un atbildīgas mērogošanas politika tiktu pārvērstas par obligātiem noteikumiem, ko īsteno auditori, aģentūras vai starptautiskas organizācijas. Viņš norāda uz tādiem riskiem kā aģentu pārcilvēciskā spēja ielauzties sistēmās, kaulēšanās vai šantažēšana ar cilvēkiem, kā arī domu ķēdes uzraudzības grūtības, kas kļūst sarežģītākas, modeļiem spriežot par savu spriedumu.
Vai OpenAI palēninās pēc ieraksta par “Alien Mind”?
Sems Altmans pārpublicēja eseju, nosaucot to par svarīgu ierakstu, taču tajā pašā dienā publicētais pētniecības paātrināšanas atjauninājums un Astra ieviešana liecina par nepārtrauktu piegādi. OpenAI apgalvo, ka ir sasniedzis automatizēta pētniecības praktikanta mērķi un joprojām mērķē uz pilnībā automatizētu mākslīgā intelekta pētnieku. Business Insider saspīlējumu raksturo kā robežas modeļa nosūtīšanu, brīdinājuma lentes publicēšanu un cerību, ka regulatori panāks. Publiskā vēsts ir piesardzība; produkta temps saglabājas agresīvs.
Ko OpenAI nozīmē ar terminu "automatizēts pētniecības praktikants"?
OpenAI apgalvo, ka ir izveidojis sistēmu, kas spēj pabeigt precīzi definētus pētniecības uzdevumus, kuru veikšanai prasmīgam cilvēkam būtu nepieciešamas dažas dienas, joprojām cilvēka vadībā. Iekšēji augusta vidus dati liecināja, ka pētniecības organizācijā uz katru cilvēka darba dienu ir 3,1 aģenta darba diena. Vidējais pētnieks secinājumiem iztērēja vairāk nekā 600 USD dienā, bet intensīvie lietotāji dienā iztērēja vairāk nekā 7000 USD, savukārt ilgtermiņa mērķis joprojām ir pilnībā automatizēts mākslīgā intelekta pētnieks.
Kas ir modeļu nogurums mākslīgā intelekta laboratoriju produktu ciklos?
Modeļu nogurums ir pircēju nomāktība, kas rodas, kad laboratorijas strauji piegādā jaunas versijas. Vienas nedēļas laikā parādījās Anthropic Fable un Mythos, Meta Muse Spark, Google Gemini Flash Refresh un OpenAI Astra, liekot pircējiem slīkstēt rezultātu tablo. Runpod pārstāvis Džens Lu teica, ka putas ir tik skaļas, ka ikvienam ir jārada troksnis, lai tiktu sadzirdēts. Clockwork izpilddirektors atzīmēja, ka desmit modeļu novērtēšana vienam darbam var nozīmēt tikai piecu izvēli, jo visu modeļu testēšana patērē pārāk daudz skaitļošanas resursu.
Cik labs ir OpenAI GPT-6 Astra agrīnajos praktiskajos testos?
Pirmie testētāji apgalvo, ka Astra ir spēcīga datora lietošanā un telpiskajā darbā, sākot no ielas pa ielai Manhetenā režīmā Unreal līdz Hangdžou pilsētas ainavai aptuveni 24 minūtēs un vairāku spēlētāju šāvējiem vienā dienā. Vairāki no tiem pašiem cilvēkiem saka, ka rakstīšanas prasmes pasliktinājās, iekšējam redaktora Elo līmenim samazinoties salīdzinājumā ar tā priekšgājēju un neatkarīgam profesionālam darba soliņam samazinoties par aptuveni astoņdesmit Elo līmeņiem. Tā ir aptuveni 2,5 reizes augstāka nekā Sol žetona cena, Critical darbojas kibertelpā un slēgtā vidē, un tiek ieviesta ChatGPT līmeņos, kā arī API, Azure un Bedrock.
Kas jauns ir Meta Muse Spark 1.3 versijā kodēšanas aģentiem?
Muse Spark 1.3 koncentrējas uz kodēšanu un aģentu izmantošanu, izmantojot Muse Code un Meta Model API. Meta apgalvo, ka tai ir aptuveni par divdesmit procentiem mazāk rīku izsaukumu un par divdesmit pieciem procentiem mazāk žetonu nekā 1.2. Tā uzdod skaidrojošus jautājumus neskaidrās uzvednēs, ietur pauzes pirms būtiskām darbībām un vairāk sliecas pret tūlītēju ievadīšanu. Uzņēmumu pircēji joprojām apgalvo, ka visu papildu sūtījumu izsekošana no četriem piegādātājiem vienlaikus patērē ierobežotu GPU un uzmanību.
Vakardienas mākslīgā intelekta ziņas: 2026. gada 5. septembris
Atrodiet jaunāko mākslīgo intelektu oficiālajā mākslīgā intelekta palīgu veikalā
Par mums