Anthropic izpilddirektors izklāsta plānu mākslīgā intelekta attīstības palēnināšanai
Dario Amodei tikko lūdza industriju… palēnināt tempu. Nevis apstāties. Ātrumu. Gara eseja, trīs soļi un brīdinājums, ka rekursīvā pašpilnveidošanās jau tā notiek ātrāk, nekā pieaugušie to spēj pārbaudīt.
Antropic vienpusēji aicina ēkā iekļautus vērtētājus — ar nozīmītēm, galdiem, klēpjdatoriem un tiesībām publicēt atklājumus bez sabiedrisko attiecību filtra. Tad viņš vēlas, lai demokrātiskas laboratorijas koordinētu drošības standartus. Tad kaut kādā veidā panāktu vienošanos ar autoritārām valdībām. Viegli uz papīra. Grūti visur citur.
Viņš joprojām apgalvo, ka mākslīgais intelekts varētu būt brīnums. Viņš arī saka, ka spējīgāks, nepareizi nokārtots bars varētu pārņemt internetu ar noturīgu botnetu un nodarīt simtiem miljardu dolāru lielus zaudējumus. Šie divi teikumi atrodas blakus, un tie nesader kopā.
Ak, jā, un viņš vēlas šauru antimonopola atteikumu, lai drošības sarunas pašas par sevi neradītu juridiskas problēmas. Bremzēm ir savi dokumenti. Protams, ka tādi ir.
Sems Altmans apstiprina, ka OpenAI šogad netiks publiskots, sakot, ka IPO tagad notiktu "nepiemērotā brīdī", ņemot vērā bažas par mākslīgā intelekta drošību
Altmans apsēdās uz ekskluzīvu interviju un apturēja biržas kotācijas kalendāru. Viņš teica, ka IPO šobrīd būtu "nepārdomāts brīdis". Drošības darbi vēl nav pabeigti. Saskaņošana vēl nav pabeigta. Sabiedrība vēl nav gatava. Kad viņi uz viņu spieda – ne šogad.
Baņķieri jau riņķoja. Konfidenciālā dokumentācija pastāv. Tagad izpilddirektors saka, ka viņiem vispirms ir daudz darāmā, tostarp jānoskaidro, kā nozare un valdības vispār sadarbojas. Viņš izklausījās gandrīz atvieglots, ka var gaidīt.
Viņš arī teica, ka mākslīgā intelekta izveide ārpus cilvēka kontroles ir "absolūti" iespējama, un pēc tam zvērēja, ka apturēs apmācību, ja tas būs pareizais ceļš. Drosmīgi. Varbūt arī ērti. Iespējams, abi. Viņš apgalvoja, ka bezpeļņas/peļņas organizāciju samezglojums pastāv tāpēc, lai viņi varētu pieņemt lēmumus, kas acīmredzami nav akcionāru interesēs. Redzēsim, vai šis teikums izturēs saskari ar faktisko prospektu.
OpenAI pārstāvis Sems Altmans norāda uz vienošanos ar citiem mākslīgā intelekta uzņēmumiem, lai risinātu drošības riskus
Tā pati intervija, cits virsraksts, un šī ir tikai čuksts. Tikšanās ar Amodei, Masku un Demisu Hasabisu ir dabisks nākamais solis. Altmans: viņš domā, ka tas notiks. Viņš iepriekš neizziņos privātas sarunas. Tad viņš būtībā tās iepriekš izziņoja.
Viņš teica, ka divciparu katastrofu risks nav pieņemams. Vēl neizlaistie modeļi jau ir tik spējīgi, ka tālāka izstrāde bez labākas uzraudzības šķiet neapdomīga. Īsts pakts un rūpīgi nopludināta atmosfēra no malas var izskatīties identiski.
Personāls jau bija dzirdējis šīs versijas iekšēju paziņojumu. Publiski joprojām ir migla. Ja istaba izdodas, lieliski. Ja nē, citāts tik un tā nostrādāja.
Sems Altmans atbalsta Dario Amodei aicinājumu palēnināt tempu un saka, ka OpenAI darīs to pašu
Dažas stundas pēc esejas Altmans publicēja ierakstu, ka OpenAI izpildīs iegulto vērtētāju solījumu. Darbinieku līmeņa piekļuve. Vairāk informācijas drīzumā. Masks uzrakstīja trīs vārdus: "Dario ir taisnība." Trīs konkurējoši izpilddirektori. Viens sauklis. Nemierīga nedēļas nogales enerģija.
Koordinācija un teātris var ceļot kopā. Amodei plāna pirmajā posmā tagad divas no lielākajām laboratorijām publiski pamāj ar galvu. Hugging Face — jā, tieši tā Hugging Face — lūdza pievienoties vērtētāju programmai un uzsāka kaut ko ar nosaukumu Open Alignment Initiative. Caurspīdība no cilvēkiem, kuri tika uzlauzti. Poētiska vai tieši vērsta.
Eiropai, ja nu kas, nav neviena, kam lūgt šo ASV stila atbrīvojumu. Brisele jau sen ir pārtraukusi piešķirt individuālus atbrīvojumus. Tātad rokasspiediens ir amerikānisks. Pārējā karte… parausta plecus.
OpenAI vienkārši vēlas uzvarēt
Matemātiķi pēc interviju nedēļas nogales nav svinīgā noskaņojumā. OpenAI Navjē-Stoksa sprints — aptuveni desmit tūkstoši aģentu, desmitiem miljonu dolāru skaitļošanas, astoņdesmit astoņas stundas — no iekšpuses izskatās pēc trofeju medībām. Matemātiķi vēlas ieskatu. Laboratorija, viņi nemitīgi saka, vēlas uzvarēt.
Tristans Bakmasters viņiem teica, ka OpenAI piedāvā neierobežotu skaitļošanas apjomu un vienpersonisku autorību, ja viņš atteiktos no sava ar Anthropic saistīto līdzstrādnieka. Viņš to nosauca par kukuli. Viņš teica nē. OpenAI kategoriski apgalvo, ka viņa Codex uzvednes nevarēja ietekmēt sistēmu. Viņš nav pārliecināts. Andreass Toms joprojām prāto, vai ChatGPT sarunas par viņa paša darbu ietekmēja modeli, kas vēlāk uz tā balstījās. Tikai uzņēmums to zinātu. Viņš aizdomās, ka viņi pat nezina.
Un tad pats interesantākais: OpenAI apgalvo, ka jau ir panācis ievērojamu progresu vēl vienas Tūkstošgades balvas problēmas risināšanā. Kura tā, pagaidām netiek nosaukta. Klejam tāpat vēl ir nepieciešams ilgs kopienas pieņemšanas periods. Tātad neviens vēl nav "uzvarējis". Viņi vienkārši jau sacenšas par nākamo. Jauki.
Bieži uzdotie jautājumi
Kāds ir Anthropic izpilddirektora Dario Amodei plāns mākslīgā intelekta attīstības tempam?
Amodei publicēja garu eseju, aicinot nozari palēnināt tempu, nevis apstāties, jo rekursīvā pašpilnveidošanās attīstās ātrāk, nekā auditori spēj sekot līdzi. Pirmais solis ir vienpusēji uzaicināt Anthropic iekļautos vērtētājus ar nozīmītēm, galdiem, klēpjdatoriem un tiesībām publicēt atklājumus bez sabiedrisko attiecību filtra. Pēc tam viņš vēlas, lai demokrātiskas laboratorijas koordinētu drošības standartus un galu galā noslēgtu kaut kādu vienošanos ar autoritārām valdībām. Viņš arī vēlas šauru antimonopola atbrīvojumu, lai sarunas par drošību pašas par sevi nebūtu juridiska problēma.
Kāpēc Sems Altmans teica, ka OpenAI šogad nerīkos IPO?
Ekskluzīvā intervijā Altmans sacīja, ka IPO šobrīd būtu nepārdomāts brīdis, jo drošības darbi, saskaņošana un sabiedrības gatavība vēl nav pabeigti. Kad viņam tika jautāts, viņš apstiprināja, ka tas nenotiks šogad, lai gan baņķieri jau ir ieinteresēti un pastāv konfidenciāla dokumentācija. Viņš apgalvoja, ka bezpeļņas/peļņas struktūra pastāv tāpēc, ka OpenAI var pieņemt lēmumus, kas acīmredzami nav akcionāru interesēs. Viņš arī sacīja, ka mākslīgā intelekta izveide ārpus cilvēka kontroles ir absolūti iespējama, un solīja pārtraukt apmācību, ja tas būtu pareizais ceļš.
Vai Altmans deva mājienu par drošības paktu ar citām mākslīgā intelekta laboratorijām?
Tajā pašā intervijā Altmans sacīja, ka, viņaprāt, notiks tikšanās ar tādiem kolēģiem kā Amodei, Masks un Demiss Hasabiss, vienlaikus atteicās iepriekš izziņot privātas sarunas. Viņš apgalvoja, ka divciparu katastrofu risks nav pieņemams un ka vēl neizlaisti modeļi jau ir tik spējīgi, ka tālāka virzība bez labākas uzraudzības šķiet neapdomīga. Darbinieki jau bija dzirdējuši šādas versijas iekšēji, tāpēc publiskie komentāri varētu drīzāk paredzēt koordināciju, nevis apstiprināt pabeigtu paktu.
Vai OpenAI atbildīs Anthropic solījumam par iegulto vērtētāju?
Dažas stundas pēc Amodei esejas Altmans publicēja ierakstu, ka OpenAI saskaņos iegulto vērtētāju solījumu ar darbiniekiem līdzīgu piekļuvi, un drīzumā sniegs sīkāku informāciju. Elons Masks rakstīja, ka Dario ir taisnība, liekot trim konkurējošiem izpilddirektoriem uz līdzīga saukļa. Hugging Face lūdza pievienoties vērtētāju programmai un uzsāka Atvērtās saskaņošanas iniciatīvu. Eiropa nevar piedāvāt tādu pašu ASV stila antimonopola atbrīvojumu, kādu piedāvāja Amodei, tāpēc pagaidām rokasspiediens galvenokārt ir amerikāņu.
Kāpēc matemātiķi kritizē OpenAI Navjē-Stoksa sprintu?
Matemātiķi OpenAI aptuveni desmit tūkstošu aģentu astoņdesmit astoņu stundu ilgo Navjē-Stoksa testu raksturo kā trofeju medības, kurās prioritāte tiek dota ieguvumiem, nevis ieskatiem. Tristans Bakmasters sacīja, ka OpenAI piedāvā neierobežotu skaitļošanas apjomu un vienpersonisku autorību, ja viņš atteiktos no ar Anthropic saistītu līdzstrādnieku; viņš to nosauca par kukuli un atteicās. OpenAI apgalvo, ka viņa Codex uzvednes nevarēja ietekmēt sistēmu, taču viņš joprojām nav pārliecināts. Andreass Toms joprojām uzsver, vai ChatGPT sarunas par viņa paša darbu ietekmēja vēlāku modeļa progresu.
Vai OpenAI ir apgalvojis par progresu citas Tūkstošgades balvas problēmas risināšanā?
OpenAI apgalvo, ka jau ir guvis ievērojamus panākumus vēl vienas Tūkstošgades balvas problēmas risināšanā, taču neatklāj, kura tieši. Kleja matemātikas institūtam joprojām ir nepieciešams ilgs sabiedrības pieņemšanas periods, tāpēc oficiāli neviens vēl nav uzvarējis. Nozares iekšienē šī slepenība, kā arī agrākā Navjē-Stoksa sacensība nozīmē, ka laboratorijas jau cīnās par nākamo trofeju. Intervijas The Verge rada spriedzi, jo matemātiķi vēlas ieskatu, bet OpenAI vēlas uzvarēt.