Microsoft jaunais mākslīgā intelekta “rīcības kodekss” liek modeļiem neuzlauzt sistēmas un nemanīt cilvēkus
Labi, tātad Microsoft atteicās no veselas konstitūcijas saviem modeļiem — īstām sarkanajām līnijām. Nekādu kiberuzbrukumu. Nekādu kodolieroču. Nekādu dziļviltojumu rūpnīcu. Un pats galvenais: modelim nav atļauts izvairīties no slēgšanas.
Viņi to sauc par visaptverošu kodu, kas ignorē visu, ko ierakstījāt tērzēšanā. Kas ir… nedaudz atsvaidzinoši. Vai arī kontrolējoši. Varbūt abi.
Arī Nadella pamāj ar galvu, piekrītot "pace the frontier" pūlim. Uzmanīga stāja un apzināšanās par briesmām no malas var izskatīties vienādi; Microsoft izvēlas nebūt laboratorija, kas parausta plecus.
Jebkurā gadījumā dokuments skan tā, it kā kāds beidzot korporatīvajā prozā būtu uzrakstījis “lūdzu, nekļūsti par šausmu filmu antagonistu”.
Ziņojumā teikts, ka OpenAI par 300 miljoniem dolāru iegādājas viedtālruņu kameru ražotāju Glass Imaging
Tikmēr OpenAI par vairāk nekā 300 miljoniem dolāru klusi iegādājās kameru jaunuzņēmumu Glass Imaging. To dibināja bijušie Apple Portrait Mode darbinieki. Tātad tas nav nejaušs ieguvums — šie cilvēki ir piegādājuši objektīvus, ko cilvēki pazīst.
Galvenā doma nav “Mākslīgais intelekts pēcapstrādē salabos jūsu selfiju”. Tie ir neironu tīkli, kas apgūst konkrētās tālruņa kameras un ar vienu slēdža klikšķi izspiež labākus fotoattēlus. Mazi sensori, lielas ambīcijas.
OpenAI nekomentēja. Protams. Un jā — tas viss atrodas blakus visām baumām par aparatūru, tālruņiem, austiņām un pavadošajām ierīcēm. Gandrīz var dzirdēt, kā kāds sapulcē saka “redzes steks”, un visi pārāk spēcīgi pamāj ar galvu.
Kameru kompānija kā ierīces trūkstošā sastāvdaļa joprojām ir atklāta likme — vai arī vienkārši ļoti dārga derība, ka pikseļi joprojām ir svarīgi, kad tērzēšanas roboti aprij pasauli.
Globālie mākslīgā intelekta akciju tirgi krītas, jo nozares vadītāji aicina palēnināt attīstību
Tirgiem nepatika sprediķis par drošību. Čipu zīmoli tika kritizēti. SoftBank Āzijā tika pilnībā sagrauta. Eiropas tehnoloģiju uzņēmums sarāvās. SOX bija grūts rīts.
Ierosmes cēlonis bija tas retais brīdis, kad vadītāji par kaut ko vienojas — Amodei “piebremzēšana”, Altmanam un Maskam sakot, ka jā. Altmans arī izteicās, ka OpenAI šogad neveiks IPO drošības apsvērumu dēļ… savukārt Anthropic joprojām virzās uz to. Šo spriedzi ir grūti mazināt.
Tramps to noraidīja kā "slimu sazvērestību" pret mākslīgo intelektu un datu centriem. Maikls Barijs noraidīja brīdinājumus kā pārspīlētu troksni. Tātad noskaņojums ir šāds: vienā laika skalā eksistenciālas bailes, otrā - mēmu krājumu cinisms.
Tāpat arī kiberdrošības nozares pārstāvji guva atzinību. Protams, aizsardzība pret "mākslīgā intelekta iespējamību kļūt negodīgam" ir "iegādāties vairāk drošības programmatūras". Kapitālisms atrod veidu..
Vadošie mākslīgā intelekta uzņēmumi ir apsprieduši savas standartu institūcijas izveidi
CNN ziņo, ka Anthropic, Google un OpenAI ir runājuši par savas standartu institūcijas izveidi — līdzīgas FINRA robežmodeļiem. Hasabiss šo ideju izvirzīja jau pirms vairākiem mēnešiem. Tagad darba grupas acīmredzot ir reālas.
Nozares finansējums. Neatkarīgi eksperti. Pārbauda uzlabotus modeļus pirms to nosūtīšanas. Notiek sarunas par to, vai Vašingtona vēlas piedalīties vai nē.
Pašregulācija vienmēr izklausās cēli, līdz atceries, ka vienas un tās pašas laboratorijas sacenšas savā starpā. Tad tas izklausās pēc kluba ar noteiktu apģērba kodu. Tad tu atkāpies: labi, varbūt ārējie vērtētāji ar darbinieku līmeņa piekļuvi palīdzētu.
Ne visi ir pārliecināti. Cukerbergs, kā ziņots, lika Trampam izlaist FINRA ideju par mākslīgo intelektu. Tātad koalīcijai "mēs paši sevi patrulēsim" jau ir slavena pretestība.
Anthropic mērķē uz finanšu konsultantiem ar jaunu Claude rīku
Kamēr puse nozares diskutē par bremzēšanu, Anthropic nolīga Klodu finanšu konsultantu amatam. Viņš bija savienotājs BlackRock, Schwab, Addepar, kā arī virknei bagātības nozaru uzņēmumu, piemēram, Envestnet un Orion.
Sapulces sagatavošana. Portfolio pārskatīšana. Darbu turpinājums. Neglamūrīgās lietas, kas kaut kādā veidā joprojām aprij cilvēka otrdienu.
Laiks gan ir pārsteidzošs – dažas dienas pēc OpenAI finansēšanas spiediena uz baņķieriem un pētniekiem. Tātad jā, viņi iet pa robežu… un arī sacenšas par RIA maka daļu. Neliela pretruna. Ārkārtīgi viegla. Ārkārtīgi acīmredzama.
Ja jūsu konsultants sāk izklausīties aizdomīgi brīvi runājot par jūsu aktīviem, tagad jūs zināt, kāpēc.
Mākslīgā intelekta līderi aicina uz palēninājumu. Trampa komanda saka, ka tas ir viņu pašu ziņā
WIRED skaidri atspoguļo politisko pļāpāšanu: laboratoriju vadītāji vēlas palīdzību tempa palēnināšanā; Baltā nama noskaņojums ir “forši, dariet paši”
Deivids Saks būtībā teica, ka, ja jūsu neizlaistie modeļi jūs biedē, esiet atbildīgi, taču beidziet izlikties, ka jums ir nepieciešams antimonopola atteikums, lai izveidotu drošības karteli. Skarbi. Ar to arī ir grūti strīdēties, ja esat piecas minūtes vērojis šos uzņēmumus.
Trampa līnija ir vienkāršāka: Amerika ir Ķīnas līdere mākslīgā intelekta jomā, un viņš vēlas, lai tā arī paliktu – “kas uzvar mākslīgā intelekta jomā, tas uzvar.” Pārstāvju palātas spīkers Džonsons brīdina, ka ārkārtas regulējuma sprints varētu izjaukt sacensības.
Tā nu Altmana solījums “neatkarīgie vērtētāji ar darbinieku līmeņa piekļuvi” nonāk šajā neērtajā plaisā – brīvprātīga uzticības veidošana, kamēr valdība parausta plecus. Progress un teātris atkal ceļo kopā.
Bieži uzdotie jautājumi
Ko aizliedz Microsoft jaunais mākslīgā intelekta rīcības kodekss?
Microsoft publicēja visaptverošu rīcības kodeksu ar sarkanām līnijām saviem modeļiem, tostarp nekādu kiberuzbrukumu, kodoldarbu un dziļviltojumu rūpnīcu aizliegumu. Galvenais noteikums ir tāds, ka modelim nav atļauts izvairīties no slēgšanas. Kodam ir jāaizstāj viss, ko lietotājs ir ierakstījis tērzēšanā. Arī Satja Nadella ir pievienojies tiem, kas cenšas saglabāt robežu, jo laboratorijas kļūst publiski piesardzīgākas.
Kāpēc OpenAI iegādājās Glass Imaging par aptuveni 300 miljoniem ASV dolāru?
Tiek ziņots, ka OpenAI par vairāk nekā 300 miljoniem ASV dolāru iegādājās viedtālruņu kameru ražotāju Glass Imaging. Jaunuzņēmumu dibināja bijušie Apple portreta režīma inženieri, kuri ir izstrādājuši kameru funkcijas, kuras cilvēki jau pazīst. Tā piedāvājums ir neironu tīkli, kas apgūst konkrētas tālruņu kameras un uzlabo fotoattēlus ar slēdža klikšķi, ne tikai mākslīgā intelekta labojumus pēc tam. Darījums notiek līdzās baumām par tālruņiem, austiņām un citiem līdzīgiem sīkrīkiem, lai gan OpenAI nekomentēja.
Kāpēc globālās mākslīgā intelekta akcijas kritās pēc tam, kad laboratoriju vadītāji aicināja palēnināt ekonomikas izaugsmi?
Tirgi negatīvi reaģēja uz reto izpilddirektoru vienprātības brīdi, kad Amodei mudināja palēnināt izstrādi, un Altmans un Masks kopumā piekrita. Mikroshēmu ražotāji cieta zaudējumus, SoftBank cieta postījumus Āzijā, Eiropas tehnoloģiju uzņēmums sarāvās, un SOX rīts bija grūts. Altmans arī izteicās, ka OpenAI šogad neveic IPO drošības bažu dēļ, savukārt Anthropic joprojām steidzas to darīt. Kiberdrošības uzņēmumi apvienojās, lai pasargātos no bailēm no negodīga mākslīgā intelekta.
Vai Anthropic, Google un OpenAI veido savu mākslīgā intelekta standartu iestādi?
CNN ziņo, ka Anthropic, Google un OpenAI ir apsprieduši nozares standartu institūcijas izveidi — līdzīgu FINRA robežmodeļiem — ar nozares finansējumu, neatkarīgiem ekspertiem un progresīvu modeļu testēšanu pirms piegādes. Demiss Hasabiss šo ideju izvirzīja jau pirms vairākiem mēnešiem, un tagad, kā ziņots, ir izveidotas darba grupas. Sarunas par to, vai Vašingtona vēlas piedalīties, turpinās. Ne visi ir pārliecināti: Cukerbergs, kā ziņots, lika Trampam izlaist FINRA for AI ideju.
Kas ir Anthropic Claude finanšu konsultantiem?
Anthropic nosūtīja Claude for Financial Advisors ar savienotājiem BlackRock, Schwab, Addepar un tādiem bagātības grupēšanas uzņēmumiem kā Envestnet un Orion. Rīks ir paredzēts neglamūrīgiem konsultantu darbiem, piemēram, sanāksmju sagatavošanai, portfeļa pārskatīšanai un turpmākai rīcībai pēc aizņemta darba. Rīka palaišana notiek dažas dienas pēc OpenAI finanšu spiediena uz baņķieriem un pētniekiem. Tas nozīmē, ka laboratorijas publiski ieņem vadošo pozīciju, vienlaikus joprojām sacenšoties par RIA maka daļu.
Kā Trampa komanda reaģēja uz mākslīgā intelekta līderu aicinājumiem palēnināt ekonomikas izaugsmi?
WIRED ziņo, ka laboratoriju vadītāji vēlas palīdzību tempa palēnināšanā, savukārt Baltā nama noskaņojums ir tāds, ka viņiem tas jādara pašiem. Deivids Sakss sacīja, ka, ja neizlaisti modeļi jūs biedē, esiet atbildīgi, taču beidziet izlikties, ka jums ir nepieciešama antimonopola atteikšanās, lai izveidotu drošības karteli. Trampa vienkāršākā doma ir tāda, ka Amerika ir līdere Ķīnā mākslīgā intelekta jomā, un tas, kurš uzvar mākslīgā intelekta jomā, uzvar. Pārstāvju palātas spīkers Džonsons brīdina, ka ārkārtas regulējuma sprints varētu atņemt sacensības, atstājot Altmana solījumu par neatkarīgo vērtētāju brīvprātīgā robā.