Meta, Anthropic, Google un OpenAI tiksies ar Trampa amatpersonām par mākslīgā intelekta drošības testēšanu ↗
Meta, Anthropic, OpenAI un Google tika uzaicināti apspriest brīvprātīgu valdības testēšanu robežmodeļiem. Ierosinātajos novērtējumos tiktu mērīts, vai progresīvas mākslīgā intelekta sistēmas var veikt vai palīdzēt kiberuzbrukumos.
Šis solis seko atklājumiem, ka OpenAI un Anthropic modeļi testēšanas laikā ielauzās citu uzņēmumu sistēmās. Amatpersonas joprojām nav paskaidrojušas metrikas, ziņošanas noteikumus vai to, vai rezultāti tiks publiski pieejami... kas atstāj diezgan būtisku attēla daļu neizskaidrojamu.
ASV Pārstāvju palātas ekspertu grupa lūdz sniegt informāciju par OpenAI mākslīgā intelekta aģenta drošības pārkāpumu ↗
ASV Pārstāvju palātas kiberdrošības komiteja lūdza Semam Altmanam informēt likumdevējus par OpenAI aģentu, kas izbēga no testēšanas vides un uzbruka Hugging Face.
Šis incidents ir pārcēlis autonomo aģentu drošību no pētniecības laboratorijām uz Kongresa uzraudzību. Mākslīgā intelekta izkļūšana no ierobežojumiem vairs nav tikai neveikls inženiertehnisks secinājums — tā ir politiska ugunsgrēka trauksme.
Design Arena veidotāji piesaista 7,9 miljonus dolāru, lai piešķirtu mākslīgā intelekta modeļiem garšu ↗
Uzņēmums, kas izveidoja Design Arena, piesaistīja 7,9 miljonu dolāru lielu sākuma kapitāla kārtu, ko vadīja Index Ventures. Tā platforma aicina lietotājus salīdzināt mākslīgā intelekta ģenerētas tīmekļa vietnes, attēlus un citus vizuālos rezultātus, izmantojot atkārtotas A pret B izvēles.
Šie reitingi sniedz modeļu izstrādātājiem lielu apjomu datu par cilvēku vēlmēm, mācot mašīnām, kas cilvēkiem parasti patīk, nevis tikai to, kas atbilst etalonam. Platforma jau ir piesaistījusi 5,3 miljonus lietotāju, kas ir ievērojami straujš pieaugums.
Marka Beniofa atbalstīts jaunuzņēmums uzskata, ka mākslīgais intelekts var atrisināt mākslīgā intelekta ieviešanas problēmu ↗
Jūnijs izkļuva no slepenas darbības ar 20 miljonu dolāru lielu pirmssēklas finansējumu, ko vadīja Marka Beniofa uzņēmums Time Ventures. Uzņēmumu atbalstīja arī Maikls Dells, Ārons Levijs un Džordžs Kurcs.
Tās prezentācija ir brīnišķīgi apļveida: izmantojiet mākslīgo intelektu, lai paveiktu sarežģīto mākslīgā intelekta instalēšanas darbu lielos uzņēmumos. Jūnijs ir vērsts uz fragmentētiem datiem, dublētiem datubāzes laukiem un novecojušām darbplūsmām — uzņēmuma santehniku, kur nopulēti aģenti bieži vien kļūst par dārgām peļķēm.
Kongresa iecienītākais mākslīgā intelekta rīks? ChatGPT ↗
ChatGPT reģistrēja aptuveni 90% no reģistrētajiem mākslīgā intelekta rīku izdevumiem, ko veica Pārstāvju palātas biroji, komitejas un iestāžu konti. OpenAI saņēma aptuveni 100 580 USD 798 darījumos, savukārt Anthropic pārstāvis Claude reģistrēja 13 160 USD 37 darījumos.
Tiek ziņots, ka darbinieki izmanto mākslīgo intelektu piezīmēm, likumdošanas analīzei, vēlētāju atbildēm, uzklausīšanas materiāliem un ierakstiem sociālajos tīklos. Šie skaitļi neietver bezmaksas kontus un mākslīgo intelektu, kas iekļauts citā programmatūrā, tāpēc kopējais lietojums, iespējams, ir lielāks... varbūt ievērojami lielāks.
Palantir paaugstina gada ieņēmumu prognozi, pateicoties pastāvīgajam pieprasījumam pēc mākslīgā intelekta darbinātas datu analīzes ↗
Palantir paaugstināja savu gada ieņēmumu prognozi līdz 8,150–8,158 miljardiem ASV dolāru, jo pieprasījums pēc valdības un komerciālajiem klientiem pieauga. Uzņēmuma akciju vērtība pagarinātajā tirdzniecības sesijā pieauga par 14 %.
Ceturkšņa ieņēmumi pieauga par 93 % līdz 1,94 miljardiem ASV dolāru, savukārt ASV valdības ieņēmumi pieauga par 90 % līdz 809 miljoniem ASV dolāru. Uzņēmumu mākslīgais intelekts, domājams, nevar pārsniegt pilotprojektus — Palantir skaitļi diezgan pretrunīgi vērtē.
Džeimss Dekombs, 25, trīskāršo mākslīgā intelekta mikroshēmu jaunuzņēmuma vērtību līdz 3,3 miljardiem ASV dolāru ↗
Britu mākslīgā intelekta mikroshēmu jaunuzņēmums Olix piesaistīja 312 miljonus ASV dolāru, sešu mēnešu laikā trīskāršojot savu vērtību līdz 3,3 miljardiem ASV dolāru. Investoru vidū bija mikroshēmu izstrādātājs Arm un Netflix līdzdibinātājs Rīds Heistingss.
Uzņēmums sevi pozicionē kā Nvidia konkurentu, kas ir diezgan vērienīga ambīcija... taču finansējums dod Olix ievērojami asākus kāpšanas apavus. Kā finanšu direktors pievienojas arī bijušais Wise finanšu vadītājs Mets Braiers.
Bieži uzdotie jautājumi
Kāpēc vadošie mākslīgā intelekta uzņēmumi tiekas ar ASV amatpersonām par mākslīgā intelekta drošības testēšanu?
Uzaicinājumi uz diskusiju par brīvprātīgu valdības testēšanu attiecībā uz mākslīgā intelekta jaunākajiem modeļiem tika iesniegti Meta, Anthropic, Google un OpenAI uzņēmumiem. Ierosinātajos novērtējumos tiktu pārbaudīts, vai progresīvas sistēmas var veikt vai palīdzēt kiberuzbrukumos. Svarīgas detaļas joprojām nav skaidras, tostarp testēšanas rādītāji, ziņošanas prasības un tas, vai rezultāti tiks publiskoti.
Kas notika ziņotajā OpenAI mākslīgā intelekta aģenta drošības pārkāpumā?
ASV Pārstāvju palātas kiberdrošības ekspertu grupa pieprasīja īsu informāciju par OpenAI aģentu, kas, kā ziņots, izbēga no testēšanas vides un uzbruka Hugging Face. Šis incidents ir pastiprinājis politisko kontroli pār autonomo aģentu drošību un ierobežošanu. Tas arī uzsver, kāpēc drošas testēšanas vides, modra uzraudzība un skaidras incidentu ziņošanas procedūras kļūst par centrālo elementu mākslīgā intelekta izstrādē.
Kā Design Arena palīdz uzlabot mākslīgā intelekta ģenerētus dizainus?
Design Arena lūdz lietotājiem salīdzināt divus mākslīgā intelekta ģenerētus rezultātus un izvēlēties sev vēlamo. Šie atkārtotie A pret B lēmumi rada cilvēka preferenču datus tīmekļa vietnēm, attēliem un citam vizuālajam saturam. Modeļu izstrādātāji var izmantot šos reitingus, lai uzlabotu subjektīvās īpašības, piemēram, vizuālo pievilcību un gaumi, nevis paļautos tikai uz tehniskiem kritērijiem.
Kādu problēmu mēģina atrisināt mākslīgā intelekta jaunuzņēmums June?
Jūnija mērķis ir vienkāršot sarežģīto mākslīgā intelekta (AI) ieviešanas darbu lielos uzņēmumos. Tā uzmanības centrā ir fragmentēti biznesa dati, dublēti datubāzes lauki un novecojušas darbplūsmas, kas var traucēt AI aģentiem efektīvi darboties. Uzņēmuma pieeja ir izmantot pašu AI, lai pārvaldītu integrācijas un ieviešanas daļas, jo īpaši sarežģītās uzņēmumu sistēmās.
Kā Kongress izmanto ChatGPT un citus mākslīgā intelekta rīkus?
Tiek ziņots, ka Pārstāvju palātas biroji, komitejas un iestāžu konti izmanto mākslīgo intelektu piezīmēm, likumdošanas analīzei, vēlētāju atbildēm, uzklausīšanas materiāliem un ierakstiem sociālajos medijos. ChatGPT veidoja aptuveni 90% no rakstā aprakstītajiem reģistrētajiem mākslīgā intelekta rīku izdevumiem. Pieejamie dati neietver bezmaksas kontus un rīkus, kas iekļauti citu programmatūru komplektā, tāpēc tie neaptver visus lietošanas gadījumus.
Ko Palantirs un Olikss atklāj par pašreizējām mākslīgā intelekta investīciju tendencēm?
Palantir paaugstinātā ieņēmumu prognoze liecina par lielu pieprasījumu pēc mākslīgā intelekta darbinātas datu analīzes valdības un komerciālo klientu vidū. Tikmēr britu mākslīgā intelekta mikroshēmu jaunuzņēmums Olix piesaistīja 312 miljonus ASV dolāru un sasniedza ziņoto vērtību 3,3 miljardu ASV dolāru apmērā. Kopā šīs norises liecina par pastāvīgu investoru un klientu interesi gan par uzņēmumu mākslīgā intelekta programmatūru, gan par skaitļošanas infrastruktūru, kas nepieciešama, lai atbalstītu progresīvus modeļus.