🛡️ FT ziņo, ka Lielbritānijas regulatori steidzas novērtēt jaunākā antropogēnā mākslīgā intelekta modeļa riskus ↗
Ziņots, ka Lielbritānijas finanšu uzraudzības iestādes strauji virzās uz Anthropic jaunā Mythos modeļa izstrādi pēc bažām, ka tas varētu atklāt nopietnus trūkumus kritiski svarīgās sistēmās. Sarunās piedalās Anglijas Banka, Finanšu pārvalde (FCA), Valsts kase un Nacionālais kiberdrošības centrs, kas ir iespaidīgs dalībnieku sastāvs vienam modeļa priekšskatījumam.
Bažas rada tas, ka Mythos ir neparasti prasmīgs programmatūras ievainojamību atrašanā, lai gan Anthropic apgalvo, ka ieviešana ir stingri ierobežota un vērsta uz aizsardzības drošības darbiem. Paredzams, ka bankas, apdrošinātāji un biržas tiks informētas, tāpēc tagad tas vairāk atgādina infrastruktūras politiku, nevis laboratorijas tenkas.
🤖 HumanX konferencē visi runāja par Klodu ↗
Šķita, ka HumanX toni noteica Anthropic — tāds bija stāsts. Paneļdiskusijās, pārdevēju sarunās un gaitenī notiekošajās sarunās Klods atkal un atkal parādījās kā paraugs, ko cilvēki visvairāk vēlējās biznesa un kodēšanas darbplūsmām.
Īpaši izcēlās relatīvais klusums ap ChatGPT. Rakstā norādīts, ka OpenAI joprojām ir ievērojams apjoms un finanses, taču konferences noskaņojums sliecās uz Kloda pusi kā rīka ar asāku ietekmi uz uzņēmumiem šobrīd — vai vismaz tā šķiet.
📄 Anthropic Claude for Word ir vēl viens izaicinājums Microsoft programmatūras impērijai ↗
Uzņēmums Anthropic izlaida Claude beta versiju Word programmatūrai, kas tagad tiek izmantota ikdienas biroja programmatūrā, nevis tikai kā izstrādātāja rīks. Tā var atbildēt uz jautājumiem par dokumentu, izmantojot noklikšķināmas sadaļu atsauces, rediģēt atlasīto tekstu, nesabojājot formatējumu, un apstrādāt reģistrētās izmaiņas.
Mērķauditorija ir diezgan skaidra: komandas, kas strādā ar dokumentiem, īpaši juridiskās un finanšu jomas. Tas padara šo par vairāk nekā tikai jaunu funkciju — tas ir tiešs grūdiens Microsoft mājas teritorijā un diezgan nekaunīgs solis.
🌐 Mākslīgā intelekta roboti izrok tīmekli, un antropogēnie roboti ir līderi šajā jomā ↗
Jauns ieskats Cloudflare datos liecina, ka mākslīgā intelekta uzņēmumi no tīmekļa iegūst daudz vairāk informācijas, nekā atgriež. Galvenais rādītājs ir pārmeklēšanas un atsauču attiecība — cik bieži roboti nokopē lapas salīdzinājumā ar to, cik bieži tie nosūta lietotājus atpakaļ —, un Anthropic ir īpaši neveiksmīgs rādītājs.
Antropic attiecība tiek ziņota kā 8800 pret 1, un OpenAI arī ir augsta, bet daudz zemāka. Plašāks secinājums ir skaidrs: vecais tīmekļa darījums bija mūs pārmeklēt un pēc tam nosūtīt mums trafiku. Mākslīgā intelekta atbilžu dzinēji patur pirmo daļu un ļāva otrajai pārvērsties miglā.
⚔️ Ieskats pieaugošajā globālajā mākslīgā intelekta bruņošanās sacensībā, jo ASV, Ķīna, Krievija un citas valstis steidzas veidot ar mākslīgo intelektu atbalstītus autonomus ieročus un aizsardzības sistēmas ↗
Jaunākais militārais mākslīgā intelekta atspoguļojums vairāk ir par stratēģisku paātrinājumu, nevis uzkrītošām demonstrācijām. Lielvaras vienlaikus virza autonomas un mākslīgā intelekta atbalstītas aizsardzības sistēmas, kas visu šo lietu padara līdzīgu stafetes sacensībām, kurās visi satvēra stafetes kociņus un aizmirsa par bremzēm.
Tas rada ierastos jautājumus – kontroli, eskalāciju, atbildību –, taču tagad ar lielāku steidzamību. Tiklīdz mākslīgais intelekts ir dziļāk integrēts mērķu noteikšanā, novērošanā un lēmumu pieņemšanā kaujas laukā, vārds “eksperimentāls” sāk izklausīties pēc papīra etiķetes uz kaut kā, kas jau ir kustībā.
🏭 Japānas uzņēmums “SoftBank” atklāj nodaļu, lai izstrādātu vietējo mākslīgo intelektu ↗
SoftBank ir apvienojies ar Sony, Honda un citiem Japānas uzņēmumiem, lai izveidotu jaunu mākslīgā intelekta projektu, kas koncentrējas uz “fizisko mākslīgo intelektu” – modeļiem, kas paredzēti mašīnu un robotu vadīšanai, nevis tikai atbildēšanai ar īsziņu. Tā ir atšķirīga josla no ierastajām tērzēšanas robotu sacensībām un, iespējams, interesantāka.
Ambīcijas ir milzīgas, un ziņots, ka centieni ir vērsti uz ļoti liela pamatmodeļa izveidi un tālu ceļu uz rūpniecisku izmantošanu. Tā ir daļēji nacionāla tehnoloģiju stratēģija, daļēji "Moonshot", daļēji mehāniska anime ar valdes sanāksmēm.
Bieži uzdotie jautājumi
Kāpēc Apvienotās Karalistes regulatori rūpīgi pievērš uzmanību Anthropic Mythos modelim?
Ziņojumi liecina, ka Apvienotās Karalistes varas iestādes uzskata Mythos par potenciālu risku, jo tas varētu būt neparasti prasmīgs programmatūras ievainojamību atrašanā. Ziņots, ka diskusijās piedalās Anglijas Banka, Finanšu pārvalde (FCA), Valsts kase un Nacionālais kiberdrošības centrs. Šī iestāžu kombinācija rada bažas par iespējamo ietekmi uz kritiski svarīgām sistēmām, jo īpaši finanšu un infrastruktūras jomā.
Kas atšķir Anthropic Mythos modeli no parastas AI versijas?
Bažas rada ne tikai tas, ka tas ir jauns modelis, bet arī tas, ka tas šķiet īpaši spējīgs aizsardzības drošības darbos, kas saistīti ar programmatūras ievainojamību atklāšanu. Kā ziņots, Anthropic norāda, ka piekļuve ir stingri ierobežota, kas liecina, ka ieviešana tiek veikta piesardzīgāk nekā plaša patērētāju laišana klajā. Praksē tas rada iespaidu, ka tā ir tuvāka kontrolētai drošības spējai nekā standarta tērzēšanas robota atjauninājums.
Kāpēc Klods saņēma tik lielu uzmanību HumanX konferencē?
Saskaņā ar rakstu, Klods vairākkārt parādījās paneļdiskusijās, pārdevēju sarunās un neformālās diskusijās kā spēcīga alternatīva biznesa un kodēšanas darbplūsmām. Rakstā Anthropic tiek attēlots kā tāds, kam ir ievērojama popularitāte uzņēmumu lietotāju vidū šajā pasākumā. Tas arī liecina, ka noskaņojums ap HumanX ChatGPT platformā bija mierīgāks, lai gan OpenAI joprojām ir ievērojams mērogs un resursi.
Ko Claude for Word īsti dara komandām, kas strādā ar lieliem dokumentu resursiem?
Šeit aprakstītā beta versija ir izstrādāta darbam dokumentu iekšienē, nevis tikai atsevišķa teksta ģenerēšanai. Tā var atbildēt uz jautājumiem par dokumentu, izmantojot sadaļu atsauces, rediģēt atlasītās daļas, neizjaucot formatējumu, un apstrādāt reģistrētās izmaiņas. Tas padara to īpaši atbilstošu juridiskajām, finanšu un citām komandām, kurām nepieciešama rūpīga pārskatīšana, nevis melnrakstu izstrāde.
Ko par mākslīgā intelekta robotiem un tīmekli liecina pārmeklēšanas un atsauču attiecība?
Rakstā šī attiecība tiek attēlota kā veids, kā salīdzināt, cik bieži mākslīgā intelekta uzņēmumi pārmeklē tīmekļa vietnes, ar to, cik bieži tie nosūta lietotājus atpakaļ. Šādā kontekstā ļoti augsta attiecība norāda uz ieguvi ar nelielu atgriešanās trafiku. Antropic tiek raksturots kā īpaši vāji darbojošs pēc šī rādītāja, kas pastiprina plašāku kritiku, ka mākslīgā intelekta atbilžu dzinēji varētu vājināt vecāku tīmekļa indeksēšanas apmaiņu apmaiņā pret atsaucēm.
Kāpēc cilvēki saista mākslīgā intelekta attīstību gan ar autonomajiem ieročiem, gan fizisko mākslīgo intelektu?
Rakstā norādītas divas saistītas tendences: valdības paātrina mākslīgā intelekta atbalstītu aizsardzības sistēmu izstrādi, un tādi uzņēmumi kā SoftBank atbalsta modeļus, kas paredzēti mašīnu un robotu vadībai. Kopā tās parāda, ka mākslīgais intelekts virzās tālāk par tērzēšanu un meklēšanu uz fiziskām sistēmām, kas spēj uztvert, pieņemt lēmumus un rīkoties. Tas rada plašākus jautājumus par kontroli, atbildību, rūpniecisko izmantošanu un to, cik ātri šīs sistēmas pāriet no eksperimentālas uz operatīvu.