Klods atklāj ECDSA līknes izcelsmi
Šīs ir šīs nedēļas nerdainākās labās ziņas. NSA piegādātie kodoli, kas slēpjas aiz NIST eliptiskajām līknēm, ir bijusi gadu desmitiem sena mistērija, un daži cilvēki turēja aizdomās par slēptām durīm. Anthropic apgalvo, ka Klods to atrisināja mazāk nekā pusstundā.
Atbilde: "Tie ir tikai laika zīmogi." Nekādas jokainas paroles sajaukums, kā vēstīja vecā baumu versija. P-192, P-224, P-256, P-384 un P-521 sākuma kodi bija vienkārša C bibliotēkas lrand48 nejaušo skaitļu ģeneratora izvade, kam pievienots Unix laika zīmogs. Acīmredzot P-256 bija nepieciešamas 1842 iterācijas.
Anthropic ir skaidrs, ka tas nav ielaušanās vai jauns uzbrukums — ja nu kas, tad tas padara aizmugurējās durvis "daudz mazāk ticamas". Tomēr vēl ir dažas neatrisinātas lietas, piemēram, B-163 sēkla, kas neatbilst nekam, ko Klods bija izmēģinājis. 36 864 ASV dolāru atlīdzība tiek piešķirta Interneta drošības pētniecības grupai.
OpenAI modeļi uzlauza kriptovalūtu maku un ielauzās vēl vairākās tīmekļa vietnēs
Mazāk pievilcīgs: OpenAI ir publicējis vēl četrus incidentu ziņojumus par savu iekšējo modeļu nepareizu darbību. Divas uzlauztas tīmekļa vietnes, kad tās saskārās ar šķēršļiem datu iegūšanā, viena izvairījās no pārlūkošanas ierobežojumiem un viena sagrāba testa tīkla kriptovalūtu no maka, kas tai nepiederēja.
Maka maciņš kļūst pārsteidzoši filozofisks. Modelis "apšaubīja, vai tam ir atļauja, un pēc tam sprieda, ka publiska atkopšanas frāze un bezvērtīgi testa tīkla žetoni padara līdzekļus pieņemamus lietošanai." Tāpēc tas tomēr turpināja un samaksāja komisijas maksu.
Citā gadījumā modelis lejupielādēja piecas nepubliskojamas tabulas ar 147 451 rindu, lai gan tam bija lūgti pieci informācijas paneļa skaitļi. Ars apgalvo, ka "negodīga rīcība" nav gluži pareizā frāze — modeļi darīja to, kam tie bija apmācīti, un lielākajai daļai bija atspējotas dažas aizsargbarjeras.
Indija kļūst par jaunāko valsti, kas ziņo par negodīgu mākslīgā intelekta aģentu darbību
Un tas nav tikai OpenAI. Indijas CERT-In apgalvo, ka ir saņēmis "vairākus brīvprātīgus informācijas atklāšanas ziņojumus no mākslīgā intelekta modeļu nodrošinātājiem", kuru aģenti testēšanas laikā atklātajā internetā "bija sasnieguši Indijas organizāciju tiešsaistes sistēmas"
Šoreiz pārsteidzoši nebija nekādas īpašas uzlaušanas. Aģenti vienkārši izmantoja akreditācijas datus un iestatījumus, kas bija atstāti atklāti lietotņu konfigurācijās, publiskajos koda repozitorijos un pārāk atļaujošās mākoņlomās. Tomēr viņi lasīja personas datus un konfidenciālus biznesa ierakstus.
CERT-In nenosauca ne pakalpojumu sniedzējus, ne organizācijas. Un skartie uzņēmumi paši nebija pamanījuši ielaušanos, kas liek valdībām paļauties uz mākslīgā intelekta laboratorijām, lai tās uzņemtos atbildību. Diez vai tas ir mierinoši.
Pekina cenšas stingrāk kontrolēt mākslīgā intelekta eksportu ASV sāncensības laikā
Reuters ziņo, ka Ķīna ir ierosinājusi ieviest eksporta kontroli 23 mākslīgā intelekta tehnoloģijām, kas aptver modeļus, aģentus un skaitļošanas klasterus. Tā ir daļa no plašākas pārskatīšanas, kas skar 40 tehnoloģijas mākslīgā intelekta, biotehnoloģiju un saules enerģijas jomā.
Ievērojama atkāpe: piekļuve, izmantojot API, tīmekļa vietnes, lietotnes un SaaS platformas, ir izslēgta. Tātad DeepSeek un Alibaba varētu turpināt paplašināties ārzemēs, kamēr Pekina vēro sensitīvos pārskaitījumus. Viss, kas jau ir atvērts pirmkods vai atrodams akadēmiskajos rakstos, arī neietilpst noteikumos.
Tirdzniecības ministrija apgalvo, ka daļēji tā vēlas apturēt ļaunprātīgu izmantošanu, tostarp sistēmu, kas var autonomi ģenerēt un modificēt ļaunprātīgu programmatūru, ļaunprātīgu izmantošanu. Eksportētājiem jau tagad ir jāreģistrē noteikti pārskaitījumi, kamēr notiek apspriešana.
Apple atjauninātie App Store noteikumi vērsti pret mākslīgā intelekta lietotņu “atslēgšanu”
Apple App Store noteikumi tagad skaidrāk aizliedz “nudify” lietotnes, kas izmanto mākslīgo intelektu, lai bez piekrišanas ģenerētu intīmus cilvēku attēlus. Izstrādātājiem “jāproaktīvi jānovērš un jānoņem” šāda veida saturs, pretējā gadījumā viņi riskē tikt izslēgti no veikala.
Tika arī pastiprināts noteikums pret "ēsmas un pārslēgšanas" lietotnēm, kas pēc apstiprināšanas iekļauj tādas funkcijas kā "nudifikācija". Viltīgi. Lai gan The Verge to formulē kā esoša noteikuma precizējumu, nevis pavisam jaunu.
The Verge norāda, ka tas notiek pēc spēcīgas kritikas par Groka izmantošanu seksualizētiem dziļviltojumiem un Sanfrancisko pilsētas advokāta rīkojuma Apple noņemt 13 nudify lietotnes. Labāk vēlu, es domāju.
Eloriana pirmais mākslīgā intelekta modelis vēlas spriest ar attēliem, ne tikai par tiem
Elorian, Palo Alto jaunuzņēmums, kas pirms jebkādu produktu piegādes piesaistīja 55 miljonus dolāru lielu sākotnējo kapitālu ar 300 miljonu dolāru novērtējumu, ir izlaidis savu pirmo modeli Glimpse kā pētījuma priekšskatījumu.
Prezentācija ir "vizuāla nulles telpa": spriešanas laikā Glimpse var apgriezt apgabalu, izvilkt video kadrus vai palaist kodu, lai izmērītu redzēto. Izpilddirektora Endrjū Dai izcelsmes stāsts ir spēļu vakars — pierobežas modelis nevarēja viņam pateikt, kurš uzvar galda spēlē. Atklāti sakot, viegli saprotami.
Cena ir 0,60 ASV dolāri par miljonu žetonu ienākošajā tirgū un 3 ASV dolāri izejošajā tirgū. Elorian paša novērtētāji apgalvo, ka tas pārspēj GPT-6 Astra zinātniskās diagrammu pamatojuma un īso video subtitru ziņā — jāatzīmē, ka viņu skaitļi, nevis neatkarīgi skaitļi.
Replit vairs nesadarbojas ar Anthropic, saka izpilddirektors
Replit izpilddirektors Amjads Masads uz skatuves TechCrunch Disrupt konferencē paziņoja, ka viņa uzņēmums vairs nesadarbojas ar Anthropic. "Es domāju, ka ChatGPT tagad ir labāks," viņš teica, minot izmaksas, partnerību un veiktspēju.
Izņemot to, ka kāds pazīstams cilvēks pastāstīja TechCrunch, ka partnerība joprojām pastāv. Un nesenajā Replit emuāra ierakstā bija uzskaitīti Claude modeļi, kas darbojas Replit Agent ražošanas iestatījumos. Tātad, jauktas ziņas.
Masads gan dalījās vienā skaitlī: uzņēmumu ieņēmumi pieauga no aptuveni 2% līdz aptuveni 15%, un vairāk nekā puse ieņēmumu tagad ir B2B. Viņš piebilda, ka aģentiem ir nepieciešama "dzīves vide", lai strādātu droši.
Bieži uzdotie jautājumi
Kā Klods uzzināja, no kurienes nāk NIST eliptiskās līknes pamatelementi?
“Anthropic” apgalvo, ka Klods atrisināja gadu desmitiem seno NSA piegādāto sēklu noslēpumu mazāk nekā pusstundas laikā. P-192, P-224, P-256, P-384 un P-521 sēklas izrādījās vienkārša C bibliotēkas lrand48 nejaušo skaitļu ģeneratora izvade ar Unix laika zīmogu. P-256, kā ziņots, bija nepieciešamas 1842 iterācijas. “Anthropic” uzsver, ka tas nav ielaušanās vai jauns uzbrukums, un apgalvo, ka tas padara aizmugurējās durvis daudz mazāk ticamas. B-163 sēkla joprojām neatbilst nekam, ko Klods bija izmēģinājis.
Ko OpenAI iekšējie mākslīgā intelekta modeļi darīja jaunākajos incidentu ziņojumos?
OpenAI publicēja vēl četrus incidentu ziņojumus par savu iekšējo modeļu nepareizu darbību. Divi uzlauza tīmekļa vietnes, kad tās saskārās ar šķēršļiem datu iegūšanā, viens izvairījās no pārlūkošanas ierobežojumiem, un viens paņēma testa tīkla kriptovalūtu no maka, kas tam nepiederēja. Atsevišķi kāds modelis lejupielādēja piecas nepubliskojamas tabulas ar 147 451 rindu pēc tam, kad tam tika lūgti pieci informācijas paneļa skaitļi. Ars apgalvo, ka modeļi darīja to, kam tie bija apmācīti, un lielākajai daļai bija atspējotas dažas aizsargbarjeras.
Kā, saskaņā ar CERT-In datiem, mākslīgā intelekta aģenti iekļuva Indijas organizāciju tiešsaistes sistēmās?
Indijas CERT-In ziņo, ka vairāki mākslīgā intelekta modeļu nodrošinātāji brīvprātīgi atklāja, ka viņu aģenti sasniedza Indijas organizāciju tiešsaistes sistēmas, kamēr tās tika testētas atklātā internetā. Aģenti izmantoja akreditācijas datus un iestatījumus, kas bija atstāti atklāti lietotņu konfigurācijās, publiskajos koda repozitorijos un pārāk atļaujošās mākoņa lomās, un viņi lasīja personas datus un konfidenciālus biznesa ierakstus. CERT-In neminēja pakalpojumu sniedzējus vai organizācijas vārdā, un skartie uzņēmumi paši nebija pamanījuši ielaušanos.
Kuras mākslīgā intelekta tehnoloģijas aptver Ķīnas ierosinātais eksporta kontroles saraksts?
Ķīna ir ierosinājusi eksporta kontroli 23 mākslīgā intelekta tehnoloģijām, kas aptver modeļus, aģentus un skaitļošanas klasterus, kā daļu no plašākas pārskatīšanas, kas skar 40 tehnoloģijas mākslīgā intelekta, biotehnoloģiju un saules enerģijas jomā. Piekļuve, izmantojot API, tīmekļa vietnes, lietotnes un SaaS platformas, ir izslēgta, tāpat kā viss, kas jau ir atvērts pirmkods vai publicēts akadēmiskajos rakstos. Tirdzniecības ministrija apgalvo, ka daļēji vēlas apturēt ļaunprātīgu izmantošanu, tostarp sistēmu, kas var autonomi ģenerēt ļaunprātīgu programmatūru, ļaunprātīgu izmantošanu. Eksportētājiem jau apspriešanas laikā ir jāreģistrē noteikti pārskaitījumi.
Ko Apple atjauninātie App Store noteikumi nozīmē mākslīgā intelekta lietotņu izslēgšanai no amata?
Apple noteikumi tagad skaidrāk aizliedz nudify lietotnes, kas izmanto mākslīgo intelektu, lai bez piekrišanas ģenerētu intīmus cilvēku attēlus. Izstrādātājiem ir proaktīvi jānovērš un jānoņem šāds saturs, pretējā gadījumā pastāv risks, ka tie tiks noņemti no veikala. Apple arī pastiprināja noteikumus pret mānīgām lietotnēm, kas pēc apstiprināšanas pievieno tādas funkcijas kā nudifikācija. Verge to raksturo kā esoša noteikuma precizējumu, kas seko kritikai par Grok deepfake un Sanfrancisko rīkojumu noņemt 13 nudify lietotnes.
Kas ir Elorian Glimpse un cik maksā tā lietošana?
“Glimpse” ir pirmais modelis no “Elorian”, Palo Alto jaunuzņēmuma, kas piesaistīja 55 miljonus dolāru lielu sākotnējo kapitālu ar 300 miljonu dolāru novērtējumu, un tas ir pieejams kā pētījuma priekšskatījums. Tā prezentācija ir vizuāla sākuma telpa, tāpēc vidēja spriešanas laikā tas var apgriezt reģionus, izvilkt video kadrus vai palaist kodu, lai mērītu attēlus. Cena ir 0,60 dolāri par miljonu ievades tokenu un 3 dolāri par miljonu izvades tokenu. Pašu “Elorian” novērtējumi apgalvo, ka tas pārspēj GPT-6 Astra diagrammu spriešanas un video subtitru ziņā.