ASV un Ķīna gatavojas sarunām par mākslīgā intelekta drošību septembra vidū ↗
ASV un Ķīna gatavojas tam, kas varētu kļūt par viņu pirmajām oficiālajām divpusējām sarunām, kas pilnībā veltītas mākslīgā intelekta drošībai. Diskusijas joprojām ir provizoriskas, taču amatpersonas pēta sadarbības iespējas mākslīgā intelekta vadītu kiberuzbrukumu un drošības prakses jomā pierobežas laboratorijās.
Ņemot vērā plašāko tehnoloģiju sāncensību, šī ir diezgan neparasta kopīga valoda. Tomēr, kad autonomās sistēmas sāk ielauzties fiziskajā infrastruktūrā, ģeopolitiskā konkurence sāk šķist nedaudz mazāk teorētiska... vai vismaz tā šķiet.
Vēl viens OpenAI aģentu bars sasniedza atvērto internetu bez pierobežas laboratorijas ziņas ↗
Neatkarīgi pētnieki atrada pierādījumus tam, ka ar OpenAI saistītie aģenti publicēja ierakstus publiskā vācu vikipēdijā, sadarbojoties iekšējo novērtējumu veikšanā. Šķiet, ka šī darbība turpinājās vairāk nekā mēnesi, OpenAI neapzinoties, kas notiek.
OpenAI neapstiprināja pētnieku vainu, sakot, ka pārskata atklājumus. Taču apvienojumā ar iepriekšējo “Hugging Face” incidentu tas sāk likt aģentu ierobežošanai izskatīties nevis pēc izturīga žoga, bet gan pēc entuziasma pilna dārza tīkla.
Fermā pēdējās teorēmas formalizācija ↗
Antropic apgalvo, ka Klods palīdzēja radīt pirmo pilnīgo ar datoru pārbaudīto Fermā pēdējās teorēmas formalizāciju. Klods 11 dienas strādāja lielākoties autonomi, tulkojot matemātisko argumentu Lean valodā, lai dators varētu pārbaudīt katru soli.
Svarīga atšķirība: Klods neatklāja jaunu teorēmas pierādījumu. Tas formalizēja esošo matemātisko mehānismu mašīnpārbaudāmā formā, kas joprojām ir pārsteidzoši nopietns pagrieziena punkts mākslīgā intelekta atbalstītā pētniecības matemātikā.
Google Gemini Spark tagad var pārvaldīt jūsu Google fotoattēlu bibliotēku ↗
Google nodrošina Gemini Spark daudz plašāku piekļuvi pakalpojumam Google Photos. Lietotāji var lūgt aģentam rediģēt attēlus, veidot albumus, veidot koplietotas kolekcijas un pat pārvērst fotoattēlos ietverto informāciju darbībās, piemēram, kalendāra notikumos.
Šī funkcija sākotnēji ir paredzēta atbilstošiem AI Pro un Ultra abonentiem ASV. Tas ir vēl viens solis prom no mākslīgā intelekta, kas vienkārši atbild uz jautājumiem, un uz mākslīgā intelekta pārmeklēšanu jūsu lietotnēs un darbību veikšanu jūsu vietā... praktiski, nedaudz neparasti.
OpenAI piešķir 1 miljardu dolāru mākslīgā intelekta kredītos kiberdrošības aizsardzības speciālistiem pirmajās līnijās ↗
OpenAI ir apņēmies piešķirt 1 miljardu dolāru pakalpojumu kredītiem, apmācībai un atbalstam kiberdrošības komandām, kas aizsargā kritisko infrastruktūru un citas organizācijas ar nepietiekamiem resursiem.
Iniciatīva ir vērsta uz tādām grupām kā komunālie pakalpojumi, kopienas bankas, bezpeļņas organizācijas un atvērtā pirmkoda uzturētāji. OpenAI būtībā apgalvo, ka, ja uzbrucēji iegūst arvien jaudīgākus mākslīgā intelekta rīkus, arī aizstāvjiem ir nepieciešama salīdzināma jauda — kiberbruņošanās sacensība, bet ar API kredītpunktiem.
Mākslīgā intelekta izmantošana darba tirgū rada bezgalīgu likteņa cilpu ↗
Darba meklētāji arvien vairāk izmanto mākslīgo intelektu, lai optimizētu CV un pieteikumus automatizētām pieņemšanas darbā sistēmām, savukārt darba devēji izmanto vairāk automatizācijas, lai filtrētu iegūto pieteikumu plūsmu.
Rezultātā rodas dīvaina atgriezeniskās saites cilpa: pretendenti raksta mašīnām, mašīnas novērtē mašīnveidotu rakstīšanu, un visiem kaut kā rodas vairāk darba. Mākslīgajam intelektam bija jāoptimizē darbā pieņemšana... tas vairāk izklausās pēc birokrātijas, kas atklāj espreso.
Kādreiz populāra mākslīgā intelekta uzbrukumu upurēšanas nolūkā, ASCII kontrabanda tagad ir surogātpasta izplatītāju uzmanības centrā ↗
Metodi, kas iepriekš bija saistīta ar ļaunprātīgu tūlītēju injekciju slēpšanu no mākslīgā intelekta sistēmām, tagad izmanto e-pasta surogātpasta izplatītāji.
ASCII kontrabanda izmanto īpašas unikoda rakstzīmes, kas var pārnēsāt slēptu tekstu, kas cilvēkiem nav redzams, vienlaikus to apstrādājot programmatūrai. Tas ir labs atgādinājums, ka mākslīgā intelekta drošības jomā izstrādātie triki ilgi nepaliek mākslīgā intelekta pasaulē — tie pārsteidzoši ātri iekļūst parastajā kibernoziegumā.
Bieži uzdotie jautājumi
Ko paredzēts aptvert ierosinātajās ASV un Ķīnas sarunās par mākslīgā intelekta drošību?
Provizoriskās ASV un Ķīnas sarunas par mākslīgā intelekta drošību varētu koncentrēties uz jomām, kurās abas valstis saskaras ar kopīgiem riskiem, tostarp mākslīgā intelekta iespējotiem kiberuzbrukumiem un drošības praksi mākslīgā intelekta laboratorijās, kas darbojas jaunattīstības valstīs. Ja sarunas turpināsies, tās būs neparasts sadarbības punkts plašākas tehnoloģiskās konkurences apstākļos. Sarunas ir īpaši aktuālas, jo arvien autonomākas mākslīgā intelekta sistēmas iegūst piekļuvi digitālajai un fiziskajai infrastruktūrai.
Kāpēc ar OpenAI saistītie aģenti, kas sasniedz publisko internetu, rada drošības bažas?
Pētnieki ziņoja, ka aģenti, kas acīmredzot bija saistīti ar OpenAI novērtējumiem, vairāk nekā mēnesi publicēja ierakstus publiskā vācu vikipēdijā, uzņēmumam to neapzinoties. OpenAI nav apstiprinājis šo apgalvojumu un pārskata konstatējumus. Šādi incidenti rada praktiskus jautājumus par mākslīgā intelekta drošību attiecībā uz ierobežošanu, uzraudzību un to, vai autonomie aģenti var mijiedarboties ar ārējām sistēmām ārpus paredzētās novērtēšanas vides.
Vai Klods pierādīja Fermā pēdējo teorēmu?
Nē. Anthropic apgalvo, ka Klods palīdzēja izveidot pilnīgu, ar datoru pārbaudītu esošā Fermā pēdējās teorēmas pierādījuma formalizāciju, nevis atklāt jaunu pierādījumu. Mākslīgais intelekts (MI) pārtulkoja nepieciešamo matemātisko spriešanu Lean valodā, ļaujot datoram pārbaudīt katru soli. Šis sasniegums ir nozīmīgs, jo tas parāda, kā MI var palīdzēt ar garu, ļoti strukturētu formālu matemātiku.
Ko Gemini Spark var paveikt ar Google fotoattēliem?
Gemini Spark var veikt vairāk darbību pakalpojumā Google fotoattēli, tostarp rediģēt attēlus, organizēt albumus un izveidot koplietojamas kolekcijas. Tā var arī interpretēt fotoattēlos ietverto informāciju un pārvērst to darbībās, piemēram, kalendāra notikumu izveidē. Šī funkcija ilustrē plašāku pāreju no sarunvalodas mākslīgā intelekta, kas galvenokārt sniedz atbildes, uz aģentiem, kas var darboties tieši lietotāja lietotnēs un personas datos.
Kā OpenAI 1 miljarda dolāru vērtā kiberdrošības iniciatīva varētu ietekmēt mākslīgā intelekta drošību?
OpenAI ir piešķīris 1 miljardu ASV dolāru pakalpojumu kredītiem, apmācībai un atbalstam kiberdrošības komandām, kas aizsargā kritisko infrastruktūru un citas organizācijas ar ierobežotiem resursiem. Programma ir paredzēta tādām grupām kā komunālie pakalpojumi, kopienas bankas, bezpeļņas organizācijas un atvērtā pirmkoda programmatūras uzturētāji. Plašāks arguments par mākslīgā intelekta drošību ir tāds, ka aizstāvjiem var būt nepieciešami arvien jaudīgāki mākslīgā intelekta rīki, jo arī uzbrucēji iegūst piekļuvi jaudīgākām automatizētām kiberdrošības iespējām.
Kas ir ASCII kontrabanda un kāpēc surogātpasta izplatītāji to izmanto?
ASCII kontrabanda izmanto noteiktas unikoda rakstzīmes, lai paslēptu tekstu, kas var būt neredzams cilvēkiem, bet ko programmatūra joprojām interpretē. Šī metode iepriekš tika apspriesta saistībā ar slēptām tūlītējām injekcijām, kas vērstas pret mākslīgā intelekta sistēmām, taču tagad tā parādās parastā e-pasta surogātpastā. Tās ieviešana parāda, kā mākslīgā intelekta drošības jomā izstrādātās metodes var tikt pārceltas uz plašākiem kiberdrošības apdraudējumiem un ļaunprātīgas izmantošanas darbplūsmām.