💰 Sequoia klusi ielec Antropic megaraundā ↗
Tiek ziņots, ka Sequoia, kas jau ir sadarbojusies ar vairākām lielām mākslīgā intelekta laboratorijām, pievienojas milzīgai Anthropic algu palielināšanai. Tas ir tāds solis, kas visu "konfliktu, nekādu konfliktu" pļāpāšanu paceļ jaunā līmenī, neatkarīgi no tā, vai kāds to atzīst vai nē.
Tiek ziņots, ka raundā būs iekļauti arī citi smagsvaru pārbaužu veidi, kas vēl vairāk ievirzīs Anthropic augstākā līmeņa, megavērtību joslā. Vēl joprojām saglabājas burbuļa noskaņojums. Diemžēl šī varētu būt arī jaunā norma.
📢 ChatGPT sāk flirtēt ar reklāmām — šoreiz pa īstam ↗
Tiek ziņots, ka OpenAI testēs reklāmas dažiem ASV lietotājiem lētākos līmeņos, bet augstāk apmaksātajos līmeņos reklāmas netiks rādītas. Tiek solīts, ka reklāmas neietekmēs atbildes – teorētiski tas ir mierinoši, pat ja uzticības reflekss nedaudz mainās.
Galvenais slēptais saturs ir vienkāršs: secinājumu izdarīšana ir dārga, un abonementi vien, iespējams, neaptvers visu uz visiem laikiem... vai vismaz tā šķiet. Tomēr, pirmo reizi, kad tērzēšanas robota tuvumā redzat vārdu “sponsorēts”, kaut kas jūsu galvā mainās. Mainās atmosfēra.
📚 Izdevēji mēģina izmantot Google prasību par mākslīgā intelekta apmācību ↗
Izdevēju grupa cenšas pievienoties tiesas prāvai, kurā Google tiek apsūdzēts par autortiesību aizsargātu darbu izmantošanu savu mākslīgā intelekta sistēmu apmācībai. Šī juridiskā cīņa turpina paplašināties, līdzīgi kā plaisa ledū, ko dzirdat, bet nevarat īsti atrast.
Ja tiesa viņus atļaus, lieta varētu saasināties par to, ko attiecībā uz apmācības datiem nozīmē "atļauja" un "maksājums". Ikviens vēlas precedentu - vēlams, protams, tādu, kas viņam ir labvēlīgs.
🕳️ Tiek ziņots, ka "ātras injekcijas" triks sajauc Gemini, izmantojot sanāksmju datus ↗
Pētnieki aprakstīja “netiešas tūlītējas injekcijas” stila uzbrukumu, kurā ļaunprātīgas instrukcijas tiek paslēptas parasta izskata saturā, un vēlāk, kad lietotājs jautā kaut ko nevainīgu, palīgs tām seko. Nav ne ļaunprogrammatūras, nav burvestību — tikai ierocim līdzīgs teksts, neticami elegants un arī nedaudz pretīgs.
Tas ir atgādinājums, ka “LLM nolasa neuzticamu tekstu” nav jauka funkcija — tā ir vesela apdraudējuma virsma. Līdzīgi kā ļaut svešiniekiem visu dienu bāzt kabatās zīmītes un pēc tam izlikties pārsteigtam, kad viena no tām izrādās slazds.
🎮 Razer izpilddirektors saka, ka spēlētājiem "jau patīk mākslīgais intelekts" - viņi vienkārši ienīst šo apzīmējumu ↗
Razer CES runā tika pievērsta uzmanība mākslīgajam intelektam kā praktiskam rīkam spēļu izstrādes darbplūsmās — kvalitātes nodrošināšanai, iterācijai un tamlīdzīgām lietām —, kā arī dažām palīga koncepcijām, kas šķiet daļēji noderīgas, daļēji zinātniskās fantastikas rekvizītas.
Viņi arī būtībā atzīst zīmola problēmu: spēlētāji nevēlas "mākslīgā intelekta sūdus", bet gan viedākus rīkus un vienmērīgāku pieredzi. Nosauciet to par "palīgu", un cilvēki pamāj ar galvu. Nosauciet to par "mākslīgo intelektu", un cilvēki dažreiz sniedzas pēc dakšām.
⚖️ Tiesa nosaka noteikumus juristiem, kas izmanto ģeneratīvo mākslīgo intelektu ↗
Tiesa publicēja vadlīnijas, kas būtībā ir šādas: protams, izmantojiet genAI, bet darbs joprojām pieder jums. Jūs nevarat uzticēt savu profesionālo spriedumu teksta ģeneratoram un pēc tam izlikties šokēts, kad tas pārliecinoši kaut ko izdomā.
Interesanti, ka informācijas atklāšana nav nepieciešama, ja vien tiesnesis to nelūdz, taču atbildības vēstījums ir tā īstā būtība. Mākslīgais intelekts var rakstīt melnrakstus un sakārtot tekstus… un arī halucinēt kā pārāk pārliecināts praktikants ar talantu daiļliteratūrā.
Bieži uzdotie jautājumi
Ko Sequoia pievienošanās Anthropic mega raundam nozīmē mākslīgā intelekta ieguldījumiem un konfliktiem?
Tas liek domāt, ka lielie investori varētu turpināt vienlaikus atbalstīt vairākas vadošās mākslīgā intelekta laboratorijas, kas paredzami atdzīvina debates par "konfliktiem, nav konfliktu". Kad viens un tas pats fonds ir iesaistīts vairākās laboratorijās, cilvēki sāk rūpīgi izvērtēt stimulus, piekļuvi un konkurences priekšrocības. Ziņotā megafinansēšanas kārta arī uzsver virzību uz milzīgām pārbaudēm un augstiem novērtējumiem, pat ja "burbuļa vibrācijas" joprojām virmo gaisā.
Vai ChatGPT saņem reklāmas bezmaksas vai lētākajos līmeņos, un vai tās ietekmēs atbildes?
Ziņojumā teikts, ka OpenAI testē reklāmas dažiem ASV lietotājiem lētākos līmeņos, savukārt augstāk apmaksātajos līmeņos reklāmas joprojām nav redzamas. Tajā arī apgalvots, ka reklāmas neietekmēs atbildes, kas uz papīra izklausās pārliecinoši, taču joprojām var mainīt to, kā cilvēki uztver uzticēšanos. Zemteksts ir ekonomisks: secinājumi ir dārgi, un abonementi, iespējams, neaptvers visu uz visiem laikiem.
Kāpēc izdevēji mēģina pievienoties Google prasībai par mākslīgā intelekta apmācību?
Izdevēju grupa vēlas pievienoties tiesas prāvai, kurā apgalvots, ka Google ir izmantojis autortiesībām pakļautus darbus, lai apmācītu mākslīgā intelekta sistēmas. Ja tiesa viņus atļaus, lieta varētu saasināties attiecībā uz to, kādai vajadzētu izskatīties “atļaujai” un “maksājumam” attiecībā uz apmācības datiem. Vairāk pušu bieži vien nozīmē lielāku spiedienu uz skaidru precedentu, īpaši attiecībā uz to, kas saņem kompensāciju un ar kādiem nosacījumiem.
Kas ir "netiešās tūlītējas injekcijas" uzbrukums un kāpēc tas ir tik aktuāls mākslīgā intelekta tehnoloģiju jaunumos?
Tas ir uzbrukums, kurā ļaunprātīgas instrukcijas tiek paslēptas parasta izskata saturā, un palīgs tās izpilda vēlāk, kad lietotājs veic nevainīgu pieprasījumu. Galvenā problēma ir tā, ka modelis lasa neuzticamu tekstu, pārvēršot ikdienas dokumentus un ziņojumus par potenciālu apdraudējumu. Tas ir pārliecinoši, jo var darboties bez tradicionālās ļaunprogrammatūras — tikai saturā iestrādātas ieroci saturošas valodas.
Kāpēc spēlētājiem nepatīk apzīmējums “AI”, bet viņi joprojām vēlas AI rīkus?
Razer izpilddirektors apgalvo, ka spēlētājiem jau patīk praktiskie ieguvumi — ātrāka kvalitātes nodrošināšana, vienmērīgāka iterācija un darbplūsmas palīglīdzekļi —, taču viņi negatīvi reaģē uz zīmola veidošanu. Bažas bieži vien rada “mākslīgā intelekta paviršība” jeb saturs, kas šķiet mazprasīgs un neautentisks. Pārdēvējot to par “palīgu” vai utilitātes funkciju, var radīt iespaidu, ka tas ir rīks, kas uzlabo pieredzi, nevis aizstāj radošumu.
Ko tiesas noteikumi nozīmē juristiem, kuri izmanto ģeneratīvo mākslīgo intelektu, un vai viņiem tas ir jāatklāj?
Aprakstītās vadlīnijas ir vienkāršas: juristi var izmantot ģeneratīvo mākslīgo intelektu, taču viņi joprojām ir atbildīgi par darbu un nevar uzticēt profesionālu spriedumu teksta ģeneratoram. Pastāv halucināciju risks — pārliecināti izdomāti fakti vai citāti —, tāpēc pārbaude un atbildība joprojām ir centrā. Tiek ziņots, ka informācijas atklāšana nav nepieciešama, ja vien tiesnesis to nelūdz, taču vēstījums joprojām ir šāds: rezultāts ir jūsu īpašumā.