Kā mākslīgais intelekts mācās?

Kā mākslīgais intelekts mācās?

Kā mākslīgais intelekts mācās?, šajā rokasgrāmatā vienkāršā valodā tiek atklātas galvenās idejas — ar piemēriem, nelielām atkāpēm un dažām nepilnīgām metaforām, kas tomēr zināmā mērā palīdz. Ķersimies pie lietas. 🙂

Raksti, kurus jūs varētu vēlēties izlasīt pēc tam:

🔗 Kas ir paredzošā mākslīgā intelekta
Kā prognozējošie modeļi prognozē rezultātus, izmantojot vēsturiskus un reāllaika datus.

🔗 Kādas nozares mākslīgais intelekts mainīs
Nozares, visticamāk, tiks pārveidotas automatizācijas, analītikas un aģentu ietekmē.

🔗 Ko nozīmē GPT?
Skaidrs GPT akronīma un izcelsmes skaidrojums.

🔗 Kas ir mākslīgā intelekta prasmes?
Pamatkompetences mākslīgā intelekta sistēmu veidošanā, ieviešanā un pārvaldībā.

Tātad, kā tas tiek panākts? ✅

Kad cilvēki jautā: "Kā mākslīgais intelekts mācās?" , viņi parasti domā: kā modeļi kļūst noderīgi, nevis tikai greznas matemātikas rotaļlietas. Atbilde ir recepte:

  • Skaidrs mērķis — zaudējumu funkcija, kas definē, ko nozīmē “labs”. [1]

  • Kvalitatīvi dati — daudzveidīgi, skaidri un atbilstoši. Kvantitāte palīdz; daudzveidība palīdz vēl vairāk. [1]

  • Stabila optimizācija — slīpums ar trikiem, lai izvairītos no nogāšanās no klints. [1], [2]

  • Vispārināšana — panākumi ar jauniem datiem, ne tikai ar apmācības kopu. [1]

  • Atgriezeniskās saites cilpas — novērtēšana, kļūdu analīze un iterācija. [2], [3]

  • Drošība un uzticamība — aizsargbarjeras, testēšana un dokumentācija, lai nebūtu haosa. [4]

Lai iegūtu viegli pieejamus pamatus, klasiskais dziļās mācīšanās teksts, vizuāli draudzīgas kursa piezīmes un praktisks ātrais kurss aptver būtiskākās lietas, neapslīcinot jūs ar simboliem. [1]–[3]

Kā mākslīgais intelekts mācās? Īsā atbilde vienkāršā angļu valodā ✍️

Mākslīgā intelekta modelis sākas ar nejaušām parametru vērtībām. Tas izdara prognozi. Jūs piešķirat šai prognozei zaudējumu . gradientus pabīdāt šos parametrus, lai samazinātu zaudējumus . Atkārtojiet šo ciklu daudzos piemēros, līdz modelis pārstāj uzlaboties (vai jums beidzas uzkodas). Tas ir apmācības cikls vienā elpas vilcienā. [1], [2]

Ja vēlaties nedaudz lielāku precizitāti, skatiet tālāk sniegtās sadaļas par gradienta nolaišanos un atpakaļizplatīšanos. Lai ātri un saprotami iegūtu pamatinformāciju, ir plaši pieejamas īsas lekcijas un laboratorijas nodarbības. [2], [3]

Pamati: dati, mērķi, optimizācija 🧩

  • Dati : Ievaddati (x) un mērķi (y). Jo plašāki un tīrāki dati, jo lielāka iespēja tos vispārināt. Datu kūrēšana nav glaimojoša, taču tā ir neatzīta varone. [1]

  • Modelis : Funkcija (f_\theta(x)) ar parametriem (\theta). Neironu tīkli ir vienkāršu vienību kopas, kas apvienojas sarežģītos veidos — Lego klucīši, bet mīkstāki. [1]

  • Mērķis : zudums (L(f_\theta(x), y)), kas mēra kļūdu. Piemēri: vidējā kvadrātiskā kļūda (regresija) un krustentropija (klasifikācija). [1]

  • Optimizācija : Izmantojiet (stohastisko) gradienta kritumu, lai atjauninātu parametrus: (\theta \leftarrow \theta - \eta \nabla_\theta L). Mācīšanās ātrums (\eta): ja ir pārāk liels, jūs lēkājat apkārt; ja ir pārāk mazs, jūs snaužat uz visiem laikiem. [2]

Lai iegūtu skaidru ievadu zaudējumu funkcijās un optimizācijā, lielisks ieskats ir klasiskajās piezīmēs par apmācības trikiem un kļūdām. [2]

Vadīta mācīšanās: mācieties no marķētiem piemēriem 🎯

Ideja : Parādiet ievades un pareizās atbildes modeļa pārus. Modelis apgūst kartējumu (x \rightarrow y).

  • Bieži uzdotie uzdevumi : attēlu klasifikācija, noskaņojuma analīze, tabulāra prognozēšana, runas atpazīšana.

  • Tipiski zudumi : krustentropija klasifikācijai, vidējā kvadrātiskā kļūda regresijai. [1]

  • Kļūdas : etiķešu troksnis, klases nelīdzsvarotība, datu noplūde.

  • Labojumi : stratificēta izlase, stabili zudumi, regularizācija un daudzveidīgāka datu vākšana. [1], [2]

Balstoties uz gadu desmitiem ilgu salīdzinošo novērtējumu un ražošanas praksi, uzraudzīta mācīšanās joprojām ir galvenais darba zirgs, jo rezultāti ir paredzami un metrikas ir vienkāršas. [1], [3]

Nepārraudzīta un pašaprūpēta mācīšanās: apgūstiet datu struktūru 🔍

Bez uzraudzības apgūst modeļus bez etiķetēm.

  • Klasterizācija : līdzīgu punktu grupēšana — k-vidējie ir vienkārša un pārsteidzoši noderīga metode.

  • Dimensiju samazināšana : saspiediet datus līdz būtiskiem virzieniem — PCA ir vārtu rīks.

  • Blīvuma/ģeneratīvā modelēšana : apgūstiet pašu datu sadalījumu. [1]

Pašuzraudzīts ir mūsdienu dzinējspēks: modeļi paši izveido savu uzraudzību (maskēta prognozēšana, kontrastīvā mācīšanās), ļaujot iepriekš apmācīties ar neapzīmētu datu okeāniem un vēlāk to precizēt. [1]

Pastiprināšanas mācīšanās: mācies darot un saņemot atgriezenisko saiti 🕹️

Aģents mijiedarbojas ar vidi , saņem atlīdzību un apgūst politiku , kas palielina ilgtermiņa atlīdzību.

  • Galvenie elementi : stāvoklis, darbība, atlīdzība, politika, vērtības funkcija.

  • Algoritmi : Q-mācīšanās, politikas gradienti, aktieris-kritiķis.

  • Izpēte pretstatā ekspluatācijai : izmēģiniet jaunas lietas vai atkārtoti izmantojiet to, kas darbojas.

  • Kredītu piešķiršana : kura darbība izraisīja kādu rezultātu?

Cilvēka atgriezeniskā saite var palīdzēt apmācībā, ja atlīdzības ir sarežģītas — rangu noteikšana vai preferences palīdz veidot uzvedību, manuāli neiekodējot perfekto atlīdzību. [5]

Dziļā mācīšanās, balsts uz muguras un gradienta nolaišanās — pulsējošā sirds 🫀

Neironu tīkli ir vienkāršu funkciju kompozīcijas. Lai mācītos, tie balstās uz atpakaļizplatīšanu :

  1. Uz priekšu : aprēķina prognozes no ievades datiem.

  2. Zaudējums : mēra kļūdu starp prognozēm un mērķiem.

  3. Atpakaļejoša caurlaide : izmantojiet ķēdes likumu, lai aprēķinātu zaudējumu gradientus attiecībā pret katru parametru.

  4. Atjauninājums : pabīdiet parametrus pret gradientu, izmantojot optimizētāju.

Tādi varianti kā impulss, RMSProp un Adam padara treniņus mazāk kaprīzus. Regularizācijas metodes, piemēram, izkrišana , svara samazināšana un agrīna pārtraukšana, palīdz modeļiem vispārināt, nevis iegaumēt. [1], [2]

Transformeri un uzmanība: kāpēc mūsdienu modeļi jūtas gudri 🧠✨

Transformatori aizstāja daudzas atkārtotas valodas un redzes iestatīšanas metodes. Galvenais triks ir pašpietiekamība , kas ļauj modelim atkarībā no konteksta novērtēt dažādas ievades daļas. Pozicionālie kodējumi apstrādā secību, un vairāku galvu uzmanība ļauj modelim vienlaikus koncentrēties uz dažādām attiecībām. Mērogošana — daudzveidīgāki dati, vairāk parametru, ilgāka apmācība — bieži vien palīdz, taču ar samazinātu atdevi un pieaugošām izmaksām. [1], [2]

Vispārināšana, pārapludināšana un aizspriedumu-dispersijas deja 🩰

Modelis var lieliski izpildīt apmācības komplektu un reālajā pasaulē joprojām neizdoties.

  • Pārmērīga pielāgošana : iegaumē troksni. Apmācības kļūda uz leju, testa kļūda uz augšu.

  • Nepietiekama pielāgošana : pārāk vienkārši; neizmanto signālu.

  • Neobjektivitātes un dispersijas kompromiss : sarežģītība samazina neobjektivitāti, bet var palielināt dispersiju.

Kā labāk vispārināt:

  • Dažādāki dati — dažādi avoti, jomas un perifēriskie gadījumi.

  • Regularizācija — izkrišana, svara samazināšanās, datu palielināšana.

  • Pareiza validācija — tīras testu kopas, nelielu datu krustvalidācija.

  • Novirzes uzraudzība — jūsu datu sadalījums laika gaitā mainīsies.

Riska apzināšanās praksē tās tiek definētas kā dzīves cikla aktivitātes — pārvaldība, kartēšana, mērīšana un vadība —, nevis kā vienreizēji kontrolsaraksti. [4]

Svarīgi rādītāji: kā mēs zinām, ka mācīšanās ir notikusi 📈

  • Klasifikācija : precizitāte, precizitāte, atpazīstamība, F1, ROC AUC. Nelīdzsvaroti dati prasa precizitātes un atpazīstamības līknes. [3]

  • Regresija : MSE, MAE, (R^2). [1]

  • Ranžēšana/atgūšana : MAP, NDCG, recall@K. [1]

  • Ģeneratīvie modeļi : apjukums (valoda), BLEU/ROUGE/CIDEr (teksts), uz CLIP balstīti vērtējumi (multimodāli) un — galvenokārt — cilvēka veikti novērtējumi. [1], [3]

Izvēlieties rādītājus, kas atbilst ietekmei uz lietotājiem. Neliela precizitātes atšķirība var nebūt būtiska, ja patiesās izmaksas ir kļūdaini pozitīvi rezultāti. [3]

Apmācības darbplūsma reālajā pasaulē: vienkāršs plāns 🛠️

  1. Nosakiet problēmas formulējumu — definējiet ievades datus, izvades datus, ierobežojumus un veiksmes kritērijus.

  2. Datu plūsma — vākšana, marķēšana, tīrīšana, sadalīšana, papildināšana.

  3. Bāzes līnija — sāciet vienkārši; lineāras vai koku bāzes līnijas ir šokējoši konkurētspējīgas.

  4. Modelēšana — izmēģiniet dažas saimes: ar gradientu pastiprinātus kokus (tabulāri), CNN (attēli), transformatorus (teksts).

  5. Apmācība — grafiks, mācīšanās ātruma stratēģijas, kontrolpunkti, jaukta precizitāte, ja nepieciešams.

  6. Novērtēšana — korekcijas un kļūdu analīze. Pievērsiet uzmanību kļūdām, ne tikai vidējiem rādītājiem.

  7. Izvietošana — secinājumu plūsma, uzraudzība, reģistrēšana, atcelšanas plāns.

  8. Iterēt — labāki dati, precīza pielāgošana vai arhitektūras pielāgojumi.

Mini gadījums : e-pasta klasifikatora projekts sākās ar vienkāršu lineāru bāzes līniju, pēc tam tika precīzi noregulēts iepriekš apmācīts transformators. Lielākais ieguvums nebija modelis — tā bija marķēšanas rubrikas pastiprināšana un nepietiekami pārstāvētu “progresīvo” kategoriju pievienošana. Kad tās bija iekļautas, validācijas F1 beidzot izsekoja reālās pasaules veiktspēju. (Jūsu nākotnes “es”: ļoti pateicīgs.)

Datu kvalitāte, marķēšana un smalkā māksla nemelot sev 🧼

Atkritumi iekšā, nožēla ārā. Marķēšanas vadlīnijām jābūt konsekventām, izmērāmām un pārskatāmām. Svarīga ir vienošanās starp anotētājiem.

  • Uzrakstiet rubrikas ar piemēriem, stūra gadījumiem un izšķirošiem faktoriem.

  • Audita datu kopas, lai atrastu dublikātus un gandrīz dublikātus.

  • Izsekojiet izcelsmi — no kurienes nāca katrs piemērs un kāpēc tas ir iekļauts.

  • Izmēriet datu pārklājumu, salīdzinot to ar reāliem lietotāju scenārijiem, nevis tikai ar sakārtotu etalonu.

Tie lieliski iederas plašākās nodrošināšanas un pārvaldības sistēmās, kuras jūs faktiski varat ieviest praksē. [4]

Mācīšanās pārnešana, precizēšana un adapteri — atkārtoti izmantojiet smago darbu ♻️

Iepriekš apmācīti modeļi apgūst vispārīgus attēlojumus; precizēšana pielāgo tos jūsu uzdevumam ar mazāku datu apjomu.

  • Funkciju ieguve : iesaldēt mugurkaulu, apmācīt nelielu galvu.

  • Pilnīga precizēšana : atjauniniet visus parametrus maksimālajai jaudai.

  • Parametru ziņā efektīvas metodes : adapteri, LoRA stila zemas ranga atjauninājumi — labi noder, ja ir ierobežoti skaitļošanas resursi.

  • Domēna adaptācija : iegulto elementu saskaņošana dažādās jomās; mazas izmaiņas, lieli ieguvumi. [1], [2]

Šis atkārtotas izmantošanas modelis ir iemesls, kāpēc mūsdienu projekti var virzīties uz priekšu ātri, neizmantojot varonīgus budžetus.

Drošība, uzticamība un izlīdzināšana — obligātās sastāvdaļas 🧯

Mācīšanās nav tikai precizitāte. Jums ir nepieciešami arī modeļi, kas ir stabili, godīgi un atbilst paredzētajam lietojumam.

  • Pretrunīga robustums : nelieli traucējumi var apmānīt modeļus.

  • Neobjektivitāte un taisnīgums : mērīt apakšgrupas sniegumu, ne tikai kopējos vidējos rādītājus.

  • Interpretējamība : iezīmju attiecināšana un izpēte palīdz saprast, kāpēc .

  • Cilvēks procesa gaitā : eskalācijas ceļi neskaidru vai ietekmīgu lēmumu gadījumā. [4], [5]

Uz vēlmēm balstīta mācīšanās ir viens pragmatisks veids, kā iekļaut cilvēka spriedumus, ja mērķi ir neskaidri. [5]

Bieži uzdotie jautājumi vienā minūtē — ātra uguns ⚡

  • Tātad, kā mākslīgais intelekts mācās? Ar iteratīvas optimizācijas palīdzību, risinot zaudējumus, ar gradientiem, kas vada parametrus labāku prognožu virzienā. [1], [2]

  • Vai vairāk datu vienmēr palīdz? Parasti līdz brīdim, kad samazinās ieguvumi. Dažādība bieži vien ir svarīgāka par apjomu. [1]

  • Ko darīt, ja etiķetes ir nekārtīgas? Izmantojiet trokšņu ziņā izturīgas metodes, labākas rubrikas un apsveriet pašmācības iepriekšēju apmācību. [1]

  • Kāpēc dominē transformatori? Uzmanība labi mērogojas un aptver ilgtermiņa atkarības; rīki ir nobrieduši. [1], [2]

  • Kā es varu zināt, ka apmācība ir pabeigta? Validācijas zudumi sasniedz plato, metrika stabilizējas un jaunie dati uzvedas, kā paredzēts, — pēc tam jāuzrauga, vai nenotiek novirze. [3], [4]

Salīdzināšanas tabula — rīki, kurus jūs patiešām varat izmantot jau šodien 🧰

Nedaudz dīvaini ar nolūku. Cenas ir norādītas pamata bibliotēkām — apmācībai plašā mērogā, protams, ir infrastruktūras izmaksas.

Rīks Vislabāk piemērots Cena Kāpēc tas darbojas labi
PyTorch Pētnieki, celtnieki Bezmaksas — atvērt src Dinamiski grafiki, spēcīga ekosistēma, lieliskas pamācības.
TensorFlow Ražošanas komandas Bezmaksas — atvērt src Nobrieduša lietotāja saskarne, TF Lite mobilajām ierīcēm; liela kopiena.
scikit-learn Tabulārie dati, bāzes līnijas Bezmaksas Tīra API, ātri atkārtojama, lieliska dokumentācija.
Keras Ātrie prototipi Bezmaksas Augsta līmeņa API virs TF, lasāmi slāņi.
JAX Enerģijas lietotāji, pētījumi Bezmaksas Automātiska vektorizācija, XLA ātrums, eleganta matemātiskā noskaņa.
Apskaujošo seju transformatori NLP, redze, audio Bezmaksas Iepriekš apmācīti modeļi, vienkārša precizēšana, lieliski centrmezgli.
Zibens Apmācības darbplūsmas Bezmaksas kodols Struktūra, reģistrēšana, vairāku GPU baterijas iekļautas komplektā.
XGBoost Tabulārā konkurētspēja Bezmaksas Spēcīgas bāzes līnijas bieži vien nodrošina panākumus strukturētos datos.
Svari un aizspriedumi Eksperimenta izsekošana Bezmaksas līmenis Reproducējamība, salīdzināšanas palaišanas, ātrāki mācību cikli.

Autoritatīvi dokumenti, ar kuriem sākt: PyTorch, TensorFlow un sakārtotā scikit-learn lietotāja rokasgrāmata. (Izvēlieties vienu, izveidojiet kaut ko mazu, atkārtojiet.)

Padziļināta izpēte: praktiski padomi, kas ietaupīs jūsu laiku 🧭

  • Mācīšanās ātruma grafiki : kosinusa sabrukšana vai viens cikls var stabilizēt apmācību.

  • Partijas lielums : lielāks ne vienmēr nozīmē labāks — sekojiet līdzi validācijas rādītājiem, ne tikai caurlaidspējai.

  • Svara inicializācija : mūsdienu noklusējuma vērtības ir piemērotas; ja apmācība apstājas, atkārtoti jāveic inicializācija vai jānormalizē agrīnie slāņi.

  • Normalizācija : partijas norma vai slāņa norma var ievērojami vienkāršot optimizāciju.

  • Datu papildināšana : attēlu apgriešana/apgriešana/krāsu svārstības; teksta maskēšana/marķieru jaukšana.

  • Kļūdu analīze : kļūdu grupēšana pa šķēlēm — vienas malas gadījumā viss var tikt novājināts.

  • Repro : iestatiet sēklas, reģistrējiet hiperparametrus, saglabājiet kontrolpunktus. Nākotnē jūs būsiet pateicīgi, apsolu. [2], [3]

Šaubu gadījumā atgriezieties pie pamatiem. Pamati joprojām ir kompass. [1], [2]

Neliela metafora, kas gandrīz darbojas 🪴

Modeļa apmācība ir kā auga laistīšana ar dīvainu sprauslu. Pārāk daudz ūdens - pārāk liela peļķe. Pārāk maz ūdens - nepietiekams sausums. Pareizais ritms ar saules gaismu no labiem datiem un barības vielām no tīriem mērķiem, un tu iegūsti augšanu. Jā, nedaudz klišejiski, bet tas saglabājas.

Kā mākslīgais intelekts mācās? Apvienojot to visu 🧾

Modelis sāk darboties nejauši. Izmantojot gradientu atjauninājumus, ko vada zaudējumi, tas saskaņo savus parametrus ar datu modeļiem. Rodas reprezentācijas, kas atvieglo prognozēšanu. Novērtējums parāda, vai mācīšanās ir reāla, nevis nejauša. Un iterācija – ar drošības barjerām – pārvērš demonstrāciju par uzticamu sistēmu. Tas arī viss stāsts, ar mazāk noslēpumainām vibrācijām, nekā sākumā šķita. [1]–[4]

Noslēguma piezīmes — pārāk garas, neizlasīju 🎁

  • Kā mākslīgais intelekts mācās? Samazinot zaudējumus ar gradientiem daudzos piemēros. [1], [2]

  • Labi dati, skaidri mērķi un stabila optimizācija nodrošina mācīšanās noturību. [1]–[3]

  • Vispārināšana vienmēr ir labāka par iegaumēšanu. [1]

  • Drošība, novērtēšana un iterācija pārvērš gudras idejas uzticamos produktos. [3], [4]

  • Sāciet vienkārši, rūpīgi izmēriet un uzlabojiet, labojot datus, pirms dzenāties pakaļ eksotiskām arhitektūrām. [2], [3]

Atsauces

  1. Gudfelovs, Bendžio, Kurvila — dziļā mācīšanās (bezmaksas tiešsaistes teksts). Saite

  2. Stenfordas CS231n — Konvolucionālie neironu tīkli vizuālajai atpazīšanai (kursa piezīmes un uzdevumi). Saite

  3. Google — mašīnmācīšanās ātrais kurss: klasifikācijas metrika (precizitāte, precizitāte, atcerēšanās, ROC/AUC) . Saite

  4. NIST — mākslīgā intelekta risku pārvaldības sistēma (AI RMF 1.0) . Saite

  5. OpenAI — mācīšanās no cilvēku preferencēm (pārskats par uz preferencēm balstītu apmācību). Saite

Atrodiet jaunāko mākslīgo intelektu oficiālajā mākslīgā intelekta palīgu veikalā

Par mums

Atpakaļ uz emuāru