Kāpēc mākslīgais intelekts dažreiz visu izdomā [video un viktorīna]

Īsā atbilde: mākslīgais intelekts dažreiz izdomā lietas, jo paredz ticamus nākamos vārdus, nevis pārbaudītus faktus — plūdums nav pierādījums. Ja tēma ir nišas, saistīta ar augstām likmēm vai prasa precīzus vārdus un skaitļus, tukšās vietas tiek aizpildītas ar pārliecinošiem minējumiem, ja vien atbilde netiek pamatota un nepārbaudīti konkrēti apgalvojumi.

Raksti, kurus jūs varētu vēlēties izlasīt pēc šī raksta:

🔗 Beidziet izturēties pret mākslīgo intelektu kā pret Google.
Uzziniet, kāpēc labākiem mākslīgā intelekta rezultātiem nepieciešama atšķirīga pieeja.

🔗 Jūsu pirmā īstā mākslīgā intelekta uzvedne
Izveidojiet skaidru un efektīvu uzvedni, izmantojot vienkāršu struktūru.

🔗 Lieliskas mākslīgā intelekta uzvednes 4 daļas
Atklājiet četrus būtiskus elementus, kas uzlabo mākslīgā intelekta uzvednes kvalitāti.

🔗 Kas īsti ir mākslīgais intelekts?
Izproti mākslīgo intelektu vienkāršā, praktiskā un ikdienas valodā.

Galvenie secinājumi:

Prognozēšana nezinot: uztveriet plūstošu prozu kā modeļa pabeigšanu, nekad kā zvērētu pierādījumu.

Pārliecības slazds: Apgalvojošs tonis ir stils; precizitāte ir jāpārbauda atsevišķi ārpus sarunas.

Viltus iepakojums: Pirms uzticaties kārtīgiem atsauču sarakstiem, paši meklējiet citātus un citātus.

Atbildes pamatojums: ielīmējiet avota piezīmes un aizliedziet izdomātus URL, pētījumus vai statistiku.

Cilvēka audits: Vispirms pārbaudiet riskantāko prasību, īpaši veselības, tiesību vai finanšu jomā.

Prognozēšana nav tas pats, kas zināšana

Lūk, tiešā versija: vairums tērzēšanas modeļu ir modeļu mašīnas. Jūs uzdodat jautājumu. Tās ģenerē atbildi, kas atbilst labas atbildes formai. Šī forma ietver faktus, toni, struktūru – visu kostīmu. Dažreiz kostīms ietver reālas zināšanas. Dažreiz tas ietver pārliecinātu minējumu, kas aizpilda tukšumu.

Pieņemu, ka brīva metafora palīdz, tad es mazliet atkāpšos pagātnē. Iedomājieties džeza pianistu, kurš ir dzirdējis miljonu dziesmu. Palūdziet viņam nospēlēt "to par zilo koferi", un viņš varētu izdomāt skaistu melodiju, kas nekad nav pastāvējusi - jo lūgums izklausījās tā, kā tam vajadzētu būt. Pagaidiet - tas pārspīlē mākslinieciskumu. Tas drīzāk ir kā automātiska pabeigšana uz steroīdiem. Modelis pabeidz ticamu rindkopu, nevis atver dokumentu skapi ar uzrakstu "Patiesība".

Tātad, kad cilvēki jautā , kāpēc mākslīgais intelekts dažreiz visu izdomā, īsā atbilde ir: tukšās vietas tiek aizpildītas ar visu, kas statistiski izklausās pareizi. Ja trūkst atsauces, modelis izgudro tādu, kas izskatās akadēmisks. Ja nav pārliecināts par skaitli, tas piedāvā sakārtotu skaitli. Bez personas otrā vārda tas izdomā tādu, kas atbilst laikmetam un kultūrai. Sākumā tas ir nedaudz pārsteidzoši. Kad ieraugi modeli, tas vairs nav tik pārsteidzoši. 

• Plūstošs teksts ir paaudzes mērķis, nevis pārbaudīta patiesība.
• Tukšās zināšanu spraugās joprojām tiek ielieti vārdi.
• Modeļa rangā varbūtība "izklausās pareizi" var pārspēt varbūtību "ir pareizi".

Pārliecība pret precizitāti — neveiklā atšķirība

Cilvēki izvairās no riska, ja nav pārliecināti. Mēs sakām: "Es domāju", "varbūt", "Man vajadzētu pārbaudīt". Arī modeļi var izvairīties no riska — ja jūs viņiem to lūdzat —, taču noklusējuma rezultāti bieži vien tiek uztverti kā pārliecināta instruktāža. Šī noslīpēšana ir noderīgas apmācības iezīme, nevis signāls, ka katrs apgalvojums ir pamatots.

Pārliecība un precizitāte ir dažādi rādītāji. Vienu var uzgriezt uz augšu, bet otru var iestatīt uz nulli. Jūs to esat izjutuši arī ar cilvēkiem: kolēģi, kurš ar pilnīgu pārliecību izskaidro nepareizu procesu. Mākslīgais intelekts var izpildīt to pašu deju, tikai ātrāk un ar labāku formatējumu.

Praktisks secinājums: uztveriet pārliecinošu frāzēšanu kā stilu, nevis pierādījumu. Ja atbildē nav avotu, ko varētu pārbaudīt, nav atzīta nenoteiktība un ir kaudze konkrētu vārdu vai skaitļu – palēniniet tempu. Konkrētība bez pamatojuma ir klasiska pazīme. 

• Apgalvojošs tonis ≠ pārbaudīts saturs.
• Palūdziet modelim apzināti atzīmēt nenoteiktību.
• Dodiet priekšroku "lūk, par ko es neesmu pārliecināts", nevis viltus hermētiski noslēgtam biksītim.

Safabricētas atsauces un detaļas, kas izskatās īstas

Šis teksts sāp, jo izskatās tik profesionāli. Viltus rakstu nosaukumi. Viltus žurnālu nosaukumi. Viltus URL, uz kuriem šķiet gandrīz vai klikšķināmi. Viltus citāti, kas piedēvēti slavenām personām. Formatējums bieži vien ir perfekts — slīpraksts, šeit apzināti izvairīties no gadskaitļu vietturiem, vārdi, kas skan kā autori —, un šis iepakojums maldina pārlasītājus.

Tas notiek skaidra iemesla dēļ. Citāta forma ir izplatīta apmācības tekstā. Kad jūs jautājat par "avotiem", modelis var ģenerēt formu , neizgūstot reālu ierakstu. Tas ir līdzīgi kā lūgt kādam izvilkt kvīti no galvas. Jūs saņemat kaut ko tādu, kas izskatās pēc kvīts. Veikals, iespējams, nekad nav pastāvējis.

Reiz noskatījos, kā tika izdomāts pētījums par attālinātā darba produktivitāti ar nevainojamā izskata autoru sarakstu. Tas šķita recenzēts. Tas nebija nekas. Tā ir bīstamība: jūsu smadzenes atslābinās, kad iepakojums izskatās dārgs. Neatslābiniet sevi. 

• Pieprasiet nosaukumus, kurus varat pats sameklēt, — tad meklējiet tos nopietni.
• Esiet aizdomīgi pret glītām citātu un atsauces kopām, kuras nekad neesat pieprasījis.
• Ja "avotu" nevar ātri atrast, apgalvojums jāuzskata par nepamatotu.

Kad izgudrojuma risks ir visaugstākais

Ne katra saruna ir vienlīdz bīstama. Dzejolis par kafiju var brīvi izdomāt metaforas – tā ir doma. Zāļu deva, likumā noteiktais termiņš, konkurenta cenu politika vai vēsturisks apgalvojums par publicētu rakstu dzīvo uz citas planētas.

Risks pieaug, ja tēma ir nišas, aktuāla vai ļoti specifiska. Tas pieaug arī tad, ja tiek prasīti precīzi skaitļi, nosaukti dokumenti, privātu uzņēmumu iekšējās ziņas vai "uzskaitiet desmit recenzētus pētījumus". Jo precīzāks ir jautājums, jo lielāks kārdinājums modelim aizpildīt tukšās vietas ar ticamu pildvielu.

Garas, iespaidīgas atbildes var būt riskantākas nekā īsas, piesardzīgas. Garums izskatās pēc piepūles. Pūles izskatās pēc rūpēm. Rūpes izskatās pēc patiesības. Šī līkumotā iespaidu ķēde ir veids, kā slikti fakti ieslīd slaidu klājos. 

• Augsts risks: veselība, likumi, finanses, atbilstība, drošība, vārdā nosauktas personas, precīza statistika.
• Vidējs risks: nišas nozares procesi, rīku iestatījumi, "labākās prakses" saraksti.
• Zemāks risks: prāta vētra, izklāsts, sava melnraksta pārrakstīšana, toņa rediģēšana.

Uzticami un nestabili rezultāti — ātrs salīdzinājums

Galds pārspēj citu iedvesmojošu runu. Nelielas īpatnības iekļautas, jo parastās sarunas ir īpatnējas.

Turiet šo mentālo rezultātu karti pa rokai. Jūs sāksiet pamanīt trīcošus attēlus tāpat kā nedaudz nepareizu smaidu fotoattēlā — kaut kas ir pozā.

Kā atpazīt izdomātas atbildes, nekļūstot paranoiskam

Nav nepieciešams pārbaudīt katru īpašības vārdu. Svarīgiem apgalvojumiem ir nepieciešams lēts pārbaudes ieradums. Pārbaudiet asāko punktu: skaitli, vārdu, politiku, citātu. Ja šī robeža neizdodas, pārējā atbilde ir uz pārbaudes laiku.

Vēl viens signāls: iekšēja pretruna. Modelis apgalvo, ka rīks "vienmēr" dara X, bet vēlāk apraksta izņēmumu tā, it kā tas būtu standarts. Vai arī tas izgudro funkciju un pēc tam paskaidro, kā to izslēgt — kā sapnis, kas turpina izgudrot durvis. Pajautājiet papildu jautājumus, kas baksta vājās vietas. Izgudrotas pasaules mēdz šūpoties zem spiediena.

Tāpat pievērsiet uzmanību "pārāk perfektam" iepakojumam. Katra rindkopa ir vienlīdz noslīpēta. Katrs ieteikums ir vienlīdz pārliecinošs. Patiesai kompetencei parasti ir tekstūra — atrunas, kompromisi, "tas atkarīgs". Pilnīgai vienmuļai pilnībai ir jāpievērš īpaša uzmanība. 

• Vispirms pārbaudiet riskantāko apgalvojumu, nevis visu eseju.
• Pajautā: "Par ko tu esi vismazāk pārliecināts?", un pārbaudi, vai maska ​​noslīd.
• Pārbaudiet vārdus, amatus un numurus ārpus tērzēšanas.
• Dodiet priekšroku atbildēm, kas saistītas ar ielīmēto tekstu, nevis brīvi mainīgiem faktiem.

Veicina ieradumus, kas samazina izgudrojumu

Atvainojiet, halucinācijas nevar novērst ar maģisku teikumu, bet sprādziena rādiusu var samazināt. Labas norādes ierobežo spēli. Sliktas norādes mudina uz improvizāciju.

Izmēģiniet šādus ieradumus. Tie izklausās sausi. Tie darbojas biežāk nekā gudri triku padomi.

• Apkopojiet zināšanu apjomu: "Izmantojiet tikai tās piezīmes, kuras es ielīmēju. Ja trūkst, sakiet, ka nezināt."
• Aizliedziet viltotus avotus: "Neizdomājiet citātus, citātus vai URL."
• Piespiedu nenoteiktības etiķetes: "Atzīmējiet katru aizzīmi ar: zināms / secināts / minējums."
• Lūdziet alternatīvas: "Sniedziet divas iespējas un paskaidrojiet, kāpēc katra no tām varētu būt nepareiza."
• Pieprasījums par šaubu novēršanu: "Uzskaitiet pieņēmumus, ko esat izdarījis."
• Dodiet priekšroku struktūrai, nevis atmosfērai: tabulām, kontrolsarakstiem un apgalvojumu/pierādījumu slejām.

Pārsteidzoši, bet, pasakot modelim, ka ir pareizi teikt "Es nezinu", tiek samazināts sociālais spiediens uz pārliecību. Modeļi atspoguļo uzdevumu. Ja uzdevums par katru cenu atalgo pilnīgumu, jūs iegūstat izdomājumu ar formatējumu. Ja uzdevums atalgo skaidru runāšanu par nepilnībām, jūs iegūstat mazāk mirdzošu melu. 

Un jā — papildu ziņojumi ir svarīgi. Pirmās atbildes ir melnraksti. "Šis citāts izskatās viltots — izņemiet visu, ko nevarat pārbaudīt" ir pilnīgi normāla otrā ziņa. Izturieties pret tērzēšanu kā pret rediģēšanu, nevis kā pret tirdzniecības automātu, kas jums parādā patiesību par pirmo monētu.

Iezemēšanās, turpmākā rīcība un dzīvošana ar nenoteiktību

Iezemēšana nozīmē atbildes sasaistīšanu ar kaut ko ārpus modeļa improvizācijas: jūsu ielīmēto politikas dokumentu, jūsu izklājlapu, jūsu sanāksmes piezīmēm, zināmu publisku lapu, kuru jūs pats pārbaudīsiet. Ja atbildei jāpaliek šī žoga iekšpusē, izgudrojumam ir mazāk vietas, kur darboties.

Otrais žogs ir turpmākie jautājumi. "No kurienes radās šis skaitlis?" "Kura daļa ir secinājums?" "Pārrakstīt bez jebkādiem nosauktiem pētījumiem." Katrs jautājums ir neliela revīzija. Es domāju, ka tas ir pieaugušo veids, kā izmantot šos rīkus - nevis pielūgsme, nevis panika, tikai revīzijas.

Nenoteiktība nav kļūda jūsu darbplūsmā. Tie ir laikapstākļi. Dažās dienās modelis izveido jūsu paša teksta kopsavilkumu. Citās dienās tas izveido apakškomiteju, kas nekad nav sanākusi. Jūsu uzdevums ir izlemt, kuriem rezultātiem nepieciešams lietusmētelis. 

• Ielīmējiet avota materiālu, ja svarīga ir precizitāte.
• Pieprasiet prasības līmeņa uzticamības tagus.
• Informējiet cilvēku par svarīgiem lēmumiem.
• Saglabājiet "radošo brīvību" radošiem uzdevumiem, nevis pakļaušanos.

Ko darīt, ja rodas halucinācijas plūsmas vidū?

Neiejaucies spirālē. Neatsakieties no rīka uz visiem laikiem, it kā tas jūs personīgi būtu nodevis, lai gan vēlme var būt asa. Izlabojiet pavedienu un turpiniet.

Vienkārša atkopšanas cilpa:

• Nosauciet to skaļi: "Šis avots šķiet izdomāts. Noņemiet nepamatotus apgalvojumus."
• Atkārtota piestiprināšana: ielīmējiet īsto dokumentu, citātu vai datus.
• Pārveidot šauri: pieprasiet labotu sadaļu, nevis pilnīgi jaunu eseju ar tukšu, pulētu tekstu.
• Vēlreiz pārbaudiet asās malas: nosaukumus, skaitļus, procesa soļus.
• Izlemiet uzticēšanās līmeni: prāta vētras partneris pretstatā rasēšanas asistentam pretstatā tēmai "nav piemērots šai tēmai".

Vienas halucinācijas noķeršana var uzlabot pārējo sarunu — ja jūs pastiprināsiet ierobežojumus. Modelis "nejūtas vainīgs", bet jūsu skaidrākie norādījumi maina to, kam tas ir optimizēts. Jūs stūrējat. Stūrējiet stingrāk, kad parādās izdomas spēja. 

Ikdienas scenāriji, kuros tam klusībā ir nozīme

Darba e-pasti: izdomāts "nozares standarta laika grafiks" var radīt cerības, kuras nevarat izpildīt. Skola un mācības: viltots skaidrojums var iesakņoties jūsu galvā, pirms jūs to pamanāt. Klientu atbalsta melnraksti: izdomāts atmaksas noteikums kļūst par solījumu. Radošā rakstīšana: izgudrojiet to visu — tā ir rotaļu laukums.

Caurredzamība ir sekas. Ja nepareizi vārdi maksā naudu, uzticību, atzīmes vai drošību, pārbaude nav izvēles rosīšanās. Ja nepareizi vārdi maksā tikai plecu paraustīšanu, atslābstiet. Piesardzības saskaņošana ar sekām šeit ir pieaugušo prasme – vairāk nekā vārda "halucinācijas" iegaumēšana

Tāpat: komandām vajadzētu normalizēt "Es pārbaudīju šo apgalvojumu" tāpat kā tās normalizē "pareizrakstības pārbaude sekmīga". Citādi viena noslīpēta rindkopa vienas nakts laikā kļūst par cilšu zināšanām. Ak vai.

Galvenie secinājumi

Tātad — kāpēc mākslīgais intelekts dažreiz visu izdomā, ir šāds: šīs sistēmas paredz ticamu valodu, aizpilda tukšumus ar modeļu salīdzināšanu un bieži vien, to darot, izklausās pārliecinātas. Šī kombinācija rada pārliecinātas nepareizas atbildes, safabricētas atsauces un kārtīgas detaļas, kas nekad nav notikušas.

Tev nav jābaidās no rīka. Tev nepieciešami ieradumi. Pārbaudi neapstrīdami apgalvojumus. Aizliedz izdomātus avotus. Ievieto konkrētu kontekstu. Pieprasi nenoteiktību. Izmanto turpmākos pasākumus kā auditus. Saglabā brīvo paaudzi radošam darbam ar zemām likmēm.

Teicama valoda nav rakstura rādītājs. Izturieties pret to kā pret talantīgu praktikantu, kurš raksta smieklīgi ātri, dažreiz izdomā tikšanos, kas nekad nav notikusi, un tomēr var gūt panākumus, ja tiek uzraudzīts. Saglabājiet uzraudzību. Saglabājiet asprātību. Saglabājiet skepsi vieglu, bet pamatotu. Lūk, kā jūs gūstat labumu, neizplatot izdomājumus, kas ietērpti faktos.

Praktisks piemērs: izdomātu citātu atrašana konkurentu pētījuma kopsavilkumā

Halucinācijas šķiet abstraktas, līdz brīdim, kad noslīpēta rindkopa gandrīz nonāk klientu apkopojumā. Lūk, kā kāds Lielbritānijas mārketinga analītiķis izmantoja šajā ceļvedī aprakstītos ieradumus, lai pārtrauktu publicēt daiļliteratūru, kas ietērpta pētījumu ietvarā, vienlaikus neatstājot no tērzēšanas robota.

Scenārijs

Semam ir divas stundas, lai izstrādātu vienas lappuses konkurenta aprakstu pārdošanas atklāšanai. Jautājums ir pazīstams: stiprās puses, cenu signāli un "daži ticami avoti". Kā jau ieradās, Sems ierakstīja "apkopot konkurentu X ar avotiem" un saņēma kārtīgu aprakstu ar trim akadēmiska izskata citātiem un precīzu tirgus daļas procentuālo daļu. Tas izklausījās kodolīgs. Tas bija lielākoties izdomāts. Vienu nosaukumu nevarēja atrast. Daļas rādītājs konkurenta vietnē nekur neparādījās.

Semam nav nepieciešams labāk skanošs modelis. Semam ir nepieciešama pamatota darbplūsma: ielīmējiet avota piezīmes, aizliedziet viltotus avotus, piespiedu kārtā lietojiet nenoteiktības etiķetes, vispirms pārbaudiet asāko apgalvojumu un pēc tam atjaunojiet tikai bojāto daļu.

Mērķis ir sagatavot uzdevumu, kuram komanda var uzticēties sarunu tematu izstrādē, nevis no galvas izvilktu kvīti, kas tikai izskatās pēc kvīts.

Kas asistentam ir nepieciešams

• Semam jau ir izejmateriāli: sākumlapas teksts, cenu lapas teksts, divas nesen saņemtas atbalsta pieprasījuma atbildes, piezīmes par zaudētu darījumu
• Stingrs noteikums: faktuāliem apgalvojumiem izmantojiet tikai ielīmētu tekstu; sakiet "Es nezinu", ja piezīmēs nav informācijas
• Aizliegums izmantot izdomātus citātus, citātus, URL un statistiku
• Izvades forma, kas atdala zināmo/secināmo/minēto
• Laiks vienai cilvēka veiktai vārdu, skaitļu un jebkādu "avotu" nosaukumu pārbaudei pirms kāršu komplekta koplietošanas
• Atļauja uzdot līdz trim precizējošiem jautājumiem tukšo vietu vietā

Instrukcijas piemērs

1. ziņojums — pamatots uzdevums: Izmantojot tikai piezīmes, ko ielīmēju zemāk, izstrādājiet vienas lappuses konkurentu pārdošanas uzdevumu aprakstu. Sadaļas: Ko viņi apgalvo / Par ko sūdzas klienti / Cenu signāli / Atvērti jautājumi. Neizgudrojiet citātus, citātus, URL vai statistiku. Ja fakts nav piezīmēs, ierakstiet "nezināms" un norādiet to sadaļā Atvērti jautājumi. Atzīmējiet katru aizzīmi ar: zināms / secināts / minējums. Lielbritānijas angļu valoda. Bez preambulas.

2. ziņojums — šaubu pārvarēšana: Uzskaitiet visus jūsu izdarītos pieņēmumus. Noņemiet visu, kas atzīmēts ar “minējums”, ja vien nevarat norādīt uz ielīmētu teikumu, kas to apstiprina. Ja iepriekš esat izdomājis avotu, izdzēsiet to un to norādiet.

3. ziņojums — šauri pārbūvēt: šī tirgus daļas rinda netiek atbalstīta. Pārrakstiet tikai sadaļu “Cenu noteikšanas signāli” bez skaitļiem, ja vien tie neparādās manās piezīmēs. Pārējās sadaļas saglabājiet.

Kā to pārbaudīt

• Uzdodiet brīvi mainīgu jautājumu ("apkopojiet konkurentu X, izmantojot trīs recenzētus avotus") un iepriekš minēto pamatoto uzdevumu. Salīdziniet izdomātus nosaukumus un viltotu statistiku.
• Vispirms pārbaudiet riskantāko apgalvojumu (skaitli vai nosauktu pētījumu), nevis visu lapu.
• Pajautājiet: "Par ko jūs esat vismazāk pārliecināts?" Spēcīga atbilde nosauc tukšumus; nestabila atbilde dubulto.
• Neliels gadījums: noņemiet cenu no ielīmētajām piezīmēm un apstipriniet, ka melnrakstā ir norādīts nezināms, nevis izdomājiet plāna cenu.
• Akceptēšanas pārbaudes pirms kopīgošanas: (1) katra "zināmā" aizzīme atbilst ielīmētajai rindai, (2) nav izdomātu citātu, (3) atvērtie jautājumi uzskaita patiesās nepilnības, (4) jūs pats meklējāt atlikušo nosaukumu, (5) nav precīzas statistikas bez piezīmes aiz tās.

Rezultāts

Ilustratīvs rezultāts (viena analītiķa konkurenta īsā darba plūsmas aplēses piemērs, nevis publicēts pētījums): 8 instruktāžas uzdevumos laiks, kas pavadīts no "piezīmju atvēršana" līdz "melnraksts gatavs cilvēku faktu pārbaudei", nedaudz palielinājās no vidēji aptuveni 12 minūtēm (vienas reizes noslīpēta daiļliteratūra) līdz aptuveni 15 minūtēm ar pamatoto uzvedni, taču tīrīšanas un apmulsuma risks samazinājās. Cilvēku veikta stingru apgalvojumu pārbaude samazinājās no vidēji aptuveni 18 minūtēm (viltotu nosaukumu meklēšana un pārrakstīšana) līdz aptuveni 6 minūtēm, kad apgalvojumi bija iepriekš atzīmēti un izdomāti avoti tika aizliegti, tāpēc neto laiks samazinājās par aptuveni 9 minūtēm katrā instruktāžā jeb aptuveni 72 minūtēm visā kopā. Pieņemšanas kontrolsarakstā (nav izdomātu citātu, nav neatbalstītas statistikas, zināmas/secinātas/minētas atzīmes, atvērti jautājumi, kas norāda nepilnības) 7 no 8 pamatotiem melnrakstiem tika pieņemti pirmajā pārskatīšanā, salīdzinot ar 2 no 8 vienreizējiem melnrakstiem. Ierobežojumi: maza izlase, viens analītiķis, viens īsā darba veids; viegli konkurenti ar skaidru publisku cenu samazinās plaisu; "Verifikācijas laiks" ietvēra aizdomīgu nosaukumu meklēšanu tīmeklī.

Lai novērtētu savu versiju: ​​veiciet 5 uzdevumus ar savu pašreizējo ieradumu un 5 ar ielīmētiem avotiem + aizliegtiem izdomātiem citātiem + apgalvojumu tagiem; pierakstiet vidējo melnraksta laiku, vidējo pārbaudes laiku un kontrolsaraksta sekmīgas izpildes rādītāju ar norādīto saucēju.

Kas var noiet greizi

• Plūstošas ​​runas aizspriedumi: perfekta gramatika un sakārtotas aizzīmes liek izlaist pārbaudes.
• Citēšanas kosplejs: Prasot "avotus" bez ielīmēta materiāla, tiek piedāvāta stipendijas forma bez atbilstoša ieraksta.
• Pārāk pilni saraksti: "Dodiet man desmit pētījumus" apbalvojuma pildītāju, ja jūsu piezīmēs ir tikai trīs.
• Visas esejas pārbūve: pēc vienas viltus rindas lūdziet šīs sadaļas šauru pārrakstīšanu, nevis jaunu pulēšanas sienu.
• Svarīgas tēmas: veselības aprūpe, tiesības, finanses un atbilstība prasībām prasa spēcīgākus cilvēciskus vārtus nekā pārdošanas sarunu temats.
• Nav cilvēciskas cilpas: Ar tagu atzīmēts melnraksts joprojām var nepareizi nolasīt ielīmētu teikumu. Kopīgošanas poga joprojām pieder Semam.

Praktiska līdzņemšana

Mākslīgais intelekts izdomā lietas, jo paredz ticamu valodu nepilnībās, nevis tāpēc, ka vēlas jūs apmānīt. Uztveriet plūdenu valodu kā stilu, nevis pierādījumu. Aizliegt žogu, aizliegt viltotus avotus, apzīmēt nenoteiktību, pārbaudīt asāko apgalvojumu un izlabot pavedienu, ja kaut kas neizdodas. Lūk, kā jūs saglabājat ātra teksta izstrādes partnera priekšrocības, neizplatot pārliecinātu stāstu, kas nekad nav noticis.

Bieži uzdotie jautājumi

Kāpēc mākslīgais intelekts dažreiz izdomā lietas?

Lielākā daļa tērzēšanas modeļu ir modeļu mašīnas: tie ģenerē atbildi, kas atbilst labas atbildes formai, nevis pārbaudītam kartotēkas skapim ar uzrakstu “Patiesība”. Trūkumi tiek aizpildīti ar visu, kas statistiski izklausās pareizi – citātu, kas izskatās akadēmisks, kārtīgu skaitli vai detaļu, kas atbilst laikmetam. Plūstošs teksts ir paaudzes mērķis, tāpēc “izklausās pareizi” var pārspēt “ir pareizi”. Tāpēc izdomātas atbildes bieži vien tiek piegādātas ar perfektu gramatiku un kārtīgām aizzīmēm.

Vai mākslīgā intelekta pārliecība ir tas pats, kas precizitāte?

Nē. Pārliecība un precizitāte ir dažādi rādītāji — viens var būt augsts, bet otrs — tuvu nullei. Noklusējuma rezultāti bieži vien tiek uztverti kā pārliecināta instruktāža, jo apmācība atalgo noderīgu slīpēšanu, nevis tāpēc, ka katrs apgalvojums bija pamatots. Uztveriet pārliecinošu frāzēšanu kā stilu, nevis pierādījumu. Ja atbildei nav pārbaudāmu avotu, nav nenoteiktības un ir daudz konkrētu vārdu vai skaitļu, palēniniet tempu.

Kāpēc tērzēšanas roboti izdomā citātus un viltotus avotus?

Citēšanas forma ir izplatīta mācību tekstā, tāpēc, jautājot par "avotiem", var iegūt akadēmisku formu, neatgūstot reālu ierakstu — piemēram, izvelkot kvīti no galvas. Viltoti rakstu nosaukumi, žurnālu nosaukumi, URL un norādīti citāti bieži vien izskatās pietiekami profesionāli, lai apmānītu pārlasītājus. Pieprasiet nosaukumus, kurus varat meklēt pats; ja avotu nevar ātri atrast, uzskatiet apgalvojumu par nepamatotu.

Kad ir visaugstākais mākslīgā intelekta izgudrošanas risks?

Risks palielinās nišas, nesen aktuālu vai ļoti specifisku tēmu gadījumā, kā arī tad, ja tiek pieprasīti precīzi skaitļi, nosaukti dokumenti, privāti iekšējie materiāli vai gari recenzētu pētījumu saraksti. Augsta riska jomas ir veselība, tiesības, finanses, atbilstība, drošība, nosauktas personas un precīza statistika. Ideju ģenerēšana, izklāsts, sava melnraksta pārrakstīšana un toņa rediģēšana parasti ir mazāk riskanta. Garas, iespaidīgas atbildes var šķist drošākas, nekā tās patiesībā ir.

Kā es varu pamanīt izdomātas mākslīgā intelekta atbildes, nepārbaudot katru vārdu?

Vispirms pārbaudiet asāko daļu — skaitli, vārdu, politiku vai citātu. Ja tas neizdodas, pārējos nolieciet uz pārbaudes laiku. Pievērsiet uzmanību iekšējām pretrunām un "pārāk perfektam" iepakojumam bez jebkādiem brīdinājumiem vai kompromisiem. Pajautājiet, par ko modelis ir vismazāk pārliecināts, pārbaudiet vārdus un amatus ārpus tērzēšanas un dodiet priekšroku atbildēm, kas saistītas ar ielīmēto tekstu, nevis brīvi mainīgiem faktiem.

Kādi ātrie ieradumi samazina mākslīgā intelekta halucinācijas?

Halucinācijas nevar novērst ar vienu maģisku teikumu, bet var samazināt sprādziena rādiusu. Aprobežojiet zināšanas ar ielīmētām piezīmēm un sakiet "Es nezinu", ja kaut kā trūkst. Aizliedziet izdomātus citātus, citātus un URL. Piespiedu kārtā izmantojiet tādus tagus kā zināms/secināts/minējums, pieprasiet pieņēmumus un dodiet priekšroku apgalvojumu/pierādījumu struktūrai. Norādot modelim, ka ir pareizi teikt "Es nezinu", tiek samazināts spiediens uz viltus pārliecību.

Ko nozīmē iezemēšana, izmantojot mākslīgo intelektu darbam ar faktiem?

Zemējums saista atbildi ar kaut ko ārpus modeļa improvizācijas — jūsu politikas dokumentu, izklājlapu, sanāksmes piezīmēm vai publisku lapu, kuru pats pārbaudīsiet. Ja atbildēm jāpaliek šī žoga ietvaros, izgudrojumam ir mazāk vietas. Turpmākie jautājumi darbojas kā otrais žogs: pajautājiet, no kurienes nācis skaitlis, kura daļa ir secinājums, vai pārrakstiet bez nosauktiem pētījumiem. Turiet cilvēku informētu par svarīgiem lēmumiem.

Ko darīt, ja sarunas laikā man parādās halucinācijas?

Atzīmējiet to, atkārtoti piesaistiet īstajam dokumentam vai datiem un atjaunojiet tikai bojāto daļu, nevis pieprasiet pilnīgi jaunu, noslīpētu eseju. Vēlreiz pārbaudiet asās malas — nosaukumus, skaitļus, procesa soļus — un pēc tam izlemiet, vai rīks ir ideju ģenerēšanas partneris, melnraksta palīgs vai "nav paredzēts šai tēmai". Skaidrāki ierobežojumi maina modeļa optimizācijas mērķi; kontrolējiet stingrāk, kad parādās radošums.

Kā apturēt izdomātu citātu izmantošanu konkurentu pētījuma kopsavilkumā?

Ielīmējiet jau esošās avota piezīmes, aizliedziet viltotus avotus un neatbalstītu statistiku un pieprasiet zināmu/secinātu/minējumu tagus, kā arī atvērtu jautājumu sarakstu. Vispirms pārbaudiet riskantāko apgalvojumu, veiciet šaubu pārbaudi, kas noņem minējumus bez atbalsta, un pārrakstiet tikai bojāto sadaļu, ja skaitlis nav pamatots. Pieņemšana nozīmē, ka katra "zināmā" aizzīme atbilst ielīmētajai rindai, un jebkuru atlikušo nosaukumu pārmeklē cilvēks.

Kad joprojām ir pieļaujams ļaut mākslīgajam intelektam brīvi izgudrot?

Radošajā rakstīšanā un citos uzdevumos ar zemu likmju risku var brīvi izdomāt metaforas — tā ir rotaļu laukums. Saskaņojiet piesardzību ar sekām: ja nepareizi vārdi maksā naudu, uzticību, atzīmes vai drošību, pārbaude nav obligāta. Ja tie maksā tikai plecu paraustīšanu, atslābiniet. Teicama valoda nav rakstura rādītājs; izturieties pret modeli kā pret ātru praktikantu, kuram joprojām ir nepieciešama uzraudzība faktuālā darba veikšanā.

Atsauces

1. OpenAI — openai.com
2. Antropoiskais — anthropic.com
3. NIST — nist.gov
4. IBM - ibm.com
5. Google mākslīgais intelekts — ai.google.dev
6. Google Cloud — pamatojums — docs.cloud.google.com