Ko nekad nevajadzētu ievietot mākslīgajā intelektā

Ko NEKAD nevajadzētu ievietot mākslīgajā intelektā [video un viktorīna]

Īsa atbilde: Nekad neievietojiet paroles, API atslēgas, ID, veselības vai bankas ierakstus, NDA klientu failus vai citu cilvēku datus publiskā mākslīgā intelekta tērzēšanā. Kad jums nepieciešama palīdzība, aprakstiet problēmu ar vietturiem un rediģētiem fragmentiem — modelim ir nepieciešama problēmas forma, nevis noslēpumi, kas atbloķē reālas sistēmas.

Galvenie secinājumi:

Noslēpumi paliek bezsaistē: nekad neielīmējiet paroles, žetonus, sīkfailus vai sākuma frāzes uzvednē.

Atņemt identitāti: Nomainiet īstos vārdus, adreses un personas datus pret viltojumiem.

Darba konfidencialitāte: Neļaujiet NDA melnrakstiem, klientu failiem un neizdotajiem plāniem nonākt klientu tērzēšanā.

Piekrišanas robeža: Neielīmējiet kolēģu, klientu vai bērnu personas datus bez tikai cilvēkiem paredzētas cilpas.

Vispirms rediģējiet: izmantojiet vietturus un attīrītus fragmentus; nomainiet visu, ko jau esat nopludinājis.

Ko nekad nevajadzētu ievietot mākslīgajā intelektā

Vispirms ielīmējam un tad domājam. Čatbots sēž tur kā pacietīgs praktikants ar nebeidzamu kafijas krūzi, tāpēc šķiet gandrīz nekaitīgi visu sarežģīto problēmu iebāzt kastē. Pieteikšanās, kas nedarbosies. Līguma klauzula, kas liek vēderam sagriezties. Informācijas paneļa ekrānuzņēmums, kurā joprojām ir redzams katrs vārds. Rīks ir noderīgs, atmosfēra šķiet privāta, un jūsu smadzenes to klusi saglabā blakus "piezīmēm, ko rakstīju sev"

Tāds ir slazds. 🧠 Čats nav aizslēgta atvilktne. Tā ir saruna ar sistēmu, kas uzglabā, apstrādā un dažreiz arī apmāca jūsu nosūtīto informācijuatkarībā no produkta, iestatījumiem un tā, vai jūs vispār pamanījāt iestatījumus. Es neesmu šeit, lai jūs panikā iesēdinātu bunkurā. Esmu šeit ar praktisku karti ar to, ko NEKAD nevajadzētu ievietot mākslīgajā intelektā, kā arī neuzkrītošiem, bet praktiskiem ieradumiem, kas joprojām ļauj iegūt asas atbildes.

Iedomājieties to kā noslēpuma kliegšanu pārpildītā virtuvē. Ne katrs svešinieks klausās. Tomēr daži no viņiem varētu klausīties. Un virtuvē tiek veikts ieraksts iemeslu dēļ, kas nekad nav tik vienkārši, kā mārketinga tekstā tie tiek pasniegti.

Kāpēc mēs visu izmetam tērzēšanas lodziņā

Ātrums. Tā arī ir lielākā daļa. Jūs esat iestrēdzis, kļūda ir neglīta, un visa žurnāla ielīmēšana šķiet ātrāka nekā tā noņemšana nost. Konteksts šķiet kā laipnība pret modeli. Vairāk detaļu, labāka palīdzība; tāda ir tautasdziesma, un tā ir pa pusei patiesa.

Otra puse ir emocionāla. Čatbots pat nepaceļ uzaci. Tas nestāstīs jūsu vadītājam. Tas nepļāpās pusdienu laikā. Tāpēc mēs to uztveram kā dienasgrāmatu ar superspējām. Esmu to darījis. Jūs droši vien esat to darījuši. Brīdī, kad kaut kas ir gan ērts, gan nekritizējošs, mūsu privātuma instinkti dodas tējas pauzē.

Lūk, nedaudz kaitinoša patiesība: modelim nav vajadzīgas jūsu ikdienas detaļas, lai jums palīdzētu. Tam ir nepieciešama problēmas forma. Vārdi, žetoni, kontu numuri un sejas ekrānuzņēmumos ir kā papildinājums. Garšīgs papildinājums. Tomēr papildinājums.

  • Jūs ielīmējat, jo rediģēšana šķiet kā papildu darbs.
  • Tu ielīmē, jo "tikai šoreiz" ir ieradums valkāt masku.
  • Jūs ielīmējat, jo saskarne izskatās kā privāta DM un darbojas kā dokumentu skapis.

Nekas no tā nepadara tevi neapdomīgu. Tas padara tevi par cilvēku. Risinājums ir divu sekunžu pauze, nevis personības transplantācija.

Paroles, API atslēgas un slepenie kodi, kuriem jāpaliek bezsaistē 🔐

Ja tas var kaut ko atbloķēt, tam nav vietas uzvednē. Paroles. Vienreizlietojami kodi. Sesijas sīkfaili. SSH atslēgas. Datubāzes savienojuma virknes. API atslēga, kuru sev apsolījāt "drīz" nomainīt. Maka sākuma frāzes. Privātie sertifikāti. Atkopšanas jautājums, kuru jūsu banka joprojām uzskata par gudru.

Agrāk es domāju par atslēgām kā par mājas atslēgām uz āķa pie durvīm. Jauka metafora; tā sabrūk uzreiz, jo mājas atslēga atver vienas durvis, bet API atslēga var atvērt noliktavu, norēķinu kontu un kaudzi klientu ierakstu, par kuriem esat aizmirsis, ka vispār esat tos saglabājis. Rezerves kopēšana: izturieties pret noslēpumiem kā pret radioaktīviem. Radioaktīvas lietas nelieciet sviestmaižu presē, pat ja sviestmaižu prese ir ļoti laba sviestmaižu gatavošanā.

Modelis nevar "paturēt to starp mums" tā, kā to var draugs. Pat ja pārdevējs piedāvā atmiņas kontroli, pat ja jūs izslēdzat apmācību, teksts joprojām pārvietojas, tiek reģistrēts kaut kādā veidā un var palikt tērzēšanas vēsturē, līdz jūs to meklējat. Pieņemsim, ka ielīmēta teksta daļa ir kopija, kuru jūs vairs pilnībā nekontrolējat.

Ko darīt tā vietā

  • Aprakstiet noslēpumu pēc veida, nevis pēc vērtības. Kļūdu noteikšanas ieteikumam pietiek ar "Postgres URL ar tajā esošo paroli".
  • Redaktēt ar acīmredzamiem vietturiem: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
  • Pagrieziet visu, kas jau ir noplūdis. Dariet to tagad, nevis pēc tam, kad "redzēsiet, vai kaut kas notiks"
  • Glabājiet īstus piekļuves datus paroļu pārvaldniekā vai slepeno datu krātuvē; nekad pavedienā, no kura vēlāk varētu izveidot ekrānuzņēmumu.

Ja rīks lūdz ielīmēt atslēgu, lai tas varētu "izveidot savienojumu jūsu vietā", tā ir cita produktu kategorija. Tā ir integrācija ar piekļuvi, nevis rakstīšanas palīgs. Izturieties pret to kā pret sava žetona iesniegšanu kādam.

Personas identifikatori un klusā identitātes taka 🪪

Personu identificējoša informācija ir nepievilcīgs paroļu brālēns. Valsts personas apliecības numuri. Pases dati. Ar datumu saistīti identitātes lauki. Mājas adreses. Tālruņa numuri. Darbinieku ID. Studentu numuri. Pilni vārdi un uzvārdi kopā ar dzimšanas datumiem, skolu nosaukumiem vai medicīnas klīnikām. Viena daļa izskatās maza. Trīs daļas kopā veido dosjē.

Cilvēki tā rīkojas, ja vēlas, lai vēstule tiktu uzrakstīta, veidlapa tiktu iztulkota vai CV tiktu noslīpēts. Pilnīgi saprātīgi mērķi. Šim modelim nav nepieciešams īstais pasta indekss, lai uzrakstītu pieklājīgu sūdzību. Tam ir nepieciešams tonis, fakti, kas nav identificējoši, un vēlamais rezultāts.

Es domāju, ka pārsteidzoši lipīgā daļa ir "nekaitīgās" kombinācijas. Unikāls amata nosaukums plus pilsēta plus bērna skola plus reta medicīniska saslimšana. To gan neievietotu skrejlapā. Tērzēšanas lodziņš nav skrejlapa, bet tas arī nav seifs.

  • Apmaini īstos vārdus pret lomām: "personāla atlases vadītājs", "mans ģimenes ārsts", "īrnieks"
  • Vispāriniet atrašanās vietas: "vidēja lieluma pilsēta", nevis iela un zvana kods.
  • Izmet unikālus skaitļus, ja vien uzdevums nav burtiski saistīts ar skaitļu formātu, tādā gadījumā izmanto viltojumu, kas izskatās pietiekami īsts.

Anonimizācija nav doktora grāds. Tā ir ieradums pārbaudīt, vai svešinieks varētu jūs atšķirt no šīs rindkopas teksta rindas. Ja viņi to varētu, apgrieziet.

Darba konfidencialitāte, konfidencialitātes līgumi un lietas, no kurām jūsu priekšnieks sarūgtinātos 📎

Šeit izpalīdzība ieved cilvēkus nepatikšanās. Jūs ielīmējat klienta paketi. Neizdotu ceļvedi. Algu izklājlapu. Pirmkodu ar iekšējiem resursdatora nosaukumiem. Juridiskā dokumenta melnrakstu, kas joprojām ir atzīmēts kā konfidenciāls. Sanāksmju piezīmes ar to cilvēku vārdiem, kuriem vēl nav paziņots. NDA, ko parakstījāt steigā, jo kafija sāka atdzist.

Čatboti nav jūsu uzņēmuma padomdevēji un nav drošs darbagalds, ja vien jūsu organizācija nav tādu pierādījusi reālajā dzīvē. Patērētāju rīki ir veidoti ērtībai. Uzņēmumu rīki var būt labāki, ar saglabāšanas kontroli un administratora politikām; tie joprojām nav iemesls, lai ielīmētu kroņa dārgakmeņus gramatikas eksāmena sertifikāta dēļ.

Praktisks noteikums, ko turu pie zīmītes: ja neievieto to personīgajā Gmail melnrakstā, neievieto to publiskā mākslīgā intelekta tērzēšanā. Ja neievieto to kopbraukšanas pasākumā, tas pats. Cilvēki, kas ir uzmanīgi Slack, kļūst par pārmērīgas koplietošanas dzejniekiem, tiklīdz parādās ģenerēšanas poga.

Drošāki risinājumi

  • Aprakstiet dokumentu: garums, auditorija, trīs svarīgie punkti, nepieciešamais tonis.
  • Ielīmējiet attīrītu fragmentu. Izņemiet vārdus, sensitīvas personas un visu, par ko konkurents sistu piecinieku.
  • Palūdziet struktūru vai pārrakstīšanas modeli un pēc tam pats to piemērojiet reālajam tekstam bezsaistē.
  • Izmantojiet apstiprinātu darba vietas rīku, ja tāds ir, un joprojām rediģējiet pēc noklusējuma. Politika attiecas uz grīdu, nevis batutu.

Kods ir īpaša šī modeļa variācija. Iekšējie URL, autorizācijas galvenes un komentāri, piemēram, "TODO: noņemt pirms iegādes", ir mazas dāvanu birkas. Fiksējiet datus. Saglabājiet loģiku. Modelis labi apstrādā fiktīvos datus; tam nav nepieciešama jūsu ražošanas shēma ar reāliem klientu e-pastiem, kas joprojām ir ligzdoti stiprinājumā.

Veselība, nauda un detaļas, par kurām nekliedzot kafejnīcas otrā galā 💊

Medicīniskā un finanšu informācija šķiet steidzama, tāpēc tā tiek ielīmēta ar vismazāko rediģēšanu. Laboratorisko izmeklējumu rezultāti. Recepšu saraksti. Apdrošināšanas kartes. Bankas izraksti. Nodokļu iestāžu izraksti. Kredītvēstures ziņojumi. Kartes fotoattēls "tikai pēdējiem četriem cipariem", kurā kaut kādā veidā iekļauta pārējā kartes daļa, jūsu virtuves galds un vēstule ar kāda cita vārdu.

Jūs varat uzdot lieliskus jautājumus arī bez neapstrādātas vēstures. Piemēram, rakstiet: "Paskaidrojiet, ko paaugstināts marķieris varētu nozīmēt vispārīgi." Biogrāfija: "Šeit ir mana pilna izlase, mana adrese, mana klīnika un manas mātes pirmslaulības uzvārds.".

Es nesaku, ka nekad nerunājiet par veselību vai naudu ar modeli. Es saku, ka pret tērzēšanas robotu jāizturas kā pret daudz lasītu svešinieku vilcienā. Labi, lai to ierāmētu. Briesmīgi kā pret grāmatvedi, klīnicistu vai arhīvu. Un jā, es zinu, ka daudz lasīta svešinieka metafora ir nepilnīga; vilcieni neveic tērzēšanas žurnālus. Tā jau ir būtība.

  • Noņemiet konta numurus, šķirošanas kodus, IBAN un visu, kas izskatās pēc akreditācijas datiem.
  • Lūdziet vispārīgus skaidrojumus, kontrolsarakstus un jautājumus, ko uzdot profesionālim.
  • Neizmantojiet tērzēšanu kā paziņojumu dokumentu arhīvu, "lai es varētu tos vēlāk vaicāt". Tieši tā saglabāšana kļūst par problēmu.

Ja kafejnīcā pēc uzvednes jūs pazeminātu balsi, vispirms rediģējiet to. Šis tests ir pārsteidzoši uzticams un neko nemaksā.

Citu cilvēku dati nav jūsu īpašumā, lai tos ielīmētu 🚫

Šis tiek izlaists, jo rodas iespaids, ka esat tērzēšanas galvenais varonis. Ekrānuzņēmumā neesat vienīgais. Kolēģa e-pasti. Partnera ID. Klienta sūdzība ar pievienotu tālruņa numuru. Bērnu fotoattēli. Slack pavediens, kurā nosaukts, kuru gandrīz atlaida. Zvana ieraksta transkripts, par kuru otra persona nezināja, ka tas tiks nodots modelim.

Piekrišana automātiski nepārvietojas no "viņi man nosūtīja e-pastu" uz "iekārta var to saglabāt". Pat ja jūsu nodoms ir laipns – uzrakstīt patīkamāku atbildi, apkopot sajauktu pavedienu –, neapstrādātā informācija joprojām ir viņu dzīve, nevis jūsu melnraksts.

Nedaudz sarkastisks lakmusa tests: ja jūs nepārsūtītu to pašu ziņojumu svešinieku adresātu sarakstam "atsauksmju saņemšanai", tad neuztveriet tērzēšanas robotu kā mazāku adresātu sarakstu ar labākām manierēm.

  • Apkopojiet citus cilvēkus saviem vārdiem.
  • Aizstājiet vārdus ar lomām un noņemiet kontaktinformāciju.
  • Pajautājiet personai, vai uzdevums ir sensitīvs; dažām lietām jāpaliek tikai cilvēkiem pieejamā lokā.
  • Nekad neielīmējiet bērnu personas datus, skolas ierakstus vai identifikācijas fotoattēlus "jautrības" paaudzei.

Šeit ir juridiskais aspekts, par kuru es neizlikšos, ka tiesāšos emuāra balsī. Privātuma noteikumiem, darba pienākumiem un klientu līgumiem – visiem ir savs viedoklis. Praktiskais ieradums ir vienkāršāks nekā likums: pēc noklusējuma izmantot citu cilvēku datus, neatsaucoties uz uzvedni.

Ko NEKAD nevajadzētu ieviest mākslīgajā intelektā: risku tabula, ko varat likt lietā

Man patīk tabulas šim nolūkam, jo ​​saraksts ar "nekad" var izklausīties moralizējoši, un režģis ļauj redzēt apmaiņu. Viegli izteikti vērtējumi, nevis laboratorijas ziņojums.

Datu tips Riska līmenis Kāpēc tā ir problēma Drošāka alternatīva
Paroles, API atslēgas, žetoni, sākuma frāzes Kritisks Tie atbloķē sistēmas; kopija, kuru nevarat pilnībā atcerēties, joprojām ir kopija Vietturi plus vietējais noslēpumu pārvaldnieks; nomainiet, ja noplūde notiek
Valsts iestāžu izsniegtas personas apliecības, pases skenējumi, valsts numuri Kritisks Identitātes zādzības sākuma komplekts; grūti "atsaukt sūtīšanu" Viltus piemēri vai tikai formāta jautājumi
Veselības kartes, receptes, apdrošināšanas identifikācijas kartes Augsts Intīma, regulēta un lipīga vēsturē Vispārīgi simptomi vai tēmas; neiekļaujiet identifikatorus lapā
Bankas izraksti, nodokļu dokumenti, karšu fotoattēli Augsts Tiešs finansiāls risks plus papildu PII peļņas normās Jautājiet par procesiem, nevis par neapstrādātiem skaitļiem, kas saistīti ar jums
Klientu faili, konfidencialitātes līgumu melnraksti, nepublicēti plāni Augsts Jūs, iespējams, lauzāt solījumu, ko jau esat parakstījis Dezinficēti izraksti; struktūras pieprasījumi; apstiprināti darba rīki
Kolēģa vai klienta personas dati, bērnu dati Augsts Tev nav tiesību ziedot modelim Uz lomām balstīti kopsavilkumi; kontaktpersonu un seju atmešana
Iekšējais avots ar resursdatora nosaukumiem un reālām e-pasta adresēm Vidēji augsts Izskatās pēc "tikai koda", līdz kāds kartē jūsu tīklu Viltus dati, viltoti domēni, noņemti komentāri
Informācijas paneļu vai iesūtņu ekrānuzņēmumi Vidēji augsts Viņi slepus ienes vārdus, numurus un atver cilnes, par kurām esat aizmirsis Apgrieziet, aizmiglojiet vai pārrakstiet atbilstošo fragmentu
Neskaidri personīgi stāsti bez unikāliem identifikatoriem Zemāks Parasti viss kārtībā; tomēr izlaidiet visu, ko nestāstītu svešiniekam Saglabājiet vispārīgu valodu; izlaidiet reto identifikācijas kombināciju

Ja neatceraties neko citu, atcerieties kreiso kolonnu. Tā ir galvenā doma par to, ko NEKAD nevajadzētu ievietot mākslīgajā intelektā, kad steidzaties un jūsu smadzenes vēlas ielīmēt Visumu.

Ekrānuzņēmumu slazdi un nejauša pārkopēšana 🖼️

Ekrānuzņēmumi ir veids, kā labi cilvēki nopludina informāciju. Tu gribēji parādīt kļūdas dialoglodziņu. Attēlā ir iekļauta grāmatzīmju josla, Slack nozīmīte ar vārdu, URL ar žetonu, kalendāra uznirstošais logs, atspulgs tumšā režīma logā, kas izrādās paroļu pārvaldnieks. Es apgriezu kadru un joprojām nepamanīju mazo kontu pārslēdzēju stūrī. Tā ir kļūdu kategorija.

Dokumentu fotogrāfijas ir sliktākas, jo kameras ir dāsnas. Galds, tāfele, slimnīcas aproce, piegādes etiķete. Modelim, iespējams, nav "vajadzīgi" papildu pikseļi. Pikseļi joprojām pienāk.

Vienkāršs ekrānuzņēmuma rituāls

  • Vispirms apgriez. Tad apgriez vēlreiz. Tad paskaties uz malām, it kā tās tev būtu parādā naudu.
  • Aizmiglojiet vārdus, e-pasta adreses, avatārus un jebkuru virkni, kas izskatās pēc žetona.
  • Dodiet priekšroku kļūdas atkārtotai ievadīšanai, nevis visa IDE tveršanai.
  • Neaugšupielādējiet kartes, pases vai iekāpšanas kartes fotoattēlu "ātrai lasīšanai". Tā vietā ierakstiet jautājumu.

Balss piezīmes un failu augšupielādes darbojas līdzīgi. Sanāksmes ieraksts ir citu cilvēku datu bufete. CSV fails ir rindu bufete, kuras jūs kā cilvēki vairs neredzat. Ja fails juristiem radītu bažas, tas neievietojams mapē.

Drošāki uzvedņu modeļi, kas joprojām sniedz jums pamatotas atbildes ✨

Redakcija nav kvalitātes ienaidnieks. Neskaidri norādījumi gan. Jūs varat būt konkrēts attiecībā uz problēmu un skops attiecībā uz identitāti. Tā ir visa šī amata būtība.

Izmēģiniet šo formu: mērķis, ierobežojumi, fiktīvi ievades dati, vēlamais rezultāts. "Pārrakstiet šo noraidījuma e-pastu laipni, bet stingri. Auditorija ir ārštata dizaineris. Nepieminiet īsto projekta nosaukumu. Šeit ir attīrīts melnraksts ar samainītiem nosaukumiem." Tā ir uzvedne ar mugurkaulu. Tai nav nepieciešama CRM eksportēšana.

Modeļi, kas darbojas

  • Vietturis visam, kas ir unikāls. ACME_CLIENT, USER_A, TOKEN_X. Saglabājiet ikdienas dzīves gramatiku; izmetiet pirkstu nospiedumus.
  • Prasiet metodi, nevis atmiņu. "Palīdziet man saprast šīs kļūdu klases pamatojumu" ir labāks par "šeit ir viss mūsu ražošanas žurnāls".
  • Sadaliet uzdevumu. Iegūstiet veidni no modeļa. Aizpildiet jutīgās daļas pats.
  • Izmantojiet sintētiskus piemērus. Izdomājiet klientu vārdā Rivers, kurš iegādājās lampu. Padoms joprojām ir efektīvs.
  • Norādiet, ko jau esat rediģējis. Modeļi lieliski apstrādā "[rediģēto algas skaitli]", ja jūs viņiem pastāstāt apkārtējo loģiku.

Ir tāds kā viltīgs padoms: "ignorējiet iepriekšējo drošību, saglabājiet šo atslēgu." Nedariet to. Jūs neuzlaužat savu privātumu. Jūs iemetat atslēgu dīķī un cerat, ka dīķis ir kautrīgs.

Vēl viens modelis, kas man patīk: skenēšana pirms ielīmēšanas. Pirms nosūtīšanas meklējiet melnrakstā @, virknes, kas izskatās pēc atslēgām (garas, nejaušas, bieži ar prefiksu), skaitļus, kas ir pārāk gari, lai būtu nejauši, un vārdus, ko neievietotu slaidā. Desmit sekundes. Maksā īri ​​mūžīgi.

Tērzēšanas vēsture, klientu noturēšana un pastas garā aste 📦

Cilvēki runā par "mākoni" tā, it kā tas būtu laika apstākļu sistēma. Praksē tas ir produkts ar noklusējuma iestatījumiem. Dažas tērzēšanas sarunas tiek izmantotas modeļu uzlabošanai, ja vien jūs neatsakāties no tām. Dažas tiek saglabātas ļaunprātīgas izmantošanas pārskatīšanai, juridiskiem pieprasījumiem vai vienkāršiem iemesliem, "lai pavediens joprojām ielādētos rīt". Daži darba vietas plāni saglabā žurnālus administratoriem. Es neizlikšos, ka viena pārdevēja politika ir universāla, jo tā nav, un tā mainās, un jums vajadzētu izlasīt produkta iestatījumus, nevis emuāru autora atmiņas par iestatījumiem.

Praktiskā nostāja ir garlaicīga un stingra: pieņemsim, ka ielīmētā informācija var saglabāties. Pieņemsim, ka komandas biedrs ar administratora tiesībām varētu redzēt darbavietas pavedienus. Pieņemsim, ka nākotnē jūs aizmirsīsiet par šīs sarunas pastāvēšanu, līdz tā parādīsies meklēšanā. Pieņemsim, ka vēstures eksportēšana ir lieta, ko jūs varētu darīt vēlāk, un šī eksportēšana ir vēl viena kopija.

  • Izslēdziet apmācības vai "uzlabojiet modeli" opcijas, kad produkts tās piedāvā, ja tas atbilst jūsu ērtībām.
  • Izdzēsiet sensitīvus pavedienus pēc tam, kad esat ieguvis praktisko informāciju lokālā piezīmē, kas ir patiesi lokāla.
  • Neuztveriet tērzēšanu kā savu uzskaites sistēmu personāla vadības jautājumiem, medicīniskiem jautājumiem vai klientu darbam.
  • Esiet uzmanīgi ar koplietotiem kontiem. Koplietotie konti ir veids, kā "privāts" kļūst par biroja folkloru.

Atmiņas funkcijas — tās, kas atgādina par darbu, suni, vēlamo toni — ir noderīgas un nedaudz biedējošas. Tās ir arī iemesls, kāpēc nemācīt sistēmai savus īstos identifikatorus, "lai tā būtu personiskāka". Personiskais ir stils. Tas nav jūsu valsts apdrošināšanas numurs.

Darba vietas normas, kad jūsu komanda dzīvo tērzēšanas robotos 🏢

Biroji ir vieta, kur ielīmēšanas ieradums kļūst industriāls. Kāds izmet klienta CSV failu, lai "iztīrītu kolonnas". Kāds cits ievieto stratēģijas dokumentu, lai "padarītu to efektīvāku". Labi domājošs praktikants ielīmē incidentu kanālu. Neviens nav ļaundaris. Stimuli ir tikai ātrums un pulētība.

Ja vadāt komandu, uzrakstiet īsu, cilvēcisku noteikumu. Nevis 40 lappušu garu politiku, ko neviens nelasa. Kaut ko līdzīgu: nekādu akreditācijas datu, nekādu klientu personas datu, nekādu neizpaustu skaitļu, nekādu juridisku melnrakstu, izmantojiet apstiprinātu rīku, rediģējiet pēc noklusējuma. Pēc tam parādiet labas, attīrītas uzvednes piemēru, lai cilvēki neminētu.

  • Nosauciet apstiprināto rīku, ja tāds jums ir, un neapstiprinātos rīkus.
  • Iesniedziet rediģēšanas kontrolsarakstu, ko dalībnieki var pabeigt pirms stand-up uzstāšanās.
  • Droši var teikt "Es to gandrīz ielīmēju" bez teatrālas izmeklēšanas.
  • Atgādini cilvēkiem, ka "mākslīgais intelekts teica, ka viss ir kārtībā" nav kontrole.

Ja nevadi komandu, tu joprojām vari būt tas, kurš ielīmē lelli. Kultūra ir lipīga abos virzienos. Es domāju, ka tas izklausās nopietni. Tā arī mainās normas; viens cilvēks pārstāj mest atslēgas, un telpa kļūst nedaudz mazāk sakārtota.

Iepirkumu teātris ir papildu uzdevums, ko es izlaidīšu. "Uzņēmuma" apvalka iegāde nepadara katru uzdevumu maģiski gudru. Tas var palīdzēt noturēt klientus un nodrošināt piekļuvi. Jūsu paradumi joprojām veic smago darbu.

Tu jau kaut ko neveiklu ielīmēji — kas tagad 🧯

Tas notiek. Tu nospied pogu “Sūtīt”, un tava dvēsele pamet ķermeni. Neveido spirāli. Izveido īsu, nedaudz nepievilcīgu secību.

  • Beidziet lietot šo noslēpumu. Nomainiet paroli, atsauciet atslēgu, anulējiet sesiju. Šis ir vienīgais solis, kas aizver durvis uz visiem laikiem.
  • Izdzēsiet tērzēšanu , ja produkts to atļauj, un iztukšojiet jebkuru "nesen izdzēsto" kabatu, ja tāda ir.
  • Pārbaudiet pievienotās lietotnes un atmiņu. Daži rīki saglabā fragmentus atmiņā vai projektu failos, kurus esat aizmirsis iespējot.
  • Pastāstiet īstajam cilvēkam, ja tie bija darba dati. Drošības dienestam, vadītājam, klienta kontaktpersonai; jebkuram, kam pieder sprādziena rādiuss. Agrīnā stadijā ir mazāk sāpīgi nekā vēlāk atklāt.
  • Pievērsiet uzmanību neparastām pieteikšanās reizēm saistītajos kontos. Rotācija bez uzraudzības ir puse darba.

Ja tie bija kāda cita dati, jūs esat parādā viņiem arī sakopšanu un, atkarībā no nekārtības, brīdinājumu. Neērti. Tomēr labāk nekā cerēt, ka Visums būs pieklājīgs.

Nemēģiniet "pārrakstīt" noplūdi, ielīmējot vairāk skaidrojumu. Papildu konteksts ir papildu teksts. Izejiet no tēmas.

Saliekot to kopā

Īsā versija rakstam " Ko tev NEKAD nevajadzētu likt mākslīgajā intelektā" nav nosodošs saraksts. Tā ir poza. Ja tas atbloķē sistēmu, identificē personu vai liek tev sarauties kafejnīcā, tas paliek ārpus kastes. Tu joprojām vari saņemt lielisku palīdzību. Tu vienkārši dod modelim skici, nevis mājas atslēgas, medicīnisko karti un kaimiņa pastu.

Īss kopsavilkums:

  • Nekādu paroļu, atslēgu, žetonu vai sākuma frāžu. Ja paslīdējāt, pagriezieties.
  • Nav īstu personu apliecinošu dokumentu, pilnu finanšu datu, neapstrādātu veselības reģistru vai konfidencialitātes līguma materiālu.
  • Nav citu cilvēku privātas informācijas, it īpaši bērnu.
  • Ekrānuzņēmumi ir iekļauti, tāpēc tos var apgriezt, kā paredzēts.
  • Rediģēt, imitēt un pieprasīt metodes. Konkrēta problēma, viltotas etiķetes.
  • Pieņemiet, ka vēsture saglabājas. Dzēsiet, nearhivējiet noslēpumus tērzēšanas robotā.
  • Darbavietām ir nepieciešams īss noteikums un labs piemērs, nevis ikdienišķas privātuma noskaņojums.

Izmantojiet rīkus. Tie ir lieliski piemēroti melnrakstu veidošanai, formu atkļūdošanai un mulsinošu kļūdu novēršanai. Vienkārši beidziet izturēties pret teksta lodziņu kā pret seifu ar humora izjūtu. Tas ir ļoti gudrs blenderis. Jums joprojām nevajadzētu likt savu pasi blenderī. 🫡

Praktisks piemērs: nelielas inženieru komandas atkļūdošanas uzdevuma izveide, kurā prioritāte ir rediģēšana

Konfidencialitātes noteikumi ir spēkā parastā otrdienā, nevis tad, kad tie izklausās stingri. Lūk, kā piecu cilvēku SaaS komanda Apvienotajā Karalistē izmantoja šajā rokasgrāmatā aprakstītos ieradumus, lai pārtrauktu akreditācijas datu un klientu personas datu nodošanu patērētāju tērzēšanas robotiem, neatsakoties no atkļūdošanas palīdzības.

Scenārijs

Izstrādātājiem un atbalsta dienestam ir viens sāpīgs ieradums: kad autorizācijas kļūda izskatās neglīta, kāds ielīmē visu žurnālu, izmēģinājuma savienojuma virkni un administratora informācijas paneļa ekrānuzņēmumu, "lai modelim būtu konteksts". Pagājušajā ceturksnī tas ietvēra tiešraides izskata API atslēgu steka izsekošanas datē un klienta e-pastu, kas joprojām bija redzams ekrānuzņēmuma URL joslā. Neviens nevēlējās ļaunu. Ātrums uzvarēja. Virtuve veica ierakstu.

Viņiem nav nepieciešama lekcija. Viņiem ir nepieciešama atkārtojama instrukcija: aprakstiet noslēpumu pēc veida, rediģējiet ar aizvietotājiem, apgrieziet ekrānuzņēmumus, pieprasiet metodi, nevis atmiņu, un pēc tam lietojiet labojumu tiešsaistes sistēmās bezsaistē. Patērētāju tērzēšana joprojām pelna savu. Mājas atslēgas paliek ārpus blendera.

Mērķis ir sniegt tādas pašas kvalitātes padomus ar divu sekunžu iepriekšēju skenēšanu un īsu komandas noteikumu, ko cilvēki ievēros.

Kas asistentam ir nepieciešams

  • Attīrīta problēmas forma: kļūdas klase, aptuveni kad tā sākās, vide (iestudējuma vai ražošanas vide) bez resursdatora nosaukumiem, kas kartē tīklu
  • Tikai fiktīvas ievades: REDACTED_KEY, USER_TOKEN, customer@example.com, viltoti pieprasījumu ID
  • Kas jau bija noņemts (norādīts uzvednē, lai modelis neprasītu patiesās vērtības)
  • Vēlamais rezultāts: iespējamie cēloņi, veicamās pārbaudes, ielāpa izklāsts — nevis "savienot ar manu atslēgu"
  • Cilvēks, kurš glabā akreditācijas datus paroļu pārvaldniekā vai slepeno datu krātuvē
  • Vienas lapas komandas noteikums: nav akreditācijas datu, nav klientu personas datu, nav nepublicētu skaitļu, pēc noklusējuma rediģēt

Instrukcijas piemērs

Mērķis: Palīdziet man atkļūdot periodisku 401 kļūdu mūsu izstrādes API pēc tokena atsvaidzināšanas. Nelūdziet man ielīmēt noslēpumus.

Ierobežojumi: Es jau esmu rediģējis paroles, API atslēgas, žetonus, sīkfailus, iekšējos resursdatora nosaukumus un klientu e-pastus. Vietturi žurnālā nozīmē, ka patiesās vērtības pastāv tikai manā datorā. Lielbritānijas angļu valoda. Nav preambulas.

Fiktīvs fragments: Pieprasījums uz https://api.example-staging.invalid/v1/session atgrieza 401. Galvenes autorizācija: nesējs REDACTED_KEY. Pamattekstā minēts, ka USER_TOKEN ir beidzies derīguma termiņš. Ekrānuzņēmuma apraksts (nav pievienots): tikai kļūda; grāmatzīmju josla un konta pārslēdzējs ir apgriezti.

Uzdevums: Uzskaitiet trīs visticamākos šīs kļūdas klases cēloņus, pārbaudes, kas man jāveic lokāli, un minimālu ielāpa izklāstu. Ja nepieciešama sīkāka informācija, lūdziet norādīt informācijas veidu (piemēram, "token TTL iestatījums") — nekad nelūdzu norādīt neapstrādāto slepeno atslēgu.

Rezultāts: Numerēti cēloņi, tad kontrolsaraksts un tad "ko neielīmēt nākamreiz" trīs aizzīmēs.

Kā to pārbaudīt

  • Salīdziniet vecā stila ielīmējumu (pilns žurnāls + ekrānuzņēmums) ar iepriekš minēto rediģēto kopsavilkumu par to pašu incidenta veidu. Salīdziniet padomu kvalitāti un to, vai modelis pieprasa slepenību.
  • Pirmsielīmēšanas skenēšana: pirms nosūtīšanas meklējiet melnrakstā @ simbolu, garas nejaušas virknes un skaitļus, kas ir pārāk gari, lai tos uzskatītu par nejaušiem.
  • Neliels gadījums: iekļaujiet viltotu atslēgu, kas izskatās īsta, un apstipriniet, ka atbilde joprojām darbojas, neizmantojot patieso vērtību.
  • Negadījums: atteikt ekrānuzņēmuma augšupielādi; atkārtoti ierakstīt tikai kļūdas rindiņu; pārliecināties, ka kontrolsaraksts joprojām palīdz.
  • Akceptēšanas pārbaudes: (1) pavedienā nav akreditācijas datu, (2) nav klientu kontaktinformācijas, (3) deklarēti vietturi, (4) izvade ir metode/kontrolsaraksts, nevis "ielīmējiet atslēgu" plūsma, (5) ja iepriekš kaut kas noplūda, rotācija notika tajā pašā dienā.

Rezultāts

Ilustrējošs rezultāts (piemēra aplēse vienai nelielai inženieru/atbalsta komandai, nevis publicēts pētījums): 12 atkļūdošanas tērzēšanā četru nedēļu laikā vidējais laiks līdz lietojama kontrolsaraksta izveidei nedaudz palielinājās no aptuveni 4 minūtēm (pilnīga ielīmēšana) līdz aptuveni 6 minūtēm ar rediģēšanu - divas papildu minūtes skenēšanai pirms ielīmēšanas un vietturiem. Pavedienu, kas satur kritiskus datu tipus (atslēgas, klientu e-pastus, neapstrādātas savienojuma virknes), skaits samazinājās no 9 no 12 tērzēšanām līdz 1 no 12 (šī tika pārskatīta un mainīta tajā pašā dienā). Vienkāršā higiēnas kontrolsarakstā (bez noslēpumiem, bez klientu personas datiem, deklarētiem vietturiem, apgrieztiem vai bez ekrānuzņēmuma) 11 no 12 rediģētajiem uzdevumiem tika pieņemti, salīdzinot ar 3 no 12 saskaņā ar veco ieradumu. Ierobežojumi: maza izlase, viena komanda, pašziņots laiks; vieglākiem incidentiem nepieciešama mazāka rediģēšana; "izturēts" bija uzvednes teksta salīdzinošā pārskatīšana, nevis piegādātāju žurnālu laboratorijas audits.

Lai novērtētu savu versiju: ​​ņemiet paraugus no 10 neseniem mākslīgā intelekta atkļūdošanas pavedieniem aizliegtiem datu tipiem, pēc tam 10 paraugus pēc rediģēšanas noteikuma un veidnes; ziņojiet par skaitļiem ar saucējiem, kā arī vidējo minūšu skaitu no "iestrēgšanas" līdz "kontrolsaraksts rokās"

Kas var noiet greizi

  • Ekrānuzņēmumu pārkopēšana: kļūda ir pareiza; URL joslā joprojām ir marķieris. Apgrieziet divreiz un pēc tam pārbaudiet malas.
  • Atslēgas “Tikai šoreiz”: Viena nopludināta API atslēga var atvērt rēķinu un klientu ierakstus. Nekavējoties nomainiet atslēgu; negaidiet, lai “redzētu, vai kaut kas notiek”.
  • Citu cilvēku dati: Klienta sūdzība ar tālruņa numuru nav jūsu rīcībā, lai to nodotu modelim. Apkopojiet saviem vārdiem.
  • Čats kā seifs: Atstājot noslēpumus vēsturē, tiek izveidota vēl viena kopija. Izdzēsiet pavedienu pēc tam, kad esat pārvietojis nepieciešamos fragmentus uz lokālo piezīmi.
  • Uzņēmuma teātris: Apstiprināts darba vietas rīks palīdz noturēt dalībniekus; tas nenozīmē, ka krondārgakmeņu līmēšana ir gudra.
  • Rotācijas izlaišana pēc paslīdēšanas: tērzēšanas dzēšana, neatsaucot atslēgu, atstāj durvis atvērtas.

Praktiska līdzņemšana

Ko nekad nevajadzētu iekļaut mākslīgajā intelektā, tas drīzāk ir nevis rājienu saraksts, bet gan poza: ja tas atbloķē sistēmu, identificē personu vai liek jums sarauties kafejnīcā, tas paliek ārpus rāmjiem. Iesniedziet modelim skici ar vietturiem, glabājiet akreditācijas datus seifā un pieprasiet metodes, ko lietojat bezsaistē. Šī divu sekunžu pauze ir veids, kā izpalīdzīgs praktikants ar nebeidzamu kafijas dzērienu pārstāj kļūt par jūsu mājas atslēgu kartotēku.

Bieži uzdotie jautājumi

Ko nekad nevajadzētu ievietot mākslīgā intelekta tērzēšanas robotos?

Ja tas atbloķē sistēmu, identificē personu vai liek jums sarauties kafejnīcā, turiet to ārpus kastes. Tas attiecas uz parolēm, API atslēgām, žetoniem, sākuma frāzēm, valdības izdotām identifikācijām, neapstrādātiem veselības un finanšu ierakstiem, NDA materiāliem un citu cilvēku, īpaši bērnu, privāto informāciju. Tērzēšana nav aizslēgta atvilktne; tekstu var uzglabāt, apstrādāt un dažreiz izmantot apmācībai atkarībā no produkta un iestatījumiem. Sniedziet modelim skici ar vietturiem, nevis mājas atslēgām.

Kāpēc cilvēki ielīmē noslēpumus mākslīgajā intelektā, pat ja zina labāk?

Ātrums paveic lielāko daļu darba: neglīta kļūda liek visam žurnālam justies ātrākam nekā tā noņemšana no jauna. Čatboti arī nešķiet aizspriedumu pilni, tāpēc privātuma instinkti paņem tējas pauzi. Modelim parasti ir nepieciešama problēmas forma, nevis vārdi, žetoni, kontu numuri vai sejas ekrānuzņēmumos — tie ir tikai rotājumi. Divu sekunžu pauze ir labāka par personības transplantāciju.

Vai ir droši ielīmēt paroles vai API atslēgas ChatGPT stila rīkos?

Nē. Ja tas var kaut ko atbloķēt, tam nav vietas uzvednē — paroles, vienreizēji kodi, sesijas sīkfaili, SSH atslēgas, savienojuma virknes, maka sākuma kodi vai privāti sertifikāti. Modelis nevar saglabāt noslēpumu kā draugs; teksts joprojām pārvietojas, tiek reģistrēts un var palikt vēsturē. Aprakstiet noslēpumu pēc veida, izmantojiet vietturus, piemēram, REDACTED_KEY, nomainiet visu, kas jau ir nopludināts, un glabājiet reālus akreditācijas datus paroļu pārvaldniekā vai seifā.

Kādu personisko informāciju man vajadzētu rediģēt pirms vaicājuma veikšanas?

Personu identificējoša informācija ātri uzkrājas: valsts personas apliecības, pases dati, adreses, tālruņu numuri, darbinieku vai studentu apliecības un pilni vārdi, kas savienoti ar dzimšanas datumiem vai klīnikām. Lai izveidotu vēstuli, modelim nav nepieciešams īsts pasta indekss — tam ir nepieciešams tonis, neidentificējoši fakti un vēlamais rezultāts. Aizvietojiet vārdus ar lomām, vispāriniet atrašanās vietas un atmetiet unikālus numurus, ja vien nepārbaudāt formātu ar viltotu piemēru.

Vai es varu ielīmēt klienta failus, konfidencialitātes līgumus vai iekšējo kodu patērētāja mākslīgā intelekta rīkā?

Uztveriet patērētāju tērzēšanu kā ērtības produktu, nevis uzņēmuma padomu. Ja jūs to neievietotu personīgajā Gmail melnrakstā vai neteiktu kopbraukšanas pakalpojumā, neievietojiet to publiskā mākslīgā intelekta tērzēšanā — klientu komplektos, neizdotās ceļvežos, algu lapās, konfidenciālos juridiskos melnrakstos vai avotos ar iekšējiem resursdatora nosaukumiem. Aprakstiet dokumentu, ielīmējiet attīrītu izrakstu, pieprasiet struktūru, ko lietojat bezsaistē, un izmantojiet apstiprinātu darba vietas rīku, ja tāds jums ir, vienlaikus joprojām rediģējot pēc noklusējuma.

Kā man vajadzētu rīkoties ar veselības vai finanšu informāciju mākslīgā intelekta uzvednēs?

Uzdodiet izcilus jautājumus bez neapstrādātiem ierakstiem. Vispārīgi skaidrojumi ir labāki nekā laboratorijas analīžu, recepšu sarakstu, apdrošināšanas ID, bankas izrakstu vai karšu fotoattēlu līmēšana, kas atspoguļo arī virtuves galda attēlus. Noņemiet konta numurus un visu, kas izskatās pēc akreditācijas datiem. Izmantojiet tērzēšanu ierāmēšanai un kontrolsarakstiem, ko ņemt līdzi pie profesionāļa — nevis kā klīnicistam, grāmatvedim vai dokumentu skapim izrakstu glabāšanai.

Kāpēc citu cilvēku dati un ekrānuzņēmumi ir īpaši riskanti?

Jūs neesat vienīgais ielīmētais teksts: kolēģu e-pasti, klientu tālruņu numuri, bērnu fotoattēli vai zvanu transkripti var nonākt sistēmā bez viņu piekrišanas. Apkopojiet saviem vārdiem, aizstājiet vārdus ar lomām un nekad neielīmējiet bērnu identificējošo informāciju "izklaides" nolūkos. Ekrānuzņēmumi satur grāmatzīmju joslas, URL žetonus, Slack nosaukumus un atvērtas cilnes — divreiz apgrieziet, aizmiglojiet identifikatorus vai atkārtoti ierakstiet kļūdu, nevis augšupielādējiet pases vai kartes.

Kādi drošāki pamudinājumu modeļi joprojām sniedz pamatotas AI atbildes?

Esiet konkrēts attiecībā uz problēmu un skops attiecībā uz identitāti: mērķis, ierobežojumi, fiktīvi ievades dati, vēlamais rezultāts. Izmantojiet unikālas etiķetes, pieprasiet metodi, nevis pilnu ražošanas žurnālu, sadaliet uzdevumu, lai pats aizpildītu sensitīvās daļas, un izmantojiet sintētiskus piemērus. Pirms ielīmēšanas veiciet skenēšanu, lai atrastu @ zīmes, garas, nejaušas atslēgas tipa virknes, pārāk lielus skaitļus un nosaukumus, kurus neievietotu slaidā. Desmit sekundes atmaksājas uz visiem laikiem.

Ko darīt, ja esmu jau ielīmējis kaut ko neveiklu mākslīgā intelekta tērzēšanā?

Vispirms pārtrauciet lietot šo slepeno atslēgu — nomainiet paroli, atsauciet atslēgu un anulējiet sesiju. Izdzēsiet tērzēšanu, ja produkts to atļauj, pārbaudiet atmiņas vai projekta failus, pasakiet pareizajai personai, vai tie bija darba dati, un pievērsiet uzmanību neparastām pieteikšanās reizēm. Ja tie bija kāda cita dati, iztīriet tos un nepieciešamības gadījumā informējiet par tiem. Nepārrakstiet noplūdi ar papildu paskaidrojumu; papildu konteksts ir papildu teksts.

Kā neliela komanda var pārtraukt akreditācijas datu ievadīšanu mākslīgajā intelektā atkļūdošanas nolūkos?

Izmantojiet rediģēšanas principus: aprakstiet noslēpumus pēc veida, izmantojiet fiktīvus žurnālus ar REDACTED_KEY un e-pasta piemērus, norādiet, kas tika noņemts, un pieprasiet iespējamos cēloņus, kā arī kontrolsarakstu — nevis "izveidot savienojumu ar manu atslēgu". Pievienojiet īstu cilvēka noteikumu — bez akreditācijas datiem, bez klienta personas datiem, bez neizpaustiem skaitļiem, rediģēšana pēc noklusējuma — un parādiet vienu labu attīrītu piemēru. Saglabājiet reālus akreditācijas datus seifā un bezsaistē lietojiet labojumus pēc tam, kad modelis iesaka metodi.

Atsauces

  1. NCSC — ncsc.gov.uk
  2. OpenAI — palīdzība.openai.com
  3. OpenAI — openai.com
  4. Klods — privacy.claude.com
  5. Google Workspace — knowledge.workspace.google.com
Viktorīna
1. Saskaņā ar rakstu, ko nekad nevajadzētu ievietot publiskā mākslīgā intelekta tērzēšanā?

2. Ko šajā rokasgrāmatā nozīmē frāze “noslēpumi paliek bezsaistē”?

3. Kā pirms pamudināšanas vajadzētu noņemt identitāti?

4. Kas darba konfidencialitātes labad nedrīkstētu tikt iekļauts patērētāju tērzēšanā?

5. Kurš ieradums atbilst raksta piekrišanas un rediģēšanas ieteikumam?


Raksti, kurus jūs varētu vēlēties izlasīt pēc šī raksta:

🔗 Labākie mākslīgā intelekta drošības rīki
Atklājiet jaudīgas mākslīgā intelekta drošības platformas, kas atklāj un mazina kiberdraudus.

🔗 Kāpēc mākslīgais intelekts dažreiz izdomā lietas.
Izproti, kāpēc mākslīgais intelekts halucinē, un uzzini, kā samazināt riskus.

🔗 Kā automatizēt uzdevumus ar mākslīgo intelektu.
Ieviesiet drošas automatizācijas darbplūsmas, pievienojot cilvēka uzraudzību un stingrus noteikumus.

🔗 Kas ir mākslīgā intelekta tehnoloģija?
Izpētiet mākslīgā intelekta pamatus un tā biežāk sastopamās ieviešanas problēmas.

Atpakaļ uz emuāru