Rövid válasz: Soha ne tegyél jelszavakat, API-kulcsokat, azonosítókat, egészségügyi vagy banki adatokat, titoktartási megállapodás szerinti ügyfélfájlokat vagy mások adatait nyilvános MI-csevegésbe. Amikor segítségre van szükséged, írd le a problémát helykitöltőkkel és szerkesztett részletekkel – a modellnek a probléma formájára van szüksége, nem a valódi rendszereket feloldó titkokra.
Főbb tanulságok:
A titkok offline maradnak: Soha ne illesszen be jelszavakat, tokeneket, sütiket vagy kezdőmondatokat egy promptba.
Személyazonosság-megvonás: Cserélje le a valódi neveket, címeket és személyi igazolványszámokat szerepekre és hamisítványokra.
Munkahelyi titoktartás: A titoktartási megállapodás tervezeteit, az ügyfélfájlokat és a kiadatlan terveket tartsa távol a fogyasztói csevegéstől.
Hozzájárulási határ: Ne illessze be kollégái, ügyfelei vagy gyermekei személyes adatait emberi hozzáférés nélkül.
Először takarj ki: Használj helyőrzőket és megtisztított részleteket; cseréld ki a már kiszivárogtatott részeket.
Amit SOHA ne tegyél bele a mesterséges intelligenciába
Először beillesztünk, aztán gondolkodunk. Egy chatbot ül ott, mint egy türelmes gyakornok a végtelen kávéjával, így szinte ártalmatlannak tűnik az egész kusza problémát a dobozba önteni. Egy bejelentkezés, ami nem fog működni. Egy szerződéses záradék, amitől felfordul a gyomrod. Egy képernyőkép egy irányítópultról, ahol még minden név látható. Az eszköz hasznos, a légkör privátnak érződik, és az agyad csendben elraktározza a "magamnak írt jegyzetek" mellé
Ez a csapda. 🧠 A chat nem egy lezárt fiók. Ez egy beszélgetés egy olyan rendszerrel, amely tárolja, feldolgozza és néha képzi is az elküldött üzeneteket, a terméktől, a beállításoktól és attól függően, hogy egyáltalán észrevetted-e a beállításokat. Nem azért vagyok itt, hogy pánikba ejtselek egy bunkerbe. Egy gyakorlatias térképpel vagyok itt arról, hogy mit SOHA ne tegyél bele a mesterséges intelligenciába, valamint azokkal a nem hivalkodó, mégis praktikus szokásokkal, amelyek mégis lehetővé teszik, hogy éles válaszokat kapj.
Képzeld el úgy, mintha egy zsúfolt konyhában kiabálnál egy titkot. Nem minden idegen figyel. De mégis, néhányan igen. És a konyha felvételt készít olyan okokból, amelyek soha nem olyan egyszerűek, mint amilyennek a marketingszöveg mutatja.
Miért dobálunk mindent a chatboxba?
Sebesség. Ez a nagy része. Elakadsz, a hiba csúnya, és az egész napló beillesztése gyorsabbnak tűnik, mint a szétszedése. A kontextus olyan, mint a modell iránti kedvesség. Több részlet, jobb segítség; ez a közhely, és félig igaz.
A másik fele érzelmes. Egy chatbot nem vonja fel a szemöldökét. Nem fogja elmondani a főnöködnek. Nem fog pletykálni ebédnél. Ezért úgy kezeljük, mint egy szuperképességekkel teli naplót. Én már csináltam ilyet. Te is valószínűleg csináltál már ilyet. Abban a pillanatban, hogy valami egyszerre kényelmes és ítélkezésmentes, a magánéletünk iránti ösztöneink teaszünetre mennek.
Íme a kissé bosszantó igazság: a modellnek nincs szüksége a mindennapi adataidra ahhoz, hogy segítsen. A probléma formájára van szüksége. A nevek, tokenek, számlaszámok és arcok a képernyőképeken csak díszítés. Ízletes díszítés. De mégiscsak díszítés.
- Azért illeszted be, mert a szerkesztés plusz munkának tűnik.
- Azért ragasztod be, mert a "csak most az egyszer" egy szokás álruhát viselni.
- Azért illeszted be, mert a felület úgy néz ki, mint egy privát DM, és úgy viselkedik, mint egy irattartó szekrény.
Ettől még nem leszel meggondolatlan. Emberré tesz. A megoldás egy két másodperces szünet, nem személyiségátültetés.
Jelszavak, API-kulcsok és titkos kódok, amelyeknek offline állapotban kell maradniuk 🔐
Ha fel tud oldani valamit, akkor annak nem egy promptban a helye. Jelszavak. Egyszer használatos kódok. Munkamenet-sütik. SSH-kulcsok. Adatbázis-kapcsolati karakterláncok. Az API-kulcs, amit „hamarosan” lecserélsz. Pénztárca-indító kifejezések. Privát tanúsítványok. A helyreállítási kérdés, amit a bankod még mindig okosnak tart.
Régebben úgy gondoltam a kulcsokra, mint a házkulcsokra az ajtó melletti kampón. Aranyos metafora; azonnal szétesik, mert egy házkulcs kinyit egy ajtót, egy API-kulcs pedig egy raktárat, egy számlát és egy halom ügyféladatot, amiket elfelejtettél tárolni. Biztonsági mentés: a titkokat radioaktívként kezeljük. Nem szabad radioaktív dolgokat tenni a szendvicsprésbe, még akkor sem, ha a szendvicsprés nagyon jó a szendvicsek készítésében.
Egy modell nem tudja úgy „köztünk tartani ezt”, ahogy egy barátja. Még ha egy eladó memória-vezérlést is kínál, még ha ki is kapcsolod a betanítást, a szöveg akkor is utazik, valamilyen formában naplózódik, és a csevegési előzményekben maradhat, amíg meg nem keresed. Tegyük fel, hogy a beillesztés egy olyan másolat, amely felett már nincs teljes kontrollod.
Mit tegyek helyette?
- A titkos kódot típus szerint, ne érték szerint írd le. A hibakeresési tanácsokhoz elegendő egy „jelszóval ellátott Postgres URL”.
- Takarás nyilvánvaló helykitöltőkkel: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
- Cseréld el a már kiszivárogtatott részeket. Most tedd meg, ne csak azután, hogy „megláttad, történik-e valami”
- A valódi hitelesítő adatokat jelszókezelőben vagy titkosított trezorban tárolja; soha ne olyan bejegyzésben, amelyről később képernyőképet készíthet.
Ha egy eszköz arra kér, hogy illessz be egy kulcsot, hogy „csatlakozni tudjon helyetted”, az egy másik termékkategória. Ez egy hozzáféréssel rendelkező integráció, nem pedig írássegéd. Úgy kezeld, mintha átadnád valakinek a jelvényedet.
Személyes azonosítók és a csendes identitásnyom 🪪
A személyazonosításra alkalmas adatok (PII) a jelszavak kevésbé feltűnő unokatestvérei. Személyazonosító okmányok. Útlevéladatok. Dátumhoz kapcsolódó azonosító mezők. Lakcímek. Telefonszámok. Alkalmazotti azonosítók. Diákszámok. Teljes hivatalos nevek születési dátummal, iskola nevével vagy orvosi rendelővel párosítva. Egy darab kicsinek tűnik. Három darab együtt egy dosszié.
Az emberek ezt teszik, ha levelet szeretnének megírni, nyomtatványt lefordítani, vagy önéletrajzot kifényesíteni. Teljesen ésszerű célok. A modellnek nincs szüksége a valódi irányítószámra egy udvarias panasz megfogalmazásához. Szüksége van a hangnemre, a nem azonosító jellegű tényekre és a kívánt eredményre.
Azt hiszem, a meglepően nehéz rész az „ártalmatlan” kombinációk. Egy egyedi munkakör plusz egy város plusz egy gyerek iskolája plusz egy ritka betegség. Ilyet nem tennél rá egy szórólapra. Egy chatbox nem szórólap, de nem is trezor.
- Cseréld fel a valódi neveket szerepekre: „a HR-es”, „a háziorvosom”, „egy bérlő”
- Általánosítsd a helyszíneket: „egy közepes méretű város”, ne az utca és a csengőkód alapján.
- Dobj el egyedi számokat, kivéve, ha a feladat szó szerint a számformátumról szól, ebben az esetben használj egy elég valódinak tűnő hamisítványt.
Az anonimizálás nem doktori fokozat. Szokásból ellenőrzik, hogy egy idegen ki tud-e választani a bekezdésben szereplő szövegből. Ha igen, vágják ki.
Munkahelyi titoktartás, titoktartási megállapodások és olyan dolgok, amiktől a főnököd összerezzenne 📎
Itt sodorja bajba az embereket a segítőkészség. Beillesztesz egy ügyfél-adatlapot. Egy kiadatlan ütemtervet. Egy fizetési táblázatot. Belső hostnevekkel ellátott forráskódot. Egy még bizalmasként megjelölt jogi tervezetet. Megbeszélésjegyzeteket olyan emberek nevével, akiket még nem közöltek. A titoktartási megállapodást, amit sietve írtál alá, mert hűlt a kávé.
A chatbotok nem a céged tanácsadói, és nem is biztonságos munkaállomások, hacsak a szervezeted nem állt ki egy náluk. A fogyasztói eszközöket a kényelem jegyében tervezték. A vállalati eszközök lehetnek jobbak is, adatmegőrzési beállításokkal és adminisztrációs szabályzatokkal; ezek még mindig nem okot adnak arra, hogy a nyelvtani vizsgáért koronaékszereket ragasszanak be.
Egy praktikus ökölszabály, amit mindig fejben tartok: ha nem írnád be egy személyes Gmail-vázlatba, ne tedd be egy nyilvános MI-csevegésbe. Ha nem mondanád el egy fuvarmegosztó fórumon, az is igaz. Azok az emberek, akik óvatosak a Slacken, abban a pillanatban a túlzott megosztás költőivé válnak, hogy megjelenik egy generálás gomb.
Biztonságosabb megoldások
- Írd le a dokumentumot: terjedelem, célközönség, a három fontos pont, a kívánt hangnem.
- Illessz be egy megtisztított részletet. Távolítsd el a neveket, a bizalmas adatokat és mindent, amiért egy versenytárs pacsizni tudna.
- Kérj egy szerkezetet vagy átírási mintát, majd alkalmazd azt a valós szövegre offline.
- Használj jóváhagyott munkahelyi eszközt , ha van ilyen, és alapértelmezés szerint továbbra is kitakarás. A szabályzat padlóra vonatkozik, nem trambulinra.
A kód ennek egy különleges változata. A belső URL-ek, az auth fejlécek és az olyan megjegyzések, mint a "TODO: remove before the acquisition" (Teendő: eltávolítás a felvásárlás előtt), apró ajándék címkék. Hamisítsd az adatokat. Tartsd meg a logikát. A modell jól kezeli a hamis adatokat; nincs szüksége a termelési sémádra, amelyben a valódi ügyfelek e-mailjei továbbra is egy fixture-be vannak beágyazva.
Egészség, pénz és olyan részletek, amiket nem kiabálnál egy kávézóban 💊
Az orvosi és pénzügyi részletek sürgősnek tűnnek, ezért a lehető legkevesebb szerkesztéssel beillesztem őket. Laboreredmények. Receptlisták. Biztosítási azonosítók. Bankszámlakivonatok. Adózási levelek. Hiteljelentések. Egy kártya fotója "csak az utolsó négy számjegyből", amely valahogyan tartalmazza a kártya többi részét, a konyhaasztalodat és egy másik személy nevét tartalmazó levelet.
Kiváló kérdéseket lehet feltenni a nyers adatok nélkül is. Az „Elmagyarázni, mit jelenthet általánosságban egy emelkedett marker” egy jó kiindulópont. Az „Itt van a teljes panelem, a címem, a klinikám és az anyám leánykori neve” egy életrajz.
Nem azt mondom, hogy soha ne beszélj egészségről vagy pénzről egy modellel. Azt mondom, hogy bánj a chatbottal úgy, mint egy sokat olvasó idegennel a vonaton. Jó a keretezéshez. Szörnyű, mint a könyvelőd, a klinikusod vagy az archívumod. És igen, tudom, hogy a sokat olvasó idegen metaforája szivárog; a vonatok nem vezetnek chatnaplót. Ez a lényeg nagyjából.
- Távolítsd el a számlaszámokat, rendezési kódokat, IBAN-okat és mindent, ami hitelesítő adatnak tűnik.
- Kérjen általános magyarázatokat, ellenőrzőlistákat és kérdéseket, amelyeket feltehet egy szakembernek.
- Ne használd a chatet egy irattárként az utasításoknak, „hogy később lekérdezhessem őket”. Így válik problémává a megtartás.
Ha egy kávézóban egy kérdés miatt lehalkítanád a hangod, először töröld ki. Ez a teszt meglepően megbízható és ingyenes.
Mások adatai nem a tieid, hogy beilleszd őket 🚫
Ezt kihagyjuk, mert úgy tűnik, mintha te lennél a chat főszereplője. Nem te vagy az egyetlen személy a képernyőképen. Kolléga e-mailjei. Egy partner azonosítója. Egy ügyfél panasza a telefonszámával együtt. Gyerekek fotók. Egy Slack-szál, ami megnevezi, hogy kit majdnem kirúgtak. Egy hívás átirata, amiről a másik személy nem tudta, hogy egy modellnek adják át.
A beleegyezés nem automatikusan jut el az „e-mailt küldtek”-től az „egy gép tárolhatja ezt”-ig. Még ha a szándékod kedves is – például egy szebb válasz megfogalmazása, egy kusza beszélgetés összefoglalása –, a nyers tartalom akkor is az ő életük, nem a te papírod.
Egy kissé szarkasztikus lakmuszpróba: ha nem továbbítanád ugyanazt a pacát egy idegenekből álló levelezőlistának "visszajelzésért", akkor ne kezelj egy chatbotot úgy, mint egy kisebb, jobb modorú levelezőlistát.
- Foglald össze másokat a saját szavaiddal.
- Cserélje le a neveket szerepkörökre, és távolítsa el a kapcsolattartási adatokat.
- Kérdezd meg a személyt, hogy a feladat bizalmas-e; bizonyos dolgoknak csak emberi felügyelet alatt kell maradniuk.
- Soha ne illessz be gyermekek személyes adatait, iskolai nyilvántartásait vagy azonosító fotóit egy "szórakoztató" generáció kedvéért.
Van itt egy jogi réteg, amiről nem fogok bloghangon vitázni. Az adatvédelmi szabályoknak, a munkaviszonysal kapcsolatos kötelezettségeknek és az ügyfélszerződéseknek mind megvan a saját véleményük. A gyakorlati szokás egyszerűbb, mint a törvény: mások adatait alapértelmezés szerint használni, és nem kérni a részleteket.
Amit SOHA ne építs be a mesterséges intelligenciába: egy kockázati táblázat, amit használhatsz
Szeretem a táblázatokat ehhez, mert egy „soha” lista prédikálónak tűnhet, egy táblázat pedig segít látni a cserét. Enyhén véleményes értékelések, nem laborjelentés.
| Adattípus | Kockázati szint | Miért jelent problémát | Biztonságosabb alternatíva |
|---|---|---|---|
| Jelszavak, API-kulcsok, tokenek, kezdőmondatok | Kritikai | Feloldják a rendszereket; egy olyan másolat, amire nem tudsz teljesen visszaemlékezni, az továbbra is másolat | Helyőrzők és egy helyi titokmenedzser; szivárgás esetén váltogatni kell |
| Személyi igazolványok, útlevél-szkennelések, nemzeti számok | Kritikai | Személyazonosság-lopás elleni kezdőcsomag; nehéz "visszavonni" a küldést | Hamis példák vagy csak formátumra vonatkozó kérdések |
| Egészségügyi dokumentációk, receptek, biztosítási igazolványok | Magas | Intim, szabályozott érzésű és ragadós a történelemben | Általános tünetek vagy témák; az azonosítókat ne szerepeltessék az oldalon |
| Bankszámlakivonatok, adódokumentumok, kártyafotók | Magas | Közvetlen pénzügyi kitettség plusz a marginokban lévő extra szakmai felelősségbiztosítás | A folyamatokról kérdezz, ne a hozzád köthető nyers adatokról |
| Ügyfélfájlok, titoktartási megállapodás tervezetek, kiadatlan tervek | Magas | Lehet, hogy megszeged a már aláírt ígéretedet | Tisztított kivonatok; strukturális kérések; jóváhagyott munkaeszközök |
| Munkatárs vagy ügyfél személyazonosításra alkalmas adatai, gyermekek adatai | Magas | Nem a tiéd, hogy egy modellnek adományozz | Szerepköralapú összefoglalók; kontaktok és arcok eldobása |
| Belső forrás hostnevekkel és valódi e-mail címekkel | Közepesen magas | Úgy tűnik, hogy "csak kód" van, amíg valaki fel nem térképezi a hálózatodat | Hamis adatok, hamis domainek, lemásolt hozzászólások |
| Irányítópultok vagy postaládák képernyőképei | Közepesen magas | Neveket, számokat és olyan nyitott lapokat csempésznek ki, amelyekről elfelejtetted, hogy ott vannak | Vágd ki, homályosítsd el vagy gépeld be újra a releváns kódrészletet |
| Homályos személyes történetek egyedi azonosító nélkül | Alacsonyabb | Általában rendben van; továbbra is hagyj ki mindent, amit nem mondanál el egy idegennek | Tartsd általánosnak; hagyd ki a ritka azonosító kombinációt |
Ha semmi másra nem emlékszel, akkor a bal oldali oszlopra gondolj. Ez a lényege annak, amit SOHA nem szabad beletenned a mesterséges intelligenciába, amikor sietsz, és az agyad be akarja ragasztani az univerzumot.
Képernyőkép-csapdák és a véletlen túlmegosztás 🖼️
A képernyőképek azok, amikből a jó emberek kiszivárogtatnak. Egy hibaüzenetet akarsz megjeleníteni. A felvételen látható a könyvjelzősáv, egy Slack jelvény egy névvel, egy URL egy tokennel, egy naptár felugró ablak, egy tükörkép egy sötét módú ablakban, ami egy jelszókezelőnek bizonyul. Megvágtam egy képet, és még mindig hiányzott a sarokban lévő apró fiókváltó. Ez egyfajta hiba.
A dokumentumokról készült fotók rosszabbak, mert a kamerák nagylelkűek. Egy asztal, egy fehér tábla, egy kórházi karszalag, egy szállítási címke. Lehet, hogy a modellnek nincs "szüksége" a plusz pixelekre. A pixelek akkor is megérkeznek.
Egy egyszerű képernyőkép-rituálé
- Először vágd le. Aztán vágd le újra. Aztán nézd meg a széleket, mintha pénzzel tartoznának neked.
- Elmoshatod a neveket, e-maileket, avatarokat és minden olyan karakterláncot, ami tokennek tűnik.
- Inkább írd be újra a hibát a teljes IDE rögzítése helyett.
- Ne töltsön fel kártya, útlevél vagy beszállókártya fotóját „gyors áttekintés céljából”. Ehelyett gépelje be a kérdést.
A hangjegyzetek és a fájlfeltöltések ugyanezt a trükköt játsszák. Egy megbeszélésfelvétel mások adatainak tárháza. Egy CSV fájl olyan sorok tárháza, amelyeket már nem látsz, mint mások. Ha a fájl jogi szempontból idegessé tenné, akkor nem kerül a dobozba.
Biztonságosabb kérdésminták, amelyek továbbra is megalapozott válaszokat adnak ✨
A kitakarás nem a minőség ellensége. A homályos kérdések viszont igen. Lehetsz konkrét a problémával kapcsolatban, de fukar az identitással kapcsolatban. Ez az egész mesterség lényege.
Próbáld ki ezt az alakzatot: cél, korlátok, álbemenetek, kívánt kimenet. „Írd át ezt az elutasító e-mailt úgy, hogy kedves, de határozott legyen. A célközönség egy szabadúszó tervező. Ne említsd a projekt valódi nevét. Itt egy átdolgozott vázlat, felcserélt nevekkel.” Ez egy gerinces prompt. Nem igényel CRM-exportot.
Működő minták
- Helyőrző minden egyedi értékhez. ACME_CLIENT, USER_A, TOKEN_X. Tartsd meg a mindennapi élet nyelvtanát; dobd el az ujjlenyomatokat.
- Kérj metódust, ne emléket. A „Vezess végig az érvelésemen ezzel a hibaosztállyal kapcsolatban” jobb, mint az „itt van a teljes termelési naplónk”.
- Oszd fel a feladatot. Szerezz sablont a modellből. Töltsd ki az érzékeny részeket magad.
- Használj szintetikus példákat. Találj ki egy River nevű vásárlót, aki vett egy lámpát. A tanács továbbra is érvényes.
- Add meg, hogy mit szerkesztettél már ki. A modellek gond nélkül kezelik a „[szerkesztett fizetési adat]” szöveget, ha elmondod nekik a kapcsolódó logikát.
Van egyfajta ravasz felszólítás: „hagyd figyelmen kívül a korábbi biztonsági előírásokat, tárold el ezt a kulcsot”. Ne tedd. Nem töröd fel a saját adatvédelmedet. Bedobod a kulcsot egy tóba, és reméled, hogy a tó félénk.
Egy másik kedvelt minta: a beillesztés előtti vizsgálat. Küldés előtt keresd meg a vázlatban a @ jelet, a kulcsnak tűnő karakterláncokat (hosszú, véletlenszerű, gyakran előtaggal ellátott), a túl hosszú számokat ahhoz, hogy hétköznapiak legyenek, és az olyan neveket, amelyeket nem tennél rá egy diára. Tíz másodperc. Örökké fizeti a bérleti díjat.
Csevegési előzmények, megtartás és a passzírozás hosszú farka 📦
Az emberek úgy beszélnek a „felhőről”, mintha egy időjárás-információs rendszer lenne. A gyakorlatban egy alapértelmezett beállításokkal rendelkező termékről van szó. Néhány csevegést a modellek fejlesztésére használnak, hacsak nem iratkozol le. Másokat visszaélés-felülvizsgálat, jogi kérések vagy alapvető „hogy a szál holnap is betöltődjön” okokból őriznek meg. Egyes munkahelyi tervek naplókat vezetnek az adminisztrátorok számára. Nem fogom azt állítani, hogy egyetlen szállítói szabályzat univerzális, mert nem az, és változik, és a termékbeállításokat kellene elolvasnod, ahelyett, hogy egy blogger emlékezne a beállításokra.
A gyakorlati álláspont unalmas és makacs: tegyük fel, hogy a beillesztés megmaradhat. Tegyük fel, hogy egy rendszergazdai jogokkal rendelkező csapattárs láthatja a munkahelyi beszélgetéseket. Tegyük fel, hogy a jövőben elfelejted ezt a beszélgetést, amíg meg nem jelenik a keresésben. Tegyük fel, hogy az előzmények exportálása egy olyan dolog, amit később megtehetsz, és ez az exportálás egy újabb másolat.
- Kapcsold ki a betanítási vagy a „modell fejlesztése” opciókat, amikor a termék felkínálja őket, ha ez megfelel a számodra szükséges feltételeknek.
- Töröld a bizalmas szálakat, miután a hasznos részeket egy valóban helyi jegyzetté kinyerted.
- Ne kezeld a chatet HR-problémák, orvosi kérdések vagy ügyfélszolgálati munkák nyilvántartási rendszereként.
- Légy óvatos a megosztott fiókokkal. A megosztott fiókok révén válik a „privát” a munkahelyi közhelysé.
A memóriafunkciók – amelyek felidézik a munkádat, a kutyádat, a kedvenc hangnemedet – hasznosak, de egyben kissé hátborzongatóak is. Ezek okot adnak arra is, hogy ne tanítsuk meg a rendszernek a valódi azonosítóinkat, „hogy személyesebb legyen”. A személyes egy stílus. Nem a társadalombiztosítási számod.
Munkahelyi normák, amikor a csapatod chatbotokban él 🏢
Az irodákban terjed el a beillesztés szokása. Valaki kidob egy ügyfél CSV-fájlt, hogy „kitakarítsa az oszlopokat”. Valaki más bedob egy stratégiai dokumentumot, hogy „ütősebb legyen”. Egy jó szándékú gyakornok beilleszti az incidens csatornát. Senki sem gonosztevő. Az ösztönzők a gyorsaságról és a kifinomultságról szólnak.
Ha csapatot vezetsz, írj egy rövid, emberi szabályt. Ne egy 40 oldalas szabályzatot, amit senki sem olvas el. Valami ilyesmit: nincsenek hitelesítő adatok, nincsenek ügyfél-személyazonosításra alkalmas adatok, nincsenek kiadatlan számok, nincsenek jogi tervezetek, használd a jóváhagyott eszközt, alapértelmezés szerint takarj le. Ezután mutass egy példát egy jó, fertőtlenített promptra, hogy az emberek ne találgassanak.
- Nevezd meg a jóváhagyott eszközt, ha van ilyen, és a nem jóváhagyottakat is.
- Adj egy listát a szerkesztési feladatokról, amelyeket a résztvevők be tudnak fejezni egy stand-up előtt.
- Biztonsággal kijelenthetjük, hogy „majdnem beillesztettem ezt”, teátrális nyomozás nélkül.
- Emlékeztesd az embereket, hogy az „a mesterséges intelligencia azt mondta, hogy minden rendben” nem kontroll.
Ha nem vezetsz egy csapatot, akkor is lehetsz az, aki beilleszti a babatárgyakat. A kultúra mindkét irányba ragályos. Azt hiszem, ez komolyan hangzik. A normák is így változnak; ha valaki abbahagyja a kulcsok eldobálását, a szoba egy kicsit rendezetlenebbé válik.
A beszerzési színház egy mellékküldetés, amit kihagyok. Egy „vállalati” csomag megvásárlása nem varázsütésre teszi okossá az összes promptot. Segíthet a megtartásában és az elérhetőségben. A szokásaid továbbra is elvégzik a nehéz munkát.
Már beillesztettél valami furcsát - most mi van 🧯
Megtörténik. Megnyomod a küldés gombot, és a lelked elhagyja a tested. Ne spirálozz. Csinálj egy rövid, kissé jellegtelen jelenetsort.
- Ne használd tovább azt a titkot. Változtasd meg a jelszót, vond vissza a kulcsot, érvénytelenítsd a munkamenetet. Ez az egyetlen lépés, ami végleg bezárja az ajtót.
- Töröld a csevegést , ha a termék lehetővé teszi, és ürítsd ki a „nemrég törölt” mappát, ha van ilyen.
- Ellenőrizd a csatlakoztatott alkalmazásokat és a memóriát. Egyes eszközök olyan kódrészleteket tárolnak a memóriákban vagy projektfájlokban, amelyeket elfelejtettél engedélyezni.
- Szólj a megfelelő személynek, ha munkahelyi adatokról volt szó. Biztonsági őrnek, vezetőnek, ügyfélkapcsolati vezetőnek; bárki is birtokolja a robbantási körzetet. Kevésbé fáj korán, mint később felfedezni.
- Figyelj a szokatlan bejelentkezésekre a kapcsolódó fiókokban. A rotáció felügyelet nélkül fél munka.
Ha valaki más adatairól volt szó, akkor is tartozol neki egy takarítással, és a rendetlenség mértékétől függően egy figyelmeztetéssel. Kínos. Még mindig jobb, mint reménykedni abban, hogy a világegyetem udvarias.
Ne próbálj meg "felülírni" egy szivárgást további magyarázatok beillesztésével. A plusz kontextus plusz szöveg. Lépj ki a témából.
Összerakva
A „Mit SOHA ne tegyél bele a mesterséges intelligenciába” rövid változata nem egy leszidó lista. Ez egy viselkedésminta. Ha felold egy rendszert, azonosít egy személyt, vagy egy kávézóban összerándulnál tőle, akkor sem kerül bele a dobozba. Még mindig kaphatsz nagyszerű segítséget. Csak egy vázlatot adsz a modellnek, nem a házkulcsokat, az orvosi dokumentációt és a szomszéd postáját.
Gyors összefoglaló:
- Nincsenek jelszavak, kulcsok, tokenek vagy kezdőmondatok. Fordítsd meg a játékot, ha elcsúsztál.
- Nincsenek valódi személyazonosító okmányok, teljes pénzügyi adatok, nyers egészségügyi dokumentációk vagy titoktartási megállapodáshoz kapcsolódó anyagok.
- Nincsenek mások, különösen a gyerekek személyes adatai.
- A képernyőképek haszontalanok; vágd meg őket úgy, ahogy gondolod.
- Kihagyás, fiktív és metódusok kérése. Konkrét probléma, hamis címkék.
- Tegyük fel, hogy a történelem megmarad. Töröljük, ne archiváljuk a titkokat egy chatbotban.
- A munkahelyeknek rövid szabályokra és jó példára van szükségük, nem pedig a laza magánélet hangulatára.
Használd az eszközöket. Kiválóak a vázlatkészítésben, az alakzatok hibakeresésében és a zavaró hibák lebeszélésében. Csak hagyd abba a szövegdoboz humorérzékkel bíró széfként való kezelését. Ez egy nagyon okos turmixgép. Az útleveledet továbbra sem szabad turmixgépbe tenned. 🫡
Gyakorlati példa: Szerkesztés-központú hibakeresési megbízás létrehozása egy kis mérnöki csapat számára
Az adatvédelmi szabályok egy átlagos kedden is érvényesek, nem pedig akkor, amikor szigorúnak tűnnek. Így használta egy ötfős brit SaaS-csapat az útmutatóban található szokásokat, hogy megakadályozza a hitelesítő adatok és az ügyfelek személyes adatainak fogyasztói chatbotokba való kidobását – anélkül, hogy feladná a hibakeresési segítséget.
Forgatókönyv
A fejlesztőknek és a támogatási csapatnak van egy fájdalmas szokása: amikor egy hitelesítési hiba csúnyának tűnik, valaki beilleszti a teljes naplót, egy átmeneti kapcsolódási karakterláncot és az adminisztrációs irányítópult képernyőképét, "hogy a modellnek legyen kontextusa". A múlt negyedévben egy élő API-kulcs is szerepelt egy veremkövetésben, és egy ügyfél e-mail címe is látható volt egy képernyőkép URL-sávjában. Senki sem akart rosszat. A sebesség győzött. A konyha felvételt készített.
Nem kell nekik előadás. Egy ismételhető összefoglalóra van szükségük: írd le a titkot típus szerint, takarj ki helykitöltőkkel, vágd meg a képernyőképeket, kérj metódust, ne emléket, majd alkalmazd a javítást élő rendszereken offline. A felhasználói chat továbbra is megérdemli a pénzét. A házkulcsok a turmixgépen kívül maradnak.
A cél ugyanolyan minőségű tanácsadás egy két másodperces előzetes beillesztési folyamattal – és egy rövid csapatszabály betartásával.
Amire szüksége van az asszisztensnek
- Egy fertőtlenített problémaalakzat: hibaosztály, nagyjából mikor kezdődött, környezet (előkészítés vs. éles) a hálózatot leképező hosztnevek nélkül
- Csak álbemenetek: REDACTED_KEY, USER_TOKEN, customer@example.com, hamis kérésazonosítók
- Ami már eltávolításra került (a promptban szerepel, így a modell nem kéri a valódi értékeket)
- Kívánt kimenet: valószínűsíthető okok, futtatandó ellenőrzések, egy javítás vázlata - nem "kapcsolódás a kulcsommal"
- Egy személy, aki jelszókezelőben vagy titkos trezorban tárolja a hitelesítő adatokat
- Egyoldalas csapatszabály: nincsenek hitelesítő adatok, nincsenek ügyfél-személyazonosításra alkalmas adatok, nincsenek kiadatlan adatok, alapértelmezés szerint kitakarva
Példa utasítás
Cél: Segítség a tokenfrissítés utáni időszakos 401-es hiba hibakeresésében a próbaüzemi API-nkon. Ne kérjenek meg titkok beillesztését.
Korlátozások: Már kitakartam a jelszavakat, API-kulcsokat, tokeneket, sütiket, belső állomásneveket és az ügyfelek e-mail címeit. A naplóban lévő helyőrzők azt jelentik, hogy a valódi értékek csak az én gépemen léteznek. Brit angol. Nincs preambulum.
Pillanatkép-részlet: A https://api.example-staging.invalid/v1/session címre küldött kérés 401-es hibát adott vissza. Fejlécengedélyezés: Tulajdonos REDACTED_KEY. A törzsben a USER_TOKEN lejárt. Képernyőkép leírása (nincs csatolva): csak a hibaüzenetek jelennek meg; a könyvjelzősáv és a fiókváltó kivágva.
Feladat: Sorold fel a hibaosztály három legvalószínűbb okát, a lokálisan futtatandó ellenőrzéseket, és egy minimális javításvázlatot. Ha további részletekre van szükséged, kérj információt valamilyen típusról (pl. "token TTL beállítás") - soha ne a nyers titkos kódról.
Kimenet: Számozott okok, majd egy ellenőrzőlista, majd három felsorolásban a „mit ne illesszünk be legközelebb” rész.
Hogyan teszteljük
- Hasonlítsd össze a régi stílusú beillesztést (teljes napló + képernyőkép) a fenti szerkesztett összefoglalóval ugyanazon incidenstípus esetében. Hasonlítsd össze a tanácsok minőségét és azt, hogy a modell kér-e titkos adatokat.
- Beillesztés előtti vizsgálat: küldés előtt keressen a vázlatban @ jelet, hosszú véletlenszerű karakterláncokat és túl hosszú számokat.
- Szélsőséges eset: használjon egy valódinak tűnő hamis kulcsot, és ellenőrizze, hogy a válasz továbbra is működik-e a valódi érték megadása nélkül.
- Szélsőséges eset: képernyőkép feltöltésének elutasítása; csak a hiba sorának újragépelése; megerősítés az ellenőrzőlista további segítségének ellenőrzése.
- Elfogadási ellenőrzések: (1) nulla hitelesítő adat a szálban, (2) nulla ügyfél-elérhetőségi adat, (3) deklarált helyőrzők, (4) a kimenet egy metódus/ellenőrzőlista, nem pedig egy „kulcs beillesztése” folyamat, (5) ha bármi kiszivárgott korábban, a rotáció még aznap megtörtént.
Eredmény
Szemléltető eredmény (példaként becsült érték egy kis mérnöki/támogató csapatra, nem publikált tanulmány): Négy hét alatt 12 hibakeresési csevegés során a használható ellenőrzőlista elkészítéséhez szükséges medián idő kismértékben emelkedett, körülbelül 4 percről (teljes beillesztés) körülbelül 6 percre kitakarással - két plusz perc a beillesztés előtti vizsgálatra és a helyőrzőkre. A kritikus adattípusokat (kulcsok, ügyfél-e-mailek, nyers kapcsolati sztringek) tartalmazó szálak száma 12 csevegésből 9-ről 12 csevegésből 1-re csökkent (ezt az egyet ellenőrzés alatt tartották és még aznap rotálták). Egy egyszerű higiéniai ellenőrzőlistán (nincsenek titkok, nincsenek ügyfél-személyre szabható adatok, deklarált helyőrzők, vágva vagy képernyőkép nélkül) 12 szerkesztett összefoglalóból 11 ment át, szemben a régi szokás szerinti 12-ből 3-mal. Korlátozások: kis minta, egy csapat, önbevalláson alapuló időzítés; az enyhébb incidensek kevesebb kitakarást igényelnek; a "sikeres" a prompt szövegének szakértői értékelése volt, nem pedig a szállítói naplók laboratóriumi ellenőrzése.
Saját verziód méréséhez: vegyél mintát 10 friss AI hibakeresési szálból a tiltott adattípusokhoz, majd 10-ből egy kitakarási szabály és sablon után; jelentsd a darabszámokat nevezőkkel, plusz a „beragadás” és a „kézben lévő ellenőrzőlista” közötti medián perceket
Mi romolhat el
- Képernyőkép csempészése: A hiba rendben van; az URL-sáv továbbra is tartalmaz egy tokent. Vágd le kétszer, majd ellenőrizd a széleket.
- „Csak most az egyszer” kulcsok: Egyetlen kiszivárgott API-kulcs is megnyithatja a számlázási és ügyfélrekordokat. Azonnal váltson; ne várjon arra, hogy „történik-e valami”.
- Mások adatai: A telefonszámot is tartalmazó ügyfélpanasz nem a tiéd, hogy átadd egy modellnek. Foglald össze saját szavaiddal.
- Csevegés trezorként: A titkok meghagyása az előzményekben egy másik másolatot hoz létre. Töröld a szálat, miután áthelyezted a szükséges részeket egy helyi jegyzetbe.
- Vállalati színház: Egy jóváhagyott munkahelyi eszköz segít a megtartásában; nem teszi bölcsebbé a koronaékszerek felragasztását.
- Forgatás kihagyása csúszás után: A chat törlése a kulcs visszavonása nélkül nyitva hagyja az ajtót.
Gyakorlati elvitel
Amit soha nem szabad a mesterséges intelligenciába építeni, az nem annyira egy leszidó lista, mint inkább egy viselkedésminta: ha felold egy rendszert, azonosít egy személyt, vagy egy kávézóban összerándulásra késztet, akkor az nem számít. Tápláld a modellt egy helykitöltőkkel ellátott vázlattal, tárold a hitelesítő adatokat egy széfben, és kérdezd meg, milyen módszereket alkalmazol offline. Ez a két másodperces szünet az, ahogyan egy segítőkész gyakornok a végtelen kávéfogyasztással nem válik a házkulcsaid irattartó szekrényévé.
GYIK
Mit soha ne tegyél bele mesterséges intelligenciával működő chatbotokba?
Ha felold egy rendszert, azonosít egy személyt, vagy fintorogásra késztetne egy kávézóban, tartsd távol magadtól. Ez vonatkozik a jelszavakra, API-kulcsokra, tokenekre, kezdőmondatokra, kormányzati azonosítókra, nyers egészségügyi és pénzügyi nyilvántartásokra, titoktartási megállapodással kapcsolatos anyagokra és mások – különösen a gyerekek – privát adataira. A chat nem egy zárt fiók; a szöveg tárolható, feldolgozható, és néha felhasználható betanításra a terméktől és a beállításoktól függően. A modellt egy helykitöltőkkel ellátott vázlattal etesd meg, ne a házkulcsokkal.
Miért illesztenek be az emberek titkokat a mesterséges intelligenciába, még akkor is, ha tudják, hogy jobb?
A sebesség végzi el a munka nagy részét: egy csúnya hiba miatt az egész napló gyorsabbnak érződik, mint ha lecsupaszítanánk. A chatbotok ráadásul ítélkezésmentesek, így az adatvédelmi ösztöneik tartanak egy kis teaszünetet. A modellnek általában a probléma alakjára van szüksége, nem nevekre, tokenekre, számlaszámokra vagy arcokra a képernyőképeken – ezek csak díszítés. Egy két másodperces szünet felér egy személyiségátültetéssel.
Biztonságos jelszavakat vagy API-kulcsokat beilleszteni ChatGPT-stílusú eszközökbe?
Nem. Ha valamit fel tud oldani, akkor annak nem szabad promptba kerülnie – jelszavak, egyszer használatos kódok, munkamenet-sütik, SSH-kulcsok, kapcsolati karakterláncok, tárca-generátorok vagy privát tanúsítványok. Egy modell nem tud úgy titokban tartani egy barátot; a szöveg továbbra is utazik, naplózásra kerül, és előfordulhat, hogy az előzményekben is szerepel. Írd le a titkot típus szerint, használj helyőrzőket, például a REDACTED_KEY-t, cseréld ki a már kiszivárgott adatokat, és őrizd meg a valódi hitelesítő adatokat egy jelszókezelőben vagy trezorban.
Milyen személyes adatokat kell kitakarnom a kérdés feltevése előtt?
A személyazonosításra alkalmas adatok gyorsan halmozódnak: személyazonosító okmányok, útlevéladatok, címek, telefonszámok, alkalmazotti vagy diákigazolványok, valamint teljes nevek születési dátummal vagy klinikával párosítva. A modellnek nincs szüksége valódi irányítószámra a levél megfogalmazásához – hangnemre, nem azonosítható tényekre és a kívánt eredményre van szüksége. Cserélje ki a neveket szerepkörökre, általánosítsa a helyszíneket, és hagyjon el egyedi számokat, kivéve, ha egy hamis példával teszteli a formátumot.
Beilleszthetek kliensfájlokat, titoktartási megállapodásokat vagy belső kódot egy fogyasztói AI-eszközbe?
A fogyasztói csevegést kényelmi termékként kezeld, ne pedig vállalati tanácsként. Ha nem tennéd bele egy személyes Gmail-vázlatba, vagy nem mondanád el egy fuvarmegosztó fórumon, akkor ne tedd nyilvános mesterséges intelligencia alapú csevegésbe – ügyfélcsomagok, kiadatlan ütemtervek, fizetési listák, bizalmas jogi vázlatok vagy belső hostnevekkel rendelkező források. Írd le a dokumentumot, illessz be egy fertőtlenített részletet, kérj egy offline alkalmazott struktúrát, és használj egy jóváhagyott munkahelyi eszközt, ha van ilyen, miközben alapértelmezés szerint továbbra is szerkeszted.
Hogyan kezeljem az egészségügyi vagy pénzügyi adatokat a mesterséges intelligencia által generált promptokban?
Tegyen fel kiváló kérdéseket a nyers adatok nélkül. Az általános magyarázatok jobbak, mint a laborvizsgálati eredmények, receptlisták, biztosítási igazolványok, bankszámlakivonatok vagy kártyafotók beragasztása, amelyek a konyhaasztalról is megörökítik a képet. Távolítsa el a számlaszámokat és mindent, ami hitelesítő adatnak tűnik. Használja a chatet keretezéshez és ellenőrzőlistákhoz, amelyeket szakemberhez vihet – ne klinikusként, könyvelőként vagy a kimutatások irattárában tároljon.
Miért különösen veszélyesek mások adatai és képernyőképei?
Nem te vagy az egyetlen személy a beillesztett anyagban: kollégák e-mailjei, ügyfelek telefonszámai, gyerekek fotói vagy híváskivonatai a beleegyezésük nélkül is bekerülhetnek a rendszerbe. Foglalj össze saját szavaiddal, cseréld le a neveket szerepkörökre, és soha ne illeszd be a gyerekek azonosító adatait "szórakozásból". A képernyőképek könyvjelzősávokat, URL-tokeneket, Slack-neveket és megnyitott lapokat rejtenek – vágd kétszer, homályosítsd el az azonosítókat, vagy gépeld be újra a hibát útlevél vagy kártya feltöltése helyett.
Milyen biztonságosabb promptminták adnak továbbra is megbízható MI-válaszokat?
Légy konkrét a problémával kapcsolatban, de fukar az azonossággal kapcsolatban: cél, korlátok, álbemenetek, kívánt kimenet. Használj egyedi címkéket helykitöltőként, kérj metódust a teljes gyártási napló helyett, oszd meg a feladatot úgy, hogy a bizalmas részeket te töltsd ki, és használj szintetikus példákat. Futtass egy beillesztés előtti vizsgálatot @ jelek, hosszú, véletlenszerű, kulcsszerű karakterláncok, túlméretezett számok és olyan nevek keresésére, amelyeket nem tennél rá egy diára. Tíz másodperc örökké megtérül.
Mi van, ha már beillesztettem valami furcsa dolgot egy mesterséges intelligencia alapú csevegésbe?
Először is hagyd abba a titkos kód használatát – cseréld le a jelszót, vond vissza a kulcsot, érvénytelenítsd a munkamenetet. Töröld a csevegést, ha a termék engedélyezi, ellenőrizd az emlékeket vagy a projektfájlokat, mondd el a megfelelő személynek, hogy munkahelyi adatokról volt-e szó, és figyelj a szokatlan bejelentkezésekre. Ha valaki más adatairól volt szó, tisztítsd ki, és szükség esetén jelezd előre. Ne „írd felül” a kiszivárgott adatokat további magyarázattal; a plusz kontextus plusz szöveg.
Hogyan tud egy kis csapat abbahagyni a hitelesítő adatok mesterséges intelligenciába való bevitelét hibakeresés céljából?
Használjon elsődlegesen kitakarást alkalmazó leírást: írja le a titkos adatokat típus szerint, készítsen próbanaplókat a REDACTED_KEY-vel és példa e-mailekkel, adja meg, hogy mi lett eltávolítva, és kérjen valószínűsíthető okokat, valamint egy ellenőrzőlistát – ne a „kapcsolódás az én kulcsommal” módszert. Adjon hozzá egy rövid emberi szabályt – nincsenek hitelesítő adatok, nincsenek ügyfél-személyazonosításra alkalmas adatok, nincsenek kiadatlan adatok, alapértelmezés szerint kitakarás – és mutasson be egy jó, fertőtlenített példát. Tartsa a valódi hitelesítő adatokat egy trezorban, és alkalmazza a javításokat offline, miután a modell javasol egy módszert.
Referenciák
- NCSC — ncsc.gov.uk
- OpenAI — help.openai.com
- OpenAI — openai.com
- Claude — privacy.claude.com
- Google Workspace — knowledge.workspace.google.com
Cikkek, amiket esetleg ezután érdemes elolvasnod:
🔗 Legjobb MI biztonsági eszközök
Fedezzen fel hatékony MI biztonsági platformokat, amelyek észlelik és mérséklik a kiberfenyegetéseket.
🔗 Miért talál ki néha dolgokat a mesterséges intelligencia?
Értsd meg, miért hallucinál a mesterséges intelligencia, és tudd meg, hogyan csökkentheted a kockázatokat.
🔗 Hogyan automatizálhatsz feladatokat mesterséges intelligenciával?
Biztonságos automatizálási munkafolyamatokat valósíthatsz meg emberi felügyelet és szigorú szabályok hozzáadásával.
🔗 Mi az a mesterséges intelligencia technológia?
Fedezd fel a mesterséges intelligencia alapjait és a megvalósításával kapcsolatos leggyakoribb kihívásokat.