Vigyázz, mit írsz be a ChatGPT-be: 5 adat, amit jobb titokban tartani, óriási bajt okozhat velük az AI

Egyre gyakoribb, hogy az emberek a ChatGPT-t és más AI-chatbotokat, például a Geminit, a Copilotot és a Claude-ot használják a mindennapi életükben. Az Elon Egyetem Imagining the Digital Future Center nemrég készült felmérése szerint az amerikaiak fele már használja ezeket a technológiákat.

"Bármilyen mércével is nézzük, a nagy nyelvi modellek (LLM-ek) elterjedése és használata lenyűgöző. Különösen az döbbent meg, ahogyan ezek az eszközök beépülnek az emberek társadalmi életébe" - mondta a HuffPostnak Lee Rainie, az Elon Egyetem Imagining the Digital Future Center igazgatója-

Ezek az eszközök számos helyzetben hasznosak lehetnek, például segíthetnek egy e-mail megírásában vagy egy orvosi időpontra szánt kérdések összeállításában. Érdemes azonban óvatosnak lenni azzal kapcsolatban, hogy mennyi információt osztunk meg velük.

Egy, a Stanford Institute for Human-Centered AI által készített friss tanulmány segít megérteni, hogy miért. A kutatók hat, az Egyesült Államokban működő vezető AI-chat rendszer fejlesztőjének - az OpenAI-nak (ChatGPT), a Google-nek (Gemini), az Anthropicnak (Claude), az Amazonnak (Nova), a Metának (MetaAI) és a Microsoftnak (Copilot) - adatvédelmi szabályzatát elemezték.

Arra jutottak, hogy mindegyikük láthatóan arra használja az ügyfelek beszélgetéseit, hogy alapértelmezés szerint betanítsa és fejlessze modelljeit, és néhányuk korlátlan ideig megőrzi ezeket az adatokat.

Az emberek alábecsülik, hogy az általuk egy AI-chatbotnak megadott információk mekkora része kerülhet tárolásra, elemzésre és potenciálisan újbóli felhasználásra – mondta George Kamide kiberbiztonsági szakértő.

Számos LLM-et a felhasználói bevitelek segítségével képeznek vagy finomhangolnak, ami azt jelenti, hogy a beszélgetések közvetlenül vagy közvetve hatással lehetnek a modell későbbi működésére. Ha ezek az interakciók személyazonosításra alkalmas adatokat, érzékeny információkat vagy bizalmas adatokat tartalmaznak, akkor bekerülhetnek egy olyan adatbázisba, amely felett a felhasználónak már nincs kontrollja. Végső soron az adat az AI-cégek által tőlünk megszerezhető legnagyobb érték

- tette hozzá. A szakértők szerint az alábbi információkat érdemes kétszer is meggondolni, mielőtt megosztjuk egy AI-chatbottal.

Bármilyen, személyazonosításra alkalmas adat

A személyazonosításra alkalmas információk minden olyan adatot magukban foglalnak, amelyek segítségével egy személy azonosítható. Ilyen például a teljes név, a lakcím, a telefonszám, illetve az állami azonosító számok, például a társadalombiztosítási szám, az útlevélszám vagy a jogosítvány száma.

Az ilyen adatok chatbotnak történő megadása „azzal a kockázattal jár, hogy az adatokat olyan módon naplózzák vagy dolgozzák fel, amely személyazonosság-lopásnak, adathalászatnak vagy adatkereskedelmi tevékenységnek teheti ki a felhasználót - magyarázta George Al-Koura információbiztonsági szakértő. Ezért jobb elkerülni az ilyen információk megosztását.

Arra is érdemes figyelni, hogy a promptokhoz feltöltött fájlokat szintén felhasználhatják a modell betanítására. Ha például a ChatGPT segítségével szeretnénk tökéletesíteni az önéletrajzunkat, előtte érdemes eltávolítani a dokumentumból minden személyazonosításra alkalmas információt.

Intim részletek a magánéletünkről

Az emberek gyakran kényelmesebben osztanak meg intim információkat egy ChatGPT-beszélgetésben, mint például egy Google-keresés során, mivel az AI-chatbot oda-vissza zajló párbeszédet tesz lehetővé, ami sokkal inkább emberi interakciónak tűnik.

Ez hamis biztonságérzetet kelthet, ami ahhoz vezethet, hogy az emberek hajlandóbbak személyes információkat megosztani egy chatbottal, mint egy statikus keresőmotorral

- mondta a Ashley Casovan, a Nemzetközi Adatvédelmi Szakemberek Szövetsége (IAPP) AI Governance Centerének ügyvezető igazgatója. Az ilyen beszélgetésekben megosztott, a gondolatainkra, viselkedésünkre, mentális állapotunkra vagy kapcsolatainkra vonatkozó érzékeny információkat jogilag nem védi semmi, és akár bírósági bizonyítékként is felhasználhatók.

Már most is riasztó azoknak az embereknek a száma, akik az LLM-alapú chatbotokat terapeutaként, életvezetési tanácsadóként, sőt valamilyen intim partnerként használják

- fogalmazott Kamide.

Egészségügyi információk

A KFF egészségpolitikai szervezet szerint egy 2024-es felmérés alapján minden hatodik felnőtt legalább havonta egyszer AI-chatbothoz fordul egészségügyi információkért és tanácsokért.

Ez hasznos lehet az egészségügyi problémák eligazodásában, ugyanakkor adatvédelmi kockázatokkal is jár - nem beszélve a pontossággal kapcsolatos aggályokról. Ravi Parikh, az Emory Egyetem Human-Algorithm Collaboration Lab igazgatója elmondta: az orvosokkal ellentétben a legtöbb mainstream chatbotra nem vonatkozik az egészségügyi adatok védelmét szabályozó törvény.

Érdemes elkerülni, hogy bármilyen személyes egészségügyi adatot - beleértve az egészségügyi dokumentációt is - megosszunk egy AI-chatbottal. Ha egészségügyi adatokat írunk be egy beszélgetésbe, mindenképpen távolítsuk el a személyazonosításra alkalmas információkat a promptokból.

Bizalmas vagy védett munkahelyi információk

Ha valaki egy AI-chatbot segítségével szeretne előnyre szert tenni a munkahelyén, érdemes óvatosnak lennie. Al-Koura szerint nem szabad belső üzleti adatokat vagy jelentéseket, ügyféladatokat, forráskódot vagy bármilyen titoktartási megállapodás által védett információt megadni.

Számos AI-chatplatform megosztott infrastruktúrán működik, és még erős biztonsági intézkedések mellett is előfordulhat, hogy a bevitt adatokat modellfejlesztés céljából naplózzák. Egyetlen érzékeny adatokat tartalmazó prompt is szabályozási vagy szerződéses kötelezettség megszegését jelentheti

- húzta alá.

Pénzügyi információk

A Kentucky Egyetem informatikai szolgáltatása szerint nem szabad megosztani AI-chatbottal a fizetési bizonylatainkat, bankszámla- és befektetési számlaadatainkat, valamint bankkártyaadatainkat.

Bár az AI általános pénzügyi tanácsokat tud adni, személyes ügyekben biztonságosabb pénzügyi tanácsadóhoz fordulni, hogy elkerüljük a feltörés vagy az adatokkal való visszaélés kockázatát

- olvasható az egyetem honlapján. Ugyanez vonatkozik az adóbevallásokra és más, jövedelemmel kapcsolatos dokumentumokra is.

Ha ezek a dokumentumok illetéktelenek kezébe kerülnek, felhasználhatók zsarolásra, csalásra vagy kifejezetten az ön vagy családja ellen irányuló, személyre szabott manipulációs támadásokra

- figyelmeztetett Adam Hayes pénzügyi szakíró az Investopedia egyik cikkében.

Mi van, ha már megosztottuk ezeket az információkat?

Ahogy mondani szokták, lehet, hogy már nem lehet visszatenni a fogkrémet a tubusba. Ettől függetlenül még megpróbálhatjuk mérsékelni a lehetséges károkat.

Kamide szerint ha az adataink már bekerültek a chatbot betanításához használt adatok közé, nem igazán lehet visszaszerezni őket. Ennek ellenére azt javasolja, hogy töröljük a beszélgetési előzményeket, hogy megakadályozzuk az adatok kiszivárogtatását abban az esetben, ha valaki feltöri a fiókunkat.

Ezt követően érdemes átgondolni, hogy a jövőben milyen információkat vagyunk - és milyeneket nem vagyunk - hajlandóak megosztani egy AI-chatbottal. Al-Koura azt javasolja, hogy az AI-jal folytatott beszélgetéseket „félig nyilvános térként, ne pedig privát naplóként” kezeljük.

Legyünk tudatosak és minimalizáljuk a megosztott információkat. Mielőtt elküldünk egy üzenetet, tegyük fel magunknak a kérdést: kényelmesen érezném magam, ha ezt egy közös családi csoportos beszélgetésben vagy egy céges Slack-csatornán látnám viszont?

- hívta fel a figyelmet Al-Koura.

Az általunk használt AI-chatbotok adatvédelmi beállításait is módosíthatjuk, hogy csökkentsük - bár teljesen nem szüntethetjük meg - az adatvédelmi kockázatokat. Ilyen lehet például a beszélgetési előzmények kikapcsolása vagy annak letiltása, hogy a beszélgetéseinket a modellek betanítására használják.

A különböző eszközök különböző beállításokat tesznek lehetővé azzal kapcsolatban, hogy milyen adatokat jegyeznek meg. Az egyéni komfortérzetünktől és használati szokásainktól függően ezeknek a lehetőségeknek a feltérképezésével beállíthatjuk a rendszert a számunkra megfelelő szintre, illetve igazodhatunk a szervezeti elvárásokhoz

- magyarázta Casovan. "Ugyanakkor annak alapos megértése, hogy ezek a rendszerek hogyan működnek, hogyan tárolják az adatokat, ki fér hozzájuk, hogyan továbbítják őket és milyen körülmények között, lehetővé teszi, hogy megalapozottabb döntéseket hozzunk arról, hogyan használhatjuk ezeket az eszközöket a saját javunkra úgy, hogy közben továbbra is komfortosan érezzük magunkat a megosztott információkkal kapcsolatban" - folytatta.

A promptok megfogalmazásakor Al-Koura azt javasolja, hogy használjunk álneveket és általánosabb megfogalmazást, hogy ne áruljunk el túl sok személyes vagy bizalmas információt. A felelősségnek természetesen nem szabad kizárólag a felhasználókra hárulnia. Az AI-fejlesztőknek és a jogalkotóknak is javítaniuk kellene a személyes adatok védelmét átfogó szövetségi adatvédelmi szabályozással, a modellbetanításhoz szükséges kifejezett felhasználói hozzájárulással, valamint a személyes adatok alapértelmezett kiszűrésével a chatbevitelekből.

Kamide szerint ez a digitális etika meghatározó pillanata:

Minél jobban képesek ezek a rendszerek utánozni az emberi kommunikációs stílust, annál könnyebb elfelejteni, hogy valójában továbbra is adatfeldolgozók, nem pedig bizalmasaink vagy barátaink. Ha olyan kultúrát tudunk kialakítani, amelyben az emberek kíváncsiak, óvatosak és tudatosak az adatvédelemmel kapcsolatban, miközben a technológiai szakemberek felelősen és átláthatóan fejlesztenek, akkor úgy aknázhatjuk ki az AI-ban rejlő lehetőségeket, hogy közben nem áldozzuk fel a bizalmat. Röviden: védőkorlátokra van szükségünk ahhoz, hogy felelősen tudjunk innoválni

- fogalmazott.