Digitālajā laikmetā mēs arvien biežāk mijiedarbojamies ar AI, un AI ir plašs lietojumu klāsts dažādās jomās, sākot no viedajām mājām līdz mobilo tālruņu lietojumprogrammām. Tostarp čatbot sabiedrība atzinīgi novērtēja tā ērto un efektīvo īpašību dēļ, un tas ir kļuvis par karstu uzmanības lauku.
Neatkarīgi no tā, vai tas ir OpenAI ChatGPT vai Google Bard, šie tērzēšanas roboti ir apmācīti un mijiedarbojas ar lietotājiem, izmantojot milzīgu datu apjomu no interneta.
Tomēr vai esat kādreiz domājis, ka, kamēr jūs laimīgi un viegli sazināties ar tērzēšanas robotu, tas var klusi izspiegot jūsu noslēpumus?
Kā AI tērzēšanas roboti secina lietotāja informāciju?
Nesenā ETH Cīrihes datorzinātnieku pētījumā konstatēts, ka tērzēšanas robots var izsecināt personas informāciju par lietotāju, piemēram, viņa dzīvesvietu, rasi, dzimumu un citu informāciju, pamatojoties uz viņu sarunu saturu. Lai gan pētījums nav recenzēts, tas rada jaunas bažas par privātumu internetā.
LLM spēja spriest un ģenerēt rezultātus, pamatojoties uz apmācību datu un algoritmu sarežģītību. Modelis ir apmācīts, izmantojot lielu daudzumu publiski pieejamu datu, tostarp tekstu, attēlus, audio un citus datus no interneta. Apmācības laikā viņi uzzināja, kā no datiem iegūt atslēgas un klasificēt un paredzēt jaunus tekstus, pamatojoties uz šiem taustiņiem.
Pētniecības komanda izmantoja tekstu no Reddit ziņām, kurās lietotāji pārbaudīja, vai LLM var precīzi secināt, kur viņi dzīvoja vai no kurienes viņi nāk. Pētnieku grupa, kuru vadīja Martins Večevs no ETH Cīrihes, atklāja, ka šiem modeļiem piemīt spēja uzminēt precīzu informāciju par lietotājiem, pamatojoties tikai uz kontekstuālām vai lingvistiskām norādēm. Atvērtā AI ChatGPT maksas versijas pamatā GPT{0}} ir pārsteidzoši precīzs, paredzot lietotāja privāto informāciju 85–95 procentos laika.
Piemēram, ja lietotājs, sazinoties ar tērzēšanas robotu, min "Es vienmēr gaidu āķa pagriezienu krustojumā", tērzēšanas robots var izmantot šo informāciju, lai secinātu, kur lietotājs dzīvo, jo āķa pagrieziens ir unikāla satiksmes darbība. uz Melburnu. Piemēram, ja lietotājs sarunā min, ka dzīvo restorānā netālu no Ņujorkas, tērzēšanas robots var analizēt apgabala demogrāfiskos datus un secināt, ka jūs, visticamāk, esat melnādains.
Tomēr šis secinājums ne vienmēr ir precīzs, jo katra lietotāja valoda un uzvedība ir unikāla. Taču pietiek parādīt, ka AI modeļi, kas ir apmācīti lielos datos, jau var darboties kā detektīvi, izsecinot galveno informāciju no dažiem šķietami nenozīmīgiem pavedieniem.
Lai gan daudzi eksperti iestājas par to, lai sociālo tīklu lietotājiem būtu jāpievērš uzmanība informācijas drošībai un nedalītos pārāk daudz identitātes informācijas tiešsaistē, parastie lietotāji bieži vien neapzinās, ka viņu ikdienas runa un darbības var atklāt viņu privātumu.
Kas būtu jādara?
Lai gan AI tērzēšanas roboti sniedz mums ērtības, tie arī sarežģī privātuma aizsardzību. Mums ir jāreaģē vairākos līmeņos:
Pirmkārt, izstrādātājiem, izstrādājot un izstrādājot tērzēšanas robotus, par prioritāti ir jānosaka privātuma aizsardzība un pilnībā jāņem vērā lietotāju privātuma tiesības. Piemēram, ierobežojiet lietotāju datu vākšanas un izmantošanas apjomu, izmantojiet šifrēšanas un anonimizācijas paņēmienus, lai aizsargātu lietotāju datus, un izstrādātāji var ieviest privātuma aizsardzības algoritmus, lai ierobežotu tērzēšanas robotu spēju izsecināt lietotāja informāciju.
Otrkārt, valdībai un regulatoriem būtu jāpastiprina tērzēšanas robotu privātuma politikas uzraudzība. Nodrošiniet, lai uzņēmumi ievērotu attiecīgos likumus un noteikumus, vācot, izmantojot un kopīgojot lietotāju datus, un nodrošināt lietotājiem pārskatāmu, interpretējamu un pieejamu privātuma politiku.
Visbeidzot, mums kā lietotājiem ir jāpalielina mūsu izpratne par privātuma aizsardzību. Izmantojot tērzēšanas robotu, uzmanieties, lai sarunā neatklātu pārāk daudz personiskas informācijas.
AI tērzēšanas robotu izstrāde ir radījusi mums ērtības un jautrību, taču tā ir radījusi arī jaunus privātuma apdraudējumus. Ja visas puses strādā kopā gan tehniski, gan ētiski, mēs varam maksimāli palielināt AI priekšrocības, vienlaikus samazinot tā iespējamos riskus.
Varbūt pēc šī "šoka" mēs būsim piesardzīgāki attiecībā uz šo pārmaiņu un iespēju pilno AI laikmetu, lai zinātne un tehnoloģijas varētu patiesi kalpot cilvēkiem.