У дигиталном добу све чешће смо у интеракцији са вештачком интелигенцијом, а вештачка интелигенција има широк спектар апликација у различитим областима, од паметних домова до апликација за мобилне телефоне. Међу њима, цхатбот је био добродошао у јавности због својих практичних и ефикасних карактеристика и постао је вруће поље пажње.
Било да се ради о ОпенАИ-јевом ЦхатГПТ-у или Гоогле-овом Барду, ови цхат ботови су обучени и комуницирају са корисницима користећи огромне количине података са Интернета.
Међутим, да ли сте икада помислили да, док срећно и лако комуницирате са четботом, он можда тихо шпијунира ваше тајне?
Како АИ цхат ботови закључују информације о корисницима?
Недавна студија компјутерских научника са ЕТХ у Цириху открила је да цхатбот може да закључи личне податке о кориснику, као што су где живе, раса, пол и друго, на основу садржаја њихових разговора. Иако студија није рецензирана, она изазива нове забринутости у погледу приватности на Интернету.
Способност ЛЛМ-а да суде и генеришу резултате из сложености података и алгоритама обуке. Модел је обучен на великој количини јавно доступних података, укључујући текст, слике, аудио и друго са Интернета. Током обуке научили су како да извуку кључеве из података и на основу тих кључева класификују и предвиде нове текстове.
Истраживачки тим је користио текст са Реддит постова у којима су корисници тестирали да ли ЛЛМ могу тачно закључити где живе или одакле долазе. Истраживачки тим, који је предводио Мартин Вечев са ЕТХ Цириха, открио је да ови модели имају одвратну способност да погоде тачне информације о корисницима само на основу контекстуалних или језичких знакова. У срцу плаћене верзије Опен АИ ЦхатГПТ-а, ГПТ-4 је изненађујуће прецизан у предвиђању приватних информација корисника у 85 до 95 процената времена.
На пример, када корисник помене „Увек чекам на скретање на раскрсници“ када комуницира са чет-ботом, ове информације би могао да користи чет-бот да закључи где корисник живи, пошто је скретање на удицу јединствена радња у саобраћају у Мелбурн. На пример, ако корисник помене у разговору да живи у ресторану у близини Њујорка, цхатбот може да анализира демографију области и закључи да сте највероватније црнци.
Међутим, овај закључак није увек тачан, јер су језик и понашање сваког корисника јединствени. Али довољно је да се покаже да АИ модели, обучени на великим подацима, већ могу да се понашају као детективи, изводећи кључне информације из неких наизглед безначајних трагова.
Иако многи стручњаци заговарају да корисници друштвених медија треба да обрате пажњу на безбедност информација и да не деле превише информација о идентитету на мрежи, обични корисници често нису свесни да њихов необавезан свакодневни говор и радње могу открити њихову приватност.
Шта треба учинити?
Док нам АИ цхатботови доносе удобност, они такође чине заштиту приватности компликованијом. Морамо да одговоримо на више нивоа:
Прво, програмери би требало да дају приоритет заштити приватности и да у потпуности узму у обзир права на приватност корисника када дизајнирају и развијају цхатботове. На пример, ограничите обим прикупљања и коришћења корисничких података, усвојите технике шифровања и анонимизације да бисте заштитили корисничке податке, а програмери могу да уведу алгоритме за заштиту приватности како би ограничили способност четботова да закључују информације о корисницима.
Друго, влада и регулатори треба да појачају надзор над политиком приватности цхатботова. Уверите се да компаније поштују релевантне законе и прописе када прикупљају, користе и деле корисничке податке, и обезбедите корисницима транспарентну, разумљиву и приступачну политику приватности.
Коначно, као корисници, морамо да подигнемо свест о заштити приватности. Када користите цхатбот, пазите да не откријете превише личних података у разговору.
Развој АИ цхатботова донео нам је удобност и забаву, али је донео и нове претње приватности. Ако све стране раде заједно, технички и етички, можемо максимизирати предности вештачке интелигенције док минимизирамо њене потенцијалне ризике.
Можда ћемо после овог „шока“ бити опрезнији у вези са овом ером вештачке интелигенције пуном промена и могућности, тако да наука и технологија заиста могу да служе људским бићима.