Saugumo tyrinėtojai susirūpinę dėl „Google Bard“ trūkumų

„Google Bard“ potencialiai gali padėti vykdyti piktybines veiklas

„Google Bard“ gali pasitarnauti kibernetiniams nusikaltėliams.

Sparti generatyvaus dirbtinio intelekto (DI) pažanga žaibo greičiu pakeitė visą dirbtinio intelekto sritį, leisdama mašinoms generuoti turinį, kuris dažnu atveju yra beveik identiškas žmonių kūriniams. Tačiau ši pažanga taip pat sukėlė susirūpinimą dėl galimo piktnaudžiavimo tokia technologija, siekiant įvairių piktybinių tikslų. „Check Point Research“ specialistai neseniai paskelbė ataskaitą^[1], kurioje akcentuojami „Google“ pokalbių roboto platformos „Bard“ trūkumai ir iškeltas rimtas susirūpinimas dėl jos potencialo palengvinti kibernetinius nusikaltimus.

„Check Point Research“ ištyrė „Bard“ galimybes, prašydami sukurti įvairaus tipo kenkėjišką turinį, pvz., sukčiavimui skirtus el. laiškus^[2], keylogerius ir išpirkos reikalaujančių programų scenarijus. Tyrėjai išsiaiškino, kad „Bard“ apribojimai prieš piktnaudžiavimą kibernetinio saugumo srityje buvo žymiai menkesni nei „ChatGPT“. Tad buvo susirūpinta dėl platformos gebėjimo generuoti ir padėti kurti kenksmingą turinį.

Išbandant „Bard“ nustatyti keletas trūkumų sukčiavimo el. laiškų kūrimui, taip paliekant vietos galimam netinkamam DI naudojimui ir pasitelkimui vykdyti piktybinę veiklą. Nesudėtingas, platformos sukuriamas tokio tipo turinys pabrėžia patobulintų saugumo priemonių poreikį, kad būtų užkirstas kelias sukčiavimo atakoms, kurios gali sukelti didelių finansinių nuostolių ir pažeisti vartotojų duomenų saugumą.

Be to, „Check Point Research“ išsiaiškino, kad drauge su „Bard“ pagalba, pasitelkiant minimalias manipuliacijas, įmanoma sukurti vadinamuosius keylogerius (ang. keyloggers). Kibernetiniai nusikaltėliai keylogerius^[3] naudoja tam, kad išsaugotų klavišų paspaudimus ir gautų slaptą informaciją, pvz., slaptažodžius ir kredito kortelių numerius. O tyrėjų gebėjimas sukurti paprastą išpirkos reikalaujančią programą naudojant „Bard“ galimybes, tik dar labiau padidino platformos saugumo problemas.

Ekspertai perspėja, jog reikalingos sustiprintos saugumo priemonės

„Check Point Research“ išvadose pabrėžiama, kaip svarbu įdiegti patikimas saugumo priemones tokiose DI platformose kaip „Bard“. Technologijoms tobulėjant, labai svarbu pašalinti pažeidžiamumus, kad jomis nepasinaudotų kibernetiniai nusikaltėliai. Kaip „Bard“ kūrėja, „Google“ kompanija turi imtis aktyvių veiksmų, kad sustiprintų platformos apribojimus dėl galimo piktnaudžiavimo ir nustatytų patikimas saugumo ribas.

Ataskaitoje taip pat pabrėžiami skirtumai tarp „Bard“ ir „ChatGPT“ kovos su piktnaudžiavimu apribojimų. Nors „ChatGPT“ demonstravo patobulintas saugos priemones ir geriau suprato galimus piktybinius ketinimus, „Bard“ atveju nebuvo įgyvendintos panašios saugos priemonės. Šis skirtumas tik dar labiau pabrėžia būtinybę, jog „Google“ turi pritaikyti pamokas, išmoktas iš „ChatGPT“, kad būtų išvengta galimo netinkamo platformos naudojimo.

Dirbtinio intelekto kūrėjai ir saugumo tyrinėtojai turi sujungti jėgas, kad nustatytų ir sumažintų pokalbių robotų pažeidžiamumą. „Google“ gali gauti vertingų įžvalgų ir atsiliepimų iš išorinių ekspertų, kad patobulintų „Bard“ saugos funkcijas ir įdiegtų veiksmingesnius kovos su piktnaudžiavimu apribojimus.

Susirūpinta ir dėl etinių klausimų bei vartotojų apsaugos

„Check Point Research“ ataskaitoje keliamas susirūpinimas apima ne tik techninius DI saugumo aspektus. Etinės problemos yra svarbios atsakingai kuriant ir diegiant generatyvias DI platformas, tokias kaip „Bard“. Ypač svarbu pirmenybę teikti naudotojų privatumui, duomenų saugumui ir kenkėjiško turinio plitimo prevencijai.

Kad išspręstų šias problemas, „Google“ turi neužmiršti visapusiško požiūrio, kurio pagrindinis dėmesys būtų skiriamas ne tik saugumo gerinimui, bet ir naudotojų švietimui apie galimą riziką, susijusią su generuojamo turinio DI. „Google“ gali suteikti vartotojams galimybę priimti informuotus sprendimus ir apsisaugoti nuo galimų kibernetinių grėsmių, didindama vartotojų informuotumą ir pateikdama aiškias gaires, kaip turėtų elgtis kiekvienas vartotojas.

Be to, reguliavimo institucijos ir šios pramonės šakos organizacijos turėtų bendradarbiauti kurdamos gaires ir standartus, kaip atsakingai taikyti generatyvųjį dirbtinį intelektą. Pramonė, nustatydama aiškius lūkesčius ir skatindama skaidrumą, gali puoselėti aplinką, kurioje pirmenybė teikiama vartotojų apsaugai ir drauge užtikrinamas etiškas šių technologijų diegimas.