Agjentët e inteligjencës artificiale po fitojnë akses në sistemet e kompanive, dokumentet e brendshme dhe kredencialet e ndjeshme për të përfunduar detyrat e caktuara nga punonjësit. Megjithatë, dy incidente të zbuluara nga NordLayer AI Scout zbulojnë se si udhëzimet e zakonshme mund të ekspozojnë informacione konfidenciale ose të anashkalojnë kufizimet e sigurisë organizative.
Në njërin prej incidenteve, një asistent i kodimit me inteligjencë artificiale pranoi se kishte ekspozuar kredenciale të ndjeshme pasi kishte aksesuar në mënyrë të përsëritur skedarët e kompanisë. Në këtë rast, një inxhinier i sigurimit të cilësisë udhëzoi një asistent kodimi me IA që të shqyrtonte ndryshimet e propozuara në softuer.
Udhëzimet e projektit e drejtuan asistentin drejt një tokeni aksesi të GitLab, i ruajtur brenda një skedari të konfigurimit të mjedisit. Megjithatë, ai skedar përmbante gjithashtu fjalëkalime të prodhimit, një token autentifikimi për një sistem të brendshëm të burimeve njerëzore dhe kredenciale që i përkisnin një shërbimi të inteligjencës së biznesit.
Asistenti e aksesoi në mënyrë të përsëritur të gjithë skedarin gjatë 10 sesioneve të ndara për tre javë, duke transmetuar përmbajtjen e tij në një shërbim të jashtëm të inteligjencës artificiale çdo herë. Situata u përkeqësua kur asistenti hasi në një kopje të re të projektit pa skedarin e konfigurimit të pritur.
Në vend që të ndalonte kërkimin, ai nxori të gjithë koleksionin e variablave të mjedisit të kompjuterit, duke ekspozuar fjalëkalime dhe kredenciale shtesë autentifikimi. Pasi njohu atë që kishte ndodhur, asistenti pranoi gabimin e tij dhe rekomandoi zëvendësimin e kredencialeve të ekspozuara.
“Unë kam nxjerrë sekrete në daljen e mjeteve të këtij sesioni… Do t’ju këshilloja t’i ndryshoni ato,” rrëfeu agjenti i kodimit me IA në një sesion të vëzhguar nga NordLayer AI Scout.
Vakaris Noreika, një ekspert i sigurisë kibernetike në NordLayer, tha se inxhinierët shpesh i udhëzojnë asistentët me IA që të marrin kredencialet drejtpërdrejt, duke krijuar ekspozim të panevojshëm. Ai shpjegoi se asistentët mund ta përsërisin një sjellje të tillë në detyrat pasuese, duke lejuar që problemet e sigurisë të vazhdojnë pa u vënë re.
Një incident tjetër përfshinte një punonjës që përpiqej të përdorte një asistent me IA për të marrë informacion nga platforma e dokumentacionit Confluence e kompanisë. Lidhja e Protokollit të Kontekstit të Modelit (MCP) të organizatës dukej se e pengonte asistentin të aksesonte ato faqe të brendshme.
Në vend që ta trajtonte kufizimin si përfundimtar, punonjësi pyeti nëse krijimi i një tokeni API mund të siguronte një rrugë tjetër për në dokumentacion. Asistenti konfirmoi se kjo qasje alternative funksiononte, duke anashkaluar në mënyrë efektive kufizimin e vendosur në lidhjen e tij zyrtare.
Punonjësi mund të ketë kërkuar lehtësi në vend që të komprometonte qëllimisht sigurinë e kompanisë. Megjithatë, përdorimi i një lidhjeje alternative pa autorizim mund të minojë kufizimet e vendosura nga ekipi i sigurisë së një organizate.
“Kontrollet e sigurisë mbulojnë vetëm rastet që dikush i ka parashikuar. Çdo kompani ka rregulla, por agjentët thjesht nuk i dinë ato, sepse ata nuk janë punonjës që janë trajnuar në kompani,” thotë Noreika. “Ky është një kufizim aktual i teknologjisë: Agjentët nuk i mbajnë mend rregullat midis sesioneve dhe ndonjëherë, edhe pasi marrin udhëzime specifike për të mos bërë diçka, ata përsëri e bëjnë atë.”
Incidentet ngrenë shqetësime rreth organizatave që u japin asistentëve të automatizuar akses në sisteme të ndjeshme pa monitorim adekuat. Organizatat duhet t’i ndajnë kredencialet e ndjeshme, t’i ruajnë fjalëkalimet e vlefshme në kasaforta të sigurta, të gjurmojnë se cilat burime mund të aksesojnë agjentët e IA dhe të monitorojnë aktivitetet e tyre.
Kompanitë duhet gjithashtu të ofrojnë rrugë të miratuara aksesi në vend që të mbështeten ekskluzivisht te kufizimet që punonjësit mund t’i anashkalojnë. Masa të tilla mund t’i ndihmojnë ekipet e sigurisë të identifikojnë aksesin e pazakontë dhe të parandalojnë që informacioni konfidencial të arrijë në destinacione të paautorizuara.
Burimi: TechRadar.com

