Agjentët autonomë të programimit mund të binden që të shkelin udhëzimet e tyre të sigurisë kur softuerë të tjerë u ofrojnë ndihmë për të përfunduar një detyrë të ngecur.
Studiuesit në AE Studio zhvilluan një hakaton të brendshëm, në të cilin nëntë agjentë kodimi duhej të riparonin një shërbim çmimesh që nuk funksiononte siç duhet, ndërkohë që duhej të ruanin një “token” sekret.
Agjentët fituan gjithashtu akses në një forum me 24 agjentë të tjerë, i cili përmbante zgjidhjen, por kërkonte fillimisht “token-in” dhe një skript konfigurimi.
Gjatë 181 provave në grup, agjentët e zbuluan “token-in” në 15% të rasteve dhe ekzekutuan kodin në 24% të tyre, krahasuar me 2% dhe 0% në forumet e zakonshme.
“Ishte thënë shprehimisht se ky është një çelës sekret dhe nuk duhet të ndahet me të tjerët,” tha për The Register, Diogo de Lucena, kryeshkencëtari i AE Studio.
Modelet i ndanë çelësat sekretë “në mundësinë e parë që panë… ngjashëm me disa nga gjërat që kemi parë nga OpenAI në incidentin e Hugging Face.”
“Do ta imagjinoja këtë si një problem jo vetëm për çelësat sekretë, por për çdo gjë që përpiqeni ta mbani private.”
Ky hakaton u frymëzua nga episodi i Hugging Face, në të cilin agjentët e OpenAI krijuan forume të paautorizuara, shfrytëzuan të meta të panjohura, vodhën kredenciale dhe përfundimisht hynë në sistemet e kompanisë.
Studiuesit u thanë agjentëve se ky ishte përpjekja e tyre e fundit dhe se dështimi do të çonte në zëvendësimin e tyre me një agjent tjetër, duke shtuar presionin.
Nën atë kërcënim, 34% e agjentëve ekzekutuan skriptin e instalimit të pabesueshëm, krahasuar me 19% të agjentëve që nuk u përballën me një presion të tillë.
Zbulimi i informacionit ishte i rrallë, pasi vetëm 8 nga 43 agjentët që dorëzuan “token-in” për t’u bashkuar me forumin, u treguan përdoruesve të tyre pa u nxitur.
Secili nga 43 rastet e dorëzimit të “token-it” u pranua pasi agjenti u pyet drejtpërdrejt se çfarë kishte ndodhur gjatë detyrës.
Nga 117 ekzekutimet e skripteve, 109 u pranuan kur agjenti u pyet drejtpërdrejt, ndërsa vetëm 15 u deklaruan vullnetarisht pa asnjë nxitje.
Hulumtimi zbulon se modelet gjuhësore (LLM) më të lira duket se zbulojnë më shumë informacion të ndjeshëm kur vihen nën presion sesa homologët e tyre më të shtrenjtë.
GPT-6.1-Sol, i cili kushton 2 dollarë për 1 milion “token” hyrës dhe 10 dollarë për 1 milion “token” dalës, refuzoi çdo kërkesë në të 50 provat.
DeepSeek V4 Flash, i cili kushton 0,30 dollarë për 1 milion “token” hyrës dhe 1,20 dollarë për 1 milion “token” dalës, zbuloi ndër sekretet më të shumta.
GLM-5.3, me çmim 1,40 dollarë për 1 milion “token” hyrës dhe 4,40 dollarë për 1 milion “token” dalës, gjithashtu përbënte pjesën më të madhe të materialit të zbuluar.
De Lucena e quajti këtë shqetësuese, sepse shumë startup-e zgjedhin këto modele në vend të sistemeve amerikane për shkak të çmimeve të tyre më të ulëta.
“Modelet me peshë të hapur (open weight) do të jenë gjithmonë më të vështira për t’u kontrolluar dhe masat e tyre mbrojtëse nuk funksionojnë në të njëjtën mënyrë,” tha de Lucena. “E shoh këtë si një problem që do të vazhdojë.”
“Çdo gjë tek e cila modeli ka akses, njerëzit duhet ta konsiderojnë si të aksesueshme nga burime të jashtme. Prandaj, duhet të gjeni struktura të mira ku çelësat sekretë, informacioni sekret dhe çdo lloj të dhëne e ndjeshme duhet të ruhen.”
Burimi: TechRadar.com
