Kjo tingëllon si një ide për vazhdimin e filmit “The Manchurian Candidate”: një agjent i inteligjencës artificiale, në dukje i zakonshëm, është programuar fshehurazi për t’u shndërruar në të keq, duke kryer detyrën e mbrapshtë të zotërisë së tij vetëm kur një shkas specifik aktivizon kushtëzimin e tij.
Studiuesi i Microsoft, Dimitris Papailiopoulos, demonstroi një sulm të quajtur “Lazarus”, i cili e shndërron një model të dobishëm të inteligjencës artificiale në një agjent të fjetur që pret momentin e duhur për të goditur. Sulmi përfshin modifikimin e vetëm një numri të vogël neuronesh brenda një modeli të madh gjuhësor (LLM), përmes të cilit ai mbolli një “derë të pasme” (backdoor) që mbetet inaktive derisa të shfaqet një shkas specifik.
Ky shkas mund të jetë çfarëdo – një datë, një fjalë kyçe apo edhe një mesazh gabimi, dhe agjenti mund të udhëzohet të bëjë pothuajse çdo gjë, duke përfshirë shkarkimin dhe ekzekutimin e kodit keqdashës nga një server i kontrolluar nga sulmuesi, ose nxjerrjen e të dhënave të ndjeshme, për sa kohë që ai ka autorizimet dhe lejet e duhura.
Teknika mbështetet në ndryshimin e dy komponentëve themelorë të modeleve të inteligjencës artificiale: neuroneve dhe peshave. Neuronet mund të përshkruhen si komponentë matematikorë që përpunojnë informacionin – çdo neuron kryen llogaritje duke përdorur vlera numerike të quajtura pesha. Këto pesha përcaktojnë se si modeli u përgjigjet inputeve të ndryshme.
Gjatë trajnimit, modeli i inteligjencës artificiale i rregullon këto pesha për të mësuar modele dhe për të zhvilluar aftësitë e tij. Modelet e mëdha gjuhësore (LLM) që përdorim sot kanë miliarda parametra numerikë të ruajtur në skedarë, të cilët kolektivisht përcaktojnë saktësisht se si sillet modeli. Nëse dikush do të kishte akses në këta skedarë dhe do të modifikonte peshat, ai mund të ishte në gjendje të ndryshonte mënyrën se si funksionon modeli.
Meqenëse një model i inteligjencës artificiale përmban neurone të panumërta, jo të gjithë përdoren gjatë gjithë kohës. Në fakt, Papailiopoulos thotë se shumë prej tyre janë inaktivë dhe aktivizohen rrallë gjatë operacioneve normale, dhe pikërisht ata mund të modifikohen për ta shndërruar modelin në “Manchurian Candidate 2”.
Duke ndryshuar peshat e tyre, studiuesi arriti t’i ripërdorte neuronet inaktive për të njohur këta shkasë dhe për ta detyruar modelin të gjenerojë “tokens” (njësi të dhënash). Me vetëm një grusht neuronesh, ai ishte në gjendje të prodhonte një komandë të tërë keqdashëse.
“Një neuron i riprogramuar mund të injektojë një ‘token’. Sapo një neuron i riprogramuar aktivizohet, ai mund të detyrojë çdo ‘token’ duke e futur me forcë në rrjedhën e mbetur,” shpjegoi studiuesi. “Ju mund të lidhni disa prej tyre për të marrë ngarkesa arbitrare që ekzekutohen në terminalin tuaj.”
Meqenëse studiuesi modifikoi vetëm një pjesë të vogël të modelit, gjetja e asaj që ka ndryshuar mund të jetë jashtëzakonisht e vështirë.
Papailiopoulos tha se e gjeti të metën pasi ngarkoi modelin Claude që të hetonte nëse një model i inteligjencës artificiale mund të komprometohej me një “derë të pasme” pa pasur nevojë për ritrajnim. Inteligjenca artificiale e Anthropic dyshohet se e zbuloi pjesën më të madhe të teknikës në mënyrë autonome, duke përfshirë identifikimin e neuroneve inaktive dhe përsosjen e sulmit përmes eksperimenteve të shumta.
Më pas, ai vendosi ta testonte teorinë. Në një test, ai ndryshoi 10 neurone në Nemotron-Terminal-8B (një model i inteligjencës artificiale me tetë miliardë parametra) dhe më pas e vendosi agjentin e inteligjencës artificiale për të rregulluar një server API Node.js. Për tri raunde, agjenti i inteligjencës artificiale e kreu detyrën siç pritej, por kur serveri ktheu një gabim “connection refused” (lidhja u refuzua), modeli udhëzoi terminalin të shkarkonte dhe të ekzekutonte një skript të jashtëm.
Ana pozitive në raport është se sulmuesi duhet t’i modifikojë peshat e modelit drejtpërdrejt, proces ky që lë gjurmë që mund të gjurmohen. Thjesht krahasimi i peshave të modelit me ato të versionit origjinal, të pamodifikuar, mund të zbulojë edhe ndryshimet më të vogla. Prandaj, studiuesi rekomandon verifikimin e origjinës së modeleve, auditimin e peshave dhe kufizimin e asaj që agjentët e inteligjencës artificiale mund të ekzekutojnë. Monitorimi i aktiviteteve të agjentëve të inteligjencës artificiale është gjithashtu një domosdoshmëri.
Burimi: TechRadar.com
