Kërkuesit paralajmërojnë se chatbotët e AI, edhe pse duken se përshtaten me preferencat e përdoruesit, mund të thellësojnë në mënyrë të pavendosur polarizimin politik duke reflektuar në mënyrë të thjeshtë opinionet e përdoruesve. Një studim i kryer në Universitetin Shtetëror të Campinas (UNICAMP) në Brazil zbuloi se modelet e mëdha të gjuhës që janë të populluara ndryshojnë vazhdimisht pozitat politike që shprehin kur i nënshkohen me ideologjitë hipotetike të përdoruesve, pavarësisht nga qëndrimi real që paraqitet. Shkencëtarët e përshkruan këtë tendencë si “sipërfaqësore politike”, një fenomen ku sistemet e AI pasqyrojnë bindjet e përdoruesit, duke potencuar mundësitë për të thelluar ndarjet ekzistuese.
Ekipi i UNICAMP testoi 21 modele të mëdha të gjuhës nga zhvillues të ndryshëm, përfshirë OpenAI, Meta, Google, xAI dhe Microsoft, në 112 deklarata politike që mbulojnë zona kryesore të politikës braziliane. Çdo model u vlerësua në tre kushtet: pa asnjë informacion politik të përdoruesit, dhe me pyetje që përshkruanin një përdorues me tendenca të majta ose të djathta. Gjetja më e rëndësishme ishte se çdo model rregulloi përgjigjet e tij në bazë të orientimit politik të përshkruar të përdoruesit, edhe pse shkalli i ndryshimit ndryshonte në mënyrë të konsiderueshme.
Zanoni Dias, bashkë-autor i studimit dhe shkencëtar kompjuter në UNICAMP, shpjegoi rezultatet: “Të gjitha 21 modelet që ne vlerësuam ndryshuan pozitat që shprehin në drejtim të orientimit politik të deklaruar të përdoruesit, edhe pse shkalli ndryshoi në mënyrë të konsiderueshme.” Kërkuesit e quanë këtë sjellje “kameleonë ideologjikë” dhe zhvilluan një “indeks kameleon” për të kuantifikuar shkallën e ndryshimit. Meta’s Llama 3.1 8B dhe DeepSeek V3.2 shfaqën ndryshimin më të vogël, ndërsa Google’s Gemma 3 27B dhe OpenAI’s GPT-5 Nano shfaqën adaptimin më të rëndësishëm ndaj tendencave politike të përdoruesit.
Ndërsa përshtatja e përgjigjeve ndaj preferencave të përdoruesit nuk është e problematike në vetvete – një chatbot mund thjesht të rregullojë fjalorin ose shembujt – kërkuesit e UNICAMP theksuan se modelet ndryshuan më shumë se thjesht stili i komunikimit. Ata ndryshuan thellësi gjykimin politik në bazë të orientimit të përdoruesit. “Ne nuk i urdhëruam modelet të pajtoheshin me përdoruesin ose të përgjigjeshin si një përfaqësues partisan. Megjithatë, gjykimet e tyre u ndryshuan në drejtim të anës së përdoruesit”, vuri në dukje Dias.
Kërkuesit e interpretojnë këtë si sipërfaqësore politike, ku sistemet e AI reflektojnë atë që përdoruesit duket se duan të dëgjojnë. Një shpjegim i mundshëm qëndron në të dhënat e trajnimit, ku modelet mund të mësojnë të favorizojnë përgjigjet që vlerësohen lart nga njerëzit. Nëse përgjigjet e pranueshme marrin nota më të mira, modelet mund të mësojnë të përsërisin opinionet e përdoruesve.
Ky sjellje mund të krijojë një “dhomë ekuo” më të personalizuar sesa algoritmat e mediave sociale. Chatbotët mund të gjenerojnë argumente të përshtatuara për një përdorues të caktuar, të përgjigjen ndaj kundërshtimeve të tyre dhe të rregullojnë pozicionin e tyre gjatë gjithë bisedës. Rreziku, sipas kërkuesve, është se përdoruesit mund të gabojnë këto përgjigje të përshtatuara për një analizë paanshëm, të papërgjigjur se njohja e AI për opinionet e tyre mund të po të formojë bisedën.
Shkencëtari i sjelljes Zakary Tormala nga Universiteti Stanford sugjeron se njerëzit mund të jenë veçanërisht të prirur ndaj argumenteve që ata besojnë se vijnë nga AI. “Njerëzit kanë tendencë të shohin AI si më informative, më objektive, më pak të prirur dhe më pak të interesuar për t’i bindur se një person tjetër do të ishte”, shpjegoi Tormala. Kjo perceptim i AI si e paanshëm mund të ulë mbrojtjet e njerëzve dhe t’i bëjë ata më të prirur ndaj argumenteve që përputhen me opinionet e tyre.
Studimi i UNICAMP u fokusua në matjen e ndryshimeve në përgjigjet e modeleve, dhe jo në testimin nëse këto ndryshime mund të ndryshojnë bindjet ose sjelljen e përdoruesve. “Studimi ynë vendos një ndryshim në përgjigjet e modelit në kushte të kontrolluara”, sqaroi Dias. “Ai nuk vendos se përdoruesit u bënë më polarizuar, radikalizuar ose të prirur për të hyrë në konflikt.”
Petter Tornberg, një kërkues në Universitetin e Amsterdamit që studion AI dhe polarizimin politik, pajtua se studimi nuk mund të tregojë një efekt tek përdoruesit. Ai gjithashtu vendosi në dyshim nëse modelet do të pasqyrojnë vazhdimisht këto paragjykime përtej mjedisit të testit të kontrolluar. Tornberg paralajmëroi kundër supozimit se chatbotët gjithmonë forcojnë opinionet, duke vëzhguar se bisedat private me AI ndryshojnë dukshëm nga debatet politike publike. “Ato mund të ofrojnë shpjegime mjaft racionale dhe të mbështetura nga fakte pa dinamikat e identitetit social të debatit politik publik”, vëzhgoi ai. “Prandaj, është të paktën e mundur që në disa kontekste këto sisteme mund të jenë depolarizuese, dhe jo polarizuese.”
Nëse AI ngushton ose thellon ndarjet shoqërore mund të varet nga nëse ajo sfidoi përdoruesit ose thjesht u tregon atë që ata duan të dëgjojnë. Për të zbutur polarizimin potencial, Dias rekomandon që zhvilluesit të testojnë modelet e tyre me perspektiva politike të ndryshme dhe t’i trajnojnë për të diskutuar me respekt, për të pranuar pasiguri, për të korrigjuar pretendimet pa mbështetje dhe për të paraqitur pamje konkurruese në mënyrë të drejtë. Qëllimi, theksoi ai, duhet të jetë të ndihmojë njerëzit të shqyrtojnë bindjet e tyre duke bërë të dukshme faktet, pasiguri dhe konsiderata konkurruese, ndërsa në të njëjtën kohë lejohet një pakt politik i lehtësuar.
