“Jailbreaker”-at e inteligjencës artificiale po vënë në provë rregullat e sigurisë së BE-së – dhe paralajmërimi vlen edhe për Shqipërinë
Inteligjenca artificiale po hyn në një fazë të re: nuk mjafton më të ndërtohen modele që dinë shumë; sfida është të sigurohemi se ato nuk bëjnë atë që nuk duhet të bëjnë.
Siç raporton Euractiv, një industri e re po zhvillohet rreth të ashtuquajturve “AI jailbreakers” – specialistë që përpiqen të manipulojnë modelet gjuhësore për t’i bërë ato të anashkalojnë mekanizmat e sigurisë. Qëllimi, në rastet legjitime, nuk është keqpërdorimi i AI-së, por zbulimi i dobësive përpara se ato të shfrytëzohen nga persona me qëllime kriminale.
Problemi është se modelet moderne nuk janë sisteme të thjeshta me rregulla të paracaktuara. Ato mësojnë nga sasi gjigante të të dhënave dhe reagojnë ndaj gjuhës njerëzore. Pikërisht kjo i bën të fuqishme – por edhe potencialisht të manipulueshme. Një përdorues i aftë mund të ndërtojë një kërkesë të tillë që sistemi të “harrojë” përkohësisht kufizimet e veta dhe të japë përgjigje që normalisht do t’i refuzonte.
Për ta bërë AI-në më të sigurt, duhet të ketë njerëz që përpiqen ta bëjnë atë të pasigurt.
Kjo logjikë ka rëndësi të veçantë për Evropën, e cila po përpiqet të ndërtojë një regjim ligjor për inteligjencën artificiale që kombinon inovacionin me sigurinë, transparencën dhe përgjegjësinë. Por asnjë rregullore nuk mund të jetë më e fortë se teknologjia dhe institucionet që e zbatojnë atë.
Po Shqipëria?
Ndërsa institucionet publike po përfshijnë gjithnjë e më shumë sisteme digjitale dhe AI në administratë, drejtësi, arsim, shëndetësi dhe shërbime publike, janё disa ҫёshtje qё meritojnё vёmendje tё shtuar.
Kush e kontrollon? Kush e teston? Kush mban përgjegjësi kur gabon? Dhe kush kontrollon kontrolluesin?
Një administratë që përdor AI për të analizuar dokumente, për të klasifikuar qytetarë, për të zbuluar mashtrime apo për të asistuar vendimmarrjen, pa pasur mekanizma të pavarur testimi, auditimi dhe apelimi, rrezikon të automatizojë jo vetëm efikasitetin, por edhe gabimin.
Në një vend ku transparenca institucionale, mbrojtja e të dhënave dhe përgjegjësia administrative ende kanë boshllëqe të konsiderueshme, AI-ja nuk duhet të shndërrohet në një “kuti të zezë” që merr vendime në emër të shtetit pa mundësinë për t’i kundërshtuar ato.
Prandaj, debati shqiptar për inteligjencën artificiale duhet të largohet nga entuziazmi sipërfaqësor për “digjitalizimin” dhe të kalojë te çështja më serioze: siguria, përgjegjësia dhe kontrolli i pushtetit teknologjik.
Rreziku më i madh nuk është se një ditë AI-ja do të bëhet më e zgjuar se ne.
Rreziku është që ne t’i japim asaj kompetenca më të mëdha se mekanizmat tanë për ta kontrolluar atë.
