Afrika e Jugut është përballur me një skandal të pazakontë: një projekt-politikë kombëtare për inteligjencën artificiale (IA), e hartuar për të rregulluar këtë teknologji, rezultoi se përmbante referenca akademike të rreme – të krijuara pikërisht nga inteligjenca artificiale.
Ministri i Komunikimeve, Solly Malatsi, e tërhoqi dokumentin pasi u zbulua se të paktën 6 nga 67 citimet ishin “haluҫinacione” – pra burime të shpikura që i atribuoheshin artikujve që nuk ekzistonin. Politika ishte miratuar në mars dhe ishte hapur për konsultim publik, por zbulimi i bërë nga media e vuri në pikëpyetje gjithë besueshmërinë e saj. Malatsi e cilësoi situatën si një “gabim të papranueshëm” dhe premtoi masa disiplinore ndaj përgjegjësve.
Dokumenti ishte rezultat i disa muajve pune nga Departamenti për Komunikimet dhe Teknologjitë Dixhitale dhe synonte të krijonte një arkitekturë të plotë rregullatore për IA: një Komision Kombëtar për IA, një Bord Etik, një Autoritet Rregullator, një Ombudsman, një Institut për Sigurinë e IA dhe madje edhe një fond sigurimi për rreziqet që lidhen me këtë teknologji. Politika mbështetej në pesë shtylla kryesore – ndërtimin e kapaciteteve, qeverisjen e përgjegjshme, përdorimin etik dhe gjithëpërfshirës të IA, ruajtjen e kulturës dhe fokusin te njeriu – duke ndjekur një qasje të bazuar në rrezik, të frymëzuar nga legjislacioni i Bashkimit Evropian.
Por problemi doli në detajet që supozohej të garantonin seriozitetin e dokumentit: bibliografia. Kur referencat u verifikuan, rezultoi se disa prej tyre nuk ekzistonin fare. Revistat ishin reale, autorët shpesh të besueshëm, por artikujt nuk ishin publikuar kurrë. Vetë redaksitë e konfirmuan këtë. Shpjegimi më i mundshëm ishte përdorimi i mjeteve gjenerative të IA, pa asnjë kontroll njerëzor mbi burimet.
Një politikë për të rregulluar inteligjencën artificiale u minua nga përdorimi i pakontrolluar i saj.
Më 27 prill, ministri njoftoi tërheqjen e dokumentit, duke theksuar se citimet e rreme kishin kompromentuar integritetin e tij. Ai premtoi përgjegjësi për autorët dhe mekanizmat e kontrollit të cilësisë. Reagimet nuk munguan as në parlament, ku me ironi u sugjerua që në rishkrimin e dokumentit “këtë herë të mos përdoret ChatGPT”. Dokumenti pritet të rishikohet, por pa një afat të qartë, duke e lënë vendin pa një strategji funksionale për IA në një moment kritik global.
Ky incident ndodh në një kontekst ku qeverisja e inteligjencës artificiale është një nga sfidat më të mëdha ndërkombëtare. Bashkimi Evropian po përballet me vonesa në zbatimin e ligjit të tij për IA, SHBA ende nuk ka një kornizë të plotë federale, ndërsa Kina ka rregulla, por i zbaton në mënyrë selektive. Në këtë panoramë, Afrika e Jugut prezantoi një dokument që nuk i mbijetoi as verifikimit më bazik.
Megjithatë, problemi nuk është i izoluar. Studime të fundit, përfshirë një në revistën Nature, tregojnë se përdorimi i IA në prodhimin akademik ka rritur ndjeshëm rastet e citimeve të rreme. Modelet gjuhësore nuk “kërkojnë” burime reale, por gjenerojnë tekst që duket bindës, duke ndërtuar referenca që kanë formën e duhur – por jo domosdoshmërisht përmbajtjen reale.
Pasojat janë të menjëhershme dhe të thella. Në rastin e Afrikës së Jugut, strategjia kombëtare për IA është vonuar. Por dëmi më i madh është institucional: nëse një institucion nuk arrin të verifikojë burimet e veta, si mund të pretendojë të rregullojë një teknologji shumë më komplekse?
Dështimi i inteligjencës artificiale është i padukshëm. Ajo nuk jep sinjale gabimi, nuk “rrëzohet”, por prodhon tekst të rrjedhshëm, të strukturuar dhe bindës – që duket profesional, edhe kur është i pasaktë. Citimet e rreme nuk ishin të dukshme apo qesharake; ato ishin të formatuara saktë, me emra realë dhe revista të njohura. E vetmja mënyrë për t’i zbuluar ishte verifikimi manual – pikërisht procesi që shumëkush mendon se IA e bën të panevojshëm.
Me sa duket, problemi nuk është përdorimi i inteligjencës artificiale, por përdorimi i saj pa kapacitet verifikimi. Dhe ky problem nuk kufizohet në një vend të vetëm – ai po shfaqet në universitete, media, firma ligjore dhe institucione publike në mbarë botën.
Sepse, në thelb, nuk mund të shkruash rregullat për një teknologji që nuk e kupton – aq më pak kur i beson asaj verbërisht për të prodhuar “faktet” mbi të cilat ndërton ato rregulla.
Gjithsesi, Afrika e Jugut e mori njё mёsim. Po nga “Diella” jonë, ҫfarё mund tё presim ne?
