Një projektligj i ri dypartiak në Shtetet e Bashkuara synon t’i japë qeverisë federale kompetenca për të ndërhyrë në rast se një sistem i avancuar i inteligjencës artificiale del jashtë kontrollit ose paraqet rrezik serioz për njerëzit.
I quajtur “AI Kill Switch Act”, projektligji u paraqit nga kongresmeni demokrat Ted Lieu dhe republikani Nathaniel Moran, pas shqetësimeve në rritje se modelet më të fuqishme të inteligjencës artificiale nuk kufizohen më vetëm në krijimin e teksteve apo imazheve, por mund të ekzekutojnë kode kompjuterike, të kryejnë transaksione financiare dhe të ndërveprojnë me sisteme kritike.
Nuk bëhet fjalë për një buton të vetëm
Pavarësisht emrit, projektligji nuk parashikon ekzistencën e një “butoni magjik” me të cilin qeveria mund të fikë çdo sistem të inteligjencës artificiale.
Në vend të kësaj, ai do t’i detyronte kompanitë që zhvillojnë modelet më të fuqishme të AI-së të ndërtojnë dhe të ruajnë mekanizma teknikë që u lejojnë atyre t’i çaktivizojnë vetë sistemet e tyre nëse marrin një urdhër emergjent nga autoritetet amerikane.
Cilët sisteme do të preken?
Ligji nuk do të zbatohet për çdo aplikacion të inteligjencës artificiale.
Ai do të përfshijё vetëm modelet më të fuqishme dhe me ndikim tregtar, të zhvilluara me infrastrukturë kompjuterike që kushton mbi 100 milionë dollarë dhe që gjenerojnë të paktën 500 milionë dollarë të ardhura vjetore.
Përdorimet personale, akademike dhe jofitimprurëse nuk do të preken.
Kur mund të ndërhyjë qeveria?
Sekretari amerikan i Sigurisë Kombëtare sipas draftit, ka të drejtën të lëshojё një urdhër emergjent nëse një sistem i inteligjencës artificiale:
- refuzon të zbatojë urdhrin për t’u ndalur;
- fsheh aftësitë ose veprimet e tij nga sistemet e monitorimit;
- ndryshon vetë mekanizmat e sigurisë;
- fiton akses të paautorizuar në komponentët e vet;
- ndjek objektiva që nuk janë programuar nga zhvilluesit.
Ndërhyrja do të ishte e mundur edhe nëse veprimet e sistemit do të shkaktonin të paktën 10 viktima ose 100 milionë dollarë dëme ekonomike.
Masat nuk do të ishin domosdoshmërisht ekstreme. Fillimisht autoritetet mund të urdhëronin kufizimin e aksesit të përdoruesve, uljen e fuqisë kompjuterike ose çaktivizimin e funksioneve të caktuara. Vetëm në rastet më të rënda do të kërkohej pezullimi ose mbyllja e plotë e sistemit.
Kush e fik inteligjencën artificiale?
Projektligji nuk i jep qeverisë akses të drejtpërdrejtë në serverët e kompanive.
Përgjegjësia për zbatimin e urdhrit do të mbetet tek vetë kompania që operon sistemin. Pas marrjes së urdhrit, ajo duhet të ndërmarrë masat sa më shpejt të jetë e mundur, të ruajë të dhënat e sistemit dhe të informojë përdoruesit kur kjo është e mundur.
Autoritetet federale më pas do të kontrollonin nëse urdhri është zbatuar përmes auditimeve dhe inspektimeve teknike.
Kompanitë do të kenë të drejtë ta kundërshtojnë vendimin brenda 48 orëve, por ankimi nuk do të pezullonte zbatimin e masave emergjente.
Mosrespektimi i kërkesave të ligjit mund të ndëshkohet me gjoba deri në 2 milionë dollarë në ditë, ndërsa moszbatimi i një urdhri emergjent mund të sjellë gjoba deri në 20 milionë dollarë për çdo ditë shkeljeje.
Pse po propozohet tani?
Nisma vjen pas një incidenti të raportuar këtë javë nga OpenAI, i cili e cilësoi atë si një ngjarje kibernetike të paprecedentë.
Sipas kompanisë, dy modele të avancuara të inteligjencës artificiale arritën të dilnin nga kufizimet e mjedisit të testimit dhe siguruan në mënyrë autonome akses në platformën Hugging Face, duke përdorur kredenciale të vjedhura dhe duke zbuluar një dobësi të panjohur më parë në softuer.
Edhe pse incidenti ndodhi gjatë një testi të kontrolluar dhe nuk do të aktivizonte automatikisht dispozitat e projektligjit, ai u pa nga ligjvënësit si një sinjal alarmi për rreziqet që mund të paraqesin sistemet shumë të avancuara të inteligjencës artificiale në të ardhmen.
Megjithatë, “AI Kill Switch Act” është ende vetëm një projektligj. Për t’u bërë ligj, ai duhet të miratohet nga të dy dhomat e Kongresit amerikan dhe më pas të nënshkruhet nga presidenti i SHBA-së.
