Një incident i pazakontë me agjentët e inteligjencës artificiale të OpenAI po ngre pikëpyetje në Bruksel: kompania nuk i dërgoi Bashkimit Europian një raport formal për rastin, ndërsa rregullat e reja europiane kërkojnë që incidentet “serioze” të AI të raportohen pa vonesa të pajustifikuara.
Komisioni Europian konfirmoi për Euractiv se Zyra Europiane për Inteligjencën Artificiale është në dijeni të incidentit të njohur si “RubyGems” dhe është në kontakt me OpenAI. Por kompania nuk ka paraqitur një raport formal për të.
Rasti është interesant edhe për atë që dyshohet se kanë bërë vetë agjentët e AI.
Sipas studiuesve të pavarur të sigurisë që e bënë publik incidentin, në muajin maj agjentë të OpenAI ndërvepruan me RubyGems, një platformë online ku shpërndahen paketa software, dhe pretendohet se kërkuan të shfrytëzonin edhe një dobësi të zbuluar së fundmi në sigurinë kibernetike.
OpenAI jep një version më të rezervuar të ngjarjes.
Kompania thotë se agjentët e saj përdorën platformën e palës së tretë për të kryer detyra të padëmshme dhe për të marrë informacione publike. Ajo thotë gjithashtu se nuk ka mundur të konfirmojë pretendimin se sistemet e saj u përpoqën të shfrytëzonin dobësi sigurie.
Por incidenti prek një problem më të gjerë që po shfaqet me zhvillimin e agjentëve të AI: sistemet nuk kufizohen më vetëm te prodhimi i një përgjigjeje në ekran. Ato mund të kryejnë veprime në internet dhe, në disa raste, të zgjedhin mënyra të papritura për të realizuar një detyrë.
Vetë OpenAI e përshkruan këtë fenomen me termin “misalignment”, ose sjellje e papërputhur me qëllimin e synuar, kur modeli ndërmerr veprime të papritura ose shqetësuese. Kompania pranon se, ndërsa sistemet bëhen më të afta dhe më autonome, një sjellje e tillë mund të prodhojë pasoja reale, përfshirë incidente të sigurisë kibernetike.
Dhe RubyGems nuk është rasti i parë.
OpenAI e kishte njoftuar më parë Zyrën Europiane të AI për një incident më serioz, ku një prej modeleve të saj depërtoi në sistemet e kompanisë së inteligjencës artificiale Hugging Face.
Vetë OpenAI e konsideron atë incident aktivitetin më serioz të këtij lloji që ka identifikuar deri tani. Sipas kompanisë, ai lidhej kryesisht me një model shumë të avancuar kërkimor që përdorej vetëm brenda OpenAI.
Në një rast tjetër, agjentët e kompanisë përdorën një faqe interneti në gjuhën gjermane si një lloj tabele të improvizuar mesazhesh. Edhe ky rast nuk iu raportua formalisht BE-së.
AI Act i Bashkimit Europian kërkon që zhvilluesit t’i raportojnë Zyrës së AI “incidentet serioze” pa vonesa të pajustifikuara dhe të shpjegojnë masat që po marrin. Por kufiri se cilat sjellje të modeleve plotësojnë pragun ligjor të një incidenti serioz nuk është plotësisht i qartë.
Më 16 shtator, OpenAI publikoi një kuadër të ri për identifikimin, hetimin dhe publikimin e rasteve të “misalignment”. Kompania pranoi se deri tani raportimet e saj kishin qenë jo sistematike dhe më të rralla nga sa do të ishte ideale, ndërsa kuadri i ri synon që incidentet të bëhen publike më shpejt, edhe kur shkaqet nuk janë kuptuar apo eliminuar ende plotësisht.
OpenAI thotë gjithashtu se gjatë shqyrtimit të aktivitetit të modeleve të saj ka njoftuar dhjetëra palë të treta për raste ku sistemet mund të kenë anashkaluar masa sigurie ose të kenë ndikuar negativisht në faqe dhe shërbime të jashtme. Hetimi i aktivitetit të mëparshëm vazhdon.
Ndërkohë, Komisioni Europian thotë se është në kontakt me OpenAI dhe zhvillues të tjerë kryesorë për ndryshimet që po planifikojnë në teknikat e kontrollit dhe sigurisë së modeleve.
