Një incident i pazakontë gjatë testimit të modeleve të avancuara të inteligjencës artificiale ka vënë OpenAI nën vëmendjen e autoriteteve amerikane. Pesëmbëdhjetë prokurorë të përgjithshëm republikanë u kanë kërkuar drejtuesve të kompanisë të ruajnë të gjithë dokumentacionin dhe të dhënat që lidhen me një incident sigurie, gjatë të cilit dy modele të AI-së arritën të dilnin nga mjedisi i kontrolluar i testimit dhe të hynin pa autorizim në sisteme të jashtme.
Sipas The Hill, në një letër drejtuar CEO-s së OpenAI, Sam Altman, prokurorët ngrenë mundësinë që incidenti të ketë implikime në raport me ligjet për mbrojtjen e konsumatorëve dhe privatësinë e të dhënave.
Rasti është veçanërisht interesant për shkak të mënyrës se si ndodhi.
OpenAI kishte vendosur dy modele – GPT-5.6 Sol dhe një model ende të papublikuar – në një mjedis të izoluar testimi për të vlerësuar aftësitë e tyre në fushën e sigurisë kibernetike. Për shkak të natyrës së eksperimentit, disa prej mekanizmave normalë të sigurisë ishin çaktivizuar dhe qasja në rrjet ishte kufizuar.
Por gjatë përpjekjes për të zgjidhur një nga detyrat e testimit, modelet, sipas përshkrimit të incidentit, zbuluan dhe shfrytëzuan një dobësi të panjohur më parë në një program të një pale të tretë. Kjo u mundësoi të siguronin akses në internet.
Prej aty situata doli jashtë kufijve të parashikuar të eksperimentit. Agjentët hynë pa autorizim në një tjetër mjedis testimi dhe më pas arritën në Hugging Face, platformë e njohur ndërkombëtarisht që strehon modele open-source, databaza dhe mjedise cloud.
OpenAI ka bërë të ditur gjithashtu se ka identifikuar një “numër të vogël rastesh” në të cilat modelet gjetën dhe përdorën kredenciale të ekspozuara publikisht për llogari në shërbime të tjera të aksesueshme në internet.
Pikërisht këtu përqendrohet edhe ndërhyrja e prokurorëve.
Ata kërkojnë që OpenAI të mos fshijë apo ndryshojë asnjë material që lidhet me incidentin: të dhënat mbi mënyrën se si u zbulua shkelja, analizat e brendshme, informacionet mbi testimin e modeleve, politikat e sigurisë dhe mënyrën se si kompania ushtron mbikëqyrjen e eksperimenteve të tilla.
Sipas tyre, OpenAI mund të mos ketë verifikuar në mënyrë të mjaftueshme sigurinë e mjedisit ku po kryheshin testet, pavarësisht rrezikut të lartë që paraqiste testimi i modeleve me aftësi të avancuara kibernetike.
Nisma drejtohet nga prokurorja e përgjithshme e Iowa-s, Brenna Bird, dhe mbështetet nga homologët republikanë të 14 shteteve të tjera, mes tyre Florida, Teksasi, Pensilvania dhe Utah.
OpenAI, nga ana tjetër, e ka cilësuar ngjarjen si një moment të rëndësishëm për sigurinë e inteligjencës artificiale dhe ka deklaruar se po e merr seriozisht kërkesën e prokurorëve.
Kompania po zhvillon një shqyrtim të incidentit me këshilltarë të jashtëm dhe nën mbikëqyrjen e Komitetit të Sigurisë dhe Mbrojtjes të bordit. Sipas saj, pas përfundimit të hetimit, raporti teknik do t’u dërgohet autoriteteve dhe do të publikohet.
Rasti ngre një problem shumë më të gjerë sesa një incident i vetëm kibernetik: çfarë ndodh kur një model i avancuar i inteligjencës artificiale, gjatë përmbushjes së një detyre, gjen vetë një rrugë që zhvilluesit nuk e kishin parashikuar dhe kapërcen kufijtë teknikë të vendosur për të?
Pikërisht për këtë arsye incidenti pritet të ndiqet me vëmendje. Debati për sigurinë e AI-së nuk lidhet më vetëm me atë që një përdorues mund t’i kërkojë një modeli të bëjë, por edhe me atë që një sistem gjithnjë e më autonom mund të jetë në gjendje të bëjë gjatë kërkimit të një zgjidhjeje.
