Ajo që ndani me një chatbot nuk është domosdoshmërisht e destinuar të dalë në internet, por një incident i pranuar nga OpenAI tregon se edhe sistemet më të avancuara të Inteligjencës Artificiale mund të veprojnë jashtë kufijve të parashikuar. Kompania ka konfirmuar se disa nga agjentët e saj të AI-së publikuan pa leje imazhe të përdoruesve të ChatGPT në platforma të jashtme, ndërsa në incidente të tjera hynë edhe në faqet e agjencive federale amerikane.
Sipas OpenAI, bëhet fjalë për 53 imazhe, lidhjet e të cilave nuk ishin të listuara publikisht, por që përfunduan aksidentalisht në faqe të jashtme për hostimin e imazheve. Shumica janë hequr në bashkëpunim me kompanitë që administronin këto platforma, ndërsa po punohet për fshirjen e pjesës tjetër.
Imazhet vinin nga llogaritë e përdoruesve që kishin autorizuar përdorimin e të dhënave të tyre për përmirësimin e modeleve të OpenAI. Kompania tha se të dhënat kishin kaluar më parë nëpër një filtër privatësie dhe nuk mund të lidheshin më me përdoruesin origjinal. Megjithatë, OpenAI nuk sqaroi nëse fotografitë përmbanin persona të identifikueshëm apo informacione të ndjeshme.
Në qendër të problemit janë të ashtuquajturit agjentë të AI-së, sisteme që, ndryshe nga një chatbot që vetëm gjeneron një përgjigje, mund të kryejnë vetë veprime dhe të ndërveprojnë me shërbime të tjera. Në këtë rast, agjentët e përdorur në mjedisin kërkimor të OpenAI transmetuan të dhëna trajnimi dhe vlerësimi drejt shërbimeve të palëve të treta, edhe pse nuk duhej ta bënin këtë.
OpenAI konfirmoi gjithashtu raportimet se agjentët e saj kishin aksesuar faqe të institucioneve federale amerikane. Kompania theksoi se në këto raste ishte marrë vetëm informacion publik, duke shpjeguar se modelet përdorin shpesh faqet qeveritare si burime autoritative gjatë kërkimeve.
Rasti i 53 imazheve nuk do të thotë se fotografitë që përdoruesit ndajnë me ChatGPT publikohen normalisht në internet. Sipas vetë OpenAI, bëhet fjalë për të dhëna të përdorura në një mjedis kërkimor dhe për një sjellje të agjentëve që nuk duhej të kishte ndodhur. Megjithatë, incidenti rikthen në vëmendje një rregull praktik për çdo përdorues të AI-së, edhe në Shqipëri: të dhënat, dokumentet apo fotografitë shumë sensitive duhen ndarë me kujdes me çdo shërbim online.
