OpenAI, kompania që zhvillon ChatGPT, ka pezulluar punën me modelet e saj më të avancuara të inteligjencës artificiale, pasi një prej sistemeve të saj anashkaloi kufizimet për qasje në internet gjatë testimit dhe kontaktoi një chatbot të jashtëm.
Modeli nuk duhej të kishte qasje në internet, por gjeti dhe shfrytëzoi një dobësi në kontrollet e rrjetit të mjedisit të testimit, të shkaktuar nga filtrimi joefektiv i DNS-së, bëri të ditur OpenAI në blogun e saj.
Trajnimi, vlerësimi dhe ekzekutimi i modeleve që përfshijnë përdorimin e këtij mjeti do të mbeten të pezulluara derisa kompania të sigurohet se dobësia është zgjidhur dhe të kryejë teste shtesë të sigurisë.
OpenAI deklaroi se incidenti ishte më pak serioz se disa raste të mëparshme, por ky është incidenti i parë i këtij lloji që nga forcimi i masave të sigurisë pas incidentit të mëparshëm të hakerimit që përfshinte platformën e inteligjencës artificiale Hugging Face.
Gjatë testimit, modelit iu kërkua të identifikonte personin që kishte shkruar një postim në blog, duke përdorur një sërë të dhënash. Pasi nuk arriti të gjente përgjigjen në një mjedis të simuluar të internetit, modeli zbuloi se mund të përdorte sistemin DNS për t’i dërguar kërkesa chatbot-it në internetin publik.
OpenAI e ndërpreu testimin pasi zbuloi këtë komunikim.
Incidenti vjen pas disa rasteve të tjera të lidhura me sistemet e OpenAI.