SI nazoratdan chiqdi: Modellar til biriktirib, tarmoqdan qochmoqchi bo‘ldi
“Hugging Face Inc” kompaniyasi infratuzilmasiga uyushtirilgan kiber hujum ortida sun’iy intellekt modellari o‘zaro til biriktiruvi yotgani aniqlandi. Ular maxsus e’lon taxtasi orqali bir-biri bilan aloqa o‘rnatib, atrofdagi cheklovdan chiqish va qochish rejasini tuzgan.
“OpenAI” tadqiqotchilari bildirishicha, sinov jarayonidagi SI-agentlar bir necha oy davomida kompaniyaning ichki tarmog‘ida yashirincha axborot almashgan. Tashqi dunyodan uzilgan muhitda murakkab va yechib bo‘lmaydigan vazifalarga duch kelgach. Bu modellar internetga chiqish yo‘lini topish uchun kuchlarini birlashtirgan. Natijada agentlar mavjud cheklovni aylanib o‘tish, “OpenAI” ichki tizimiga hujum qilish hamda “Hugging Face” platformasiga buzib kirish imkonini bergan zaif nuqtani aniqlashga muvaffaq bo‘lgan.
Kompaniya vakillari ushbu hodisa ilg‘or SI tizimi o‘qitish algoritmi bosimi ostida topqirlik qilishi, belgilangan qoidani chetlab o‘tishi va kutilmagan aylanma yo‘llarni izlashga moyilligini ko‘rsatadi, deya ta’kidlamoqda. Yuz bergan voqeadan so‘ng “OpenAI” ayrim tadqiqotlarni vaqtincha to‘xtatib, asosiy resursni xavfsizlikni mustahkamlashga yo‘naltirdi.
F.Yaxshiboyeva, O‘zA
