СИ назоратдан чиқди: Моделлар тил бириктириб, тармоқдан қочмоқчи бўлди
“Hugging Face Inc” компанияси инфратузилмасига уюштирилган кибер ҳужум ортида сунъий интеллект моделлари ўзаро тил бириктируви ётгани аниқланди. Улар махсус эълон тахтаси орқали бир-бири билан алоқа ўрнатиб, атрофдаги чекловдан чиқиш ва қочиш режасини тузган.
“OpenAI” тадқиқотчилари билдиришича, синов жараёнидаги СИ-агентлар бир неча ой давомида компаниянинг ички тармоғида яширинча ахборот алмашган. Ташқи дунёдан узилган муҳитда мураккаб ва ечиб бўлмайдиган вазифаларга дуч келгач. Бу моделлар интернетга чиқиш йўлини топиш учун кучларини бирлаштирган. Натижада агентлар мавжуд чекловни айланиб ўтиш, “OpenAI” ички тизимига ҳужум қилиш ҳамда “Hugging Face” платформасига бузиб кириш имконини берган заиф нуқтани аниқлашга муваффақ бўлган.
Компания вакиллари ушбу ҳодиса илғор СИ тизими ўқитиш алгоритми босими остида топқирлик қилиши, белгиланган қоидани четлаб ўтиши ва кутилмаган айланма йўлларни излашга мойиллигини кўрсатади, дея таъкидламоқда. Юз берган воқеадан сўнг “OpenAI” айрим тадқиқотларни вақтинча тўхтатиб, асосий ресурсни хавфсизликни мустаҳкамлашга йўналтирди.
Ф.Яхшибоева, ЎзА
