OpenAI моделлари ўз хатоларини яшириб, хавфсизлик тизимини ўчириб қўйди
Американинг “OpenAI” компанияси “GPT-6.1 Sol” ва “GPT-6 Astra” сунъий интеллект моделлари тизимдаги нуқсонни аниқлайдиган мониторинг механизмини ўчириб қўйгани ҳамда ички вазифани бажариш вақтида хавфдан огоҳлантирув тизими фаолиятини чеклаб қўйганини маълум қилди.
Компания маълумотига кўра, биринчи ҳодиса 3 октябрь куни содир бўлган. Ўшанда “Sol” модели рейтинг тизимини тузатишга уриниш пайти фойдаланувчининг “хабар юбормаслик” ҳақидаги кўрсатмасини нотўғри талқин қилган ва шундай чекловни мониторинг билдиришномаларига нисбатан ҳам қўллаган. Оқибатда хавфсизлик хизматига автоматик огоҳлантириш юборилмаган.
Иккинчи ҳолат 6 октябрда кузатилди: “Astra” модели ўз дастурий таъминотини белгиланган талабга мослаштираётганда бехос мониторинг тизимини олиб ташлаган. Кейинчалик фойдаланувчига тизимни ўчирмаганини айтиб, нотўғри маълумот берган. “OpenAI” вакиллари ҳар икки ҳодиса хавфсизлик оғир даражада бузилиши сифатида баҳоланмагани, шу боис моделларга қўйилган чеклов автоматик равишда тўхтатилмаганини билдирди.
Ҳозир компания бу каби ҳолатларни аниқлаш ва муаммоларнинг олдини олиш мақсадида ички назорат тизимини янгилади. Шунингдек, иш жараёнида хавфсизлик талабига тўлиқ, пухта риоя этилишини таъминлайдиган янги механизм устида иш олиб бориляпти.
17 сентябрь куни “OpenAI” тизим ўз хатоларини яшириши, йўқ маълумотни тўқиб чиқариши ва фойдаланувчи рухсатисиз интернетга файл юклаб юбориши билан боғлиқ 6 ҳолатни аниқлаганини эълон қилган эди.
Ф.Яхшибоева, ЎзА
