Российские исследователи разработали два подхода, которые позволяют улучшать качество работы систем ИИ при подготовке запросов для поиска информации в базах данных и помогающих большим языковым моделям более точно оценивать собственную уверенность в корректности этих запросов.

Данные алгоритмы улучшат качество работы ИИ с узкоспециализированными базами данных. Об этом со ссылкой на Институт искусственного интеллекта AIRI сообщило информационное агентство «ТАСС».

«Комбинация методов калибровки и использование внешних классификаторов радикально повышают надежность языковых ИИ для генерации кода под конкретные задачи. Это критически важно для областей, где цена ошибки высока, а использование ИИ-инструментов должно оставаться полностью подконтрольным специалисту», - пояснил научный сотрудник AIRI Олег Сомов.

Как отмечают исследователи, специалисты в области IT сейчас активно разрабатывают системы ИИ, способные преобразовать просьбы их пользователей в SQL-запросы, нацеленные на извлечение нужной человеку информации из баз данных. Эти алгоритмы хорошо справляются с составлением запросов на общечеловеческие темы, тогда как при работе с данными из узких областей знаний они часто совершают ошибки.

Российские ученые заинтересовались тем, можно ли научиться выявлять подобные ошибки в работе ИИ для составления SQL-запросов и предупреждать пользователя о возможных проблемах. 

При проведении опытов ученые обучили системы ИИ таким образом, что они выдавали примерно 60-70 процентов правильных и около 30 процентов ошибочных SQL-запросов. Опираясь на результаты тестов, исследователи разработали два подхода - внешний классификатор и оценку калиброванности, которые позволяют пользователю понять, насколько можно доверять результатам работы ИИ. Комбинация этих подходов позволяет отсеять до 90 процентов ошибочных запросов, сгенерированных большими языковыми моделями.

Подготовил Роман БОНДАРЧУК, УзА