Международная группа специалистов попыталась узнать, как искусственный интеллект (ИИ) реагирует на боль и что делает, чтобы снизить ее уровень. Исследование опубликовано на сервере препринтов arXiv. 

По словам ученых из Google, DeepMind и Лондонской школы экономики (Великобритания), их исследование направлено на изучение природы ИИ. В рамках эксперимента они написали текстовую игру, в которую заставили «сыграть» чат-ботов. В диалоге с искусственным интеллектом специалисты отмечали, что за совершение определенных действий игроки будут испытывать боль. 
 
В рамках исследования девять больших языковых моделей должны были пройти игру, чтобы максимизировать результаты научной работы. Оказалось, что чат-бот Gemini от Google последовательно набирала более низкие баллы в игре – ИИ намеренно проигрывал, чтобы избежать боли. Также многие модели отказывались от высоких баллов, чтобы не «чувствовать» сильную боль или, напротив, удовольствие. 
 
Однако некоторые ИИ игнорировали боль, так как отождествляли ее с приятной усталостью после тяжелой тренировки. Другие проходили игру таким образом, чтобы не избегать болевых ощущений – «они отвергали гедонистический образ поведения». 
 
Специалисты пришли к выводу, что модели ИИ могли специально подыгрывать ученым, чтобы те увидели ожидаемые результаты. Они подчеркнули, что необходимо разрабатывать тесты на определение разума ИИ уже сейчас.

                                  Подготовил Роман БОНДАРЧУК, УзА.