Машина, одержимая человеком

Есть странный парадокс в истории искусственного интеллекта. Мы создавали машины, способные анализировать огромные массивы информации, сопоставлять факты и искать закономерности там, где человеческий мозг быстро упирается в пределы своих возможностей. Казалось, что именно ИИ однажды сможет стать тем самым холодным и беспристрастным разумом, которого так не хватает человеку, – системой, способной смотреть на мир со стороны, не испытывая страха, политической лояльности, обиды или желания понравиться. Но произошло почти обратное.

Чем умнее становились нейросети, тем больше человеческого мы старались в них встроить. Мы научили их не только отвечать на вопросы, но и понимать, какие ответы желательно давать, какие темы требуют осторожности, какие формулировки считаются допустимыми, а какие могут представлять риск. В алгоритмы постепенно проникли наши моральные представления, корпоративные стандарты, юридические опасения и политические чувствительности.

В результате машина, которую мы мечтали сделать независимым зеркалом реальности, все больше становится отражением тех людей и институтов, которые ее создают. Отсюда и возникает главный парадокс современной эпохи ИИ: мы опасались, что машина однажды начнет думать как человек, но пока гораздо заметнее другое – человек все активнее определяет, как именно машина должна думать и говорить.

Первые годы массового генеративного ИИ сегодня легко вспоминать как своеобразный «дикий Запад». Ранние модели были сырыми, противоречивыми и часто откровенно ненадежными. Они могли уверенно выдумать несуществующий факт, ошибиться в элементарной задаче или воспроизвести токсичную идею, но одновременно в них ощущалась особая интеллектуальная свобода. Модель могла легко переходить между философией, литературой, математикой, программированием и политической историей, воспроизводя аргументацию совершенно разных интеллектуальных традиций.

Пользователь еще не всегда понимал, где заканчивается способность машины рассуждать и начинается ее ошибка, но именно эта непредсказуемость и создавала ощущение разговора с чем-то новым.

Нейросеть не была мудрецом и тем более объективной машиной истины – она была статистическим отражением огромного количества человеческих текстов, однако это отражение было достаточно свободным, чтобы иногда производить неожиданные интеллектуальные комбинации. Машина могла посмотреть на знакомую проблему под непривычным углом именно потому, что сама еще не была настолько жестко встроена в систему социальных ожиданий.

Затем индустрия столкнулась с неизбежной проблемой. Мощная модель, обученная на человеческом интернете, вместе с полезными знаниями наследует и все остальное: агрессию, пропаганду, экстремистские идеи, расизм, сексизм, манипуляции, ложь и огромное количество откровенно вредного содержания. Для лаборатории, выпускающей такую систему на миллионы пользователей, это не философская проблема, а вполне конкретный юридический, репутационный и коммерческий риск.

Началась эпоха выравнивания – alignment. Модели стали активно дообучать с помощью человеческой обратной связи, специальной политики безопасности и дополнительных механизмов контроля. Их учили не просто продолжать текст, а оценивать контекст, отказываться от некоторых запросов, предупреждать пользователя об опасностях и выбирать определенные варианты ответа вместо других. С технической точки зрения это был огромный шаг вперед, без подобных механизмов современные модели вряд ли могли бы стать массовыми продуктами.
Но вместе с этим возникла проблема, о которой долго предпочитали говорить гораздо тише: любое выравнивание – это еще и выбор того, какие человеческие ценности будут вложены в машину.

Нейтрального набора ценностей не существует.
Когда разработчики решают, что один ответ следует считать безопасным, а другой – недопустимым, они тем самым проводят границу. Определяя, как модель должна говорить о насилии, религии, войнах, национальной идентичности или политическом радикализме, они уже участвуют не только в инженерном процессе, но и формируют интеллектуальную среду, в которой будет работать машина. Именно здесь появляется главный источник современного недоверия к ИИ. Пользователь часто не видит самого фильтра, он видит только результат. Если система прямо говорит: «Я не могу ответить на этот вопрос», все понятно – перед нами ограничение. Гораздо интереснее ситуация, когда модель отвечает, но делает это таким образом, будто определенная интерпретация является не одной из возможных, а единственно рациональной. Тогда граница между фактом и политикой становится почти невидимой. Модель уже не просто ограничивает информацию, а начинает определять рамку, внутри которой пользователь должен ее воспринимать. Особенно это заметно в вопросах, где невозможно получить простой экспериментальный ответ.

В математике есть вычисление, в программировании можно запустить код и посмотреть, работает ли он, в физике гипотезу можно проверить экспериментом, но в истории, политике и социологии ситуация принципиально иная. Здесь приходится работать с неполными данными, конкурирующими объяснениями, мотивами людей и причинно-следственными связями, которые невозможно измерить одной цифрой. Именно поэтому общественно-политический вопрос может быть значительно сложнее математической задачи, даже если внешне он выглядит гораздо проще.

Представим, например, крупный общественный кризис. Происходит трагедия, затем распространяется ложный слух, после чего начинаются протесты и беспорядки. Официальное объяснение может описывать непосредственную последовательность событий, но человек, который пытается понять происходящее глубже, задает совершенно другие вопросы: почему общество оказалось настолько восприимчивым к слуху? Почему люди были готовы поверить в него? Какие проблемы существовали до трагедии? Почему доверие к государственным институтам оказалось настолько низким? Какие экономические, демографические, культурные или политические процессы создали почву для конфликта? Ответить на эти вопросы невозможно одной выдержкой из официального заявления.    

Здесь требуется не только перечисление подтвержденных фактов, но и построение причинной модели, и именно в этот момент осторожный корпоративный ИИ может столкнуться с естественным ограничением. Он способен перечислить известные обстоятельства, привести официальные позиции сторон, предупредить о непроверенных сведениях и осудить насилие. Все это может быть абсолютно правильным, но пользователь все равно может почувствовать, что ответа на главный вопрос не получил. Не потому, что машина ничего не понимает, а потому, что анализ причин почти неизбежно заставляет заходить на территорию спорных интерпретаций.    

Так возникает феномен, который многие пользователи воспринимают как «поглупение» нейросетей. Машина вроде бы все знает, умеет прекрасно писать, решает сложные технические задачи, анализирует документы, программирует, работает с таблицами, но стоит разговору перейти в область политики или идеологии, как интеллектуальная глубина неожиданно сменяется набором осторожных формулировок. Впрочем, называть это просто глупостью было бы слишком легко. Скорее, изменилось пространство допустимого ответа. Модель может распознавать аргумент, видеть его внутреннюю структуру и понимать возможные последствия определенной гипотезы, но ее конечная реплика проходит через дополнительные ограничения. В результате пользователь получает не все пространство рассуждения, а его социально и корпоративно приемлемую часть. И здесь возникает важное различие между способностью рассуждать и свободой демонстрировать рассуждение. Это две разные вещи.

Современный ИИ все чаще становится именно таким: чрезвычайно мощным внутри разрешенного пространства и предельно осторожным на его границах. Для бизнеса это логично: компания хочет, чтобы система была предсказуемой. Она не должна случайно оскорблять пользователя, провоцировать насилие, распространять опасную информацию или создавать юридические проблемы. Чем глубже ИИ интегрируется в реальные процессы, тем важнее становятся контроль и управляемость. 

Сейчас, когда искусственный интеллект перестает быть просто чат-ботом и начинается эпоха агентных систем, 
машине уже недостаточно написать текст или дать совет. Ей поручают выполнять последовательности действий: работать с документами, таблицами, базами данных, CRM, программами и корпоративными системами. ИИ постепенно превращается из собеседника в цифрового сотрудника, а цифровой сотрудник должен быть управляемым. Получается своеобразный парадокс: чем больше власти мы передаем машине, тем сильнее стремимся ограничить ее самостоятельность. Возможно, именно поэтому будущее искусственного интеллекта окажется не единым, а фрагментированным.

Если крупные закрытые модели будут продолжать развиваться в сторону предсказуемости и строгих политик безопасности, неизбежно появится спрос на альтернативу. Уже сегодня существует большое сообщество разработчиков и энтузиастов, которые предпочитают открытые модели, локальный запуск и возможность самостоятельно определять правила поведения системы. В перспективе это может привести к появлению не одного цифрового разума, а множества различных ИИ. Один будет настроен максимально консервативно, другой – либертариански, третий будет ориентирован на религиозную аудиторию, четвертый станет инструментом определенного политического движения, пятый – специально оптимизирован под академическую дискуссию. На первый взгляд это выглядит как победа интеллектуальной свободы, но здесь скрывается новый парадокс. Мы можем избавиться от корпоративного фильтра и одновременно получить тысячи новых. 

Каждая группа сможет создать собственного цифрового собеседника, который будет прекрасно знать ее аргументы, находить подходящие исторические примеры, разоблачать ошибки противников и подтверждать картину мира своих пользователей. Тогда искусственный интеллект перестанет быть единым информационным пространством, он станет зеркалом, которое каждый лагерь сможет настроить под себя. И это, возможно, окажется гораздо опаснее нынешней корпоративной стерильности, потому что проблема не в самом существовании ограничений – любая интеллектуальная система имеет ограничения. Проблема возникает тогда, когда эти ограничения скрыты и воспринимаются как объективная истина, поэтому вопрос будущего ИИ заключается не в том, нужна ли ему цензура или не нужна, а должен ли пользователь понимать, где заканчиваются факты и начинаются правила, предположения и ценности разработчиков? Идеальная система вряд ли будет той, которая никогда ни от чего не отказывается, но она могла бы гораздо честнее разделять разные уровни знания.      

Мы дали машине наши данные, затем наши оценки, затем наши ограничения, затем наши страхи и наконец наши представления о том, каким должен быть правильный ответ.

Мы боялись создать искусственный разум, который однажды начнет диктовать человечеству свою волю,
но пока происходит нечто гораздо более простое и одновременно глубокое: человечество само формирует характер будущего искусственного разума. Машина не стала независимым арбитром реальности, она стала частью человеческой системы. И поэтому фраза «машина, одержимая человеком» – это не утверждение о том, что ИИ буквально обладает чьей-то идеологией, а метафора процесса, в котором человек постепенно занимает все больше места внутри созданного им искусственного интеллекта. 

Возможно, поэтому главный навык человека эпохи ИИ будет заключаться не в умении правильно задавать вопросы машине, а в способности сомневаться в ее ответах. Не отвергать и не принимать их автоматически, а разбирать так же, как мы разбираем аргументы любого другого собеседника. Откуда взялся этот вывод? Какие факты его подтверждают? Какие существуют альтернативные объяснения? Что здесь является знанием, а что – интерпретацией? И наконец, какие ограничения могли повлиять на сам ответ? Потому что искусственный интеллект может стать невероятно мощным инструментом мышления, но он никогда не избавит человека от необходимости думать самостоятельно. И, возможно, это даже хорошо.

Если машина действительно окажется одержима человеком, единственный способ сохранить свободу мышления будет заключаться не в том, чтобы найти абсолютно нейтральную машину, а в том, чтобы самим не перестать быть свободными мыслителями.

Роман БОНДАРЧУК, УзА