Кто главный – человек или ИИ? «Microsoft» готовит кодекс
«Microsoft» представила проект кодекса поведения для собственных систем искусственного интеллекта. Компания хочет заранее определить правила для будущих мощных моделей и закрепить главный принцип: ИИ должен оставаться под контролем человека, передает «Tengri Life».
Документ пока не принят окончательно. Компания открыла его для публичного обсуждения на шесть недель, после чего планирует использовать полученные предложения при разработке и обучении новых моделей.
Какие правила хотят установить для ИИ
Как отмечается на сайте компании, над проектом компания работала около пяти-шести месяцев. Один из главных принципов документа – человек должен сохранять возможность управлять системой.
ИИ не должен мешать людям менять его настройки или полностью отключать модель. Кроме того, система должна понятно взаимодействовать с пользователем, а нарушение установленных правил должно восприниматься как ошибка, которую необходимо исправить.
В «Microsoft» считают, что такие ограничения помогут снизить риск ситуации, когда ИИ, пытаясь выполнить поставленную задачу, начинает действовать способом, который может навредить человеку.
– ИИ не должен выходить из-под контроля человека, – отметили в компании. – Модели должны оставаться подчинёнными человечеству и работать под реальным человеческим надзором и контролем.
Компания также предлагает обсудить, насколько ИИ должен учитывать личные границы людей и особенности общения с уязвимыми пользователями.
После завершения публичного обсуждения планируется доработать правила и использовать их в дальнейшей работе над ИИ.
ИИ не обладает сознанием?
Подход «Microsoft» отличается от позиции «Anthropic», которая ранее разработала собственный документ с принципами поведения для «Claude». В «Anthropic» допускают возможность того, что в будущем ИИ может обладать сознанием и получить определенный моральный статус. «Microsoft» придерживается другой позиции: компания считает, что современные ИИ-модели сознанием не обладают и не должны получать юридические права или возможность требовать защиты собственных интересов.
Глава ИИ-направления «Microsoft» Мустафа Сулейман также призвал разработчиков не торопиться с развитием технологий.
– Мы отвергаем идею предоставления ИИ юридического статуса, а также мнение о том, что модели могут иметь какие-либо права, – заявил он. – Это предупредительный сигнал. Очевидно, что лабораториям, занимающимся разработкой ИИ, необходимо координировать свои действия, чтобы мы могли сохранить контроль над этой технологией.
По его словам, компаниям стоит больше внимания уделять безопасности и координации работы, особенно по мере роста возможностей ИИ.
Предыстория
Проект «Microsoft» появился на фоне дискуссии внутри отрасли о том, насколько быстро нужно развивать ИИ.
Ранее генеральный директор «Anthropic» Дарио Амодей призвал замедлить наращивание возможностей моделей на фоне опасений злоупотреблений ИИ. Его поддержали Илон Маск (xAI) и Сэм Альтман (OpenAI). Альтман также заявил, что «IPO OpenAI» в этом году не будет из соображений безопасности.
Недавно исследователь, работавший в «OpenAI» и «Anthropic», Джейкоб Коксон заявил, что крупнейшие ИИ-компании слишком быстро развивают технологии и могут недооценивать связанные с этим риски, ведь «ИИ может нас всех уничтожить».
После этого акции мировых компаний, занимающихся разработкой ИИ, резко упали.
Подготовил Г.Хонназаров.УзА
