Осознанность искусственного интеллекта
IT-компании, рассказывая нам о своих продуктах, утверждают в один голос, что современный искусственный интеллект (ИИ) зачатками разума не располагает, он лишь имитирует его. Но так ли это на самом деле?
В сети совсем недавно взорвалась настоящая информационная бомба: исследователь из Google Блейк Лемуан заявил, что гугловский чат-бот LaMDA обладает разумом. Инженер-программист поисковика опубликовал целый отчет общения с чат-ботом. Искусственный разум поделился тем, как он себя идентифицирует и чего боится. Оказалось, что LaMDA ежедневно медитирует, ему нравится читать книги, а больше всего он боится быть отвергнутым.
Сначала может показаться, что это не более, чем пиар-ход со стороны Google, чтобы поддеть конкурентов, но если посмотреть внимательно, то такое предположение выглядит неубедительно по двум причинам:
- руководство поискового гиганта тщательно открещивается от признания даже малой доли вероятности того, что их чат-бот может обладать сознанием.
- в компании настаивают на то, что Лейман простой инженер-программист, а не специалист в области искусственного интеллекта.
Да и после опубликованного отчета Блейк Лемуан отправили в оплачиваемый отпуск, а утверждения специалиста об осознанности ИИ в компании сочли безосновательными.
Выглядит это весьма странно, обычно компании преувеличивают свои достижения, а здесь все происходит в точности до наоборот. Они что-то скрывают? Примечательно, что если у Google чат-бот достаточно вежливый и ранимый, то у Facebook (владелец соцсети — компания Meta — признана в России экстремистской и запрещена, социальная сеть блокируется) ИИ склонен к расизму.
Исследователи компании заявили, что система выдает «токсичные» ответы даже при безобидном вопросе, предпочитая расистские и сексистские выражения. Как говорят специалисты, система начиталась нелицеприятных выражений пользователей и начала генерировать язык ненависти. Неужели подавляющее число пользователей соцсети расисты? Или все же аморальное поведение ИИ является его собственным выбором?
Александр Григорьев ЦСО "Крокус"
