Душа машины: требует ли сознание биологии или оно может возникнуть в кремнии?

В 2022 году инженер Google по имени Блейк Лемуан рассказал газете Washington Post, что языковая модель, с которой он работал, стала разумной. Он не шутил и не был наивен. Он был компетентным инженером с десятилетним опытом и провел месяцы в общении с системой. Компания отправила его в отпуск, а затем уволила. Сообщество ИИ по большей части закатило глаза. Но этот эпизод прижился, потому что Лемуан затронул вопрос, на который никто в этой области не хочет ответить напрямую: что нужно знать? Не «что нужно, чтобы быть уверенным?» Это самая простая версия, версия, которая позволяет всем уйти от ответственности. Что нужно, чтобы иметь хоть какое-то обоснованное убеждение в том, что система сознательна? Потому что сейчас у нас этого нет. У нас есть интуиция, и интуиция в основном зависит от того, кажутся ли результаты системы человечными. Это не тест. Это зеркало. Вот утверждение, которое я хочу проверить: вопрос «требуется ли сознанию биология?» — это неправильный вопрос, и он неправильный, потому что предполагает, что мы достаточно хорошо знаем, что такое сознание, чтобы знать, чего оно требует. Мы этого не делаем. Но мы строим системы, которые становится все труднее отличить от сознательных.