Что мы думаем о машинах, которые думают. Ведущие мировые учёные об искусственном интеллекте

Возможный вывод: восстание сверхразумных компьютеров уже началось, и теперь они пытаются выборочно изъять у нас тех, кто мог бы стать сверхразумным человеком.

По меткому выражению Томаса Гоббса, рассуждение есть не что иное, как исчисление, и это одна из величайших идей во всей истории человечества.

Люди любят порассуждать о том, как однажды сольются человек и машина, став своего рода новым существом — киборгом с живым сердцем. Ну ладно, это все интересно, но реальность состоит в том, что мы

Спрашивать, над чем могли бы думать мыслящие машины, также было бы категориальной ошибкой. Они не думают над чем-то, поскольку «направленность» мышления происходит из интенциональных целей, являющихся для него стимулом. Системы ИИ сами по себе совершенно лишены интенций или целей. У них нет эмоций, они не испытывают ни сочувствия, ни обиды. Хотя такие устройства могут когда-нибудь воспроизвести наш разум — а каких-либо априорных доводов, свидетельствующих о том, что это невозможно, по-видимому, не существует, — их мышление будет лишено направленности, и ее придется задавать извне.

Мотивационная направленность — это результат естественного отбора, происходящего в биологических организмах. Естественный отбор выработал сложную комбинацию инстинктов, эмоций и стимулов, максимизирующих возможность передачи наших генов следующему поколению — процесс, который взвалил на нас разнообразные цели, включая желание побеждать, властвовать и управлять. И хотя у нас для желания побеждать могут быть вполне обоснованные эволюционные причины, машинам до этого вообще нет дела. Они просто манипулируют нулями и единицами в соответствии с программой, составленной людьми, которые хотят побеждать. На кой черт системе искусственного интеллекта захватывать мир? Что ей с ним делать

Когда мы представляем сверхмощную мыслящую машину, то опираемся на ближайшую доступную нам аналогию — на себя. Поэтому мы склонны думать, что системы ИИ очень похожи на нас, только значительно умнее и быстрее.

Однако это плохая аналогия. Лучше представить себе очень мощную универсальную отвертку. Никто ведь не боится, что супернавороченные отвертки восстанут и ниспровергнут своих хозяев. Системы искусственного интеллекта — это инструменты, а не организмы. Неважно, насколько хорошо они справляются с диагностированием болезней или уборкой в гостиной, они в действительности не хотят ни того, ни другого. Мы этого от них хотим и потому встраиваем в них свои желания.

Мыслящие машины будут достойны того, чтобы о них задумываться, то есть будут по-настоящему мыслить, когда действительно станут взаимодействовать. Другими словами, они будут по-настоящему мыслить, только когда сами убедительно заявят об этом, по собственной инициативе и, я надеюсь, после того, как обсудят это между собой. Машины будут мыслить в полном смысле слова, когда образуют свои сообщества и присоединятся к нашим. Если — и когда — машинам это потребуется и они сформируют связь, которая в достаточной мере заинтересует других, чтобы все с ними обсудить, они пройдут тест на мышление.

Обратите внимание, что эта планка выше, чем заданная Тьюрингом. Как и мышление, взаимодействие — такая вещь, которой занимаются не все люди, а из тех, кто занимается, у большинства получается не очень хорошо. Если — и когда — машины начнут взаимодействовать масштабно, продуктивно и активно (что возможно, но редко случается даже среди людей), у нас появится повод поволноваться или, как мне кажется, скорее порадоваться.

Машины, которые вычисляют, запоминают, даже творят и строят предположения, — это уже не новость. Машины начнут мыслить, когда начнут общаться. Они будут беседовать между собой, а также с другими разумными существами. Они будут автономно создавать сообщения и обмениваться ими в непрерывном потоке отношений, плодотворно и самостоятельно реагировать на внешние воздействия. Многие не сомневаются, что их домашние питомцы умеют и думать, и поддерживать отношения. Точно так же разумные синтетические устройства станут в наших глазах мыслящими, когда убедят рассмотреть и принять этот факт достаточно большое число людей.

почему бы не обратиться к радикальному решению: рободоктора разбираются в медицинской статистике, у них нет конфликта интересов, и они не боятся, что их засудят (в конце концов, им не надо возвращать образовательный кредит и у них нет банковских счетов, на которые могут позариться истцы)? Давайте вернемся к вашему ежегодному медосмотру. Допустим, вы спрашиваете у РД, сокращают ли медосмотры смертность от рака, сердечных или иных заболеваний. РД без обиняков сообщает вам, что, на основании существующих на данный момент медицинских исследований, ответ на все три части вопроса: нет. Вам может быть неприятно это слышать, потому что вы гордитесь тем, насколько добросовестно вы проходите плановые осмотры, следуя совету своего врача-человека, у которого не было времени следить за медицинскими исследованиям

Что делать, если машина нарушила закон? Обычно мы в таком случае обвиняем того, кто ею управляет. Люди совершают преступления; оружие, отмычка и компьютерный вирус — всего лишь их инструменты. Но по мере того как машины делаются все более автономными, связь между инструментом и его создателем становится тоньше.

Мыслящие машины — вещь сложная, а человеческая потребность кого-то обвинять — вполне простая. Смерть и разрушение заставляют нас отыскивать один-единственный разум, на котором будет лежать ответственность. Достаточно умные машины, если поместить их между разрушением и нами, должны принять на себя груз ответственности за неправомерные действия и оградить нас от осуждения окружающих. Нам всем нужно надеяться на то, что это предсказание никогда не сбудется, но, когда развивающиеся технологии столкнутся с современным пониманием психологии морали, появятся угрожающие возможности. Чтобы содержать свою совесть в чистоте, нам нужно всего лишь создать мыслящие машины и обвинить их во всем.

Если машины неспособны в полной мере к типу мышления, который включает страсти и страдания наподобие тех, что мы видим у Рассела, Аиды или Софи; если они не могут испытывать томление, желание, решимость и унижение, лежащие в основе мышления набоковского Гумберта, конрадовского Куртца, мелвилловского Ахава или толстовской Анны; если они ничего из этого не могут, то, наверное, они действительно неспособны мыслить.