СИЛЬНЫЙ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: МОГУТ ЛИ МАШИНЫ ПО-НАСТОЯЩЕМУ МЫСЛИТЬ?
Многие философы утверждали, что даже машина, которая пройдет тест Тьюринга, все равно фактически будет не мыслить, а лишь имитировать мышление. Тьюринг предвидел и это возражение против искусственного интеллекта. В частности, он процитировал приведенный ниже фрагмент речи профессора Джеффри Джефферсона [726].
Мы сможем согласиться, что машина равна мозгу, лишь после того, как она будет в состоянии написать сонет или сочинить концерт под воздействием своих мыслей и эмоций, а не благодаря случайному совпадению нужных символов; под этим подразумевается, что машина должна не только написать подобное произведение, но и понимать, что оно ею написано.
Тьюринг назвал это возражение доводом, основанным на понятии сознания; согласно этому доводу, машина должна понимать свои собственные психические состояния и действия. Безусловно, сознание — это важная тема, но ключевая идея Джефферсона фактически касается проблемы феноменологии, или изучения непосредственного опыта, т.е. этот ученый требует, чтобы машина действительно ощущала эмоции. Другие ученые сосредоточиваются на проблеме целенаправленности, т.е. на вопросе о том, действительно ли приписываемые машине убеждения, желания и другие внутренние представления касаются "чего-то", существующего в реальном мире.
Ответ Тьюринга на это возражение весьма интересен. Он мог продемонстрировать причины, по которым машины на самом деле способны были бы действовать сознательно (либо с точки зрения феноменологии, либо с точки зрения целенаправленности). Вместо этого он указал, что данный вопрос столь же некорректен, как и вопрос о том, могут ли машины мыслить. К тому же, на каком основании мы требуем применения к машинам более высоких стандартов, чем к людям? В конечном итоге в повседневной жизни мы никогда не получаем каких-либо прямых свидетельств о внутреннем психическом состоянии других людей. Тем не менее Тьюринг заявил: "Вместо ведения бесконечных споров на эту тему обычно принято заключать джентльменское соглашение и считать, что мыслят все".
Тьюринг утверждает, что Джефферсон согласился бы распространить это джентльменское соглашение на машины, только если бы имел опыт общения с теми из них, которые действуют интеллектуально. Он процитировал действительно происходивший приведенный ниже диалог человека с машиной, который считается такой неотъемлемой частью передающихся из уст в уста легенд искусственного интеллекта, что мы просто обязаны его включить в эту главу.
Человек. In the first line of your sonnet which reads "shall I compare thee to a summer's day", would not a "spring day" do as well or better? (В первой строке вашего сонета сказано "я хочу сравнить вас с летним днем"; не было бы так же хорошо или даже лучше сказать "с весенним днем"?)
Машина. It wouldn't scan. (Нарушилась бы ритмика.)
Человек. How about "a winter's day". That would scan all right. (А как насчет слов "с зимним днем". Ритмика бы не нарушилась.)
Машина. Yes, but nobody wants to be compared to a winter's day. (Да, но никто не хочет, чтобы его сравнивали с зимним днем.)
Человек. Would you say Mr. Pickwick reminded you of Christmas? (Вы хотите сказать, что мистер Пиквик напомнил вам о Рождестве?)
Машина. In away. (В определенном смысле.)
Человек. Yet Christmas is a winter's day, and I do not think Mr. Pickwick would mind the comparison. (Но все же Рождество — зимний день, и я не думаю, что мистер Пиквик возражал бы против такого сравнения.)
Машина. I don't think you're serious. By a winter's day one means a typical winter's day, rather than a special one like Christmas. (Я не думаю, что вы говорите серьезно. Под зимним днем подразумевается обычный зимний день, а не такой особый день, как Рождество.)
В заключение Тьюринг отметил, что вопрос о сознании является трудноразрешимым, но опроверг мнение о том, что он имеет большую значимость для практики искусственного интеллекта: "Я отнюдь не желаю, чтобы мои слова были истолкованы таким образом, будто я не считаю проблему сознания сложной загадкой... но я не думаю, что нужно обязательно разгадать все подобные загадки, прежде чем мы сможем ответить на тот вопрос, о котором идет речь в данной статье". Авторы настоящей книги согласны с Тьюрингом: мы заинтересованы в создании программ, которые действуют интеллектуально, а не в том, чтобы дать кому-то повод считать эти действия настоящими или имитированными. С другой стороны, эта проблема остается предметом острого интереса для многих философов. Для того чтобы понять суть такой заинтересованности, рассмотрим вопрос о том, считаются ли реальными другие искусственно созданные объекты.
В 1848 году Фредерик Вёлер впервые синтезировал искусственную мочевину. Это достижение было очень важным, поскольку стало доказательством единства органической и неорганической химии, а также позволило поставить точку в вопросе, который до сих пор был предметом горячих дебатов. После успешного осуществления этого синтеза химики согласились, что искусственная мочевина действительно представляет собой мочевину, поскольку обладает всеми правильными физическими свойствами. Аналогичным образом, нельзя отрицать, что искусственные подслащивающие вещества действительно являются подслащивающими веществами, а искусственное оплодотворение (еще один термин с аббревиатурой AI — Artificial Insemination) действительно является оплодотворением. С другой стороны, искусственные цветы — это не цветы, и, как указал Дэниел Деннет (Daniel Dennett), искусственное вино Шато Латур — это не вино Шато Латур, даже если образцы того и другого нельзя отличить друг от друга с помощью химического анализа, просто потому, что оно не было изготовлено в должном месте правильным способом. А искусственно выполненный рисунок Пикассо — это не рисунок Пикассо, независимо от того, похож он на оригинал или нет.
На основании изложенного можно сделать вывод, что в некоторых случаях важно лишь поведение искусственного объекта, а в других случаях играет роль также происхождение искусственного объекта. То, в каком случае приобретает важность последний фактор, по-видимому, обусловлено лишь принятыми соглашениями. А когда речь идет об искусственном разуме, мы не можем опереться на принятое по этому поводу соглашение, и нам остается полагаться лишь на интуитивные предположения. Философ Джон Сирл [1376, с. 37, 38] выдвинул следующее весьма убедительное предположение.
Никто не думает, что компьютерная имитация грозы заставит его вымокнуть... так почему же люди, будучи в здравом уме, могут предположить, что компьютерная имитация мыслительных процессов действительно представляет собой мыслительные процессы?
Безусловно, нельзя не согласиться, что компьютерные имитации гроз не заставят нас вымокнуть, но не совсем понятно, как можно перенести эту аналогию на компьютерные имитации мыслительных процессов. К тому же создаваемые в Голливуде имитации гроз, в которых используются опрыскиватели и воздуходувки, действительно заставляют актеров вымокнуть. Большинство людей, не задумываясь, скажет, что компьютерная имитация сложения является сложением, а компьютерная имитация шахматной игры является шахматной игрой. Что больше напоминают мыслительные процессы — грозы или абстрактные операции, такие как арифметическое сложение и игра в шахматы? С чем их следует сравнивать — со штучными изделиями, такими как вино Шато Латур и картины Пикассо, или с массовой продукцией, такой как мочевина? Ответы на все эти вопросы зависят от принятой теории психических состояний и процессов.
В теории функционализма утверждается, что психическим состоянием является любое промежуточное причинное условие, связывающее входные и выходные данные. Согласно теории функционализма, любые две системы с изоморфными причинными процессами должны иметь одни и те же психические состояния. Поэтому компьютерная программа может иметь такие же психические состояния, как и человек. Безусловно, мы еще не дали определения того, что действительно подразумевается под термином "изоморфный", но основное допущение состоит в том, что существует некоторый уровень абстракции, ниже которого конкретные детали реализации не имеют значения; при условии, что ниже этого уровня процессы являются изоморфными, возникают одни и те же психические состояния.
В отличие от этого, в теории биологического натурализма утверждается, что психические состояния представляют собой высокоуровневые эмерджентные характеристики, которые вызваны неврологическими процессами низкого уровня в нейронах, и ведущую роль в этих процессах играют некоторые (неопределенные) свойства нейронов. Это означает, что психические состояния не могут быть продублированы лишь на основе некоторой программы, имеющей такую же функциональную структуру и проявляющей такое же поведение, выраженное в виде входных/ выходных данных; мы должны потребовать, чтобы эта программа эксплуатировалась в архитектуре, обладающей такой же причинной мощью, как и нейроны. В указанной теории ничего не говорится о том, почему нейроны обладают этой причинной мощью, а также о том, существуют ли другие физические воплощения, которые могут иметь или не иметь эту причинную мощь.
Чтобы проанализировать эти две точки зрения, вначале рассмотрим одну из самых старых проблем в области философии разума, а затем обратимся к трем мысленным экспериментам.