же познать механизмы естественного человеческого разума. Правда,
в этом отношении единства мнений нет. Несколько огрубляя можно
сказать, что различаются три позиции. Первая состоит в стремлении
к возможно более полному сходству искусственного и естественного
интеллекта, вторая точка зрения сводится к отстаиванию новых отлич-
ных от собственно человеческих способов работы компьютерных ин-
теллектуальных систем; третья позиция состоит в отстаивании сочета-
ния наиболее сильных собственно человеческих и машинных принци-
пов работы систем искусственного интеллекта. Это различие точек
зрения понадобится нам в дальнейшем.
Утверждается, что искусственный интеллект в состоянии стать на-
дежным советчиком человека при принятии решений, сделает этот
процесс более легким. Как не вспомнить здесь предостережение о
неизбежности, необходимости бесстрашия при работе с техникой. В
чем же должно быть проявлено бесстрашие при работе с компьютером?
Дело в том, что на заложенные в программное обеспечение человече-
ские способы логического вывода накладываются совершенно нечело-
веческие мощности в его скорости действия и переборе вариантов. В
результате такой комбинации предлагаемая компьютером рекоменда-
ция становится совершенно неочевидной для ее получателя. Конечно,
разработчики систем как могли позаботились о том, чтобы снять эту не
очень приятную для человека ситуацию, разработав подсистему объяс-
нения. Эта подсистема по требованию пользователя может шаг за
шагом растолковывать ему как был получен предложенный вывод.
Тем не менее и такая процедура очень часто не снимает недоумения
пользователя. Здесь сказываются по крайней мере два фактора: раз-
ница в уровне компетентности пользователя и эксперта, послужившего
прототипом для компьютерной базы знаний, и значительная длина
цепочки рассуждений, осуществленных системой. Ощущение недоу-
мения и снижение самооценки пользователю в такой ситуации гаран-
тировано.
Описываемая ситуация относится к работе так называемых кон-
сультирующих экспертных систем, которые далеко не исчерпывают
всего разнообразия систем искусственного интеллекта. Так, другая их
группа, предназначенная непосредственно для работы в условиях про-
изводства, самостоятельно осуществляет контроль и управление тех-
нологическими процессами, т.е. вступает в контакт с пользователем
реже. В этом случае понимание пользователем принятых системой
решений может быть нарушено еще в большей степени.
Теперь вернемся к описанным выше различиям в позициях относи-
тельно сходства процедур работы интеллектуальных систем и челове-
ка. Нам кажется ясным, что по мере роста различий между этими
процедурами, уровень понимания пользователем происходящих про-
цессов также будет снижаться.
Еще один фактор снижения понимания пользователем логики рабо-
ты системы потенциально присутствует в создании класса так называ-
емых самообучающихся интеллектуальных систем. Он должен про-
явиться в том случае, когда помимо полученных от эксперта знаний
система будет в состоянии основываться в своих выводах на собствен-
ных полученных в работе знаниях, а также на знаниях, почерпнутых
из доступных смежных баз знаний. Кроме этого в соответствии с ши-
роко известными проектами самообучающаяся система будет в состоя-
нии использовать в диалоге с пользователем выводы, полученные в
ходе взаимодействия с ним. Иначе говоря, такая система будет способ-
на учитывать стиль деятельности пользователя, а в потенции и исполь-
зовать как его сильные, так и слабые стороны.
Перечисленные особенности систем искусственного интеллекта мо-
гут вести при работе с ними по крайней мере к трем вариантам психо-
логического решения. Первый - пользователь продолжает предпри-
нимать усилия в освоении системы. Этот выход похож на соперниче-
ство интеллектов. Второй - пользователь отказывается от использо-
вания системы, не справившись с нею. Этот вариант можно условно
назвать - отказ. Третий - пользователь доверяет системе и действует
в соответствии с ее рекомендациями. Это похоже на подчинение. По
нашему мнению, ни один из указанных вариантов не может быть
признан оптимальным. Соперничество может отнимать у пользовате-
ля слишком много сил. Отказ также будет иметь негативные психоло-
гические последствия для пользователя. А подчинение компьютеру
как раз и может иметь отдаленным последствием фантасмогорию,
предреченную Н.А. Бердяевым. Так что ж, предать интеллектуальные
системы анафеме, а их создателей заклеймить?!
Нам кажется, существует позитивное решение данной проблемы.
Оно опять-таки состоит в опоре на гуманистические традиции, на куль-
туру. Во-первых, следовало бы ниспровергнуть разрабатываемые сис-
темы с пьедестала самоценной цели жизни и работы многих коллекти-
вов. "Техника всегда есть средство, орудие, а не цель. Не может быть
технических целей жизни, могут быть лишь технические средства,
цели же жизни всегда лежат в другой области, в области духа" [6,
с. 148]. Мы хотим сказать, что решение проблемы лежит не в самих
системах искусственного интеллекта, а прежде всего в сознании их
создателей. И опустить разрабатываемые системы на достойное их
место можно лишь способствуя обогащению культуры и образовыва-
нию создающих их инженеров. Если это удастся, последствия не за-
медлят сказаться. В чем же они могут проявиться?
Прежде всего в более внимательном отношении инженеров к послед-
ствиям от внедрения разрабатываемых ими систем, в разграничении
областей, безоговорочно пригодных для работы систем искусственного
интеллекта, от условно пригодных и непригодных. Последствия вто-
рого порядка могут состоять в признании решающего влияния пользо-
вателя на принимаемое совместно с системой решение и создании более
тонкой технологии слежения и контроля за работой системы, в полной
"прозрачности" системы для экспертного совета пользователей, в неза-
висимой экспертизе принимаемых конструкторских решений.
Важно признать также, что наибольшая степень понимания пользо-
вателем системы возможна при максимальном сходстве ее функций с
функциями естественного интеллекта. Это положение очень важно.
Дело в том, что значительное сходство позволяет использовать такой
важный психологический механизм понимания как эмпатия, функци-
онирующий обычно лишь при человеческом общении. Эмпатия позво-
ляет человеку как бы встать на позицию другого человека, взглянуть
на мир его глазами. Нечто подобное, в принципе, возможно и при
работе с гипотетической интеллектуальной системой в том случае, если
она будет более точно моделировать мыслительные и не только мысли-
тельные процессы человека.
Из этого проистекает очень важное положение, прибавляющее ар-
гументов сторонникам позиции, призывающей к значительному сход-
ству разрабатываемых систем с естественным мышлением человека. А
это в свою очередь должно вести к более интенсивному общению раз-
работчиков с психологами, к интенсификации психологических и пси-
холингвистических исследований человеческого интеллекта. В даль-
нейшем мы попытаемся представить некоторые психологические ре-
зультаты и выводы, дающие пищу для размышлений разработчикам
интеллектуальных систем.
5.3. Компьютер как органопроекция интеллекта
В 1919 г. в работе "Органопроекция" П.А. Флоренский, ссылаясь на
положения Э. Каппа, уподобил технические устройства "сколкам" с
органов живого тела. Такое уподобление, отмечает Флоренский, до-
статочно традиционно, поскольку оно "уже содержится с самого начала
в общем клубке телеологических размышлений" [7, с. 40]. Эти "скол-
ки" с органов он называет ОРГАНОПРОЕКЦИЯМИ, а соответствую-
щие органы - ПРЕВООБРАЗАМИ органопроекций. Очень важно, что
Флоренский понимает под первообразами нечто более широкое, чем
конкретные морфологические структуры организма. Он ведет речь не
столько о живом теле, сколько о "жизненном телеобразующем начале",
тем самым наполняя представление о первообразе целевыми и функ-
циональными составляющими. Это позволяет нам значительно рас-
ширить понятие органопроекций: она, по нашему мнению, возникает
не только как модель конкретного органа, но и как устройство, позво-
ляющее реализовать некоторую цель. функцию, необходимую челове-
ку в его деятельности.
Описание механизма появления органопроекций Флоренский из-
влекает из работ Э. Геккеля, по мнению которого, причина создания
нового технического устройства таится в образе задержанного дейст-
вия. Когда же "образ воплощается, облекаясь веществом, то это веще-
ство, хотя и вне живого тела, оказывается, однако, вырезанным именно
по образу, так сказать по контурам того действия или того действия-ор-
гана, которое было задержано" [7, с. 39]. Флоренский видит принци-
пиальную ограниченность технических органопроекций: "... так на-
зываемое "механическое" есть лишь способ грубой схематизации жиз-
ни, моделирование" [7, с. 40]. Любой из механизмов, по мнению уче-
ного, повторяет и развивает определенную функцию организма, но
развивает в ограниченном, стилизованном виде. В этой связи можно
напомнить известное сравнение функций руки и циркуля, принадле-
жащее Э.В. Ильенкову. Если циркуль предназначен для идеального
точного начертания окружности, то руке такая точность недоступна.
Однако в отличие от циркуля она способна выполнить массу других
операций [8, с. 38].
По мере увеличения числа моделируемых техникой действий и дей-
ствий-органов ширится и круг дисциплин, предлагающих ей для моде-
лирования первообразы. Появление компьютерной технологии стиму-
лировало рост интереса проектировщиков к психологии и лингвистике.
Одними из целей (и идеалов) моделирования при этом стали функции
интеллекта и языка как органов человеческой деятельности. Такое
моделирование, по общему мнению, позволило бы не только укрепить
технический мир, но и более глубоко разобраться в существе указан-
ных феноменов. За такое направление моделирования ратовал и
П.А. Флоренский. "В себе, - писал он, - и вообще в жизни открываем
мы еще не осуществленную технику; в технике - еще не изученные
стороны жизни" [7, с. 42].
Органопроекции имеют генетическое сходство с первообразами.
Однако их отождествление было бы односторонним, поскольку их
структуру определяют также и свойства тех объектов, на которые ор-
ганопроекции направляются проектировщиками. Например, компью-
терная томография является продолжением и усилением функций
глаз, но структура томографа непосредственно связана и с особенностя-
ми органической ткани, на которую он направлен, с биофизическими
и биохимическими свойствами клетки. Кроме того, важную роль вы-
полняют характеристики элементной базы, на которой построен при-
бор, и уровень развития соответствующих фундаментальных дисцип-
лин, как бы растворенных в конкретной технической реализации.
Органопроекция "размазывается" между человеком и объектом его
деятельности, она - проекция не только первообраза, но и объекта, не
только органопроекция, но и ОБЪЕКТО-ПРОЕКЦИЯ. Разные органо-
проекции, а также разные технические реализации одной и той же
органопроекции в большей или меньшей степени тяготеют к одному из
выделенных полюсов, т.е. к первообразу или к объекту, они всегда
продукт некоторого компромисса. В настоящее время достичь компро-
мисса становится все труднее, поскольку объекты деятельности по сво-
им масштабам, по размерности своих свойств начинают все дальше
отстоять от мира человека (возьмем ли мы электронную микроскопию,
радиоастрономию, управление объектами большого размера - танке-
ром, шагающим экскаватором - или боевое дежурство системы ПВО).
Органопроекции становятся трудноуправляемыми. Все больше време-
ни требуется человеку, чтобы освоить, уяснить логику и принципы их
функционирования. Для освоения таких органопроекции человеку
требуется сформировать некоторую буферную психологическую
структуру - функциональный орган, компонентами которого являют-
ся образ объекта сложной конфигурации, образ органопроекции, а
также система навыков и умений воздействия на объекты и органопро-
екцию. Для описания этого органа Л.С. Выготский ввел понятие "пси-
хологическое орудие". Он считал, что "психические процессы, взятые
в целом, образующие некое сложное единство, структурное и функци-
ональное, по направленности на разрешение задачи, поставленной
^ва"г"1
объектом, и по согласованности и способу протекания, диктуемому
орудием, образуют новое целое - инструментальный акт" [9, с. 227 ].
Логика развития такого психологического орудия доопределяется
дважды: со стороны объекта и со стороны физического орудия. Экспе-
риментальным подтверждением этих положений послужили результа-
ты исследований Г.Л. Выготской, продемонстрировавшие, что "совер-
шаемые ребенком после схватывания видимого предмета манипуля-
ции, которые на первых порах очень бедны и однообразны (засовыва-
ние в рот, хаотическое размахивание предметом и т.п.), к концу 1-го
года приобретают более разнообразный и специализированный харак-
тер. Ребенок начинает манипулировать разными предметами по-раз-
ному" [10, с. 57]. Логика собственных движений ребенка начинает все
больше подчиняться логике употребления и структуре объектов, кото-
рыми он манипулирует. П.Я. Гальперин установил функциональные
различия средства и орудия: "... если первое является простым про-
должением руки и применяется с помощью ручных операций, то по-
следнее требует особых орудийных операций, при которых движение
руки подчиняется логике движения орудия" [10]. Аналогичные про-
цессы происходят и при использовании более сложных орудий и средств
деятельности человека, например компьютера. Выстраивается цепоч-
ка компонентов, участвующих в деятельности: объект, на который
направлена деятельность, и обладающий совокупностью свойств; тех-
ническое орудие (средство) деятельности (органопроекция в терминах
Флоренского), разработанное и построенное в соответствии с целями
деятельности; психологическое орудие (функциональный орган).
Похожую цепочку, описывающую процесс деятельности, мы нахо-
дим у Кеннета Бурке [II ]. Его вариант содержит пять компонентов:
Сцена, Инструментарий агента, Действие, Агент действия, Цель дей-
ствия. Этот вариант рассматривает сцену и цель, но инструментарий
не позволяет аналитически отделить вещные инструменты агента (ор-
ганопроекции) от его психологических орудий (функциональных орга-
нов). Тем не менее, подход К. Бурке находит высокую оценку в книге
Дж. Верча, П. дель Рио и А. Альвареца "Социокультурные исследова-
ния мышления". Позиция Дж. Верча созвучна нашей, т.к. он также
считает невозможным рассматривать ситуацию деятельности односто-
ронне: либо только с точки зрения социокультурного контекста, либо
только изнутри - от психологических механизмов происходящего.
Для него как и для нас более эвристично рассмотрение субъекта дейст-
вия не просто как самостоятельно действующего, а как "субъекта-опе-
рирующего-опосредующим-орудием", т.е. как некоей цепочки, в ко-
торой каждое из звеньев многое теряет без других, поэтому его трудно
представить независимо.
Все компоненты этой цепочки испытывают взаимные влияния, но
происходящие от этого изменения имеют различный временной масш-
таб. В этом отношении можно выделить два уровня: актуальный и
долговременный. Первый уровень описывает изменения, обусловлен-
ные протеканием деятельности и процессом взаимодействия между
компонентами цепочки. Изменение хода деятельности, в частности,
при управляющих воздействиях человека, ведет к соответствующим
изменениям в функционировании органопроекции, а следовательно, и
объекта деятельности. Этот режим изменений очевиден также, как
противоположный, описываемый механизмами обратной связи.
Сложнее представить одновременно потоки прямых и обратных изме-
нений, а также динамику прямых и косвенных влияний, вторичных,
третичных последствий и т.д. Но тем не менее это и будет картина
реальной динамики деятельности в актуальном временном масштабе
- так называемого потока деятельности. "А.Н. Леонтьев постоянно
отмечал не только чрезвычайную сложность ее (деятельности. - В.З.,
Е.М.) иерархической организации, но и значительную динамичность
последней. В ходе своей конкретной реализации деятельность непре-
рывно перестраивается, переорганизуется, ввиду чего ее невозможно
однозначно задать извне, путем организации внешних условий и по-
становки целей. Даже будучи введена в запланированное русло, она в
любой момент может отклониться от него, пойти другими путями в
силу собственных законов организации и развития" [12, с. 169 ].
Долговременный уровень изменения компонентов описываемой це-
почки определяется их совместным развитием, движущими силами
которого являются саморазвитие объекта деятельности, совершенство-
вание технических органопроекции и формирование новых функцио-
нальных органов человека. При этом усложняется реальная картина
взаимных влияний компонентов цепочки.
Заслуживает внимания не только принцип цепочки, но и принцип
управления, предложенный Н.А. Бернштейном - принцип гребенки,
где на одном основании находятся все элементы-звенья деятельности,
что повышает ранг ее рефлексивности и улучшает координацию актив-
ных элементов.
Чем дальше объект деятельности от человека, чем он сложнее и
несоразмернее человеку, тем более изощрены органопроекции. Но и
соответствующие функциональные органы деятельности становятся
непереносимее и неестественнее для человека. Например, авиадиспет-
чер в каждый момент своего дежурства должен удерживать в памяти
образ пространства над аэродромом и точно представлять координаты
и скорость движения нескольких находящихся там самолетов. Конеч-
но, разрабатываются некоторые компенсирующие устройства. Совер-
шенствуются средства отображения информации об объекте и органы
управления органопроекцией. Но что делать, если скорость протека-
ния контролируемых процессов измеряется в миллисекундах или за-
15-547 225
держка реагирования - в десятках минут? Как быть при десятках
тысяч возможных вариантов решения задачи? Следовательно, суще-
ствует потребность в усилении индивидных психофизиологических ка-
честв человека. И здесь ему на помощь приходит искусственный ин-
теллект, который является закономерным этапом в усложнении орга-
нопроекций, замещающих действия и органы-действия человека.
Органопроекции и объектопроекции сходятся, сливаются в системах
искусственного интеллекта.
С одной стороны, в них моделируется набор функций человека, в
частности интеллектуальных, с другой стороны, презентируется объ-
ект. Эта небывалая ранее органопроекция является результатом того,
что психический функциональный орган и объект представлены в ней
по-новому. Начав с моделирования элементарных интеллектуальных
операций, проектировщики компьютеров пришли к воссозданию до-
статочно гибко перестраиваемого в соответствии с задачей комплекса
операций. Чем больше операций реализуется в ходе решения задачи,
тем полнее моделируется в системе первообраз-интеллект.
Система приобретает определенную независимость от пользователя
в решении задачи. Наиболее распространенная разновидность систем
искусственного интеллекта - экспертная - функционирует в строго
ограниченной предметной области. Вобрав в себя совокупность при-
емов работы специалиста высокого уровня, экспертная система начи-
нает давать решения, уровень которых близок к уровню решений и
рекомендаций специалиста. Если помощью экспертной системы поль-
зуется студент или менее квалифицированный специалист, в его глазах
она может приобретать индивидуально-психологические черты. Мо-
жет возникнуть эффект персонализации компьютера, сопровождае-
мый речевыми обращениями к нему, эмоциональными оценками и
реакциями на те или иные особенности функционирования системы.
Каждый пользователь, имеющий опыт работы даже с доинтеллекту-
альными системами, в состоянии припомнить ряд примеров на этот
счет.
Такие эффекты усилятся в еще большей степени в результате совер-
шенствования естественно-речевого интерфейса, т.е. при понимании
системой устной речи и тому подобных усовершенствованиях. Этому
же способствуют усилия проектировщиков, старающихся придать ука-
занным системам индивидуальный стиль ведения диалога с пользова-
телем. Уже в настоящее время имеются системы, в той или иной
степени наделенные этим качеством. Например, система ULLY удачно
имитирует любопытного гостя, желающего разузнать о пользователе
как можно больше, а система XTRA - доброжелательного консультан-
та по вопросам налогообложения, который очень хочет помочь пользо-
вателю заполнить бланк декларации о доходах [13, с. 62-76 ]. Имити-
руются эмоциональные реакции: удовлетворение - неудовлетворе-
ние ходом диалога, удивление - в ответ на нестандартный запрос,
сочувствие или ирония по отношению к пользователю-неудачнику.
Интеллектуальные системы наделяются моделями пользователя, ко-
торые корректируются в процессе диалога. Соответственно изменяет-
ся и стратегия его ведения системой. Можно предвидеть, что по мере
усовершенствования перечисленных выше функциональных подси-
стем тенденция к персонализации компьютера пользователями будет
усиливаться.
Решения и советы, предложенные системой, могут вступать в про-
тиворечие с ожиданиями пользователя, быть неприемлемыми по ка-
кой-либо внешней причине. Таким образом, техническая органопро-
екция, задуманная как инструмент для выполнения воли человека,
может выявить особую точку зрения, непонятную ему. Интересно в
этом отношении соображение А.Г. Ивахненко: "... папа Карло, выре-
зав из полена Буратино, который сразу же запищал (что уже было
неожиданно) и ущипнул его за нос, создал, по нашему определению,
искусственный интеллект, имеющий собственное мнение" [14, с. 122].
Ничего себе орудие, вырывающееся из рук пользователя и желающее
делать дело по-своему!
Если в конце 70-х годов интеллектуальные системы в большей мере
зависели от закладываемых в них способов работы экспертов, то начало
80-х годов ознаменовалось новым этапом их развития. Системы стали
наделяться еще одной очень важной группой свойств естественного
интеллекта - способностью к самообучению [15]. Одной из родона-
чальниц нового поколения стала система EURISKO, способная перено-
сить эвристики, полученные ею в одной предметной области, на другую
[16, с. 174-186 ]. Работая, например, в области конструирования элек-
тронных интегральных микросхем, EURISKO натолкнулась на тот
факт, что симметрия является для них желательным свойством. "Когда
позже перед ней была поставлена задача подобрать состав эскадры для
военной игры "Трэвеллер", EURISKO решила сделать эскадру симмет-
ричной, оправдав свое решение ссылкой на опыт, полученный ею в
области конструирования интегральных схем" [16, с. 182].
Принципиальные отличия наблюдаются и в моделировании объекта
в интеллектуальной системе. Это уже не единичная проекция его
свойств в особенностях технического устройства. В интеллектуальной
системе отображаются и совокупность связей объекта с миром, способы
и особенности его взаимодействия, отношения к классу сходных с ним
и отличных от него объектов. Эта сложная картина, моделируемая с
помощью семантических сетей, фреймов или продукций, получила
название базы знаний. Идеальным объектом, от которого отталкива-
лись в этой связи проектировщики, служил компонент психического
15* 227
функционального органа - образ, обогащенный набором знаний чело-
века о свойствах объекта.
Слияние в интеллектуальных системах органе- и объектопроекции,
приводящее к новым, не укладывающимся в традиционные представ-
ления явлениям, позволяет заключить, что указанные системы уже
переросли рамки их описания в виде технического орудия (средства)
деятельности человека. Однако неоправданной выглядела бы и попыт-
ка представить их в виде нового субъекта деятельности. Это было бы
преждевременно. Область действия и способы оперирования знаниями
в интеллектуальных системах остаются ограниченными, а произволь-
ность их работы невелика. По-прежнему справедливо утверждение
П.А. Флоренского о том, что "механическое есть лишь способ грубой
схематизации жизни, моделирование". Поэтому разумным нам пред-
ставляется введение в данном случае категории "органопроекция ин-
теллекта", которая, с одной стороны, длительное время не эксплуати-
ровалась, а с другой стороны, удачно фиксирует слияние в техническом
устройстве проекций интеллектуальных функций и предметной дея-
тельности. Последнее дополнение весьма существенно, поскольку к
числу органопроекций имеются весьма коварные "добавки". К их чис-
лу А.К.Горский отнес сновидения, в которых, как известно, аффектив-
ная, фантасмагорическая составляющая много сильнее интеллекту-
альной [17, с. 266-267 ].
Как нам кажется, первые признаки изменения отношения к интел-
лектуальным системам проявились вместе с проникновением в компь-
ютерные науки понятия "диалог с компьютером". Оно отражало реа-
лии языкового обмена информацией с компьютером, на первых порах
чрезвычайно ограниченного как по языку, так и по обсуждаемой обла-
сти. Однако дальнейшее развитие интеллектуальных систем значи-
тельно обогатило возможности диалога. В том случае, когда диалог с
компьютером протекает в процессе комбинирования нескольких тысяч
лексических элементов, он может стать намного разнообразнее целого
слоя ежедневных человеческих диалогов. И все же между естествен-
ным интеллектом и интеллектом искусственным пока пролегает про-
пасть.
5.4. Чего не может компьютер?
Прежде чем ставить вопрос о совершенстве искусственного интел-
лекта, необходимо было бы выбрать критерий и меру его сравнения с
интеллектом естественным. Однако такое очевидное предприятие на-
талкивается на непреодолимые трудности, связанные с тем, что мы не
умеем количественно выразить различия в интеллекте даже двух нау-
гад взятых людей. Поясним это на примере.
Большинство людей могут пробежать 100м за 20 с, значит, они
отличаются от чемпиона мира не более чем в два раза. А во сколько раз
^°^'^fЧ^ff""'l
^^t.
&^
отличается умный от глупого? Известный специалист в области вычис-
лительной техники проф. Дж. Вейценбаум (США) писал о широко
Дата добавления: 2015-10-21; просмотров: 24 | Нарушение авторских прав
| <== предыдущая лекция | | | следующая лекция ==> |