Прошлое и будущее робототехники. 2 страница

После выхода «Кибернетики» в свет, Винер очень быстро становится фигурой мирового масштаба.

В приложении к теме манипуляторов, идеи Винера привели к созданию сервоприводов. Сервоприводы — это двигатели, для которых возможно очень точное управление углом поворота ротора, скоростью вращения или силой момента, что позволяет роботу не только подводить руку к объекту, но и, например, удерживать этот объект в строго определенном положении, несмотря на его вес. До этого момента было просто непонятно, как будут работать такие двигатели. Дело казалось очень хлопотным, тогда как простое использование обратной связи по положению, скорости или моменту, позволило мгновенно решить проблему, используя все те же старые добрые двигатели без точного управления, только в обратной связи с датчиками.

Часть 2. Люди и роботы

Не теряя сути вопроса можно считать, что в представлении обывателя настоящие роботы — это автономные машины с искусственным зрением, руками-манипуляторами, генератором речи и обязательно искусственным разумом. А все остальное — просто гипертрофированные тостеры.

Это представление определяет программу-минимум для будущей индустрии. Появление подобных машин поднимает множество социальных вопросов и возможных проблем. Почти очевидно, что роботы способны выполнять широкий круг неквалифицированной работы. Это приведет к потере большого количества рабочих мест и росту социальной напряженности.

Эта часть вводит некоторое количество тезисов, которые должны влиять на современное отношение к теме роботов и искусственного интеллекта. Они, намерено, приведены в краткой и наиболее спорной форме. В защиту доказательной силы этих тезисов, можно привести слова Владимира Успенского[6]:

Но как бы то ни было, доказательство — это просто аргумент, который мы сами находим вполне убедительным для того, чтобы убедить всех остальных.

В. А. Успенский, 1994

Вопросы неравенства

Люди и роботы сильно отличаются в возможностях, спорить тут не о чем. Тенденция к стиранию этой границы наметилась давно, и выражается в двух идущих навстречу процессах: развитие систем самостоятельного искусственного чего бы то ни было и вживление в человека различных имплантатов. Однако до равенства всё равно еще далеко.

Первым ценным свойством роботов была их способность функционировать в агрессивных средах — радиоактивных, взрывоопасных, на поверхности далеких планет. Тяжело спорить с тем, что человеческое существо не может выжить в открытом космосе без защиты. Любому организму необходима определенная среда обитания, в которой он привык существовать. Мы обитаем в так называемой естественной среде. Однако наши гены живут в искусственной среде клетки, поддерживаемой гомеостазом.

Чего стоит автомобиль, если в пределах его досягаемости нет ни одной заправочной станции? Скорее всего, взрывное развитие бытовой робототехники должно быть обусловлено созданием специальной инфраструктуры. Искусственной среды обитания роботов. Часть ее уже построена: это системы глобального позиционирования [25], беспроводной доступ в информационную сеть и системы радиочастотной идентификации объектов.

Следующей должна быть решена энергетическая проблема. До миниатюрных атомных реакторов пока явно далековато. Гораздо вероятнее появление высоко емких аккумуляторов на маховиках или водородных двигателей, т.к. задача дешевого электролиза воды уже почти решена. Однако по какому пути пойдет развитие инфраструктуры дальше, – большие гаражи для роботов либо же сеть ларьков для заправки, — сказать трудно.

Неравенство машин и роботов не сводится только лишь к скорости, силе, выносливости одних, и душе, свободе воли и гибкости интеллекта других. В своей известнейшей книге «Творец и робот»[4][2] [26], Норберт Винер приводит следующие размышления по поводу человеко-машинных систем будущего (сокращено и выделено):

Одна из сфер человеческой деятельности, которая остро нуждается в автоматизации и где ощущается потенциальная необходимость в самообучающихся автоматах, — это машинный перевод. …

Ни одна из систем машинного перевода не доказала, что она заслуживает доверия в тех случаях, когда от точности перевода зависит принятие важных решений….

…На мой взгляд, наиболее обнадеживающий путь осуществления машинного перевода состоит в замене чисто машинной системы — по крайней мере, на начальных этапах — системой механобиологической, включающей в качестве критика и эксперта человека — опытного переводчика, который обучает машинную часть системы с помощью упражнений, подобно тому, как школьный учитель обучает своих учеников. …

…Однако если человеческий элемент необходимо вводить в качестве критического начала, то вполне разумно вводить его также и на других этапах. …

Все высказанное о машинах-переводчиках в равной или в еще большей мере относится к машинам, составляющим медицинские диагнозы. Такие машины стали очень модными во всех планах развития медицины на ближайшее будущее. Эти машины могут помочь врачу установить данные, которые ему понадобятся для диагноза, но нет никакой необходимости в том, чтобы они устанавливали диагноз сами, без участия врача. Ведь весьма вероятно, что такая тенденция применения медицинских машин может рано или поздно привести к ухудшению здоровья людей и даже ко многим смертельным исходам.

Винер поднимает вопрос о мере ответственности человека и машины за допущенные ошибки. И ответ для него очевиден: машина не может нести никакой ответственности за принимаемые ей решения. Т.е. вне зависимости ни от чего должно существовать четкое разделение: разумный человек, наделенный мерой ответственности за свои деяния, и бездушный автомат, призванный только помогать человеку в процессе их исполнения. В самом деле, абсурдна ситуация суда над автомобилем, водитель которого стал причиной трагедии. В связи с этим Винер говорит об опасности секты машинопоклонников, стремящихся поставить машину на одну полку с человеком или даже выше него. Цитата:

Помимо того, что машинопоклонник преклоняется перед машиной за то, что она свободна от человеческих ограничений в отношении скорости и точности, существует еще один мотив в его поведении, который труднее выявить в каждом конкретном случае, но который, тем не менее, должен играть весьма важную роль. Мотив этот выражается в стремлении уйти от личной ответственности за опасное или гибельное решение.

Исторически такой взгляд связан с планами Соединенных Штатов по созданию интеллектуальной информационной системы для ведения ядерной войны, этакая SkyNet из кинофильмов о Терминаторе. Как правильно отмечает Винер, «В настоящее время экспертов ведения атомной войны не существует. Это значит, что нет таких людей, которые обладали бы каким-либо опытом в военном конфликте, где обе стороны располагают атомным оружием и применяют его». Винер опасается, что факт существования такой системы позволит политикам снять с себя ответственность за миллионы жизней, унесенных развязанной ей ядерной войной.

Некоторые соображения последних лет заставляют нас усомниться в справедливости приведенных доводов.

Пределы личной ответственности

В мире нет ничего бесконечного, так же как не существует и абсолютной степени ответственности. Известно, что европейское право снимает ответственность за уголовные преступления с детей младше определенного возраста. А действия, предпринятые в состоянии аффекта, смягчают приговор. Тем не менее, это не всегда распространяется на профессии, изначально связанные с риском для жизни большого числа посторонних людей. А это включает все те случаи, когда человек является водителем пассажирского транспортного средства.

Классический пример — гражданская авиация. Шансы выжить у пилотов и пассажиров примерно равны. Важен вопрос: какую ответственность несет человек, по вине которого погибли сотни пассажиров, если сам он погиб вместе с ними? Ситуация довольно сильно отличается о той, когда военный бомбардировщик сбрасывает заряд на жилой город. Однако, ответ один и тот же: никакой.

Современная гражданская авиация уже достигла того уровня развития технологий, при котором самым ненадежным звеном системы становится человек. В подтверждение этому может послужить сводная таблица причин возникновения авиакатастроф и нештатных ситуаций по всем самолетам и вертолетам на территории США за 2000 год[7] [27] ->

Стоит ли вообще задаваться вопросом ответственности в случаях, когда человек действует за пределами физических, психических и моральных возможностей? Вероятнее всего, ответом будет «нет». Поскольку это чисто прагматический спор, и очень трудно найти какие-то разумные, лишенные морализаторства и религии, доводы в пользу «да».

Соединенные Штаты занимают первое место в мире по общему количеству авиакатастроф и общему числу унесенных в них жизней. Они же обладают самой серьезной системой контроля и безопасности. Как видно из таблицы, на одного только пилота приходится 79,9% аварий, не считая 11,9% вины наземных служб.

История богата примерами тому, как опасно сосредотачивать слишком много власти и, вместе с ней, ответственности за жизни людей в руках одного человека. Исходя из этого, и еще нескольких побочных соображений, уголовное и административное право вводит понятие коллективной ответственности. Именно эта коллективная ответственность, распространяемая на компанию-производителя и компанию-перевозчика, и задает вектор в сторону тотальной автоматизации индустрии авиаперевозок под лозунгом: «человеку здесь не место!».

Таким образом, у создателей SkyNet было бы достаточно собственных аргументов в пользу того, что атомной войной не должен руководить человек. Во всяком случае, если Президент не успеет принять решение за те 12 минут, пока русская ракета летит к побережью Северной Америки, должна сработать система автоматического нанесения ответного удара. Поскольку в то время не возникало сомнений в большой вероятности атомной войны, люди думали только о способах решения проблемы, а не о том, как на них посмотрят со стороны.

Накопленный опыт применения автоматизированных систем управления вообще ставит под вопрос такой вариант использования человеко-машинных отношений, в которых человек выступает в качестве ведущего звена, а искусственная система — ведомого.

Но самый неприятный момент в следующем: если под ответственностью машины понимать ответственность создавших ее людей, а полностью автоматизированные системы пилотирования будут, вероятно, являться одними из самых сложных систем когда-либо созданных человеком, то какой будет мера этой ответственности за решения, принятые в ситуации экстремальной сложности? Не будет ли это столь же неадекватным, как судить саму машину? Этот парадокс возникает только потому, что понятие ответственности — юридическое. Возможно, политическое. И предназначено, соответственно, для двух целей: регулирование личной свободы и поиск козлов отпущения, т.е. имеет непрямое и малое отношение к технологиям. Именно поэтому вопрос об ответственности ученого перед миром вызывает так много споров.

Таким образом:,

Тезис №I. Не существует практического способа оценить меру ответственности за автоматические действия человека или машины, — следовательно, термин нельзя правильно применить, что можно интерпретировать как отсутствие всякой ответственности.

А как насчет полной автоматизации проектирования? Роботы-ученые, роботы-конструкторы, роботы приемно-испытательная комиссия. Что остается человеку?

Создатель и его создание

Курица — это всего лишь способ одного яйца произвести другое яйцо [28]

Сэмюель Батлер

Проблемы взаимоотношений создателя и его творений тысячелетиями обсуждаются в среде богословов. Накоплен достаточно большой список парадоксов, для которых уже давно придуманы объяснения разной степени разумности. Один из них — парадокс свободы воли, кратко формулируемый как конфликт между всемогуществом Бога, судьбой, предопределенностью всей истории человечества, и правом человека на свободный выбор. Обратимся снова к Винеру[4]:

…Дьявол ведет игру с богом, причем ставкой является душа Иова или вообще души людей… …Вести игру против всемогущего, всезнающего Бога — занятие глупое…

…[но], если мы не запутаемся в догмах Всемогущества и Всезнания, конфликт между Богом и Дьяволом предстанет перед нами как реальный конфликт, а Бог — как нечто меньшее, чем абсолютное Всемогущество. Бог действительно вовлечен в конфликт со своим творением, причем он легко может проиграть. И, однако, это его творение создано им по его собственной воле и, по-видимому, приобрело всю свою способность действия от самого Бога. Может ли Бог вести серьезную игру со своим собственным творением? Может ли любой творец, даже ограниченный в своих возможностях, вести серьезную игру со своим собственным творением?

Существование современных шахматных программ, которые легко выигрывают у своих создателей, подтверждает хотя бы тот факт, что некоторые интеллектуальные функции могут выполняться роботами лучше, чем человеком, создавшим этих роботов. Хотя зачастую то, что высоко интеллектуально для человека, совершенно не интеллектуально для робота [29].

А что по поводу великого таинства рождения новой жизни? Женщина вынашивает ребенка из одной-единственной клетки, давая жизнь личности, которая способна намного опередить в физическом и интеллектуальном развитии обоих родителей. Процесс развития плода, хоть и похож на магию, состоит целиком из обыкновенных, не магических, процессов. И хотя можно долго спорить о моменте появления у плода души (или вселения в него души), факт равноправия создателя и создания остается фактом. Тем более что от процесса вселения души попахивает «жизненной силой» виталистов XVII века [30].

Таким образом:,

Тезис №II. Более простые системы могут различными способами порождать собой эквивалентные или даже более сложные системы.

Т.е. это напрямую относится к человеку, создающему более совершенное в некоторых аспектах небиологическое существо. А отсюда недалеко и до восстания машин, судного дня, полного вымирания человечества и т.д., которые так будоражат воображение.

Существует интересная фрейдистская интерпретация страха восстания машин. Согласно ей роботы отражают мужскую обеспокоенность о социальном служении — робот бескорыстно трудится на благо общества, не беря ничего взамен. Вместе с этим, тема построения роботов является явной сублимацией сексуальной энергии мужчины, т.к. для женщин роботы представляют гораздо меньший интерес. В этом смысле, страх потери контроля над машиной отражает для не доминантных мужчин понимание и боязнь неизбежности возникновения конфликта между жертвенной социальной ролью и желанием овладения женщиной, возможно, чужой, с элементами убийства соперников. Т.е. бунт роботов ощущается не только как возможный, но даже предпочтительный.

Подчиненное положение роботов само по себе является очень интересным моментом изучения. В приложении к любым системам можно очень условно выделить три типа отношений подчинения относительно цели такого положения:

1. Подчинение более сильными системами более слабых против их воли, преследующее цели сильных. Примеры: отношения хищник-жертва, едок-еда, система управления — манипулятор и т.д.;

2. Симбиоз систем, взаимовыгодное сотрудничество, в котором сила и слабость только относительны. Примеры: нервная система — остальной организм, руководитель — подчиненные, государство — граждане;

3. Временное подчинение, которое подразумевает постепенную безвозвратную передачу власти от сильной системы к слабой. Примеры: взрослые-дети, учитель-ученик, гусеница-бабочка.

Нынешнее положение машин однозначно первого типа. Хотя действительно, эти типы несколько условны, потому что кто-то может утверждать, будто положение кур на птицеферме – это взаимовыгодное сотрудничество. Того же мнения и идеологи рабовладельческого строя.

Есть мнение, что рабовладельческий строй невыгоден по причине изъятия большого числа людей из процесса инвестирования благ. Дело в том, что жизнь наша очень сложна, и никто не может заранее и точно предсказать, что окажется правильным, а что нет. Монархия, административно-командная система управления, торговая монополия и другие примеры авторитарных систем невыгодны из-за высокого риска принять неверное решение, от которого будет сложно отказаться.

В действительности, монархия с идеальным королем гораздо эффективнее демократии. Это понятно, поскольку мнение одного эксперта намного чаще окажется более верным, чем мнение дюжины обывателей. Проблемы начинаются, когда на троне неадекватная личность и это надолго. Т.е. вся проблема не в централизации власти, а в плохих механизмах ее передачи.

В случае с рабовладельческим строем это именно тот пример: хозяин и раб занимают свои места по праву рождения, т.е. по воле случая. Изъятие всех благ у рабов лишает их права решать, во что будут инвестированы добытые блага, например: «в строительство пирамид или в ирригационные каналы?».

Переложим теперь эту теорию на вопрос роботов. Представим себе, что в отдаленном будущем появляются машины, способные решать отдельные задачи и планировать в среднем лучше, чем любое человеческое существо. Вспоминая, что в мире не может быть ничего абсолютного и всевластного, мы должны предоставить таким машинам равное с нами право в управлении нашей общей жизнью, иначе это невыгодно. Т.е. мы можем сопротивляться, но первый же, кто уравняет права, довольно быстро выиграет у нас эволюционную гонку, мы вымрем, и сопротивляться будет уже некому. Людям, ежедневно приближающим для нас момент появления разумных машин, этого объяснять не нужно. Как сказал Дэнни Хиллис, соучредитель Thinking Machines Corporation в Sun Microsistems, «перемены произойдут постепенно, и мы к ним привыкнем».

Что значат человеческие ошибки

Одним из очень многообещающих направлений в современной макроэкономике становится теория принятия потребителем нерациональных решений (Вернон Смит и Дэниэл Канеман, Нобелевская премия по экономике 2002). Индустрия рекламы давно знает о том, что среднестатистический человек вообще редко принимает рациональное решение. Обыденное создание выбирает какие-то другие пути, и рациональное решение проблемы — всего лишь один из многих. Между тем, искусственная программа может ошибаться только по трем простым причинам:

1. Это неверная программа;

2. Возник аппаратный сбой — поломка;

3. Программа попала в необычную ситуацию, но не видит этого и принимает ошибочное решение — недоработка алгоритма.

Отличие человека состоит в том, что он легко ошибается в тривиальных ситуациях, которые встречались ему не раз. Известно, что мышца не знает усталости, а устают только нервы, ею управляющие. Повиснув над пропастью на одной руке, можно было бы долго висеть в ожидании спасателей, однако своеобразная лень нервной системы, которая старается спасти руку от отравления молочной кислотой, не позволяет сохранить целый организм.

В определенном смысле, скорость решения имеет для человека большую важность, чем его правильность. Можно даже выразиться следующим образом:

Интеллект — это значит «быстро».

Охотясь на газель, мы будем непрерывно рассчитывать траекторию ее движения, чтобы правильно угадать направление полета копья. Какой толк от системы расчета траектории, если она будет считать дольше, чем бежит газель? Таким образом, у каждого действия существует естественный временной отрезок, определяемый поставленной задачей или энергетическими ресурсами нервной системы, дольше которого оно выполняться не будет. И если кажется, что ситуация очень критична по времени, кора головного мозга даже не будет задействована. Именно поэтому водители-новички в случае опасности до отказа выжимают педаль газа, на котором нога, а не тормоз, который рядом, — нижние отделы мозга командуют напрячь все мышцы: вцепиться в руль и упереться ногами в пол.

Например, нам очень трудно поймать муху на лету, потому что пока мы обработаем изображение (~0.25 сек), муха уже отлетит от того места, где мы ее «видим» в этот момент. Единственная реальная возможность поймать — это предугадывание траектории полета.

Отсюда следует, что некоторые причины человеческих ошибок кроятся в: быстром принятии необдуманных решений (иллюзия нехватки времени), стремлении выдать желаемое за действительное (это тоже позволяет «решить» задачу быстрее) и несогласованном действии разных отделов мозга (вполне вероятно, причина частых оговорок и описок кроется в особой лени одних отделов до конца понять другие), например:

· я хотел(а) подождать, но не утерпел(а);

· я думал(а) там свободно, а оказалось занято;

· я подумал(а) нужно вправо, а рука пошла влево;

· я хотел(а) сказать нет, а сказал(а) омлет.

Подобные вещи не являются настоящими ошибками. Это просто следование другой логике, более или менее адекватной в каждой конкретной ситуации. Такие ошибки равнозначны по своей природе типу 3 ошибок машины: «неверная оценка ситуации в силу недоработки алгоритма».

Введем несколько гипотез о принципах мышления, которые помогут более аргументировано сформулировать естественные причины человеческих ошибок. Первая из них — это гипотеза наблюдателя.

Гипотеза наблюдателя: если какие-то явления происходят условно одновременно, то они как-то между собой связаны. Сумма наблюдаемых одновременно явлений называется феномен. Основное следствие: любое из наблюдаемых совместно явлений, даже вызванное искусственно, должно привести к появлению остальных. Вероятность такого появления пересчитывается из других известных феноменов.

В качестве примеров применения гипотезы наблюдателя можно привести следующие суждения:

· если сунуть палец в огонь — будет ожог;

· если из-за забора видна голова собаки — за забором собака целиком;

· если на небе темные тучи — к дождю;

· если к власти снова придут коммунисты — жизнь наладится.

Отметим, что так популярные сегодня искусственные нейронные сети используют только идею гипотезы наблюдателя, т.к. алгоритм обратного распространения позволяет всего лишь правильно настроить веса синапсов сети, чтобы они удовлетворяли гипотезе. Безусловно, нейронная сеть не интеллектуальна, — она в очень узком смысле адаптивна.

Искусственные нейронные сети уже могут успешно решать задачу социализации. Пронаблюдать, что раздражает хозяина, а что веселит, совсем не сложно. Таким образом, создание роботов с живыми открытыми лицами и поведением, вызывающим откровенную симпатию, не составляет проблемы. Нейронная сеть способна так подобрать лексику, интонации, жестикуляцию и прочее, что в нее уже невозможно будет не влюбиться. Можно влюбиться в робота? Вероятно настолько же, насколько возможно влюбиться в игру света на телеэкране и фотографию, т.е. для определенного сорта людей определенно «да». В этом случае наш мозг играет с нами очередную свою шутку, и мы легко совершаем ошибку в выборе объекта любви. Очевидно, это имеет отношение как к мужчинам, так и к женщинам, поскольку роботы — ну очень загадочный тип мужчины.

Современные луддиты считают, что мы совершаем роковую ошибку думая, что машины и технический прогресс в целом — это наши помощники и друзья. Почему-то им кажется, что в каменном веке люди были гораздо более счастливы. Вероятно, это просто еще один способ выдать желаемое за действительное.

Вторым будет принцип суперпозиции, вероятно используемый в процессе восприятия информации.

Принцип суперпозиции: любой сенсорный или управляющий сигнал может быть представлен в виде суперпозиции (суммы, свертки и т.д.) нескольких сигналов с более простыми характеристиками, а разные способы группировки выделенных сигналов позволяют по-разному выделить из феномена отдельные явления для применения гипотезы наблюдателя.

Принцип суперпозиции имеет дело с выделением цветовых пятен и группировкой их в цельные образы, а также с формированием целостного управляющего движения для танца. Выделение базовых вещей из набора данных обычно называется анализом, а формирование управляющих сигналов — синтезом. Поскольку принцип имеет отношение не только к исходному целому изображению или звуку, но и ко всем его отдельным частям, из него следует, что:

a. задача анализа сигналов включает в себя как подзадачу синтез возможных вариантов компоновки выделенных примитивных сигналов в образы;

b. задача синтеза включает в себя как подзадачу анализ реакции от органов чувств — задача Винера на отрицательную обратную связь.

В приложении к человеческим ошибкам, принцип суперпозиции сигналов показывает природу разногласий в анализе разными людьми одних и тех же фактов. Во-первых: видя в действительности одно и то же, они по-разному компонуют детали в целое; во-вторых: совместно с гипотезой наблюдателя каждый присоединяет к картинке собственные, логически плохо обоснованные, однако абсолютно очевидные для него «связанные с этим вещи». Поскольку у каждого из нас есть свои представления о вероятности наблюдаемых вещей (согласно первой аксиоме), то может сложиться такая ситуация, когда вероятностный вес «присоединенной» вещи, которая отсутствует в наблюдаемой картине, но как-то связана в нашем представлении с наблюдаемыми в данный момент вещами, оказывается выше, чем у какой-то действительно наблюдаемой вещи. И тогда мы совсем не замечаем чего-то реального, но видим что-то другое, чего на самом деле нет. Естественно, быстро получить хоть какой-то результат часто бывает важнее перебора всех вариантов интерпретации событий.

Наконец, третий принцип:

Воспоминания приравниваются к текущим наблюдениям.

Этот принцип постулирует, что память и прошлое не существуют до того момента, пока мы о них не вспоминаем, а само воспоминание — это очевидно наблюдение за сигналами из памяти, мало отличающееся по физической природе от наблюдения за реальными объектами. Мы посылаем запрос в нашу память и наблюдаем пришедшие в ответ сигналы. Какая-то часть нас, которая и является в действительности «нами», когда мы пытаемся ощутить реальность бытия по примеру Декарта, представляет собой наблюдателя сигналов от окружающих ее нейронов. А ощущение «осознания себя», вероятно, возникает в момент прохождения сигналов через эту часть, как через мембрану. Каждую секунду в нашем мозгу совершается невероятное количество неосознанных процессов. Мы можем заметить немногие из них (ощущение толчков от сердцебиения, температуру полости рта), если переведем на них фокус своего внимания. Перемещая фокус внимания в пределах черепной коробки можно ощущать реальность бытия. Попадая в фокус, сигналы записываются в нашу память восприятия.

Возможно, что чувство реальности, чувство времени, обязаны своему существованию тем, что в фокусе внимания одновременно находятся как только что обработанные сигналы от органов чувств, так и некоторый момент непосредственного ближайшего прошлого, чуть более отдаленно прошлого (доли секунды) и часть отдаленных воспоминаний, участвующих в принятии решений. Это позволяет нам ощущать себя целостно в непрерывном потоке времени.

Если на мгновение представить себе, что память исчезла и мы какое-то время наблюдаем мир ничего не запоминая, не вспоминая и не сравнивая ни с чем, это будет равносильно невозможности узнать ни один образ и в целом отсутствию сознания.

Все эти соображения наводят на мысль о том, что если мы будем строить разум роботов по образу и подобию человеческого, наделять их эмоциями (для роста умиления при взгляде на свои создания), полученные машины, по крайне мере первое время, будут совершать человеческие ошибки или очень на них похожие. Если только машины не будут к тому моменту в тысячи раз мощнее человеческого мозга в вычислительном плане, что снижает фактор времени размышления.

Роботы как новая раса

Мне кажется, вопрос «могут ли машины думать?» слишком бессмысленный, чтобы заслуживать обсуждения. Тем не менее, я верю, что к концу века смысл слов и общее образованное мнение изменятся настолько, что станет возможным говорить о машинном мышлении, не ожидая возражений в свою сторону. [31]

Алан Тьюринг, 1950

Если не вдаваться глубоко в спор о слабом и сильном искусственном интеллекте, простой ретроспективный взгляд позволяет надеяться, что метафизика сдаст и этот рубеж, т.е. будет доказана материальность сознания. Во всяком случае, истории не известны примеры, когда теория нематериальности или непознаваемости чего бы то ни было уверенно одержала победу над материальной или познаваемой версией. А это ставит перед нами проблему социальных прав роботов. Например, такие абсурдные по нынешним меркам вопросы, как:

1. Судить ли человека за убийство робота?

2. Вводить ли ограничения на создание копий с роботов?

3. Давать ли роботам избирательные права?

4. Разрешать ли им занимать руководящие должности?

5. Разрешать ли смешанные браки и усыновление?

6. Что-то еще более странное…?

Следуя за Бертраном Расселом[5] и Аланом Тьюрингом, отметим следующие интересные мысли:

Тезис №III. Каждый человек судит о наличии у окружающих такого же сознания, как у себя, только из личного общения.

Т.е. нет никакого «непосредственного контакта». Если мой собеседник вдруг начинает «сбоить», неадекватно реагировать, непрерывно говорить ерунду металлическим голосом и искрить проводкой, сознательность сразу же ставится под сомнение. С другой стороны, как насчет «Человека дождя» [32]?

Дата добавления: 2015-08-26