Глава 3 Наука и техника: восстание машин

C помощью логики вы можете перейти от А к В. С помощью воображения вы можете попасть куда угодно.

Альберт Эйнштейн

История человеческой цивилизации в огромной мере является историей техники. Поэтому история ближайших пятидесяти лет будет во многом зависеть от того, что изобретут мудрецы в Бангалоре и интеллектуалы в Нью-Йорке. Точнее, главнейшие направления нашего развития будут определяться тем, как общество сумеет распорядиться достижениями науки и техники. Конечно, скажутся и другие важные факторы, такие как изменения климата или появление новых идеологий, которые бросят серьезный вызов глобалистской модели капитализма, но именно техника всегда будет основным двигателем перемен и всегда останется среди главнейших факторов любых перемен в настроениях в обществе и в его структуре.

Например, к 2030 г. компьютеры станут умнее людей. И тогда перед человечеством возникнет дилемма. Если машины сделались умнее своих создателей, что может удержать их от попытки подчинить себе хозяев? Конечно, можно создавать машины со встроенными сдерживающими механизмами (см. «Три закона робототехники» А. Азимова), однако человечество постоянно будет преследовать искушение посмотреть: а что, если изготовить устройство без подобных механизмов?

Еще одна интригующая, хотя и не столь очевидно опасная перспектива – вероятность соединения компьютеров, роботов и нанотехнологий, что может привести к возникновению самовоспроизводящихся машин. А если к сказанному добавить еще и возможность вкладывать в машины не только интеллект, но и сознание, то перед нами неизбежно встанет вопрос: что лучше, жить вечно в виде машины или просуществовать несколько десятков лет углеводородным двуногим? Лично я склонен думать, что загрузка в компьютер человеческого сознания невозможна, но мудрая пословица гласит: «Никогда не говори никогда». Ян Пирсон, глава футурологического отдела компании ВТ в Великобритании, полагает, что к середине XXI века научатся загружать содержимое человеческого мозга в компьютер. Если наш разум сумеет осознать суть происходящего, начнется разделение человечества на две части: природную и сконструированную.

Футурологи используют термин «сингулярность» для характеристики того момента, когда машины достигнут уровня, при котором люди уже более не смогут ни полностью понимать, ни предсказывать их возможности. Проблемы искусственного интеллекта начали всерьез обсуждать в середине 1950-х гг., хотя А. Азимов писал о разумных роботах еще в 1942 г.

Первый блестящий тест для искусственного интеллекта в 1950 г. предложил английский математик Алан Тьюринг. Суть теста очень проста: интеллект машины превзойдет определенный критический уровень в том случае, если мы не сможем определить, от кого исходит реакция на наше сообщение – от машины или от другого человека.

В 60-е и 70-е годы XX века был достигнут существенный прогресс в развитии искусственного интеллекта, однако революционных прорывов все-таки не произошло. Ученые в основном занимались решением конкретных проблем: распознавания речи, текстов и компьютерного зрения. Тем не менее от момента, предсказанного Тьюрингом, нас, вероятнее всего, отделяет всего какой-нибудь десяток лет. Одна компания в Остине, Техас, к примеру, создала компьютер под названием «Cyc». В целом, он очень похож на обычный «чатбот», но в отличие от него способен учиться на собственных ошибках.

И все-таки «Cyc» еще не слишком разумен, возможно, именно поэтому его создатель, ученый и футуролог Рей Курцвайль публично заключил пари с основателем Lotus Митчелом Капором, что компьютеры пройдут тест Тьюринга к 2029 г. Курцвайль основывает свои предсказания на идеях, изложенных в книге «Точка сингулярности совсем близко». По сути, его аргументация основывается на том, что искусственный интеллект будет совершенствоваться бесконечно в геометрической прогрессии, как только мы достигнем определенного уровня в развитии генетики, нанотехнологий и робототехники, а также в соединении данной технологии с основами человеческой биологии. Прецедентом для автора послужило необычайно быстрое развитие компьютерных технологий. PlayStation 3 фирмы Sony, к примеру, в тридцать пять раз мощнее своего предшественника, при этом она обладает мощностью суперкомпьютера образца 1997 г., а стоит всего 600 долларов.

Курцвайль основывает свои выводы на увеличении компьютерами быстродействия и мощности, а также на том, что программисты продолжают вести работу в данном направлении. Капор исходит из другого: машины никогда не пройдут упомянутый тест, поскольку мы существуем в телах, которые способны чувствовать удовольствие и боль, плюс накапливать опыт и знания, и большая часть их никогда не выражается словесно. Другие эксперты, такие как, например, Билл Кальвин, полагают, что человеческая психика настолько странна и нелогична, что компьютеры никогда не смогут с ней в этом сравняться. Хотя, возможно, дальнейшее развитие искусственного интеллекта пойдет совсем в другом направлении. Джеймс Суровецки в книге «Разум толп» высказывает мнение, что Интернет уже сейчас творит невообразимую ранее форму искусственного интеллекта – в высшей степени эффективный рынок идей и информации, известный под названием «коллективный разум», или «разум роя».

Адам Смит в свое время писал, что продавцы и покупатели, преследуя каждый свои собственные интересы, будут вместе производить больше товаров и более эффективно, чем при какой-либо другой экономической системе. Так и онлайновые поставщики коллективного интеллекта (подобно блогерам) в состоянии собрать больше полезной информации с большей объективностью и по большему кругу дисциплин и отдельных проблем, нежели какая-либо специально подобранная группа экспертов. По крайней мере, теоретически это, несомненно, так.

Если бы в 1982 г. кто-либо высказал предположение, что несколько сотен тысяч обычных людей, проживающих в разных уголках мира, способны совместно создать нечто, представляющее реальную ценность, его бы сочли либо безнадежным романтиком, либо сумасшедшим. Ныне «контент, создаваемый пользователями» (UGC), находится на пике информационной моды, особенно в медийных кругах, и такие информационные империи, как YouTube и MySpace, построены исключительно на UGC. Стоит упомянуть и о «Википедии», коллективной онлайновой энциклопедии, которая ставит перед собой «скромную» цель со временем сделаться одним из самых крупных, самых объективных и точных хранилищ человеческих знаний.

К вашему сведению, на сегодняшний день «Википедия» является «открытым» онлайновым изданием, то есть любой может внести свой вклад в ее создание, а ее содержимое бесплатно доступно каждому. У «Википедии» имеется руководство (фонд) с довольно широкими взглядами, но нет руководителя в прямом смысле слова. В данный момент она уже поистине огромна. Сейчас в ней содержится 4 миллиона статей на 120 языках. Для сравнения: в онлайновой «Британской энциклопедии» всего около 100 000 статей. У авторов «Википедии» существуют совместно выработанные правила относительно того, что приемлемо в энциклопедии, а что нет. Многочисленные пользователи создают, редактируют и связывают между собой различные страницы с главной целью совершенствовать содержание энциклопедии. Еще несколько десятилетий назад никто не осмелился бы предположить, что нечто подобное в принципе возможно.

Первоначальная идея заключалась в том, что содержание «Википедии» будет создаваться специалистами, но очень скоро выяснилось, что они ни в малейшей степени в этом не заинтересованы. Конечно, можно было бы ожидать, что использование любителей вместо специалистов для разработки, обсуждения и редактирования энциклопедических материалов в конченом итоге приведет к анархии и онлайновому вандализму, однако анализ, проведенный недавно журналом Nature, установил: качество и точность статей «Википедии» практически такое же, как и в «Британской энциклопедии». Случаев вандализма практически нет, так как сообщество «википедийцев» способно уничтожать любую попытку антиобщественного поведения в зародыше. Особенно интересным мне видятся последствия, к которым может привести существование «Википедии». К примеру, на излюбленный вопрос философов «Что есть истина?» отныне будет отвечать широкая общественность, а не элита экспертов.

«Истина» теперь то, что таковой считает «Википедия». Более того, «истина» – это то, что «Википедия» считает таковой именно сейчас, а завтра она может полностью изменить свое мнение.

Однако существует и противоположная точка зрения. Джерон Ланье, создатель термина «виртуальная реальность», предсказал, что у коллективного разума – или цифрового маоизма – со временем появятся те же омертвляющие и убивающие творческий дух последствия, что и у политического коллективизма. Проще говоря, мудрость «идиотов» будет уничтожать любое мнение, которое не совпадет с их собственным. Если онлайновое большинство решит, что 1+1=3, это станет «истиной». Как бы то ни было, важно хотя бы то, что мы осознаем, на что способны компьютеры (кстати, уже на гораздо большее, чем многие полагают), и задумываемся над тем, как их возможности будут меняться со временем и менять нас самих. Хотим ли мы, чтобы знания стали собственностью анонимного онлайнового коллектива? Если нет, мы должны заявить об этом прямо, пока еще не слишком поздно.

Одно из важнейших достижений Интернета – создание электронной мнемоники, средства от забывания, позволяющего нам очистить память от всякого рода мелочей и сосредоточиться на проблемах более высокого уровня. Однако если в прекрасном будущем нам не придется беспокоиться по поводу того, что мы о чем-то забудем – и, следовательно, забыть о беспокойстве, – то возникает вопрос: что произойдет с нашими когнитивными способностями, если исчезнет необходимость в наиболее примитивных, то есть базовых мыслительных функциях?

Возможности Интернета в объединении человечества могут быть использованы в будущем и для совместного ответа всеми жителями планеты Земля на вопросы типа: «Следует ли нам применять космические зеркала для решения проблемы глобального потепления?», выведя таким образом столь важную дискуссию за пределы узкого круга специалистов.

Но я отклонился от темы. «Википедия» – медийный проект, а не научный. Или все-таки научный? Возможно, самое существенное как раз и заключается в том, что она одновременно является и тем, и другим. В наше время все со всем вступает в неожиданные связи.

Если соединение вычислительных и коммуникационных технологий положило начало информационной эре, то сейчас мы находимся на пороге нового значительного сдвига. Некоторое время назад начали соединяться инженерные и вычислительные технологии; ныне естественные науки, такие как биология, соединяются с точными науками и техникой. В автомобилях машиностроение соединяется с вычислительной техникой, а на саму вычислительную технику огромное влияние оказывает биология и науки о человеческом мозге.

Таким же образом соединяются и вещи. К примеру, iPod компании Apple дает возможность пользователям переместить процесс слушания туда, куда им захочется. Размышляя над подобными усовершенствованиями, я задаюсь вопросом: а не сможем ли мы в будущем находиться одновременно в двух местах и физически перемещаться назад и вперед во времени?

Пока, конечно, это лишь научная фантастика, но наука и техника уже позволяют нам заглядывать в прошлое и в будущее, к примеру, чтобы отыскать у себя в организме генетические бомбы замедленного действия.

Существует довольно спорная идея, что свободы воли нет и наши личностные свойства и поступки в основном определяются генами и наследственностью. Если подобная мысль получит подтверждение, возникнет крайне взрывоопасная ситуация – люди будут отказываться нести ответственность за свои поступки. Общество получит возможность заблаговременно заглядывать в генную структуру детей и предугадывать с довольно большой долей вероятности, что из них получится.

Иными словами, мы, подобно «Отделу будущих преступлений», будем знать, что сделают люди, еще до того, как у них возникнет потребность это совершить. Тогда откроется еще один ящик Пандоры – корректировка человеческой личности с помощью генной инженерии. Еще более опасной идеей является мысль о том, что интеллект (как, впрочем, и другие человеческие характеристики) генетически обусловлен и в разных этнических и половых группах представлен в разной степени. Даже незначительный намек на правильность приведенной идеи способен спровоцировать всплеск насилия. Только представьте, к чему приведет крах представления об исходном равенстве всех людей. Конец веры в свободу воли человека повлечет за собой и конец веры в закон и право.

Но я снова отвлекся.

Один ученый из Кембриджа сумел создать прототип компьютера, который «читает» мысли пользователей, сканируя выражение лица – сосредоточенность, возмущение или замешательство. В экспериментах, проведенных с актерами, компьютер оказался прав в 85% случаев, хотя когда в эксперимент включились «обычные люди», точность машины снизилась до 65%.

Технические усовершенствования порождают целый ряд проблем, связанных с темой приватности. К таковым в первую очередь относится сбор личных сведений. Профессор Питер Робертсон работает в компании Toyota над проблемой считывания механизмами автомобиля эмоционального состояния водителя. Нетрудно предугадать, что страховые компании захотят получить в свои руки средство определения ложных требований страхового возмещения. Такие же устройства потребуются банкам, выдающим кредиты. Учителям с помощью подобных устройств нужно будет узнать, хорошо ли их поняли учащиеся, правительствам – заблаговременно установить личность террористов и других антиобщественных элементов.

В будущем автомобильные компании и местная администрация смогут подстраивать дорожные карты и знаки под уровень агрессивности водителя. Меня больше всего занимает вопрос, сумеем ли мы настраивать радио и телевидение под наше настроение, заставляя в соответствии с ним подбирать музыку и программы. Существует также достаточно интригующая перспектива того, что со временем интернет-менеджеры научатся подстраивать домашние страницы и даже описания продуктов эмоциональные состояния отдельных пользователей.

Таким образом, ближайшей задачей для ученых становится создание программного обеспечения, которое формируется в соответствии с желаниями потребителя и их динамикой, построение нейронных сетей, удерживающих прошлый опыт, которые будут сочетаться в нечто напоминающее человеческое сознание.

Чего еще ожидать от будущего? Самая близкая мне тема – предсказания. В будущем предсказание транспортных проблем станет делом обычным, как ныне прогноз погоды. То же самое относительно войн.

Прогноз результатов военных столкновений в настоящее время – довольно активно развивающаяся отрасль футурологии, особенно в таких странах, как США, Германия и Австралия. Одним из главных инструментов, используемых для определения исхода военных действий, является программа под названием «Тактическая цифровая детерминистская модель» (ТЦДМ), которую создала группа разработчиков оборонного программного обеспечения в Вашингтоне. ТЦДМ – прообраз для всех других боевых симуляторов. С ее помощью можно попытаться определить исход будущих конфликтов (в особенности потери и продолжительность). Точность ТЦДМ в первую очередь основана на грандиозном объеме исторических данных и доступных факторов, включая даже такие, на первый взгляд малозначительные, как количество осадков, ширина рек, характеристики листвы деревьев и скорость боевых снарядов. В результате мы получаем математическую модель предвидения событий: к примеру, победу того или иного кандидата на очередных выборах на пост президента.

Модели, подобные упомянутой, с каждым днем будут делаться все более распространенными и доступными благодаря способности «умных машин» собирать большие объемы данных в реальном времени и связывать эту информацию с определенными временными точками и пространственным местоположением.

Радиочастотная идентификация, сенсорные частицы и «умная пыль» (крошечные беспроводные передатчики и/или приемники) – вот те новые средства, с помощью которых подобные сведения будут собирать уже в ближайшие годы. «Умные» устройства, некоторые по размерам не превышающие точку (0,15 кв. мм и 7,5 микрон толщиной), все чаще и все более широко будут превращать происходящее в реальном мире в математические модели, которые, в свою очередь, можно использовать для воздействия на реальность с целью ее изменения. К примеру, если температура воды в морях вдруг резко повысится или в каком-нибудь отдаленном районе возникнет цунами, мы об этом сразу же узнаем. Иными словами, лишенная интеллекта природная материя все больше будет подчиняться материи, наделенной разумом. Неожиданности и ошибки станут редкостью – хотя, конечно, на их место просто придут другие ошибки и другие неожиданности.

Некоторые из упомянутых сенсорных устройств возможно присоединить к биологическим объектам. С помощью крошечных камер и беспроводных устройств, которые будут переносить осы, пауки и мухи, ученые смогут вовремя регистрировать аномальные явления. А если сюда еще добавить и небольшую дозу нанотехнологий (т.е. манипуляцию различными структурами на атомном или молекулярном уровне), все станет одновременно крайне интересным и пугающим. Это еще один гвоздь в гроб святости частной жизни. Если все на свете получит «разум» и будет отправлять сведения о своем местонахождении в некий «центр», то мы окажемся окружены подслушивающими и подглядывающими «жучками».

Впрочем, у описываемых перемен есть и хорошая сторона – сенсоры, установленные в одежде, не позволят вам потеряться, и они же проследят, чтобы стиральная машина не повредила их при стирке.

Кроме того, техника сможет заранее предугадывать ваши желания и напоминать о важных запланированных делах. К сожалению, пока нам приходится самим программировать большинство устройств, чтобы они предвидели наши желания. Другими словами, в определенном смысле мы вынуждены приспосабливать свое поведение к технике. Следующее поколение устройств будет просто «наблюдать» то, что мы делаем (и где находимся), «слушать» то, что мы говорим, и приспосабливаться к нашим потребностям. К примеру, мобильные телефоны будут «отслеживать», кому мы звоним и когда, и затем напоминать нам о необходимости выполнить то или иное дело в нужное время.

Теоретически это может сослужить хорошую службу: удобно спросить у телефона, когда вы в последний раз звонили матери. Информация, получаемая таким образом, будет представлять особый интерес для социологов, эпидемиологов и специалистов по маркетингу, изучающих, каким образом возникают связи между людьми в обществе и как распространяются болезни. Тем не менее описываемые новшества заставляют с еще большей серьезностью отнестись к вопросу о контроле за научными и техническими разработками. С другой стороны, возникает обоснованное подозрение, что мы уже практически утратили этот -контроль.

Более того, если двадцать пять лет назад большинство людей доверяло ученым, считая их честными профессионалами, в настоящее время многие полагают, что значительная часть ученых финансируется крупными корпорациями и правительством и потому более не заслуживает доверия.

Новые технологии и идеи почти всегда поначалу вызывают сопротивление. Чем мощнее идея, тем большего сопротивления можно ожидать, как непосредственного (в виде физического противодействия), так и опосредованного в виде создания негативной мифологии. Мобильный телефон, к примеру, относится к числу самых успешных изобретений последнего времени, тем не менее его популярность отнюдь не способствовала исчезновению множества связанных с ним страхов и предрассудков. Точно так же изобретение телеграфа породило распространенное убеждение, что его сигналы будут влиять на погоду. А появление поездов и автомобилей, как предсказывалось, станет причиной разно-образных физических и психических расстройств.

Недавно мне довелось беседовать с одним восьмидесятишестилетним джентльменом по поводу вышек сотовой связи, и он вспомнил, что возражения, которые ныне выдвигаются против упомянутых вышек, в свое время выдвигались и против электрических фонарных столбов. Суть в том, как заметил Филип Зимбардо, что нам всем необходим баланс между прошлым, настоящим и будущим. Если уделять слишком много (или слишком мало) внимания чему-то одному, недалеко и до депрессии.

Дата добавления: 2015-08-17