Место человека в человеко-машинных системах

Новые луддиты

Можно даже сказать, что человеку свобода дороже всего. Именно с боязнью утратить свободу, на наш взгляд, связана одна из "болезней XX века" - машинобоязнь.

Когда-то давно, в XVIII веке, выяснилось, что машины могут работать вместо человека, причем работать быстрее, качественнее и дешевле наемного рабочего. Человек переставал быть универсальной рабочей силой. Машина, можно сказать, "объедала" человека: рабочих увольняли, а деньги шли не в общий котел, а на смазку и запчасти. Последовавшие за этим восстания ни к чему, конечно, не привели: машинное производство было значительно эффективнее ручного, просто сферы человеческой деятельности не могли перераспределяться мгновенно. Но уже в XX веке человек прекрасно знал и о том, что машина может почти все, и о том, что завтрашняя машина будет не такой, как сегодняшняя, поэтому техника требует непрерывного изучения.

И что же? Накапливая инженерные знания, человечество в то же время погружалось в пучину совершенного мистицизма. Человек продолжал бояться машины, но беспокоился уже не о куске хлеба, а о собственной свободе. В 1920 году К. Чапек написал пьесу "R.U.R.", где впервые появилось слово "робот". Едва появившись, роботы немедленно замыслили извести все человечество. "Человек во власти машин" - тема, за прошедшее столетие превратившаяся из фантастического предположения в образующий элемент массового сознания. Человечество, порабощенное компьютерами, - не об этом ли рассказывает каждый второй голливудский фильм о будущем Земли? Явление в высшей степени загадочное: компьютеры становятся все привычнее, в повседневном обиходе их все больше (в стиральной машине, в телефоне, в автомобиле...), а боимся мы их по-прежнему.

Между тем компьютер - это всего лишь электронно-вычислительная машина, орудие, выполняющее за нас вычислительные действия точно так же, как, допустим, экскаватор выполняет земляные работы. Еще в XVII веке Фрэнсисом Бэконом сказано:

"Ни голая рука, ни предоставленный самому себе разум не имеют большой силы. Дело совершается орудиями и вспоможениями, которые нужны разуму не меньше, чем руке".

[ 26 ] Несколько позже К. Маркс упростил это высказывание:

"Любое орудие есть продолжение нашего органа, выполняющее ту же работу, но эффективнее".

Итак, отношения экскаваторщика с могучим железнокогтистым продолжением его руки не вызывают ни у кого опасений. Откуда тогда такая боязнь попасть в зависимость от продолжения мозга, если оно только и делает, что быстро считает?

Видимо, нас пугает неизвестность. Если машина выполняет за человека действие, которое он может себе объяснить (например, черпает воду, открывает ворота, раздувает огонь), она не вызывает священного ужаса. Такая машина воздействует на предметы, то есть изменяет материальный мир, так же, как и наши органы (рука, нога, рот и легкие) изменяют его, подчиняясь нашей воле (разуму, душе - здесь есть разночтения). Более того, заглянув внутрь, мы можем сказать: эта пружина давит на колесо, колесо имеет шип, который толкает шест, шест сжимает меха, из мехов вырывается воздух. Все ясно.

Другое дело - машина, совершающая за нас работу, объяснить которую мы не можем. Например, вычисления. Пока мы переносим камешки из одной кучки в другую, называя это "сложением", можно ссылаться на камешки. А без них? Непонятно... Ясно одно: это работают уже не наши органы, выполняющие команды разума (души, воли), а скорее сам разум. А как вычитает арифмометр? Колесо имеет шип, шип толкает шест и т. д.? Не может этого быть! Либо у нас вместо души - колесо и шест (были и такие мнения), либо действия арифмометра продиктованы его, арифмометра, душой; причем душой темной, чугунной с бронзовыми накладками, лишенной видимых эмоций и безусловно враждебной. Что же произойдет, если дать волю арифмометру? Трагедия, масштаб которой зависит только от возможностей взбунтовавшегося автомата.

Бесспорно, миф. Но миф удивительно устойчивый: достаточно сравнить столетней давности рассказ Амброза Бирса "Повелитель Моксона", где шахматный автомат задушил конструктора, потому что тот играл нечестно, с каким-нибудь "Терминатор-3. Восстание машин". Искажение реальности, конечно же, в том, что арифмометр на самом деле не дает нам никакого повода подозревать в нем душу. Потому что выполняет он все те же заранее нами предусмотренные действия, и неважно, изменяется ли при этом материальный мир или нет. Это мы сами настолько умны, что можем не только складывать, не перенося при этом камешки из кучки в кучку, но и формализовать свои действия как "сложение", то есть превратить их в механизм, которым наш разум пользуется, как рука лопатой (см. "Органон"). Попытки формализовать мышление или принятие решений (нейронные сети, экспертные системы и т. п.) не привели ни к чему, кроме очевидных достижений в областях именно формализуемых (вроде распознавания образов или прогнозирования поведения очень сложных систем).

Однако у этого мифа есть и рациональные корни. Во-первых, машин вокруг нас теперь так много и они так много умеют, что исчезни они - и уклад жизни разрушится. Картины самые мрачные: холод, голод, тьма, мятежные толпы... верно, сюжет не нов. Но фатальная зависимость от машин налицо. Во-вторых, современные машины столь сложны, что для взаимодействия с ними приходится изрядную часть времени отводить на изучение специальных приемов и средств работы. Вот тут мы и можем говорить о системе "человек+машина", потому что реальную пользу они могут принести только во взаимодействии. Формально ситуация не меняется: человек пользуется орудием. Но самому человеку представляется совершенно иное: равноправное "сотрудничество" человека и машины, а зачастую и работа "на нее" (например, "разговор на языке компьютера", "выполнение заданий компьютера" и т. п.). А тут уж недалеко и до машиноборчества в духе луддитов.

Оставим мифы культурологам, а эсхатологию - богословам и посмотрим, как такая ситуация преодолевается в современных человеко-машинных системах. Под машиной мы, разумеется, будем в первую очередь понимать компьютер, но только в качестве удобного примера сложного орудия. Как вывести человека из-под диктата машины, освободить его от необходимости "работать на нее" и, напротив, заставить машину работать на человека? Это зависит от того, кем сам человек видит себя в системе, как именно он собирается в ней участвовать, имеет ли он возможность и желание изучать саму систему (подчас весьма сложную и далекую от его профессиональных интересов), а также от того, кто в области решаемой задачи имеет больший авторитет - он сам или создатели машины (разработчики системы).