Вопросы безопасности и этики применения ИИ

Авторы рис. 4.7 демонстрируют, что в управлении социальными и политическими процессами также присутствуют интересы провайдеров разных платформ. Неслучайно появилось выражение "Если вы что-то читаете бесплатно, то скорее всего, кто-то заплатил за то, чтобы вы это прочитали".

Рост вариантов интернет-мошенничества стимулирует людей разбираться в тонкостях новых сетевых сервисов и возможных механизмах новых манипуляций, в том числе чтобы избежать обмана. С другой стороны, чем больше люди проводят времени в Сети, тем больше у них шансов подвергнуться манипуляции со стороны недружественных алгоритмов.

Для пользователей социальных сетей важными являются мнения окружающих людей, но отнюдь не всегда человек осознает, в какой мере ИИ участвует в формировании его сетевого окружения, информационной повестки, в решении социально-политических задач, направленных на достижение отдельных интересов противоборствующих групп как на уровне отдельных государств, так и в мировом масштабе. При этом задачи упомянутых платформ всегда связаны с интересами владельцев и спонсоров этих платформ и могут быть направлены на обеспечение политической стабильности того или иного государства или, напротив, подрывать эту стабильность. Можно сказать, что умные алгоритмы участвуют в решении социальных и политических задач, являясь инструментами с известной степенью автономности и способностью обучения на основе паттернов потребления контента пользователем.

Представленные выше рассуждения можно обобщить, показав механизм влияния умных алгоритмов на формирование модели внешнего мира, в котором живет человек. Наш мир, который мы видим и ощущаем и привыкли воспринимать как действительность, есть модель, построенная нашим мозгом на основе элементарных импульсов, поступающих от органов чувств (датчиков на разных участках нашего тела). Причем заметим, что набор параметров, которые мы собираем из внешнего окружения, весьма ограничен - хотя бы потому, что мы видим и слышим в ограниченных участках электромагнитного спектра. То есть мы (наш мозг) получаем из внешнего мира некую совокупность электрических импульсов, а все, что мы привыкли называть воспринимаемыммиром,естьмодель,продуцируемаянашиммозгом. Весьма удачное и наглядное описание данного феномена можно найти у одного из признанных авторитетов в области нейробиологии и ИИ - Джеффа Хокинса в книге "AThousand Brains: A New Theory of Intelligence". "Нервные волокна, которые идут в мозг от глаз, ушей и кожи, выглядят одинаково. Они не только выглядят одинаково, но и передают информацию с помощью одинаково выглядящих спайков. Если вы посмотрите на входы в мозг, вы не сможете различить, что они представляют. Тем не менее зрение ощущается как одно, а слух - как нечто другое, и ни то, ни другое не похоже на спайки. Когда вы смотрите на пасторальную сцену, вы не чувствуете последовательности электрических импульсов, поступающих в ваш мозг; вы видите холмы, цвет и тени".

Наш мозг строит модель мира, которая уточняется на основе повседневного опыта нашего с ним взаимодействия.

На определенном этапе развития науки и техники появились приборы, такие как телескоп или микроскоп, которые позволили человеку воспринимать дополнительную информацию о мире. Создавая данные приборы, человек стремится минимизировать искажения при обработке данных. С появлением компьютерных технологий и электронной передачи данных количество акторов, которые участвуют в обработке сигнала прежде, чем он поступит в наш мозг, многократно возросло, и степень контроля искажений снизилась. Можно сказать (и этот процесс наглядно иллюстрирует рис. 4.8), компьютерные технологии добавляют все больше стадий в обработке данных, на основе которых человек создает модель мира, в рамках которой он живет и развивается.

Рис. 4.8. Коэволюция "человек-компьютер". Источник: Авторы

Часть данных мы получаем непосредственно от общения с внешним миром и другими людьми, другую часть собираем при помощи различного рода устройств. Все большее количество данных мы получаем после их обработки той или иной компьютерной программой. Компьютер создает некоторую модель мира и доставляет нам данные об этом мире на базе полученной модели. При этом ИИ все в большей степени принимает участие в формировании моделей, данные из которых получает человек. Сигнал, на основе которого наш мозг строит модель мира, обрабатывается алгоритмами и потом поступает к нам. Формируется замкнутая система. Человек создает алгоритмы, на базе этих алгоритмов компьютерные программы анализируют наши потребности и пытаются сформировать совокупность сигналов, которые вызовут оптимальный отклик от клиента. Люди работают в команде с машинным интеллектом, передавая ему все большую свободу действий по мере того, как уменьшается степень жесткости в программировании работы ИИ человеком ^{3Тезис выглядит несколько категоричным. Свободу действий ИИ пока никто не передает, но в системах поддержки принятия решений используют. - Примечание научного редактора} . Действительно, первые интеллектуальные программы были четко запрограммированы на выполнение последовательности действий, со временем машины научились обучаться и принимать решения, оптимизируя свои действия исходя из поставленной задачи. При этом по мере роста возможностей цифровых машин и совершенствования ИИ цели перед ИИ могут ставиться во все более обобщенной форме - как например, обеспечение оптимального (с экономической точки зрения) функционирования сложной системы. Все чаще подобное управление необходимо осуществить в столь короткие промежутки времени при анализе столь большого количества параметров, что принятие решения находится за гранью физических возможностей человека. Можно сказать, что алгоритмы изучают поведение людей и создают модели их поведения, пытаясь предсказать поведение этих людей в будущем, с тем чтобы поставлять им ту часть информации об окружающем мире, которую легче монетизировать. При этом нельзя утверждать, что модель, построенная компьютером, лишена предвзятостей, привнесенных как качеством данных, так и несовершенством самой модели. Следует также иметь в виду несовершенство самого человека, который создает модели на базе ИИ как для достижения открыто декларируемых благородных целей, так и секретных (открыто не декларируемых целей), отнюдь не всегда соотносящихся с нормами морали и права.

Тот факт, что все большую часть информации мы получаем посредством компьютерных технологий, говорит о том, что модель, которая формируется у нас в голове, все в большей степени может зависеть от преднамеренных и непреднамеренных искажений, вносимых ИИ при ее формировании. И то, что наш мир становится все более виртуальным, оставляет нам меньше шансов замечать разницу между данными, воспринимаемыми непосредственно (из реального мира), и данными, поступающими через призму их обработки, с участием ИИ.

Пользователи могут стать жертвами предвзятости алгоритмов ИИ по разным причинам - это может быть недостаточное качество данных или реализации ИИ-модели, а также наличие манипулятивных целей (открытых и скрытых), заложенных в алгоритмы (см. рис. 4.9).

Рис. 4.9. Классификация негативных последствий использования ИИ. Источник: авторы