Перевели статью, в которой исполнительный директор и старший научный сотрудник Центра изучения будущего интеллекта Стивен Кейв рассказывает, когда и зачем интеллект был возведен в культ, кем и как он использовался в качестве фигового листа для прикрытия и оправдания господства и разрушения, и размышляет в связи с этим о тех опасениях, которые нам внушают суперумные роботы.
Исполнительный директор и старший научный сотрудник Центра изучения будущего интеллекта «Леверхульм».
Стивен Кейв пишет, что он вырос в Англии во второй половине XX-го века, и в то время такое понятие, как интеллект, определялось научным сообществом очень широко. Об этом термине много говорили, спорили и, самое главное, исследователи пытались измерять уровень интеллекта. По всей стране десятки тысяч детей, достигших одиннадцатилетнего возраста, экзаменовались для определения уровня IQ по особой системе, которая известна под названием «11+». Всего пару часов — именно столько длился тест — решали дальнейшую судьбу одиннадцатилетнего ребенка. По результатам экзамена детей распределяли на три группы: первыми были те, кто идут в гимназию, а затем в университет; во вторую группу определяли детей со склонностями к технической деятельности, которые затем становились рабочими; и в третью группу попадали дети с низким уровнем интеллектуальных способностей, они по окончанию школы могли зарабатывать ручным низкоквалифицированным трудом.
Идея о том, что интеллект может быть оценен количественно и выражен числом, как, например, артериальное давление или размер обуви, была уже устоявшейся в обществе к тому моменту, когда пришла очередь Стивена проходить тест на IQ, который должен был определить его место в этом мире. Однако, отмечает он, сама мысль о том, что уровень интеллекта должен определять социальное положение человека в обществе, имеет долгую историю. Эта идея зародилась еще во времена античной Греции, в философии Платона, и она словно красная нить тянется с Запада на Восток и, наконец, заканчивается в Великобритании. Стоит заострить внимание на том, что сказать кому-то, что он умен или не умен, никогда не было простым комментарием, касающимся его интеллектуальных способностей. Это высказывание всегда являлось еще и суждением, разрешающим или запрещающим определенную деятельность. Другими словами, разговор об интеллекте всегда переходил в политическую сферу.
Конечно, есть и разумные основания для распределения людей по группам согласно их интеллектуальным способностям. Ведь никто из нас не захочет лечиться у докторов, консультироваться у инженеров или быть под управлением людей, недостаточно умных для тех должностей, которые они занимают. Но подобные рассуждения также имеют и негативный посыл. Как только мы определяем уровень интеллектуальных способностей человека и решаем, для какой деятельности он подходит, мы начинаем рассуждать еще и о том, что этот человек способен сделать именно для нас. Так, на протяжении всей своей истории западный человек считал себя вправе колонизировать, превращать в рабов, стерилизовать и даже убивать людей тех народов, которые признавались обществом интеллектуально менее развитыми.
Это очень старая, пожалуй, даже древняя история. Однако проблема предстает в новом свете в XXI веке в связи с попытками ученых создать искусственный интеллект. За последние несколько лет заметно увеличился прогресс в области исследований искусственного интеллекта, и многие эксперты прогнозируют большие перемены в обществе, связанные с этими исследованиями. Некоторые аналитики взволнованы и напуганы приближающимися изменениями. Для наглядности они ссылаются на серию фильмов о терминаторе и призывают людей рассуждать критически, стараться рассматривать все стороны развития искусственного интеллекта, как положительные, так и отрицательные. Для того чтобы понять, чего именно мы боимся, необходимо рассматривать интеллект в качестве политического концепта — и, как следует из истории, как основу для доминирования.
Термин «интеллект» (intelligence — англ.) никогда не был особенно популярен среди англоговорящих философов. Точно так же, как и нет точного перевода этого термина ни в немецкой, ни в древнегреческой философии, несмотря на то, что оба эти языка были ведущими в западной философской традиции. Однако отсюда не следует, что философы не интересовались проблемами, связанными с интеллектом. Более того, многие из них были буквально одержимы им, точнее, его аспектами: они исследовали разум и рациональность. Термин «интеллект» сумел заменить своего более древнего предшественника в общественной и политической мысли благодаря появлению такой дисциплины, как психология, которая в том числе претендовала на изучение интеллекта. В связи с этим современные ученые часто говорят, что «интеллект» следует понимать шире, чем «разум».
История идеи о возведении интеллекта в культ начинается с античного философа Платона. Во всех своих текстах он приписывает очень высокую ценность мышлению, объявляя (через уста Сократа), что жизнь без исследовательского любопытства не достойна быть прожитой. Платон появился в мире, погруженном в мифологию и мистицизм, и принес новую идею о том, что познать истину можно лишь посредством разума. Тем самым Платон сделал революционный переворот в мышлении античного человека, утверждая, что развитие интеллектуальных способностей — это путь к истине. Кроме того, Платон определил, что наилучшим государственным устройством будет Республика, а идеальным правителем в ней может быть лишь философ. Согласно Платону, только философ может принимать верные и рациональные решения, которые согласовывались бы с порядком вещей в мире и шли бы на благо всех граждан в государстве. Мысль о том, что правитель должен избираться по признаку ума, а не благодаря материальному или социальному положению, привела к созданию особой формы правления — интеллектуальной меритократии.
Эта идея была действительно революционной для общества той эпохи. К тому времени, например, в Афинах уже существовали демократические порядки и самоуправление народа, но обычно люди, которые избирались для управления остальными, не выделялись особым интеллектом. Кандидату достаточно было просто являться гражданином государства (демократия), либо принадлежать к элите и унаследовать право быть в приоритете при выборах (аристократия), либо убедить электорат в своем божественном благословении (теократия), либо же захватить власть силой (тирания).
Новаторская идея Платона понравилась интеллектуалам той эпохи, в частности одному из его учеников — Аристотелю. Аристотель был более практичным, таксономическим мыслителем. Он воспринял концепт первенства разума и использовал его для установления того, что, по его мнению, было естественной социальной иерархией. В своей книге «Политика» он писал:
«Некоторые люди, которые с самого рождения проявляют склонность к правлению, должны править, а другие им подчиняться, и это не только необходимо, но и целесообразно».
Прирожденный правитель с самого детства отличается наиболее рациональным мышлением и поведением. Кроме того, согласно Аристотелю, образованные мужчины более рациональны, чем женщины, и поэтому они должны править женщинами, а также рабами, поскольку рабы вообще не используют свой интеллект, они лишь работают руками.
Таким образом, на заре западной философии сложился образ, который определял интеллектуала как белого образованного европейца мужского пола. Эта концепция стала аргументом для доминирования над женщинами, низшими классами, нецивилизованными народами и рабами. И если во времена Платона эта идея выглядела лишь неуклюжей утопией, то всего поколение спустя, уже во времена Аристотеля, она стала правилом, естественным, очевидным и главенствующем в обществе.
Излишним будет говорить, что идея, зародившаяся более 2000 лет назад, актуальна и в наше время. Эту параллель провел австралийский философ Вал Плумвуд, который заметил, что великие греческие мыслители создали ряд важнейших концептуальных пар — дуализмовⓘ
Категории, находящиеся в оппозиции и тем не менее составляющие логическую пару, называются дуализмами. — Прим. переводчика.
, которые продолжают наполнять наше мышление. Например, умный/глупый, рациональный/эмоциональный, тело/сознание связаны, явно или неявно, с такими, как мужчина/женщина, цивилизованный/примитивный, человек/животное. Эти противопоставления не являются нейтральными, они создают более глобальные обобщения, которые проясняет Аристотель: доминирующий/подчиненный или господин/раб. Вместе они создают отношения господства — патриархат и рабовладение, которые сегодня воспринимаются нами как естественные.
◊ ◊ ◊
Современная западная философия в некоторых принципах продолжает основываться на философии дуализма, предложенной Рене Декартом. В отличие от Аристотеля, он даже не допускал мысли о том, что одни люди могут быть более разумными, чем другие. Тяга к познанию, по его мнению, свойственна каждому человеку. Декарт размышлял о христианской теологии, которая приписывала особые свойства интеллекта душе человека. Разумность рассматривалась теологами и Декартом как божественный дар. В то же время Рене Декарт считал природу абсолютно неразумной и лишенной истинной ценности.
Идея о том, что разум — это основная ценность человечества, стала ведущей в эпоху Просвещения. После чего эта идея была с большим энтузиазмом поддержана Иммануилом Кантом — наиболее влиятельным философом со времен древней Греции. Согласно Канту, только разумные существа могут обладать моральными установками. Рациональные существа, которых философ называет личностями, ценны сами по себе. Другие существа, лишенные разума, представляют лишь относительную ценность и могут быть использованы человеком как средство для достижениях своих целей.
По словам Канта, разумность — это большая ценность, а также причина для гордости и особого уважения к человеку. Его аргументация в оригинальном виде выглядит довольно запутанно и сложно для понимания неподготовленным человеком. Тем не менее, Кант приходит к выводам, сходным с теми, что нам предложил Аристотель: есть люди, которые от природы склонны к господству, и есть люди, которые той же природой рождены для подчинения.
Такой способ мышления был основным в эпоху колонизации. Аргументы колонизаторов были примерно такими: небелые люди менее умны, чем белые, поэтому они не способны управлять своим народом и землями. С точки зрения такой логики было совершенно законно — даже воспринималось как «обязанность белого человека» — уничтожить их культуры и захватить территории. Кроме того, поскольку интеллект был основной характеристикой человечности, те, кого считали менее умными, также считались менее человечными и нравственными. Такой статус ставил этих людей на ступень ниже человека более умного, и поэтому законом было разрешено относиться к ним, как к вещам, порабощать и даже убивать.
Похожая логика применялась относительно женщин, которых считали слишком ветреными и сентиментальными для того, чтобы они пользовались такими же привилегиями, как и «образованный белый мужчина». В XIX веке в Британии женщины были менее защищены законом, чем домашние животные, это подтверждено историческими исследованиями Джоанны Брук из Беркбекского университета в Лондоне. Это и неудивительно, ведь в течении многих десятилетий формальный анализ интеллекта усугублял угнетение женщин, поскольку им не давали даже общего образования.
Сэр Фрэнсис Гальтон известен как создатель психометрии — «науки», измеряющей ум. Его вдохновил текст «Происхождение видов» (1859), написанный его двоюродным братом Чарльзом Дарвином. Гальтон верил, что интеллектуальные способности являются наследственными и могут быть усилены посредством селекционного разведения. Он решил найти научный способ идентифицировать наиболее способных членов общества и поощрять их к размножению. Тех, кого ученые выделили как наименее интеллектуально способных, необходимо было лишить возможности к размножению для прекращения распространения их генетических видов. Таким образом, мы видим, что тест на IQ и евгеника родились одновременно. В связи с чем в последующие десятилетия множество женщин по всей Европе и Америке — около 20 тысяч только в Калифорнии — были принудительно стерилизованы после того, как они получили низкие оценки за тест.
◊ ◊ ◊
Оценивание интеллекта привело к оправданию многих ужасных и варварских поступков, которые послужили поводом для критики самой идеи выражения уровня интеллекта в цифрах. Начиная с Дэвида Юма и Фридриха Ницше и заканчивая Зигмундом Фрейдом и постмодернистами, всегда находись философские традиции, которые подвергали сомнению концепцию о том, что человек действительно настолько разумен, как он себя возомнил. Они критиковали идею о том, что интеллект — это высшая ценность человека.
Меритократия была одной из ведущих и очень влиятельных ценностей в обществе. Вход во многие специализированные школы, а затем и профессии, например, такую как гражданская служба в Великобритании, обеспечивал тест на IQ, который игнорировал другие важные способности человека, например, творческие или предпринимательские. Однако, замечает Стивен Кейв, несмотря на надежду на то, что общество во время выборов членов правительства ориентируется в первую очередь на интеллект кандидатов, по факту, не всегда самые умные оказываются на правящих постах.
Часть исследователей вместо критики концепции выстраивания иерархии общества на основе тестов на IQ, критикует систему, которая явным образом способствует формированию элиты общества. Экзамен «11+», с рассказа о котором Стивен Кейв начал свой текст, является примером, подтверждающим несовершенство системы. Тест изначально был нацелен на выявление наиболее способных детей из всех социальных слоев общества. Однако на деле выявилась сильная диспропорция, поскольку с тестом успешнее справлялись дети, родители которых обладали большими ресурсами для обучения и воспитания. Это были дети «белых образованных мужчин». Таким образом, уже состоявшийся и занимающий особое положение в обществе класс лишь утверждался в своих правах и привилегиях, не давая даже шанса детям других сословий изменить свой социальный статус в лучшую сторону.
Итак, после того, как мы проследили за историей утверждения высокого интеллекта, который становится оправданием для ряда ужасных вещей и ведет к доминированию одних людей над другими на протяжении двух тысяч лет, появился ли у вас ужас при мысли об искусственном интеллекте?
Вспомните такие фильмы, как: «2001: Космическая Одиссея» и «Терминатор», описывающие фантастические сюжеты восстания машин против человечества. Стивен Кейв уверен: теперь у нас есть реальные основания для опасений, но уже в настоящей жизни, в мире, в котором мы живем.
Таким образом, если мы принимаем привычную идею о том, что на вершине общества должны находиться самые умные, то нам, конечно, стоит задуматься о последствиях для человечества создания роботов с искусственным интеллектом. Человечество как вид опустится на самое дно жизни. Если мы принимаем идею о том, что более разумные могут колонизировать менее разумных и использовать их как рабов, тогда для нас будет естественным решением — стать рабами роботов, во многом более рациональных, чем человек. Однако инстинкты и желание выжить не дают нам смириться с подобной мыслью, и мы боимся такой ситуации, при которой более разумные существа смогут править нами. И если мы определяемся со своей точкой зрения и признаем то, к чему нас ведет привычное для нас мышление, мы можем увидеть в создании искусственного интеллекта не только преимущества и выгоды, но и экзистенциальную угрозу.
