В начале этого года из жизни ушёл Марвин Минский, один из пионеров в области исследований ИИ. В память о нём, в The New Yorker решили обойтись без некролога и опубликовать большое интервью тридцатипятилетней давности. «Зачем?» — спросите вы. Возможно, потому что ретроспективный взгляд на актуальные проблемы частенько неплохо отрезвляет, попробуйте, вам понравится.
Что мы узнали о себе благодаря искусственному интеллекту?
«Если человек всецело понимает машину или программу, у него не возникает желания приписать ей „волю“. Но если кто–то не обладает таким всесторонним пониманием, то ему необходимо подкрепить свою неполную модель объяснения. Наше ежедневное интуитивное понимание высшей человеческой деятельности является достаточно неполным, и многие понятия в наших неофициальных объяснениях не терпят пристального изучения. Одним из таких понятий и является свободная воля. Люди не способны отличить её от случайного каприза и тем не менее убеждены, что разница есть. Я предполагаю, что это мысль происходит из мощного примитивного защитного механизма. В детстве мы быстро учимся различать виды агрессии и принуждения и не любить их, независимо от того, подчиняемся мы им или же сопротивляемся. С возрастом, когда мы узнаём, что наше поведение подчиняется определённым законам, мы ошибочно вписываем этот факт в наше представление вместе с остальными способами распознавания агрессии. Мы сопротивляемся „принуждению“ независимо „чьему“. Хотя логически сопротивление бесполезно, обида сохраняется и рационализируется ложными объяснениями, так как альтернатива является эмоционально неприемлемой». Позже в этой роботе Минский пишет:
«Когда будут созданы разумные машины, мы не должны удивляться тому, что они, так же как и мы, непоследовательны и упрямы в своих убеждениях о разуме–материи, сознании, свободной воле и прочем. Все подобные вопросы указывают на объяснение сложных взаимодействий между частями системы собственного „я“. Сила убеждений человека или машины в подобных вопросах ничего не говорит нам ни о человеке, ни о машине, а говорит лишь об их модели собственного „я“».
Я знаю Минского более тридцати лет. Мы познакомились в конце сороковых в Гарварде, тогда я не до конца понимал его специализацию. Он посещал курс лекций по музыке вместе c Ирвингом Файном. Хотя он был ещё студентом, у него уже были свои лаборатории, одна на факультете психологии, а другая на факультете биологии, а дипломную работу он писал о проблеме топологии в высшей математике. При всей этой эклектичности основным его интересом было изучение человеческого разума. Будучи студентом, он интересовался тремя научными проблемами. «Никто тогда ещё точно не знал, как устроена генетика, что меня привлекало, но я не был уверен, окажется ли эта наука столь значительной, — вспоминает Минский. — Проблемы физики казались сложными, но решаемыми, наверное, было бы неплохо посвятить себя физике, думал я, но проблема человеческого разума казалась мне бездонной. Не помню, чтобы я рассматривал что–либо ещё столь стоящее».
В последние время я не поддерживал связь с Минским, но около года назад я заметил, что в мире технологий что–то меняется, они начинают по–новому влиять на нашу жизнь. Я решил разыскать Минского и расспросить его об этом. Я знал, что он работает в области искусственного интеллекта, ещё до того как её стали так называть. Термин «Искусственный интеллект» принято приписывать Джону Маккарти, бывшему коллеге Минского в МТИ. Маккарти, профессор математики в Стэндфордском университете, доктор наук в области ЭВМ, придумал название в середине 50–х годов для описания способности некоторых программ делать вещи, которые люди склонны называть разумными. В 1958 году Маккарти и Минский создали группу ИИ в МТИ, которая вскоре стала одним из самых выдающихся научно–исследовательских предприятий. Во время наших разговоров Минский проявил себя как увлекательный собеседник с обаятельным чувством юмора и светящейся улыбкой. Это один из ярчайших умов, с которыми мне доводилось сталкиваться, он легко мог объяснить сложнейшие идеи простым языком, что возможно лишь, когда человек полностью понимает о чём говорит. Наши беседы с ним проходили в его кабинете в МТИ, а также у него дома в Бостоне. Он жил в доме с большим участком вместе со своей женой Глорией Рудиш, которая является видным бостонским педиатром. И с двумя детьми Джулией и Генри, восемнадцатилетними двойняшками. Самой старшей дочери Минского Маргарет сейчас двадцать три, она окончила МТИ и сейчас изучает космонавтику, а также разрабатывает образовательные программы для домашних ПК.
У нас плохо получалось заставить людей расстаться с деньгами.
То, что в доме Минских живёт врач, можно легко понять по различным медицинским приспособлениям и книгам в доме, но вот чем занимаются остальные жильцы, понять непросто. Во время одного из своих визитов я заметил каску пожарного с красным фонарём на ней, а на другом столе лежала пластмассовая акула достаточно большого размера. На стене висел гаечный ключ столь крупный, что поначалу я подумал, что это скульптура в форме гаечного ключа. Рядом на стене висел альпийский рог из латуни, в доме были и другие музыкальные инструменты: три пианино, два органа и один синтезатор Moog. Минский проводит много времени сочиняя музыку и хочет записать фугу, которую он написал в барочном стиле. Бесчисленные инструменты для записи и музыкальный автомат — подарок, которой Минский сделал своей жене.
Кабинет Минского забит, помимо всего прочего в нём есть компьютерный терминал, с помощью которого ряд исследователей в области ИИ могут обмениваться сообщениями через компьютерную сеть, которую они установили в 1969 году. Во время нескольких моих визитов Минский отвлекался, чтобы прочитать «почту», сообщения отправляющиеся на печать через терминал. Рядом с телефон располагалась машина, которую я по своей наивности принял за стереогарнитуру. Минский предложил послушать её, когда заметил, что я её рассматриваю. Он нажал на несколько переключателей, и машина начала воспроизводить череду жутковатых звуков. Минский рассказал мне, как несколько лет назад он взял домой коробку компьютерных модулей для построения логических систем. У него возникли проблемы с их отладкой, но так как у него не было осциллографа, инструмента, которой отображает работу схем на экране, он решил, что если запустить вычислительные схемы и подключить их к динамикам, то он услышит, как они работают, и по звукам поймёт, если что–то будет не так. «Я подключил несколько схем к динамикам, — сказал Мински, — и понял, что по звуку я могу определить, что некоторые триггеры не работают». Триггеры — это электронные компоненты, которые могут принимать одно из двух устойчивых положений. «Машина производила эти звуки, и они мне нравились, поэтому я расположил разные схемы, чтобы получались мелодии и аккорды. Как–то раз, когда это штука была включена, ко мне заглянул мой друг Эвард Фредкин, профессор информатики в МТИ, он сказал, что это звучит неплохо, и попросил показать, как я это сделал. Так мы провели целый день, сочиняя мелодии. Фредкин основал компанию по выпуску таких машин в виде детских игрушек».
Кабинет Минского в лаборатории ИИ в МТИ также забит всякими вещами. Там есть пластиковая фигурка робота. Искусственная китайская крапива. Ну и конечно же, компьютерный терминал. В лаборатории стоит свой огромный компьютер, на который за годы работы устанавливали всевозможные программы. Компьютер способен открывать двери в лабораторию и вызвать лифты в здании, к нему прикреплялись специальные механические руки и видеокамеры для имитации видения, а также радиодатчики для дистанционного управления другими роботами. На нём также висит трофей, который он выиграл когда–то в турнире. Изначально лаборатория располагалось в обветшалом здании, в котором раньше была лаборатория электроники Второй Мировой войны. Но с 1963 года она располагается на трёх этажах современного девятиэтажного здания с видом на площадь, находящегося через дорогу от главного корпуса МТИ. В ней работают около 100 человек среди которых 7 профессоров и большинство их них бывшие ученики Минского, около 25 аспирантов и корпус людей, которых Минский вежливо называет хакерами. В основном это люди, которые поступили в МТИ и увлеклись компьютерами, одни из них не удосужились даже закончить бакалавриат, а у других есть учёные степени.
Проблема человеческого разума казалась мне бездонной.
Однажды Минский устроил мне экскурсию по лаборатории и рассказал мне, как она развивалась. Когда он с Маккарти организовал группу ИИ, помимо них в ней состояла всего пара студентов. Где–то спустя год, когда они обсуждали что–то в коридоре, их разговор случайно услышал Джером Уайзнер, который тогда руководил лабораторией исследований в области электроники. Ему показалось интересным то, над чем работали Маккарти (он разрабатывал новый очень сложный язык программирования, а также инициировал систему разделения времени между компьютерами) и Минский, который уже приступил к попыткам заставить компьютеры делать нечисловые вещи, такие как рассуждения по аналогии), что он спросил, не нужны ли им деньги на эту работу? Они сказали, что им не помешали бы деньги на оборудование и зарплату студентам. Незадолго до этого Уайзнер получил грант от вооруженных сил на научные исследования, так что мог предоставить им необходимую сумму. В течение нескольких лет им не приходилось писать предложения по тематике исследований. Всё изменилось, однако, лаборатория по–прежнему финансируется и получает приблизительно два с половиной миллиона долларов в год от различных государственных организаций, которые требуют письменные предложения. В 1968 году, когда группа формально стала лабораторией исследований ИИ, Минский стал её руководителем, эта должность была его до 1973 года, когда он устал просить финансирования и передал свой пост Патрику Уинстону, бывшему студенту.
Во время экскурсии по лаборатории я заметил огромный 2х4 метра рисунок того, что на первый взгляд выглядело как план города. Рисунок висел на стене на восьмом этаже. Минский сказал мне, что это технический чертёж компьютерного чипа, где линии — это цепи фототипированные на пластине. На самом деле, это был чертёж схемы чипа, который был ключевой частью первого микрокомпьютера, предназначенного специально для работы искусственного интеллекта. Этот компьютер был разработан Джеральдом Сусманом, бывшем студентом Минского. Затем Минский проводил меня на третий этаж, чтобы показать мне этот чип. Он был меньше четырёх сантиметров по диагонали, то есть где–то в сто тысяч раз меньше чем чертёж: чтобы рассмотреть на нём схемы, нужен был микроскоп. На компьютерном чипе транзистор находится там, где пересекаются две схемные линии, каждый транзистор около 7 микрометра по диагонали — размер клетки крови. Следующее поколение транзисторов будет в четыре раза меньше.
Пока мы были на третьем этаже, Минский показал мне компьютер, который он самостоятельно спроектировал и собрал. В 1970 году он убедился, что компьютер, способный воспроизводить анимированные изображения, будет не заменим в школах. «Компьютер увлекал даже маленьких детей, когда те могли видеть на экране созданные ими двигающиеся изображения, — сказал Минский. — Поэтому я создал компьютер, способный воспроизводить два милллиона точек на экране за секунду, чего было достаточно для реалистичных анимационных эффектов». Для сравнения обычные домашние компьютеры могут создавать всего несколько тысяч точек в секунду. Кроме того, они не способны отобразить страницу печатного текста, поэтому Минский добавил второй экран на своём компьютере, на котором умещалось 6000 символов, чтобы дети могли редактировать свои сочинения на нём. Один пятиклассник в Лексингтоне, штат Массачусетс, запрограммировал сад с цветами, которые росли согласно законам, вложенным в программу детьми.
Минкский назвал свой компьютер 2500, так как считал, что школам он будет стоить 2500 долларов. На год он целиком погрузился в создание компьютера и научился читать диаграммы схем словно романы. «Когда я закончил, я понимал процессы происходящие в 200 различных чипах, — сказал он мне. В этой работе ему помогала стэндфордская лаборатория исследований ИИ, которую в 1963 году основал Маккарти. Вместе они разработали программы, которые автоматически проверяли коммутационные схемы на короткие замыкания и прочие неисправности, используя эти программы на собственном пульте управления ЭВМ. Минский сидел у себя в кабинете и разрабатывал собственную машину. Она требовала около трёхсот чипов, которые он заказал через техасский каталог инструментов. Эти схемы требовали чертежей на 24 страницы. «Прокладывание соединений раньше было сложной задачей», — говорит Минский. — Но в этот раз я со своим сыном Генри смогли справиться с этим самостоятельно используя программу, которую написали мои друзья из Стэнфорда. Она автоматически выполняла все наиболее монотонные задачи и искала неисправности. Классно было, что все можно было поместить на магнитную плёнку, которую прочитывало устройство автоматической трассировки, которая сама делала соединения сзади на микросхемой панели. Когда эта работа была проделана, нам пришлось вставить три сотни чипов и подключить блок питания, клавиатуру и монитор. Это было нелегко, но доказывало, что небольшая группа людей с помощью полезной компьютерной программы способна была справиться с задачей не хуже промышленно–проектного отдела. К этому времени в лабораторию ИИ устроился работать южноафриканский математик Сеймур Пейперт. В конце пятидесятых Пейперт работал в знаменитой лаборатории детской психологи Жана Пиаже в Женеве, и у него был профессиональный интерес в обучении детей, он разработал специальный математический язык для компьютеров LOGO, который, как они с Минским считали, понравится детям. Минский показал мне, как пользоваться им, чтобы заставить машину рисовать различные полигоны на своем дисплее и заставлять их вращаться вокруг своей оси. Он не пользовался программой долгое время. Однажды его остановила надпись на дисплее «Поли хочет больше данных». Данные были предоставлены.
Преподаватели говорили: «У нас тут новый Оппенгеймер», но тогда я и понятия не имел, что это означает.
В начале 70–х Минский и Пейперт основали небольшую компанию по продаже компьютеров, но за несколько лет она обанкротилась. «У нас с Сеймуром плохо получалось заставить людей расстаться с деньгами, — говорит Минский. — Школам нравился компьютер, но им требовалось иногда до трёх лет, чтобы найти нужную сумму, и компании вредили такие задержки. У нас закончились деньги, потому что мы тогда не понимали, как тяжело будет учителям убедить школьный совет спланировать такой бюджет, в конце концов, мы отдали компанию канадскому другу, который понял, что бизнесмены могут научиться языку LOGO так же легко. как и дети. Его компания стала преуспевающей, но в сфере обработки информации по финансам. Сеймур и я вновь стали просто учёными. За последние годы люди, работающие с LOGO, нашли способы использовать этот язык и на некоторых популярных моделях персональных компьютеров, Минский и Пейперт снова пытаются сделать его доступным детям, так как компьютеры стали дешевле для школ и вскоре будут столь же мощными, как и его 2500.
Оппенгеймер закончил Филдсон в 1921 году, и пока там учился Мински, память о нём была ещё свежа. «Если ты сделал что–то впечатляющее то преподаватели говорили: „У нас тут новый Оппенгеймер“, — вспоминает Минский. — Тогда я понятия не имел, что это означает. В любом случае в Филдсоне у меня был отличный преподаватель Герберт Зим. Позже он написал целую серию книг о науке для детей. Сейчас он живёт во Флориде, и мы с ним периодически созваниваемся, чтобы поболтать».Когда Минский пошёл в пятый класс, его стали интересовать электроника и органическая химия. «Я читал учебники химии и думал, что будет неплохо синтезировать какие–нибудь химические вещества, — говорит Минский. — В частности, меня привлекал этантиол тем, что в учебниках ему приписывали самый отвратительный запах. Я пошёл к Зиму и сказал ему, что хочу синтезировать это вещество, на что он мне ответил: „Без проблем, как ты собираешься это сделать?“ Мы долго с ним это обсуждали, и он убедил меня, что если я захочу быть тщательным, то сначала мне нужно синтезировать этанол, из которого потом сделать этилхлорид». Я сделал этанол и этилхлорид, которые мгновенно испарились. Это одни из самых летучих соединений. Я думаю, что Зим обхитрил меня, зная, что продукт испариться до того, как я начну синтезировать этантиол. Я помню, как я разозлился и решил, что химия на практике намного сложнее, чем в теории, потому что то, что ты синтезируешь, может попросту испариться».
Минский окончил восьмой класс в Филдсоне в 1941 году и осенью того же года поступил в школу с углублённым изучением точных наук в Бронксе. Школу открыли всего тремя годами раннее, чтобы привлекать молодых людей заниматься наукой (два нобелевских лауреата по физике 1979 года Стивен Вайнберг и Шелдн Глешоу были там одноклассниками в 40–х вместе с Джеральдом Фейнбергом, который сейчас председатель кафедры физики в Колумбийском университете). «Там с ребятами можно было обсуждать свои самые сложные идеи, и никто не вёл себя надменно, — сказал Минский, вспоминая своё обучение там. — Разговоры с людьми вне школы всегда приносили неудобства, потому что тебе обычно говорили: „Чего ты такой серьёзный, расслабься“. Я ненавидел людей, которые говорили мне „расслабься“. Я был гиперактивным ребёнком, постоянно метался из одного места в другое, делал всё очень быстро. Кажется, это напрягало взрослых вокруг меня. Но в школе это не было проблемой. Позже когда я начал учиться в Гарварде, я был поражён тому, насколько проще проходило там обучение. Я продолжаю сталкиваться с людьми, с которыми познакомился в Бронксе, среди них Рассел Кирш, пионер в области компьютеров, который работает сейчас в Национальном бюро стандартов, Энтони Эттингер, профессор прикладной математики и политики информационных ресурсов в Гарварде. Он был одним из первых, кто научил компьютер чему–то и кто использовал компьютер для перевода на другие языки. Фрэнк Розенблатт, который трагически утонул при кораблекрушении в 1971 году, также был моим одноклассником в этой школе. Розенблатт был пионером в области ИИ и научным сотрудником в авиационной лаборатории Корнельского, где он изобрёл персептрон. В начале шестидесятых персептрон стал прототипом искусственного интеллекта.
Кажется, я научился очень неплохо стрелять, чему нет объяснения.
В 1944–м родители убедили Минского, что с дипломом академии Филлипса ему будет легче поступить в университет, и отправили его туда на обучение в выпускной класс. Этот год вызывает у Минского смешанные чувства, потому что там у него не было возможности уделять всё время только точным наукам. Он закончил школу в июне 1945–го, когда ему было 17 лет. Война ещё не закончилась, и его призвали служить на флот. Ему пообещали, что если он запишется в одну программу ВМС, то его отправят в школу специалистов по радиоэлектронике. «Все были немного настороженны подобным обещанием, нам казалось, что в этом вопросе властям доверять нельзя. Но всё оказалось правдой, и меня направили в учебный центр ВМС на Великих Озёрах, к северу от Чикаго для начала обучения. В моей компании было около ста двадцати человек, и все они казались чужими и страшными. Они были обычными рекрутами из Среднего Запада. Я с трудом понимал, что они говорят, а они не могли понять, о чём говорю я. Это был мой первый и последний опыт общения с неакадемическими людьми.
Около 40 человек в моём экипаже были записаны в ту же программу, что и я. После того, как мы прошли учебную подготовку, где нас учили стрелять из винтовок и зениток, нас должны были отправить в радиолокационную станцию. В моём экипаже было где–то четверо по–настоящему выдающихся людей, среди которых был музыкант Дэвид Фуллер. Он был органистом и год проучился в Гарварде. Он очень серьёзно воспринял мою музыку. К тому моменту я набросал концерт для пианино, который понравился Фуллеру, и он сказал мне дописать его, чего я так и не сделал. Наша группка была мини–Гарвардом посреди Военно–морского флота. Всё казалось каким–то нереальным. Я практиковался сбивать с зенитки самолёты на специальном симуляторе. Мне принадлежал рекорд на нашей базе. Я сбил 140 самолётов подряд. Я просто запомнил записанную тренировочную плёнку и заранее знал, в каком именно месте появится очередной самолёт. Достаточно странный навык для стрельбы. Спустя много лет мы с женой отправились в отпуск в Мексику. Там были мальчишки, стрелявшие по мишеням из винтовки. Я спросил у них, можно ли попробовать. Я попал во все мишени. Кажется, я научился очень неплохо стрелять, чему нет объяснения».
Минский пробыл в тренировочном центре два месяца после окончания войны. «Там особо нечем было заняться, поэтому мы просто болтали. Я завершил срок своей службы в Джексонвиле во Флориде. После чего я освободился от службы и поступил в Гарвард».
Минский поступил в Гарвард в 1946 году и нашёл там подходящую для себя интеллектуальную среду. «Там можно было заниматься разными вещами, — вспоминает Минский. — Я беспокоился только об обязательном курсе английского языка. Всю школу я ненавидел писать сочинения, я никогда не мог придумать, о чём писать. Это сейчас мне нравится этим заниматься, но тогда мне нужно было сдать зачёт. Когда я его сдал, я был просто счастлив, что больше не придётся делать что–то, что я не люблю со школы. Для зачёта нужно было пересказать несколько фрагментов из Достоевского, что я и сделал без всяких изысков. Судя по всему, тот кто читал все эти работы, в конечном итоге устал от длинных сочинений и поставил мне зачёт. Я любил трудности, связанные со сдачей экзамена, но терпеть не мог сами экзамены, поэтому никогда не проводил их, пока преподавал. Вместо этого я заставлял студентов написать курсовую работу. Мне было не важно, сколько времени это займёт. Чем дольше, тем лучше. В первый год я записался на курс физики и продвинутый курс математики. Хотя моей специальностью была физика, я также записался на курсы социологии и психологии. Я начал интересоваться неврологией. К концу школы я начал задумываться о мышлении. Я задался вопросом, почему математика так тяжело даётся? Можно час потратить на чтение всего одной страницы и всё равно ничего не понять. Затем внезапно прочитанное становится очень понятным, до боли очевидным. Я начал интересоваться процессом изучения и придумал несколько теорий. Я столкнулся с теориями Б.Ф. Скиннера, которые мне показались поверхностными, так как представляли собой попытку описать поведение с помощью кривых. До этого времени меня абсолютно не интересовало, как работает человеческий разум. Я плохо понимал, что чувствуют другие люди. Я был в целом нечувствителен по отношению к чувствам и мыслям других людей. Меня заботило только то, чем я занят. Но на первом курсе я начал интересоваться психологией. После того, как я прочел несколько книг по неврологии, я пообщался с профессором зоологии Джошем Уэлшем и уговорил его разрешить мне работать в лаборатории самостоятельно. По какой–то причине он предоставил мне большое помещение с кучей оборудования».
От Уэлша Минсий узнал, что наукой до сих пор до конца не изучена работа нервной системы в клешне речного рака. «Я стал экспертом в препарировании раков. Как то раз я так установил клешню на устройстве, которое могло управлять отдельными нервами. С помощью нескольких сочлененных клешней я мог поднять карандаш и вращать им. Не думаю, что у этого была хоть какая–то научная ценность, но я узнал, какие нервные волокна нужно стимулировать, чтобы ингибировать действие других волокон и раскрыть клешню. Так я заинтересовался робототехникой. Я пытаюсь разработать микроманипуляторы для хирургии и прочего. В этой области сейчас застой, и я решил положить этому конец».
Когда Минский не занимался физикой и не препарировал речных раков, он проводил время в лаборатории по психологии, которая тогда была в подвальном помещении. Люди, которые там работали, меня очаровали. Там был Скиннер и его ассистенты. Меня не интересовала теория, над которой они работали, но им удалось оптимизировать дрессировку животных — заставить их выполнять команды быстрее и за меньшее вознаграждение. Очевидно, что в их методе было нечто, что ещё предстояло осмыслить. В другом конце этого подвала тоже работали психологи, но они занимались чем–то совершенно иным. Например, один из них пытался доказать, что чувствительность уха работала по экспоненциальному закону, а не логарифмическому. Я и сейчас не понимаю, какое это имело значение, но, скорее всего, обе версии были ложными. В середине этого подвала обитали молодые ассистенты, которые отличались от всех. Среди них был молодой Джордж Миллер, который работал над теорией математической психологии, и Джозеф Карл Робнетт Ликлайдер, который проводил прекрасные семинары для аспирантов. Я тогда работал с Миллером над теорий принятия решений, а с Ликлайдером мы работали над теорией восприятия и моделями мозга. Через много лет мне вновь представилась возможность поработать с Линклайдером, но уже над разработкой компьютерных программ. Тот подвал был отдельной вселенной, и больше всего мне нравилось, что он был огражден от окружающего мира. В западной части работали бехивиаристы, которые пытались понять поведение без теории, в восточной часте были физиологические психологи, которые изучали отдельную малую часть нервной системы, не обладая общей картиной, а в центре были психологи, которые пытались разработать новые теории о языке и обучении, но у них ни особенно получалось. Ещё глубже в подполье находился физик Дьёрд фон Бекеши. Ему никто не мешал, и он занимался только тем, что пытался понять как работает человеческое ухо. В 1961 году Бекеши стал первым физиком, получившим Нобелевскую премию по физиологии и медицине за свою работу о ухе».
Минский сделал паузу, после чего продолжил: «Больше всего меня беспокоили аспиранты, которые пытались научиться чему–то у этих людей. Они собирались в центре помещения и спорили о той или иной доктрине, о преимуществах различных школ. У них не было хороших идей. Что–то в столкновении этих двух миров, физиологического и бехивиаристского, казалось мне ужасным. Хорошо, что среди них не было сторонников психоаналитического подхода, иначе ситуация была бы ещё хуже. Я не мог понять, как эти люди могут спорить о личности, не имея при этом методологии и толковых теорий о том, что происходит глубоко внутри человеческого разума. Вот я и решил придумать такую. Я представил, что мозг состоит из крошечных переключателей, нейронов, за каждым из которых закреплена вероятность, регулирующая то как нейрон проводит электрический импульс. Сегодня эта система известна как стохастическая нейронная сеть. Я пытался объяснить результаты, полученные Скиннером, то почему датчик–стимула изменяет вероятность в пользу обучения. Оказалось, что учёный Дональд Хебб уже разработал похожую теорию, но, к счастью или сожалению, я тогда об этом не знал. Свою теория Хебб изложил в фундаментальной научной работе „Организация поведения“, которую он опубликовал в 1949 году в Монреале. В моём распоряжении была одна лаборатория на факультете психологии и ещё одна на факультете биологии, где я работал над экспериментами, в основном в области физической оптики, на физическом факультете, который был номинально моей специализацией. Успеваемость у меня была низкой. Я также брал курсы музыки с Ирвингом Файном. Он ставил мне тройки, но тем не менее мотивировал меня возвращаться. Он был чрезвычайно честным человеком. Думаю, проблема крылась в том, что я был, по сути, импровизатором, я мог не обдумывая удовлетворительно исполнить фугу, но чем больше я обдумывал произведение, тем хуже у меня выходило. Я пробывал писать музыкальные сопровождения, но, наверное, я не был готов прикладывать достаточное количество усилий для этого. За время обучения в Гарварде я мало переживал о том, что меня ждёт в будущем, но в последний год там я начал задумываться об аспирантуре. Я думал, чтобы компенсировать свои оценки, мне нужно написать достойную дипломную работу. Тогда я узнал, что в Гарварде нельзя написать дипломную по физике, поэтому мне пришлось в последний семестр перевестись на математический факультет, который позволял написать дипломную. Это не было проблемой, так как я прослушал достаточно курсов по математике, чтобы она стала моей специальностью».
Это было похоже на закрытый клуб: на факультет зачислили всего несколько аспирантов, в основном по приглашению.
В первые дни обучения в колледже Минскому повезло завести знакомство с Эндрю Глизоном. Глизон был всего на шесть лет старше него, но уже был известен как мировой лидер по решению математических задач, казалось, он может почти моментально решить любую хорошо сформулированную математическую задачу. Глизон служил в ВМФ дешифровщиком, а после войны стал младшим научным сотрудником в Гарварде. Стипендии предоставляли безграничную свободу небольшому количеству одаренных людей в различных областях. Глизон произвёл потрясающее впечатление на Минского. «Я понять не мог, как в таком возрасте можно было столь хорошо разбираться в математике, но самым примечательным в Глизоне был его план. Однажды я спросил его, чем он занимается, и он сказал, что работает над Пятой проблемой Гильберта.
Сначала я разобрался, в чём заключается проблема, после чего спросил Глизона, как он собирается её решить. Глизон сказал, что у него есть план, состоящий из трёх этапов, на преодоление каждого этапа по его средней оценке должно уйти по три года. Наш разговор состоялся в 1947 году, я был тогда на втором курсе. Решение заняло у него всего пять лет, так как часть доказательства разработали Дин Монтгомери из Института перспективных исследований и Лео Зиппин из Колледжа Куинс. Но тогда я был второкурсником, а он был чуть старше меня, и я понять не мог, как в таком возрасте можно настолько хорошо понимать предмет, чтобы обладать таким планом, в котором оценивается сложность выполнения каждого шага. Даже сейчас это остаётся для меня загадкой. Тогда благодаря Глизону я понял, что математический ландшафт полон различных каньонов и горных цепей. В старших классах математика казалась мне набором навыков, которое интересно оттачивать, но я не воспринимал эту науку как отдельную вселенную. Никто из тех, с кем я тогда был знаком, не разделял подобного видения».
Вдохновившись общением с Глизоном, Минский начал работать над исходной задачей топологии. Ранее в этом столетии великий голландский математик Брауэр доказал первую из, так называемых, теорем о неподвижной точке.
Представьте: что кто–то пытается изменить поверхность обычной сферы, перемещая каждую точку на другую сферу. Это то, что математики называют «непрерывное отображением в себя». Брауэру удалось показать, что при любом таком отображении обязательно останется зафиксированная точка, которая отобразится сама на себя. Одним из примеров теоремы фиксированной точки является жёсткое вращение шара, например, поверхности Земли. В таком случае есть две фиксированных точки, северный и южный полюса, вокруг которых и происходит вращение. На протяжении многих лет математики развивали эту тему и приходили к неожиданным открытиям. Например, в любой момент на Земле есть две точки с идентичной температурой и влажностью. Сиздуо Какутани, математик из Йельского университета, доказал, что в любой момент на Земле есть три точки расположенных в вершинах равностороннего треугольника, температура в которых одинакова. «Я пришёл к убеждению, что Какутани получил не самый обобщающий результат исходя из его логики, поэтому я дополнил его доказательство для трёх из четырёх углов квадрата, а также для трёх точек правильного пятиугольника. Для этого потребовалось обратиться к пространству большей размерности. В итоге, используя топологию узлов в этом измерении, я пришёл к доказательству. Я показал своё доказательство Глизону, он изучил его и сказал мне, что я математик. Я также показал его Фримену Дайсону в Институте перспективных исследований, и тот поразил меня, доказав, что должен быть ещё один квадрат, в котором по всем вертикалям температура будет одинаковой. В моём доказательстве он нашёл остатки неиспользуемой логики».
Я спросил Минского, опубликовал ли он своё доказательство.
«Нет, — сказал он. — В то время я следовал примеру своего отца. Если он совершал медицинское открытие, то он ещё шесть или семь лет его подробно описывал, исправляя и дополняя его, чтобы точно убедиться в своей правоте. Я думал, что успешному учёному за жизнь нужно сделать три или четыре настоящих открытия, а не перегружать радиоэфир неполными, частичными данными исследований. Я и сейчас так считаю. Я не люблю, когда незначительному открытию посвящают целый научный труд. Когда я совершаю небольшое открытие, я либо забываю о нём, либо жду, пока не сделаю ещё три или четыре таких взаимодополняющих открытия, и лишь тогда их описываю. В любом случае, когда Глизон сказал мне, что я математик, он также посоветовал мне поступить в Принстон. Сначала я почувствовал себя отвергнутым. Я отлично чувствовал себя в Гарварде и не мог понять, зачем мне поступать в аспирантуру куда–то ещё. Но Глизон настаивал на том, что мне нельзя оставаться на одном месте. Поэтому на следующий год я поступил туда на математический факультет.
Принстонский математический факультет показался Минскому очередным раем на земле.
«Это было похоже на закрытый клуб: на факультет зачислили всего несколько аспирантов, в основном по приглашению. Руководил всем Соломон Лефшец. Он был человеком, которого не беспокоило ничего, кроме качества. Экзаменов там не было. Как–то раз я увидел отчёт своей успеваемости. В аспирантуре нужны были оценки, и у меня были сплошные пятерки даже по курсам, на которые я не записывался. Лефшец был убежден, что ты — либо математик, либо нет, и третьего не дано. Последующие три года я проводил много времени в общем помещении, которое Лефшец выделил аспирантам, чтобы они могли там играть в шахматы и другие настольные игры собственного изобретения, обсуждая при этом математику. Какое–то время я занимался топологией, пока не познакомился с другим аспирантом Дином Эдмондом, который хорошо разбирался в электронике. Мы начали строить ламповые схемы».
В аспирантуре Минский начал задумываться о разработке машины, способной самообучаться. Его сильно впечатлила работа написанная в 1943 году нейрофизиологом Урреном Маккалоком и математическим гением Уолтером Питтсом. В этой работе учёные создали абстрактную модель клеток мозга, нейронов, и показали как они могут быть соединены для выполнения таких умственных процессов, как обучение. Минский решил, что пришло время попробовать создать такую машину. «Мне казалось это очень сложным, я представлял, что понадобится очень много ячеек памяти и синапсов, связей между электронными нейронами, которые бы определяли, когда нейронам посылать сигналы. У синапса были бы различные вероятности проводимости. Но для усиления «успеха» нужно было бы придумать способ изменить эти вероятности. В цепях должны были быть циклы и контуры, чтобы машина запоминала предыдущие действия и в соответствии с этим меняла поведение. Я думал, что если мне удастся сделать такую машину, то она бы научилась пробегать лабиринты через свою электронику, подобно подопытной крысе. Я не думал, что машина может быть разумной. По моим расчётам для стабильной работы, должно было хватить сорок нейронов. Мы с Эдмондом выработали неcколько схем, так что могли собрать каждый нейрон из шести электронно–лучевых трубок и одного мотора».
Минский рассказал Джорджу Миллеру в Гарварде о своём проекте. «Он сказал: „Почему бы нам просто не попробовать?“, — вспоминает Минский. — Он в меня верил, и я это ценил. Каким–то образом ему удалось получить несколько тысяч долларов от Управления военно–морских исследований, а уже летом 1951 года мы с Дином Эдмондом собрали устройство. В нём было три сотни трубок, куча моторов и автоматические электрические муфты, которые мы изготовили самостоятельно. Память устройства хранилась в позициях ручек её управления, которых было сорок: когда машина обучалась, она использовала муфты, чтобы регулировать положение ручек, для этого мы использовали гироскопический автопилот бомбардировщика B–24».
Машина Минского, определенно, была одной из первых самообучающихся машин, если не самой первой. Многие из нейронных сетей были подключены в случайном порядке, из–за чего было невозможно предсказать, как они себя поведут. В какой–то момент в сети создавалась «крыса», после чего её посылали найти путь к определённой конечной точке. Сначала она двигалась случайным образом, но с каждым правильно сделанным выбором машине было легче повторять этот выбор, таким образом, с каждым разом вероятность того, что она сделает правильный выбор, увеличивалась. В устройстве в определённом порядке были установлены сигнальные лампочки, которые позволяли наблюдателям отслеживать передвижения крысы или даже нескольких крыс. «Из–за одной особенности конструкции мы могли поместить две или три крысы в один и тот же лабиринт и одновременно наблюдать за всеми ними, — сказал Минский. — Крысы даже взаимодействовали друг с другом. Если одной удавалось найти удачный путь, то остальные следовали за ней. На какое–то время мы бросили научную работу и только наблюдали за машиной. Мы были поражены тем, что её маленькая нервная система была способна одновременно совершать несколько действий. Из–за случайной проводки она была как будто застрахована от ошибки. Неисправность одного из нейронов почти не мешала общей работе, а с тремя сотнями трубок и тысячами соединений что–то где–то вечно работало не так, как было нужно. В те времена даже радио с двадцатью трубками не всегда работало исправно. Кажется, у нас ни разу не получалось полностью отладить устройство, но это не имело значения. С такой сумасшедшей конструкцией работоспособность ей была обеспечена, независимо от того как мы её собрали.
Ты — либо математик, либо нет, и третьего не дано.
Наша гарвардская машина, по сути, воплощала некоторые идеи Скиннера, и хотя я с ним не раз беседовал, пока собирал её, Скиннер не проявлял особого к ней интереса. Невознаграждённое поведение моей машины так или иначе было случайным. Это ограничивало её способность к обучению. Ей так и не удалось разработать план. Следующая моя идея, которой я посвятил свою докторскую диссертацию, заключалась в том, чтобы предоставить сети вторую память, которая бы запоминала каким был стимул после ответа. Таким образом сеть могла бы научиться прогнозировать, то есть каждый раз, когда машина сталкивалась бы с новой ситуацией, она могла бы обратиться к своей памяти, чтобы понять, что произойдёт в зависимости от определённой реакции. Скажем, если есть неприятные воспоминания, связанные с некоторым стимулом, то в следующий раз машина смогла бы выбрать иную ответную реакцию. Тогда я наивно полагал, что если создать достаточно большую сеть с большим регистром памяти, то, если повезёт, у машины появится способность предвидеть вещи. Позже это стало отдельной областью исследований о самоорганизующихся сетях. Мне до сих мне приходят письма от молодых студентов, которые спрашивают меня, зачем пробовать запрограммировать интеллект, почему бы просто не построить нервную систему так, чтобы она создала его сама? Мне это казалось плохой идеей, я решил, что для этого понадобятся как минимум тысячи миллионов нейронов, и я не мог позволить себе такую роскошь».
Я спросил Минского, почему ему не пришло в голову использовать компьютер для имитации своей машины. К тому времени был создан первый цифровой компьютер ЭНИАК, прототип многих современных компьютеров, и математик Джон фон Нейман использовал его для своей работы в Институте перспективных исследований.
«Я тогда знал о компьютерах немного, — сказал Минский. — В Гарварде я даже прослушал курс лекций Говарда Эйкена (одного из первых разработчиков компьютеров). Эйкен создал электромеханический аппарат в начале сороковых годов. В нём было около ста регистров памяти, а в машине Неймана их была всего тысяча. С одной стороны, меня пугала сложность этих машин, с другой стороны, я думал, что даже этого недостаточно, чтобы привнести что–то интересное в способы их самообучения. Так или иначе, я защитил свою диссертацию, посвящённую самообучению нервных систем. Несколько моих коллег–академиков, в том числе Ллойд Шепли, сын астронома Харлоу Шепли, и Джон Нэш помогли мне в нескольких вопросах, иногда я обсуждал работу и с Нейманом. Он состоял в диссертационном совете вместе с Тьюки и Такером, который сменил Лефшеца и стал деканом математического факультета. Позднее я узнал от Такера, что он сказал Нейману, что при всей любопытности работы он был не уверен как её оценивать, так как не знал действительно ли это относиться к математике, на что фон Нейман ему ответил: „Пока что нет, но когда–нибудь будет, и наше дело этому поспособствовать“. Так я и получил свою кандидатскую степень».
Это было в 1954 году, и у меня не было чёткого плана, чем заняться после защиты, но за год до это я познакомился с интересными людьми, которые сказали, что основали кафедру системного анализа в университете Тафтса, и что если я к ним устроюсь, то смогу заниматься чем захочу. Мне хотелось вернуться в Бостон, поэтому я присоединился к ним и дописывал свою докторскую там. Вскоре сенатор Джозеф Маккарти начал травлю на нескольких членов группы, и её финансирование прекратилось. Но потом Глизон предложил мне стать младшим научным сотрудником в Гарварде. Он выдвинул мою кандидатуру, в чём его поддержали Клод Шеннон, фон Нейман и Норберт Винер. Моим единственным обязательством был обед с другими младшими сотрудниками по понедельникам. Мне повезло, так как я работал над общей теорией интеллекта машин и людей, и поэтому никуда не вписывался. Тогда я начал думать о том, как создать искусственный интеллект. Последующие несколько лет я был младшим научным сотрудником. Нас было тридцать одарённых ребят, и каждый представлял свою область исследований».
Я ненавидел людей, которые говорили мне «расслабься».
Через два года после того как Минский стал младшим научным сотрудником, в области искусственного интеллекта произошло важное событие. Летом 1956 года состоялся Дартмутский семинар об Искусственном Интеллекте. В начале того года Минский с тремя коллегами Джоном Маккарти, Натаниэлем Рочестером, руководителем информационных исследований в лаборатории IBM и Клодом Шэноном, математиком в Лаборатории Белла в Нью–Джерси, выступили перед Фондом Рокфеллера с предложением провести конференцию, посвященную вопросам Искусственного Интеллекта, где они написали, что «каждый аспект обучения и интеллекта» может быть искусственным. Фонд Рокфеллера заинтересовался предложением и выделил семь с половиной тысяч долларов на проведение конференции. Разумеется, спустя двадцать пять лет участники конференции по–разному видят её значимость. Минский поведал мне несколько вещей, которые его тогда поразили: «Мой друг Нэт Рочестер разрабатывал программу нейронных сетей на I.B.M. 701. Я думаю, что эта идея пришла к нему после прочтения книги Дональда Хебба «Организация Поведения», а не от меня: в его модели было сто нейронов взаимосвязанных каким–то непонятным образом. Он надеялся, что если направить на сеть одновременно несколько раздражителей, это приведёт к тому, что некоторые нейроны разовьют чувствительность к подобным совпадениям. Я думаю, у него не было конкретной цели и он просто хотел обнаружить некоторые связи, что–то что могло иметь большое значение. Нэт надолго запускал машину, после чего распечатывал страницы данных о состоянии нейронных сетей. Когда он попал в Дартмаут, он привёз с собой гигантскую стопку этих распечаток. Я пытался отследить на них какую–то динамику, но ничего не видел. Если не знать, что искать, то можно не заметить свидетельства самоорганизации этих сетей, даже если они происходили. Думаю, что именно этого я и боялся, когда решил не использовать компьютеры для работы над своей диссертацией». Другая вещь, которая поразила Минского на этой конференции, стала целой легендой в области искусственного интеллекта. Тогда началась череда событий, которая привела к тому, что в 1959 году Герберт Гелернтер впервые использовал компьютер для доказательства геометрической теоремы.
Я слышал столько различных версий этой истории, что попросил Минского поделиться своими воспоминаниями по этому поводу. Как–то в конце весны 1956 года Минский стал задумываться о том, как с помощью компьютера доказать теоремы евклидовой геометрии. Тогда он начал изучать Евклида. «Если вы прочтёте его книги, вы обнаружите, что он доказал сотни теорем, — сказал мне Минский. — Тогда я решил, что все их можно разделить на несколько категорий. Есть те, которые доказывают, что углы равны, или что окружности пересекаются, есть теоремы о площади и так далее. Потом я сосредоточился на том, как Евклид доказывает эти теоремы. Например, чтобы доказать, что некоторые углы равны, он доказывает, что они находятся в равных треугольниках. Я набросал это всё на нескольких листах бумаги. У меня не было компьютера, поэтому я имитировал всё на бумаге. Я решил попробовать на одной из первых теорем Евклида, где нужно доказать, что углы при основании равнобедренного треугольника равны. Я начал работать над доказательством и спустя несколько часов чуть со стула не упал. Это произошло как раз во время Дартмаутской конференции.
Чтобы понять волнение Минского нужно взглянуть на треугольник:
Нам дано, что отрезки AB и BC равны, нужно доказать что углы a и c равны. Для этого нужно доказать, что эти углы находятся в равном треугольнике. Минский вспоминает, как сказал себе: «Моя задача создать машину, которая сможет доказать эту теорему, любой школьник сможет найти доказательство, поэтому мне нельзя говорить машине, что ей делать конкретно. Иначе это будет лишено смысла. Я показал ей несколько техник, которые она могла применять самостоятельно, способы, которые могли сработать. Например, я мог сказать машине, что углы а и с могут лежать в равных треугольниках. Мне также нужно было показать машине как определять, является ли треугольник равным. Я сделал диаграмму того, как могла бы использовать эти данные машина, пробуя новые комбинации, если предыдущие не подходили. Как только я всё это сделал, я представил, что я — это машина, и отследил так последовательность действий. Сначала я бы заметил, что угол а принадлежит треугольнику BAC, а угол с принадлежит треугольнику BCA. Моя машина была способна это понять. Затем она задалась бы вопросом, равные ли это треугольники, и начала бы их сравнивать. Вскоре она бы заметила, что это одинаковые треугольники с разницей лишь в обозначениях. К такому заключению её привели заложенные в неё методы доказательств. В тот момент я чуть и не выскочил со своего кресла. Воображаемая машина нашла доказательство, которое отличалось от евклидового. Минский начертил ещё два треугольника, проведя перпендикулярную линию от точки B к стороне AC. До этого я не слышал о таком доказательстве, хотя его сделал Папп Александрийский, который жил на шестьсот лет позже Евклида. Иногда это доказательство приписывают Фридриху Великому. Я думал, что моя программа проведёт долгий логический поиск евклидового доказательства. Человек, Евклид например, мог бы сказать, что прежде чем мы докажем, что два треугольника равны, мы должны убедиться, что мы имеем два треугольника. Но моя машина с лёгкостью приняла мысль, что BAC и BCA — два треугольника, тогда как человек посчитал бы, что глупо давать два разных обозначения одному и тому же объекту. Любой человек скажет, что если в его доме есть парадная и задняя двери это ещё не означает, что у него два дома. Тогда я понял, что оригинальность моей машины происходила из её невежества. Моя машина не понимала, что BAC и BCA — это один и тот же треугольник — она только лишь знала, что у них одинаковая форма. То есть это доказательство возникло из того, что машина не понимает, что такое треугольник так глубоко, как это понимает человек, поэтому ничто не препятствует подобному отождествлению. Всё что известно машине — это логические отношения между частями треугольника — но ей неведомы другие способы мышления о пространстве и форме.
Минский улыбнулся и продолжил: «Остальная часть лета в Дартмуте прошла в хаосе. Я сказал себе, что это слишком легко, поэтому решил доказать, что если биссектрисы двух углов треугольника имеют одинаковую длину, то треугольник имеет две равные стороны. Мой воображаемый аппарат, как и я, вообще не мог справиться с этой теоремой. Другой младший сотрудник Гарвардского университета физик Тай Чун Ву показал мне доказательство, которое вспомнил из старших классов китайской школы. Но Нэт Рочестер был настолько впечатлён первым доказательством, что после семинара он нанял Гелернтера, который только что получил докторскую степень по физике и проявлял интерес к компьютерам, чтобы написать программу, которая позволит компьютеру доказать теорему. За несколько месяцев до этого новый компьютерный язык IPL, язык обработки информации, был изобретён Алленом Ньюэллом и Гербертом Саймоном и Шоу работавшими на Рэнд Корпорэйшн в Технологическом институте Карнеги. В 1978 Саймон получил Нобелевскую премию по экономике. Джону Маккарти пришла идея объединить некоторые элементы IPL с FORTRAN, — языком программирования I.B.M. находящимся тогда в процессе разработки, — для создания нового языка, на котором была бы написана программа для решения геометрических задач, а Герлентер придумал, как это сделать. Он назвал этот язык FLPL, что означало язык обработки списков на основе FORTRAN (FORTRAN, кстати, означает «перевод формул»). FLPL не ушёл далеко за пределы I.B.M., но спустя пару лет Маккарти на основе IPL и Гелернтеровской работы вместе с некоторыми идеями математика Алонзо Чёрча, опубликованными в 1930–х, изобрёл новый язык «обработки списков» LISP, который последующее поколение использовало для научных исследований. К 1959 году Гелернтер заставил своего робота доказать, что углы в основании равнобедренного треугольника равны. Компьютер нашёл доказательство Паппа Александрийского.
В 1957 году Минский стал сотрудником в Лаборатории Линкольна при МТИ, где работал с Оливером Селфриджем, пионером в области изучения компьютерного распознавания образов. Через год Минский стал доцентом математического факультета МТИ, тогда же он вместе с Маккарти основал исследовательскую группу по искусственному интеллекту. Маккарти проработал в МТИ ещё четыре года, за это время он совершил несколько открытий, которые стали фундаментальной частью науки о вычислительной технике, одним из которых была идея о разделении времени. «Суть этой идеи — организовать всё таким образом, чтобы много людей могли использовать компьютер одновременно, ведь до этого компьютер мог выполнять задания только последовательно, одно за другим, — объяснил мне Минский. — В те времена у компьютера могло уйти несколько дней на выполнение одной задачи, даже если ему нужно было всего пару секунд на её выполнение. Проблема заключалась в том, что за компьютером нельзя было работать самостоятельно. Сначала нужно было записать программу на бумаге, затем перенести её на перфокарту. После нужно было передать кому–то колоду таких карт, чтобы вставить их в компьютер, когда он завершит выполнять предыдущие задачи. Это занимало по несколько дней. Большинство программ не работали, потому что в них были ошибки, или карты были неправильно перфорированы. Чтобы программа заработала исправно, иногда требовалось десять таких попыток, и целая неделя проходила напрасно. То есть могла пройти целая неделя, прежде чем ты понимал, что не так с программой. Люди привыкли к мысли о том, что на написание хороших программ уходят месяцы. Идея разделения времени заключалась в том, чтобы заставить компьютер переключаться быстро с выполнения одной задачи на выполнение другой. Поначалу это казалось несложным, но потом стали возникать настоящие трудности. Заслуга Маккарти, Фернандо Корбата и их ассистентов в том, что они нашли решение всем этим проблемам».
Минский продолжил: «Одна из трудностей заключалась в том, что если ты хотел, чтобы компьютер выполнял несколько задач, то нужно было придумать способ менять данные в памяти компьютера. Для этого нужно было создать новую высокоскоростную память. Загвоздка был в том, что бы научиться быстро вводить новую информацию в память и одновременно убирать старую. Это удваивало скорость. Ещё важнее была защита данных. Нужно было сделать так, чтобы часть одной программы, находясь в ЭВМ, не повредила другую и не стерла её из основной памяти. Так мы создали регистры защиты памяти, чтобы предотвратить подобные ситуации. Без них пользователи совершенно неожиданными образом вступали бы во взаимодействие друг с другом. Убедить производителей компьютеров в важности нашего нововведения было тоже весьма непросто. Им казалось, что это пустая трата времени. Я думаю, большинство из них путали понятия разделения времени и мультипроцессирования — это когда разные части компьютера одновременно запускают разные части одной программы — что далеко не одно и тоже. Например, I.B.M. в то время разрабатывала систему, в которой одновременно запускалась одна программа, другая записывалась на плёнку, а третья составлялась. Но нас интересовало не это. Нам хотелось, чтобы, скажем, сто пользователей могли одновременно использовать одно и тоже оборудование. Нам понадобилось несколько лет, прежде чем производители компьютеров начали воспринимать нас всерьёз. В итоге мы уговорили массачусетскую компанию Диджитал Эквипмент Корпорэйшн предоставить нам необходимое оборудование. Эту компанию основали наши друзья из МТИ, мы сотрудничали с ними и помогли превратить их компьютер PDP–1 в прототип компьютера,
работавшего в режиме разделения времени. Вскоре они начали производить первые коммерческие версии ЭВМ с поддержкой режима разделения времени. Диджитал Эквипмент сейчас является одной из крупнейших компьютерных компаний в мире. После мы решили сделать доступной поддержку разделения времени для универсального компьютера I.B.M. в МТИ, и получилось так хорошо, что министерство обороны начало выделять институту по три миллиона долларов в год на исследования.
Оригинальность моей машины происходила из её невежества.
Режим разделения времени теперь используется повсеместно. Сегодня вы даже можете подключить свой домашний компьютер через телефон к универсальному компьютеру I.B.M. и работать на нём из своей гостиной.
В широкую продажу транзисторные радиоприёмники впервые поступили в 1954 году. Их производила компания Редженси, но они не имели коммерческого успеха. В 1959 году компания Фэирчайлд разработала первую интегральную схему. В такой схеме использовался легированный в нескольких участках кремний для создания нескольких транзисторов, которые были соединены друг с другом проводящим материалом, типа алюминия, так как его в отличие от меди легче присоединить к кремнию. В 1961 году компания Диджитал Эквипмент выпустила первый миникомпьютер, а в 1963 году первый карманный электронный калькулятор с полупроводниковыми компонентами, но их массовое производство началось лишь в 70–х, что значительно снизило их цену.Тем не менее, развитие в компьютерной техники, само по себе не отвечает за их вездесущность в современной жизни. Параллельно с ними менялись и способы взаимодействия людей с машинами. Герман Голдстайн, который помог спроектировать ENIAC и компьютер фон Неймана, в своей книге «Компьютер от Паскаля до фон Неймана» отмечает, что в компьютере фон Неймана был общий словарь, состоявший из 29 команд. Каждая команда состояла из десятибитного выражения. Бит — это любая простая информация, например, о том, что реестр включён или выключен. В машине был реестр, который назывался аккумулятором, он работал как блокнот. В него можно было вносить числа и работать с ними различными способами. Команда «отчистить аккумулятор» означала стереть всё из реестра, например бинарный код 1111001010. Каждое место в памяти устройства имело отдельный «адрес», который также состоял из 10 чисел двоичного кода. Была тысяча двадцать четыре возможных адреса (2^10 = 1,024), это означало, что устройство может маркировать или обращаться к 1024 «словам» в памяти.
Вот так могло выглядеть выражение на «машинном языке»:
00000010101111001010
Что означало «Отчистите аккумулятор и замените то, что в нём хранится, на число, находящееся по адресу 0000001010». Очевидно, программа, написанная для этого устройства, состояла бы из череды таких числовых выражений, и такую длинную программу мог понять, пожалуй, только хорошо подготовленный математик. В таких условиях мало кто смог бы писать программы.
Я начал работать над доказательством и спустя несколько часов чуть со стула не упал.
К началу 50–х уже предпринималась первые попытки написать современный язык программирования. В сущности, эти и последующие попытки предусматривали развитие понимания, что делать или по каким шагам следовать, чтобы решить проблему. Таким образом, специалисты в этой области всё глубже изучали логику процесса решения задач. Первоначально они сосредоточились на простых шагах, которым следуют при решении фундаментальной арифметической проблемы, например, извлекают корень числа. Стало ясно, что определённые подпрограммы, вроде тех, что предназначены для сложения чисел, снова и снова вступают в игру. Как учёные выделили такие подпрограммы, они решили создать компилятор, код, который автоматически переводил бы их на язык программирования, всякий раз когда это требовалось для вычислений. Одними из первых это попытались сделать учёные из МТИ Халком Лэнинг и Нил Зилер, а также независимо от них Хайнц Рутисхаузер в Швецарском федеральном технологическом институте (Альма–Матер Эйнштейна) в Цюрихе. Их работа не получила широкого признания, тем не менее в конце 1950–х исследовательская группа во главе с Джоном Бэкусом разработала FORTAN, сделав компьютеры широко доступными. Несколько лет назад, мне довелось обсудить создание FORTAN с Бэкусом. Он сказал, что им это далось методом проб и ошибок. Члены группы предлагали небольшую тестовую программу, они использовали находящийся в разработке FORTAN для перевода этой программы на язык программирования, чтобы посмотреть, что из этого выйдет. Результаты всегда были удивительными. Когда система была разработана достаточно хорошо, они устроили соревнования между программами, написанными с помощью FORTAN, и такими же программами, написанными человеком. Они засекали время, чтобы определить, какая программа справится быстрее. Если программы, написанные на FORTAN, оказывались существенно медленнее, то они не могли стать практической альтернативой программам, составленными людьми. Разработка FORTNAN заняла у Бэкуса и его группы два с половиной года, работу над ним они завершили в 1957 году.
Джером Финланд в своей статье для Сайнтифик Американ 1979 года заметил, что только в США для различных целей используется более 150 различных языков программирования. С простыми численными расчётами большинство этих языков справляется одинаково хорошо. ВASIC, разработанный группой в Дартмуте в 1963–64 годах, — самый широко доступный язык программирования для домашних компьютеров, который даёт возможность делать всё что угодно на таких компьютерах (Оказалось, что в действительности людям хотелось использовать компьютеры в основном для игр, а игровые программы покупать готовыми). У подобных компьютеров очень маленький объём памяти, не превышающий шестьдесят пять тысяч восемьсот битных слов, поэтому они не поддерживают самые продвинутые компьютерные языки. Существуют упрощённые версии многих таких языков для подобных компьютеров. Разница становиться ощутимой, когда дело доходит до сложных программ, необходимых в области искусственного интеллекта. Для таких программ FORTAN и BASIC слишком примитивны. Во времена, когда появился FORTAN, бит компьютерной памяти стоил чуть больше доллара. Сегодня чип на шестьдесят пять тысяч бит можно купить за шесть долларов, то есть память стала в десять тысяч раз дешевле. Следующее поколение персональных компьютеров должно предоставить людям более продвинутые языки программирования. Но однажды, по словам Минского, самые полезные компьютерные программы будут создаваться на основе программы искусственного интеллекта, которая сама их будет создавать. То есть обычный человек, не программист, на простом языке объяснит программе, какую программу он хочет, после чего этот искусственный интеллект напишет программу, которая будет справляться с такой задачей, и это будет намного дешевле, чем нанять программиста.
Мы отработали все простые гипотезы, не оставив ничего новичкам в этой области. Мы оставили студентов без дела. Мы были слишком жадными.
Между машинным языком и компилятором существует ещё один уровень компьютерной языковой абстракции — ассемблер, — который появился ещё до компилятора. На языке ассемблера не нужно было писать команду на длинном двоичном коде, достаточно было просто написать слово «сложить», и компьютер автоматически переводил его на машинный язык. FORTAN в этом плане был на одну ступень выше. При любом вычислении следующий шаг часто зависит от результатов предыдущих вычислений. На языке FORTAN для этого использовалась команда «если» в сопровождении с инструкциями, что делать в различных случаях. Это сильно облегчало жизнь при условии, что вам заранее известно о двух допустимых вариантах результата вычисления. В шахматной программе число случаев, которые необходимо рассмотреть, зависит от расположения на доске фигуры оппонента, что сложно предсказать. Таким образом, нужно, чтобы машина могла подумать о том, что она делает, прежде, чем совершать ход. В конце 1950–х был разработан новый вид языков программирования, чтобы дать компьютерам возможность размышлять.
Вот что Минский сказал по этому поводу: «В обычном языке программирования типа FORTAN и BASIC нужно совершить кучу сложных операций, чтобы просто запустить программу, а иногда даже это невозможно сделать. Нужно заранее установить, что определенные участки памяти будут отвечать за определенные действия. То есть нужно заранее знать, что машине понадобится 200 ячеек памяти. Обычно программа состоит из кучи разных процессов, и нужно заранее определить, как они будут получать информацию и где её будут хранить. Это называется объявление и распределение памяти. Таким образом, программист должен заранее знать о всех процессах. Программа на FORTAN не способна сделать что–то принципиально новое. Если не знаешь заранее, какие процессы будут выполняться программой, то и не выделишь под них нужное количество ячеек памяти. В новых языках программная система автоматически выделяет участки памяти для процессов, которые она создаёт. Машина воспринимает память как длинную ленту, и когда требуется новое место, она заимствует его из начала ленты. Когда она обнаруживает, что часть программы не используется, она автоматически отправляет её в конец ленты, где ей снова можно будет воспользоваться, если это понадобится — это называется «сбором мусора». Машина оперирует символами, а не только цифрами, что намного ближе к «естественному языку». Но главное, что на основе языков обработки списков можно создавать новые, неограниченные по сложности языки обработки списков. Этх программы развиваются с целью решить две ключевые проблемы искусственного интеллекта: использование машин для игры в шахматы и использование машин для решения теорем. Многие из идей программирования в этих двух сферах одинаковы.
Первая значительная научная работа, посвящённая компьютерным программам для игры в шахматы, была написана в 1950 году Клодом Шенноном. Основным элементом в анализе Шеннона является дерево игры. Каждая ветвь дерева игры открывает новые возможности, точно также как с каждым ходом в шахматной партии создаётся возможность для новых потенциальных ходов. В начале партии игрок выбирает из 20 возможных ходов. При следующем ходе он выбирает уже из тридцати возможных ходов. По ходу игры количество возможных ходов значительно увеличивается. В обычной игре все будущие возможные ходы можно выразить порядковым числом 10^120 — безумно большое число. Если бы компьютер мог обрабатывать все потенциальные ходы со скоростью один ход в миллиардную долю секунды, то ему потребовалось бы 10^111 секунд, чтобы проработать всё дерево одной партии. Но нашей Вселенной всего 10^17 секунд, поэтому так дело не пойдёт. Человек лишь способен рассматривать ничтожно малую часть веток дерева игры, потенциальных результатов шахматного хода, поэтому и компьютер нужно было запрограммировать делать тоже самое. Шеннон не разрабатывал компьютерную программу для подобных расчётов, но представил её структуру. Во–первых можно было выбрать глубину — два или три хода, — к которым можно было проанализировать все ответные ходы, а также можно было бы проанализировать расположение фигур в конце каждого из этих ходов. На основе оценок можно было бы выбрать ход, который привёл бы к «наилучшему» окончательную варианту расположения фигур на доске. В таком положении, где, скажем, существует три возможных хода, белые могут понять, что один из них приведёт к ничье при условии, что чёрные сделают наилучший из потенциальных ходов, второй — к проигрышу, если чёрные сделают ход, который должны сделать, а третий — приведёт к победе только, если чёрные сделают неверный ход, или к поражению, если ход будет верным. В такой ситуации метод Шеннона призвал бы белых сделать первый из трёх возможных ходов, который предположительно гарантирует ничью. В действительности, всё обычно не так очевидно, и поэтому вводятся более сложные критерии, например, защита короля или защита поля угрозы, каждому из которых присваивается численный вес при расчёте, для которого Шеннон предложил набор методов. В 1951 году математик Алан Тьюринг, который после фон Неймана стал, пожалуй, самым выдающимся мыслителем в области автоматной логики, написал программу, которая осуществляла бы схему Шеннона. Так как у него не было компьютера, на котором можно было бы запустить эту программу, он проверил её на партии, где два человека имитировали компьютеры. Программа проиграла слабому игроку. В 1956 году программа, написанная группой в Лос–Аламосе, была опробована на MANIAC–1. Их программа задействовала дерево игры с большей глубиной и использовала игровую доску из 36 клеток, тогда как на стандартной доске — 64 клетки (они отказались от фигур слонов). Компьютер победил слабого игрока. Первая полноценная шахматная программа для компьютеров была разработана Алексом Бернштейном в 1957 году. Семь возможных ходов анализировались глубиной в два хода каждый, программа играла на любительском уровне. Она запускалась на I.B.M. 704, компьютере, который мог выполнять 42 тысячи операций в секунду, MANIAC–1 для сравнения выполнял 11 тысяч операций в секунду.
В 1955 году Ньюэлл, Шоу и Саймон начали разрабатывать шахматную программу. В 1958 году они написали: «В фундаментальном смысле доказательство теорем (в символьной логике) и игра в шахматы содержат одну проблему: эвристическое рассуждение, которое избирает плодотворный путь исследований в экспоненциально растущем пространстве возможностей. Дилеммы, связанные со сравнением скорости и отбора, равномерности и сложности, существуют в обеих предметных областях». Эти трое учёных также изобрели программу для доказательства теорем в символьной логике, которую назвали «Логический Теоретик». В 1957 году в научной работе об этой программе они написали:
«Проблема в том, что исходный набор возможных решений задачи, данный программе, может быть очень большим, фактические решения могут быть широко рассредоточены на всём его протяжении, а стоимость получения каждого нового элемента и его проверка может обходиться очень дорого. Таким образом, решения задач не дают программе набора возможных решений, вместо этого ей даётся некоторый процесс генерации элементов этого множества в определённом порядке. У этого генератора есть собственные параметры, как правило, не указанные в поставленной задаче, например, затраты на получение каждого отдельного элемента решения или порядок получения этих элементов может изменяться. С проверочными тестами также связаны затраты. Проблема может быть решена, если расходы не являются слишком большими по отношению к времени и вычислительной мощности, доступной для решения».
Программу «Логический Теоретик» запускали на компьютере JOHNIAC, который был копией машины фон Неймана и находился в исследовательском центре Рэнд. Программа была способна предоставлять доказательства некоторых достаточно сложных теорем, хотя другие ей были не под силу. Чтобы запрограммировать JOHNIAC Шоу, Нюэлл и Саймон воспользовались своим недавно–изобретённым I.P.L., предвосхитившим языки обработки списков. В 1958 году они написали свою программу игры в шахматы на поздней версии этого языка программирования и впоследствии охарактеризовали его производительность как «спортивную». Тем не менее, из соображений экономии памяти большинство современных программ для игры в шахматы пишутся на машинном языке, а не на языке обработке списков.
Всемирная шахматная организация присуждает рейтинг всем участвующим в турнирах шахматистам. В настоящее время средний рейтинг всех американских шахматистов — 1500. У Анатолия Карпова, мирового чемпиона, рейтинг — 2700. Лучшая на сегодняшний день программа для игры в шахматы — Belle, разработанная Кеном Томпсоном и Джо Кондоном, имеет рейтинг — 2,200. Микрокомпьютеры для игры в шахматы, доступные на рынке стоимостью от 200 до 400 долларов, могут быть настроены для игры на определённых уровнях (вплоть до 1800); но на высоких уровнях раздумывание над серьёзным ходом занимает у них вечность. В общем эти программы не имитируют, то как мыслит гроссмейстер. Гроссмейстер может, взглянув один раз на шахматную доску, проанализировать ограниченное количество возможных ходов, три или четыре, на разную глубину в зависимости от расположения фигур. В качестве примера возьмём партию столетия, когда тринадцатилетний Бобби Фишер играл против Дональда Бирна. На семнадцатом ходу Фишер пожертвовал королевой по причинам, непонятным в тот момент никому, кроме него самого. Полученная комбинация была столь глубокой, что только спустя ещё 24 хода Фишер поставил мат, который запланировал в самом начале партии. Эта игра убедила многих, в том числе и самого Фишера, что скоро он станет чемпионом мира по шахматам. Было бы любопытно воссоздать ту партию с Belle вместо Фишера и посмотреть, сможет ли программа поставить такой же мат, используя свои методы, которые могут весьма отличаться. Скорее всего, нет. Тем не менее, Belle уступает всего лишь пяти процентам американских шахматистов. И есть все основания полагать, что в ближайшем будущем она или другая подобная программа обыграет и эти пять процентов.
В настоящее время бушуют споры о том, что такое «искусственный интеллект», как внутри сообщества специалистов, занимающихся этим вопросом, так и за его пределами. Большинство специалистов в этой области понимают под этим машину, результат работы которой будет напоминать или вовсе будет не отличим от работы человеческого разума. Возможно, окончательный вариант такого устройства будет способен выполнять все когнитивные функции, а может быть много различных видов таких устройств будут выполнять эти функции по отдельности. Первый вопрос, который здесь поднимается — что мы имеем ввиду под «машиной»? Почти все учёные в этой области подразумевают под этим словом какой–то цифровой компьютер. Стоит отметить, что хотя существует огромное количество компьютеров, в теории есть всего один вид компьютеров. Эта мысль происходит из 1930–х годов, а именно из одной работы Алана Тьюринга, в который он описал абстрактный универсальный компьютер. Этот компьютер можно запрограммировать на выполнение функций любого другого компьютера, и он способен совершать любую последовательность операций. Одни видят цель работы по искусственному интеллекту в создании компьютера, который по объёму производства не был бы отличим от человеческого разума.
Так как люди играют в шахматы и шашки, занимаются математикой, пишут музыку и читают книги, то машине нужно справляться со всеми этими вещами, по крайней мере, не хуже людей. Конечно, сделать такой компьютер задача не из простых, возможно, даже невыполнимая.
Учёные, занимающиеся этой проблемой, пытаются решить её частями, таким образом, на техническом и программном уровне ведутся попытки создать машину, способную играть в настольные игры, «понимать» газетные сообщения и распознавать образы. То что машины способны выполнять все эти вещи с разной степенью успеха — безусловный факт. Сегодня споры ведутся о том, что всё это для нас значит. Станем ли мы таким образом лучше понимать человеческий ум? До конца не ясно, что может положить конец этим спорам. Даже если создадут человекоподобного робота, многие все равно будут утверждать, что этот робот не понимает, что делает, и просто имитирует человеческий интеллект, в то время как реальное понимание всегда будет лежать за пределами его возможностей. Минский верит, что не стоит исключать такую вероятность. Он видит развитие искусственного интеллекта как эволюционный процесс, как если бы разум животных развивался по средствам долгой череды испытаний и усовершенствований, только быстрее и под контролем людей.
Подавляющее большинство современных учёных в области искусственного интеллекта сосредоточены на создании компьютерных программ, которые при современных технологических достижениях становятся всё сложнее. Но, возможно, это неправильный подход. С такой точкой зрения выступил британский молекулярный биолог Фрэнсис Крик. В своей публикации «Подумайте о мозге» для Сайнтифик Американ он написал следующее:
«Распространение всё более быстрых и дешёвых компьютеров — далёкий от завершения процесс, который дал нам некоторое представление о том, чего можно достичь путём быстрых вычислений. К сожалению, сравнения компьютеров и человеческого мозга при всём своём удобстве вводит нас в заблуждение. Компьютер обрабатывает информацию быстро и серийно. Мозг работает намного медленнее, но информация в нём способна обрабатываться параллельно на миллионах уровнях. Компоненты современного компьютера очень надёжны, но удаление одного или двух может нарушить ход всей работы. Для сравнения нейроны человеческого мозга в каком–то смысле ненадёжны, но удаление даже большого их количества вряд ли приведёт к каким–то видимым изменениям в поведении человека. Компьютер работает со строгим двоичным кодом. Мозг же полагается на менее точные сигналы. Вместо этого для оптимизации своей работы он, вероятно, регулирует количество и эффективность своих синапсов. Поэтому неудивительно, что компьютер способен выполнять длинные и сложные арифметические вычисления, задачу, с которой люди справляются не так хорошо, но человек может распознавать образы лучше любого компьютера».
Несмотря на то, что многие специалисты в области ИИ согласны с заявлениями Крика, компьютеры в сочетании с электронными визуальными сенсорами, телекамерами, уже сегодня могут проделывать любопытные вещи в плане распознавания образов. Первую машину, способную распознавать сложные образы, персептрон, создал бывший одноклассник Минского Розенблатт. Прототип этого устройства учёный разработал в 1959 году в аэронавигационной лаборатории Корнельского университета. Спустя пару лет после этого мне представилась возможность побеседовать с ним. Машина состояла из трёх элементов. Первая составляющая (сенсорный элемент) — сетка из четырёхсот фотоэлементов, соответствующих светочувствительным нейронам в сетчатке, принимает первичные оптические раздражители. Фотоэлементы были подключены к ассоциативным элементам, второй составляющей, чья функция — это собирать электрические импульсы, производимые фотоэлементами. В устройстве было 512 ассоциативных единиц, и у каждой единицы могло быть до сорока случайных соединений с фотоэлементами, что было сделано осознано, так как принято считать, что некоторые, а, возможно, большинство нейронов в мозге связаны между собой случайным образом. В нашем мозге нейроны появляются и растут во время внутриутробного развития, до нашего рождения, к тому моменту их число может достигать сорока миллиардов или даже больше. Каким образом они распределяются за это время? В ранних исследованиях мозга отмечалось, что если связь между ними в значительной степени образуется случайным образом, то не важно и как распределены отдельные нейроны. В результате экспериментов обнаружилось, что всё совсем не так. Соединения между нейронами действительно формируются на ранних стадиях развития и отличаются в зависимости от конкретных областей мозга, но как это происходит, остаётся загадкой. Когда Розенблатт создавал персептрон, принцип случайных соединений казался ему очень важным. Третья составляющая его машины называется реагирующим элементом. Ассоциативный элемент представляет собой подобие нейрона, который посылает сигнал только тогда, когда получает стимулирующее воздействие, превышающее определённый порог, после чего отправляет сигнал реагирующим элементам. Изначально предполагалось, что так оно сможет распознавать формы. Сначала машине бы показали подсвеченную букву «А», на что она отреагировала бы в соответствии со своими изначально случайно заданными инструкциями. Затем «А» искажалась или перемещалась, после чего её вновь показывали персептрону, и если ответная реакция проходила таким же образом, это означало, что машина распознала «А», а если нет, то это значило, что одни её реакции верны, а другие нет. Неправильные реакции можно подавлять, изменяя настройки в электронике. Розенблатт заявлял, что после определённого количества изменений в настройках устройства оно научится распознавать образы.
Розенблатт был весьма убедителен, и многие люди вслед за ним начали работать над персептронами. Минский в их число не входил. Ещё будучи аспирантом, после попыток создать одну из первых электронных самообучающихся машин, Минский и Эдмонд пришли к выводу, что правильнее было бы определить основные законы, благодаря которым, машина станет обучаться, чем пытаться заставить её это делать непонятно каким образом. Минский и Розенблатт вступали в жаркие споры по этому поводу в начале 60–х. Во время нашей беседы Минский объяснил мне, в чём заключался предмет споров.
«Розенблатт выступил с серьёзным заявлением, которому я поначалу не поверил, — сказал Минский. — Он сказал, что раз персептрон технически можно настроить так, что он способен что–то распознавать, то должен быть и способ изменять его ответные реакции так, что в конечном итоге он научится распознавать образы. На самом деле, с математической точки зрения гипотеза Розенблатта была верна. Я восхищён, как ему удалось разгадать эту теорему, так как доказать её очень сложно. Тем не менее, я не мог игнорировать ограничения персептрона. Например, машина могла отличать «Е» от «F», «5» от «6» и другие подобные вещи. Но стоило постороннему предмету оказаться рядом с этим символами, машина переставала справляться. Я думаю, сторонники персептрона допустили ошибку, дав ему на распознание слишком чёткие примеры. Машина распознавала горизонтальную и вертикальную линии по отдельности, но если на их фоне были наклонные линии, ничего не выходило. Это напоминало мне о чудесном устройстве, которое создал Ликлайдер в Гарварде в начале 1950–х. Оно различало слово «арбуз» в любом предложении, независимо от того, кто его произносил. Не сложно добиться стабильного выполнения работы, если задача по распознанию проста. Но по сей день у нас нет устройства, способного распознавать произвольно выбранные слова в обычной речи».
В 1963 году Минский начал сотрудничать с Сеймуром Пейпертом, уроженцем Южной Африки, который получил кандидатскую степень по математике в Витватерсрандском университете в 1952 году, но решил, что этого не достаточно, и получил ещё одну в Кембридже. Он начал интересоваться проблемой обучения и стал работать с Жаном Пиаже в Женеве. С Минским его познакомил нейрофизиолог Уоррен Маккаллок, чья научная работа о нейронах поразила в сороковых Минского. «Сеймур пришёл в МТИ в 1963 году и остался там», — вспоминает Минский. За несколько месяцев до этого они инициировали новые исследовательские программы, посвящённые человеческому восприятию, детской психологии, экспериментальным роботам и теории вычислений. В середине шестидесятых Пейперт и Минский задались целью похоронить персептрон или как минимум обозначить его ограничения, что, как Минский считал, пойдёт на пользу учёному сообществу в области ИИ. Четыре года они работали над своими идеями и 1969 году выпустили книгу «Персептроны».
«До 1969 году о персептронах было написано несколько тысяч научных работ, но наша книга положила этому конец, — сказал Минский, — При всей скромности, в ней была красота математики, математики XIX–го века. Чем больше мы углублялись в проблему, тем больше вопросов появлялось, но в итоге мы решили их все. В результате книга получила хорошие отзывы. Люди говорили: „Теперь у теории вычислительных систем появилась прикладная и фундаментальная математика. Эти люди взялись за очевидно непростую задачу и придумали элегантное решение“. Книга оказалась даже слишком хороша, мы потратили на неё на год больше, чем следовало. Мы отработали все простые гипотезы, не оставив ничего новичкам в этой области. Мы оставили студентов без дела. Мы были слишком жадными. В результате за следующие десять лет в этой области не было опубликовано ни одной серьёзной работы. Эта проблема социологии науки — в такой области должны работать студенты и аспиранты. Если бы мы отдали эти проблемы на изучение студентам, то они справились бы не хуже, так как ничего там особенно сложного не было. Кроме того, теперь мне кажется, что книга была избыточной ещё по одной причине. То, что мы доказали, сводилось к тому факту, что персептрон не способен собирать воедино визуально нелокальные предметы».
В этот момент Минский взял ложку и положил её за тарелку: «Вы понимаете, что это ложка, хотя видите только её часть. Но персептрон бы не смог её так распознать, в отличие от нас у него нет дополнительных алгоритмов, на которые он мог бы опираться. Хотя в определенный момент, пока я писал книгу, на меня снизошла мысль, что персептрон на самом деле в некоторых вещах был не так уж плох. Я осознал, что для того, чтобы собрать его нужно в принципе всего пара молекул и мембрана. И когда меня перестало раздражать, что Розенблатт вводит в заблуждение учёных, я понял, что учитывая возможности персептрона и простоту его устройства, было бы странно не найти ему нигде применения. Было бы замечательно, если бы у нейрона был свой такой крошечный персептрон, так как для него требуется немного, а отдача большая. Большой персептрон не способен на многое, и тем не менее это одно из самых изящных простых, в хорошем смысле этого слова, самообучающихся устройств, о которых мне известно».
Когда компьютеры впервые вошли в обиход в Америке в начале 1950–х, они были настолько дорогими, что встречались исключительно в крупных военно–ориентированных государственных лабораториях вроде Лос–Аламос, которую финансировала Комиссией по атомной энергии, или Рэнд Корпорэйшн, работавшей на ВВС США. Проект по изучению компьютерной техники в Институте перспективных исследований был одним из первых, который проводился в образовательном учреждении. Его финансирование осуществлялось совместно Комиссией по атомной энергии, управлением военно–морских исследований и управлением исследований воздуха и артиллерийской–технической службой. Тогда мало кто мог себе представить, что скоро в каждом университете появится свой универсальный ЭВМ и факультет информатики. Значительная часть финансирования науки в этой стране поступает от Национального научного фонда, чей бюджет распределяется по всем научным областям, и лишь малая доля выделяется на науку вычислительных машин и систем. При Министерстве Обороны есть Управление по перспективным научным исследованиям (APRA), чья задача финансировать проекты, которым можно будет найти применение в военных целях. Само управление интерпретирует свою задачу как обнаружение технологических недостатков в американской науке и деятельность по их исправлению. В начале 60–х оно стало финансировать университетские фундаментальные исследования в области информатики, и с тех пор половина финансирования в этой области поступает от управления. Где–то в 1963 году после публикации работы Маккарти о режиме разделения времени в МТИ запустили проект MAC (аббревиатура имела два значения «машинное обучение» и «компьютер коллективного пользования»), на который управление выделяло три миллиона долларов в год. Треть этой суммы уходила исследовательской группе ИИ.
«Первые годы мы тратили эти деньги на оборудование и студентов, но на десятый год мы производили почти всё оборудование самостоятельно, поэтому деньги уходили на развитие факультета и зарплаты студентам. Мы разработали лучшую, с учётом требований эргономики, систему поддержки компьютеров». Поначалу там работало много студентов, бросивших учёбу, но впоследствии многие из них стали системными инженерами и даже выдающимися учёными. Большинство из них пришли из других областей науки, в основном математики и физики. Изначально Минский ставил перед собой задачу направить юные таланты на то, чтобы они узнали, каких решений нестандартных арифметических задач можно добиться от компьютеров, иными словами, сделать машины умными.
В качестве первой задачи Минский и его студенты пробовали запрограммировать компьютер на выполнение математического анализа уровня первого курса. Один из возможных способов применения матанализа как своего рода «бесконечной арифметики» — это путём череды сложений и умножений высчитать движение планет. Этот метод называется численным интегрированием, для него поначалу и стали применять компьютеры. Но есть и другой способ математического анализа как «конечнономерной алгебры», где работать приходится в основном с символами, а не числами. Если задачу можно решить с помощью конечнономерной алгебры, то решение выходит сверхточным, и Минский хотел запрограммировать компьютер так, чтобы он мог применять в решениях этот метод.
Два главных аналитических метода — дифференцирование и интегрирование. С помощью первого высчитывается скорость процесса из описания этого процесса, с помощью второго, который в некотором смысле противоположен первому, процесс восстанавливается из скорости. В частности, в первом случае к заданной кривой нужно найти касательную. А во втором случае кривая вычисляется по касательной. Первокурсников обучают нескольким способам решения таких задач, которые, по сути, являются ментальными компьютерными программами. Когда человек сталкивается с новой задачей, то он ищет у себя в голове или в учебнике способ, который мог бы сработать, после чего пытается сделать выражение, которое может подойти к одному из алгоритмов. В 1961 году студент Минского Джеймс Слэгл кодифицировал этот процесс в своей программе SAINT «Символьный автоматический интегратор». Для этого он использовал I.B.M. 7090, которому дал 26 стандартных форм, определённые элементарные интегралы и 18 простых алгоритмов решения. SAINT давалась задача на языке элементарных функций, которые ей нужно было определить, после чего найти подходящий алгоритм решения. Если задача казалась слишком сложной, компьютер разбивал её на несколько отдельных задач. Если задачу нельзя было решить в конечном виде, компьютер пытался это сделать, после чего сдавался. Для своей докторской диссертации Слэгл дал компьютеру 86 задач для интегрирования с помощью SAINT. Даже допотопный по сегодняшним меркам IBM 7090 справился с 84 из 86 задач со средней скоростью первокурсника, а иногда даже быстрее. На решение многих из них ушло меньше минуты, но всё же два интеграла оказались слишком сложными. Программу восприняли как прорыв в попытках заставить компьютер производить символьные вычисления.
Следующую проблему — заставить компьютер рассуждать по аналогии — Минский решил совместно со своим студентом Томасом Эвансом. Машина должна была решать задачи вроде этой, взятой из диссертации Эванса: Рисунок А по отношению к Рисунку B является тем же, что и Рисунок С по отношению к какому из следующих рисунков [от D–1 до D–5]?
Первое, что пришло мне в голову при виде этой задачи — как мог компьютер с ней справиться? Он смотрел на рисунки? «Нет», — ответил мне Минский. Проблема с программами машинного зрения заключается в том, что в те годы в них было полно багов. Мы не знали как добиться надёжной работы. У нас бы это заняло год, но всем бы было наплевать. Эванс разработал подъязык для описания линий и его ввели в компьютер. Эванс также написал свою программу, которая позволяла определять два символа — S и T, а затем создать третий сопутствующий символ — L. Таким образом, можно закодировать предположение, что две «точки» (S и Т) определяют отрезок (L). Это всё, что компьютеру нужно было знать о том, что такое отрезок, а конкретно то, что он определяется двумя символами, которые называются точками. Отрезок и точка определяют плоскость. С математической точки зрения, этот абстрактный набор отношений есть то, чем являются эти объекты, хотя, конечно, мы придаём им множество других значений. А компьютер и близко не понимает, что такое «отрезок», но я уверен, что и мы не до конца понимаем, что это, просто наша зрительная система отождествляет некоторые полученные данные с «отрезачностью», — сказал Минский, — Только порядок соединения делает их уникальными. И даже если ничего уникального в них нет, мы всё равно делаем вид, что знаем, что такое отрезок».
Как только в память компьютера вводили рисунки A и B, программа начинала сравнивать их, используя критерии «большой» или «маленький», «внешний» или «внутренний», «правый» или «левый». После чего компьютер пробовал обнаружить операции. необходимые для того, чтобы преобразовать один рисунок в другой. Критерий «внутри» и «снаружи» опирается на метод, изобретённый в 19 веке. Возьмем пример: представьте, что кто–то находится внутри круга и чертит линию на север от себя. Эта линия пересечёт круг. Но если он находится ниже, снаружи круга и чертит линию от себя на север, то эта линия либо вообще не соприкоснётся с кругом, либо пересечёт его дважды. Здесь есть нюансы, но, в общем, такой метод говорит нам, что если количество точек пересечения нечётное, то предмет находится в пределах замкнутой кривой, а если чётное, то снаружи. Такой метод использовал Эванс. Машина бы заметила, что одно из различий между рисунками A и B в том, что круг сместился вниз и закрывает фигуру. После этого машина сравнила A с C и заметила, что в обоих случаях сверху есть крупные фигуры, и внутри каждой содержится малая. Тогда она пыталась найти схему среди рисунков серии D, где большая фигура сместилась вниз и закрыла малую D–3.
За этим было жутковато наблюдать. Программа опережала своё время, но тогда мы её недооценивали.
Чтобы заставить компьютер всё это сделать, Эванс создал одну из самых сложных когда–либо написанных программ. Объём памяти в компьютере, который он использовал, составлял почти миллион бит. В те времена блок памяти на 1 бит стоил около доллара, так что одна только память стоила миллион. Сегодня бит стоит около одной сотой цента, так что сегодня сравнительный объём памяти обошёлся бы всего в 100 долларов. Программа Эванса задействовала каждый бит памяти и могла справляться с задачами не хуже старшеклассника. Помимо конкретных результатов Минский был поражён реакцией людей. «Многих она сильно раздражала, — вспоминает Минский. — Люди считали, что если вы запрограммировали машину что–то сделать, то её заслуги в этом нет и она не способна реально мыслить по аналогии. Мне лично казалось, что она работает словно живая. Мы не стали обращаться к статической психологии, чтобы выяснить, что делает «средний» человек для решения этой задачи, вместо этого мы определили логику решения таких задач. Вообще, какое–то время у меня в лаборатории даже было строгое правило не использовать данные психологических исследований. В колледже я прочёл много книг по психологии и понял, что средние показатели в опросах ничего полезного вам не дадут. Нужно было сделать то, что сделал Фрейд. Том Эванс и я задали себе вопрос, что мы делаем, когда решаем подобные задачи, и этот метод сработал.
В то время когда Эванс заканчивал работу над своей диссертацией, Минский со своими коллегами работал над ещё двумя проектами: вычислительной лингвистикой и робототехникой. Одной из первых несвязанных с числовой информацией задач в сфере компьютеров был перевод с одного языка на другой. Успехи были незначительными из–за неоднозначности слов и недостатка изученности синтаксиса. Простой последовательный перевод отдельных слов приводит к абсурдным результатам. Например, в английском языке не всегда можно отличить имя существительное от глагола при отсутствии контекста, — в те годы казалось, что подобное понимание находится за пределами возможностей компьютеров. По словам Минского, идеи Хомского, касающиеся теории синтаксиса, помогли прояснить многие технические вопросы о структуре фраз и предложений. «Но мне казалось, что они только отвлекали лингвистов от других основных проблем, связанных со смысловыми значениями. Я почти не надеялся, что машинам когда–нибудь дастся язык, до тех пор пока мы не разработали ранние версии программ, которые понимали простые предложения. Работая над обработкой семантической информации, мы не прибегали к помощи со стороны лингвистов, так как она могла стать нам помехой».
В результате в МТИ были написаны две докторские диссертации, получившие впоследствии широкую известность. В 1964 году математик Бертрам Рафаэл разработал программу, которая позволяла компьютеру принимать решения о значении слов с учётом их контекста в ограниченной области. Сначала Рафаэль ввёл в компьютер череду утверждений: «Каждый мальчик — человек», «Палец — часть кисти руки», «У каждого человека есть две руки». После чего он задал машине вопрос: «Сколько пальцев у Джона?».
До этого момента компьютеру не давали значение слова «Джон», а глагол «иметь» использовалось в нескольких предложениях с разным контекстом. Столкнувшись с такой задачей программа Рафаэла ответила: «Предложение является неоднозначным. Но предположительно слово „иметь“ означает „иметь в качестве частей“. После чего спросила: „Сколько пальцев на руке?“. Тогда машине сказали, что Джон это мальчик, а на руке у человека пять пальцев. Машину снова спросили сколько у Джона пальцев. Машина ответила — 10. Позже Рафаэл спросил программу, кто сейчас президент США? Машина ответила: „Форма заявления не признаётся“».
Минский сказал мне, что находит программу Рафаэла особенно интересной, так как она способна справляться с противоречиями. «В программе не произошёл бы сбой, если бы вы сказали, что у Джона девять пальцев. Машина бы попыталась выстроить своего рода иерархию знаний вокруг этого факта. Иными словами, в любой ситуации программа попыталась найти наиболее конкретную информацию, которая ей известна, и применить её».
Пожалуй, самую выдающуюся программу подобного рода, объединяющую язык и математику, разработал ученик Минского Даниэл Бобров. Программа называлась STUDENT. Бобров решил работать со школьными задачами, чтобы математика в них была не слишком сложной. Машине давали в основном текстовые задачи, поскольку основная сложность состояла в том, чтобы перевести эти слова в форму уравнений, решить которые компьютеру было проще простого. Одна из задач, которую Бобров приводит в своей диссертации была такой:
«Расход бензина моей машины составляет 15 миль на галлон. Расстояние между Бостоном и Нью–Йорком составляет 250 миль. Какое количество бензина израсходует машина на дорогу от Нью–Йорка до Бостона?»
STUDENT была запрограммирована воспринимать каждое предложение как уравнение, и обладала информацией о значении определённых слов, что помогало ей найти эти уравнения. Например, слово «составлять» означало для программы, что фразы до и после этого слова в предложении обозначают равные количества. Она также знала что «на» означает деление. Программа хорошо распознавала только начало и конец предложения», — сказал Минский. Она использовала «возможные значения», семантику для анализа синтаксиса. Слово «на» в первом предложении указывало ей, что число 15 получилось в результате деления определённого числа X миль на число Y галлон. Машина понятия не имела о значении самих слов «миля», «галлон» или «автомобиль». Следующее предложение говорило машине, что что–то равно 250 милям, поэтому фраза «расстояние между» вполне могло быть числом х. Следующее предложение содержит вопрос о количестве литров, так что фраза «бензина на дорогу» должна быть числом Y. Таким образом машина предлагает уравнение «х = 250», «x/y = 15», после чего математическая часть программы с легкостью находит, что «y = 250/15». С такими задачами STUDENT справлялся легко, так как в разных предложениях использовались одни и те же фразы. Когда слова и фразы различны, как в этой задаче, программа их сопоставляет с помощью разных хитростей, например, сравнивая, где больше всего общих слов. Это работало не всегда, но Минский отметил: «Кажется невероятным, что программа справлялась с задачами столь часто, в то время как многие старшеклассники считали их сложными». Так появилась программа, которая была способна не только обрабатывать слова синтаксически, но и понимать, пускай и поверхностно, что она делает. Она не понимает, что такое бензин или галлон, но она знает, что если взять мили на галлон и умножить на галлоны то можно получить расстояние. Она может обратиться к своей простой логике и решить задачу, которая кажется сложной многим школьником, потому что их сбивают с толку значения слов.
Минский продолжил: «Это впечатляет меня намного больше, чем грандиозные мероприятия, где робот обыгрывает человека в шахматы. В программах Боброва и Рафаэла мы сталкиваемся со случаем, когда нужны навыки, которые кажутся непонятными и, тем не менее, могут быть проанализированы». В каком–то смысле производительность машины здесь детская, но это впечатляет меня куда сильнее, чем когда компьютер производит сложные вычисления, для которых не требуется большой интеллектуальный потенциал. То, что делают дети, требует сочетания множества разных знаний, и когда я вижу машину, которая на это способна, я прихожу в восторг».
Несмотря на то, что Минский всегда увлекался робототехникой, он давно пришёл к заключению, что разработка подвижного робота не оправдает затрат и усилий, потраченных на его создание. «Я считал, что для это понадобится множество побочных исследований, так как мы не в полной мере понимаем, как работает человеческий глаз, руки и так далее», — вспоминает Минский. — Но мои друзья в Стэндфордском НИИ вопреки моему совету решили сделать подвижного робота».
В 1962 году бывший сокурсник Минского Генри Эрнст создал первого управляемого компьютером робота. Он представлял собой механическую руку с плечом, локтевым суставом и механизмом захвата, что напоминало руку, которую используют для работы с радиоактивными веществами. Рука работала на нескольких моторах и присоединялась к стене, а управлять ей можно было с помощью компьютера. Область исследования для робота состояла из ящика и кубиков, разложенных на столе. На кончиках механизма захвата были установлены фотоэлементы. Рука опускалась прямо к поверхности стола, и когда фотоэлементы чувствовали тень от руки, программа останавливала её движение. После этого рука начинала движение в сторону до тех пор, пока не соприкасалась с кубиком или коробкой. Рука отличала их по размеру, если объект был больше трёх дюймов, то программа понимала, что это коробка. Рука была способна найти все кубики и сложить их в коробку. «За этим было жутковато наблюдать», — вспоминает Минский. «Программа опережала своё время, но тогда мы её недооценивали. Если происходило что–то неожиданное, устройство начинало выполнять другую часть программы. То есть если бы вы переместили коробку в центр стола, программе бы это не помешало. Она бы просто снова стала её искать. Тоже самое и с кубиками. Если бы вы положили на стол мячик программа попыталась бы проверить, не кубик ли это. Так вышло, что Стенли Кубрик во время съёмок «2001 год: Космическая Одиссея» попросил меня посетить съёмочную площадку и посмотреть, есть ли среди предметов какие–то нереальные. Я тогда сделал набросок, демонстрирующий как механические руки могут работать в космическом отсеке. При просмотре фильма меня поразило, что им удалось сделать механические руки лучше, чем это получилось у нас. В фильме они открывали шлюзовую дверь космического корабля. Позже я узнал, что они, на самом деле, не были механическими: с обратной стороны дверью управлял человек».
В середине 60–х Минский с Пейпертом начали работать над проблемой видения. В результате вместе с группы хакеров они создали программу способную видеть. В качестве оборудования Минский использовал телекамеры. Минский узнал, что самая оптически точная камера была изобретена в начале 30–х Филом Фарнсуортом, одним из пионеров электронного телевидения. Минскому удалось заполучить такую камеру, но она выдавала размытое изображение. Тогда он позвонил компании–производителю, где ему сказали, что лучше всего будет лично связаться с Фарнсуортом, который там всё ещё работал. Фарнсуорт по телефону сразу же сказал, как устранить неисправность. Минский подсоединил камеру к компьютеру PDP–6. Камера закреплялась на руке, чтобы распознавать увиденные объекты. Механизм состоял из 14 гидравлических цилиндров, которые выполняли функцию, подобную мышцам. У неё было подвижное плечо, три локтевых сустава и запястье. Она была чуть толще человеческой руки. Когда все баги были устранены и машину запустили, рука начала размахивать из стороны в сторону, пока не попала в поле зрения камеры. «Машина держала руку перед глазом и немного двигала ей, чтобы понять, является ли та её частью», — сказал Минский. Глазу нужно было определить своё положение в системе координат руки. Несмотря на все трудности им удалось сделать так, что бы рука поймала мяч, хотя им пришлось присоединить к ней бумажный рожок, чтобы мячик не вываливался. Рука пыталась хватать людей, так что в итоге и пришлось соорудить ограждение вокруг неё.
Проект оказался намного сложнее, чем можно было представить. В первую очередь, камера фокусировалась на тенях от предметов, а не на самих предметах. Когда Минский и его коллеги с этим разобрались, они обнаружили, что когда на объекте присутствовали блестящие предметы, робот пытался захватить их отражения. Для решение этой проблемы аспирант Дэвид Вальтц разработал теорию теней и краёв, которая помогла им справиться с подобными трудностями. Они также поняли, что традиционные методы программирования не подходят. Минский и Пейперт начали разрабатывать программы, в которых отношение структурных элементов было не соподчинённым. В конце концов, они развили эти понятия в отдельной теории «Общества Разума», согласно которой интеллект — это результат взаимодействия множества небольших систем, работающих в рамках развивающейся административной структуры. Первая программа, использовавшая эти идеи, была создана Патриком Уинстоном, который в последствии сменил Минского на должности управляющего ИИ лабораторией. К 1970 году Минский и его коллеги могли показать компьютеру простую конструкцию, например, мост из кубиков, и компьютер самостоятельно мог построить копию.
Приблизительно то же самое время один из учеников Пейперта Терри Виноград разработал программу SHRDLU (название происходило из фразы ETAOIN SHRDLU, которая обозначала опечатку при наборе текста на линотипе). SHRDLU была пожалуй самой сложной программой. Мир, который Виноград создал для SHRDLU, состоял только из пустой коробки, разноцветных квадратных и прямоугольных кубиков и пирамидок. Чтобы не усложнять робототехнику Виноград решил обойтись без реальных объектов, а лишь использовать изображения трёхмерных фигур на телевизионном экране. Что было сделано для удобства оператора, а не машины PDP–10 с четвертью миллиона слотов памяти. Машина понимала задачи вроде: «Найди кубик, который больше того, что ты держишь, и положи его в коробку», или «Можешь ли ты сложить два красных прямоугольных кубика и один квадратный зелёный кубик или красную пирамидку?». Получив такой запрос «рука», отображаемая в форме простой линии на экране, выполняла задачу. Язык программирования основывался на PLANNER, разработанном Карлом Хьюитом, другим учеником Пейперта. Как говорит Минский, PLANNER в основном состоял из команд вроде: «Если на что–то нужно поставить кубик, то убедись сперва, что там для него достаточно места». Программисту не нужно было заранее знать, когда понадобится эти указания». На языке PLANNER такие команды можно было не прописывать в определённом порядке, также можно было легко добавлять новые, если они требовались. Это упрощало составление программ на нём, но при этом было чрезвычайно сложно предвидеть работу программу до её испытания. «Так сложно, — отмечает Минский, — что больше этот язык никто не использует». Но это был важный шаг на пути к современным программам. Теперь можно спросить программу, что она сделала, и попросить объяснить, почему она это сделала. Вы можете спросить программу: «Может ли пирамида опираться на кубик?» — и программа ответит вам: «Да». Можно спросить: «Может ли стол поднимать кубики?» — и она ответит: «Нет». Она способна воспринимать неоднозначности. Если вы говорили ей поднять пирамидку, а их было несколько, то программа спрашивала, какую именно вы хотите поднять. В определенной степени, SHRDLU была способна даже обучаться. Когда Виноград начал задавать вопрос: «Может ли башня…» — машина прервала его: «Извините, я не знаю значение слова «башня». Тогда он сказал ей, что «башня — это два зелёных прямоугольных кубика с пирамидой», после чего попросил её построить башню. Программа сама поняла, что пирамида должна быть наверху. Она также могла правильно отвечать на сложные вопросы вроде такого: «Самый короткий предмет в основании самой высокой пирамиды поддерживает основание чего–то зелёного?» Но как отметил Дуглас Хофштадтер, SHRDLU имеет свои ограничения. «Она не способна понимать неясный язык». Если спросить её, сколько кубиков нужно положить поверх друг друга, чтобы получилась пирамида, машина не поймёт фразу «поверх друг друга», которая понятна нам, но не обладает достаточной точностью для программы. Мы используем подобные фразы не задумываясь об их своеобразности.
Этому не учат в школах, хотя школы призваны учить детей истине.
Что даёт нам появление таких программ, как SHRDLU или, скажем, программы Раджа Редди HEARSAY, способной на ограниченной основе понимать речь? Приближают ли нас подобные программы к пониманию того, как работает наш мозг? Или же они слишком механические, чтобы предоставить нам фундаментальное понимание? Или, может, они указывают нам, что чем больше мы приближаемся к машинной версии самих нас, тем меньше мы понимаем работу созданных нами устройств? Мы очень долго обсуждали эти вопросы с Минским, а также и вопрос о том, поможет ли нам общение с машинами научится общаться друг с другом, или же наше чувство отчуждения будет усиливаться по мере того, как машины начнут выполнять всё больше функций в областях, которые мы закрепили за собой.
Что нам даст понимание интеллекта? Будет ли это понимание состоять из наблюдений за работой отдельных частей мозга? Даже если бы у нас была диаграмма с изображением всех нейронов и миллиардов связей между ними, то мы бы уставились на неё, как на песчинки в пустыне. С другой стороны, большинство из нас так воспринимает и фотографию с микроскопическим изображением компьютерного чипа. Такая фотография, в действительности, не показывает настоящие составляющие — атомы и молекулы. В чипе все разбито на функциональные единицы — память, логические схемы, которые можно понять и описать. Минский верит, что скоро работа функциональных частей мозга будет описана на понятном языке. Тем не менее, некоторые считают, что описание, каким оно ни окажется, не будет объединять все законы, как это происходит, например, в физике, когда одно или несколько уравнений могут описывать и предсказывать масштабные феномены. Будет ли конечное описание мозга похожим на описание компьютера? Нервная система живых организмов развивалась на протяжении трёх миллиардов лет эволюции, в то время как компьютерная эволюция происходит только последние сорок лет. Мы ещё не понимаем пределы возможностей компьютеров, и поэтому мы не можем быть уверены в окончательных сравнениях между компьютером и человеческим разумом.
Но как нам рассматривать машины, которые мы имеем на сегодняшний день? Минский и Пейперт видят в них огромный потенциал по изменению методов образования. Не только потому что машины хорошо справляются с арифметикой, а потому что: «Компьютер способен предоставить наиболее гибкий опыт работы для детей», — говорит Минский. С компьютером ребёнок может стать художником или архитектором. У детей появились ресурсы для решения сложных задач, которые раньше не были доступны никому. С другой стороны, работа с компьютером может научить ребёнка по–другому относиться к ошибкам — мы это называем «обнаружением багов». Нам не удалось придумать другой термин. Этому не учат в школах, хотя школы призваны учить детей истине. Для того, чтобы действительно понять устройство механизма, например, часов, нужно понять, что бы произошло, если бы у шестерёнок было бы на один зубец меньше. В таком случае часть механизма раскрутилась бы так быстро, что запустила бы цепную реакцию, которая могла бы завершиться тем, что часы разбились на части. Для понимания подобных вещей, вы должны знать, что произойдёт если вы измените привычный ход вещей — сделаете что–то, что физики делают в теории возмущения. Это мы и называем знанием багов. В школах это принято воспринимать в качестве ошибок, которые нужно избегать. Сеймур хотел организовать для детей такое рабочее пространство, где детей поощряли бы каждый раз, когда они находили вещи, которые могут пойти не так. Если обнаружить много таких вещей, можно существенно приблизится к истине. Вот что происходит с детьми, которые используют компьютеры в классной среде. В этом плане компьютеры имеют огромное значение благодаря своей гибкости».
Всё смешное представляет собой запретное, ускользнувшее от вашей внутренней цензуры.
Минский продолжил: «Мы надеемся, что когда ребёнок сделает что–то, что не будет работать, то он удивится, какой необычный результат у него получился, и спросит себя: «Какое из моих действий могло привести к подобному результату? Суть в том, что мышление — это процесс, и если в результате своего мыслительного процесса вы сделали что–то, чего делать не собирались, вы должны быть способны как–то это проанализировать и прокомментировать, а не делать какие–то оценочные суждения о себе как о человеке. В совершенствовании мышления важно попытаться обезличить своё окружение, возможно, неплохо работать с людьми, иметь какое–то к ним отношение в абстрактном глобальном плане, но относится так к себе вредно».
Последний несколько лет Минский размышляет об использовании робототехники на земле и в космосе. Он считает, что относительно небольшое количество технологических усовершенствований в робототехнике положительно повлияет на способность человеческого разума справляться с парадоксами. «Врождённые механизмы обучения созревают долго, — говорит Минский. — Например, ребёнок полностью узнаёт о пространственной перспективе когда ему около 10 лет, то есть если вы посадите перед собой за стол шестилетнего ребенка и попросите его нарисовать объекты, расположенные на столе, с точки зрения того, кто сидит напротив него, то у ребенка ничего не выйдет. Я подозреваю, что это один из многих случаев, когда вычислительная способность делать некоторые вещи может быть встроенна в нас с самого рождения, но доступ к ней открывается намного позже. Тоже самое с памятью: наибольший объем вашей памяти не доступен вам в младенческом возрасте, ведь в противном случае вы бы заполнили её детскими глупостями. Генетика вероятно устроена таким образом, чтобы давать вам больше вычислительных возможностей по мере того как вы развиваетесь. То есть необходимое оборудование уже встроено, но предоставлять его младенцу бессмысленно. Ребенок должен научится пользовать базовыми функционалом, прежде чем получать доступ к новому. Если дать ему всё сразу, то он либо сломает его, либо попросту не использует.
Однако здесь есть и обратная сторона медали, о которой я задумался лишь недавно. Мне стало любопытно, почему люди, выучившие иностранный язык в зрелом возрасте, не могут избавиться от акцента. Я придумал небольшую теорию по этому поводу. Что пытается сделать мать, когда общается со своим ребенком? Какова её цель? Я не думаю, что она пытается выучить его английскому или ещё какому языку. Её цель общения с ребенком — понять, чего он хочет, или отговорить от какой–то глупой затеи. Если бы мать могла имитировать детский язык, заговорить на языке своего ребёнка без акцента, то она, вероятно, так и поступила бы. Но она не может этого сделать. Дети могут научиться разговаривать на языке своих родителей, но не наоборот. Я подозреваю, что есть определенный ген, который вырубает этот механизм, когда человек достигает половой зрелости. Если бы его не было, родители бы осваивали язык детей и не развивались. Племя, в котором родители утратили способность имитировать язык детей, имело эволюционное преимущество, так как могло развивать свою культуру непрерывно, там общение между ребенком и родителем шло в нужном русле.
Есть ещё кое–что любопытное о детях, точнее, об их отношении к логическим парадоксам. Как–то раз я обсуждал парадокс Зенона и попросил ребенка пройти половину пути до стены, когда он это сделал, я вновь попросил преодолеть половину пути до стены, после чего я спросил его, что произойдёт если я продолжу это делать? Доберешься ли ты до стены когда–нибудь? Ребёнок ответил мне, это очень смешная шутка и начал смеяться. Мне кажется это очень значимым. Это напомнило мне о теории юмора Фрейда. Всё смешное представляет собой запретное, ускользнувшее от вашей внутренней цензуры. Такие парадоксы являются познавательным травматическим опытом. Они создают умственные колебания, которые чуть ли не болезненные. Например, попробуйте задуматься о парадоксе лжеца. Такие интеллектуальные шутки представляют такую же угрозу интеллекту, как садистские шутки — эмоциям. Ценно то, что мы способны над ними смеяться. Это позволяет нам справляться с несовместимыми с логикой вещами».
Минский заключил: «Это напоминает мне теорему Гёделя, которая утверждает, что если у вас есть непротиворечивая формальная система, то она ограничена. Цена, которую вы платите за логичность — определённая ограниченность. Вы получаете непротиворечивость, но при этом теряете возможность применять некоторые виды суждений. Но нет оснований, по которым компьютер или математик не могли бы воспользоваться противоречивой формальной системой для доказательства чего–то вроде теоремы Гёделя, или понять её так же, как Гёдель. Я не думаю, что Гёдель стал бы настаивать на том, что существует непротиворечивая формальная система, которая не допускает логических ошибок. Если я занимаюсь математической логикой, то я испытываю жуткие неудобства, работая в одной из этих логических систем с защитой „дурака“. С другой стороны, как математик, я веду семя совершенно по–разному в повседневной жизни. Я воспринимаю это как катание на коньках. Если вы живёте в добропорядочном обществе, которое не пытается наложить на всё запрет, то в местах, где лёд тонкий, для вас поставят красные флажки, которые предупреждают вас, чтобы вы были осторожнее. Когда вы занимаетесь математикой и сталкиваетесь с функцией, обладающей специфическим поведением, вы начинаете видеть красные флажки предосторожности. Когда вы сталкиваетесь с суждением, которое утверждает, что является ложным, вы начинаете нервничать. Вы говорите себе: „Я ступаю по тонкому льду“. Моё понимание математического мышления сходно с фрейдистским пониманием повседневного мышления. В нашем подсознании сидят демоны, каждый из которых чего–то боится. Сейчас я разрабатываю теорию „Общества разума“. Я считаю, что разум нужно понимать как части, которые обладают информацией о других частях. Если вы хотите чему–то научиться, то было бы неплохо знать, какая часть вашего разума хорошо обучается подобным вещам. Я не пытаюсь придумать уникальную теорию, обобщающую все остальные. Я разрабатываю теорию о том, что у разума достаточно частей, которые знают о существовании и функциях друг друга для эффективного выполнения разных задач. Я хочу разработать комплекс представлений о различных видах простых самообучающихся машин, главной задачей каждой из которых — узнать, с чем хорошо справляются другие её составляющие. В итоге я хотел бы, чтобы круг замкнулся, и разум знал, как ему самосовершенствоваться. По крайней мере, об этом я мечтаю ».
Минский, искусственный интеллект (и Фрейд) https://t.co/j3Uv95cFHu https://t.co/hsiGN67R2W