Джефф Хокинс – один из самых известных предпринимателей и разработчиков компьютеров в Силиконовой долине. Основав в свое время компании Palm Computing и Handspring, Джефф сейчас работает ведущим инженером в компании PalmOne. Кроме того, с целью исследования проблем интеллекта и памяти он создал Редвудский институт нейрологии. Д. Хокинс – действительный член Национальной инженерной академии и ученого совета Cold Spring Harbor Laboratory. Проживает в Северной Калифорнии.
Сандра Блейксли вот уже более тридцати лет занимается подготовкой научных и медицинских публикаций для газеты New York Times. Она также является одним из авторов книги Phantoms in the brain и вместе с Джудит Уоллерстайн пишет популярные книги о психологии и браке. Живет в Санта-Фе, Нью Мехико.
Когда меня спрашивают: «Чем вы зарабатываете на жизнь?», я всегда затрудняюсь ответить. Если честно, то практически ничем. Но мне повезло, потому что я сформировал очень работоспособную команду. Разумеется, мне приходится руководить ими и порой задавать направление их деятельности. Но своим успехом я прежде всего обязан упорному труду и интеллекту моих коллег.
В жизни мне представилась счастливая возможность общаться со многими исследователями, которые меня чему-то научили, все они внесли свою лепту в создание этой книги. Всем им выражаю искреннюю благодарность. Брюно Ольшозен, который работает в Редвудском институте нейрологии (РИН) и Калифорнийском университете, – это настоящая ходячая энциклопедия по нейробиологии. Он постоянно пополняет и углубляет мои познания в данной области. Билл Софски (РИН) был первым, кто обратил мое внимание на уменьшение времени прохождения сигналов в иерархической структуре коры головного мозга и на особенности тонких дендритов. Рик Грейнджер из Калифорнийского университета поднял тему запоминания последовательностей и того, какова роль таламуса в этом процессе. Боб Найт (Калифорнийский университет, г. Беркли) и Кристоф Кох (Калифорнийский технологический институт) сыграли большую роль в становлении Редвудского института нейрологии, а также участвовали в обсуждении многих других вопросов научного характера. Всем сотрудникам РИН я благодарен за конструктивную критику в адрес моих высказываний; многие мой идеи родились в ходе наших заседаний и встреч в РИН. Спасибо всем вам.
Донна Дубински и Эд Коллиган на протяжении более чем десяти лет были моими партнерами по бизнесу. Благодаря их самоотверженной работе и помощи я смог заниматься предпринимательством, параллельно изучая головной мозг, что является довольно-таки сложной задачей. Донна всегда отмечала, что ее роль состоит в поддержке нашего бизнеса, а моя – в разработке теории мозга. Без Донны и Эда я никогда не достиг бы успеха.
Среди людей, также причастных к созданию книги Об интеллекте, я хочу отметить многих моих коллег. Джим Левин, мой представитель, поверил в идею этого труда еще до того, как я начал работу над ним. (Тем, у кого нет такого представителя, как Джим, я не советую писать книги.) Именно Джим познакомил меня с Сандрой Блейксли, моим соавтором. Я хотел, чтобы моя книга была доступна широкому кругу читателей, и Сандра мне чрезвычайно в этом помогла. (В том, что некоторые главы оказались сложными для чтения, полностью моя вина.) Мэтью, сын Сандры, перу которого также принадлежат несколько научных работ, предложил ряд примеров, прекрасно иллюстрирующих положения, представленные в этой книге, а также был инициатором введения термина модель «Память-предсказание».
Я с удовольствием хотел бы упомянуть всех, с кем сталкивался в издательстве Henry Holt, а особенно президента Джона Стэрлинга. Я встречался с ним лично лишь однажды, и несколько раз мы общались по телефону. Тем не менее Джон подсказал мне наиболее удачную структуру книги. Он заблаговременно и чрезвычайно точно определил проблемы, с которыми я неизбежно столкнусь при изложении теории интеллекта, помог мне откорректировать стиль написания книги, а также порядок подачи материала.
Выражаю благодарность своим дочерям Энн и Кейт, которые не жаловались, что их папа много выходных дней проводил не с ними, а перед монитором компьютера. И наконец, я признателен своей жене Джанет. Быть моей женой ох как непросто. Но уверяю, Джанет, я люблю тебя больше, чем теорию мозга!
Дж. Хокинс
У меня есть два пристрастия, которые послужили источником вдохновения для написания этой книги. Из них же я черпаю смысл всей своей жизни.
Вот уже четверть века я занимаюсь вычислительной техникой. В индустрии высоких технологий я известен как основатель двух компаний – Palm Computing и Handspring. Кроме того, я участвовал в разработке архитектурных решений для карманных компьютеров PalmPilot и мобильных телефонов Trio.
Другое мое пристрастие еще более значимо, поскольку именно оно предопределило мое увлечение компьютерами. Я просто-таки помешан на изучении человеческого мозга и стремлюсь разобраться в том, как он функционирует. Причем я подхожу к проблеме с позиций не философа, а инженера, изучающего сложную конструкцию, состоящую из множества деталей. Разобравшись в том, что же такое разум и как работает человеческий мозг, я хочу создавать механизмы, действия которых основывались бы на тех же принципах, что и работа мозга. Я верю в то, что создание настоящего искусственного интеллекта не за горами.
Исследователи, как правило, либо стремятся проникнуть вглубь вещей и явлений, либо смотрят очень широко, стараясь постичь события, происходившие миллиарды лет тому назад. Но головной мозг есть у каждого человека, включая вас, мой читатель. Чтобы понять, как рождаются те или иные эмоции и чувства, почему люди воспринимают мир определенным образом, по каким причинам допускают ошибки, что побуждает их к творчеству, почему музыка или искусство бывают источником вдохновения, одним словом, чтобы понять, что означает быть человеком, нужно разобраться в том, как работает мозг. Новые открытия, касающиеся человеческого разума и работы человеческого мозга, не только сулят значительные социальные выгоды (в частности, они позволят добиться прогресса в лечении заболеваний головного мозга), но и станут основой для создания по-настоящему разумных механизмов. Эти механизмы, совсем не похожие на роботов из фантастических романов, будут сконструированы с учетом положений, раскрывающих природу самого эффективного из существующих на нашей планете биологического механизма – человеческого разума. Искусственный интеллект расширит наши знания о мире и о Вселенной и позволит нам добиться большей безопасности существования. И это будет только начало.
К счастью, мы с вами живем в эпоху, когда проблема понимания мозга близка к своему разрешению. У нынешнего поколения есть доступ к накопленному за сотни лет огромному объему информации о строении и функционировании мозга. И, хотя наука о мозге – нейрология – и сейчас не стоит на месте, целостная теория о разуме и строении мозга пока не разработана. Большинство нейробиологов, увлеченных изучением «подсистем» мозга, не утруждают себя интеграцией приобретаемых знаний. С другой стороны, ни одна из многочисленных попыток создать мыслящий компьютер не увенчалась успехом. И я уверен, что дело не сдвинется с мертвой точки до тех пор, пока исследователи и изобретатели будут игнорировать различия между мозгом и компьютером, их постигнет та же участь, что и их предшественников.
Какая составляющая разума отсутствует в компьютере? Почему двухлетний ребенок способен научиться кататься на трехколесном велосипеде, он не только уверенно ходит, но и бегает, подпрыгивает, а современные роботы передвигаются подобно громыхающим зомби? Каким образом к трем годам дитя успевает овладеть азами речи, в то время как компьютер, несмотря на полстолетия стараний лучших программистов, все еще на это не способен? Почему человек с первого взгляда – в долю секунды – отличает кота от собаки, а компьютер, даже самый совершенный, не может этого сделать вообще? На указанные вопросы по сей день не найдено ответов. У нас есть множество догадок, но сейчас мы более всего нуждаемся в том, чтобы выработать критический подход к возможным объяснениям.
Идеальная карьера. Настолько успешная, что ее с лихвой хватило бы не одному человеку, а целому совету директоров. Однако Джеффу этого мало - сейчас он работает над созданием совершенно новой компьютерной архитектуры- по образу и подобию человеческого мозга.
Идеальная карьера. Настолько успешная, что ее с лихвой хватило бы не одному человеку, а целому совету директоров. Однако Джеффу этого мало - сейчас он работает над созданием совершенно новой компьютерной архитектуры- по образу и подобию человеческого мозга. Больше того. Поскольку под рукой не оказалось подходящей теории, достаточно полно описывающей принципы работы нашего серого вещества, Хокинc разработал такую теорию сам, написал о ней научно-популярную книгу "On Intelligence" и основал компанию Numenta, которая пытается воплотить идеи Джеффа в жизнь.
Джефф Хокинc (Jeff Hawkins) - удивительно талантливый и удачливый человек. В 1996 году основанная им компания Palm выпустила карманник Palm Pilot, определивший развитие индустрии на несколько лет вперед, а в 1999 году уже другая компания Хокинса - Handspring - вышла на рынок с наладонником Visor, который составил нешуточную конкуренцию КПК от Palm. Сегодня Palm и Handspring выступают единым фронтом, завоевав рынок с превосходной линейкой коммуникаторов Treo, а Джефф снова работает в Palm техническим директором (CTO).
Джефф Хокинс заинтересовался исследованием мозга в 1979 году, прочитав специальный выпуск журнала Scientific American, посвященный этой теме. Под впечатлением от прочитанного он попытался обнаружить хотя бы одну теорию, описывающую работу мозга в целом, но, к своему удивлению, сделать этого не смог, поскольку таких теорий не существовало вприроде. Все проведенные до тех пор исследования касались только определенной функции мозга или же его физиологии и строения.
Такое ненормальное положение вещей, учитывая очевидную важность изучения работы мозга, подвигло Хокинса на то, чтобы заняться этим самому. Поскольку к тому моменту он уже работал в компьютерной индустрии, интерес его носил не только научный, но и прикладной характер - Джефф хотел создавать "разумные" машины.
Однако попытки Хокинса заинтересовать исследованиями мозга своего тогдашнего работодателя (компанию Intel) или уйти в науку, поступив в МТИ, закончились ничем. Поэтому Джефф пошел "своим путем", совмещая работу в ИТ-компаниях с самообразованием, а позднее - с исследованиями волнующих его вопросов "на дому". Безуспешные попытки построить системы ИИ с помощью привычных подходов (экспертные системы, нейронные сети) только убедили его в том, что сперва нужно разобраться в механизмах работы мозга и только потом строить "разумные" машины по его подобию.
Работая вместе с другими исследователями и используя огромные массивы информации, накопленной о человеческом мозге, Хокинс пришел к выводу, что механизм работы мозга с информацией кардинально отличается от принципа работы современных компьютеров. Значительно упрощая, можно сказать, что мозг, а точнее неокортекс, который, как считает Хокинс, и является "интеллектуальной" частью мозга, - это единое запоминающее устройство, функционирование которого базируется на нескольких основных принципах:
< Неокортекс запоминает последовательности элементов, а не отдельно элементы окружающего мира. То есть, если вы слышите мелодию, вы запоминаете ее целиком, как последовательность нот. Алфавит "записан" в памяти в его нормальном последовательном порядке. Для того чтобы произнести алфавит в обратном порядке, человек мысленно возвращается обратно и проходит буквы последовательно, добираясь таким образом до нужной, а не автоматически "вытаскивает" ее из памяти;
< Неокортекс вспоминает последовательности автоассоциативно. Это свойство означает, что если мозг воспринимает часть последовательности, он автоматически вызывает из памяти ее целиком. Если вы видите часть лица знакомого человека, вы все равно его узнаёте. Если вы слышите несколько нот знакомой мелодии, вы можете угадать ее;
< Неокортекс запоминает последовательности в инвариантной форме. Это значит, что в качестве последовательности сохраняются не тонкие и точные детали, а важные соотношения между элементами. Таким образом, человек узнает мелодию, даже если она исполнена на разных инструментах или в разных тональностях. Человек узнает предметы независимо от того, под каким углом он на них смотрит;
< Неокортекс сохраняет последовательности иерархически. Это означает, что по мере того, как входящая информация обрабатывается и проходит "дальше" в мозг, память становится все менее детальной и все более абстрактной. Грубо говоря, когда человек смотрит на какой-то предмет или на другого человека, информация сначала распознается просто как часть поля зрения, затем как определенная фигура, затем как часть объекта, затем как целый объект и наконец как определенный образ, абстрактное понятие. Был проведен ряд экспериментов, которые позволили обнаружить отдельные нейроны, активизирующиеся, когда человек видит, скажем, Билла Клинтона или Хэлли Берри, причем независимо от их обличия.
Описав модель мозга как запоминающего устройства, Хокинс дополняет ее второй, ключевой частью своей теории - мозг человека настолько эффективен потому, что умеет предсказывать будущие события, основываясь на прошлом опыте, хранящемся в памяти (модель "память-предсказание"). То есть для того, чтобы произвести определенное действие, например поймать мяч, мозг не должен производить долгие вычисления - ему достаточно вспомнить, какие действия он предпринимал для этого раньше, и на этом основании предсказать полет мяча и скоординировать движения конечностей.
Теория Хокинса описана им в книге "On Intelligence" ("Об интеллекте"), вышедшей в конце 2004 года. Помимо этого книга содержит рассуждения о последствиях и возможностях, которые возникают в случае создания разумных машин; взгляды автора на природу и отличительные особенности человеческого интеллекта, а также несколько предсказаний, касающихся открытий, которые подтвердили бы гипотезу Хокинса.
О книге
В своей книге вы довольно много внимания уделили критике других подходов к созданию искусственного интеллекта (ИИ). Почему?
Много? Ну, во-первых, не могу сказать, что это отняло у меня много времени, и потом, есть люди, которые считают, что я недостаточно глубоко рассмотрел этот вопрос. В любом случае, это не критика ради критики. Просто большинство людей не имеет представления о том, сколь малого, на самом деле, добились разработчики систем ИИ. Я описал, что сделано, а что нет. Немножко истории, немножко о современном состоянии дел. Я хотел показать, что нам, мягко говоря, есть над чем поработать.
То есть это введение в историю вопроса?
В большей степени - да, это некий исторический экскурс. И многим читателям он пришелся по душе. Были даже такие, кто сказал: "Джефф, ты целиком и полностью прав. Мы действительно застряли, и нам нужны новые подходы".
А как к вашей книге отнеслись разработчики систем ИИ? Обсуждали ли они вашу книгу, и если да, то как они ее оценивают?
Обсуждали, и довольно активно. Меня даже попросили выступить с речью на ежегодной конференции разработчиков систем ИИ . Кроме того, после выхода книги я активно выступал в университетах - в основном перед теми, кто занимается исследованием работы головного мозга, но и перед разработчиками ИИ тоже.
Надо сказать, что многие, прочитав книгу, сказали: "Вот оно!" Собственно говоря, поэтому меня и пригласили на конференцию, чтобы я мог обсудить свои идеи с учеными, с теми, кто занимается этими вопросами профессионально, с восьми до пяти. И было больше позитива, чем негатива. Возможно, потому, что люди, которым не близок мой подход, решили не говорить мне об этом, не знаю.
Кстати, разработки в области квантовых компьютеров могут как-то повлиять на вашу работу?
Даже не знаю, что ответить. Я просто не очень в этом разбираюсь. Мне, правда, кажется, что им еще далеко до практических применений. И я считаю, что квантовые компьютеры для наших приложений вовсе не обязательны. Математик Роджер Пенроуз написал в своей книге "Новый ум короля", что для объяснения работы мозга требуются какие-то квантовые процессы, но он попросту ошибался. Неокортексу это совершенно не нужно. У него есть статистические методы, есть байесовские методы, но никаких квантовых алгоритмов нет. В общем, думаю, это не имеет к нам особого отношения.
Иерархическая структура модели "память-предсказание" имеет много общего с парадигмой ООП, которая тоже базируется на эксплуатации иерархических структур. Не кажется ли вам, что предложенные вами подходы уже адаптированы компьютерщиками - пусть и неявно?
Новые теории обычно стоят на плечах старых теорий. Другими словами, ничто не ново под луною. Конечно, иерархические структуры, математические описания неокортекса и даже идея предсказаний - все это не ново. Но верная теория отличается от неверной тем, что в первой те же самые - пусть уже знакомые - кусочки головоломки собраны в правильном порядке.
В основе ООП действительно лежат иерархические структуры, но поведение и взаимоотношения описанных объектов жестко задаются на этапе программирования. Мозг же устроен иначе. У нас есть иерархическая структура, состоящая из идентичных, по большому счету, объектов. Они выполняют одну и ту же функцию (в нашем случае - запоминание). Но их поведение определяется опытом, полученным системой - она ведь самообучающаяся.
Таким образом, сходство между иерархией ООП и нашей иерархической структурой скорее внешнее. При желании можно найти и другие аналогии. Например, мы активно используем математический аппарат байесовских сетей. Мы их тоже не сами придумали, но, как правило, байесовские сети лишены временной иерархии или вообще не учитывают концепцию времени. В общем, в нашей теории, наверное, нет неизвестных до нас элементов, но мы сложили их в правильном порядке и получили готовую технологию.
Вы же знаете, что я работал в Palm? После успеха PalmPilot многие говорили, что в нем нет по-настоящему новых технологических решений. И это правда. Но мы сложили кусочки верно.
Сейчас мы пытаемся то же самое проделать с новой архитектурой. Однако это невозможно без четкого понимания того, как работает мозг. И когда у нас в Numenta возникают проблемы с продвижением вперед, мы возвращаемся к биологии и смотрим, как нужно укладывать кусочки (а это не так уж просто).
Читая вашу книгу, я задумался о том, как работает мой собственный мозг, и понял, что когда речь заходит о взаимосвязи объектов друг с другом, я не столько делаю предсказания, сколько пользуюсь воспоминаниями, которые хранятся в моей памяти…
Но это тоже предсказание! По большому счету, это вопрос семантики. Хотя, конечно, момент скользкий, даже для разработчиков ИИ. Вы смотрите на это со своей колокольни, но подумайте о том, как воспринимает информацию ваш мозг. Каждый внешний сигнал, каждый сигнал от органов чувств для него уникален. Возможно, вы воспринимаете этот сигнал как нечто уже знакомое, но для мозга каждый раз это совершенно новый опыт. Да, вы запоминаете взаимосвязи, но как выбрать верную взаимосвязь, которая вам нужна? Возьмем для примера письмо на бумаге. Вам этот процесс кажется монотонным, но для мозга это всякий раз новое переживание. Вы ведете руку, ожидая, что за пером останется след, и не воспринимаете это ожидание как предсказание, однако для мозга все обстоит иначе. Вы знаете, что так бывает всегда. Но мозг в этом отнюдь не уверен.
В седьмой главе вы говорите, что одно из главных отличий человека от других млекопитающих - наличие языка как средства передачи информации. Но как же быть тогда, скажем, с дельфинами (которых вы, кстати, тоже в книге упоминаете) - ведь у них есть своя довольно сложная система речевой коммуникации.
Верно, есть. Но по сложности она и близко не стоит к человеческому языку. Конечно, у многих развитых видов млекопитающих есть речевые системы, но в определенном смысле они очень примитивны. Я упомянул в книге дельфинов, потому что считаю, что их мозг практически так же сложен, как и человеческий. Дельфины понимают свой мир так же хорошо, как мы, люди, свой. У них прекрасная память на "лица", они хорошо запоминают маршруты, хорошо обучаются и т. п. Но между мозгом человека и других млекопитающих есть существенная биологическая разница, которая оказывает заметное влияние на наше поведение. В человеческом неокортексе гораздо сильнее развиты области, связанные с моторной сенсорикой, - это физиологический факт. Поэтому тот же дельфин, прекрасно ориентирующийся в своем мире, не способен на такую вариативность поведения, как мы с вами. Кое-что дельфины, конечно, могут, но не очень много.
Например, они поют, но у дельфиньих песен больше общего с трелями певчих птиц, нежели с человеческой музыкой, потому что эти песни не генерируются каждый раз заново неокортексом, за них у дельфинов отвечают другие, более древние части мозга. Дельфины могут петь друг другу, но это не то же самое, что мы считаем речью.
Животные в отличие от человека рождаются с неким врожденным знанием "языка", но их "язык" очень ограничен. Зато мы умеем передавать друг другу полученные от мира знания с помощью языка. Вот мы с вами сейчас находимся в тысячах километрах друг от друга, говорим на разных языках, но я могу рассказать вам о своих идеях, и вы меня поймете.
Вы сделали в книге несколько предсказаний. С момента ее публикации прошел год. Что-то уже подтвердилось или, может быть, вы в чем-то ошиблись?
Вы сами сказали, что прошел лишь год - совсем небольшой срок для исследований в этой области. На эксперименты здесь обычно требуется три-четыре года.
Знакомые ученые держат меня в курсе происходящего. В основном научные находки не вступают в противоречие с моей теорией, хотя я не сказал бы, что они как-то подтверждают мои предсказания или вообще являются экспериментальной проверкой моих предположений. На это просто нужно больше времени.
Вы не разочарованы отсутствием новостей?
О нет, я же знал, во что ввязываюсь. Я неплохо понимаю, как устроена наука, я знаком со многими учеными и не могу сказать, что происходит что-то неожиданное. На проверку моих предположений ученым нужны годы, так что удивляться нечему - я с самого начала знал, что так будет. Академические исследования - особенно когда дело касается такой сложной области, как изучение человеческого мозга, - это, прежде всего, кропотливый и неторопливый труд. Так что я не разочарован. Наоборот - я приятно удивлен тем, как моя теория принята научным сообществом.
Об институте
Давайте поговорим о другом вашем детище, Редвудском нейроинституте (RNI). Он был образован в августе 2002 года, верно?
(Неуверенно.) - Думаю, да. Дело в том, что работать над его образованием мы начали немного раньше, поэтому с моей точки зрения он был образован в феврале.
Если можно, в двух словах, чего добился RNI за это время?
Недавно институт вошел в состав университета Беркли, поэтому я уже не занимаюсь им напрямую. Но широкой общественности он известен в основном благодаря моей книге - из-за оборотов типа "когда я был в Редвуде", "и тут в Редвуде" и т. п.
Уникальность RNI в том, что это единственное научное заведение, работающее только над изучением новой коры головного мозга, неокортекса. За его недолгую историю у нас побывали почти все ведущие исследователи в этой области. Причем зачастую инициатива исходила именно от них - "могу ли я приехать?", "я бы хотел посетить…", "было бы интересно пообщаться" и т. д. Потому что в RNI совершенно особенная атмосфера. Он очень маленький - на постоянной основе у нас работает 15–20 человек, и буквально каждую неделю приезжают гости. В общем, главное достижение института в том, что он заслужил уважение научного сообщества.
Я вам больше скажу. Так как с лета прошлого года RNI входит в состав Беркли, то многие из тех, кто прочел мою книгу и заинтересовался этими исследованиями, решили поступать именно в Беркли, ведь оттуда и до RNI недалеко. Так что у института очень неплохие шансы и дальше оставаться влиятельным исследовательским центром.
Не кажется ли вам, что вхождение RNI в состав Беркли может замедлить работу над вашей теорией из-за сопротивления академических кругов?
Посмотрим. Хотя я бы не сказал, что работы RNI и, в частности, моя теория выходят за рамки академической науки. Одно время я немного волновался по этому поводу, но меня довольно быстро успокоили: мол, что ты переживаешь, твоя теория - самый настоящий мэйнстрим.
Переход RNI под крыло Беркли позволил мне освободить время для работы в Numenta. И, кстати, то, что переход вообще оказался возможен, лишний раз свидетельствует о том, что научное сообщество высоко оценивает работу RNI. Мои изыскания не выходят за рамки академической науки, просто для усвоения новой теории университетами нужно время.
Собственно, поэтому и была создана Numenta. В науке все делается довольно медленно. Требуется время для того, чтобы люди ознакомились с твоей теорией, привыкли к ней, проверили ее, а потом согласились с твоей правотой. В бизнесе все происходит быстрее. Когда люди узнают, что на чем-то можно сделать деньги, они почему-то становятся более энергичными. И в Numenta мы пытаемся создать впечатляющие приложения и показать людям, что они могут зарабатывать или строить карьеру с помощью наших технологий. И, возможно, это способствует более быстрому развитию технологии, чем было бы возможно в академической среде.
О компании
Вы утверждаете, что современная компьютерная архитектура непригодна для создания разумных машин. Однако в то же время вы являетесь сторонником функционализма, и вам, по идее, должно быть все равно, как устроена машина, если на выходе она дает нужный результат. Нет ли здесь противоречия? И можно ли все же использовать современные компьютеры для построения систем ИИ?
Прошу прощения, если кого-то запутал. Я пытался сказать, что современный "компьютерный" подход к проблеме ИИ бесперспективен, это тупик. Если вы понимаете, как устроен неокортекс, то, конечно, можете эмулировать его с помощью современного железа и специального ПО. Но разработчики систем ИИ, как правило, поступают иначе. Так, говорят они, что тут у нас, компьютерное зрение? Ну давайте-ка сейчас сядем и быстренько запрограммируем это дело с помощью наших алгоритмов[Говорят, Марвин Мински когда-то обещал расправиться с системой компьютерного зрения за одно лето. Лето, как видим, несколько затянулось].
Мы в Numenta сейчас занимаемся проблемой распознавания образов. И вполне успешно. И мы используем стандартное железо, но вместо того, чтобы изобретать алгоритмы компьютерного зрения, мы построили модель запоминающего устройства коры головного мозга. Построенная нами система действительно работает, и я уже демонстрировал наши результаты в нескольких университетах.
Таким образом, за последний год в работе Numenta есть очевидный прогресс?
Более чем. Я ведь пришел к идее решения проблемы ИИ со стороны биологии. Но когда я писал книгу, у меня еще не было понимания, как это все устроено математически. Я описывал некие структуры, но ничего не говорил о том, как их воссоздать, поскольку в тот момент и сам еще не знал, как это сделать. Но после того как книга была завершена, я и сооснователь Numenta Дилип Джордж (Dileep George; www.stanford.edu/~dil) разработали соответствующие математические модели и доказали их работоспособность. А затем мы основали компанию, чтобы привлечь к нашим разработкам как можно больше людей.
Доказали их работоспособность? Можно чуть поконкретнее?
Пожалуйста. На сегодняшний день не существует ни одного алгоритма, ни одной системы, которые бы умели опознавать объекты. Вы не можете показать компьютеру картинку и "услышать" в ответ, что на ней изображено. Никто даже близко не подошел к решению этой проблемы.
Что сделали мы? На основе принципов, описанных в моей книге, и математического аппарата, который мы разработали после ее выхода, мы создали систему, научившуюся после определенной тренировки распознавать небольшие - 32х32 пиксела - изображения. Сейчас она умеет распознавать около восьмидесяти разных объектов. У этой системы пока нет практического применения - в конце концов, 32 пиксела это не очень-то много, - но любым другим способом задачу компьютерного зрения до последнего времени решить не удавалось (к тому же она довольно легко масштабируется). Люди, которые видели нашу систему в работе, вообще не могли понять, как мы это сделали.
Собственно, масштабируемость подобных решений и есть одна из задач Numenta. Мы работаем над инструментарием, который позволит создавать большие, хорошо масштабируемые практические приложения на базе технологии иерархической временной памяти (Hierarchical Temporal Memory, HTM). В центре нашего внимания находится инструментарий общего назначения, однако систему компьютерного зрения мы тоже совершенствуем, поскольку это хорошая демонстрация возможностей нашего подхода. Это не единственный тест, проведенный нами для проверки собственной правоты, но он очень эффектен и прекрасно работает.
А когда ожидаются практические приложения?
Возможно, уже в нынешнем году. Сейчас в компании около десяти человек, а работа сделана процентов на 60–70. Конечно, мы не знаем, с какими проблемами еще придется столкнуться, поэтому точную дату выхода какого-то продукта я не назову. Но уже с февраля мы начинаем работать с несколькими исследовательскими лабораториями. Примерно в то же время к работе подключатся и наши бизнес-партнеры, которые будут создавать на базе нашей технологии собственные системы. Поэтому есть надежда, что о первых результатах вы услышите еще до конца года.
Стало быть, систему распознавания образов вы оставляете за собой?
Да. Наш инструментарий очень гибок, поэтому партнеры будут применять его для решения собственных задач - например, для обработки информации или создания финансовых приложений. Мы же сосредоточимся на проблеме компьютерного зрения и еще паре направлений.
На чем сейчас работает софтверная модель, построенная в Numenta?
Изначально она написана для работы в UNIX/Linux-окружении. Что касается железа - это система с большим объемом памяти, чтобы мы могли отобразить в памяти как можно больше неокортекса. Первая версия была рассчитана на однопроцессорные конфигурации, и я даже запускал систему компьютерного зрения на своем Маке. Но очевидно, что для практических приложений нужны системы помощнее, поэтому мы разрабатываем мультипроцессорную версию. А идеальное железо в нашем представлении - это многопроцессорная стойка с серверами.
В общем, об искусственном интеллекте на мобильных устройствах можно пока не думать?
Хороший вопрос! Что касается КПК, то вряд ли в ближайшие четыре года мы увидим какие-то системы ИИ для мобильных компьютеров.
Хотя полностью исключать появление узкоспециализированных мобильных приложений тоже нельзя - удалось же нам запустить (пусть примитивную, но работающую!) систему распознавания образов на однопроцессорном Маке с весьма ограниченным, по нашим меркам, объемом ОЗУ. Да и кто, в конце концов, может предсказать будущее? Посмотрите, как быстро нарастали компьютерные мощности - кто десять лет назад мог сказать, что это произойдет?
Есть ли другие компании, работающие на этом же поле?
В общем-то нет. Конечно, с кем-то мы пересекаемся, но это несущественные пересечения. Например, наше математическое представление во многом построено на байесовских сетях. В этой области работает немало компаний, включая исследовательские лаборатории Microsoft. Однако их разработки от наших довольно далеки.
Можно сказать, что мы не знаем никого, кто понимал бы все, что понимаем мы. Так что никакой конкуренции пока не ощущается. Это слишком новое направление. Дело не столько в сложности самой теории - в ней как раз ничего сложного нет, - сколько в том, что у многих еще руки до нее не дошли. В ближайшие несколько лет, думаю, интерес к этой теории вырастет, а значит, и конкуренты появятся.
Долгосрочная цель Numenta - максимальное распространение наших технологий. Поэтому мы строим платформу общего назначения, инструментарий для создания конкретных приложений. Кроме того, мы документируем как саму технологию, так и математический аппарат, на котором она построена. И надеюсь, что через несколько лет с этой платформой будут работать тысячи людей. Мы собираемся сделать инструментарий доступным для исследователей, которые смогут брать наш код и экспериментировать с ним.
Если говорить о деньгах, то наш бизнес можно назвать продажей лицензий. Мы будем продавать наши разработки, чтобы на их основе партнеры могли создавать полезные и интересные приложения. Но главная наша задача - дальнейшее развитие самой технологии, поэтому мы стараемся сформировать сообщество людей, которые могли бы улучшить нашу платформу.
Лучше давайте вспомним, как все было устроено полвека назад. Люди начали делать первые цифровые компьютеры. Эти медлительные громадины создавались усилиями многих людей. Мы сейчас в похожей ситуации - у нас есть понимание неких общих принципов, однако нам предстоит справиться с множеством назойливых мелочей.
Рано или поздно потребуется новое железо, новые чипы памяти (наша система очень требовательна к ней). Конечно, мы можем использовать обычную компьютерную память - и вынуждены сегодня поступать именно так, - но это не самое эффективное решение. То же касается и процессоров. Поэтому нам потребуются не только ученые или программисты, но и производители микросхем.
Если вам кажется, что наша модель работы похожа на Linux, - пускай. Но я думаю, что происходящее гораздо больше напоминает создание первых компьютеров. Мы создаем новый тип компьютера - пока на том железе, что нам доступно, а со временем - на том, которые мы построим.
Разумеется, мы не смогли удержаться и спросили у Джеффа Хокинса, что он думает
о перспективах рынка КПК. По словам Джеффа, в ближайшие несколько лет рынок карманных компьютеров (и без того чувствующий себя неважно) окончательно придет в упадок. Однако никакой трагедии в этом нет, потому что закат КПК будет вызван растущей популярностью смартфонов и коммуникаторов самых разных мастей - так что пользователи не потеряют, а скорее приобретут. Ну и компании-производители, конечно, тоже не останутся внакладе. Что придет на смену смартфонам? Что будет следующим killer application в мобильной связи? Джефф говорит, что у него есть некоторые предположение, но делиться он ими пока ни с кем не собирается, потому что компания Хокинса (уже третья, после Numenta и Palm) как раз сейчас работает в этом направлении
Джеф Хокинс, Сандра Блэйксли
Об Интеллекте
Эта книга и моя жизнь наполнены двумя моими увлечениями.
В течение 25 лет я был увлечен мобильными компьютерами. В мире высоких технологий Силиконовой Долины я известен как зачинатель двух проектов - Palm Computing и Handspring, и как разработчик множества наладонных компьютеров и сотовых телефонов, таких как PalmPilot и Treo.
Но у меня есть и другое увлечение, которое предшествует моему увлечению компьютерами - и оно мне кажется более важным. Я увлечен изучением мозга. Я хочу понять, как работает мозг, не только с философской точки зрения, не только в общих чертах, а более детально. Мое желание - не только понять, что такое интеллект и как работает мозг, но и как построить машины, которые будут работать так же. Я хочу построить действительно интеллектуальную машину.
Вопрос об интеллекте - последний великий территориальный рубеж науки. Большинство важных научных вопросов затрагивают очень маленькие или очень большие масштабы, или события, происходившие миллиарды лет назад. Но мозг есть у всех. Вы - это ваш мозг. Если вы хотите понять, почему вы чувствуете, как вы осознаете мир, почему вы делаете ошибки, почему вы способны к творчеству, почему вас вдохновляет музыка и живопись, и вообще, что такое быть человеком - тогда вам нужно будет понять, что такое мозг. К тому же, успешная теория интеллекта и функций мозга будет иметь огромное общественное значение, и не только помогать лечить болезни, связанные с мозгом. Мы будем способны построить действительно интеллектуальные машины, хотя они совершенно не обязательно должны быть похожи на роботов и компьютеры из фантастических произведений. Наоборот, интеллектуальные машины будут базироваться на совершенно новых принципах о природе интеллекта. Как таковые, они помогут нам расширить наши знания о мире, помогут нам изучить вселенную, сделать мир лучше. А попутно будет создана огромная индустрия.
К счастью, мы живем в то время, когда проблема понимания интеллекта может быть решена. Наше поколение имеет доступ к горам информации о мозге, собранным за сотни лет, и скорость, с которой мы получаем новые данные, увеличивается. Только в США в области нейронаук работают тысячи ученых. У нас пока нет продуктивных теорий о том, что такое интеллект, или как работает мозг в целом. Большинство нейробиологов не задумывается о целостных теориях мозга, потому что они с головой ушли в эксперименты по сбору дополнительной информации о функционировании подсистем мозга. И хотя легионы программистов пытаются изготовить компьютерный интеллект, их попытки безуспешны. Я уверен, что их попытки останутся безуспешными до тех пор, пока они будут продолжать игнорировать разницу между компьютером и мозгом.
Чем же таким является интеллект, чего такого нет в компьютере, но есть в мозгу? Почему шестилетний ребенок может аккуратно перепрыгнуть с камня на камень через ручей, тогда как самые продвинутые роботы нашего времени - неуклюжие зомби? Почему трехлетний ребенок без проблем осваивает язык, тогда как компьютеры не могут, несмотря на полвека усилий лучших программистов? Почему вы можете отличить кошку от собаки за долю секунды, тогда как суперкомпьютер не может совсем? Это великие тайны, ожидающие ответов. У нас есть множество ключей к их разгадке; чего нам не хватает - это чуть более глубокого понимания.
Вы можете удивиться, почему разработчик компьютеров пишет книгу о мозге. Или с другой стороны, если я увлекаюсь изучением устройства мозга, почему я не сделал карьеру в нейронауке или в области ИИ? Ответ: я пытался несколько раз, но я отверг те способы изучения, которыми пользовались другие до меня. Я верю, что лучший способ решить проблему - использовать более детальную биологию мозга как ограничение и как путеводитель, но продолжая думать об интеллекте как о вычислительной проблеме - где-то между биологией и компьютерами. Многие биологи склонны отвергать или игнорировать идею рассуждать о функциях мозга в вычислительных терминах, а компьютерщики часто не верят, что им нужно знать что-то из биологии. К тому же, мир науки меньше приемлет риск, чем мир бизнеса. В технологическом бизнесе человек, преследующий новую идею с обоснованным подходом, может продвинуть свою карьеру, не смотря на то, что идея может не достигнуть успешного завершения. Многие предприниматели достигли успеха только после более ранних безуспешных попыток. Но в академических кругах несколько лет, потраченных на преследование бесплодной идеи, могут начисто разрушить вашу карьеру. Таким образом, я увлечен двумя идеями в моей жизни, веря, что успех в индустрии должен помочь мне достигнуть успеха в понимании работы мозга. Мне нужны финансы, чтоб заниматься той наукой, какой хочу, мне нужно изучать, как повлиять на мир, как продать новые идеи, до которых я дошел, работая в Силиконовой Долине.
В августе 2002 я основал исследовательский центр, Институт Нейронаук в Редвуде (RNI), занимающийся теорией мозга. В мире есть множество центров, занимающихся нейроисследованиями, но ни один из них не занимается поисками общего теоретического понимания работы неокортекса - части человеческого мозга, ответственной за интеллект. Именно это мы изучаем в RNI. По многим статьям RNI является начинающей компанией. Мы преследуем мечты, которые некоторым людям кажутся недостижимыми, но мы счастливы быть группой замечательных людей, усилия которых начинают приносить плоды.
* * *Намерения данной книги амбициозны. Она описывает всеобъемлющую теорию того, как работает мозг. В ней описывается, что такое интеллект и как он возникает в вашем мозгу. Представляемая мной теория не является полностью новой. Многие из отдельных идей, которые вы прочтете, уже существовали ранее в той или иной форме, но не согласованно друг с другом. Будьте готовы к этому. Говорят, что новые идеи - это чаще всего старые идеи, переупакованные и переинтерпретированные. Это определенно применимо к предложенной здесь теории, но упаковка и интерпретация могут создать существенное различие между кучей деталей и удовлетворительной теорией. Я надеюсь, что это произведет на вас впечатление, так же как и на других людей. Обычно я слышу такую реакцию: «Это впечатляет, я не мог и подумать об интеллекте таким образом, но после того, как вы мне это описали, я вижу, как это все укладывается вместе». С такими знаниями большинство людей начинают видеть самих себя немного по-другому. Вы начинаете наблюдать ваше собственное поведение, говоря: «я понимаю, что только что произошло в моей голове». Надеюсь, что когда вы прочтете эту книгу, у вас будет новое понимание того, почему вы думаете, что вы думаете и почему вы ведете себя именно так, а не иначе. Я также надеюсь, что некоторые читатели будут настроены на то, чтоб направить свою карьеру на построение интеллектуальных машин, основанных на принципах, изложенных на этих страницах.
Я часто ссылаюсь на эту теорию и на мой подход к изучению интеллекта как на «естественный интеллект», чтоб отличить его от «искусственного интеллекта». Специалисты в области ИИ пытаются запрограммировать компьютеры, чтоб они действовали как люди, не ответив сначала на вопрос, что такое интеллект и что означает понимание. Они оставляют в стороне наиболее важную часть в построении интеллектуальных машин - интеллект! «Естественный интеллект» указывает, что прежде чем построить интеллектуальные машины, мы должны сначала понять, как думает мозг, без чего-либо искусственного. Только потом мы можем спрашивать, как же нам построить интеллектуальные машины.
Книга начинается с рассмотрения того, почему предыдущие попытки в понимании интеллекта и построении интеллектуальных машин были безуспешными. Затем я введу и разовью коренную идею теории, которую я называю модель «память-предсказание». В главе 6 я детально покажу, как физический мозг воплощает модель «память-предсказание» - другими словами, как в действительности работает мозг. Затем мы обсудим социальные и другие следствия теории, которые для многих читателей может оказаться раздражающим разделом. Книга заканчивается обсуждением интеллектуальных машин - как мы можем их построить и на что будет похоже будущее. Я надеюсь, вы найдете это завораживающим. Вот несколько вопросов, которые мы затронем попутно:
Могут ли компьютеры быть интеллектуальными?
Десятилетия ученые в области ИИ заявляли, что компьютеры станут интеллектуальными, когда они станут достаточно мощными. Я так не думаю, и я объясню, почему. Мозг и компьютер занимаются совершенно разными вещами.
Неужели предполагается, что нейронные сети приведут к интеллектуальным машинам?
Конечно мозг - это нейронная сеть, но без понимания того, что делает мозг, простые нейронные сети будут не более успешными в создании интеллектуальных машин, чем компьютерные программы.
Почему так сложно понять, как работает мозг?
Многие ученые говорят, что мозг слишком сложен, и разобраться в нем займет у нас много времени. Я не согласен. Сложность - это всего лишь симптом неразберихи, но не причина. Я утверждаю, что у нас немного интуитивные, но неправильные предположения, которые ведут нас не туда. Вера в то, что интеллект определяется интеллектуальным поведением - это большая ошибка.
Что же такое интеллект, если он не определяется поведением?
Мозг использует громадное количество памяти, чтоб создать модель мира. Все, что вы знаете и изучили, хранится в этой модели. Мозг использует эту модель, основанную на памяти, чтоб осуществлять непрерывное предсказание будущих событий. Способность делать предсказания о будущем - основная проблема интеллекта. Я достаточно глубоко опишу способность мозга к предсказанию; это коренная идея данной книги.
Как работает мозг?
Место интеллекта - в неокортексе. Хотя у интеллекта огромное число возможностей и колоссальная гибкость, неокортекс имеет на удивление регулярную структуру. Различные части неокортекса, ответственные ли за зрение, слух, осязание или языковые способности - все работают по одним и тем же принципам. Ключ к пониманию неокортекса - понять эти общие принципы и, в особенности, их иерархическую структуру. Мы изучим неокортекс с достаточной детализацией, чтоб показать, как его структура вмещает структуру мира. Эта дискуссия будет наиболее технической частью книги, но заинтересованные неспециалисты должны ее понять.
Каковы следствия этой теории?
Эта теория мозга может помочь в объяснении многих вещей, например, почему мы способны к творчеству, почему мы осознаем наши ощущения, почему у нас бывают предубеждения, как мы обучаемся, и почему «старая собака» не способна выучить «новые трюки». Я обсужу несколько таких пунктов. В конце концов эта теория даст нам понимание того, кто мы такие и почему мы делаем то, что делаем.
Можем ли мы построить интеллектуальные машины и что они будут делать?
Да, мы можем и мы сделаем это. Ясно, что в течение нескольких десятилетий возможности таких машин стремительно возрастут и займут интересные направления. Некоторые люди боятся, что машины могут быть опасными для человечества, но я утверждаю обратное. Роботы не обгонят нас. Намного легче будет построить машины, которые превысят наши возможности в физике, математике, чем построить что-то наподобие ходячих говорящих роботов из фантастических произведений. Я исследую те невероятные направления, в которых эти технологии скорее всего пойдут.
Моя цель - объяснить эту теорию интеллекта и работы мозга таким способом, чтоб любой смог понять. Хорошая теория должна быть легкой для осмысления, не затуманенной жаргоном или скомканными рассуждениями. Я начну с базовых вещей и буду добавлять детали по ходу. Что-то будет основано только на логических рассуждениях; что-то - затронет некоторые аспекты устройства мозга. Некоторые из предложенных мною деталей определенно неверны, что нередко бывает в области науки. Уйдет много лет на то, чтоб разработать полноценную теорию, но это не уменьшает ценность коренной идеи.
* * *Когда много лет назад я начал интересоваться устройством мозга, я пошел в свою личную библиотеку в поисках хорошей книги, которая объяснила бы работу мозга. В юности я приучился доставать великолепные книги, объясняющие большинство интересующих меня вещей. Это были книги по теории относительности, про черные дыры, магию, книги по математике - все, что могло меня интересовать в данный момент. Однако, мои поиски удовлетворительной теории по работе мозга оказались безрезультатными. Я пришел к выводу, что ни у кого нет идей, как действительно работает мозг. Не было даже плохой или недоказанной теории; не было вообще никакой. Это было странно. Например, никто точно не знал, почему вымерли
Джефф Хокинс (англ. Jeff Hawkins ; 1 июня ) - основатель Palm Computing (изобретатель Palm Pilot) и Handspring (изобретатель Treo). После этих двух крайне успешных проектов он оставил работу и ушёл в нейрологию. В 2002 году основал Redwood Center for Theoretical Neuroscience (бывший Redwood Neuroscience Institute ) и опубликовал книгу «Об интеллекте », в которой описал свою теорию работы мозга на основе модели «память-предсказание». В 2003 году избран членом Национальной академии наук «for the creation of the hand-held computing paradigm and the creation of the first commercially successful example of a hand-held computing device» (за создание парадигмы Handheld PC и первую её коммерчески успешную реализацию).
Биография
Книги
- Джефф Хокинс в соавторстве с Сандрой Блейксли (2005). On intelligence , Times Books, Henry Holt and Co. ISBN 0-8050-7456-2
Напишите отзыв о статье "Хокинс, Джефф"
Ссылки
Отрывок, характеризующий Хокинс, Джефф
– Пожалу… – начал Долохов, но не мог сразу выговорить… – пожалуйте, договорил он с усилием. Пьер, едва удерживая рыдания, побежал к Долохову, и хотел уже перейти пространство, отделяющее барьеры, как Долохов крикнул: – к барьеру! – и Пьер, поняв в чем дело, остановился у своей сабли. Только 10 шагов разделяло их. Долохов опустился головой к снегу, жадно укусил снег, опять поднял голову, поправился, подобрал ноги и сел, отыскивая прочный центр тяжести. Он глотал холодный снег и сосал его; губы его дрожали, но всё улыбаясь; глаза блестели усилием и злобой последних собранных сил. Он поднял пистолет и стал целиться.– Боком, закройтесь пистолетом, – проговорил Несвицкий.
– 3ак"ойтесь! – не выдержав, крикнул даже Денисов своему противнику.
Пьер с кроткой улыбкой сожаления и раскаяния, беспомощно расставив ноги и руки, прямо своей широкой грудью стоял перед Долоховым и грустно смотрел на него. Денисов, Ростов и Несвицкий зажмурились. В одно и то же время они услыхали выстрел и злой крик Долохова.
– Мимо! – крикнул Долохов и бессильно лег на снег лицом книзу. Пьер схватился за голову и, повернувшись назад, пошел в лес, шагая целиком по снегу и вслух приговаривая непонятные слова:
– Глупо… глупо! Смерть… ложь… – твердил он морщась. Несвицкий остановил его и повез домой.
Ростов с Денисовым повезли раненого Долохова.
