В течение ближайших тридцати лет у нас появится техническая возможность создать сверхчеловеческий интеллект. Вскоре после этого человеческая эпоха будет завершена. Вернор Виндж. The Coming Technological Singularity: How to Survive in the Post-Human Era , 1993.
Этой фразой начинается статья, роль которой в трансгуманистическом движении сложно переоценить. За прошедшее с тех пор десятилетие никто так и не опроверг основных положений - а пытались, несомненно, многие.
Первой, и пожалуй, базовой идеей является следствие из закона Мура (приблизительное удвоение количества транзисторов на новых кристаллах микропроцессоров каждые 18 месяцев): где-то между 2025 и 2035 годами вычислительная мощность отдельных компьютеров сравняется с "сырой" вычислительной мощностью человеческого мозга (порядок последней оценивается в 10 14 –10 17 операций в секунду), а затем и превзойдёт её. Конечно, закон Мура - это, на самом деле, никакой не закон, а всего лишь эмпирический вывод из наблюдаемой скорости развития технологий. Однако, если трактовать этот закон более широко (а именно, считать не количество транзисторов на кристалле, а доступные быстродействие процессоров и объёмы памяти), то окажется, что держится он значительно дольше существования интегральных схем, сменив по пути несколько технологий - электромеханические вычислители, ламповые, транзисторы... Кроме того, сам период 18 месяцев условен и с течением времени постепенно уменьшается. Таким образом, у нас есть хорошие шансы, что закон Мура продержится ещё не менее 15 лет.
Итак, давайте примем в качестве рабочей гипотезы, что возможности компьютеров в ближайшем будущем превзойдут человеческие. На этом уровне совершенно не важно, будут ли они "на самом деле" мыслить (вопрос об этом имеет не больше смысле, чем вопрос о том, могут ли подводные лодки "на самом деле" плавать), поскольку результаты их работы будут такими же, как если бы они мыслили, причём быстрее и глубже, чем люди.
Впервые за всю историю человечества мы окажемся в обществе существ, более разумных, чем мы сами. В романе "Пламя над бездной" Виндж называл их Силами (Powers). Дальше я буду для краткости буду периодически пользоваться этим термином.
Первое (и, фактически, единственное) следствие: мы не сможем полностью ни понять, ни предсказать дальнейшее развитие событий, когда "у руля" цивилизации встанут не только, не столько, а затем и исключительно не люди, а сверхинтеллекты. В этом и заключается смысл предложенного Винджем термина "Сингулярность" - условия, в которых привычные модели и представления теряют свою применимость, и начинается нечто принципиально иное.
Технологическая сингулярность - это гипотетический момент в будущем, когда технологическое развитие станет настолько стремительным, что график технического прогресса станет практически вертикальным.
Переход
Похоже, он угадал, что технологический этап развития цивилизации в общем и целом близок к своему завершению. Только вот конца истории это отнюдь не означает - скорее наоборот: окончена Предистория человечества, а настоящая-то История только-только начинается. Кирилл Еськов. Наш ответ Фукуяме , 2000.
Теперь давайте перечислим вслед за Вернором Винджем возможные пути образования сверхчеловеческого интеллекта.
- Увеличение биологических возможностей человека - генная инженерия , киборгизация и другие подходы
- Человеко-компьютерные системы - объединение сильных сторон человека и компьютера, всё более интенсивное использование информационных и коммуникационных технологий для усиления наших интеллектуальных способностей
Апофеоз
Мы не можем предсказать конкретные формы, в которых реализуется Сингулярность. Но кое-какие детали можно предсказать почти наверняка. На что это будет похоже с точки зрения Силы (молодой, ещё не очень далеко ушедшей за пределы человеческого понимания)?- Практическое субъективное бессмертие .
- Возможность быть во всех местах, куда протянута сеть.
- Огромное количество задач и проблем для исследования и решения - всё захватывающе интересно, на всё хватает времени и способностей.
- При необходимости всегда можно достроить себя,как программно, так и аппаратно(не будем забывать о нанотехнологиях ...).
- Материальное изобилие.
- Технологии, настолько близкие к идеальным, насколько это возможно.
- Чистая окружающая среда.
- Сверхчеловечески умное управление и планирование, учитывающее все побочные эффекты.
- Безопасность.
- Возможность делать только то, что хочется, и настолько, насколько хочется.
Как жить дальше
Еще только один вопрос, - сказал он, - как нам быть дальше с нашими детьми?
- Радуйтесь им, пока можете, - мягко ответил Рашаверак. - Они не надолго останутся вашими.
Артур Кларк. Конец детства, 1953.
Если вы дочитали до этого места, то, скорее всего, вы уже согласны с реальной возможностью Сингулярности. Но Сингулярность возникнет ещё не завтра. Зачем нам сейчас это знание возможного будущего? Ответ прост: цель и смысл жизни. Как показывает история, человечеству не удалось найти общее универсальное оправдание своего существования. Достижения отдельных людей, религий и философских систем не сходятся друг с другом и не способны убедить сомневающихся. Но Силы - это нечто значительно большее, чем люди. Если такая вещь, как смысл жизни, существует, и её можно обнаружить, то у Сил гораздо больше шансов добиться успеха, чем у людей. Поэтому глобальная цель нашей жизни на ближайшее время - достичь Сингулярности. Кстати, она достаточно хороша и сама по себе. Принять участие в восхождении человечества на следующую ступень развития - что может быть более масштабным, полезным и увлекательным?
В мире есть всего несколько людей, искренне верящих в приближение так называемой технологической сингулярности – момента, когда интеллектуальные машины станут умнее человека. Одним из таких людей является, например, футуролог, изобретатель и технический директор Google Рэй Курцвейл, считающий, что сингулярность – это не та вещь, которую человечество должно бояться. Но, возможно, на данный момент нет более рьяного человека, жаждущего наступления этой самой сингулярности, чем генеральный директор японской телекоммуникационной медиакорпорации SoftBank Масаёси Сон.
Взглянув на Энтони Левандовски, вы вряд ли решитесь назвать его пророком. Одетый в обычные, повседневные для Кремниевой долины джинсы и окруженный несколькими PR-агентами, а не армией последователей в длинных балахонах, знаменитый инженер, находящийся в центре громкого судебного разбирательства, вряд ли бы подходил на эту роль. Но тем не менее он им является. Или по крайней мере стремится им стать. Дело в том, что Левандовски основал первую церковь, чья религия заключается в поклонении новому Божеству в виде искусственного интеллекта.
Не так давно мы о работающем нынче в футурологе Рэе Курцвейле. Он придерживается оптимистических взглядов относительно человечества и его судьбы в ближайшие несколько десятков лет. , Курцвейл не считает, что землянам нужно побыстрее рвать когти в космос на другие планеты. Он верит в то, что мы станем бессмертными. И тут рождается много вопросов, главный из которых таков: технологическая сингулярность .
Гипотетический момент, по прошествии которого, по мнению сторонников данной концепции, технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию, предположительно следующий после создания искусственного интеллекта и самовоспроизводящихся машин, интеграции человека с вычислительными машинами, либо значительного скачкообразного увеличения возможностей человеческого мозга за счёт биотехнологий.
По некоторым прогнозам, технологическая сингулярность может наступить уже около 2030 года.
Значительные сопутствующие изменения, которые станут технически возможными с приходом технологической сингулярности, это:
-Пониженное загрязнение окружающей среды за счёт применения искусственного интеллекта в комплексе: производство + переработка отходов производства.
-Увеличенное свободное время у людей, так как большую часть физического труда будет выполнять машина, контролируемая человеком.
Идею об ускоряющемся росте научного знания впервые можно встретить в работах Ф. Энгельса. В середине XIX века он писал о том, что наука движется вперед пропорционально массе знаний, унаследованных ею от предшествующего поколения. По его мнению, со времени своего возникновения (XVI-XVII вв.) развитие наук усиливалось пропорционально квадрату расстояния (во времени) от своего исходного пункта. Близкие идеи высказывал В. И. Вернадский, писавший о непрерывном усилении темпов научного творчества. По мнению некоторых современных исследователей, имеет место «экспоненциальный закон развития науки», проявляющийся в соответствующем увеличении числа научных работников, научных организаций, публикаций и других показателей. Однако важно отметить, что экспоненциальный рост как раз не предполагает никакой сингулярности в математическом смысле этого понятия.
Близко к концепции сингулярности находятся идеи Станислава Лема о вероятной эволюции компьютеров. В наиболее предельном виде эволюция компьютеров описана в эссе «Голем XIV лекция XLIII. О себе».
Термин «сингулярность» заимствован у математиков и астрофизиков, которые используют его при описании космических чёрных дыр и в некоторых теориях начала вселенной - точка с бесконечно большой плотностью и температурой и бесконечно малым объёмом. Математическая сингулярность (особенность) - точка функции, значение в которой стремится к бесконечности, либо другие подобные «интересные» точки - особенности функции.
В данном контексте впервые термин «сингулярность» использовал в середине ХХ века Джон фон Нейман, имея в виду математическое, а не астрофизическое понимание этого слова - точку, за которой экстраполяция начинает давать бессмысленные результаты (расходиться). Об этом пишет Вернор Виндж, которому данный термин обычно приписывают. Научным обоснованием наступления сингулярности активно занимается Рэймонд Курцвейл.
Уменьшение промежутка времени между эволюционными событиями (биологическая, затем технологическая эволюция)
Курцвейл пишет, что из-за смены парадигм, тенденция экспоненциального роста наблюдается от интегральных схем до более ранних транзисторов, электронных ламп, реле, и электромеханических компьютеров.
Одними из фундаментальных открытых вопросов насчет сингулярности являются вопросы о её существовании, времени наступления и темпах роста технологических изменений. Экстраполяция некоторых тенденций показывает, что сингулярность может произойти к 2020 году; возможно, эту дату следует пересмотреть и приблизить до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдера (англ. Dani Eder) о том, что время удвоения мощности компьютеров упало до 9 месяцев к сентябрю 2002 года, - и она должна быть очень внезапной, что характерно для природы гиперэкспоненциальной кривой.
Ряд учёных (из наиболее известных российских, например - один из основоположников клиодинамики А. В. Коротаев и биолог А. В. Марков) выступают с обоснованной критикой данной концепции, утверждая, что явно выраженной точки сингулярности, с острым кризисом, не будет. Ими утверждается, что развитие идёт по S-образной (логистической) кривой, и уже с начала 1970-х годов началось торможение, то есть Мир-Система «точку сингулярности» в процессе модернизационного фазового перехода уже прошла; при этом под точкой сингулярности здесь подразумевается такая точка на графике развития, в которой скорость максимальна (середина S-образной кривой).
Технологическая сингулярность как следствие развития нанотехнологий рассматривается в отчете 2007 года Комиссии по экономической политике Конгресса США. По некоторым мнениям, придерживающихся возможности сингулярности, она должна наступить около 2030 года. Если проэкстраполировать закон Мура, окажется, что примерно в то же время вычислительная мощность компьютеров сравнится с головным мозгом человека. Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческую логику.
Кроме рассказов Вернора Винджа, сингулярность является центральной темой произведений некоторых других авторов научной фантастики. Среди них можно отметить Уильяма Гибсона, Чарльза Стросса, Карла Шрёдера, Юрия Никитина, Грега Игана, Дэвида Брина, Иэна Бэнкса, Нила Стивенсона, Тони Баллантайна, Брюса Стерлинга, Дэна Симмонса, Дэмиена Бродерика, Фредерика Брауна, Яцека Дукая, Нагару Танигава, Кори Доктороу, Питера Уоттса. Кен Маклеод в своём романе 1998 года «Подразделение Кассини» (англ. The Cassini Division) определяет сингулярность как «вознесение для нердов».
Тематика сингулярности часто встречается в киберпанковых романах. Например, рекурсивно самоулучшающийся искусственный интеллект «Зимнее Безмолвие» в романе Уильяма Гибсона «Нейромант». Опубликованный в 1994 году на сайте Kuro5hin роман «Метаморфозы Высшего Интеллекта» посвящён жизни после запущенной искусственным интеллектом сингулярности. Более антиутопичный взгляд на сингулярность в коротком рассказе Харлана Эллисона «У меня нет рта и я должен кричать» («I Have No Mouth, and I Must Scream»). Другими примерами антиутопичного взгляда являются «Акселерандо» Чарльза Стросса и продолжающаяся в настоящее время серия комиксов Уоррена Эллиса «newuniversal». «Все куклы» (англ. Puppets All) Джеймса Милна затрагивает эмоциональные и моральные проблемы Сингулярности. Проблема Контакта в эпоху технологической сингулярности обсуждается в романе Станислава Лема «Фиаско» (1986), «Ложной слепоте» Питера Уотса.
Техника вошла в нашу жизнь очень давно, и важность её несомненна. Изучением феномена техники занимались многие философы, занимаются и сейчас. Мартин Хайдеггер, размышляя о современных феноменах, в частности, о феномене техники, рассматривал явления, которые не происходят сейчас. Он рассматривал возможные явления, в перспективе. Существующее положение дел Хайдеггер оценивает негативно. Анализируя технику, он показывает, что трактовка её и как нейтрального феномена, и как средства деятельности, закрывает нам возможность понять сущность техники, скрывает возможность сознательно воздействовать на неё. Хайдеггер говорит, что «худшим образом мы отдаемся во власть техники тогда, когда рассматриваем ее как нечто нейтральное; ведь такое представление о технике, ныне особенно распространенное, делает нас совершенно слепыми в отношении сущности техники». Он вводит трактовку техники как «постава» (всякая техника рассматривается как функциональный элемент поставляющего производства), показывая затем, что человек и природа сами превращаются в постав и тем самым блокирует привычное для нас убеждение, что человек стоит над техникой и природой и что техника не влияет на природу.
Негативную оценку техники Хайдеггер выражает в следующих словах: «Опасна не техника сама по себе. Нет никакого демонизма техники; но есть тайна ее существа. Существо техники как миссия раскрытия потаенности - это риск. Измененное нами значение слова “постав”, возможно, сделается нам немного ближе, если мы подумаем теперь о поставе в смысле посланности и опасности». Хайдеггер стремится показать, что техника не является чем-то внешним к бытию, а совпадает с ним. Поэтому для того, чтобы повлиять на технику в нужном направлении, нужно менять и само бытиё: «Если существо техники, постав как риск, посланный бытием есть само бытие, то технику никогда не удастся взять под контроль просто волевым усилием, будь оно позитивное и негативное. Техника, чье существо есть само бытие, никогда не даст человеку преодолеть себя. Это означало бы, что человек стал господином жизни» . Но тут же утверждает, что и без сознательных усилий человека техника не может измениться. Можно сказать, что необходимым условием осмысленного воздействия на технику является, по Хайдеггеру, работа человека над собой: человек должен вспомнить и понять свои высшие ценности, чтобы подчинить им ценности не столь высокие: комфорта, власти над природой и т.п.
Проблема, поднятая Хайдеггером, очень сложна. Её нельзя решить только техническими методами. Проблема сосуществования человека и техники волнующа и сейчас. Есть немало работ, вышедших в свет относительно недавно, затрагивающих эту тематику. Анализу одной из таких статей, перекликающейся с основными идеями Хайдеггера, изложенными выше, посвящён данный реферат.
В 1993 году на симпозиуме VISION-21, который проводился в 1993 году Центром космических исследований NASA им. Льюиса и Аэрокосмическим институтом Огайо, была представлена статья «Грядущая технологическая сингулярность: как выжить в пост-человеческую эру» (The Coming Technological Singularity: How to Survive in the Post-Human Era) . Автором доклада был математик и писатель Вернор Виндж (Vernor Vinge). В 2003 году автор дополнил эту статью некоторыми комментариями. Статья была написана более десяти лет назад, но актуальна до сих пор. Те комментарии, которые внёс автор спустя десять лет после первоначального написания, лишь дополняют первоначальную статью.
Основываясь на переводе этой статьи с комментариями и на некоторых других источниках, в этом реферате я хотел бы уделить внимание следующим вопросам: что такое «технологическая сингулярность», как она может повлиять на человечество, как человечество может повлиять на неё, имеет ли смысл уделять ей какое-либо внимание, относиться к ней как к религии или как к научной (псевдо-научной) теории.
Что такое Сингулярность?
Термин сингулярность (лат. singularis – отдельный, особый) заимствован у астрофизиков, которые используют его при описании космических черных дыр и, в некоторых теориях, начала вселенной – точки с бесконечно большими массой и температурой и нулевым объемом. Математически сингулярность – точка функции, значение функции в которой стремится к бесконечности, либо другие подобные "интересные" точки. Какое же отношение может иметь понятие сингулярности к технологии?
Одной из особенностей XX века является ускорение технического прогресса. Человечество стоит на грани перемен, которые сравнимы с появлением разумного человека на земле. Главная причина этих перемен в том, что совершенствование и развитие техники приводит к тому, что техника становится всё более изощрённой и «умной». Всё это ведёт к созданию сущности с интеллектом, превышающим человеческий. Видится несколько путей, по которым наука может достичь такого прорыва:
1. Компьютеры обретут "сознание", и возникнет сверхчеловеческий интеллект. (В настоящее время нет единого мнения о том, сумеем ли мы создать машину, равную человеку, однако, если это получится, несомненно, вскоре затем можно будет сконструировать еще более разумные существа).
2. Крупные компьютерные сети (и их объединенные пользователи) могут "осознать себя" как сверхчеловечески разумные сущности.
3. Машинно-человеческий интерфейс станет настолько тесным, что интеллект пользователей можно будет обоснованно считать сверхчеловеческим.
4. Биология может обеспечить нас средствами улучшения естественного человеческого интеллекта.
Первые три возможности напрямую связаны с совершенствованием компьютерного аппаратного обеспечения. Четвёртая возможность также зависит от этого, хотя и косвенно. Прогресс аппаратного обеспечения на протяжении уже нескольких десятилетий поразительно стабилен. Исходя из этой тенденции, автор статьи делает выводы, что интеллект, превосходящий человеческий, появится в течение ближайших тридцати лет. На этот счёт, конечно же, можно легко найти остроумную критику. Чарльз Плат, например, заметил, что энтузиасты искусственного интеллекта делают подобные утверждения уже как раз лет тридцать. Поэтому Виндж указывает более строгие временные рамки: это должно случиться между 2005 и 2030 годами. Заявление это было сделано ещё в 1993 году, а в 2004 автор, дополняя свою статью комментариями, подтвердил свою уверенность в этих сроках. Полагаю, что одним из признаков, использующихся для получения этой даты, был закон Мура, гласящий: количество транзисторов на новых кристаллах микропроцессоров удваивается каждые полтора года. Как раз между 2015–2030 годами вычислительная мощность компьютеров сравняется с мощью человеческого мозга, оцениваемой в 10 16 операций в секунду (а затем превзойдёт её) . Кроме того, далее по тексту статьи Вернон Виндж ссылается на некие кривые роста производительности. Похоже, что они имею гиперболический вид, а особая точка как раз приходится на указанный период.
Возникает вопрос: каковы будут последствия научного прорыва и появления сверхчеловеческого разума? Автор статьи даёт свой ответ на этот вопрос. Прогресс, направляемый интеллектом, превосходящим человеческий, станет значительно более стремительным. Нет оснований полагать, что прогресс не станет плодить всё более разумные сущности ускоряющимися темпами. Лучшая аналогия, которую можно здесь провести – наше эволюционное прошлое. Животные могут приспособиться и проявлять изобретательность, но скорость эволюции ограничена естественным отбором. В случае естественного отбора мир сам выступает в роли собственного симулятора. Мы, люди, обладаем способностью усваивать окружающий мир и выстраивать у себя в голове причинно-следственные связи, поэтому мы решаем многие проблемы в тысячи раз быстрее, чем механизм естественного отбора. Когда же появится возможность просчитывать эти модели с более высокими скоростями, мы войдём в режим, который отличается от нашего человеческого прошлого не менее радикально, чем мы, люди, сами отличаемся от низших животных.
Событие это девальвирует весь свод человеческих законов за ненадобностью. Возможно, это произойдёт очень быстро. Изменения будут развиваться по экспоненте без всякой надежды на восстановление контроля над ситуацией. Это событие Виндж назвал Сингулярностью (именно так, с большой буквы). «Это точка, в которой наши старые модели придётся отбросить, воцарится новая реальность. Это мир, очертания которого будут становиться всё четче, надвигаясь на современное человечество, пока эта новая реальность не заслонит собой окружающую действительность, став обыденностью. И всё же, когда мы такой точки, наконец, достигнем, это событие все равно станет великой неожиданностью и ещё большей неизвестностью». (Здесь и далее, если не указано обратное, источником цитаты является рассматриваемая статья.)
Великий учёный в области вычислительной техники Джон фон Нейман вел однажды беседу со Стэном Юламом «…о непрерывно ускоряющемся техническом прогрессе и переменах в образе жизни людей, которые создают впечатление приближения некоторой важнейшей сингулярности в истории земной расы, за которой все человеческие дела, в том виде, в каком мы их знаем, не смогут продолжаться»
В середине двадцатого столетия, в шестидесятые годы, Ирвинг Джон Гуд писал: «Определим сверхразумную машину как машину, которая способна значительно превзойти все интеллектуальные действия любого человека, как бы умён тот ни был. Поскольку способность разработать такую машину также является одним из этих интеллектуальных действий, сверхразумная машина может построить ещё более совершенные машины. За этим, несомненно, последует "интеллектуальный взрыв", и разум человека намного отстанет от искусственного. Таким образом, первая сверхразумная машина станет последним изобретением, которое выпадет на долю человека, при условии, что машина будет достаточно покорна и поведает нам, как держать ее под контролем... И вероятность того, что в двадцатом веке сверхразумная машина будет построена и станет последним изобретением, которое совершит человек, выше, чем вероятность того, что этого не случится»
Чтобы далее не спекулировать на тему искусственного интеллекта, бросаясь голословными утверждениями, необходимо сделать небольшой экскурс в проблему изучения искусственного интеллекта, а главное, проблему определения искусственного интеллекта.
Что такое искусственный интеллект
Для ответа на вопрос «Что такое искусственный интеллект», я обратился к введению к монографии Петрунина Ю.Ю. «От тайного знания к нейрокомпьютеру: Очерки по истории искусственного интеллекта». В ней представлен на редкость полный и объективный взгляд на проблему реализуемости искусственного интеллекта.
По поводу искусственного интеллекта в кругу специалистов по данному вопросу постоянно возникают споры при любом удобном случае. Главный вопрос, который при этом возникает: возможен ли искусственный интеллект? Можно ли научить машину думать? Верите ли Вы в возможность создания искусственного интеллекта? Во всех этих вопросах употребляется модальность верования, из чего можно заключить, что вопрос об искусственном интеллекте выходит за рамки научного. Патрик Уинстон, один из крупнейших авторитетов в этой области, сказал: «Относительно разума вычислительных машин… имеется много ходячих мифов» . Можно сказать, что сам термин «искусственный интеллект» означает миф, который широко проник в современное обыденное и научное сознание. В данном случае миф подразумевается не как ложность некоего представления, а как то, что это представление не может быть проверено эмпирически и рационально обосновано.
Для эмпирической проверки необходимо чёткое представление о том, что именно проверять, т.е. чёткое представление о том, что такое искусственный интеллект. Но по этому поводу А. Эндрю замечает: «По существу, последний так и не получил достаточно удовлетворительного определения. Поэтому, … в конечном счёте, нам придётся вернуться к нашему интуитивному представлению об интеллекте» .
Реферативный журнал «Abstracts in Artificial intelligence» (The Turing institute, ed. J. Ritchie) вводит следующее разделение искусственного интеллекта на проблемы:
1. Экспертные системы
2. Применение искусственного интеллекта
3. Автоматическое программирование
4. Автоматическое доказательство теорем
5. Логическое программирование
6. Обучение
7. Естественный язык
8. Поиск
9. Управление и планирование
10. Робототехника
11. Зрение и обработка изображений
12. Распознавание образов
13. Когнитивное моделирование
14. Взаимодействие человека и ЭВМ
15. Технические средства для искусственного интеллекта
Список достаточно внушительный. Задачи очень разные. Что же их объединяет?
«Если бы физики или химики взялись дать абстрактные определения своих областей знания, – подчёркивает Э. Хант, – то скорее всего не нашли бы разногласий ни среди тех, ни среди других. Вряд ли бы обнаружилось такое единодушие, если бы пришлось собрать вместе разных учёных, занимающихся искусственным интеллектом» .
Существует немало определений искусственного интеллекта. Но они все настолько различны, что кажется, будто речь идёт о разных вещах. Так, одни считают, что интеллект – это умение решать сложные задачи, другие – способность к обучению, третьи – возможность взаимодействия с внешним миром путём обобщения восприятия. Есть учёные, которые развивают теоретическую модель, в которой за осуществление интеллектуальной деятельности отвечает около 120 факторов. Из них только 50–60 известны сегодня .
Одним из кажущихся выходов из сложившейся ситуации является обращение к естественному интеллекту как к эталону. Можно было бы сказать, что машина обладает интеллектом, если то задание, которое она выполняет, потребовало бы от человека, будь человек на месте машины, интеллектуальных усилий. Хорошее утверждение? К сожалению, проверяя его, легко прийти к абсурду: при выполнении арифметических действий человек использует свой интеллект – это ни у кого не вызывает сомнений, но утверждение, что обыкновенный калькулятор обладает интеллектом не примет никто.
В 1950 году британский математик и специалист в области вычислительной техники Алан Тьюринг предложил тест, который позволяет определить, является ли испытуемое нечто думающим или нет. Суть теста состоит в следующем. Судья (человек) переписывается на естественном языке с двумя собеседниками, один из которых – человек, другой – компьютер. Если судья не может надёжно определить, кто есть кто, компьютер прошёл тест. Предполагается, что каждый из собеседников стремится, чтобы человеком признали его. Для того чтобы сделать тест простым и универсальным, переписка сводится к обмену текстовыми сообщениями. Переписка должна производиться через контролируемые промежутки времени, чтобы судья не мог делать заключения исходя из скорости ответов. Это связано с тем, что во времена Тьюринга компьютеры реагировали медленнее человека. Сейчас это правило необходимо, потому что они реагируют гораздо быстрее, чем человек. Тест был инспирирован салонной игрой, в ходе которой гости пытались угадать пол человека, находящегося в другой комнате, путём написания вопросов и чтения ответов. В оригинальной формулировке Тьюринга, человек должен был притворяться человеком противоположного пола, а тест длился 5 минут. Сейчас эти правила не считаются необходимыми и не входят в спецификацию теста.
В 1964 году крупным американским кибернетиком Дж. Вейценбаумом была создана программа «Элиза» (ELIZA), имитирующая поведение психиатра. Пациенты, с которыми беседовала эта программа, в большинстве случаев были уверены, что общаются с врачом. Тем не менее, успех этой программы никого не может заставить считать её искусственным интеллектом. Не были выполнены серьёзные условия прохождения теста – испытатели не были поставлены в известность, что они сейчас проводят испытание.
Пока что ни одна программа и близко не подошла к прохождению теста. Такие программы, как «Элиза», иногда заставляли людей верить, что они говорят с человеком, как, например, в неформальном эксперименте, названном AOLiza. Но такие «успехи» не являются прохождением теста Тьюринга. Во-первых, человек в таких беседах не имел никаких оснований считать, что он говорит с программой, в то время как в настоящем тесте Тьюринга человек активно пытается определить, с кем он беседует. Во-вторых, документированные случаи обычно относятся к таким чатам, как IRC, где многие беседы отрывочны и бессмысленны. В-третьих, многие пользователи IRC используют английский как второй или третий язык, и бессмысленный ответ программы, вероятно, спишется ими на языковый барьер. В-четвертых, многие пользователи ничего не знают об Элизе и ей подобных программах и не могут распознать совершенно нечеловеческие ошибки, которые эти программы допускают.
Против теста Тьюринга было выдвинуто несколько возражений:
1. Машина, прошедшая тест, может не быть разумной, а следовать какому-то хитрому набору правил. (Распространённое контрвозражение: откуда мы знаем, что человек не следует какому-то хитрому набору правил?)
2. Машина может быть разумной и не умея разговаривать, как человек
3. Некоторые вполне разумные люди провалят этот тест (например, маленькие дети или неграмотные)
4. Если тест Тьюринга и проверяет наличие разума, то он не проверяет сознание (consciousness) и свободу воли (intentionality), тем самым не улавливая важных различий между разумными людьми и разумными машинами.
Ежегодно производится соревнование между разговаривающими программами, и наиболее человекоподобной, по мнению судей, присуждается приз Лебнера (Loebner). Есть дополнительный приз для программы, которая, по мнению судей, пройдёт тест Тьюринга. Этот приз ещё не присуждался.
Но это ещё не всё, ситуация запутана ещё сильнее. Если компьютер будет в состоянии читать какой-либо текст и делать краткий обзор его, будет ли эта машина считаться разумной? Так может спросить учёный, занимающийся искусственным интеллектом, у критика. И критик, скорее всего, ответит с уверенностью положительно. Но если ему показать такую программу, а затем, на свою беду, позволить посмотреть на её текст, на то, как она работает, да и вообще, дать разобраться в ней как следует, то программе в интеллектуальности будет отказано. По этому поводу очень хорошо сказал П. Уинстон: «Быть интеллектуальным – значит быть загадочным. Как он [Он – это некий безличный субъект, проявивший смекалку] мог до этого дойти? – спрашиваем мы. До тех пор, пока происхождение идеи остаётся неясным, она выглядит как откровение, но как только на поверхность выходит её объяснение, мы удивляемся: “Как это я об этом не подумал, ведь это так очевидно!” Когда процесс окажется разделённым на части, изученным и понятным, похоже, что интеллект исчезает».
Понятие интеллекта кажется неуловимым. «На самом деле, дать определение, – резюмирует свои соображения П. Уинстон, – в обычном смысле этого слова, по-видимому, невозможно». А Мичи и Джонсон замечают весьма остроумно: «За неимением более точного определения машинного интеллекта его можно охарактеризовать словами: “Точного определения я дать не могу, но всегда смогу узнать, когда увижу”». Мне это определение кажется наиболее симпатичным, хотя и несколько комичным. Похоже, что ничего более чёткого и ясного всё равно не предвидится. А для данного реферата определение это подходит, на мой взгляд, очень хорошо.
В заключение этого небольшого экскурса в проблему искусственного интеллекта, хочу отметить, что слова «искусственный интеллект», «механический мозг», «машинный разум» употребляются сейчас очень часто, из-за этого мы не замечаем парадоксальность этих словосочетаний. Действительно, слово «машинный» означает нечто механическое, бессознательное, непроизвольное, строго повторяющееся. «Интеллект» означает нечто оригинальное, творческое, неформализуемое, непредвидимое, неподчиняющееся никаким правилам. Получается, что в одном словосочетании слились два противоположных по смыслу понятия. «Холодное пламя», «тёмный свет» – вот примеры подобных словосочетаний. Их обычно можно встретить в поэзии, художественной литературе. Как вообще может быть осмысленным определение «искусственный интеллект», если оно, по сути, есть contradicto in adjecto (противоречие в определении)? Но развивать эту тему мы уже не будем.
Симптомы Сингулярности
Итак, в 60-е – 80-е годы двадцатого столетия осознание того, что грядёт какой-то катаклизм, росло. Вероятно, первыми почувствовали его влияние писатели фантасты. Ведь именно научной фантастике полагается предсказывать, чем обернётся та или иная технология в будущем. Если ранее воображение легко переносило на миллионы, миллиарды лет вперёд (например, «Машина времени» Герберта Уэллса), то теперь наибольшее количество прогнозов относится к ближайшему завтра. Неизвестному завтра! Писатели изобрели множество уловок для того, чтобы не связываться с разумными машинами в своём сюжете. Так или иначе их делают неопасными. Для меня наиболее обескураживающим ходом было наделение машин солипсизмом в том смысле, что они не верят в реальность окружающего мира, в события, происходящие с ними, поэтому легко подчиняются человеку.
Машинный разум до сих пор не создан. Критики машинного разума часто заявляют, что искусственным интеллектом занимаются уже очень давно, а он так и не получен. Но, вероятно, уж такова природа человека, что он любит забывать, что же он хотел получить изначально. Так, многие задачи, которые относятся к искусственному интеллекту так или иначе уже решены. Например, задача распознавания образов давно уже вышла из области чисто научных исследований. Существует несколько коммерческих продуктов, занимающихся распознаванием печатного текста (ABBYY FineReader), рукописного текста (Paragon PenReader). Эти продукты с первоначально поставленными задачами вполне справляются. Только вот люди хотят от них всё большего и большего. Хотят не 90% качества распознавания, а 95%. Когда достигается этот рубеж, они хотят 99% и так далее. И всё время недовольны! Говорят, что всё плохо и неправильно, можно распознавать лучше, человек распознаёт лучше и т.п. А ведь и люди не всякий текст могут понять. Но с пользователями не поспоришь. Вот и получается в итоге, что общество считает, что задача распознавания образов (текстов) не решена.
Есть ещё одна любопытная подробность. Когда на заре развития компьютеров попытки построения искусственного интеллекта закончились ничем, всё направление потеряло большую часть привлекательности, ассигнования сократились, энтузиасты переползли на программирование компьютерных противников в играх и пр. Казалось бы, тупик. Если бы не одно "но": иного результата тогда ожидать и не следовало. Нужно всего лишь представить себе вычислительную мощность компьютеров в лабораториях искусственного интеллекта Массачусетского технологического института в то время. Они были примерно эквивалентны мозгу насекомого. И эквивалент интеллекта насекомого был получен! Затем сокращение ассигнований на исследования ИИ не позволило обновлять компьютерный парк исследователей в темпе, адекватном возможностям технологии. И только сейчас, когда существенно большие мощности стали доступны практически каждому, следует ожидать дальнейшего прогресса.
С течением времени мы будем наблюдать все больше симптомов. Дилемма, которую прочувствовали фантасты, станет восприниматься в контексте творческих усилий иного рода. Мы станем свидетелями того, как постепенно будут автоматизироваться задачи всё более высокого уровня. Уже сейчас существуют инструменты (программы символической логики, САПР), которые освобождают нас от большинства нудной рутины. Есть и обратная сторона медали: истинно производительный труд становится уделом стабильно сокращающейся узкой элиты человечества. С пришествием Сингулярности мы увидим, как, наконец, сбываются прогнозы о настоящей техногенной безработице.
А каким же будет наступление самой Сингулярности? Что можно сказать об истинном характере этого события? Поскольку дело касается интеллектуального разгона, вероятно, это окажется самой стремительной технической революцией из всех прежде нам известных. Ожидать этого не будет никто, даже те учёные, которые вовлечены в творческий процесс. "Но ведь все наши предшествующие модели не двигались! Мы только подкрутили кое-какие настройки...",– примерно такие мысли и слова удивления, можно ожидать от них.
Через несколько месяцев после этого события наступит нечто, чему автор статьи приводит одну лишь схожую по значимости явления аналогию – возникновение человечества. Мы очутимся в постчеловеческой эре. И, несмотря на технический оптимизм, автор заявляет, что ему было бы куда комфортнее, если бы от этих сверхъестественных событий отделяла тысяча лет, а не двадцать.
Вероятно, это самое слабое место в идее того, что Искусственный Интеллект может возникнуть в том виде, что заменит Естественный. Получается, что чёткого представления о том, как вообще может произойти такой качественный скачёк от тех инструментов, которые может предоставить ИИ (см. выше задачи ИИ), к чему-то, способному к творчеству и конкуренции с человеком, у Винджа нет. Хотя, возможно, что эти соображения он не стал излагать в статье, или же я не смог их распознать. Но, тем не менее, кинематографисты и писатели тему эту не бросают. А значит, задевает она людей.
Пути к Сингулярности и от неё
Виндж не претендует на то, что Сингулярность наступит обязательно. Упоминаются популярные и признанные аргументы Пенроуза и Сёрла о непрактичности машинного разума. А в 1992 году сообщество «Мыслящих Машин» устроило мозговой штурм, целью которого было проверить тезис: «Как построить мыслящую машину» Т.е. участники не полностью разделяли доводы против машинного разума. Принималась общая договорённость, что разум может существовать не только на биологической основе, а алгоритмы являются важнейшими составляющими разума. Выделилось несколько групп, каждая придерживающаяся определённого мнения. Так было меньшинство, считавшее, что мощнейшие компьютеры 1992 года по мощности отстают на три порядка от человеческого мозга. Было большинство, соглашавшееся с подсчётами Ганса Моравеца, которые показывали, что нам потребуется десять-сорок лет и аппаратура сравняется с людьми. Было ещё одно меньшинство, считавшее, что общепринятые оценки вычислительной мощности отдельных нейронов занижены, а значит, наши современные компьютеры отстают на десять порядков от того устройства, что находится в человеческом черепе. Тогда, как говорит Виндж, возможно, мы никогда так и не доживём до Сингулярности, а вместо этого увидим, что кривые производительности нашего аппаратного обеспечения начнут сглаживаться из-за нашей неспособности автоматизировать конструкторскую работу по разработке дальнейших усовершенствований аппаратных средств. Все кончится каким-нибудь очень мощным компьютером, но без возможности двигаться вперед. Коммерческая цифровая обработка сигналов будет восхитительна, обеспечивая аналоговый выход, сравнимый с цифровыми операциями, но "сознание" не пробудится, а интеллектуальный разгон, являющий собой самую суть Сингулярности, так и начнется. Такое положение вещей, вероятно, следует рассматривать как Золотой век… и конец прогресса.
Спустя десять лет, Виндж добавил ещё один аргумент против вероятности технологической Сингулярности: даже если мы сумеем создать компьютеры с необходимой аппаратной мощью, может и не получиться организовать имеющиеся компоненты таким образом, чтобы машина обрела сверхчеловеческий разум. Просто сложность программного обеспечения возрастёт настолько, что не будет никакой возможности с ним совладать. Будут предприниматься попытки запустить все более крупные проекты по разработке ПО, но программирование не справится с задачей и мы не получим необходимых решений биологических моделей, которые могли бы помочь реализовать обучение и «эмбриональное развитие» машин. Виндж даже приводит такой контрапункт к закону Мерфи: «Максимально возможная эффективность программной системы растет пропорционально логарифму эффективности (то есть скорости, полосе пропускания, объему памяти) подлежащего программного обеспечения». И это ужасно. Это означает огромное количество программ, полезность которых мала, а количество это все растёт и растёт.
Тем не менее, если технологической Сингулярности суждено быть, то она обязательно случится. Т.е. в принципе невозможно как-то законодательно или ещё каким-либо способом запретить её. Даже если все государства мира осознают в ней угрозу и перепугаются до смерти, прогресс не остановится. Конкурентное преимущество любого достижения в средствах автоматизации является настолько непреодолимым, что запрещение подобных технологий просто гарантирует, что кто-то другой освоит их первым.
Эрик Дрекслер составил впечатляющие прогнозы развития и совершенствования технических средств. Он соглашается с тем, что появление сверхчеловеческого разума станет возможно в ближайшем будущем. Но Дрекслер утверждает, что человечество способно удерживать контроль над столь сверхчеловеческими устройствами, чтобы результаты их работы можно было оценить и надежно использовать.
Виндж, наоборот, считает, что контроль сохранить невозможно. В качестве мысленного эксперимента, он предлагает представить себя запертым в собственном доме с единственным каналом доступа информации, который ограничен некими хозяевами. Если бы хозяева мыслили со скоростью в миллион раз меньшей, чем Вы, то, несомненно, через несколько лет Вашего времени, Вы изобрели бы способ побега. Виндж называет эту быстро мыслящую форму сверхразума «слабым сверхчеловеческим». Такая сущность очень сильно ускорила бы течение времени эквивалентного человеческого ума. Что из себя будет представлять «сильное сверхчеловеческое», сказать трудно. Но различия будут разительны. И тут возникает вопрос о пользе такого разума для человека. В качестве примера, можно представить себе собаку с многократно ускорившейся работой мысли. Тысячелетний опыт собачьего мышления, что он может дать человечеству? Вообще, получается, что очень многие предположения о сверхразуме делаются исходя из модели «слабого сверхчеловеческого». Виндж же считает, что наиболее верные догадки о постсингулярном мире можно делать на предположениях об устройстве «сильного сверхчеловеческого».
Вторым подходом к решению проблемы контроля является идея создания жёстко заданных ограничений свободы действия сверхчеловеческих сущностей. Яркий пример – Законы робототехники Азимова. (Интересно, что формулировки законов запатентованы самим Азимовым, и никто кроме него не может их цитировать дословно. Интересно, для чего он это сделал?) Тем не менее, даже в рассказах Азимова была поднята основная проблема таких ограничений. Все они приводят к сужению возможностей устройств, по сравнению с устройствами без ограничений. А значит, конкуренция будет способствовать развитию менее ограниченных, а следовательно, более опасных моделей.
Последствия Сингулярности. Постчеловеческая эра
Итак, если Сингулярность нельзя предотвратить, нельзя ограничить, то какой будет постчеловеческая эра, насколько жестокой? Одно из возможных последствий – физическое вымирание человечества. Например, Эрик Дрекслер, говоря о нанотехнологиях, сказал, что со всеми подобными техническими возможностями, правительства, вероятно, решат, что простые граждане им не к чему. Однако, физическое вымирание – не самое страшное, что может случиться. Достаточно вспомнить братьев наших меньших - животных – и отношение к ним. В постчеловеческую эру найдётся достаточно ниш, где человек будет востребован, а значит, сохранён, как вид. По этому поводу Вернон Виндж переформулирует золотое метаправило: «Обращайся с братьями меньшими так, как ты хочешь, чтобы старшие братья обращались с тобой». Последствия использования этого правила, рассчитанные согласно теории игры, в каком-то смысле говорят о том, что, если бы мы могли следовать этому правилу, то это могло бы говорить о распространённости подобных добрых намерений вообще во вселенной.
Виндж напоминает, что, несмотря на то, что предотвратить Сингулярность мы не сМожем, но инициатором всё же выступает человек. А значит, в нашей власти, менять начальные условия этого неуправляемого процесса, чтобы всё происходило с минимальным для нас ущербом. Будет ли прок от предвидения и планирования? Зависит от того, будет ли переход к Сингулярности резким или тихим. Резкий переход – это тот, при котором сдвиг к сверхчеловеческому контролю произойдёт за несколько сотен часов. Спланировать такой переход трудно. Тихий переход может занять десятки лет, может быть, более века. В такой ситуации планирование возможно, можно вдумчиво экспериментировать.
Сингулярность без Искусственного Интеллекта
Чаще всего, когда говорят о существах со сверхчеловеческим разумом, то подразумевают проект по созданию искусственного интеллекта. Однако, в начале статьи, Виндж отметил и другие пути к сверхчеловеческому. Так компьютерные сети и человеко-машинные интерфейсы, хотя и кажущиеся более приземлёнными, тем не менее, могут привести к Сингулярности. Виндж называет такой противоречивый подход Усилением Интеллекта (УИ). Усиление Интеллекта протекает естественно, его не осознают даже разработчики. Однако всякий раз, когда улучшаются наши возможности доступа к информации и передачи ее другим, в каком-то смысле мы достигаем прироста по отношению к природному интеллекту. Дуэт знающего, мыслящего человека и простой рабочей станции способен, по-видимому, сдать любой письменный тест.
Вполне возможно, что УИ является наиболее легким путем к достижению сверхчеловеческого, нежели ИИ в чистом виде. В том, что касается людей, сложнейшие проблемы развития уже решены. Постепенное создание умных систем на основе имеющихся у человека способностей представляется более легким, чем выяснение истинной сути людей и затем уже постройка аналогичных им интеллектуальных машин. Предположительно, существует еще, по крайней мере, один прецедент в поддержку данной точки зрения. Кернс-Смит рассуждал о том, что биологическая жизнь вполне могла зародиться в качестве случайного дополнительного свойства более примитивных форм жизни, основывавшихся на росте кристаллов. Линн Маргулис выдвигала серьезные аргументы, доказывая, что симбиоз является могучей движущей силой эволюции.
Виндж не предлагает игнорировать работы по созданию ИИ. Он считает, что достижения в областе разработки ИИ будут находить применение в УИ, и наоборот. Автор предлагает понять, что в работах по созданию сетей и интерфейсов кроется такое же серьёзное и потенциально дикое-чуждое, как и искусственный интеллект.
1. Автоматизация человеко-машинной связки. Здесь рассматриваются проблемы, которые обычно отводятся для решения машинам (вроде задач по методу итеративного спуска - hillclimbing), и программы разработки и интерфейсы, использующие преимущество человеческой интуиции с доступным компьютерным оборудованием. Принимая во внимание причудливость задач по hillclimbing более высокого порядка (и стройных алгоритмов, придуманных для их решения), для человеческого компонента связки можно разработать чрезвычайно интересные дисплеи и средства управления.
2. Симбиоз машины и человека в искусстве. Здесь имеется в виду объединение графических возможностей современных машин и эстетической чуткости людей. Конечно, огромные усилия исследователей тратятся на разработку компьютерных средств помощи художникам. Виндж предлагает четко нацелиться на наибольшее совмещение умений, на максимально возможную кооперацию.
3. Человеко-машинные команды на шахматных турнирах. Сейчас уже есть программы, которые играют в шахматы лучше подавляющего большинства людей. Но сколько сделано, для того чтобы эту мощь мог использовать человек, с тем, чтобы добиться каких-либо еще больших успехов? Если бы таким командам разрешалось участвовать хотя бы в некоторых шахматных турнирах, это могло бы оказать такое же положительное влияние на исследования УИ, какое допуск компьютеров к шахматным соревнованиям оказывает на соответствующую нишу разработок ИИ. В последние несколько лет гроссмейстер Гарри Каспаров развил идею проведения шахматных турниров между игроками, которым помогают компьютеры ("прогрессивные шахматы").
4. Интерфейсы, которые обеспечат доступ к компьютерам и сетям без обязательной привязки человека к одному месту, за столом с монитором. Данный аспект УИ настолько успешно согласуется с известными экономическими преимуществами, что в этом направлении уже работают очень активно.
5. Более симметричные системы поддержки решения. Популярной областью исследований и разработок в последнее время стали системы поддержки решения. Это одна из форм УИ, только, возможно, слишком сфокусированная на прогностических системах. Столько же, сколько программа предоставляет информации пользователю, должно быть и руководства программой со стороны пользователя.
6. Местные сети , которые сделают усилия группы людей эффективнее работы отдельных членов. Это и есть, в принципе, понятие о groupware; смена подхода в данном вопросе заключается в представлении групповой деятельности как работы коллективного организма. В определенном смысле цель такого предложения может заключаться в изобретении "Устава" для таких комбинированных операций. Например, направление деятельности группы легче было бы поддерживать, чем посредством классических собраний. Умения отдельных индивидуумов можно будет изолировать от эгоистических устремлений, с тем, чтобы объединенные усилия разных членов группы концентрировались на общем проекте. Ну и, конечно, базы данных совместного пользования можно было бы задействовать полнее, нежели в обычных совещательных операциях.
7. Интернет представляет собой комбинированный человеко-машинный инструмент. Из всего перечисленного в данном списке прогресс в данной области идет наиболее быстрыми темпами. Сила и влияние Интернета в немалой степени недооценивают. Сама по себе анархичность развития Всемирной сети является свидетельством ее потенциала. Покуда наращиваются связность, полоса пропускания, архивные объемы и производительность компьютеров, мы наблюдаем нечто похожее на представление Линн Маргулис о биосфере, как своего рода конспекте процессора данных, только с производительностью в миллион раз большей и с миллионами разумных человеческих агентов (нас самих).
Приведенные выше примеры иллюстрируют исследование, которое можно провести в рамках современных областей компьютерной науки. Существуют и другие парадигмы. Например, многие работы по созданию искусственного интеллекта и нейросетей только выиграют от более тесной связи с биологической жизнью. Вместо того чтобы просто пытаться моделировать и воспроизводить биологическую жизнь при помощи компьютеров, исследования следует направить на создание композитных систем, полагающихся на управление со стороны биологической жизни, либо ради каких-то свойств биологической жизни, которые мы недостаточно понимаем, но все-таки стремимся воспроизвести в аппаратном обеспечении. Вековечной мечтой научной фантастики являются прямые компьютерно-мозговые интерфейсы. На практике, в этой области ведутся конкретные работы:
1. Протезирование конечностей представляет собой область прямого коммерческого приложения. Прямые нейро-кремниевые преобразователи можно создать. Это восхитительно досягаемый первый шаг к налаживанию прямой человеко-машинной связи.
2. Прямые каналы связи с мозгом кажутся вполне осуществимыми, если битрейт достаточно низок: учитывая развитую обучаемость человека, едва ли потребуется точно выбирать мишени среди нейронов живого мозга. Даже 100 бит в секунду будут чрезвычайно полезны пострадавшим от паралича, которым, в противном случае, придется оставаться в заложниках у интерфейсов, построенных на структурированных меню. Здесь можно вспомнить учёного Хоукинга, который сейчас парализован и всё его воздействие на окружающий мир сводится к движениям его единственного подвижного пальца руки.
3. Подсоединение к оптической магистрали сулит потенциал огромной пропускной способности. Однако для этого нам необходимо разобраться в тончайшем устройстве зрения, да еще потребуется вживление огромного количества электродов с необычайной точностью. Если мы хотим, чтобы широкополосное соединение прибавило еще возможностей к тем способностям по обработке данных, что уже имеются в человеческом мозге, проблема становится гораздо неподатливее. Эксперименты в этой области ведутся. Так недавно в периодических изданиях, посвящённых хайтеку, появились новости о том, что подключение цифровой камеры к зрительному нерву уже удаётся, а в продажу таки устройства поступят ориентировочно в 2008–10 годах.
4. Эксперименты с зародышами животных. Обеспечение развивающемуся мозгу доступа к сложным симулированным нейроструктурам могло бы, в конечном итоге, привести к появлению животных с дополнительными нервными связями и интересными интеллектуальными способностями. Так было сообщение о том, что пытаются получить мышь с мозгом человека. Такой заголовок очень хорошо смотрелся бы на первой странице какого-нибудь жёлтого издания, но похоже, что это действительно так. Конечно, мышь с человеческим мозгом, навряд ли сама по себе будет полезна, но вот обратное… Если удастся использовать нервные клетки животных для замены человеческих, это по меньшей мере может помочь вылечить многие недуги. Влияние таких исследований несомненно велико.
К сожалению, и на пути к Сингулярности посредством Усиления Интеллекта Виндж также не видит полной безопасности. УИ для человеческих индивидуумов создаёт довольно зловещую элиту. У нас, людей, за плечами миллионы лет эволюционного развития, которые заставляют нас представлять соперничество в мрачном свете. По большей части, эта мрачность может оказаться невостребованной в сегодняшнем мире, в котором проигравшие перенимают приемы победителей и, сплотившись, организуют выигрышные предприятия. Существо, созданное "с чистого листа", может оказаться гораздо благонамереннее, нежели тварь, взращенная по законам клыка и когтя.
Проблема заключается не просто в том, что Сингулярность представляет собой уход человечества со сцены, но в том, что она противоречит нашим сокровенным понятиям бытия. Поэтому далее Виндж рассматривает более внимательно концепцию сильного сверхчеловеческого, пытаясь прояснить причины такого положения вещей.
Сильное сверхчеловеческое и лучшее, на что могут рассчитывать люди
Если предположить, что нам, людям, удастся спланировать Сингулярность, удастся воплотить самые сумасбродные мечты. Что ж… Для не подвергшихся изменениям будет предложено мягкое обращение, возможно придание им статуса хозяев богоподобных слуг. Возможно, наступит золотой век, причём не лишённый прогресса. Бессмертие или чрезвычайно долгая жизнь станут достижимыми.
Прекрасный, добрый мир. Но философские проблемы, вздымающиеся в этом мире, становятся поистине устрашающими. Если разум замкнут в одних границах, то он, по прошествии несколько тысяч лет, будет напоминать закольцованную плёнку, нежели личность – т.е. бессмертие в таком случае ужасно. Чтобы жить неограниченно долго, сам разум должен расти. Ну и какие же родственные чувства он будет испытывать к тому, чем он являлся изначально, когда он разрастётся до огромных размеров и оглянется в прошлое?
Понятие самосознания и эго является основополагающим понятием в рационализме последних нескольких столетий. Однако самосознание, как концепция, подвергается нападкам со стороны приверженцев ИИ. УИ выбивает почву из-под концепции эго с другой стороны. Уже сейчас скорости обмена информации в общедоступных сетях достаточно велики. Постсингулярный мир предполагает наличие более мощных каналов связи. Если части эго можно будет копировать, объединять, а объём самосознания сможет увеличиваться или уменьшаться в зависимости от масштабов решаемых задач, подстраиваясь под них, что произойдёт? Звучит такое построение дико, непривычно, но это и есть существенные черты сильного сверхчеловеческого и самой Сингулярности. Именно это Виндж приводит в качестве подтверждения чуждости постчеловеческой эры, в не зависимости от того, насколько продумано, спланировано, милосердно мы к ней подойдём.
С одной стороны, картина описывает многие человеческие мечты о счастье: бесконечная жизнь, в которой мы умеем по-настоящему понимать друг друга и познаём сокровеннейшие тайны бытия. С другой стороны, это сильно напоминает худший сценарий развития событий, описанный Винджем в самом начале статьи.
Какая же точка зрения обоснована? Виндж считает, что новая эра будет настолько иной, что не сможет вписываться в классические рамки противопоставления добра и зла. Постсингулярный мир прекрасно вписывается в более значимую традицию эволюции и коллективности, зародившуюся давным-давно (может быть, еще до появления биологической жизни).
Заканчивает Вернон Виндж свою статью словами Фримена Дайсона: «Бог – это разум, переросший границы нашего понимания».
Список литературы:
Хайдеггер М. Вопрос о технике // Хайдеггер М. Время и бытие: Статьи и выступления. М., 1993. The Coming Technological Singularity: How to Survive in the Post-Human Era, http://www-rohan.sdsu.edu/faculty/vinge/misc/singularity.html Вернор Виндж, «Технологическая Сингулярность» (перевод Олег Данилов), http://www.computerra.ru/think/35636/ Ralph C. Merkle, «Energy Limits to the Computational Power of the Human Brain», http://www.merkle.com/brainLimits.html Отрывок из введения к монографии Петрунина Ю.Ю. «От тайного знания к нейрокомпьютеру: Очерки по истории искусственного интеллекта», http://exam.tomsk.ru/stasandr/whatisii.htm Уинстон П. Искусственный интеллект. М., 1980. с. 301. Эндрю А. Искусственный интеллект. М., 1985, с. 17. Хант Э. Искусственный интеллект. М., 1978, с. 11. Уинстон П. Искусственный интеллект. М., 1980. с. 300-301. Уинстон П. Искусственный интеллект. М., 1980, с. 11. Мичи Д., Джонстон Р. Компьютер-творец. М., 1987, с. 20.«Ты всего лишь машина. Только имитация жизни. Робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства?» — говорит герой фильма «Я робот», снятого по мотивам одноименного сборника рассказов Айзека Азимова, одного из самых известных писателей- фантастов 20 века. А что, если в недалеком будущем робот сумеет не только сочинить симфонию, но и совершить любое действие, на которое раньше был способен лишь человек? Что, если фантасты умело предсказали самый вероятный вариант нашего будущего? Футурологи всего мира пытаются ответить на вопрос, смогут ли те, кого создал сам человек, превзойти его в возможностях, а если смогут, то когда и что из этого выйдет?
Известный демограф Николас Эберштадт в своей лекции «Что будет с населением Земли в 2035 году?» отметил, что демографическое увеличение населения земли идет по экспоненте. Порог в 100 миллионов человек преодолевался за 1000 лет до Рождества Христова. Человечеству понадобились тысячелетия для такого демографического рывка. При этом первый миллиард появился примерно 200 лет назад, потом миллиард стал появляться каждые 100 лет, затем — каждые 50, сейчас новый миллиард появляется каждые 12-13 лет.
Это иллюстрация экспоненциального закона роста, он проявляется на разных «ветвях» развития, в том числе и на технологическом. В 1965 году основатель корпорации Intel Гордон Мур вывел логарифмический закон, согласно которому каждые полтора года компьютеры становятся в два раза «умнее». По мнению американского футуролога Рэймонда Курцвейла, если закон Мура продолжит функционировать, то уже к 2030 году компьютеры по своей производительной мощности смогут приблизиться к мозгу человека. Вероятность ускоренного развития техники и появления в какой-то момент сверхразума предполагают многие футурологи мира и называют это технологической сингулярностью .
Читайте таже
Впервые концепцию технологической сингулярности представил профессор математики и писатель-фантаст Верно Виндж на симпозиуме VISION-21 в 1993 году:
«Сингулярность — это точка, в которой наши старые модели придётся отбросить, где воцарится новая реальность.
Когда прогресс будет направляться интеллектом, превосходящим человеческий, он станет куда стремительнее. Фактически, нет оснований полагать, что прогресс не станет плодить всё более разумные сущности и всё более быстрыми темпами.
Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока. Неуправляемая цепная реакция начнет развиваться по экспоненте безо всякой надежды на восстановление контроля над ситуацией. Изменения, на которые, как считалось, потребуются «тысячи веков» (если они вообще произойдут), скорее всего, случатся в ближайшие сто лет».
Виндж видит несколько путей развития этой теории:
- Возникнет сверхчеловеческий разум вследствие развития техники;
- Повысится эффективность человеческого разума и физических характеристик при помощи ;
- Крупные компьютерные сети смогут самостоятельно идентифицировать себя как разумные сущности;
- Синтез компьютера и человека приведет к тому, что человек сам будет иметь сверхинтеллект.
Человек задумался о создании искусственного интеллекта, чтобы упростить себе жизнь и оптимизировать большую часть работы. Благодаря оптимизации компьютеры уже занимают не целые помещения, а могут запросто уместиться в ладони, и их стоимость уменьшилась в десятки раз. Роботы в наше время научились выполнять команды, убирать квартиры, мы обзавелись «умными» домами, существует даже робот-художник, способный воспроизвести любую картину. Техника стала не просто компактной и дешевой, но и обладающей интеллектом. Компьютер может распознать ваш голос и перевести информацию в байты, большинство цехов оснащено новейшими технологиями для производства новой продукции, найти какого-либо человека тоже не составляет труда при помощи системы, распознающей лица. Если вспомнить закон, который упоминался в самом начале, то можно рассчитать, что уже к 2040 году каждый из нас сможет приобрести процессор, равный по вычислительной мощности человеческому мозгу.
Продолжать этот список можно бесконечно долго, но что ждет нас, если однажды все заменят компьютерами: место учителей займут интерактивные помощники, автомобилям больше не понадобится водитель, а лучшим художником десятилетия признают робота нового образца? Все это не так далеко, как кажется: уже сейчас роботы без труда могут превосходить человека в плане эффективности и производительности. Робот не устает, не выходит в отпуск и не требует оплаты в привычном нам понимании. Лишь затраты на техническое обслуживание. Едва ли мы можем точно предсказать, что произойдет после технологической сингулярности, однако некоторые детали оценить можно и сейчас.
Рассматривая идею о создании сверхчеловеческого разума, нужно заметить, что уже сегодня производительность суперкомпьютера IBM «Watson» оценивается примерно в 80 триллионов операций в секунду. Новости о развитии и новых возможностях компьютера появляются с завидной регулярностью.
Скриншот выдачи поиска Google
IBM «Watson» способен давать ответы на вопросы, анализировать информацию и скрытые в вопросах значения, планируется использовать суперкомпьютер для помощи в диагностике и лечении рака, и хотя компьютер уступает человеку в принятии решений на ассоциативном уровне, американская компания Neuromatters и Колумбийский университет в Нью-Йорке уже заключили договор на разработку технологии, которая будет сочетать компьютерную мощность и мощность человеческого мозга для решения и этой проблемы.
Синтез человека и компьютера предрекали многие писатели-фантасты и футурологи, пытаясь заглянуть в недалекое будущее. Если говорить о киборгах, на ум сразу приходят Терминатор или Адам Дженсен из Deus Ex. Кажется, это слишком фантастично, чтобы оказаться реальностью, однако, как говорил Уильям Гибсон, «будущее уже здесь, оно просто неравномерно распределено».
Углубляемся
Еще Эдгар Алан По в своем рассказе «Человек, которого изрубили в куски» затрагивал тему аугментации, а именно наращивания имплантатов на тело для воспроизведения человека при помощи технологической мощности. В современном мире уже никого не удивить операциями по замене конечностей на автоматизированные. Но прогресс не стоит на месте, и ученые из университета Carnegie Mellon решили пойти дальше и интерфейс «умных» часов с помощью комплекта из кольца и браслета. Кольцо посылает сигнал постоянно тока в палец и теперь управлять часами можно простым касанием по своей руке.
Сооснователь компании Cyborg Nest Ливиу Бабитс заявил:
«Наша цель - помочь многим людям стать киборгами. Мы верим, что если почувствовать то, что чувствуют животные, то изменится понимание мира. Это позволит нам ступить на следующий этап эволюции».
И уже сейчас с их помощью человек может без операций присоединить к себе чип, который поможет ориентироваться в пространстве и будет вибрировать каждый раз, когда носитель будет поворачивать на север.
«Франкенштейны 21 века» существуют, и их становится все больше. Потенциальное развитие технологического процесса пытались предсказать и визуализировать создатели сериалов «Черное зеркало» и «Мир дикого запада», ведь именно сейчас эта тема актуальна как никогда. Представляя различные взгляды на мир будущего, авторы не забыли и о роботах, чья роль столь велика в наше время.
Мы живем в век, когда уже изобретены летающие машины, а роботы выполняют функции официантов. В 2009 году компания Robosoft представила автобус, способный переправлять людей по спокойным участкам дороги без помощи водителя. И хотя в опасных ситуациях водители брали управление на себя, мы не так далеки от широкого распространения такси без водителей.
Что же нас будет ждать, когда созданная нашими руками техника сможет развиваться вне зависимости от нас? И хотя футурологи сходятся во мнении, что предсказать будущее после технологической сингулярность невозможно, они уверены, что его можно предположить, как это сделал Рэй Курцвейл.
Но, кроме футурологов, этим активно пытаются заниматься современные киноделы, снимая на тему будущего человечества одну картину за другой. Большинство фильмов, показывающих нам предполагаемый сюжет ближайшего будущего, «очеловечивают» роботов, делая их чем-то похожими на людей — терминатор, трансформеры и т.д. Но едва ли у компьютера, обладающего сверхчеловеческим разумом, возникнет потребность создавать свой образ по подобию человеческого.
Научная фантастика также не осталась в стороне от этой темы. Айзек Азимов сформулировал 3 закона робототехники, один из которых гласит, что робот не может причинить вред человеку. Но будет ли так на самом деле? Большинство фантастов представляют не слишком оптимистичный взгляд на будущее человечества. Впрочем, есть и другое мнение на этот счет. Писатель Александр Никонов и футуролог Александр Жаров считают, что человек сможет вступить в симбиоз с искусственным интеллектом и развивать навыки, оставаясь при этом тем, кто контролирует свой разум и тело.
Так что же из всего этого может произойти в ближайшее время? Вероятнее всего, нас ждет массовая «чипизация», которая только начинает набирать обороты. Об этом говорили еще в 2015 году эксперты Всемирного экономического форума. Кроме всего прочего, они обсуждали возможность появления телефонов, встроенных в тело человека, в ближайшие 10 лет. Но вживлением NFC-чипов в узких кругах занимаются уже сейчас (так, например, в 2015 году московский инженер Влад Зайцев вшил себе под кожу NFC-чип карты «Тройка»). В медицине будут появляться разработки в сфере поиска «бессмертия», как биологического, так и кибернетического. Этому поспособствуют уже изобретенные технологии выращивания органов и производства искусственной крови. Несомненно, в таком будущее есть как положительные, так и отрицательные стороны. Сложно оценить все риски и сделать точные прогнозы. Однако нет смысла бояться будущего, оно неизбежно. Стоит помнить лишь о том, как сильно происходящее сегодня влияет на то, что будет завтра.
