В философии слово «сингулярность», произошедшее от латинского «singulus» - «одиночный, единичный», обозначает единичность, неповторимость чего-либо - существа, события, явления. Больше всего над этим понятием размышляли современные французские философы - в частности, Жиль Делез. Он трактовал сингулярность как событие, порождающее смысл и носящее точечный характер. «Это поворотные пункты и точки сгибов; узкие места, узлы, преддверия и центры; точки плавления, конденсации и кипения; точки слез и смеха, болезни и здоровья, надежды и уныния, точки чувствительности». Но при этом, оставаясь конкретной точкой, событие неизбежно связано с другими событиями. Поэтому точка одновременно является и линией, выражающей все варианты модификации этой точки и ее взаимосвязей со всем миром.
Когда человек создаст машину, которая будет умнее человека, история станет непредсказуемой, потому что невозможно предугадать поведение интеллекта, превосходящего человеческий
В других науках термин «сингулярность» стал обозначать единичные, особые явления, для которых перестают действовать привычные законы. Например, в математике сингулярность - это точка, в которой функция ведет себя нерегулярно - например, стремится к бесконечности или не определяется вообще. Гравитационная сингулярность - это область, где пространственно-временной континуум настолько искривлен, что превращается в бесконечность. Принято считать, что гравитационные сингулярности появляются в местах, скрытых от наблюдателей - согласно «принципу космической цензуры», предложенному в 1969 году английским ученым Роджером Пенроузом. Он формулируется так: «Природа питает отвращение к голой (т.е. видимой внешнему наблюдателю) сингулярности». В черных дырах сингулярность скрыта за так называемым горизонтом событий - воображаемой границей черной дыры, за пределы которой не вырывается ничего, даже свет.
Но ученые продолжают верить в существование где-то в космосе «голых» сингулярностей. А самый яркий пример сингулярности - состояние с бесконечно большой плотностью материи, возникающее в момент Большого взрыва. Этот момент, когда вся Вселенная была сжата в одной точке, остается для физиков загадкой - потому, что он предполагает сочетание взаимоисключающих условий, например, бесконечной плотности и бесконечной температуры.
В сфере IT ждут прихода другой сингулярности - технологической. Ученые и писатели-фантасты обозначают этим термином тот переломный момент, после которого технический прогресс ускорится и усложнится настолько, что окажется недоступным нашему пониманию. Исходно этот термин предложил американский математик и писатель-фантаст Вернор Виндж в 1993 году. Он высказал следующую идею: когда человек создаст машину, которая будет умнее человека, история станет непредсказуемой, потому что невозможно предугадать поведение интеллекта, превосходящего человеческий. Виндж предположил, что это произойдет в первой трети XXI века, где-то между 2005 и 2030 годами.
В 2000 году американский специалист по развитию искусственного интеллекта Елиезер Юдковски также высказал гипотезу о том, что, возможно, в будущем появится программа искусственного интеллекта, способная совершенствовать саму себя со скоростью, во много раз превосходящей человеческие возможности. Близость этой эры, по мнению ученого, можно определить по двум признакам: растущая техногенная безработица и экстремально быстрое распространение идей.
«Вероятно, это окажется самой стремительной технической революцией из всех прежде нам известных, - писал Юдковски. - Свалится, вероятнее всего, как снег на голову - даже вовлеченным в процесс ученым… И что же тогда случится через месяц или два (или через день-другой) после этого? Есть только одна аналогия, которую я могу провести - возникновение человечества. Мы очутимся в постчеловеческой эре. И несмотря на весь свой технический оптимизм, мне было бы куда комфортнее, если бы меня от этих сверхъестественных событий отделяли тысяча лет, а не двадцать».
Темой технологической сингулярности вдохновлялись писатели жанра «киберпанк» - например, она встречается в романе Уильяма Гибсона «Нейромант». Она показана и в популярном романе современного фантаста Дэна Симмонса «Гиперион» - там описывается мир, помимо людей, населенный Искинами - то есть, носителями искусственного интеллекта, которые вступают в конфликт с человечеством.
Как говорить
Неправильно «Это был сингулярный случай, когда механизм вышел из-под контроля». Правильно - «единичный».
Правильно «Я уверен, рано или поздно Вселенная снова схлопнется в сингулярность».
Правильно «Мне нравится этот роман - лучшее описание технологической сингулярности из всех, что я читал».
Гипотетический момент, по прошествии которого, по мнению сторонников данной концепции, технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию, предположительно следующий после создания искусственного интеллекта и самовоспроизводящихся машин, интеграции человека с вычислительными машинами, либо значительного скачкообразного увеличения возможностей человеческого мозга за счёт биотехнологий.
По некоторым прогнозам, технологическая сингулярность может наступить уже около 2030 года.
Значительные сопутствующие изменения, которые станут технически возможными с приходом технологической сингулярности, это:
-Пониженное загрязнение окружающей среды за счёт применения искусственного интеллекта в комплексе: производство + переработка отходов производства.
-Увеличенное свободное время у людей, так как большую часть физического труда будет выполнять машина, контролируемая человеком.
Идею об ускоряющемся росте научного знания впервые можно встретить в работах Ф. Энгельса. В середине XIX века он писал о том, что наука движется вперед пропорционально массе знаний, унаследованных ею от предшествующего поколения. По его мнению, со времени своего возникновения (XVI-XVII вв.) развитие наук усиливалось пропорционально квадрату расстояния (во времени) от своего исходного пункта. Близкие идеи высказывал В. И. Вернадский, писавший о непрерывном усилении темпов научного творчества. По мнению некоторых современных исследователей, имеет место «экспоненциальный закон развития науки», проявляющийся в соответствующем увеличении числа научных работников, научных организаций, публикаций и других показателей. Однако важно отметить, что экспоненциальный рост как раз не предполагает никакой сингулярности в математическом смысле этого понятия.
Близко к концепции сингулярности находятся идеи Станислава Лема о вероятной эволюции компьютеров. В наиболее предельном виде эволюция компьютеров описана в эссе «Голем XIV лекция XLIII. О себе».
Термин «сингулярность» заимствован у математиков и астрофизиков, которые используют его при описании космических чёрных дыр и в некоторых теориях начала вселенной - точка с бесконечно большой плотностью и температурой и бесконечно малым объёмом. Математическая сингулярность (особенность) - точка функции, значение в которой стремится к бесконечности, либо другие подобные «интересные» точки - особенности функции.
В данном контексте впервые термин «сингулярность» использовал в середине ХХ века Джон фон Нейман, имея в виду математическое, а не астрофизическое понимание этого слова - точку, за которой экстраполяция начинает давать бессмысленные результаты (расходиться). Об этом пишет Вернор Виндж, которому данный термин обычно приписывают. Научным обоснованием наступления сингулярности активно занимается Рэймонд Курцвейл.
Уменьшение промежутка времени между эволюционными событиями (биологическая, затем технологическая эволюция)
Курцвейл пишет, что из-за смены парадигм, тенденция экспоненциального роста наблюдается от интегральных схем до более ранних транзисторов, электронных ламп, реле, и электромеханических компьютеров.
Одними из фундаментальных открытых вопросов насчет сингулярности являются вопросы о её существовании, времени наступления и темпах роста технологических изменений. Экстраполяция некоторых тенденций показывает, что сингулярность может произойти к 2020 году; возможно, эту дату следует пересмотреть и приблизить до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдера (англ. Dani Eder) о том, что время удвоения мощности компьютеров упало до 9 месяцев к сентябрю 2002 года, - и она должна быть очень внезапной, что характерно для природы гиперэкспоненциальной кривой.
Ряд учёных (из наиболее известных российских, например - один из основоположников клиодинамики А. В. Коротаев и биолог А. В. Марков) выступают с обоснованной критикой данной концепции, утверждая, что явно выраженной точки сингулярности, с острым кризисом, не будет. Ими утверждается, что развитие идёт по S-образной (логистической) кривой, и уже с начала 1970-х годов началось торможение, то есть Мир-Система «точку сингулярности» в процессе модернизационного фазового перехода уже прошла; при этом под точкой сингулярности здесь подразумевается такая точка на графике развития, в которой скорость максимальна (середина S-образной кривой).
Технологическая сингулярность как следствие развития нанотехнологий рассматривается в отчете 2007 года Комиссии по экономической политике Конгресса США. По некоторым мнениям, придерживающихся возможности сингулярности, она должна наступить около 2030 года. Если проэкстраполировать закон Мура, окажется, что примерно в то же время вычислительная мощность компьютеров сравнится с головным мозгом человека. Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческую логику.
Кроме рассказов Вернора Винджа, сингулярность является центральной темой произведений некоторых других авторов научной фантастики. Среди них можно отметить Уильяма Гибсона, Чарльза Стросса, Карла Шрёдера, Юрия Никитина, Грега Игана, Дэвида Брина, Иэна Бэнкса, Нила Стивенсона, Тони Баллантайна, Брюса Стерлинга, Дэна Симмонса, Дэмиена Бродерика, Фредерика Брауна, Яцека Дукая, Нагару Танигава, Кори Доктороу, Питера Уоттса. Кен Маклеод в своём романе 1998 года «Подразделение Кассини» (англ. The Cassini Division) определяет сингулярность как «вознесение для нердов».
Тематика сингулярности часто встречается в киберпанковых романах. Например, рекурсивно самоулучшающийся искусственный интеллект «Зимнее Безмолвие» в романе Уильяма Гибсона «Нейромант». Опубликованный в 1994 году на сайте Kuro5hin роман «Метаморфозы Высшего Интеллекта» посвящён жизни после запущенной искусственным интеллектом сингулярности. Более антиутопичный взгляд на сингулярность в коротком рассказе Харлана Эллисона «У меня нет рта и я должен кричать» («I Have No Mouth, and I Must Scream»). Другими примерами антиутопичного взгляда являются «Акселерандо» Чарльза Стросса и продолжающаяся в настоящее время серия комиксов Уоррена Эллиса «newuniversal». «Все куклы» (англ. Puppets All) Джеймса Милна затрагивает эмоциональные и моральные проблемы Сингулярности. Проблема Контакта в эпоху технологической сингулярности обсуждается в романе Станислава Лема «Фиаско» (1986), «Ложной слепоте» Питера Уотса.
Буквально недавно только писал статью о влиянии . Тема меня немного увлекла, и я захотел еще глубже копнуть в данном направлении, и нарвался на термин .
Сначала, традиционно терминология. Технологическая сингулярность это такой момент в истории человечества, когда развитие технологий достигнет такой скорости и уровня сложности, что будет не доступна для нашего с Вами понимания.
Т.е. буквально – технологии будут развиваться в независимости от нашего с Вами знаний и участия в их создании. И это станет возможным сразу же в момент появления настоящего искусственного интеллекта.
Однако, сам по себе искусственный интеллект это еще не единственный фактор. Второй важный момент – это появление самовоспроизводящихся машин-роботов. Т.е. человек будет буквально не нужен для развития и будет выброшен в свалку истории, как неандертальцы и кроманьонцы.
Технологическая сингулярность. Пугающее будущее.
По данным самых разных ученых-исследователей в данной области, такая может наступить уже скоро, в диапазоне лет от 2030 до 2045 годов. Т.е. мы с Вами вот-вот станем свидетелями перехода человечества в другую эпоху. Не знаю как Вас – но лично меня такая перспектива откровенно пугает. И причин тому две. 
Во-первых, никто из нас не знает, как поведут себя суперкомпьютеры с искусственным интеллектом по отношению к людям. Вполне возможно, что «Скайнет» из серии фильмов о «Терминаторе» станет далеко не выдумкой. Невозможно предсказать развитие нашей цивилизации, опираясь только на опыт социального поведения, ведь теперь не человек будет доминирующей фигурой на Земле.
Во-вторых, для меня как то странна потеря контроля за технологиями и их развитием. Посмотрите – даже сейчас мы, являясь умнейшими представителями на этой планете, ведем себя крайне не разумно, развязывая войны, уничтожая целые народы и культурные наследия. А как поведут себя машины, не обремененные такими чувствами как любовь, патриотизм, сострадание, милосердие и так далее? Что если миром начнет править сугубая практичность? Есть ли место в таком мире для людей и даже для остальных животных?
С другой стороны, развитие технологий вероятнее всего подстегнет и развитие человеческих возможностей, путем интеграции микроэлектроники в тело человека (симбиоз органики и технологий). Например, это позволит излечивать сложные смертельные болезни, или будет развивать способности к мышлению, вычислительных способностей мозга и запоминанию информации, или значительно повысит возможности организма вплоть до бессмертия. Сейчас у нас нет ответов на эти вопросы.
Идея возникновения технологической сингулярности основывается на законе Мура, в котором утверждается, и на текущий момент она полностью подтверждается, что каждые восемнадцать месяцев происходит удвоение вычислительных транзисторов в компьютерах. И скоро их мощность достигнет уровня возможностей человеческого мозга: 10 в 17 степени операций в секунду. 
Любопытно, что упоминание об ускоряющемся темпе роста знаний встречается в работах аж у Фридриха Энгельса.
Последствия.
Идет просчет различных сценариев последствия технологической сингулярности . И как обычно, ученые разделились на два лагеря. Одни его страстно ждут и считают, что эти последствия будут только положительными. Другие сильно опасаются и стараются предупредить людей об опасности. Но, при этом все понимают, что прогресс уже не остановить, и рано или поздно мы достигнем точки технологической сингулярности, что, безусловно, станет поворотной точкой в развитии человечества. А вот хорошей или плохой – покажет время.
Нужно понимать, что инициатором возникновения сингулярности является именно человек. И, по идее, мы могли бы подготовиться к переходу к постсингулярному миру, сделав его более позитивным, плавным и контролируемым. А сделать это можно лишь основываясь на законах нравственности, осознав возможные последствия и приложив немало ресурсов.
Интересно, кто из Вас ждет с нетерпением этого события и почему? Какие мысли у Вас по этому поводу – делитесь в комментариях.
P.S: Все сказанное тут – сугубо мое личное мнение. Нагнетать страхи не планировал, и не имею такого желания.
Футуристический термин «технологическая сингулярность» все активнее входит в нашу жизнь. По самым пессимистическим прогнозам ученых и различных экспертов, не позднее 2030-го года это понятие станет частью нашей реальности. Так что же означает это загадочное словосочетание? Многочисленными современными энциклопедиями технологическая сингулярность трактуется как гипотетический момент, когда технический прогресс приобретет такую скорость и сложность, которая окажется недоступной человеческому пониманию.
Проще говоря, искусственный интеллект достигнет такого уровня развития, при котором человек может оказаться лишним, а то и опасным конкурентом «умных» электронных созданий. Уже не одно десятилетие футурологи и писатели-фантасты пугают нас возможным «бунтом машин». Но только относительно недавно эту гипотетическую проблему стали всерьез обсуждать в научных кругах.
Впервые термин «technological singularity» прозвучал в статье математика и писателя Вернона Винджа, представленной в 1993-м году на симпозиуме, который проводился NASA совместно с Аэрокосмическим институтом Вскоре события, предсказанные ученым и сравнимые, по его мнению, с самим появлением человека на планете, начали сбываться.
Первое проявление такого ключевого и эпохального события, как технологическая сингулярность, не заставило себя долго ждать. Переломным моментом в человеческом развитии и сознании людей стал 1997-й год. В мае того года, сконструированный специалистами из IBM, полуторатонный электронный «монстр» Deep Blue, оснащенный 250-ю процессорами, в упорном и напряженном шахматном поединке одержал победу над доселе не знавшим поражений чемпионом мира Гарри Каспаровым. В этот момент стало понятно, что мир уже никогда не будет прежним…
Ход этого поединка, пожалуй, самого весомого противостояния в истории человеческой цивилизации, заслуживает особого внимания. Первую партию гроссмейстер выиграл без всяких проблем. В начале второй Каспаров, пытаясь заманить своего электронного противника в хитроумную ловушку, пожертвовал двумя пешками.
Deep Blue на этот раз размышлял (если это можно так назвать) непривычно долго - почти четверть часа. Хотя до этого на принятие решений тратил не более трех минут. И только когда нависла реальная угроза оказаться в цейтноте, машина сделала ответный ход. Результат оказался безрадостен для человеческого разума. Машина не приняла жертву, она выиграла партию…
Следующие три завершились ничьей. Зато последнюю партию компьютер выиграл в блестящем стиле, не оставив человеку ни малейших шансов. В ней Deep Blue просто разгромил великого гроссмейстера. Так, человечество узнало о новом поколении электронных машин, интеллект которых превосходит человеческий. И которые имеют просто потрясающую обучаемость.
Современные машины пошли еще дальше. Нейрофизиологи утверждают, что вычислительная способность составляет около ста триллионов операций в секунду. Объем сознательной памяти обычного человека равен всего двум с половиной гигабайтам. А рабочим быстродействием нынешних суперкомпьютеров является скорость в 115 триллионов. Насчет объема запоминающего устройства можно и не распространяться. При этом они не знают усталости, плохого самочувствия, сомнений, колебаний, прочих человеческих слабостей. Поэтому футурологи считают, что технологическая сингулярность неизбежна.
Конечно, современные биотехнологии вполне способны обеспечить человечество средствами улучшения естественных интеллектуальных способностей. Что приведет к появлению такого явления, как сингулярность сознания. В этом случае человек рискует превратиться в часть машинно-человеческого интерфейса. И тогда предсказать дальнейшее развитие нашей цивилизации, опираясь на принципы социологии и привычные поведенческие нормы, будет уже невозможно. Ситуация просто выйдет из-под человеческого контроля в традиционном его понимании.
В течение ближайших тридцати лет у нас появится техническая возможность создать сверхчеловеческий интеллект. Вскоре после этого человеческая эпоха будет завершена. Вернор Виндж. The Coming Technological Singularity: How to Survive in the Post-Human Era , 1993.
Этой фразой начинается статья, роль которой в трансгуманистическом движении сложно переоценить. За прошедшее с тех пор десятилетие никто так и не опроверг основных положений - а пытались, несомненно, многие.
Первой, и пожалуй, базовой идеей является следствие из закона Мура (приблизительное удвоение количества транзисторов на новых кристаллах микропроцессоров каждые 18 месяцев): где-то между 2025 и 2035 годами вычислительная мощность отдельных компьютеров сравняется с "сырой" вычислительной мощностью человеческого мозга (порядок последней оценивается в 10 14 –10 17 операций в секунду), а затем и превзойдёт её. Конечно, закон Мура - это, на самом деле, никакой не закон, а всего лишь эмпирический вывод из наблюдаемой скорости развития технологий. Однако, если трактовать этот закон более широко (а именно, считать не количество транзисторов на кристалле, а доступные быстродействие процессоров и объёмы памяти), то окажется, что держится он значительно дольше существования интегральных схем, сменив по пути несколько технологий - электромеханические вычислители, ламповые, транзисторы... Кроме того, сам период 18 месяцев условен и с течением времени постепенно уменьшается. Таким образом, у нас есть хорошие шансы, что закон Мура продержится ещё не менее 15 лет.
Итак, давайте примем в качестве рабочей гипотезы, что возможности компьютеров в ближайшем будущем превзойдут человеческие. На этом уровне совершенно не важно, будут ли они "на самом деле" мыслить (вопрос об этом имеет не больше смысле, чем вопрос о том, могут ли подводные лодки "на самом деле" плавать), поскольку результаты их работы будут такими же, как если бы они мыслили, причём быстрее и глубже, чем люди.
Впервые за всю историю человечества мы окажемся в обществе существ, более разумных, чем мы сами. В романе "Пламя над бездной" Виндж называл их Силами (Powers). Дальше я буду для краткости буду периодически пользоваться этим термином.
Первое (и, фактически, единственное) следствие: мы не сможем полностью ни понять, ни предсказать дальнейшее развитие событий, когда "у руля" цивилизации встанут не только, не столько, а затем и исключительно не люди, а сверхинтеллекты. В этом и заключается смысл предложенного Винджем термина "Сингулярность" - условия, в которых привычные модели и представления теряют свою применимость, и начинается нечто принципиально иное.
Технологическая сингулярность - это гипотетический момент в будущем, когда технологическое развитие станет настолько стремительным, что график технического прогресса станет практически вертикальным.
Переход
Похоже, он угадал, что технологический этап развития цивилизации в общем и целом близок к своему завершению. Только вот конца истории это отнюдь не означает - скорее наоборот: окончена Предистория человечества, а настоящая-то История только-только начинается. Кирилл Еськов. Наш ответ Фукуяме , 2000.
Теперь давайте перечислим вслед за Вернором Винджем возможные пути образования сверхчеловеческого интеллекта.
- Увеличение биологических возможностей человека - генная инженерия , киборгизация и другие подходы
- Человеко-компьютерные системы - объединение сильных сторон человека и компьютера, всё более интенсивное использование информационных и коммуникационных технологий для усиления наших интеллектуальных способностей
Апофеоз
Мы не можем предсказать конкретные формы, в которых реализуется Сингулярность. Но кое-какие детали можно предсказать почти наверняка. На что это будет похоже с точки зрения Силы (молодой, ещё не очень далеко ушедшей за пределы человеческого понимания)?- Практическое субъективное бессмертие .
- Возможность быть во всех местах, куда протянута сеть.
- Огромное количество задач и проблем для исследования и решения - всё захватывающе интересно, на всё хватает времени и способностей.
- При необходимости всегда можно достроить себя,как программно, так и аппаратно(не будем забывать о нанотехнологиях ...).
- Материальное изобилие.
- Технологии, настолько близкие к идеальным, насколько это возможно.
- Чистая окружающая среда.
- Сверхчеловечески умное управление и планирование, учитывающее все побочные эффекты.
- Безопасность.
- Возможность делать только то, что хочется, и настолько, насколько хочется.
Как жить дальше
Еще только один вопрос, - сказал он, - как нам быть дальше с нашими детьми?
- Радуйтесь им, пока можете, - мягко ответил Рашаверак. - Они не надолго останутся вашими.
Артур Кларк. Конец детства, 1953.
Если вы дочитали до этого места, то, скорее всего, вы уже согласны с реальной возможностью Сингулярности. Но Сингулярность возникнет ещё не завтра. Зачем нам сейчас это знание возможного будущего? Ответ прост: цель и смысл жизни. Как показывает история, человечеству не удалось найти общее универсальное оправдание своего существования. Достижения отдельных людей, религий и философских систем не сходятся друг с другом и не способны убедить сомневающихся. Но Силы - это нечто значительно большее, чем люди. Если такая вещь, как смысл жизни, существует, и её можно обнаружить, то у Сил гораздо больше шансов добиться успеха, чем у людей. Поэтому глобальная цель нашей жизни на ближайшее время - достичь Сингулярности. Кстати, она достаточно хороша и сама по себе. Принять участие в восхождении человечества на следующую ступень развития - что может быть более масштабным, полезным и увлекательным?
