Главная→Защита→ Что такое сингулярность, или почему история человечества однажды станет непредсказуемой

Что такое сингулярность, или почему история человечества однажды станет непредсказуемой

Технологическая сингулярность — момент, по прошествии которого технологический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию, за которым предположительно следуют создание искусственного интеллекта и самовоспроизводящихся машин, интеграция человека с вычислительными машинами, либо значительное скачкообразное увеличение возможностей человеческого мозга за счёт биотехнологий.По некоторым прогнозам, технологическая сингулярность может наступить уже около 2030 года. Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческое (социальное) поведение.

Одними из фундаментальных открытых вопросов насчет сингулярности являются вопросы о её существовании, времени наступления и темпах роста технологических изменений. Экстраполяция некоторых тенденций показывает, что сингулярность может произойти к 2020 году (возможно, эту дату следует пересмотреть и приблизить до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдер (Dani Eder) о том, что время удвоения мощности компьютеров упало до 9 месяцев к сентябрю 2002 года), и она должна быть очень внезапной, что характерно для природы гиперэкспоненциальной кривой.

Есть гипотеза, что явно выраженной точки сингулярности, с острым кризисом, не будет. Развитие идет по S-образной (логистической) кривой, и уже с начала 1970-х годов началось торможение. А точка «сингулярности» — это такая точка на графике развития, в которой её скорость максимальна (середина S-образной кривой).

Основоположник идей технологической сингулярности - Рэймонд Курцвейл. Он известный американский изобретатель и футуролог. В качестве изобретателя он создал многочисленные системы для распознавания речи. Как футуролог он известен научными технологическими прогнозами, учитывающими появление искусственного интеллекта и средств радикального продления жизни людей. Согласно Курцвейлу, в будущем человечество достигнет почти неограниченного материального изобилия, а люди могут стать бессмертными. Он также дал научное обоснование технологической сингулярности — феноменально быстрого научно-технического прогресса, основанного на мощном искусственном интеллекте (превосходящем человеческий) и киборгизации людей.

В 2009 году появились сообщения о создании Университета сингулярности, который будет возглавлен Курцвейлом. Сооснователями университета выступают NASA и Google. Учебное заведение будет готовить специалистов для решения глобальных проблем, с которыми уже сталкивается или может столкнуться человечество.

Основные предсказания

В 2010-е годы специальные устройства будут проецировать изображения прямо в человеческие глаза, создавая эффект виртуальной реальности (очки с эффектом 3D). Мобильные телефоны, встроенные в одежду, станут посылать звук прямо в ухо (Bluetooth). «Виртуальные ассистенты» будут помогать людям во многих повседневных делах. В частности, они смогут производить мгновенный перевод иностранной речи. Маленькие компьютеры, связанные с интернетом, будут всё теснее интегрироваться в повседневную жизнь.
По мнению Курцвейла, уже в 2014 году мощность суперкомпьютера сравняется с мощностью человеческого мозга. Компьютеры перестанут существовать, как отдельные объекты — они примут нетрадиционную форму и будут встроены в одежду и повседневные предметы. Виртуальная реальность будет вовлекать не только зрение и слух, а все органы чувств.
К 2020 году персональные компьютеры достигнут вычислительной мощности человеческого мозга. В 2020-х годах в медицинских целях начнут использовать наномашины. В частности, нанороботы смогут доставлять питание к клеткам человека и удалять их отходы. Они также произведут детальное сканирование мозга человека, позволяющее понять детали его работы. К концу десятилетия в промышленности станут широко использоваться нанотехнологии, что приведёт к значительному удешевлению производства всех продуктов. К 2029 году компьютер сможет пройти Тест Тьюринга, доказывая наличие у него разума в человеческом понимании слова. Это будет достигнуто путём компьютерной симуляции мозга человека.
В 2030-е годы наномашины будут вставляться прямо в мозг и осуществлять произвольный ввод и вывод сигналов из клеток мозга. Это приведёт к виртуальной реальности «полного погружения», которая не потребует какого-либо дополнительного оборудования.
В 2040-е годы человеческое тело сможет принимать любую форму, образуемую большим числом нанороботов. Внутренние органы будут заменены кибернетическими устройствами гораздо лучшего качества.
Курцвейл предсказывает наступление технологической сингулярности в 2045 году. В это время вся Земля начнёт превращаться в один гигантский компьютер, и постепенно этот процесс может распространиться на всю Вселенную. Природа сингулярности такова, что более конкретные прогнозы на период после 2045 года сделать затруднительно.

По некоторым прогнозам, технологическая сингулярность может наступить уже около 2030 года. Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческое (социальное) поведение.

Идею об ускоряющемся росте научного знания впервые можно встретить в работах Ф.Энгельса. В середине XIX века он писал о том, что наука движется вперед пропорционально массе знаний, унаследованных ею от предшествующего поколения. По его мнению, со времени своего возникновения (XVI-XVII вв.) развитие наук усиливалось пропорционально квадрату расстояния (во времени) от своего исходного пункта. Близкие идеи высказывал В.И.Вернадский, писавший о непрерывном усилении темпов научного творчества. По мнению современных исследователей, имеет место "экспоненциальный закон развития науки", проявляющийся в соответствующем увеличении числа научных работников, научных организаций, публикаций и других показателей.

Термин «сингулярность» заимствован у астрофизиков, которые используют его при описании космических чёрных дыр и в некоторых теориях начала вселенной — точка с бесконечно большой массой и температурой и нулевым объемом. Математически сингулярность (особенность) — точка функции, значение в которой стремится к бесконечности, либо другие подобные «интересные» точки.

В данном контексте впервые термин «сингулярность» использовал в середине ХХ века Джон фон Нейман, имея в виду математическое, а не астрофизическое понимание этого слова — точку, за которой экстраполяция начинает давать бессмысленные результаты (расходиться). Об этом пишет сам Вернор Виндж, которому данный термин обычно приписывают. Научным обоснованием наступления сингулярности активно занимается Рэймонд Курцвейл.

Одним из фундаментальных открытых вопросов насчет Сингулярности является вопрос — когда она наступит и насколько быстро произойдут технологические изменения? Экстраполяция тенденций показывают, что Сингулярность должна произойти к 2020 году (возможно эту цифру следует пересмотреть и приблизить дату до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдера (Dani Eder) о том, что время удвоения мощности компьютеров упало до 9 месяцев к сентябрю 2002 года) и она должна быть очень внезапной, что характерно для природы экспоненциальной кривой. Согласно наиболее вероятному сценарию Сингулярности примерно в районе 2011 года промышленная нанотехнология начнёт производить лавину дешевых товаров, ликвидирующих бедность и голод во всём мире. Примерно к 2012 компьютерная технология, основанная на нанотехнологии, увеличится по своей мощи на шесть порядков от того уровня, где она будет в 2010. Примерно к 2013 исследования в области молекулярной биотехнологии, основанные на нанотехнологии и компьютерной мощи, обеспечат нам средствами излечения всех телесных недугов. Примерно к 2014 исследования в области ИИ, основанные на нанотехнологии и молекулярной биотехнологии и компьютерной мощности, приведут к созданию первого сверхчеловеческого искусственного интеллекта, СИИ.

Технологическая сингулярность как следствие развития нанотехнологий рассматривается в отчете 2007 года Комиссии по экономической политике Конгресса США. В качестве даты начала сингулярности называется 2020 год. По другим прогнозам — 2030 год.

Кроме пионерских рассказов Вернора Винджа, сингулярность является центральной темой произведений некоторых других авторов научной фантастики. Среди них можно отметить Уильяма Гибсона, Чарльза Стросса, Карла Шрёдера, Грега Игана, Дэвида Брина, Иэна Бэнкса, Нила Стивенсона, Тони Баллантайна, Брюса Стерлинга, Дэна Симмонса, Дэмиена Бродерика, Фредерика Брауна, Яцека Дукая, Нагару Танигава, Кори Доктороу. Кен Маклауд в своём романе 1998 года «Подразделение Кассини» (англ. The Cassini Division) определяет сингулярность как «вознесение для нердов».

Тематика сингулярности часто встречается в киберпанковых романах. Например, рекурсивно самоулучшающийся искусственный интеллект «Зимнее Безмолвие» в романе Уильяма Гибсона «Нейромант». Опубликованный в 1994 году на сайте Kuro5hin роман «Метаморфозы Высшего Интеллекта» посвящён жизни после запущенной искусственным интеллектом сингулярности. Более антиутопичный взгляд на сингулярность в коротком рассказе Харлана Эллисона «У меня нет рта, а я хочу кричать». Другими примерами антиутопичного взгляда являются «Акселерандо» Чарльза Штросса и продолжающаяся в настоящее время серия комиксов Уоррена Эллиса «newuniversal». «Все куклы» (англ. Puppets All) Джеймса Милна затрагивает эмоциональные и моральные проблемы Сингулярности. Проблема Контакта в эпоху технологической сингулярности обсуждается в романе Станислава Лема "Фиаско" (1986).

Майкл Диринг. Рассвет Сингулярности

ГЛАВА ПЕРВАЯ. СИНГУЛЯРНОСТЬ

УРОВНИ ОРГАНИЗАЦИИ

Что такое Сингулярность?

Непостижимость Сингулярности

Сингулярность трех технологий

Миниатюризация (нано)

В итоге

Почему они не понимают её

ГЛАВА ВТОРАЯ. ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ

Три подхода к ИИ

Имитационная модель

Теория АГИ, функциональный подход

Описание функциональных модулей

ГЛАВА ТРЕТЬЯ. МОЛЕКУЛЯРНАЯ НАНОТЕХНОЛОГИЯ

Будущее молекулярной нанотехнологии

ПРОМЫШЛЕННОЕ НАНОПРОИЗВОДСТВО

Метод подложек и мостков

Предлагаемые принципы нанотехнологической безопасности

НАНОТЕРРОРИЗМ

ГЛАВА ЧЕТВЁРТАЯ. МОЛЕКУЛЯРНАЯ БИОТЕХНОЛОГИЯ

Перспективы молекулярной биотехнологии

Фрагментация человечества

Вглядываясь вдаль

ГЛАВА ПЯТАЯ. ПЛОДЫ И ОПАСНОСТИ СИНГУЛЯРНОСТИ

Плоды Сингулярности

Опасности Сингулярности

ГЛАВА ШЕСТАЯ. ФАНТАЗИИ НА ТЕМУ О СИНГУЛЯРНОСТИ

ЧЕТЫРЕ ГОДА СПУСТЯ

КРУТОЙ ВЗЛЁТ

НАНОГРЁЗЫ

ЗООПАРК 2099

КОННИ ЧАНГ БЕРЕТ ИНТЕРВЬЮ У ЭЛИЗЕРА

ВЫПУСТИ МЕНЯ

ЖИВОЙ ВИРУС

ИНОПЛАНЕТНЫЕ НАНОБАБОЧКИ

ДИСКУССИЯ С КРЕНДЕЛЯМИ

КРИПТОГРАФИЯ

ТЕОРИЯ КОНСПИРАЦИИ

ПРЕДЕЛЬНАЯ МАШИНА СВЯЗЕЙ

ГЛАВА СЕМЬ. ПРОГНОЗ СИНГУЛЯРНОСТИ

ПРИЛОЖЕНИЕ A. Герои Сингулярности

ПРИЛОЖЕНИЕ B. Книги о Сингулярности

ПРИЛОЖЕНИЕ C. Организации Сингулярности

ПРИЛОЖЕНИЕ D. Проекты Сингулярности

ПРИЛОЖЕНИЕ E. Веб сайты по Сингулярности

ПРИЛОЖЕНИЕ Д. Дополнительные Интернет ресурсы для русской версии

Что будет означать для нас создание искусственного интеллекта разумнее человеческого? Каковы будут последствия деятельности наноботов (роботов молекулярного размера), перестраивающих мир молекула за молекулой? Как загрузка (перемещение Вашего разума в компьютер), физическое бессмертие или освобождение от необходимости работать изменит образ вашей жизни? Эти технологические возможности чрезвычайно быстро развиваются и осуществятся скорее, чем Вы думаете.

Универсальные функции трёх уровней организации.

Сингулярность - взрыв нанотехнологии, биотехнологии и компьютерной технологии.

Молекулярная нанотехнология - полный контроль над структурой материи на атомном уровне.

Молекулярная биотехнология - функциональная генетика, микробиология, цитология.

ИИ - компьютерный искусственный интеллект с разумом и познавательными способностями человеческого уровня.

СИИ - компьютерный искусственный интеллект сверхчеловеческого уровня.

Универсальные функции на трех уровнях организации.

Первый уровень - "материя. Описывается действием общих законов физики и химии.
Второй уровень - "жизнь. Характеризуется биологическими функциями жизнеобеспечения, структурой ДНК, процессами, описываемые молекулярной биологией и молекулярной биотехнологией.
Третий уровень - "разум. Отображает работу функций мышления, сознания, интеллекта и ход различных информационных процессов.

Множество полезных и интересных вещей во Вселенной сложены из атомов, к примеру - звёзды и планеты, космические корабли и самолёты, гольф клубы и ботинки для гольфа, ветчина и яйца, любимая собака и жена. Поведение этих атомов находится в сфере интересов таких наук как физика и химия. Вопрос: в чём разница между вашей женой и предпочитаемым вами множеством гольф клубов? Ответ: тип упорядочения атомов. Технология, которая сможет точно контролировать тип атомов и их расположение в любой "вещи", стала бы крайне полезной технологией. Молекулярная технология как раз и является такой технологией.

Положим, что у вас есть подобная технология. И вы решили похвастаться вашему соседу за забором, что вы можете делать абсолютно всё. После парочки простых трюков с изготовлением шпалерных ножниц и солнцезащитных очков он придёт в настоящий восторг. Он попросит вас создать живого летающего дракона, огнедышащего, и питающегося только молодыми девицами. Вас подкалывают. Для того, чтобы создать совершенно новый живой организм или починить старый, либо переконструировать существующий живой организм, такой как вы сами, вам требуется владеть некоторыми знаниями, которые не были включены в ваше руководство пользователя по молекулярной технологии.

Вы должны знать, чем работа живых организмов отличается от просто движения молекул. Вам нужна база знаний по ДНК, белковым соединениям, молекулярной биохимии, цитологии и биологии систем. И вам необходим комплект средств с названием молекулярная биотехнология. Вы также должны знать, находятся ли ваши окрестности в зоне действия огнедышащих драконов. Молекулярная биотехнология представляет собой набор довольно сложных научных методов. Но вам повезло. Все средства, требуемые для развития молекулярной биотехнологии, входят в состав основных возможностей молекулярной нанотехнологии.

Тем временем некоторые люди, сидя в местной зоне, пишут на доске объявлений, что им необходим определенный тип автоматизированной системы интеллектуального мониторинга активности в окружающей среде, чтобы предотвращать нарушения зональных предписаний, исходящие, например, от огнедышащих драконов. Компьютер в сердце этой системы должен иметь расширенное понимание окрестной жизни, способность делать суждения и предсказывать последствия действий. Он должен быть разумным, то есть быть полноценным искусственным интеллектом.

Существует три различных похода к разработке ИИ. Вы можете создать его в искусственной среде (в киберпространстве). Или вы можете сесть и подумать, какие алгоритмы информационных процессов необходимы для восприятия, обучения и планирования. Либо вы можете вооружиться средствами молекулярной нанотехнологии для реконструкции человеческого мозга. А пока давайте зафиксируем некоторые очевидные недостатки работы нашего мозга.

Среди того, что стоит подрегулировать, хотелось бы улучшить качество и детальность запоминания, увеличить скорость и точность процесса познания, способность безупречно делать длинные серии математических или логических операций, способность выполнять новые алгоритмы обработки информации и изменять состав и структуру существующих мыслительных процессов.

Мы бы хотели запустить в работу этот воссозданный инженерными средствами, проверенный и реконструированный разум на несколько более надежном в действии аппаратном обеспечении, нежели на биологических нейронах, например, на электронной компьютерной микросхеме с молекулярными нанотрубками, что становится возможным благодаря молекулярной нанотехнологии.

С тех самых пор как пещерный человек в нашем далёком прошлом впервые обтесал камень в форме наконечника для копья, мы постоянно создавали всё более совершенные инструменты. Молекулярная нанотехнология, молекулярная биотехнология и искусственный интеллект являются предельно совершенными инструментами. Они делают нас творцами предельно совершенных инструментов. А если вы думаете, что все эти новые технологии выглядят как забава и, конечно, мы не овладеем ими ещё сотни лет, то вы явно должны прочитать следующий раздел - "Что такое Сингулярность?

Что такое Сингулярность?

Сингулярность - это беспрецедентное событие в истории людей, когда жизнь, какой мы её знаем, изменится от "обыденного дела" до состояния виртуально неограниченных возможностей.

Наступление сингулярности подготовлено экспоненциальным развитием передовых технологий. Практически никто не имеет достаточного опыта анализа экспоненциального технологического развития. Это не является частью нашего обычного окружения. Мы эволюционно и культурно запрограммированы на ожидание незаметной скорости перемен. У нас нет нейронных структур познания для моделирования экспоненциальной скорости перемен.

Свидетельством служит проект по расшифровке генома человека. В первое десятилетие прогресс был настолько слабым, что многие эксперты предрекали, что для его завершения потребуется ещё 200 лет. Свыше 50 процентов исходных данных было получено в последние девять месяцев пятнадцатилетнего проекта.

Когда достижения постоянно удваиваются в последовательно равных периодах времени, то этот процесс представляет собой первый порядок экспоненциального развития. Когда период времени удвоения со временем сокращается, то это - второй порядок экспоненциального развития.

Мы все видим, как компьютеры становятся мощнее, а цены на них при этом одновременно падают. Время удвоения мощности компьютеров в расчёте на один доллар было 3 года в 1950-х, 2 года 1980-х, 1 год в 90-х и 9 месяцев к сентябрю 2002 и продолжает уменьшаться.

Причина экспоненциального технологического роста достижений заключается в том, что каждое приращение достижений в средствах проектирования приводит к увеличению производительности будущих средств проектирования. Это цикл с положительной обратной связью, повышающей производительность средств проектирования. Большинство подобных циклов с обратной связью основано на постоянной миниатюризации механических и электрических систем, конечным итогом которых и является молекулярная нанотехнология.

Экспоненциально развиваемые технологии изменят всю нашу жизнь за невероятно короткий промежуток времени. Сингулярность ведёт к почти неограниченным технологическим возможностям. Люди, которые в настоящий момент борются за скудные ресурсы, обретут невероятное благосостояние и свободу.

Непостижимость Сингулярности

Жизнь после Сингулярности будет сильно отличаться от той, что была раньше, но она не будет непостижимой. Мы можем дать достаточно полный список грядущих технологических возможностей. Социальные последствия этих изменений коснуться всех нас. Необходимо, чтобы большая часть человечества призадумалась над тем, какой бы мы хотели иметь тип социальных структур, если мы желаем избежать паники.

Рекурсивно самосовершенствующийся ИИ разовьёт разум, который в количественном отношении быстро превзойдёт сегодняшний человеческий уровень интеллекта. Эти количественные улучшения будут включать расширение способностей, увеличение точности и скорости обработки данных. Количественные улучшения являются лишь расширением имеющихся у нас познавательных способностей.

Качественные улучшения или совершенно новые способы осознания и мышления, находящиеся за пределами нашего нынешнего понимания вещей, вряд ли возможны. Причина того, что мы не ждём появления какого-то нового типа интеллекта, а ожидаем лишь новый уровень интеллекта, коренится в том, что разум есть способ решения проблем путём алгоритмической интерпретации. И основываясь на успехах, которые нам сопутствовали при создании физических, биологических и информационных систем, можно суммировать, что мы уже исследовали достаточно широкий диапазон алгоритмически эффективного пространства решений. Конечно, я не могу оспаривать утверждение, что мы не знаем того, чего мы не знаем, но, я думаю, мы можем разложить всё то, что мы ещё не знаем последовательно по полочкам во всё более маленькие ящички или мелкие матрёшки.

Сингулярность трех технологий

Сингулярность - это наиболее значительное событие в истории человечества. Она наступит в результате одновременного действия трех продвинутых технологий: искусственного интеллекта, молекулярной нанотехнологии и молекулярной биотехнологии. Скорость продвижения к точке Сингулярности вначале увеличивается постепенно, но механизм обратной связи с каждым укорачивающимся циклом всё быстрее ведёт нас к Сингулярности. При достижении Сингулярности способности человечества становятся действительно потрясающими - полный контроль над структурой материи на атомном уровне, полное знание биологических процессов от макро до микро и молекулярного уровня, и сверхчеловеческий искусственный интеллект.

Каждая из этих трёх технологий достигает физического предела в Сингулярности. Распад общества и нашего образа жизни будет полным. Сингулярность будет предвестником начала новой эры, в которой физическое и умственное совершенство будут нормой наряду с невообразимым благосостоянием и свободой. Эти плоды прогресса не выпадут лишь на долю существующим привилегированным классам, а достанутся всем человеческим существам.

Когда наступит Сингулярность?

Одним из фундаментальных открытых вопросов насчет Сингулярности является вопрос - когда она наступит и насколько быстро произойдут технологические изменения? Экстраполяция тенденций показывают, что Сингулярность должна произойти к 2020 году (возможно эту цифру следует пересмотреть и приблизить дату до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдера (Dani Eder) о том, что время удвоения мощности компьютеров упало до 9 месяцев к сентябрю 2002 года) и она должна быть очень внезапной, что характерно для природы экспоненциальной кривой.

Каким образом все эти перемены будут претворяться в жизнь? Элизер Юдковский считает, что ИИ созреет прежде других двух технологий и сверхчеловеческий искусственный интеллект поведёт нас через транзит (переход). Он называет это "руководством по транзиту. Эрик Дрекслер и Ральф Меркле думают, что наиболее грандиозный потенциал заложен в молекулярной нанотехнологии. Рэй Курцвейл и Ханс Моравек ожидают, что лидировать на этом пути будет синтез компьютеров и людей.

Эти три технологии будут, вероятно, развиваться параллельно вследствие их взаимодействия. Зрелая нанотехнология (полный контроль структуры материи на атомном уровне) позволит нам быстро производить продукты с атомным совершенством по цене сырьевых материалов в неограниченном количестве. Она позволит нам создавать материалы в пятьдесят раз прочнее стали или с любыми наперёд заданными свойствами, с полным доступом и контролем биохимических процессов в живых организмах. И предоставит нам инструментарий для быстрого достижения зрелости в молекулярной биотехнологии и искусственном интеллекте путём восстановительного инжиниринга нашего биологического организма и функционирования человеческого мозга. Последствия влияния на общество трудно переоценить, хотя они и переоценивались в прошлом. Причина была в том, что в прошлом не делалось различия между сингулярными технологиями в развитии и зрелыми сингулярными технологиями.

Согласно наиболее вероятному сценарию Сингулярности примерно в районе 2011 года промышленная нанотехнология начнёт производить лавину дешевых товаров, ликвидирующих бедность и голод во всём мире. Примерно к 2012 компьютерная технология, основанная на нанотехнологии, увеличится по своей мощи на шесть порядков от того уровня, где она будет в 2010. Примерно к 2013 исследования в области молекулярной биотехнологии, основанные на нанотехнологии и компьютерной мощи, обеспечат нам средствами излечения всех телесных недугов. Примерно к 2014 исследования в области ИИ, основанные на нанотехнологии и молекулярной биотехнологии и компьютерной мощности, приведут к созданию первого сверхчеловеческого искусственного интеллекта, СИИ.

Миниатюризация (нано)

Миниатюризация электромеханических систем служит важнейшим источником Сингулярных технологий. Достижения в производительности компьютеров порождены этим источником. Достижения в средствах, используемых для расширения функционально-генетических знаний, являются производными от миниатюризации и компьютерной мощи. Мощность компьютеров будет идти по пятым нано, потому что это наиболее ценное приложение. Но, в отличие от нанотехнологии и повышения мощности компьютеров, создание ИИ потребует громадных теоретических прорывов. Поэтому прогресс состоит в миниатюризации (нано), которой способствует мощность компьютеров. Далее молекулярные средства и мощные компьютеры способствуют развитию молекулярной биотехнологии. И, наконец, нанотех, инфотех и биотех объединяются в производстве СИИ.

Закон Мура не есть основная движущая сила Сингулярности. Для этого имеется гораздо больше оснований. Мы можем вернуться назад к истокам и посмотреть на закон Мура. Закон Мура имеет две стороны - "как" и "почему.

"Как" - это цикл с обратной связью, где результат процесса используется для создания более совершенного механизма, используемого таким образом в процессе дальнейшего увеличения скорости, сложности и производительности этого процесса. И конечно, лучший процесс даёт лучший результат, который, в свою очередь, делает процесс лучше и т.д. и т.д. Когда мы следуем за законом Мура в прошлое через дискретные транзисторные схемы, вакуумные трубки, механические калькуляторы и далее переходим к обработке гуманитарной информации в письменности, которой предшествовала устная речь, а затем продвигаемся дальше вглубь биогенетической эволюции, а затем далее в прошлое, сквозь развитие неживой природы планетарной среды, образование галактик, конденсацию материи из энергии, инфляцию Гута, и в пределе - к исходному безразмерному состоянию Вселенной, то мы обнаруживаем и наблюдаем этот цикл с процессом обратной связи на каждой стадии.

"Почему" - это экономика. Подобным же образом мотивационный аспект экономических сил можно проследить в прошлом в соревнованиях самцов, природный отбор и далее через проявление самоорганизующихся свойств неживой материи-энергии, в динамике сложных систем.

Но где начало? Что является фундаментальной парадигмой этих двух взаимосвязанных концепций "как" и "почему"? Какова "базовая концепция"? Некоторые предполагают что Бог, но эта идея, что вполне очевидно, легко отсекается Бритвой Оккама как нелепая и антропоморфная, без надобности усложняющая положение дел. Определенно, что базовая концепция должна предшествовать понятию пространства-времени и материи-энергии и поэтому не может определяться мистическим актом творения.

Что остаётся? Информация. Рэй Курцвейл в одной из своих публичных бесед с Грегори Стоксом утверждал, что предельно тавтологическая реальность - это структурированная информации. В обмене мнениями между Рэем и Элизером Юдковским, где Элизер спрашивал его о том, как тот понимает ускорение скорости прогресса вследствие обратной связи с ИИ. Рэй ответил, что было бы трудно переоценить взрывную скорость удвоения экспоненциального роста и что ИИ может оказаться одним из тех факторов, которые приведут к продолжению закона Мура и после 2020 года.

Что-то такое удивительное, такое невероятное, что-то абсолютно беспрецедентное в истории должно случиться - Сингулярность. Три Сингулярные технологии, такие как нанотехнология, сверхчеловеческий искусственный интеллект (СИИ) и молекулярная биотехнология, превратят наш мир в рай, если только мы сумеем избежать беспрецедентных опасностей, таящихся в самих же этих технологиях, а именно - биоинженерные супервирусы, вооружения в виде самореплицирующихся нанороботов, недружественные сверхразумные машины и наибольшая опасность из всех - склонность к неограниченному бездумному самоудовлетворению, зацикливанию на кайфомании.

Недоразумение, что компьютерные программисты считают ИИ самым необходимым элементом - это всё из-за непонимания перспективы. Поговорите с каким-нибудь исследователем, занятым изучением генетического кода. Он может наблюдать экспоненциальный рост в своей области. Он может представить удивительное будущее, которое эта технология способна предоставить - полный контроль биологического дизайна живых организмов. И нанотехнология, и генная инженерия дозреют к 2021 вне зависимости от того будет ли создан ИИ или нет, и внезапно совершенно изменят общество.

Термин "технологическая сингулярность" употребляется неверно. Более правильным является термин "социальная сингулярность". На протяжении всей истории новые технологии изменяли общество и хотя люди отдают должное инициирующей природе нововведений, однако наиболее значимым историческим аспектом всегда являлось то как меняется общество.

Вот некоторые из вещей, которые, как мы ожидаем, станут возможными после Сингулярности:

1. Зрелая молекулярная нанотехнология приведёт к производству любых продуктов по цене сырьевых материалов, например, к компьютеру по цене мешка песка. Производство ускорится и будет неограниченно увеличиваться. Качество будет совершенствоваться вплоть до атомного уровня. Потребность во всех необходимых материалы будет легко удовлетворяться. Молекулярная нанотехнология также произведёт средства способствующие развитию молекулярной биотехнологии и искусственного интеллекта. Нанотехнология создаст новые материалы в пятьдесят раз более прочные, чем сталь, или с любыми запроектированными свойствами, требуемыми для применения в космических путешествиях, в больших конструкциях и инструментах.

2. Зрелая молекулярная биотехнология приведёт к полному исключению болезней, недееспособности и смерти от естественных причин (однако вы всё же ещё сможете броситься вниз со скалы). Люди смогут иметь тотальный контроль над проектированием, структурой, функционированием и внешним видом своих тел. Мы будем жить в фантастическом мире, населенном ангелами, феями, колдуньями, демонами и гоблинами. Индивидуальность будет отличительным качеством. Совершенство тела и ума будет нормой. Новые физические способности будут обычными.

3. Сверхчеловеческий искусственный интеллект приведёт к таким последствиям в обществе и в наших возможностях, которые кажутся непостижимыми для человеческого уровня интеллекта, включая загрузку человеческого сознания, искусственные миры, мораль на основе свободы воли и многое другое.

В итоге

Конец мира почти рядом и очень мало людей осознают это. Иногда я бываю настолько подавлен чудовищностью Сингулярности, что чувствую, что должен присоединиться к парню на Мэйн Стрит с лозунгом - КОНЕЦ МИРА БЛИЗОК.

Сингулярность - это проблема связи уровней организации материи во Вселенной. Верхний уровень - РАЗУМ, нижний уровень - АТОМЫ (для наших сегодняшних целей). Три технологии, которые соответствуют трём базовым уровням функциональности, это - искусственный интеллект, нанотехнология и молекулярная биотехнология. Полный успех в этих трёх технологиях обеспечит такие радикальные изменения в наших способностях, которые приведут к социальной Сингулярности. Мы весьма близки к созданию этих последних связей.

Я надеюсь, что ответил на некоторые из Ваших вопросов о Сингулярности. Я также надеюсь, что мои ответы стимулируют появление ещё большего потока вопросов.

Почему они не понимают её

У меня на работе недавно был разговор, который, я думаю, иллюстрирует, почему общественность не понимает Сингулярности. У нас есть сотрудник по имени Доминик - это его настоящее имя. Не стоит над ним подшучивать, он бывший морской пехотинец.

Доминик - интеллигентный, хорошо образованный и хорошо информированный парень, но он скептически относится ко всем, кто пытается всучить ему какой-нибудь перечень товаров. Он смотрит новости и проводит много времени со своим кабельным модемом для доступа к домашним компьютерам. Он в курсе новых технологий, постоянно обновляя свой компьютер. У него телевизор с большим экраном высокого разрешения. Он смотрит все новые научно-фантастические кинофильмы.

Он точно из того сорта людей, которые, как я ожидал, восприняли бы это.

Я говорил с ним о Сингулярности целый год и не смог его убедить. Он видит, что компьютеры становятся всё быстрее и быстрее, но, несмотря на мнение экспертов и в противоположность им он думает, что скоро мы упрёмся в стену, ограничивающую мощность компьютеров. И он говорит, что он не понимает, как более быстрые компьютеры смогут изменить всё вокруг.

Часть проблемы - это Голливуд. В НФ фильмах изменяются лишь технические новинки, а экономика - нет. Люди всё ещё по-прежнему работают ради того, чтобы выжить и всякий хлам всё ещё в цене. Люди по-прежнему глупые и смертные.

Такие вещи, я думаю, не соответствуют истинной картине, ожидаемой нас после Сингулярности. И за исключением электроники и некоторых новых методов медицины он не видит никаких драматических примеров миниатюризации, дающих ему какие-то свидетельства потенциала или близости нанотехнологии.

Что до ИИ, то достаточно продвинутая система Alicebot находится крайне далеко от обретения хотя бы одного процента человеческого знания или понимания, а роботы - несуразные игрушки.

Один из печальных фактов насчёт экспоненциального роста, если вам этого хочется, состоит в том, что почти все свершения происходят практически в самом конце. Почему тогда я вижу это ясно как день, а он не видит вовсе?

Всё потому, что я прочитал эту книгу, а он нет. Могу ли я заставить его прочитать эту книгу? Нет, он не любитель читать, он любит смотреть, слушать и кушать (чукча не читатель, чукча - наблюдатель).

Нам надо создать фильм, показывающий все социальные последствия таких технологий, как нанотех, генотех и ИИтех. Есть ли желающие оказать мне содействие в написании сценария?

В мире есть всего несколько людей, искренне верящих в приближение так называемой технологической сингулярности – момента, когда интеллектуальные машины станут умнее человека. Одним из таких людей является, например, футуролог, изобретатель и технический директор Google Рэй Курцвейл, считающий, что сингулярность – это не та вещь, которую человечество должно бояться. Но, возможно, на данный момент нет более рьяного человека, жаждущего наступления этой самой сингулярности, чем генеральный директор японской телекоммуникационной медиакорпорации SoftBank Масаёси Сон.

Взглянув на Энтони Левандовски, вы вряд ли решитесь назвать его пророком. Одетый в обычные, повседневные для Кремниевой долины джинсы и окруженный несколькими PR-агентами, а не армией последователей в длинных балахонах, знаменитый инженер, находящийся в центре громкого судебного разбирательства, вряд ли бы подходил на эту роль. Но тем не менее он им является. Или по крайней мере стремится им стать. Дело в том, что Левандовски основал первую церковь, чья религия заключается в поклонении новому Божеству в виде искусственного интеллекта.

Не так давно мы о работающем нынче в футурологе Рэе Курцвейле. Он придерживается оптимистических взглядов относительно человечества и его судьбы в ближайшие несколько десятков лет. , Курцвейл не считает, что землянам нужно побыстрее рвать когти в космос на другие планеты. Он верит в то, что мы станем бессмертными. И тут рождается много вопросов, главный из которых таков: технологическая сингулярность .

Мы часто слышим о том, что живем в век изменений и переломный момент «вот-вот наступит». Большое количество футурологов, конспирологов, прорицателей, астрологов и духовных учителей со всех сторон вещают о всевозможных фантастических сценариях апокалипсиса различной степени тяжести. Мы же расскажем о несколько необычном, однако, вполне реальном развитии событий. Знакомьтесь, - Технологическая сингулярность.

Что же это такое?

Технологическая сингулярность - это вероятное взрывное ускорение научно-технического прогресса, которое приведет к полному изменению общества, морали и самого человека (включая не только разум, но и тело). Суть – в процессе технического прогресса будет создан сверхчеловеческий разум, действия и дальнейшее развитие которого, сегодня, даже спрогнозировать невозможно. Также предполагается, что после наступления технологической сингулярности, будущее невозможно будет предположить в принципе.

По последним оценкам (Дэни Эдер*) Технологическая сингулярность может наступить уже до 2018 года. Возможности возникновения, а также возможные последствия технологической сингулярности возникшей в процессе развития нанотехнологий абсолютно серьезно рассматривались Комиссией по экономической политике Конгресса США еще в 2007 году.

*Имеется ввиду гиперэкспоненциальная кривая, основанная на факте удвоения мощности современных компьютеров всего за 9 месяцев к сентябрю 2002 года (прим. ред.)

Сингулярность Вернора Винджа

Концепция технологической сингулярности была впервые предложена математиком и писателем Вернором Винджем в 1993 году на симпозиуме VISION-21, который проводился Центром космических исследований NASA им. Льюиса и Аэрокосмическим институтом Огайо.

“Сингулярность- это точка, в которой наши старые модели придётся отбросить, где воцарится новая реальность. Это мир, очертания, которого будут становиться всё четче, надвигаясь на современное человечество, пока эта новая реальность не заслонит собой окружающую действительность, став обыденностью. И всё же, когда мы такой точки, наконец, достигнем, это событие все равно станет большой неожиданностью и ещё большей неизвестностью.

Когда прогресс будет направляться интеллектом, превосходящим человеческий, он станет куда стремительнее. Фактически, нет оснований полагать, что прогресс не станет плодить всё более разумные сущности и всё более быстрыми темпами. Лучшая аналогия - в эволюционном прошлом. Животные могут приспособиться и проявлять изобретательность, но не быстрее, чем работает естественный отбор. В случае естественного отбора мир сам выступает в роли собственного симулятора. Мы, люди, обладаем способностью усваивать окружающий мир и выстраивать у себя в голове причинно-следственные связи, поэтому мы решаем многие проблемы в тысячи раз быстрее, чем механизм естественного отбора. Когда же появится возможность просчитывать эти модели на более высоких скоростях, мы войдём в режим, который отличается от нашего человеческого прошлого не менее радикально, чем мы, люди, сами отличаемся от низших животных.

Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока. Неуправляемая цепная реакция начнет развиваться по экспоненте безо всякой надежды на восстановление контроля над ситуацией. Изменения, на которые, как считалось, потребуются «тысячи веков» (если они вообще произойдут), скорее всего, случатся в ближайшие сто лет”.

Вернор Виндж

По мнению Винджа вышеописанные события могут произойти следующим образом:

1. Компьютеры обретут «сознание», и возникнет сверхчеловеческий интеллект.

2. Крупные компьютерные сети (и их объединенные пользователи) смогут «осознать себя» как сверхчеловечески разумные сущности.

3. Машинно-человеческий интерфейс станет настолько тесным, что интеллект пользователей можно будет обоснованно считать сверхчеловеческим.

4. Генная инженерия или другие технологии смогут радикально улучшить человека по всем параметрам: здоровье, сила, долголетие, интеллект.

5. Развитие технологий (например, с приставкой “нано”) сделает возможным быстрое воспроизводство мыслящих машин.

Реальные успехи

Для столь интересных выводов есть вполне реальные основания. Действительно, прогресс в области компьютеров весьма впечатляет. С 1949 года, когда была создана первая электронно-вычислительная машина (ЭВМ), производительность и оперативная память компьютеров выросли в несколько миллионов раз! При этом каждые 1,5-2 года производительность и память удваиваются.

В 1997 году компьютер ASCI Red фирмы Intel имел предельную (пиковую) производительность 1,8 триллионов операций в секунду (1,8 Тфлопс). В 2000 году появился компьютер на 10 терафлопс. А в 2010 году китайцы создали суперкомпьютер «Тяньхэ» на 2507 терафлопса (или более 2,5 квадриллиона операций в секунду). Суперкомпьютер, спроектирован в китайском национальном университете оборонных технологий. Составлен колосс из 7168 графических процессоров от Nvidia (модель Tesla) и 14 336 центральных процессоров от Intel (Xeon).

Что может суперкомпьютер сегодня?

Суперкомпьютер IBM «Watson» имеет 2880 процессорных ядер, 15Тб оперативной памяти. Производительность системы оценивается в 80 триллионов операций с плавающей запятой в секунду.

Он безошибочно и очень быстро дает правильные ответы на вопросы (в качестве теста использовалась игра «Jeopardy!»), изучает базу данных для поиска ответа, а также анализирует скрытые в вопросах значения, трудноуловимые ассоциации, загадки, иронию и множество других интонационных и лингвистических нюансов. То есть, практически приближается к возможностям человека.

Однако критики отвечают, что если данная машина хоть и превосходит человека по возможностям, возникающих в процессе использоваться огромной базой данных, то все равно испытывает серьезные трудности на ассоциативном уровне принятия решений.

Это, впрочем, не помешало уже применить полученные достижения на практике. Американская компания Neuromatters и Колумбийский университет в Нью-Йорке заключили соглашение по разработке технологии «связанной с корой компьютерного зрения». Данная технология сочетает сильные стороны компьютера и мозга человека для ускорения сортировки трудно формализуемых данных вроде фотографий или видео. При этом результат достигается быстрее, чем могли бы выполнить задачу компьютер или человек по отдельности.

Компьютер трудно научить понимать абстрактные цели типа «найти из длинной последовательности прикольные картинки» или «найти кадры, на которых что-то не так». Человек понимает такую задачу без труда, но ручная сортировка сотен и тысяч снимков утомительна, и занимает много времени. Однако нейрофизиологам уже известно, что оценка кадра в мозге происходит за доли секунды. Причём ещё задолго до того, сам как человек осознает «инсайт», определённые зоны в коре выдают характерный сигнал.

Этим и воспользовались разработчики проекта C3Vision. Оператор надевает «мозговую шапку» с 64 электродами, снимающими ЭЭГ. Компьютер показывает человеку последовательность снимков со скоростью 10 кадров в секунду. По реакции мозга машина понимает, что привлекло внимание оператора, а затем уточняет «гипотезу», подбирая для проверки ряд схожих кадров. Программа на ходу обучается взаимодействию.

Ожидается, что система C3Vision будет использоваться правительственными аналитиками для быстрой сортировки тысяч спутниковых снимков, а также операторами систем видеонаблюдения для выявления подозрительных кадров из большого потока.

Таким образом, суперкомпьютеры уже сегодня становятся мощными усилителями интеллекта соответствующим образом улучшенного человека. Однако, скорее всего, люди недалекого будущего станут своеобразными киборгами с возможностью легкого подключения к электронным помощникам. Причем передавать можно будет не только информацию, но даже чувства!

Первые киборги

В начале 2000-х, профессор кибернетики университета Рединга (Великобритания) Кевин Уорвик поставил смелый эксперимент – ему в левое запястье был вживлен чип площадью 9 мм2. Чудо микроэлектроники на этот раз было соединено сотней микроконтактов непосредственно со срединным нервом. Другими словами, каждый из этой сотни электродов был вживлен в человеческий нерв. Выводы этих контактов проложили под кожей и через 15 см вывели в предплечье, где располагается специальный радиоприемник-передатчик электрических импульсов.

Теперь первый киборг планеты Кевин Уорвик, заполняет эфир вокруг себя оцифрованными электрическими флюидами своей собственной нервной системы. Это позволяет ему мысленно включать и выключать автоматическую дверь, активировать бытовые приборы, «общаться» с компьютером и, главное, передавать эмоции!

Однажды, Уорвик, страдающий акрофобией (страх высоты), поднялся на крышу небоскреба. Импульсы страха, пробегавшие по нервам, попали в микрочип. Преобразовавшись в цифровую форму, эмоция страха была передана по Интернету в Англию, а затем поступила в чип, вживленный в тело жены Уорвика. Она испытала сильнейший страх!

Подобная технология здорово поможет инвалидам. Например, в декабре 2009 года группа европейских ученых объявила, что они успешно соединили роботизированную руку с покалеченной рукой человека. Это позволило ему управлять протезом силой мысли и чувствовать различные импульсы в искусственной руке.

Роботы

Резкую тенденцию к «поумнению» проявляют и роботы. Ярчайший пример – гонки роботов-автомобилей, которые организовывает Управлением перспективного планирования оборонных научно-исследовательских работ США (Defense Advanced Research Projects Agency, DARPA).

Данные автомобили испытывают в условиях, близких к городским, с имитацией реального трафика. Интересно, что уже в 2007 году с задачей проехать заданный маршрут без инцидентов справился робот с не особо мощными компьютерами в количестве двух штук с четырехъядерными процессорами Intel Core 2 Quad Q6600 с тактовой частотой 2,4 ГГц и платой Intel D975XBX2 и 2 Гбайтами оперативной памяти. Один из компьютеров отвечал за обработку информации, поступавшей от датчиков, второй - «занимался» контролем системы управления и планированием действий машины-робота. Информацию снимали шесть видеокамер, которые охватывают все пространство вокруг автомобиля, лазеры на бамперах, радар, приемники GPS, а также бортовое навигационное оборудование для сбора информации о местоположении автомобиля и характере поведения окружающих объектов.

В 2009 году компания Robosoft представила уже серийный автобус-робот robuRIDE, предназначенный для переправки пассажиров между несколькими пунктами в более-менее спокойной дорожной обстановке, то есть на выставках или в парках. А в 2010 году группа итальянцев пересекла на автобусах-роботах Евразию из Пармы в Шанхай. И хотя, во многих экстремальных ситуациях, водители брали управление на себя, до умного автомобиля, способного доставить своего, скажем пьяного или заснувшего владельца до дома осталось не так уж и долго.

Убить всех человеков!

Несмотря на то, что, по мнению футурологов, предсказать, что будет после наступления технологической сингулярности, невозможно, искушение “заглянуть за грань” слишком велико. Конечно, неизвестное пугает. Одним из первых испугался сам Вендж, обозвав сингулярность – “катастрофическими изменениями”.

“Если Сингулярность нельзя предотвратить или ограничить, насколько жестокой может стать постчеловеческая эра? Что ж, довольно жестокой. Физическое вымирание человеческой расы - одно из возможных следствий.” Вернор Виндж

Впрочем, мнение, что разумным машинам будет трудно сосуществовать с людьми, появилось задолго до Венжа. Классикой стали мир “Терминатора”, плавно переходящий в мир “Матрицы”, где роботы победили окончательно и бесповоротно, несмотря на усилия всех Джонов Конноров и Нео вмести взятых. Менее жесткий, но тоже не слишком оптимистический вариант жизни в мире “постсингулярности” рисуют многочисленные сторонники движения “кибер-панка”, которое началась еще в 1983 году с короткого рассказа (кто бы мог подумать!) “Киберпанк” Брюса Бетке и романа “Нейроманта” Вильяма Гибсона. Интересно, что задолго до появления термина “технологическая сингулярность”, там были описаны такие важные элементы “мрачного будущего”, как непосредственное подключение к компьютеру и сети через мозг, имплантанты, искусственный сверхинтеллект и, главное, виртуальная реальность.

Реальная виртуальность

Переход человечества в виртуальную реальность – вполне вероятное развитие событий после наступления сингулярности. И действительно, если всю или почти всю работу будут выполнять умные автоматы, людям нужно будет элементарно чем-то себя занять. Возможный выход – игровая среда, где можно будет не только развлекаться, но и жить, зарабатывая реальные средства, обеспечивающие жизнедеятельность бренного тела. А выходить “на поверхность” игроки будут только для оправления естественных потребностей. Подобный вариант может оказаться очень привлекательным в случае исчерпания природных ресурсов, которым нас постоянно запугивают по телевидению и в Internet. Действительно, зачем покупать реальный суперкар или самолет, если его виртуальный аналог будет ничуть не хуже. И ценные ресурсы не потребляются.

Собственно говоря, игровая виртуальная реальность развивается прямо на наших глазах. Вспомним, как в середине 90-х верхом совершенства нам казалась мегакультовая стрелялка DOOM-2 с примитивной графикой. Нынешние игры уже обеспечивают почти фотореалистичную картинку. Не трудно предположить, что пройдет еше лет 5-10 и она станет “почти неотличимой от настоящей”. Добавим сюда развитие социальных сетей и ролевых игр и останется только доработать уже реально действующие технологии передачи чувств и ощущений по проводам, управление игровыми объектами при помощи нервных импульсов. Затем надеваем виртуальный шлем или костюм, вставляем разъем в затылок и … добро пожаловать в “Матрицу”.

А почему бы и нет? Ведь уже сейчас существует многомиллионая армия геймеров, которые с успехом зарабатывают настоящие, а не виртуальные деньги, продавая нарисованные мечи, доспехи и гаремы с принцессами. Не так давно мой знакомый обменял “магического имущества”, нажитого “непосильным трудом” на 10 тыс. вполне реальных портретов американских президентов. А в Южной Корее, например, при разводе и разделе имущества супругами, законодательно учитываются не только реальные, но и виртуальные ценности.

Альтернатива “мрачному будущему”

Известный публицист и писатель Александр Никонов, вместе с футурологом Александром Жаровым настроены оптимистично. “Возможно, на каком-то этапе будет существовать симбиотическая связь между человеком биологическим (правда генетически модифицированным) и искусственным сетевым интеллектом. Такая же связь существует между человеком и микрофлорой в его кишечнике. Люди не могут жить без микрофлоры, микрофлора не может жить без людей. Но кто главный – микробы или человек?

В новом симбиозе главными будут точно не люди. Значит ли это, что машины победят людей и поставят их на службу? Нет. Искусственный интеллект будет контролировать человечество не больше, чем вы контролируете свои бактерии в кишечнике. Умный человек позаботится о своем здоровье. Планетарный мозг будет заботиться о своих “микроорганизмах” – людях (что не может не радовать, ибо многие “микроорганизмы” на сегодняшний день не в состоянии о себе позаботиться – прим. авт.). А мы будем заботиться о НЕМ.”

Реалистичный взгляд

Если отрешиться от лишних эмоций, то не трудно прийти к выводу, что никаких драматических и масштабных изменений в ближайшем времени не случится. Явной фантастикой с элементом паранойи видится самопроизвольное обретение компьютерами или сетью компьютеров разума. Нанотехнология и генная инженерия также еще не достигли таких высот (и в ожидаемом будущем явно не достигнут), чтобы превратить человека в сверхразумного почти бессмертного суперкиборга. Скорее всего, прогресс пойдет по пути расширения возможностей человека при помощи недорогих и компактных суперкомпьютеров.

Вероятнее всего, также следует ожидать массового внедрения чипов для более удобного мысленного управления компьютерами, которые в свою очередь повысят свою мощность настолько, что сразу же сделает не нужным множество профессий. Например, каждый сможет поставить себе квалифицированных диагноз, не посещая врача. Ведь, к услугам любого пользователя будет все медицинские знания мира и собственная диагностическая система. При этом, вживленные под кожу или в мышцы чипы смогут оперативно контролировать состояние организма, делая, например, мгновенный анализ крови.

Полиция также станет крайне не многочисленной, поскольку совершение преступлений с внутренним доносчиком превратится в некую форму мазохизма. Скорее всего, такой мир действительно потребует новой морали, ибо спрятать, или сохранить в тайне что-то либо будет практически невозможно.

Для современного человека это будет действительно катастрофой. Ибо существовать в таком мире ему будет не то, что некомфортно, а просто невозможно. Современного человека в таком мире быстро разорвут внутренние конфликты между записанными в процессе воспитания программами (т.е. тем как «принято», «правильно», «допустимо») и тем, как есть на самом деле. Однако вряд ли все произойдет мгновенно. Наверняка мы еще, как всегда, успеем привыкнуть.

Конечно, в таком будущем кроется просто поразительно число достоинств и преимуществ. Только представьте, наконец всем людям планеты удасться объединить усилия, постоянно чувствовать друг друга, ничего не скрывать. Это будет мир всеобщего понимания, в котором обману и насилию просто не останется места. Человечество превратиться в единый, практически бессмертный сверхорганизм с возможностями, о которых мы сегодня даже мечтать не смеем.

Существуют также и недостатки. Однако как преимущества, так и недостатки нашего уже недалекого будущего мы можем оценивать только со своей сегодняшней позиции. А это похоже на австралопитека, проживающего на нашей планете около 4 млн. лет назад, который пытается оценить значение, например изобретение теории ядерного распада. Компетенция такой оценки стремится к нулю.

Исходя из всего этого, думается, бояться будущего не стоит. Ведь оно зависит от нас сегодня. Предпосылки создаваемые нами сегодня, обретут силу уже завтра. Противостояние добра и зла - это не некий единоразовый процесс, который предстоит нам в будущем. Эта борьба происходит прямо сейчас и соотношение сил меняется ежесекундно, в зависимости от решения, которое лично вы только что приняли.

В философии слово «сингулярность», произошедшее от латинского «singulus» - «одиночный, единичный», обозначает единичность, неповторимость чего-либо - существа, события, явления. Больше всего над этим понятием размышляли современные французские философы - в частности, Жиль Делез. Он трактовал сингулярность как событие, порождающее смысл и носящее точечный характер. «Это поворотные пункты и точки сгибов; узкие места, узлы, преддверия и центры; точки плавления, конденсации и кипения; точки слез и смеха, болезни и здоровья, надежды и уныния, точки чувствительности». Но при этом, оставаясь конкретной точкой, событие неизбежно связано с другими событиями. Поэтому точка одновременно является и линией, выражающей все варианты модификации этой точки и ее взаимосвязей со всем миром.

Когда человек создаст машину, которая будет умнее человека, история станет непредсказуемой, потому что невозможно предугадать поведение интеллекта, превосходящего человеческий

В других науках термин «сингулярность» стал обозначать единичные, особые явления, для которых перестают действовать привычные законы. Например, в математике сингулярность - это точка, в которой функция ведет себя нерегулярно - например, стремится к бесконечности или не определяется вообще. Гравитационная сингулярность - это область, где пространственно-временной континуум настолько искривлен, что превращается в бесконечность. Принято считать, что гравитационные сингулярности появляются в местах, скрытых от наблюдателей - согласно «принципу космической цензуры», предложенному в 1969 году английским ученым Роджером Пенроузом. Он формулируется так: «Природа питает отвращение к голой (т.е. видимой внешнему наблюдателю) сингулярности». В черных дырах сингулярность скрыта за так называемым горизонтом событий - воображаемой границей черной дыры, за пределы которой не вырывается ничего, даже свет.

Но ученые продолжают верить в существование где-то в космосе «голых» сингулярностей. А самый яркий пример сингулярности - состояние с бесконечно большой плотностью материи, возникающее в момент Большого взрыва. Этот момент, когда вся Вселенная была сжата в одной точке, остается для физиков загадкой - потому, что он предполагает сочетание взаимоисключающих условий, например, бесконечной плотности и бесконечной температуры.

В сфере IT ждут прихода другой сингулярности - технологической. Ученые и писатели-фантасты обозначают этим термином тот переломный момент, после которого технический прогресс ускорится и усложнится настолько, что окажется недоступным нашему пониманию. Исходно этот термин предложил американский математик и писатель-фантаст Вернор Виндж в 1993 году. Он высказал следующую идею: когда человек создаст машину, которая будет умнее человека, история станет непредсказуемой, потому что невозможно предугадать поведение интеллекта, превосходящего человеческий. Виндж предположил, что это произойдет в первой трети XXI века, где-то между 2005 и 2030 годами.

В 2000 году американский специалист по развитию искусственного интеллекта Елиезер Юдковски также высказал гипотезу о том, что, возможно, в будущем появится программа искусственного интеллекта, способная совершенствовать саму себя со скоростью, во много раз превосходящей человеческие возможности. Близость этой эры, по мнению ученого, можно определить по двум признакам: растущая техногенная безработица и экстремально быстрое распространение идей.

«Вероятно, это окажется самой стремительной технической революцией из всех прежде нам известных, - писал Юдковски. - Свалится, вероятнее всего, как снег на голову - даже вовлеченным в процесс ученым… И что же тогда случится через месяц или два (или через день-другой) после этого? Есть только одна аналогия, которую я могу провести - возникновение человечества. Мы очутимся в постчеловеческой эре. И несмотря на весь свой технический оптимизм, мне было бы куда комфортнее, если бы меня от этих сверхъестественных событий отделяли тысяча лет, а не двадцать».

Темой технологической сингулярности вдохновлялись писатели жанра «киберпанк» - например, она встречается в романе Уильяма Гибсона «Нейромант». Она показана и в популярном романе современного фантаста Дэна Симмонса «Гиперион» - там описывается мир, помимо людей, населенный Искинами - то есть, носителями искусственного интеллекта, которые вступают в конфликт с человечеством.

Как говорить

Неправильно «Это был сингулярный случай, когда механизм вышел из-под контроля». Правильно - «единичный».

Правильно «Я уверен, рано или поздно Вселенная снова схлопнется в сингулярность».

Правильно «Мне нравится этот роман - лучшее описание технологической сингулярности из всех, что я читал».