Что такое технологическая сингулярность

Технологическая сингулярность — это теоретический момент, когда человек потеряет Смолин В. С. Перспективы человека в эпоху технологической сингулярности. Epistemology & Philosophy of Science контроль над техническим прогрессом, а тот, в свою очередь, станет необратимым. Говоря простым языком, в ближайшем будущем технологии могут настолько развиться, что человечество просто перестанет поспевать за ними и понимать их.

Что такое технологическая сингулярность
Ускорение эволюции в течение последних 4 миллиардов лет. Изображение: Infomase / Wikimedia Commons

Создание искусственного суперинтеллекта как способ достичь сингулярности рассматривается Potapov A. Technological Singularity: What Do We Really Know? Information чаще всего, но это не единственно возможный путь. Например, в ближайшем будущем вероятно появление машин (компьютеров, роботов), которые смогут делать всё лучше человека, а из‑за этого произойдёт резкий, лавинообразный технологический скачок.

Впрочем, чаще всего подобные догадки построены Тегмарк М. Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта. — М., 2019 не на научных прогнозах, а на мифах в области ИИ.

Дальше, как считают сторонники концепции технологической сингулярности, такие «интеллектуальные взрывы» будут Смолин В. С. Перспективы человека в эпоху технологической сингулярности. Epistemology & Philosophy of Science происходить всё чаще и чаще. Это способно привести к радикальным изменениям в обществе, которые мы не сможем ни предсказать, ни контролировать.

Именно последствия сингулярности вызывают у многих опасения и служат основой для дискуссий о будущем человечества. Эти последствия оценивают Owen‑Jackson Ch. Reaching the technological singularity: What will happen when machines become smarter than us? Kaspersky Secure Features Blog по‑разному. Рэймонд Курцвейл, футуролог, разработчик систем распознавания речи и одна из ключевых фигур в Google, считает, что развитие технологий — отличная возможность для человека стать лучше. Менее оптимистичны в своих оценках Илон Маск, Билл Гейтс и ныне покойный Стивен Хокинг. По их мнению, прогресс может привести к уничтожению человечества.

Какие существуют предпосылки для технологической сингулярности

Опасения насчёт последствий технологического прогресса появились не на пустом месте. Многие процессы в современном обществе и науке наталкивают на подобные размышления.

Ускорение технического и технологического прогресса

Цифровая эпоха началась с изобретения транзистора в 1947 году и длится до сих пор. Ещё в 1965 году один из основателей Intel, готовясь к выступлению, обнаружил Exponential Laws of Computing Growth. Communications of the ACM интересную закономерность: каждые два года количество транзисторов в микросхемах увеличивается вдвое.

Технологическая сингулярность: ускорение технического и технологического прогресса
Увеличение вычислительных мощностей согласно закону Мура. Изображение: Max Roser / Wikimedia Commons

С тех пор мало что изменилось: компьютерные вычисления демонстрируют постоянный экспоненциальный рост. Чем дальше развиваются технологии, тем круче Potapov A. Technological Singularity: What Do We Really Know? Information становится кривая, иллюстрирующая технический прогресс. В пределах нескольких десятилетий его темпы способны уйти в бесконечность.

По сведениям Harvey C. Big Data Challenges. Datamation компании Datamation, ещё в 2017 году объём цифровых данных превысил наши возможности управлять ими. При этом он удваивается каждые два года.

Одной из следующих ступеней развития технологий, вероятно, может стать изобретение AGI (artificial general intelligence — искусственного интеллекта общего уровня). Таким термином обозначают ИИ, который научится общаться, мыслить и действовать как человек или даже лучше. То есть AGI в теории сможет заменить людей во всём.

Развитие искусственного интеллекта

Пока компьютеры не могут делать абсолютно всё лучше нас, хотя в решении многих задач они уже гораздо умнее человека (или, по крайней мере, быстрее него).

Ещё 4–5 лет назад прогноз Ray Kurzweil claims singularity will happen by 2045. Futurism Рэймонда Курцвейла о том, что к 2045 году искусственный интеллект превзойдёт человеческий во всём, считался очень смелым (притом что начиная с 90‑х годов 86% его предположений сбылись Owen‑Jackson Ch. Reaching the technological singularity: What will happen when machines become smarter than us? Kaspersky Secure Features Blog ).

Сегодня же в качестве гипотетической даты появления AGI уже называют Смолин В. С. Перспективы человека в эпоху технологической сингулярности. Epistemology & Philosophy of Science промежуток между 2025 и 2035 годами, а то и более ранний.

Технологическая сингулярность: развитие искусственного интеллекта
Схема эволюции носителей в природе: РНК → ДНК → Клетки → Мозг → Цифровые носители. Изображение: Wikimedia Commons

Особую роль в этом может Pandaya J. The Troubling Trajectory Of Technological Singularity. Forbes сыграть создание нейроморфных чипов — процессоров для нейронных сетей, воспроизводящих то, как наш мозг обрабатывает информацию. Пока изыскания в этой области ещё далеки до получения реально работающей модели, но несомненные успехи уже есть. Вот что умеет ИИ сегодня:

В 2014 году Google за 600 миллионов долларов выкупила DeepMind and Google: the battle to control artificial intelligence. The Economist разработчика AlphaGo — британскую компанию DeepMind, целью которой было изобретение AGI. Идеи британцев помогли Google создать эффективные алгоритмы диагностики заболеваний глаз и раннего обнаружения болезней Паркинсона и Альцгеймера.

Скорее всего, стоит ждать появления AGI уже в обозримом будущем. Однако наступление технологической сингулярности не связано с этим напрямую.

Появление нейроинтерфейсов

Уже сейчас можно Potapov A. Technological Singularity: What Do We Really Know? Information говорить об интернете как о форме «глобального мозга» — явлении, благодаря которому люди со всех уголков света могут практически непрерывно общаться друг с другом через технического посредника.

Существуют устройства и более близкие к гаджетам из фантастических фильмов. Уже свыше 300 тысяч человек пользуются How close are we to Elon Musk’s brain‑computer interface? CNN Health кохлеарными имплантатами (слуховыми протезами, воздействующими прямо на слуховой нерв), а образцы бионических глаз проходят испытания на людях. И хотя эти устройства всё ещё не способны вернуть зрение или слух полностью, качество их работы повышается.

Также Илон Маск и Брайан Джонсон объявили How close are we to Elon Musk’s brain‑computer interface? CNN Health о создании стартапов по разработке интерфейсов «человек — компьютер» (Neuralink и Kernel). Конечно, говорить о том, что уже скоро мы сможем управлять смартфоном силой мысли, пока рано: все подобные устройства ещё слишком медленные и несовершенные. Тем не менее есть все основания полагать, что успехи в этой отрасли не за горами.

Какие доводы приводят в пользу технического прогресса

ИИ и роботы возьмут на себя сложную интеллектуальную и физическую работу

Развитие искусственного интеллекта и робототехники в конечном счёте может привести к тому, что машины научатся делать всё Смолин В. С. Перспективы человека в эпоху технологической сингулярности. Epistemology & Philosophy of Science без участия человека или с минимальным его вмешательством. В таком случае прогресс продолжит ускоряться, всё более улучшая жизнь и быт людей.

Уже сейчас компьютеры используются человеком для научных изысканий и совершенствования технологий. Благодаря этому (например, генетическим исследованиям или разработке устройств, улучшающих возможности человеческого мозга) сами люди становятся Potapov A. Technological Singularity: What Do We Really Know? Information умнее, а машины — быстрее. Таким образом ускоряется развитие не только компьютеров, но и человека.

Люди откроют в себе новые способности

Срастание человека с технологиями происходит не только на физическом (применение протезов, модификаций), но и на информационном уровне (использование гаджетов). Смартфон с мобильным интернетом в кармане — это первый Смолин В. С. Перспективы человека в эпоху технологической сингулярности. Epistemology & Philosophy of Science шаг к превращению в киборга.

Технологическая сингулярность: срастание человека с технологиями
Искусственная роговица глаза. Фото: Mariagessa / Wikimedia Commons

Существует даже движение трансгуманизма Transhumanism. Britannica , выступающее за активное улучшение человеческого тела с помощью технологических достижений. Трансгуманисты считают, что модификация организма — единственный способ идти в ногу со временем и не передать судьбу человечества в распоряжение машин.

Однако пока что появление людей‑биороботов всё ещё находится в области фантастики.

Новые технологии открывают путь к потенциальному бессмертию

Гораздо более элегантным решением в этой области представляется снятие ограничений ДНК. Генная и биоинженерия Pandaya J. The Troubling Trajectory Of Technological Singularity. Forbes , а также ноотропные препараты способны сделать людей умнее. С помощью же искусственно выращиваемых органов или наномашин люди могут избавиться Kurzweil R. The Singularity is Near: When Humans Transcend Biology. — Viking, 2005 от старения и достигнуть бессмертия.

Вопросы лишь в том, как быстро человек научится (и научится ли) применять эти возможности, одобрит ли их общество и власть. Для рождения и обучения генно‑модифицированных людей понадобятся Potapov A. Technological Singularity: What Do We Really Know? Information годы — даже если не учитывать социальные факторы, замедляющие внедрение такой технологии. Другие формы суперинтеллекта (ИИ) могут появиться гораздо быстрее.

Что говорят противники бесконтрольного развития технологий

Искусственный интеллект может уничтожить человечество

Развитие AGI, вероятнее всего, будет Potapov A. Technological Singularity: What Do We Really Know? Information намного опережать развитие человеческого мозга и технологий, призванных расширить наши возможности. Искусственный разум способен превзойти человеческий и в пессимистическом сценарии легко выйдет из‑под контроля.

Доктор Оксфордского университета Ник Бустрём считает Bostrom N. Superintelligence: Paths, Dangers, Strategies. — Oxford University Press, 2014 , что основания для беспокойства есть. По его мнению, каким бы развитым интеллект ни был, это не влияет на то, злыми или добрыми будут поступки его хозяина. Поэтому, насколько бы ни был умён ИИ, мы не застрахованы от того, что он сделает что‑то нехорошее.

Важно Тегмарк М. Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта. — М., 2019 , чтобы AGI смог понять, принять цели человечества и придерживаться их. Если же он поставит для себя иные приоритеты, такие как самосохранение, захват ресурсов или удовлетворение любопытства, то во взаимоотношениях людей и машин возникнут конфликты.

Модернизация человеческого тела может привести к ещё большему расслоению общества

Модификация организма людей способна не только создать «Человека 2.0», но и усугубить Owen‑Jackson Ch. Reaching the technological singularity: What will happen when machines become smarter than us? Kaspersky Secure Features Blog социальные конфликты. Те, у кого появится доступ к таким технологиям, очевидно, будут иметь превосходство над теми, кто этими возможностями не владеет.

Возникают значительные проблемы этического и юридического характера: можно ли давать одному человеку интеллектуальное и/или физическое преимущество над другим и как защитить «биомеханических людей» от хакеров.

Попав не в те руки, технологии могут стать опаснейшим оружием

Не стоит забывать, что человек и сам по себе представляет большую опасность. Военные уже используют дроны и программируемые машины в качестве оружия, а социальные сети наводнены мошенниками. Велика Owen‑Jackson Ch. Reaching the technological singularity: What will happen when machines become smarter than us? Kaspersky Secure Features Blog вероятность, что люди начнут злоупотреблять и новыми технологиями.

Но и до этого мы просто рискуем не дожить, так как даже существующее оружие опасно. Макс Тегмарк, астрофизик и профессор Массачусетского технологического университета, с помощью формул статистической вероятности подсчитал Тегмарк М. Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта. — М., 2019 риск мировой ядерной войны, приводящей к взаимному уничтожению. Он пришёл к выводу, что если вероятность равна 0,001 в течение одного года, то в промежуток 10 000 лет ядерный коллапс случится с вероятностью 99,95%. Даже отлаженная система сдерживания хорошо изученного оружия может дать сбой. И возникает вопрос: сможем ли мы контролировать более сложные технологии, чтобы они не попали в неправильные руки?

Какое будущее может нас ждать

При этом Макс Тегмарк критически оценивает Тегмарк М. Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта. — М., 2019 вероятность пессимистического сценария. Он считает, что возможности самосовершенствования ограничены физическими законами. Истинная сингулярность, как бесконечно ускоряющийся прогресс, по мнению Тегмарка, невозможна, хотя этот процесс и способен Potapov A. Technological Singularity: What Do We Really Know? Information приближаться к бесконечности.

Поэтому профессор утверждает, что за скачком технологий последует быстрое достижение всей или почти всей полноты знаний о мире, а не их бесконечное накопление.

Согласно другой точке зрения, ничто, в том числе и прогресс, не может ускоряться бесконечно долго — рано или поздно его ждёт Коротаев А. В. Новые технологии и сценарии будущего, или Сингулярность уже рядом? История и синергетика: методология исследования замедление.

Однако достоверно можно сказать, что точку замедления человечество ещё не прошло.

Далеко не все учёные вообще разделяют теорию технологической сингулярности. Некоторые отмечают Смолин В. С. Перспективы человека в эпоху технологической сингулярности. Epistemology & Philosophy of Science , что до сих пор в природе не обнаружены явления, развивающиеся неограниченно и бесконечно быстро. При этом исследователи обращают Potapov A. Technological Singularity: What Do We Really Know? Information внимание, что немалое количество прогнозов в этой области основывается не на объективных данных, а на желаниях самих предсказателей.

Так, например, ИИ может Potapov A. Technological Singularity: What Do We Really Know? Information остаться чисто утилитарным и не наделённым личностью. Алгоритмы той же DeepMind пока не могут DeepMind and Google: the battle to control artificial intelligence. The Economist найти решение, если что‑то идёт не так и заранее заданные условия меняются.

Пока что ИИ обгоняет нас только за счёт вычислительных мощностей. Но на то, что люди могут освоить за несколько минут, программа тратит тысячи часов, если сопоставить с человеческим опытом.

Например, чтобы AlphaGo научилась играть в Space Invaders, ей нужно сделать тысячи попыток. В конечном итоге программа, разумеется, станет играть лучше человека, но тот освоит процесс гораздо быстрее.

Поэтому ни об одном из прогнозов нельзя говорить как о стопроцентно вероятном. Но это и не повод полностью отказываться от идеи технологической сингулярности.

Во многом реализация тех или иных сценариев судьбы человечества будет Смолин В. С. Перспективы человека в эпоху технологической сингулярности. Epistemology & Philosophy of Science зависеть от направления технологического развития, от того, в чьих руках оно окажется и каким образом будет регулироваться. Также большую Potapov A. Technological Singularity: What Do We Really Know? Information роль сыграет то, насколько усложнятся технологии. Не стоит забывать и о социальных, геополитических и экономических факторах, способных влиять на прогресс. Говорить о точных датах наступления технологической сингулярности тоже пока сложно.

Будет ли и дальше существовать человек, если для многих видов деятельности (например, науки) он окажется не нужен? Останется ли изменённый ДНК‑вмешательствами или нейроинтерфейсами человек человеком? У нас нет ответов на эти вопросы. Возможно, человек уже необратимо изменился с появлением вычислительных машин и цифровых технологий.

Но совершенно точно здесь одно: эволюционный процесс естественен и неостановим. Мы не в силах затормозить его. В конце концов, возможно, это машины научат нас не убивать и не унижать друг друга и нам стоит им довериться?

Поэтому, как советует Тегмарк М. Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта. — М., 2019 Макс Тегмарк, думайте не о том будущем, которое вас пугает, а о том, какого бы вы хотели.