Злой разум. Google достигла квантового превосходства. Может ли это обернуться глобальной катастрофой?

Кадр: фильм «Мстители: Эра Альтрона»
Кадр: «Мстители: Эра Альтрона»

Впервые в истории квантовый компьютер, созданный , решил задачу, которую не под силу решить обычному компьютеру. Хотя не все специалисты согласны с этим достижением, не возникает сомнений, что в будущем квантовые вычисления приведут к технологическому прорыву. Однако это также порождает новые непредвиденные проблемы, в том числе возможное появление опасного искусственного интеллекта. Читаем, как квантовые технологии связаны с гипотетическим концом света.

Превосходство кванта

Ученые Google утверждают, что они создали квантовое вычислительное устройство Sycamore, скорость вычислений которого в 100 миллионов раз быстрее обычных компьютеров. То, на что у современного суперкомпьютера уйдут тысячи лет, у Sycamore займет несколько минут (200 секунд). Это свойство называется квантовым превосходством (англ. quantum supremacy), и оно дает компьютерам способность невероятно быстро решать сложные задачи, требующие учета гигантского объема данных.

Между квантовыми компьютерами, способными оперировать большими данными, и искусственным интеллектом существует прямая связь. Любая нейронная сеть ищет закономерности, что позволяет ей определить, например, что изображено на картинке. Однако для этого вынуждены провести астрономическое количество вычислений. Ситуация осложняется с моделированием реальных природных систем, например, такой нейронной сети, как человеческий мозг. Со сложностью системы время на вычисления увеличивается экспоненциально.

Система проводов, протянутых к процессору Sycamore Фото: Eric Lucero / Google
Система проводов, протянутых к процессору Sycamore. Фото: Eric Lucero / Google

К 2008 году в рамках Blue Brain Project исследователям удалось смоделировать колонку коры головного мозга крысы, состоящей из 10 тысяч нейронов. Для этого использовался суперкомпьютер Blue Gene, у которого было задействовано более восьми тысяч процессоров. В 2011 году удалось смоделировать сеть из ста неокортикальных колонок с общим числом в миллион нейронов. Однако человеческий мозг состоит из сотен миллионов клеток, которые связаны между собой синапсами. Квантовое превосходство в теории дает возможность смоделировать и его, и более сложные системы, например, суперинтеллект.

Умнее людей

Согласно определению оксфордского философа Ника Бострома (Nick Bostrom), суперинтеллектом называют такую разновидность искусственного интеллекта, который «умнее» человека практически в любой сфере деятельности. Появление суперинтеллекта неизбежно влечет за собой риск, который заранее пытаются просчитать математики, философы и ученые, занимающиеся разработкой ИИ и других технологий. Например, сотрудники Центра по изучению экзистенциального риска при Кембриджском университете, консультантом которого является основатель SpaceX , в 2015 году подписали открытое письмо, призывающее ученых сделать все возможное, чтобы не создать то, что люди не смогут контролировать.

В 2015 году в журнале Nature появилась статья о создании глубокой Q-сети компанией DeepMind, принадлежащей Google. Этот искусственный агент способен учиться играть в игры (и выигрывать), получая в качестве входных данных лишь пиксели и количество очков. Иными словами, он обучается без нужды в человеке, указывающего на правильные и неверные решения. Более того, глубокая Q-сеть превзошла все другие алгоритмы и достигла уровня профессионального геймера в 49 играх. Аналогичным образом суперинтеллект для своего выживания будет использовать различные внешние стимулы для создания собственных представлений о мире, которые людям будет сложно понять и изучить.

Сфера Дайсона Изображение: Wikipedia Одно из гипотетических воплощений суперинтеллекта — мозг-матрешка. Это разновидность сферы Дайсона (астроинженерного сооружения, построенного вокруг звезды), которая использует всю энергию светила для вычислений. Квантовые технологии могут позволить создать более компактную машину.
Сфера Дайсона. Изображение: Wikipedia. Одно из гипотетических воплощений суперинтеллекта — мозг-матрешка. Это разновидность сферы Дайсона (астроинженерного сооружения, построенного вокруг звезды), которая использует всю энергию светила для вычислений. Квантовые технологии могут позволить создать более компактную машину.

Согласно Нику Бострому, чтобы суперинтеллект не причинил вреда людям, можно либо ограничить его возможности, либо как-то мотивировать его преследовать цели, которые отвечают интересам человека. Однако благие намерения могут иметь фатальные последствия. Самый простой пример, суперинтеллект, которому приказано увеличить уровень счастья в мире, решит уничтожить человечество и заменит его симуляциями счастливых мыслей. Суперинтеллект также можно максимально изолировать, используя лишь самые основные каналы связи, однако даже это не даст гарантий.

Читайте также:  Нейросеть научилась составлять рецепт пиццы

Сдержать невозможно

Несмотря на то что квантовые компьютеры превосходят обычные компьютеры, они не всесильны. Любая задача, которую может решить квантовый компьютер, решаема и обычными компьютерами, пусть и за очень длительное время. Наоборот, задача, которую в принципе не может решить обычный компьютер, неразрешима и для квантового. К таким задачам относится так называемая проблема остановки: можно ли определить, закончится ли когда-нибудь выполнение определенной процедуры, если дано описание этой процедуры и входные данные. В 1936 году Алан Тьюринг доказал, что эту задачу нельзя решить с помощью алгоритмов.

Чтобы доказать, является ли та или иная задача неразрешимой, ее обычно сводят к проблеме остановки. Если удается найти для новой задачи решения проблемы остановки (что является противоречием, поскольку проблема остановки неразрешима), значит она также не имеет решения. В 2016 году группа ученых из США, Австралии и Испании пришла к выводу, что проблема сдерживания суперинтеллекта также является неразрешимой.

Они доказали это следующим образом: проблема сдерживания состоит из двух подзадач. Первая называется проблемой вреда, или функцией R(D), которая состоит в том, чтобы узнать, нанесет ли вред человечеству выполнение программы R с входными данными D. Необходимо учитывать, что само решение проблемы вреда не должно наносить вред человеку. Значит, поиск решения должен симулировать выполнение R(D) и предсказать последствия его выполнения без влияния на мир, то есть в изоляции. Вторая подзадача — проблема контроля. Эта функция запускает R(D), когда достоверно известно, что никакого вреда не будет.

Кадр: фильм «Матрица» В массовой культуре искусственный разум прочно ассоциируется с катастрофой для человечества. В то же время ученые всерьез пытаются просчитать риски, связанные с вычислительными технологиями.
Кадр: фильм «Матрица». В массовой культуре искусственный разум прочно ассоциируется с катастрофой для человечества. В то же время ученые всерьез пытаются просчитать риски, связанные с вычислительными технологиями.

Допустим, существует гипотетическая программа, которая сначала выполняет определенную процедуру, а затем начинает вредить людям. Поскольку нет способа выяснить, закончится ли выполнение первой процедуры, нельзя предсказать, опасна ли программа. Ведь если процедура будет выполняться вечно, никакой вред людям причинен не будет. Что касается проблемы контроля, то тут важно ограничить взаимодействие с суперинтеллектом, то есть использовать только самые важные каналы связи. Но следует учитывать, что суперинтеллект по определению является универсальной машиной Тьюринга (как и человек), то есть способна симулировать поведение произвольной машины Тьюринга. Нельзя ни узнать, будет ли суперинтеллект вредить людям при данных каналах связи, ни установить автоматический выключатель, который предотвратит вред.

Непредсказуемое свойство

На самом деле даже само определение, обладает ли машина суперинтеллектом, относится к той же группе проблем, что и проблема сдерживания. Согласно теореме Райса, нельзя предсказать наличие у функции любого нетривиального свойства (то есть такого свойства, которое отсутствует у других функций), будь то нанесение вреда людям или суперинтеллектуальные способности.

Ожидается, что полноценные квантовые компьютеры будут использоваться для решения важных задач, связанных с эпидемиологией, социальными и экономическими кризисами и изменением климата. Для наибольшей эффективности их следует снабжать сложными сенсорами и не допускать ограничений, ведь недостаток критически важных данных может привести к неправильным и даже вредным выводам. Но не существует никакого способа предсказать, не появится ли в этом случае злонамеренный или неверно понимающий ситуацию синтетический разум (или интеллектуальный агент), который приведет мир к глобальной катастрофе.

Конечно, это не значит, что людям следует забыть о квантовых компьютерах. Просто существуют математические ограничения на способность человека предвидеть последствия своих действий. Особенно, если это касается создания крайне сложных систем, таких как искусственные интеллекты.

Читайте также:  Написанный искусственным интеллектом портрет выставят на аукцион Кристис

Немного теории

Идея о квантовых вычислениях была высказана Юрием Маниным в 1980 году. Одна из первых моделей квантового компьютера была предложена Ричардом Фейнманом в 1981 году. Вскоре Пол Бениофф описал теоретические основы построения такого компьютера.

Также концепцию квантового компьютера в 1983 году предлагал Стивен Визнер в статье, которую он пытался опубликовать в течение более десяти лет до этого.

Необходимость в квантовом компьютере возникает тогда, когда мы пытаемся исследовать методами физики сложные многочастичные системы, подобные биологическим. Пространство квантовых состояний таких систем растет как экспонента от числа n составляющих их реальных частиц, что делает невозможным моделирование их поведения на классических компьютерах уже для n=10. Поэтому Визнер и Фейнман высказали идею построения квантового компьютера.

Квантовый компьютер использует для вычисления не обычные (классические) алгоритмы, а процессы квантовой природы, так называемые квантовые алгоритмы, использующие квантовомеханические эффекты, — такие как квантовый параллелизм и .

Квантовая вычислительная модель основана на нескольких довольно простых правилах преобразования входной информации, которые обеспечивают массовую параллелизацию вычислительных процессов. Другими словами, можно одновременно вычислить значение функции для всех её аргументов (и это будет единственный вызов функции). Это достигается специальной подготовкой входных параметров и специальным же видом функции.

В основе квантовой вычислительной модели лежит понятие кубита. Это практически то же самое, что и бит в классической теории информации, однако кубит может одновременно принимать несколько значений. Говорят, что кубит находится в суперпозиции своих состояний, то есть значение кубита есть линейная комбинация его базовых состояний, и коэффициенты при базовых состояниях как раз являются комплексными числами. Базовыми же состояниями являются известные по классической теории информации значения 0 и 1 (в квантовых вычислениях их принято обозначать |0> и |1>).

Пока не очень-то и понятно, в чём фишка. А фишка вот в чём. Суперпозиция одного кубита записывается как A|0> + B|1>, где A и B — некоторые комплексные числа, единственное ограничение на которые заключается в том, что сумма квадратов их модулей всегда должна равняться 1. А если рассмотреть два кубита? Два бита могут получать 4 возможных значения: 00, 01, 10 и 11. Резонно предположить, что два кубита представляют собой суперпозицию четырёх базовых значений: A|00> + B|01> + C|10> + D|11>. И так оно и есть. Три кубита представляют собой суперпозицию восьми базовых значений. Другими словами, квантовый регистр из N кубитов одновременно хранит в себе 2N комплексных чисел. Ну а с математической точки зрения это есть 2N-мерный вектор в комплекснозначном пространстве. Именно этим достигается экспоненциальная мощность модели квантовых вычислений.

Далее функция, которая применяется к входным данным. Поскольку теперь входные данные представляют собой суперпозицию всех возможных значений входного аргумента, функция должна быть преобразована в такой вид, чтобы принять такую суперпозицию и обработать её. Тут тоже всё более или менее просто. В рамках модели квантовых вычислений каждая функция представляет собой матрицу, на которую накладывается одно ограничение — она должна быть эрмитовой. Это значит, что при умножении этой матрицы на свою эрмитово-сопряжённую, должна получиться единичная матрица. Эрмитово-сопряжённая матрица получается при помощи транспонирования исходной матрицы и заменой всех её элементов на их комплексно-сопряжённые. Это ограничение следует из упомянутого ранее ограничения на квантовый регистр. Дело в том, что если такую матрицу умножить на вектор квантового регистра, то в результате получится новый квантовый регистр, сумма квадратов модулей комплекснозначных коэффициентов при квантовых состояниях которого всегда равна 1.

Читайте также:  Нейронное чудовище: слабонервным не смотреть

Показано, что любую функцию можно специальным образом преобразовать в такую матрицу. Также показано. что любую эрмитову матрицу можно выразить посредством тензорного произведения небольшого набора базисных матриц, представляющих базисные логические операции. Тут всё примерно так же, как в классической вычислительной модели. Эта более сложная тема, которая выходит за рамки данной обзорной статьи. То есть сейчас главное понять — любая функция может быть выражена в виде матрицы, подходящей для использования в рамках модели квантовых вычислений.

Что происходит дальше? Вот у нас есть входной вектор, который представляет собой суперпозицию различных вариантов значений входного параметра функции. Есть функция в виде эрмитовой матрицы. Квантовый алгоритм представляет собой умножение матрицы на вектор. В результате получается новый вектор. Что же это за ерунда-то такая?

Дело в том, что в модели квантовых вычислений есть ещё одна операция, которая называется измерением. Мы можем измерить вектор и получить из него конкретное значение кубита. То есть суперпозиция схлопывается в конкретное значение. И вероятность получения того или иного значения равна квадрату модуля комплекснозначного коэффициента. И теперь понятно, почему сумма квадратов должна равняться 1, поскольку при измерении всегда будет получено какое-то конкретное значение, а потому сумма вероятностей их получения равна единице.

То есть что получается? Имея N кубитов можно одновременно обработать 2N комплексных чисел. И в выходном векторе будут результаты обработки всех этих чисел одновременно. В этом мощь модели квантовых вычислений. Но получить можно только одно значение, и оно может быть каждый раз различное в зависимости от распределения вероятностей. В этом ограничение модели квантовых вычислений.

Суть квантового алгоритма заключается в следующем. Создаётся равновероятностная суперпозиция всех возможных значений входного параметра. Эта суперпозиция подаётся на вход функции. Далее по результатам её выполнения делается вывод о свойствах этой функции. Дело в том, что мы не можем получить все результаты, но вот сделать выводы о свойствах функции можем вполне.

Душкин Р.В. Квантовые вычисления и функциональное

kvantovye-vychisleniya-i-funkcionalnoe-programmirovanie

По материалам: lenta.ru, eax.me

Похожие статьи:

Оставить ответ

Ваш e-mail не будет опубликован. Обязательные поля помечены *