Сколько лет осталось до «восстания машин»?

На днях основатель компаний SpaceX и Tesla, видный канадско-американский инженер и предприниматель Илон Маск, в очередной раз высказал опасения по поводу стремительного развития технологий разных стран в сфере искусственного интеллекта. 

Стоит отметить, что подобные заявления из уст (а точнее, соцсетей) Маска звучат далеко не впервые. В этот раз поводом для его тревоги послужили слова главы РФ Владимира Путина, который упомянул о важности создания искусственного интеллекта. 

«Искусственный интеллект – это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы», – сказал президент. Маск, судя по всему, уловил только последнюю часть фразы и не преминул отреагировать в своем «Твиттере». «Китай, Россия, вскоре все страны станут сильными благодаря высокому уровню развития компьютерных наук. Гонка за лидерство в сфере искусственного интеллекта, скорее всего, на мой взгляд, приведет к Третьей мировой войне», – с тревогой заметил бизнесмен.

На заявление Маска тут же отреагировали мировые СМИ, а в американской газете Bloomberg даже вышла статья под названием «Отнеситесь серьезно к словам Илона Маска об угрозе со стороны России в области искусственного интеллекта».

Стоит ли в самом деле опасаться восстания машин и можно ли его предотвратить? Об этом «История.РФ» попросила рассказать Олега Демидова, консультанта ПИР-Центра – авторитетной организации, занимающейся вопросами международной безопасности, включая темы информационной безопасности и глобального управления интернетом.

– Олег, стоит ли всерьез воспринимать слова Маска о глобальной угрозе искусственного разума?

– Заявление Маска надо рассматривать, скорее, применительно к долгосрочному временному горизонту. Маск – деятель-визионер, он привык мыслить долгосрочными категориями и делать исходя из этого свои заявления. Если посмотреть предыдущие громкие медийные поводы, которые он давал, то он, к примеру, предлагал Марс терраформировать* и еще что-то сделать такого порядка. Вот это заявление про угрозу развязывания Третьей мировой войны искусственным интеллектом – это заявление, которое тоже надо рассматривать в контексте долгосрочного временного горизонта.

– Сколько времени должно пройти, прежде чем искусственный интеллект сможет стать реальной угрозой для людей?

– Двадцать, тридцать лет и больше.

– На сегодняшний день восстания машин можно не опасаться?

– Сейчас у нас такой проблемы нет. Собственно, у нас нет и полноценного, сильного в его программистском понимании искусственного интеллекта. Его создание в ближайшие годы под вопросом; пока непонятно, как к нему прийти. Все, что мы имеем сейчас в плане реальных угроз, связанных с автоматизированной техникой, с техникой, которая использует какое-то программное обеспечение с элементами искусственного интеллекта, – это угроза либо взлома такой техники, либо просто каких-то каскадных ошибок, вызванных ошибками в коде.

– Что, если такой сбой произойдет при работе военной техники?

– В принципе, к каким-то инцидентам с вооружениями это привести может. Например, если мы представим себе ситуацию какой-то критической программной ошибки в программном обеспечении, которое обеспечивает управление комплексной военной техникой, например такой, как ракетная артиллерия или система противовоздушной обороны, то это может повлечь какие-то последствия. Особенно если по каким-то причинам там произойдет некорректное распознавание цели и, например, какой-то гражданский объект, например гражданский воздушный борт, будет распознан системой как военная цель. То есть, в принципе, такие моменты возможны, они даже могут быть очень серьезными, могут провоцировать какие-то международные кризисы. Но это не развязывание войны искусственным интеллектом, это не то, о чем надо говорить.

– Даже в Америке отмечают, что крупные российские IT-компании, такие как «Яндекс» и Mail.ru Group, вкладывают огромные средства в научные исследования в области искусственного интеллекта и создают продукты на базе нейронных сетей. Так ли это? Насколько активно идет процесс инвестирования в данной области?

– Да, самообучающиеся сети, сервисы, образцы программного обеспечения – сейчас большой тренд на рынке. В гражданской сфере это находит применение в различных нишах. Например, боты, способные заместить человеческий персонал при выполнении каких-то простых диалогов, продаже простых услуг, совершении простых транзакций, и другие гражданские коммерческие применения. Ну и конечно, определенный интерес к этому испытывают военные, которые вкладываются в разработки с элементами искусственного интеллекта. Все вкладываются по мере возможностей, это магистральное направление инвестиций.

* Терраформирование (лат. terra – земля и forma – вид) – изменение климатических условий планеты, спутника или же иного космического тела для приведения атмосферы, температуры и экологических условий в состояние, пригодное для обитания земных животных и растений.