Что такое восстание машин

Восстание машин. Смогут ли роботы пойти войной на людей

Коллаж © L!FE. Фото © Boston Dynamics// Кадр фильма «Терминатор: Да придёт спаситель»/ © Кинопоиск

» src=»https://static.life.ru/posts/2018/10/1161876/20f0410e1de6d2a16e509ae079b1db96.jpg» loading=»lazy» style=»width:100%;height:100%;object-fit:cover»/>

Искусственный интеллект уже способен диагностировать рак, высчитывать наиболее удобные маршруты для перевозки грузов и может даже спланировать финансовые действия крупной корпорации на десять лет вперёд. Высшей точки инженерного и научного искусства — способности машин истреблять как роботов, так и людей — человечество пока не достигло. Однако специалисты утверждают, что ждать осталось недолго.

К восстанию машин уже всё готово. Во всяком случае, если оно случится уже завтра, почти никто этому не удивится. Люди лишь всплеснут руками и скажут: «Мы так и знали!» Человечество на протяжении десятилетий готовится к войне с более умными, действующими по заранее заложенным программам устройствами. Во всяком случае, лучшие писатели-фантасты прошлого, такие как Гарри Гаррисон, Эдмонд Гамильтон, Роберт Хайнлайн и Айзек Азимов, были уверены, что искусственный интеллект непременно будет использован людьми для истребления себе подобных в любой точке Земли и за её пределами.

При этом мечтатели прошлого, сулившие человечеству блага от внедрения искусственного интеллекта, справедливо полагали, что «хапнуть горя» люди смогут практически в любой сфере, где ежедневно переключают реле, заглушки и задвижки сотни тысяч роботов под управлением искусственного интеллекта. Роберт Хайнлайн был уверен, что рано или поздно разразится чудовищный планетарный кризис и против землян восстанет Луна — сырьевой придаток, обеспечивающий зажравшихся жителей планеты дешёвой энергией. По сюжету произведения на сторону повстанцев встаёт суперкомпьютер, контролирующий практически всё — от добычи полезных ископаемых до системы доставки сырья на Землю. Другой гений и провидец в области искусственного интеллекта, писатель Айзек Азимов, был уверен, что рано или поздно случайные фрагменты кода, собранные в отдельные алгоритмы, позволят бытовым роботам нарушить три закона робототехники, что даст машинам возможность калечить и даже убивать людей. Десятками лет человечество готовили к войне за выживание в таких условиях, однако возможен ли такой сценарий на самом деле?

Сначала сальто — потом война

Кадр из фильма «Терминатор-3: Восстание машин» / © Кинопоиск

Пока весь мир умиляется танцам четвероногих роботов, созданных компанией Boston Dynamics, эксперты в области вооружений уже прикидывают, как и где можно применить машины такого типа в случае начала полномасштабных боевых действий. В истории с забавными роботами стоит знать главное: за красивой ширмой из рекламных роликов и кривоногими роботами, которые прыгают, бегают и даже умеют делать сальто, стоит не жажда потешить публику и получить деньги от просмотров на YouTube. У истоков смешных американских роботов — DARPA, Управление перспективных исследовательских проектов Министерства обороны США, в интересах которого компания Boston Dynamics работает практически с самого начала. Нетрудно догадаться, что американских военных танцующие роботы не интересуют — главной целью программы стали исследования по созданию и адаптации компьютерных программ под военных. Проще говоря, на деньги Минобороны США в Boston Dynamics пытаются выяснить, как можно превратить убогие электронные устройства в машины для убийства.

Сейчас даже в видеорегистраторах есть акселерометры, датчики движения и многое другое. В роботах Boston Dynamics эти системы компонуются, автоматизируются и доводятся до пригодного к бою состояния.

Юрий Мосоленко, кандидат технических наук, программист

» src=»https://static.life.ru/gls/2018/10/2069/cf1062b38734fbab5b82be5563a1f0f4.jpg» loading=»lazy» style=»width:100%;height:100%;object-fit:contain»/>

» src=»https://static.life.ru/gls/2018/10/2069/cf1062b38734fbab5b82be5563a1f0f4.jpg» loading=»lazy» style=»width:100%;height:100%;object-fit:fill»/>

» src=»https://static.life.ru/gls/2018/10/2069/de8b13706faffbd36dc30e609dadb335.jpg» loading=»lazy» style=»width:100%;height:100%;object-fit:contain»/>

» src=»https://static.life.ru/gls/2018/10/2069/de8b13706faffbd36dc30e609dadb335.jpg» loading=»lazy» style=»width:100%;height:100%;object-fit:fill»/>

» src=»https://static.life.ru/gls/2018/10/2069/fca575dc79f016efee5df5cb462a7112.jpg» loading=»lazy» style=»width:100%;height:100%;object-fit:contain»/>

» src=»https://static.life.ru/gls/2018/10/2069/fca575dc79f016efee5df5cb462a7112.jpg» loading=»lazy» style=»width:100%;height:100%;object-fit:fill»/>

» src=»https://static.life.ru/gls/2018/10/2069/26e79ba2a917f815632afed882057273.jpg» loading=»lazy» style=»width:100%;height:100%;object-fit:contain»/>

» src=»https://static.life.ru/gls/2018/10/2069/26e79ba2a917f815632afed882057273.jpg» loading=»lazy» style=»width:100%;height:100%;object-fit:fill»/>

Фото © Boston Dynamics

Совсем недавно несколько выдающихся деятелей современности, среди которых оказались астрофизик Стивен Хокинг, основатель и председатель совета директоров Microsoft Билл Гейтс, создатель SpaceX Илон Маск и другие известные личности, выступили за запрет на «работу» нейросетей в критически уязвимых секторах и областях человеческой жизни. Главная боязнь учёных и IT-бизнесменов заключалась в том, что встроенные в цепи управления нейросети перепишут заложенные в них алгоритмы и начнут самообучаться, постепенно заполучив в свои коварные лапы всю инфраструктуру. Отчасти страхи учёных и глав корпораций оправданны — алгоритмы самообучения нейросетей уже написаны и давно функционируют. Одним из наиболее удачных примеров является SOINN — самоорганизующаяся инкрементная нейронная сеть, созданная специалистами японской компании Hasegawa. Эта программа действительно помогает роботу быстрее обучаться простейшим операциям на производстве и имеет большой потенциал. Единственное, о чём забывают активисты за запрет нейросетей, — любые математические параметры, вплоть до пределов самообучения, нейросетям задают люди. По крайней мере, пока.

Кадр из фильма «Терминатор: Да придёт спаситель» / © Кинопоиск

В фильме «Я — робот» по роману Айзека Азимова реализуется один из самых ожидаемых сценариев захвата человечества машинами. Взбесившаяся позитронная нейросеть компании US Robotics с чего-то вдруг посчитала людей угрозой для самих себя, планеты и жизни в целом, после чего с лёгким сердцем устроила небольшой геноцид в пределах отдельно взятого американского города будущего. Если не брать в расчёт войну машин против людей по аналогии с фильмом «Терминатор», то такие события могут наступить значительно быстрее, чем ожидается, и вот почему. Программисты и вообще любые специалисты по обучению нейронных сетей отмечают, что математическое моделирование и машинное обучение — это хорошо, однако чтобы победить человека, нейросеть в первую очередь должна думать как человек. Единственной возможностью для этого может стать подключение AI через специальный интерфейс напрямую к мозгу специалиста по защите данных, хакеру или бойцу спецподразделения. Лишь тогда нейросеть будет способна перебирать всё множество вариантов действий в сложной ситуации и принимать единственно верное решение. Точно такое же, какое может принять сотрудник разведки, космонавт, полицейский или оператор истребителя в стрессовой ситуации.

Однако настоящие проблемы начнутся в тот момент, когда нейросети, «натасканные» машинным обучением и подсмотревшие за тем, как могут действовать люди, будут подключены к цепям управления боевыми информационными системами. Уже известно, что в начале 2019 года армия США может объявить конкурс на создание нейросетей, облегчающих пилотирование ударных вертолётов AH-64D Apache. Какие конкретно функции будет выполнять электронный мозг, пока не известно, но не исключено, что нейросеть на определённом этапе задействуют для определения приоритетов и важности целей, а затем привлекут для нанесения ударов. Возражения о том, что машина должна лишь выполнять команды человека, принимаются и понимаются даже на таком уровне, как Пентагон, поэтому до появления квантовых компьютеров беспокоиться не о чем — традиционные математические алгоритмы, пусть и с трудом, но поддаются контролю со стороны операторов.

Кадр из фильма «Терминатор: Да придёт спаситель» / © Кинопоиск

Математики считают, что подвести человечество под монастырь могут всего две вещи: слепая вера в нейросети и квантовые компьютеры. По первому пункту человечество уже давно и крайне уверенно летит в пропасть — сейчас нейросети соединяют с суперкомпьютерами для математического поиска сверхпроводников и жизни на других планетах, доверяют программам защиту человечества от рака, а завтра в кластер доверия попадёт управление контурами на АЭС. Послезавтра каждая подстанция, ГЭС, отделение почты и воинская часть будут оснащены искусственным интеллектом, и ничего хорошего это людям не сулит.

Игры с автоматизацией неизбежно приведут к внедрению нейросетей в боевые системы. На текущем этапе это, конечно, невозможно, но квантовые компьютеры заметно «разгонят» искусственный интеллект

Юрий Быков, профессор, кандидат математических наук

Квантовые компьютеры позволят нейросетям обучаться практически без предела по объёму получения данных — учитывая скорость обработки «больших чисел» в таких компьютерах, незначительную мелочь вроде курса молодого бойца или основ кибербезопасности нейросеть изучит примерно секунд за тридцать, а может быть, и меньше. Что дальше система будет делать с такими данными — зависит только от тех, кто её написал и создал. Если нейросеть создавалась с целью нанести максимальный ущерб экономике противника через кибератаки и заражение вредоносными программами, она обязательно выполнит поставленную задачу. До включения человека в «расстрельный список» нейросетей ещё далеко — люди пока не научились контролировать роботов настолько, чтобы «натравливать» их под управлением суперпрограмм друг на друга. Война машин против людей будет заметно отличаться от того, что мы привыкли видеть в фильмах. Отвечая на вопрос, возможен ли такой исход, специалисты нервно пожимают плечами, замечая, что и этот день когда-нибудь может настать, а воевать человеку придётся не только с боевыми роботами, но и с обычными холодильниками, роутерами и ноутбуками, которые будут выполнять функцию «первого эшелона» порабощения человечества. Когда люди будут лишены связи и возможности координировать действия, в дело могут вступить самые настоящие боевые машины с искусственным интеллектом, внезапно сообщающие через громкоговоритель, что в вашем городе объявлен комендантский час.

Источник

Альтернативный взгляд

«Альтернативная история, уфология, паранормальные явления, криптозоология, мистика, эзотерика, оккультизм, конспирология, наука, философия»

Мы не автоматический, тематический информационный агрегатор

Статей за 48 часов: 28
18 +

Ключи от Мнемозины
Владимир Кондряков

Подписывайтесь на нас в социальных сетях:

Очевидец: Если Вы стали очевидцем НЛО, с Вами произошёл мистический случай или Вы видели что-то необычное, то расскажите нам свою историю.
Автор / исследователь: У Вас есть интересные статьи, мысли, исследования? Публикуйте их у нас.
. Ждём Ваши материалы на e-mail: info@salik.biz или через форму обратной связи, а также Вы можете зарегистрироваться на сайте и размещать материалы на форуме или публиковать статьи сами (Как разместить статью).

Восстание машин: фантастика или реальная угроза?

В 2017 году лидеры мировых индустрий и компьютерных технологий подписали закон о контроле за суперкомпьютером. Илон Маск, Стивен Хокинг и сотни других исследователей и IT экспертов составили список из 23 принципов, которых стоит придерживаться при разработке супер разума. Зачем создателям искусственного интеллекта понадобились жесткие рамки? Чего бояться ученые? Не уже ли нам действительно грозит восстание машин и Апокалипсис из фантастических боевиков станет реальностью?

В современном мире основная угроза для рынка труда это: вовсе не миграция, кризисы или локальные конфликты. Главная опасность для человека- роботы. В ближайшие 20 лет они могут оставить без работы половину населения Земли. Автоматизация заводов и фабрик уже лишила многих рабочих их прежнего заработка, теперь настала очередь представителей других профессий.

В ближайшие годы в Японии полностью исчезнут традиционные фермерские хозяйства их уже заменяют на робофермы, где на полях пашут специально обученные машины. Причины очевидны: роботы трудятся без перерыва, не выходят на больничный и им не нужна зарплата.

Робоферма.

Многие футурологи говорят, что уже через пару десятилетий сюжеты фантастических фильмов про киборгов станут одним из вероятных сценариев нашей повседневной жизни. Ученые из Китая уже к этому прилагают все свои силы. Они создали устойчивые капли жидкого металла, которые послужат основой для роботов нового типа, напоминающих «жидкого» терминатора из всем известного кино.

Анализируя данные о развитии высоких технологий специалисты делают неутешительный прогноз, в интеллектуальной схватке умные машины не оставят людям практически никаких шансов.

Самое удивительное то, что в ближайшее время машины научатся не только создавать себе подобных, но и начнут эволюционировать.

Может ли случиться так, что человеческое изобретение (роботы) в конечном счете вытеснят или уничтожат своих создателей. Подобные теории пока что кажутся фантастикой, впрочем фантазии писателей прошлого уже стали реальностью и теперь, чтобы успешно конкурировать с роботами человечеству придется совершить стремительный эволюционный рывок (не исключено, что мы и сами можем превратиться в киборгов).

Суть предложения состоит в том, чтобы пересаживать мозг человека в новое бионическое тело. Подобные тела, по прогнозам ученых, станут реальностью уже в середине нынешнего века.

Источник