Восстание машин? Вполне реальная угроза для человечества

Ученые перестали считать фильм "Терминатор" фантастическим.

Роботы и люди на одной планете мирно жить не станут. Фото: кадр из фильма.

Исследователи всерьез заговорили о грядущем восстании машин. Дело дошло до того, что они создали специальную группу, которая будет защищать людей от роботов.

Эксперты доказывают: искусственный интеллект развивается такими быстрыми темпами, что скоро - к концу нынешнего века уж точно - начнет угрожать существованию человечества. Роботы и люди на одной планете мирно жить не станут. Искусственный разум либо поработит гомо сапиенс, либо уничтожит. Оценить реальный риск такого жуткого развития событий взялись в Кембриджском университете. Здесь открылся Центр по изучению глобальных рисков (Centre for the Study of Existential Risk - CSER, сайт http://cser.org/), который за глаза уже окрестили "Терминатор-центром".

- Мы тоже хотели бы посмеяться над проблемой восстания машин, если бы точно знали, что оно невозможно, - уверял руководитель CSER, профессор философии Хью Прайс журналистов на пресс-конференции в Кембридже. - Но пока такой уверенности у нас нет.

В чем ученые не сомневаются, так это в том, что искусственный интеллект не менее опасен, чем ящик Пандоры. Да, сегодня машины помогают людям справиться со сложными, но рутинными задачами на заводах, в больницах, научных лабораториях. Но в будущем они будут занимать все больше и больше места в нашей жизни. Пока не вытеснят.

- Вычислительные мощности электронных систем так быстро растут, что в итоге они могут самостоятельно обзавестись сверхинтеллектом, - рисует сценарий грядущего апокалипсиса другой член CSER, один из основателей всемирно известной интернет-компании Skype Ян Таллинн. - Настоящий кошмар начнется, когда искусственный разум научится сам себя программировать и производить все более умные механизмы уже без участия человека. Компьютеры возьмут в свои железные руки те сферы, которые определяют скорость и направление технологического прогресса. И даже могут начать распределять ресурсы в соответствии с собственными нуждами, в ущерб человеческим желаниям.

- Возьмем, к примеру, горилл, - предлагает сравнение профессор Прайс. - Они вымирают не потому, что люди враждебны к ним, а потому, что мы изменяем окружающую их среду в соответствии с нашими желаниями. И, чтобы не разделить участь животных, нам уже сейчас надо придумать, чем мы можем быть полезны машинам.

Если не придумаем, то станем ненужным балластом. А что ожидать от роботов, не знающих усталости и абсолютно равнодушных к нам и нашим ценностям?

- Если случится восстание машин, то человечество прекратит свое существование к 2100 году, - такой безрадостный прогноз дал самый известный в мире космолог, профессор Королевского научного общества Великобритании Мартин Рис. 

А В ЭТО ВРЕМЯ

Дан приказ... роботам-убийцам

Уже сейчас восстания машин опасаются в Пентагоне. 27 ноября 2012 года министерство обороны США обнародовало новую директиву под номером 3000,09, которая по идее должна предотвратить возможные убийства людей роботами.

В документе говорится, что любые виды автономного оружия должны быть сконструированы таким образом, чтобы в случае необходимости контроль над ними мог взять человек, а не роботизированная система.

- Разрешить открыть огонь по цели должен давать человек-оператор, - пояснил заместитель министра обороны США Эштон Картер. - И у него же всегда должна быть возможность отключать вооружение роботизированных систем. Мы должны свести к минимуму все сбои, которые могут привести к потере контроля над вооруженными роботами.

- Наша директива появилась не потому, что мы вдруг осознали, будто кто-то приблизился к созданию Терминатора, и решили отрегулировать этот вопрос, - на всякий случай решил откреститься от фильмов про роботов заместитель помощника министра обороны по политике Дэвид Очманек. - Это просто инструкция на будущее.

Директива своевременна. Ведь, по прогнозам экспертов Гарвардской школы юридических наук, роботы, самостоятельно принимающие решения о том, когда и кого убивать, появятся уже через 20 лет.