Google учится контролировать возможное восстание машин
Серьезные ученые с серьезным финансированием тратят свое время на, казалось бы, научную фантастику - научиться подавлять восстание машин. Подразделение самой большой в мире ай-ти компания Google (Гугл), под названием Google DeepMind, занимается проектом "красной кнопки" которая сможет, как верят его создатели, остановить разбушевавшийся искусственный интеллект. Об этом сказано в недавно опубликованном отчете компании.
Британское подразделение цифрового гиганта Google DeepMind стало известной благодаря созданию виртуальной программы для игры в го. Эта машина впервые обыграла человека-игрока в го, пи чем учась от хода к ходу на ошибках самого человека. Сейчас Google DeepMind совместно с Институтом будущего человечества (FoH.) из Оксфорда занимается, казалось бы, сценарием для седьмой части фильма "Терминатор". Но инженеры и программисты верят, что их работа принесет плоды, и вот какие.
Если очень утрировать и обобщать доклад, то все выглядит таким образом. Ученые работают над системой программ, которые в один момент остановят по всему миру возможное "восстание машин". И программы должна быть действительно экстренными - одно нажатие на "красную кнопку" и все потуги искусственного интеллекта уничтожить человечество окажутся разрушены.
Если какой нибудь реальный прототип терминаторского "Скайнета" решит запустить все атомные ракеты США, Китая, России Франции друг на друга для самоуничтожения человечества, то в комфортном офисе Google DeepMind нажмут кнопку "стоп". И ракеты дальше своих шахт никуда не денутся. А злой искусственный интеллект сочтет, что он уже все выполнил, ослабит свою защиту и его обезвредят программисты.
Но не все так однозначно. Пакет программ "красной кнопки" сможет быть использован и в не экстренных случаях, а вполне мирных и рядовых, для решения непосредственных задач. Например, мягко скорректировать робота-грузчика не ходить "отдохнуть" на улицу, если идет дождь, который может ему повредить.
- Возможность безопасно прервать систему может пригодиться в ситуациях, когда робот выходит из-под контроля, или в какой-то деликатной ситуации, или для временного использования, чтобы заставить робота выполнить задание, которому он не обучался и за которое не сможет получить вознаграждение, - сказано в отчете компании.
Есть и третий вариант, не названный в отчете. Если Гугл сможет остановить все одной кнопкой, то не является ли эта кнопка сама по себе угрозой?
ЧИТАЙТЕ ТАКЖЕ
В мире насчитывается около 1,6 млн роботов. В основном они используются в промышленности. Но в ближайшие 10 - 15 лет ожидается настоящий бум производства электронных помощников
В США испытывают первые в мире боевой корабль-робот
"Морской охотник" предназначен для автономного патрулирования обширных акваторий. Его специализацией является обнаружение и уничтожения дизель-электрических подводных лодок противника.
