Новый сценарий конца света: человечество погибнет из-за восстания роботов
Кто бы мог подумать, что, замирая от страха и восхищения перед несокрушимой мощью экранного Терминатора почти тридцать лет назад, сегодня мы фантастического робота-убийцу будем бояться на самом деле. Ученые всерьез заговорили о грядущем восстании машин. Они уверены: искусственный интеллект развивается такими быстрыми темпами, что скоро - к концу этого века уж точно - начнет угрожать существованию человечества. Роботы и люди на одной планете не уживутся. И искусственный разум может поработить гомо сапиенс. Или уничтожить.
Оценить реальный риск такого жуткого развития событий взялись эксперты из Кембриджского университета. Они создали Центр по изучению глобальных рисков (Centre for the Study of Existential Risk — CSER, сайт cser.org), который за глаза уже окрестили "Терминатор-центром". Команда из 15 ученых будет изучать развивающиеся технологии и определять их степень опасности для человеческой цивилизации.
- Мы тоже хотели бы посмеяться над проблемой восстания машин, если бы точно знали, что оно невозможно, - уверяли ученые журналистов на состоявшейся в Кембридже пресс-конференции. - Но пока такой уверенности у нас нет. Поэтому мы хотим, чтобы над этим подумали серьезные ученые, а не только писатели-фантасты.
ПРОГНОЗЫ ЭКСПЕРТОВ
"ЛЮДИ ИСЧЕЗНУТ ЧЕРЕЗ СТО ЛЕТ"
Профессор Королевского научного общества Великобритании, космолог Мартин Рис:
- Согласно моим прогнозам, человечество может прекратить свое существование к 2100 году. Угроза для человечества кроется в том, что вычислительные мощности современных компьютеров постоянно наращиваются. Это может привести к появлению глобального искусственного интеллекта, который сможет сам себя программировать и производить механизмы и роботов без участия человека. В итоге электронные системы обзаведутся интеллектом, и гомо сапиенс больше не будет самым умным. Мы рискуем оказаться во власти машин, которые не злонамеренны, но чьи интересы не включают нас. Компьютеры возьмут в свои руки те сферы, которые определяют скорость и направление технологического прогресса. Последствия могут быть катастрофическими.
"ТАКОГО СЦЕНАРИЯ КОНЦА СВЕТА НИКТО НЕ ПРЕДВИДЕЛ"
Один из основателей всемирно известной интернет-компании Skype Ян Таллинн:
- Времена холодной войны прошли, риск ядерной катастрофы стал намного ниже. Однако теперь выживанию человечества угрожают компьютеры и искусственный интеллект. Когда они обгонят по уровню интеллекта людей, то неизвестно, чего захочется машинам, не знающим усталости и не наделенным какими-либо эмоциями. Люди рискуют потерять контроль над планетой, поскольку роботы равнодушны к нам и к тому, что мы считаем ценным. Например, централизованное управление уже сейчас разрабатывается американскими военными специалистами и это почти точный аналог того искусственного разума, что мы можем видеть в фильме "Терминатор".
"ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ - ЭТО ЯЩИК ПАНДОРЫ"
Профессор философии Кембриджского университета Хью Прайс:
- Уже сегодня существуют машины, которые превзошли человека в шахматах, полетах, вождении, в коммерческих операциях, речи. Есть и те, что уже способны распознавать рукописный текст. Пока роботы помогают нам справиться со сложными, но рутинными задачами. И в будущем зависимость человека от машин неизбежна. Но полагаться на милость кибернетических помощников людям не стоит. Изобретение искусственного интеллекта может стать новым ящиком Пандоры. Основная опасность заключается в том, что однажды компьютеры начнут распределять ресурсы в соответствии с собственными нуждами, в ущерб человеческим желаниям. Возможно даже, что человечеству придется сражаться за ресурсы с доминирующим видом. Возьмем, к примеру, горилл. Они вымирают не потому, что люди враждебны к ним, а потому что мы изменяем окружающую их среду в соответствии с нашими желаниями. Мы должны уже сейчас придумать, почему машинам будем мы нужны.
