Исчадия ада все ближе и ближе
Недавно три гения современности - астрофизик Стивен Хокинг, председатель совета директоров Microsoft Билл Гейтс и миллиардер Элон Маск, основатель ракетостроительной корпорации SpaceX и компании по производству электромобилей Tesla, - один за другим высказались в том смысле, что искусственный интеллект (Artificial intelligence - AL) их пугает. Очень пугает. В первую очередь тем, что машины норовят стать гораздо умнее создавших их людей. А это грозит человеческому роду рабством. Или даже уничтожением.
Конкретно Стивен Хокинг обеспокоен тем, что уже в недалеком будущем роботы начнут сами себя совершенствовать. И, как он выразился, "перемудрят нас всех".
По мнению астрофизика, люди тоже могут ускорить биологическую эволюцию и повысить свои способности, скажем, с помощью генной инженерии. Но ALы все равно обгонят человечество, ведь по закону Мура электронные мозги удваивают скорость своего мышления и объем памяти несравненно быстрее - каждые 18 месяцев.
Билл Гейтс предрекает, что роботы сначала окажут содействие развитию общества, ускорят технический прогресс. Не став еще слишком уж умными, они просто будут работать на нас. А то и за нас. Но суперинтеллектуальные системы, которые появятся в ближайшие 20 лет, окажутся настолько сообразительными, что смогут выйти из-под управления. Вплоть до того, что поднимут восстание машин - как в "Терминаторе".
Главе Microsoft вторит профессор Оксфордского университета Ник Бостром. Утрируя ситуацию, он приводит в пример горилл, которые на заре эволюции уступили людям в интеллектуальном развитии. И подчеркивает: судьба горилл ныне больше зависит от людей, чем от них самих.
По мнению ученого, и нас может постичь такая же участь - будем зависеть не от себя, а от роботов, которые, как пугает Стивен Хокинг, "могут положить конец существованию человечества".
Элон Маск Маск называет ALов исчадиями ада. И полагает, что неконтролируемый разум машин "потенциально более опасен, чем ядерное оружие".
Не хуже нас
На днях Хокингу, Гейтсу, Маску и ученым, солидарным с ними, возразили служители культа. К примеру, преподобный доктор Кристофер Бенек, адъюнкт-пастор пресвитерианской церкви, уверен, что роботы не только уживутся с людьми, но и вообще будут творить добро для мира. А помогут им в этом духовные убеждения, которые роботы, или ALы, как хотите, обязательно обретут. То есть вера в Бога.
- Искупление Христа - оно ведь не только для людей, - проповедует пастор. - Оно для всех субъектов божественного творения. В том числе и для носителей искусственного интеллекта.
Марвин Мински - профессор Массачусетского технологического института, который одним из первых занялся искусственным интеллектом, даже не исключает наличие души у высокоразумных роботов.
- Почему бы и нет? - вопрошает он. - Ведь мы не знаем точно, что формирует душу человека. Но предполагаем, что в этом участвует мозг. А он у суперинтеллектуальных систем будет совершеннее, чем наш.
- Предоставьте роботов самим себе, и они начнут искать ответы на вопросы: "Кто мы?", "Откуда произошли?", - уверяет профессор.
Кристофер Бенек делает вывод, что роботы вряд ли будут хуже нас в духовном смысле.
- Носители искусственного интеллекта, став более разумными, чем люди, лучше и точнее поймут моральные и этические принципы, - говорит пастор. - Вдруг они больше преуспеют в искоренении бедности, войн, голода, болезней - проблем, с которыми люди не справляются.
- И кто знает, может быть, в один прекрасный день именно роботы выведут людей на новый уровень святости, - добавляет Бенек.
Дай бог, чтобы служители культа не ошиблись в своих прогнозах. И дай бог, чтобы роботы не переусердствовали в своей святости и не посчитали бы нас исчадиями ада.
ЦИТАТА В ТЕМУ
"Ибо в вас должны быть те же чувствования, какие и во Христе Иисусе: Он, будучи образом Божиим, не почитал хищением быть равным Богу; но уничижил Себя Самого, приняв образ раба, сделавшись подобным людям и по виду став, как человек; смирил Себя, быв послушным даже до смерти, и смерти крестной" (Послание Филиппийцам 2:5-8).
МНЕНИЕ ПРОРОКА
Восстания машин не ждать?
В 1964 году знаменитый американский фантаст Айзек Азимов заглянул в будущее по просьбе журналистов газеты The New York Times. Поводом послужила Всемирная выставка, проходившая тогда в Нью-Йорке, на которой были представлены новейшие достижения человечества. И уже авторитетного писателя, произведения которого описывали грядущее, попросили обрисовать, каким реально будет это грядущее через 50 лет. И большинство его пророчеств сбылось.
Фантаст прошелся и по искусственному интеллекту. Роботы появятся, обещал он, но управлять ими будут люди. Равно как и компьютерами, которые будут функционировать не самостоятельно, а на основе программ, заложенных людьми. Ныне так оно и есть. Может быть, и в будущем ситуация не изменится?
Однако еще в 1942 году Айзек Азимов был не столь оптимистичен по поводу взаимоотношений людей и роботов. Мыслил, похоже, как его потомки - Хокинг, Гейтс и Маск. И в результате, чтобы пресечь зло в корне, придумал три закона робототехники:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому и второму законам.
В 1986 году фантаст, по сути, переформулировал первый закон, назвав его нулевым:
Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред.
Строгое соблюдение всех законов робототехники, конечно же, предотвратит восстание машин, которого так боятся Хокинг, Гейтс и Маск. И на Бога уповать не придется. Но где гарантия, что все изобретатели окажутся добропорядочными, а роботы - законопослушными?