Искусственный интеллект отберет у нас будущее?

Искусственный интеллект отберет у нас будущее?

Как менялось наше представление: в 1980 Электроник мечтал стать человеком, совершая добрые дела... Фото: кадр из фильма «Приключения Электроника»

"КП" в Украине" изучала, в каких отраслях искусственный интеллект (ИИ) уже заменяет человека и стоит ли бояться его в будущем. 

Угроза 1 

У нас отнимут работу

Сейчас ИИ окружает нас достаточно незаметно. По большому счету в современном понимании искусственный интеллект пока еще и вовсе не интеллект - это набор программ, которые помогают нам во многих случаях жизни. Говорите со своим телефоном (Сири)? Искали вчера холодильник, а сегодня на каждой интернет-странице их реклама? Купили "умный дом"? Это все тоже можно считать применением ИИ. 

И это не страшно, а очень полезно. Уже сейчас некоторые статьи на сайтах пишут боты. А в ближайшем будущем появятся автомобили, которым будут не нужны водители: ИИ быстрее среагирует на препятствие, предпримет действия. ИИ не напьется за рулем! Правда, здесь уже начинают возникать слабые, но вполне обоснованные чувства ревности человека к набору алгоритмов - "машины" лишат работы журналистов и водителей. А потом еще очень многих специалистов - бухгалтеров, грузчиков, официантов, продавцов, секретарей. 

Казалось бы - и слава богу: ну ее ту работу! Тем более что даже такие гиганты мысли, как Билл Гейтс, считают, что роботы должны платить налоги, чтобы на них содержать безработных. Почти утопия и мир будущего - пойдем все в художники, будем петь песни и рисовать. И тратить деньги, заработанные роботами. 

Есть только две проблемы. Эти умники уже научились и рисовать. 20 января Microsoft представила новую технологию ИИ, которая способна рисовать, основываясь на письменном описании объекта. Как же так, Билл, ты же был за нас? 

И вторая проблема гораздо хуже. Мы не сможем все время ничего не делать. Другой гений современности Илон Маск считает это огромным вызовом - человечеству придется пройти период болезненной адаптации к ничегонеделанию. И если люди начнут осознавать свою "бесполезность" - тут недалеко и до психозов и массовых самоубийств. 

И все же все это пока не выглядит страшно, нельзя всерьез бояться, что нас завоюют умные холодильники. Почему же тогда так обеспокоены всемирно известный физик Стивен Хокинг, Илон Маск и даже писатель Дэн Браун? 

Илон Маск и Стивен Хокинг уверяют, что нужно прекратить или ограничить опыты с искусственным интеллектом. Потому что это угрожает вообще существованию человечества. Маск говорит, что ИИ - это страшнее, чем автокатастрофы и падения самолетов, опаснее, чем Северная Корея. Это может привести к Третьей мировой, а дальше и к истреблению человечества. Слова Хокинга тоже не отличаются оптимизмом, он подчеркивает, что нам нужно искать новые планеты для жизни, поскольку человечество может не дожить до конца этого тысячелетия, а относительно искусственного интеллекта заявил: когда роботы превзойдут людей в интеллекте, то мы проиграем, потому что люди ограничены рамками биологической эволюции и не смогут тягаться с машинами.

А большие проблемы начнутся тогда, когда ИИ станет самообучающимся. Никто не сможет узнать - что же он там себе придумал. 

... в 2015 году робот Ава убивает людей, чтобы вырваться на свободу. Фото: кадр из фильма "Из машины"

Угроза 2 

Они учатся лгать и воевать

Ложь - универсальное поведение. Люди делают это постоянно, и даже некоторые животные, как белки или птицы, прибегают к ней ради выживания. Ученые из Технологического института Джорджии разработали роботов с искусственным интеллектом, способных обманывать и лгать. Исследовательская группа под руководством профессора Рональда Аркина надеется, что их роботов смогут использовать военные в будущем.

После того как их доделают, роботы смогут выступать с военными на поле боя. Они будут служить в качестве охранников, защищая боеприпасы и провиант от врагов. Изучая искусство лжи, эти ИИ смогут "выиграть время, пока не прибудет подкрепление", изменяя стратегии патрулирования, чтобы обмануть других интеллектуальных роботов или людей. Ну, во всяком случае так планируют ученые.

Правда, профессор Аркин признал, что имеются "значительные этические проблемы" в отношении его исследований. Если результаты его работы попадут не в те руки, это будет катастрофа.

Главная угроза военных систем ИИ - это именно их самообучение. Один неверный посыл - и мы увидим фильм "Терминатор" наяву, кто знает, что решат машины с оружием в руках. 

Угроза 3 

Влезут нам в голову

Это не столь отдаленное будущее, о котором мечтают многие люди. Кто-то уже вшивает себе в руки чипы со штрих-кодами, а кто-то мечтает иметь за ухом usb-порт для расширения памяти.  

А разве не было бы прекрасно выучить французский за пару минут, просто загрузив его в мозг? Рэй Курцвейл, футуролог, изобретатель и технический директор Google, предсказывает, что к 2030 году "наноботы, имплантированные в наши мозги, сделают нас богоподобными". С крошечными роботами в голове мы сможем получать и запоминать любую информацию в считаные минуты. Мы сможем складывать в архив наши воспоминания и мысли и даже отправлять и получать письма, фото и видео прямо в голову.

Прямо в голову! Вдумайтесь! Это будет пострашнее куска железа с автоматом. Ведь ИИ может заложить в наш мозг любую информацию, лишив выбора и самосознания. 

Угроза 4 

Что такое "хорошо", что такое "плохо"

Ученые во главе с Марком Ридлом и Брентом Харрисоном из Школы интерактивных вычислений в Технологическом институте Джорджии пытаются привить человеческую этику ИИ, буквально рассказывая ему сказки. Звучит просто, но в этом есть смысл. В реальной жизни мы рассказываем сказки детям, прививая им человеческие ценности. ИИ сейчас как ребенок. Он действительно не знает, что правильно, а что нет.

Тем не менее есть также большая опасность в обучении роботов с искусственным интеллектом человеческим ценностям. Если поворошить историю человечества, можно найти, что, несмотря на изучение правильного и неправильного, люди по-прежнему способны творить неописуемое зло. Достаточно вспомнить Гитлера и других тиранов глобального уровня. Если люди способны на такое зло, что мешает мощному ИИ делать то же самое? 

Угроза 5 

ИИ возьмет управление на себя

Когда самообучающаяся программа примет решение, что она лучше знает, что нужно человеку, тогда нам и наступит хана. Начнется с температуры для подогрева стейка, скорости вождения машины, поиска нужных тегов для лайков в интернете. 

А закончится тем, что ИИ решит, что он в состоянии или полностью отказаться от человека, или полностью ему "помогать". Роман Дэна Брауна "Происхождение" и об этом тоже. Теперь убийца не сумасшедший дворник, не подонок-сын миллионера, претендующий на наследство. Теперь убийца - искусственный интеллект, который уверен, что выполнил свою программу наилучшим образом. 

Мнение против 

Леонид КАГАНОВ, писатель-фантаст: 

- Честно скажу, я очень рад за оптимиста Хокинга, потому что, на мой взгляд, гораздо большую опасность представляют не разумные машины, которые займут место человека, а люди, лишенные интеллекта, которые займут место человека. Это мне кажется намного большей опасностью. 

Мы всегда боялись, что придет такой железный робот с лампой вместо носа и начнет в нас стрелять из своего плазменного пистолета. А на самом деле мы открываем свою электронную почту и видим тонны спама, которые рассылают роботы. Они не имеют тела, но они роботы. Потом мы видим, как роботы постоянно ходят, стучатся и взламывают наши сервера, стучатся на каждый сайт, пробуют подобрать пароли. Все это тоже делают роботы. Это огромные ботнеты, которые занимаются всем - начиная от взлома личных данных до промышленного шпионажа, настроенные, понятное дело, людьми. Это, мне кажется, более актуальной опасностью. Андроид в титановом панцире появится еще очень не скоро, да и мозга у него нет, а примитивные роботы могут вредить, делать пакости, беспокоить. Могут разбудить звонком, сказать, что у вас задолженность за электроэнергию составляет 3 рубля 14 копеек. Это же тоже роботы все звонят, - сказал фантаст в передаче Би-Би-Си о проблемах ИИ.

Политика

Роухани призвал США вернуться за стол переговоров
Роухани призвал США вернуться за стол переговоров 53 2

Иранский лидер считает, что возобновит диалог можно было бы прямо в рамках Генассамблеи ООН.

Макрон предложил переформатировать G7
Макрон предложил переформатировать G7 276 1

Глава государства считает, что данный формат устарел и нуждается в изменениях.

Главу ГБР пытаются снять, опоздав с иском на семь месяцев 72 1

Роман Труба отказался назначить руководителей бюро без проверки на детекторе лжи.

Происшествия

В Одессе загорелся санаторий  Красные Зори
В Одессе загорелся санаторий "Красные Зори" [фото] 142 1

Заведение уже горело менее года назад.

Под Николаевом поезд  Интерсити  снес на переезде автомобиль, есть жертвы
Под Николаевом поезд "Интерсити" снес на переезде автомобиль, есть жертвы 298 1

Водитель автомобиля "Таврия" проигнорировал звуковую и световую сигнализацию и выехал на железнодорожный переезд.

В Черновцах у мужчины украли паспорт и продали его квартиру
В Черновцах у мужчины украли паспорт и продали его квартиру 442

Злоумышленник знал, что его жертва ведет асоциальный образ жизни и злоупотребляет спиртными напитками.

Экономика

Банки получили доступ к реестру должников
Банки получили доступ к реестру должников 400

Если у заемщика есть проблемный долг в одном месте, то в другом финучреждении он на кредит рассчитывать не сможет.

Новая  двадцатка : рельефная и с инфракрасной защитой
Новая "двадцатка": рельефная и с инфракрасной защитой 300

Банкноты номиналом 20 гривен нового образца вводятся в обращение 25 сентября 2018 года.

Ураган  Флоренс  стоил США больше двадцати миллиардов долларов
Ураган "Флоренс" стоил США больше двадцати миллиардов долларов 130

Исследовательская компания подсчитала ущерб.

Общество

В Ирландии аборты станут бесплатными
В Ирландии аборты станут бесплатными 54 1

Расходы на проведение абортов будут включены в бюджет.

Трудовой коллектив ТИС просит правительство обеспечить дноуглубление в порту "Южный" 81 1

А что вас в телеэфире раздражает?
А что вас в телеэфире раздражает? 67

"КП" в Украине" открывает новую рубрику "Телеханжа". В связи с этим наш вопрос.

Светская хроника и ТВ

Певица Деми Ловато потеряла голос после передозировки наркотиками
Певица Деми Ловато потеряла голос после передозировки наркотиками 253 1

Мать звезды призналась, что поначалу врачи не могли дать гарантий того, что ее дочь выживет.

 Игры, комиксы, кино и аниме : как в Киеве прошел фестиваль гик-культуры Comic-Con Ukraine
"Игры, комиксы, кино и аниме": как в Киеве прошел фестиваль гик-культуры Comic-Con Ukraine [фото, видео] 105

Фестиваль на два дня объединил тысячи фанатов комиксов, мультфильмов и компьютерных игр.

Генпродюсер Нового канала Алексей Гладушевский:  Фреймут хотела показать свою другую сторону, но зритель этого не понял
Генпродюсер Нового канала Алексей Гладушевский: "Фреймут хотела показать свою другую сторону, но зритель этого не понял" 449

Руководитель молодежного развлекательного канала рассказал нам о новом телесезоне и предпочтениях юного поколения.

Спорт

Модрич обошел Месси и Роналду, но получил не  Золотой мяч
Модрич обошел Месси и Роналду, но получил не "Золотой мяч" 729

Разбираемся, что за приз достался хорвату, выигравшему Лигу чемпионов в Киеве и серебро чемпионата мира в Москве.

Лука Модрич стал обладателем  Золотого мяча
Лука Модрич стал обладателем "Золотого мяча" 1925

Впервые за последние десять лет лучшим футболистом стал не Роналду и не Месси.

Дидье Дешам стал тренером года по версии ФИФА
Дидье Дешам стал тренером года по версии ФИФА 102

Награда французу была достаточно прогнозируемой с учетом того, что ему удалось выиграть Чемпионат мира.