Искусственный интеллект отберет у нас будущее?

Искусственный интеллект отберет у нас будущее?

Как менялось наше представление: в 1980 Электроник мечтал стать человеком, совершая добрые дела... Фото: кадр из фильма «Приключения Электроника»

"КП" в Украине" изучала, в каких отраслях искусственный интеллект (ИИ) уже заменяет человека и стоит ли бояться его в будущем. 

Угроза 1 

У нас отнимут работу

Сейчас ИИ окружает нас достаточно незаметно. По большому счету в современном понимании искусственный интеллект пока еще и вовсе не интеллект - это набор программ, которые помогают нам во многих случаях жизни. Говорите со своим телефоном (Сири)? Искали вчера холодильник, а сегодня на каждой интернет-странице их реклама? Купили "умный дом"? Это все тоже можно считать применением ИИ. 

И это не страшно, а очень полезно. Уже сейчас некоторые статьи на сайтах пишут боты. А в ближайшем будущем появятся автомобили, которым будут не нужны водители: ИИ быстрее среагирует на препятствие, предпримет действия. ИИ не напьется за рулем! Правда, здесь уже начинают возникать слабые, но вполне обоснованные чувства ревности человека к набору алгоритмов - "машины" лишат работы журналистов и водителей. А потом еще очень многих специалистов - бухгалтеров, грузчиков, официантов, продавцов, секретарей. 

Казалось бы - и слава богу: ну ее ту работу! Тем более что даже такие гиганты мысли, как Билл Гейтс, считают, что роботы должны платить налоги, чтобы на них содержать безработных. Почти утопия и мир будущего - пойдем все в художники, будем петь песни и рисовать. И тратить деньги, заработанные роботами. 

Есть только две проблемы. Эти умники уже научились и рисовать. 20 января Microsoft представила новую технологию ИИ, которая способна рисовать, основываясь на письменном описании объекта. Как же так, Билл, ты же был за нас? 

И вторая проблема гораздо хуже. Мы не сможем все время ничего не делать. Другой гений современности Илон Маск считает это огромным вызовом - человечеству придется пройти период болезненной адаптации к ничегонеделанию. И если люди начнут осознавать свою "бесполезность" - тут недалеко и до психозов и массовых самоубийств. 

И все же все это пока не выглядит страшно, нельзя всерьез бояться, что нас завоюют умные холодильники. Почему же тогда так обеспокоены всемирно известный физик Стивен Хокинг, Илон Маск и даже писатель Дэн Браун? 

Илон Маск и Стивен Хокинг уверяют, что нужно прекратить или ограничить опыты с искусственным интеллектом. Потому что это угрожает вообще существованию человечества. Маск говорит, что ИИ - это страшнее, чем автокатастрофы и падения самолетов, опаснее, чем Северная Корея. Это может привести к Третьей мировой, а дальше и к истреблению человечества. Слова Хокинга тоже не отличаются оптимизмом, он подчеркивает, что нам нужно искать новые планеты для жизни, поскольку человечество может не дожить до конца этого тысячелетия, а относительно искусственного интеллекта заявил: когда роботы превзойдут людей в интеллекте, то мы проиграем, потому что люди ограничены рамками биологической эволюции и не смогут тягаться с машинами.

А большие проблемы начнутся тогда, когда ИИ станет самообучающимся. Никто не сможет узнать - что же он там себе придумал. 

... в 2015 году робот Ава убивает людей, чтобы вырваться на свободу. Фото: кадр из фильма "Из машины"

Угроза 2 

Они учатся лгать и воевать

Ложь - универсальное поведение. Люди делают это постоянно, и даже некоторые животные, как белки или птицы, прибегают к ней ради выживания. Ученые из Технологического института Джорджии разработали роботов с искусственным интеллектом, способных обманывать и лгать. Исследовательская группа под руководством профессора Рональда Аркина надеется, что их роботов смогут использовать военные в будущем.

После того как их доделают, роботы смогут выступать с военными на поле боя. Они будут служить в качестве охранников, защищая боеприпасы и провиант от врагов. Изучая искусство лжи, эти ИИ смогут "выиграть время, пока не прибудет подкрепление", изменяя стратегии патрулирования, чтобы обмануть других интеллектуальных роботов или людей. Ну, во всяком случае так планируют ученые.

Правда, профессор Аркин признал, что имеются "значительные этические проблемы" в отношении его исследований. Если результаты его работы попадут не в те руки, это будет катастрофа.

Главная угроза военных систем ИИ - это именно их самообучение. Один неверный посыл - и мы увидим фильм "Терминатор" наяву, кто знает, что решат машины с оружием в руках. 

Угроза 3 

Влезут нам в голову

Это не столь отдаленное будущее, о котором мечтают многие люди. Кто-то уже вшивает себе в руки чипы со штрих-кодами, а кто-то мечтает иметь за ухом usb-порт для расширения памяти.  

А разве не было бы прекрасно выучить французский за пару минут, просто загрузив его в мозг? Рэй Курцвейл, футуролог, изобретатель и технический директор Google, предсказывает, что к 2030 году "наноботы, имплантированные в наши мозги, сделают нас богоподобными". С крошечными роботами в голове мы сможем получать и запоминать любую информацию в считаные минуты. Мы сможем складывать в архив наши воспоминания и мысли и даже отправлять и получать письма, фото и видео прямо в голову.

Прямо в голову! Вдумайтесь! Это будет пострашнее куска железа с автоматом. Ведь ИИ может заложить в наш мозг любую информацию, лишив выбора и самосознания. 

Угроза 4 

Что такое "хорошо", что такое "плохо"

Ученые во главе с Марком Ридлом и Брентом Харрисоном из Школы интерактивных вычислений в Технологическом институте Джорджии пытаются привить человеческую этику ИИ, буквально рассказывая ему сказки. Звучит просто, но в этом есть смысл. В реальной жизни мы рассказываем сказки детям, прививая им человеческие ценности. ИИ сейчас как ребенок. Он действительно не знает, что правильно, а что нет.

Тем не менее есть также большая опасность в обучении роботов с искусственным интеллектом человеческим ценностям. Если поворошить историю человечества, можно найти, что, несмотря на изучение правильного и неправильного, люди по-прежнему способны творить неописуемое зло. Достаточно вспомнить Гитлера и других тиранов глобального уровня. Если люди способны на такое зло, что мешает мощному ИИ делать то же самое? 

Угроза 5 

ИИ возьмет управление на себя

Когда самообучающаяся программа примет решение, что она лучше знает, что нужно человеку, тогда нам и наступит хана. Начнется с температуры для подогрева стейка, скорости вождения машины, поиска нужных тегов для лайков в интернете. 

А закончится тем, что ИИ решит, что он в состоянии или полностью отказаться от человека, или полностью ему "помогать". Роман Дэна Брауна "Происхождение" и об этом тоже. Теперь убийца не сумасшедший дворник, не подонок-сын миллионера, претендующий на наследство. Теперь убийца - искусственный интеллект, который уверен, что выполнил свою программу наилучшим образом. 

Мнение против 

Леонид КАГАНОВ, писатель-фантаст: 

- Честно скажу, я очень рад за оптимиста Хокинга, потому что, на мой взгляд, гораздо большую опасность представляют не разумные машины, которые займут место человека, а люди, лишенные интеллекта, которые займут место человека. Это мне кажется намного большей опасностью. 

Мы всегда боялись, что придет такой железный робот с лампой вместо носа и начнет в нас стрелять из своего плазменного пистолета. А на самом деле мы открываем свою электронную почту и видим тонны спама, которые рассылают роботы. Они не имеют тела, но они роботы. Потом мы видим, как роботы постоянно ходят, стучатся и взламывают наши сервера, стучатся на каждый сайт, пробуют подобрать пароли. Все это тоже делают роботы. Это огромные ботнеты, которые занимаются всем - начиная от взлома личных данных до промышленного шпионажа, настроенные, понятное дело, людьми. Это, мне кажется, более актуальной опасностью. Андроид в титановом панцире появится еще очень не скоро, да и мозга у него нет, а примитивные роботы могут вредить, делать пакости, беспокоить. Могут разбудить звонком, сказать, что у вас задолженность за электроэнергию составляет 3 рубля 14 копеек. Это же тоже роботы все звонят, - сказал фантаст в передаче Би-Би-Си о проблемах ИИ.

Политика

Климкин: встречи  нормандской четверки  в июне не будет
Климкин: встречи "нормандской четверки" в июне не будет 15

Стороны пока не согласовали условия переговоров.

Ирландцы на референдуме поддержали легализацию абортов
Ирландцы на референдуме поддержали легализацию абортов 226

В поддержку изменений в законодательство выступили 66,4 процента жителей.

Курц предложил направить пограничников ЕС в Африку
Курц предложил направить пограничников ЕС в Африку 109

Таким нехитрым способом австрийский лидер предлагает удержать мигрантов на родине.

Происшествия

Шторм в Кирилловке: затоплены базы отдыха и автомобили
Шторм в Кирилловке: затоплены базы отдыха и автомобили [фото] 329

Никто из туристов не пострадал, но 23 человека пришлось перевезти в более безопасное место.

Во время потасовки с националистами пострадали трое полицейских
Во время потасовки с националистами пострадали трое полицейских [видео] 158

Десять человек были задержаны.

Националисты устроили потасовку с полицией в Киеве
Националисты устроили потасовку с полицией в Киеве [фото, обновлено] 696 2

Конфликт произошел рядом со станцией метро "Лесная".

Экономика

Может ли в Украине закончиться своя картошка
Может ли в Украине закончиться своя картошка 1044

Эксперты успокаивают: бояться нам нечего. Ведь основная часть картофеля выращивается частниками.

Нацбанк исключил WebMoney из реестра платежных систем Украины
Нацбанк исключил WebMoney из реестра платежных систем Украины 583 2

Решение принято в связи с применением персональных санкций к WebMoney.UAсогласно решению Совета национальной безопасности и обороны Украины.

Факт. Счетчик газа теперь можно купить онлайн
Факт. Счетчик газа теперь можно купить онлайн 1192 1

Компания "САМГАЗ", ведущий украинский производитель оборудования для измерения и учёта газа, запустила свой первый в Украине интернет-магазин по продаже счётчиков газа.

Общество

От Шовковского до Кричевского: топ-6 книг украинских знаменитостей
От Шовковского до Кричевского: топ-6 книг украинских знаменитостей 47

Продолжаем знакомить читателей с новинками, которые будут представлены на VIII Международном фестивале.

Фанаты  Ливерпуля  оставили после себя кучу мусора в центре Киева
Фанаты "Ливерпуля" оставили после себя кучу мусора в центре Киева [фото, видео, обновлено] 3566 6

На парк Шевченко, где гуляли британские болельщики, было больно смотреть.

В Борисполе задержали футбольного фаната, которого разыскивал Интерпол
В Борисполе задержали футбольного фаната, которого разыскивал Интерпол 264

Пограничники выяснили, что мужчину разыскивают за подделку документов.

Светская хроника и ТВ

Ники Минаж встречается с Эминемом?
Ники Минаж встречается с Эминемом? 478

35-летняя рэп-исполнительница заявила, что у нее отношения с известным коллегой.

 Холостяк  Рожден Ануси расставил все точки над  і
"Холостяк" Рожден Ануси расставил все точки над "і" 9016

Почему в финале главный герой реалити отдал предпочтение Иванне?

Третий спин-офф  Звездных воин  будет посвящен приключениям Бобы Фетта
Третий спин-офф "Звездных воин" будет посвящен приключениям Бобы Фетта 211

Режиссером проекта может стать Джеймс Мэнголд, который ранее работал над фильмом "Логан".

Спорт

Андрея Шевченко наградили Орденом Звезды Италии
Андрея Шевченко наградили Орденом Звезды Италии [фото] 128

В Риме отметили усилия спортсмена в развитии отношений с Киевом.

Финал имени Кариуса: как соцсети поиздевались над главным антигероем Лиги чемпионов
Финал имени Кариуса: как соцсети поиздевались над главным антигероем Лиги чемпионов 1710

24-летний немецкий голкипер провел худший матч в своей карьере и лишил свою команду шансов на чемпионство.

Девушка Роналду наградила его поцелуем за победу в Киеве
Девушка Роналду наградила его поцелуем за победу в Киеве [фото] 1834

Джорджина Родригес следила за игрой "Реала" на "Олимпийском".