Искусственный интеллект отберет у нас будущее?

Искусственный интеллект отберет у нас будущее?

Как менялось наше представление: в 1980 Электроник мечтал стать человеком, совершая добрые дела... Фото: кадр из фильма «Приключения Электроника»

"КП" в Украине" изучала, в каких отраслях искусственный интеллект (ИИ) уже заменяет человека и стоит ли бояться его в будущем. 

Угроза 1 

У нас отнимут работу

Сейчас ИИ окружает нас достаточно незаметно. По большому счету в современном понимании искусственный интеллект пока еще и вовсе не интеллект - это набор программ, которые помогают нам во многих случаях жизни. Говорите со своим телефоном (Сири)? Искали вчера холодильник, а сегодня на каждой интернет-странице их реклама? Купили "умный дом"? Это все тоже можно считать применением ИИ. 

И это не страшно, а очень полезно. Уже сейчас некоторые статьи на сайтах пишут боты. А в ближайшем будущем появятся автомобили, которым будут не нужны водители: ИИ быстрее среагирует на препятствие, предпримет действия. ИИ не напьется за рулем! Правда, здесь уже начинают возникать слабые, но вполне обоснованные чувства ревности человека к набору алгоритмов - "машины" лишат работы журналистов и водителей. А потом еще очень многих специалистов - бухгалтеров, грузчиков, официантов, продавцов, секретарей. 

Казалось бы - и слава богу: ну ее ту работу! Тем более что даже такие гиганты мысли, как Билл Гейтс, считают, что роботы должны платить налоги, чтобы на них содержать безработных. Почти утопия и мир будущего - пойдем все в художники, будем петь песни и рисовать. И тратить деньги, заработанные роботами. 

Есть только две проблемы. Эти умники уже научились и рисовать. 20 января Microsoft представила новую технологию ИИ, которая способна рисовать, основываясь на письменном описании объекта. Как же так, Билл, ты же был за нас? 

И вторая проблема гораздо хуже. Мы не сможем все время ничего не делать. Другой гений современности Илон Маск считает это огромным вызовом - человечеству придется пройти период болезненной адаптации к ничегонеделанию. И если люди начнут осознавать свою "бесполезность" - тут недалеко и до психозов и массовых самоубийств. 

И все же все это пока не выглядит страшно, нельзя всерьез бояться, что нас завоюют умные холодильники. Почему же тогда так обеспокоены всемирно известный физик Стивен Хокинг, Илон Маск и даже писатель Дэн Браун? 

Илон Маск и Стивен Хокинг уверяют, что нужно прекратить или ограничить опыты с искусственным интеллектом. Потому что это угрожает вообще существованию человечества. Маск говорит, что ИИ - это страшнее, чем автокатастрофы и падения самолетов, опаснее, чем Северная Корея. Это может привести к Третьей мировой, а дальше и к истреблению человечества. Слова Хокинга тоже не отличаются оптимизмом, он подчеркивает, что нам нужно искать новые планеты для жизни, поскольку человечество может не дожить до конца этого тысячелетия, а относительно искусственного интеллекта заявил: когда роботы превзойдут людей в интеллекте, то мы проиграем, потому что люди ограничены рамками биологической эволюции и не смогут тягаться с машинами.

А большие проблемы начнутся тогда, когда ИИ станет самообучающимся. Никто не сможет узнать - что же он там себе придумал. 

... в 2015 году робот Ава убивает людей, чтобы вырваться на свободу. Фото: кадр из фильма "Из машины"

Угроза 2 

Они учатся лгать и воевать

Ложь - универсальное поведение. Люди делают это постоянно, и даже некоторые животные, как белки или птицы, прибегают к ней ради выживания. Ученые из Технологического института Джорджии разработали роботов с искусственным интеллектом, способных обманывать и лгать. Исследовательская группа под руководством профессора Рональда Аркина надеется, что их роботов смогут использовать военные в будущем.

После того как их доделают, роботы смогут выступать с военными на поле боя. Они будут служить в качестве охранников, защищая боеприпасы и провиант от врагов. Изучая искусство лжи, эти ИИ смогут "выиграть время, пока не прибудет подкрепление", изменяя стратегии патрулирования, чтобы обмануть других интеллектуальных роботов или людей. Ну, во всяком случае так планируют ученые.

Правда, профессор Аркин признал, что имеются "значительные этические проблемы" в отношении его исследований. Если результаты его работы попадут не в те руки, это будет катастрофа.

Главная угроза военных систем ИИ - это именно их самообучение. Один неверный посыл - и мы увидим фильм "Терминатор" наяву, кто знает, что решат машины с оружием в руках. 

Угроза 3 

Влезут нам в голову

Это не столь отдаленное будущее, о котором мечтают многие люди. Кто-то уже вшивает себе в руки чипы со штрих-кодами, а кто-то мечтает иметь за ухом usb-порт для расширения памяти.  

А разве не было бы прекрасно выучить французский за пару минут, просто загрузив его в мозг? Рэй Курцвейл, футуролог, изобретатель и технический директор Google, предсказывает, что к 2030 году "наноботы, имплантированные в наши мозги, сделают нас богоподобными". С крошечными роботами в голове мы сможем получать и запоминать любую информацию в считаные минуты. Мы сможем складывать в архив наши воспоминания и мысли и даже отправлять и получать письма, фото и видео прямо в голову.

Прямо в голову! Вдумайтесь! Это будет пострашнее куска железа с автоматом. Ведь ИИ может заложить в наш мозг любую информацию, лишив выбора и самосознания. 

Угроза 4 

Что такое "хорошо", что такое "плохо"

Ученые во главе с Марком Ридлом и Брентом Харрисоном из Школы интерактивных вычислений в Технологическом институте Джорджии пытаются привить человеческую этику ИИ, буквально рассказывая ему сказки. Звучит просто, но в этом есть смысл. В реальной жизни мы рассказываем сказки детям, прививая им человеческие ценности. ИИ сейчас как ребенок. Он действительно не знает, что правильно, а что нет.

Тем не менее есть также большая опасность в обучении роботов с искусственным интеллектом человеческим ценностям. Если поворошить историю человечества, можно найти, что, несмотря на изучение правильного и неправильного, люди по-прежнему способны творить неописуемое зло. Достаточно вспомнить Гитлера и других тиранов глобального уровня. Если люди способны на такое зло, что мешает мощному ИИ делать то же самое? 

Угроза 5 

ИИ возьмет управление на себя

Когда самообучающаяся программа примет решение, что она лучше знает, что нужно человеку, тогда нам и наступит хана. Начнется с температуры для подогрева стейка, скорости вождения машины, поиска нужных тегов для лайков в интернете. 

А закончится тем, что ИИ решит, что он в состоянии или полностью отказаться от человека, или полностью ему "помогать". Роман Дэна Брауна "Происхождение" и об этом тоже. Теперь убийца не сумасшедший дворник, не подонок-сын миллионера, претендующий на наследство. Теперь убийца - искусственный интеллект, который уверен, что выполнил свою программу наилучшим образом. 

Мнение против 

Леонид КАГАНОВ, писатель-фантаст: 

- Честно скажу, я очень рад за оптимиста Хокинга, потому что, на мой взгляд, гораздо большую опасность представляют не разумные машины, которые займут место человека, а люди, лишенные интеллекта, которые займут место человека. Это мне кажется намного большей опасностью. 

Мы всегда боялись, что придет такой железный робот с лампой вместо носа и начнет в нас стрелять из своего плазменного пистолета. А на самом деле мы открываем свою электронную почту и видим тонны спама, которые рассылают роботы. Они не имеют тела, но они роботы. Потом мы видим, как роботы постоянно ходят, стучатся и взламывают наши сервера, стучатся на каждый сайт, пробуют подобрать пароли. Все это тоже делают роботы. Это огромные ботнеты, которые занимаются всем - начиная от взлома личных данных до промышленного шпионажа, настроенные, понятное дело, людьми. Это, мне кажется, более актуальной опасностью. Андроид в титановом панцире появится еще очень не скоро, да и мозга у него нет, а примитивные роботы могут вредить, делать пакости, беспокоить. Могут разбудить звонком, сказать, что у вас задолженность за электроэнергию составляет 3 рубля 14 копеек. Это же тоже роботы все звонят, - сказал фантаст в передаче Би-Би-Си о проблемах ИИ.

Политика

СБУ прокомментировала новость ФСБ о задержании таксиста-шпиона
СБУ прокомментировала новость ФСБ о задержании таксиста-шпиона 161 1

Якобы сознавшегося мужчину выдворили из России в Украину.

Столтенберг: НАТО не собирается размещать новые ядерные ракеты в Европе
Столтенберг: НАТО не собирается размещать новые ядерные ракеты в Европе 31 1

Также глава альянса в очередной раз напомнил, что Россия регулярно наращивает вооружение.

Израиль атаковал сектор Газа в ответ на ракетный обстрел
Израиль атаковал сектор Газа в ответ на ракетный обстрел [видео] 273

В южных районах продолжают звучать сирены.

Происшествия

В Минске потолок торгового центра упал на продавцов
В Минске потолок торгового центра упал на продавцов [фото, видео] 55

24-летняя девушка попала в больницу с черепно-мозговой травмой.

Кличко: в Шепетовке тоже вводят чрезвычайное положение
Кличко: в Шепетовке тоже вводят чрезвычайное положение 385

Председатель Ассоциации городов просит Президента и Кабмин вмешаться в происходящее.

Экс-руководитель украинского банка выставил на продажу данные полумиллиона клиентов
Экс-руководитель украинского банка выставил на продажу данные полумиллиона клиентов [фото] 430

Киберполиция разоблачила мужчину, который разместил в Интернете соотвествующее объявление.

Экономика

Кто замерзнет следующим: больше всех за газ должны Киев и Днепр
Кто замерзнет следующим: больше всех за газ должны Киев и Днепр [карта] 145 2

"Нафтогаз" опубликовал карту-страшилку, из которой видно, какие еще города находятся под угрозой остаться без тепла.

Укрлендфарминг Бахматюка вошел в ТОП-20 лучших работодателей Украины
Укрлендфарминг Бахматюка вошел в ТОП-20 лучших работодателей Украины 114

Группа компаний "Укрлендфарминг" Олега Бахматюка, крупнейший украинский аграрный холдинг, который насчитывает около 30 ты с. персонала по всей стране, вошел в рейтинг лучших работодателей по версии журнала "Власть денег".

Вкладчики  А-Банка  штурмуют отделения с требованием вернуть депозиты
Вкладчики "А-Банка" штурмуют отделения с требованием вернуть депозиты 1783 3

"А-Банк" готовятся огласить банкротом, люди пытаются спасти свою депозиты, но на руки им дают не более 5 тыс. грн.

Общество

NASA обнародовало снимок квадратного айсберга
NASA обнародовало снимок квадратного айсберга

Идеально ровный параллелепипед льда откололся от Антарктиды.

Ученые назвали черту характера, которая делает людей богатыми
Ученые назвали черту характера, которая делает людей богатыми 2

Создан машинный алгоритм, предсказывающий уровень вашей будущей зарплаты.

Британская пара угодила в тюрьму за то, что назвала своего сына Адольфом
Британская пара угодила в тюрьму за то, что назвала своего сына Адольфом 13

Супруги признались, что хотели дать имя ребенку в честь Гитлера.

Светская хроника и ТВ

Звезда  Лиги смеха  Виктор Розовый: Мне нравится смотреть на Вселенную сквозь призму сарказма и иронии
Звезда "Лиги смеха" Виктор Розовый: Мне нравится смотреть на Вселенную сквозь призму сарказма и иронии 6

Капитан команды-победителя "Загорецька Людмила Степанівна" - о юморе, девушках и дебютной роли в кино.

Вандалы разукрасили магазин Тимати
Вандалы разукрасили магазин Тимати [видео] 70

За информацию о "милых ребятах" в "Black Star Wear" пообещали 100 000 рублей.

Виталий Козловский:  Немногих могу назвать преданными друзьями
Виталий Козловский: "Немногих могу назвать преданными друзьями" [фото] 78

Певец рассказал, как собирается отпраздновать юбилей своей музыкальной карьеры.

Спорт

Франк Рибери ударил журналиста в ответ на критику
Франк Рибери ударил журналиста в ответ на критику 82

Полузащитник "Баварии" после матча с дортмундской "Боруссией" сцепился с журналистом.

Усик вернулся в Украину: первые слова и эмоциональная встреча

Экс-президент  Спортинга  задержан по подозрению в организации нападения на футболистов
Экс-президент "Спортинга" задержан по подозрению в организации нападения на футболистов 54

Бывший президент португальского клуба Бруну де Карвалью задержан полицией.