Искусственный интеллект отберет у нас будущее?

Искусственный интеллект отберет у нас будущее?

Как менялось наше представление: в 1980 Электроник мечтал стать человеком, совершая добрые дела... Фото: кадр из фильма «Приключения Электроника»

"КП" в Украине" изучала, в каких отраслях искусственный интеллект (ИИ) уже заменяет человека и стоит ли бояться его в будущем. 

Угроза 1 

У нас отнимут работу

Сейчас ИИ окружает нас достаточно незаметно. По большому счету в современном понимании искусственный интеллект пока еще и вовсе не интеллект - это набор программ, которые помогают нам во многих случаях жизни. Говорите со своим телефоном (Сири)? Искали вчера холодильник, а сегодня на каждой интернет-странице их реклама? Купили "умный дом"? Это все тоже можно считать применением ИИ. 

И это не страшно, а очень полезно. Уже сейчас некоторые статьи на сайтах пишут боты. А в ближайшем будущем появятся автомобили, которым будут не нужны водители: ИИ быстрее среагирует на препятствие, предпримет действия. ИИ не напьется за рулем! Правда, здесь уже начинают возникать слабые, но вполне обоснованные чувства ревности человека к набору алгоритмов - "машины" лишат работы журналистов и водителей. А потом еще очень многих специалистов - бухгалтеров, грузчиков, официантов, продавцов, секретарей. 

Казалось бы - и слава богу: ну ее ту работу! Тем более что даже такие гиганты мысли, как Билл Гейтс, считают, что роботы должны платить налоги, чтобы на них содержать безработных. Почти утопия и мир будущего - пойдем все в художники, будем петь песни и рисовать. И тратить деньги, заработанные роботами. 

Есть только две проблемы. Эти умники уже научились и рисовать. 20 января Microsoft представила новую технологию ИИ, которая способна рисовать, основываясь на письменном описании объекта. Как же так, Билл, ты же был за нас? 

И вторая проблема гораздо хуже. Мы не сможем все время ничего не делать. Другой гений современности Илон Маск считает это огромным вызовом - человечеству придется пройти период болезненной адаптации к ничегонеделанию. И если люди начнут осознавать свою "бесполезность" - тут недалеко и до психозов и массовых самоубийств. 

И все же все это пока не выглядит страшно, нельзя всерьез бояться, что нас завоюют умные холодильники. Почему же тогда так обеспокоены всемирно известный физик Стивен Хокинг, Илон Маск и даже писатель Дэн Браун? 

Илон Маск и Стивен Хокинг уверяют, что нужно прекратить или ограничить опыты с искусственным интеллектом. Потому что это угрожает вообще существованию человечества. Маск говорит, что ИИ - это страшнее, чем автокатастрофы и падения самолетов, опаснее, чем Северная Корея. Это может привести к Третьей мировой, а дальше и к истреблению человечества. Слова Хокинга тоже не отличаются оптимизмом, он подчеркивает, что нам нужно искать новые планеты для жизни, поскольку человечество может не дожить до конца этого тысячелетия, а относительно искусственного интеллекта заявил: когда роботы превзойдут людей в интеллекте, то мы проиграем, потому что люди ограничены рамками биологической эволюции и не смогут тягаться с машинами.

А большие проблемы начнутся тогда, когда ИИ станет самообучающимся. Никто не сможет узнать - что же он там себе придумал. 

... в 2015 году робот Ава убивает людей, чтобы вырваться на свободу. Фото: кадр из фильма "Из машины"

Угроза 2 

Они учатся лгать и воевать

Ложь - универсальное поведение. Люди делают это постоянно, и даже некоторые животные, как белки или птицы, прибегают к ней ради выживания. Ученые из Технологического института Джорджии разработали роботов с искусственным интеллектом, способных обманывать и лгать. Исследовательская группа под руководством профессора Рональда Аркина надеется, что их роботов смогут использовать военные в будущем.

После того как их доделают, роботы смогут выступать с военными на поле боя. Они будут служить в качестве охранников, защищая боеприпасы и провиант от врагов. Изучая искусство лжи, эти ИИ смогут "выиграть время, пока не прибудет подкрепление", изменяя стратегии патрулирования, чтобы обмануть других интеллектуальных роботов или людей. Ну, во всяком случае так планируют ученые.

Правда, профессор Аркин признал, что имеются "значительные этические проблемы" в отношении его исследований. Если результаты его работы попадут не в те руки, это будет катастрофа.

Главная угроза военных систем ИИ - это именно их самообучение. Один неверный посыл - и мы увидим фильм "Терминатор" наяву, кто знает, что решат машины с оружием в руках. 

Угроза 3 

Влезут нам в голову

Это не столь отдаленное будущее, о котором мечтают многие люди. Кто-то уже вшивает себе в руки чипы со штрих-кодами, а кто-то мечтает иметь за ухом usb-порт для расширения памяти.  

А разве не было бы прекрасно выучить французский за пару минут, просто загрузив его в мозг? Рэй Курцвейл, футуролог, изобретатель и технический директор Google, предсказывает, что к 2030 году "наноботы, имплантированные в наши мозги, сделают нас богоподобными". С крошечными роботами в голове мы сможем получать и запоминать любую информацию в считаные минуты. Мы сможем складывать в архив наши воспоминания и мысли и даже отправлять и получать письма, фото и видео прямо в голову.

Прямо в голову! Вдумайтесь! Это будет пострашнее куска железа с автоматом. Ведь ИИ может заложить в наш мозг любую информацию, лишив выбора и самосознания. 

Угроза 4 

Что такое "хорошо", что такое "плохо"

Ученые во главе с Марком Ридлом и Брентом Харрисоном из Школы интерактивных вычислений в Технологическом институте Джорджии пытаются привить человеческую этику ИИ, буквально рассказывая ему сказки. Звучит просто, но в этом есть смысл. В реальной жизни мы рассказываем сказки детям, прививая им человеческие ценности. ИИ сейчас как ребенок. Он действительно не знает, что правильно, а что нет.

Тем не менее есть также большая опасность в обучении роботов с искусственным интеллектом человеческим ценностям. Если поворошить историю человечества, можно найти, что, несмотря на изучение правильного и неправильного, люди по-прежнему способны творить неописуемое зло. Достаточно вспомнить Гитлера и других тиранов глобального уровня. Если люди способны на такое зло, что мешает мощному ИИ делать то же самое? 

Угроза 5 

ИИ возьмет управление на себя

Когда самообучающаяся программа примет решение, что она лучше знает, что нужно человеку, тогда нам и наступит хана. Начнется с температуры для подогрева стейка, скорости вождения машины, поиска нужных тегов для лайков в интернете. 

А закончится тем, что ИИ решит, что он в состоянии или полностью отказаться от человека, или полностью ему "помогать". Роман Дэна Брауна "Происхождение" и об этом тоже. Теперь убийца не сумасшедший дворник, не подонок-сын миллионера, претендующий на наследство. Теперь убийца - искусственный интеллект, который уверен, что выполнил свою программу наилучшим образом. 

Мнение против 

Леонид КАГАНОВ, писатель-фантаст: 

- Честно скажу, я очень рад за оптимиста Хокинга, потому что, на мой взгляд, гораздо большую опасность представляют не разумные машины, которые займут место человека, а люди, лишенные интеллекта, которые займут место человека. Это мне кажется намного большей опасностью. 

Мы всегда боялись, что придет такой железный робот с лампой вместо носа и начнет в нас стрелять из своего плазменного пистолета. А на самом деле мы открываем свою электронную почту и видим тонны спама, которые рассылают роботы. Они не имеют тела, но они роботы. Потом мы видим, как роботы постоянно ходят, стучатся и взламывают наши сервера, стучатся на каждый сайт, пробуют подобрать пароли. Все это тоже делают роботы. Это огромные ботнеты, которые занимаются всем - начиная от взлома личных данных до промышленного шпионажа, настроенные, понятное дело, людьми. Это, мне кажется, более актуальной опасностью. Андроид в титановом панцире появится еще очень не скоро, да и мозга у него нет, а примитивные роботы могут вредить, делать пакости, беспокоить. Могут разбудить звонком, сказать, что у вас задолженность за электроэнергию составляет 3 рубля 14 копеек. Это же тоже роботы все звонят, - сказал фантаст в передаче Би-Би-Си о проблемах ИИ.

Политика

 РАЗУМНАЯ СИЛА  рассказала в ПАСЕ, какую угрозу для ЕС представляет тлеющий конфликт на Донбассе
"РАЗУМНАЯ СИЛА" рассказала в ПАСЕ, какую угрозу для ЕС представляет тлеющий конфликт на Донбассе [видео] 88

Тимошенко, Кошулинский и Добродомов подали документы в ЦИК 23 января
Тимошенко, Кошулинский и Добродомов подали документы в ЦИК 23 января 97 3

"Батькивщина", "Свобода" и "Народный контроль" выдвинули своих кандидатов 22 января.

Вакарчук об участии в выборах: Я в деле
Вакарчук об участии в выборах: Я в деле 458

Солист "Океана Эльзы" хочет привести в украинскую политику новые лица.

Происшествия

За день в Украине произошло более 850 ДТП, больше всего страдает Киев
За день в Украине произошло более 850 ДТП, больше всего страдает Киев 27

Непогода чрезвычайно усложняет условия для водителей.

Братья-азербайджанцы, спасшие семью из горящего джипа:  Одному вытащить всех троих не удалось бы
Братья-азербайджанцы, спасшие семью из горящего джипа: "Одному вытащить всех троих не удалось бы" 917 2

Машина, в салоне которой находились трехлетний ребенок и его родители, вылетела в кювет после столкновения с прицепом грузовика и загорелась. До взрыва оставались считанные минуты.

Иконы под ногами: патрульные ищут погромщиков часовни на Житомирщине
Иконы под ногами: патрульные ищут погромщиков часовни на Житомирщине [видео] 243

Хулиганы сломали колодец, разбили окна и разбросали вещи.

Экономика

Госстат о субсидиях: льготников меньше, но сумма больше
Госстат о субсидиях: льготников меньше, но сумма больше 168

В Государственной службе статистики сравнили льготы за декабрь 2017 и 2018 года.

Обещанного три года ждут: когда украинцы будут жить лучше
Обещанного три года ждут: когда украинцы будут жить лучше 765 7

Порошенко пообещал, что через год, максимум – три, "плоды реформ" ощутит на себе каждый украинец.

Почему падает доллар и что будет дальше
Почему падает доллар и что будет дальше 1245 4

Эксперты прогнозируют, что перед выборами национальная валют еще больше укрепится.

Общество

В Украине появилось первое авто для видеонаблюдения
В Украине появилось первое авто для видеонаблюдения

Его купили для управления безопасности Львова, но скоро такие автомобили будут в столице.

 Укрпочта  и  Новая почта  заявили о проблемах с доставкой из-за погоды
"Укрпочта" и "Новая почта" заявили о проблемах с доставкой из-за погоды 58

Обе компании заявили, что в таких условиях работать невозможно.

Meizu представила смартфон, в котором нет разъемов и слота для SIM-карты
Meizu представила смартфон, в котором нет разъемов и слота для SIM-карты [фото, видео] 241

В новом гаджете компания использовала 75 запатентованных технологий.

Светская хроника и ТВ

СМИ: экс-король Малайзии разводится с  Мисс Москва
СМИ: экс-король Малайзии разводится с "Мисс Москва" 325

Оксане Воеводиной придется расстаться с Мухаммадом V.

Алексей Суханов: Мне стыдно за слезы бывшей супруги
Алексей Суханов: Мне стыдно за слезы бывшей супруги 457 1

Ведущий ток-шоу "Говорить Україна" - о 45-летии, игре в театре, неприятных темах и любви.

Вдова Николая Караченцова раздала его личные вещи и занимается памятником
Вдова Николая Караченцова раздала его личные вещи и занимается памятником 364

70-летняя Людмила Поргина рассказала о жизни спустя три месяца после смерти мужа.

Спорт

Футболисты мадридского  Атлетико  поиграли в пожарных
Футболисты мадридского "Атлетико" поиграли в пожарных [видео] 30

Игроки забавно пошутили друг над другом.

 Шахтер  подписал защитника  Александрии
"Шахтер" подписал защитника "Александрии" 91

Валерий Бондаренко стал игроком "горняков".

Australian Open-2019. Снигур вышла в четвертьфинал юниорского турнира
Australian Open-2019. Снигур вышла в четвертьфинал юниорского турнира 79

Украинская теннисистка пробилась в следующий раунд соревнований Большого шлема.