Искусственный интеллект отберет у нас будущее?
"КП" в Украине" изучала, в каких отраслях искусственный интеллект (ИИ) уже заменяет человека и стоит ли бояться его в будущем.
Угроза 1
У нас отнимут работу
Сейчас ИИ окружает нас достаточно незаметно. По большому счету в современном понимании искусственный интеллект пока еще и вовсе не интеллект - это набор программ, которые помогают нам во многих случаях жизни. Говорите со своим телефоном (Сири)? Искали вчера холодильник, а сегодня на каждой интернет-странице их реклама? Купили "умный дом"? Это все тоже можно считать применением ИИ.
И это не страшно, а очень полезно. Уже сейчас некоторые статьи на сайтах пишут боты. А в ближайшем будущем появятся автомобили, которым будут не нужны водители: ИИ быстрее среагирует на препятствие, предпримет действия. ИИ не напьется за рулем! Правда, здесь уже начинают возникать слабые, но вполне обоснованные чувства ревности человека к набору алгоритмов - "машины" лишат работы журналистов и водителей. А потом еще очень многих специалистов - бухгалтеров, грузчиков, официантов, продавцов, секретарей.
Казалось бы - и слава богу: ну ее ту работу! Тем более что даже такие гиганты мысли, как Билл Гейтс, считают, что роботы должны платить налоги, чтобы на них содержать безработных. Почти утопия и мир будущего - пойдем все в художники, будем петь песни и рисовать. И тратить деньги, заработанные роботами.
Есть только две проблемы. Эти умники уже научились и рисовать. 20 января Microsoft представила новую технологию ИИ, которая способна рисовать, основываясь на письменном описании объекта. Как же так, Билл, ты же был за нас?
И вторая проблема гораздо хуже. Мы не сможем все время ничего не делать. Другой гений современности Илон Маск считает это огромным вызовом - человечеству придется пройти период болезненной адаптации к ничегонеделанию. И если люди начнут осознавать свою "бесполезность" - тут недалеко и до психозов и массовых самоубийств.
И все же все это пока не выглядит страшно, нельзя всерьез бояться, что нас завоюют умные холодильники. Почему же тогда так обеспокоены всемирно известный физик Стивен Хокинг, Илон Маск и даже писатель Дэн Браун?
Илон Маск и Стивен Хокинг уверяют, что нужно прекратить или ограничить опыты с искусственным интеллектом. Потому что это угрожает вообще существованию человечества. Маск говорит, что ИИ - это страшнее, чем автокатастрофы и падения самолетов, опаснее, чем Северная Корея. Это может привести к Третьей мировой, а дальше и к истреблению человечества. Слова Хокинга тоже не отличаются оптимизмом, он подчеркивает, что нам нужно искать новые планеты для жизни, поскольку человечество может не дожить до конца этого тысячелетия, а относительно искусственного интеллекта заявил: когда роботы превзойдут людей в интеллекте, то мы проиграем, потому что люди ограничены рамками биологической эволюции и не смогут тягаться с машинами.
А большие проблемы начнутся тогда, когда ИИ станет самообучающимся. Никто не сможет узнать - что же он там себе придумал.
|
Угроза 2
Они учатся лгать и воевать
Ложь - универсальное поведение. Люди делают это постоянно, и даже некоторые животные, как белки или птицы, прибегают к ней ради выживания. Ученые из Технологического института Джорджии разработали роботов с искусственным интеллектом, способных обманывать и лгать. Исследовательская группа под руководством профессора Рональда Аркина надеется, что их роботов смогут использовать военные в будущем.
После того как их доделают, роботы смогут выступать с военными на поле боя. Они будут служить в качестве охранников, защищая боеприпасы и провиант от врагов. Изучая искусство лжи, эти ИИ смогут "выиграть время, пока не прибудет подкрепление", изменяя стратегии патрулирования, чтобы обмануть других интеллектуальных роботов или людей. Ну, во всяком случае так планируют ученые.
Правда, профессор Аркин признал, что имеются "значительные этические проблемы" в отношении его исследований. Если результаты его работы попадут не в те руки, это будет катастрофа.
Главная угроза военных систем ИИ - это именно их самообучение. Один неверный посыл - и мы увидим фильм "Терминатор" наяву, кто знает, что решат машины с оружием в руках.
Угроза 3
Влезут нам в голову
Это не столь отдаленное будущее, о котором мечтают многие люди. Кто-то уже вшивает себе в руки чипы со штрих-кодами, а кто-то мечтает иметь за ухом usb-порт для расширения памяти.
А разве не было бы прекрасно выучить французский за пару минут, просто загрузив его в мозг? Рэй Курцвейл, футуролог, изобретатель и технический директор Google, предсказывает, что к 2030 году "наноботы, имплантированные в наши мозги, сделают нас богоподобными". С крошечными роботами в голове мы сможем получать и запоминать любую информацию в считаные минуты. Мы сможем складывать в архив наши воспоминания и мысли и даже отправлять и получать письма, фото и видео прямо в голову.
Прямо в голову! Вдумайтесь! Это будет пострашнее куска железа с автоматом. Ведь ИИ может заложить в наш мозг любую информацию, лишив выбора и самосознания.
Угроза 4
Что такое "хорошо", что такое "плохо"
Ученые во главе с Марком Ридлом и Брентом Харрисоном из Школы интерактивных вычислений в Технологическом институте Джорджии пытаются привить человеческую этику ИИ, буквально рассказывая ему сказки. Звучит просто, но в этом есть смысл. В реальной жизни мы рассказываем сказки детям, прививая им человеческие ценности. ИИ сейчас как ребенок. Он действительно не знает, что правильно, а что нет.
Тем не менее есть также большая опасность в обучении роботов с искусственным интеллектом человеческим ценностям. Если поворошить историю человечества, можно найти, что, несмотря на изучение правильного и неправильного, люди по-прежнему способны творить неописуемое зло. Достаточно вспомнить Гитлера и других тиранов глобального уровня. Если люди способны на такое зло, что мешает мощному ИИ делать то же самое?
Угроза 5
ИИ возьмет управление на себя
Когда самообучающаяся программа примет решение, что она лучше знает, что нужно человеку, тогда нам и наступит хана. Начнется с температуры для подогрева стейка, скорости вождения машины, поиска нужных тегов для лайков в интернете.
А закончится тем, что ИИ решит, что он в состоянии или полностью отказаться от человека, или полностью ему "помогать". Роман Дэна Брауна "Происхождение" и об этом тоже. Теперь убийца не сумасшедший дворник, не подонок-сын миллионера, претендующий на наследство. Теперь убийца - искусственный интеллект, который уверен, что выполнил свою программу наилучшим образом.
Мнение против
Леонид КАГАНОВ, писатель-фантаст:
- Честно скажу, я очень рад за оптимиста Хокинга, потому что, на мой взгляд, гораздо большую опасность представляют не разумные машины, которые займут место человека, а люди, лишенные интеллекта, которые займут место человека. Это мне кажется намного большей опасностью.
Мы всегда боялись, что придет такой железный робот с лампой вместо носа и начнет в нас стрелять из своего плазменного пистолета. А на самом деле мы открываем свою электронную почту и видим тонны спама, которые рассылают роботы. Они не имеют тела, но они роботы. Потом мы видим, как роботы постоянно ходят, стучатся и взламывают наши сервера, стучатся на каждый сайт, пробуют подобрать пароли. Все это тоже делают роботы. Это огромные ботнеты, которые занимаются всем - начиная от взлома личных данных до промышленного шпионажа, настроенные, понятное дело, людьми. Это, мне кажется, более актуальной опасностью. Андроид в титановом панцире появится еще очень не скоро, да и мозга у него нет, а примитивные роботы могут вредить, делать пакости, беспокоить. Могут разбудить звонком, сказать, что у вас задолженность за электроэнергию составляет 3 рубля 14 копеек. Это же тоже роботы все звонят, - сказал фантаст в передаче Би-Би-Си о проблемах ИИ.
