24 мая
Загрузить еще

Искусственный интеллект вот-вот выйдет из-под контроля

Искусственный интеллект вот-вот выйдет из-под контроля
Фото: 26 стран подписали петицию о запрете разработок автономных боевых систем.

В 2015 году поклонники сериала "Назад в будущее" отметили дату, в которую прибывают в грядущее герои фильма. И тогда выяснилось - некоторые уникальные фантастические технологии, встречающиеся в фильме, ученые смогли воссоздать в реальности. Так, например, существуют 3D- очки и видеосвязь, компания Nike создала самозашнуровывающиеся кроссовки и прочее.

Но все это цветочки по сравнению с тем, что реальностью может стать сюжет другого известного футуристического фильма - "Терминатор". Речь идет о появлении аналога SkyNet - искусственного интеллекта (ИИ), который может выйти из-под контроля человека. И о полностью самоуправляемых роботах-убийцах, которые сами выбирают мишень и решают, уничтожать ее или нет.

ИИ создал свой язык 

Если кто-то еще не верит в такую возможность, то вот вам факт: в 2017 году компания Facebook была вынуждена закрыть одну из своих систем искусственного интеллекта (ИИ) после того, как программисты обнаружили, что боты (программы) стали произвольно общаться не на английском, а на собственном, непонятном людям языке. И он был создан (!) именно искусственным интеллектом для того, чтобы быстрее и проще обмениваться информацией. 

Что дает ответ на ключевой вопрос: может ли ИИ производить действия и самосовершенствоваться и даже выйти из-под контроля человека? Что в общем-то и сделала сеть SkyNet из "Терминатора". 

Такую угрозу, похоже, уже поняли в мире. В Европарламенте принята резолюция, в которой содержится предложение полностью запретить использование автоматических систем вооружения и боевых роботов. 

"Право принимать решение о жизни и смерти никогда не должно быть передано из рук человека в руки бездушным машинам", - заявила депутат Европарламента от шведской Партии зеленых Бодиль Валеро. 

А в Женеве в конце августа стартовали переговоры группы правительственных экспертов из 70 стран под эгидой ООН по смертоносным автономным системам вооружения. Специалисты опасаются, что полностью независимые боевые роботы будут выбирать и поражать цели бесконтрольно, а не основываясь на юридических и этических аспектах войны. Эксперты призвали страны начать переговоры и разработать к 2019 году новое соглашение об автономных боевых системах.

Пугающее будущее 

На сегодняшний день 26 стран поддержали запрет боевых роботов. Открытое письмо с поддержкой их позиции подписали более 230 организаций по всему миру и около 3000 предпринимателей и ученых, занятых в сфере искусственного интеллекта. 

Среди них был астрофизик Стивен Хокинг, говоривший, что "сверхразумный искусственный интеллект будет отлично справляться с задачами, но если его и наши цели не совпадут, у человечества появятся очень серьезные проблемы". И основатель компаний Tesla и Space X Илон Маск считает, что "искусственный интеллект является фундаментальной угрозой для всего человечества". 

А соучредитель компании Apple Стив Возняк заявил, что "будущее выглядит пугающим и очень опасным для людей. В конце концов настанет день, когда компьютеры будут думать быстрее, чем мы, и они избавятся от медленных людей для того, чтобы компании могли работать более эффективно".

"Решение лишить человека жизни никогда не должно быть делегировано роботу", - говорится в письме о запрете автономных боевых систем.

Но есть и сторонники создания "терминаторов-убийц". Это государства, активно инвестирующие в использование искусственного интеллекта для военных нужд, например, США, Израиль, Россия и Великобритания. США и Россия даже заблокировали в ООН продвижение переговоров о запрете боевых роботов, потому что "лидер по созданию искусственного интеллекта будет властелином мира". 

Остался совсем небольшой шаг

Пока полностью самоуправляемого оружия еще не создано, но многие государства вкладывают значительные средства в адаптацию технологии искусственного интеллекта для военных нужд. А учитывая стремительное развитие IT-технологий, процесс создания боевых роботов с автономным интеллектом только ускорится. На вооружении ряда стран уже стоят системы с элементами искусственного интеллекта - от беспилотников и роботов-часовых до аппаратов для обезвреживания взрывных устройств. При этом продолжается развитие искусственных нейронных сетей, позволяющих искусственному интеллекту самообучаться.

"Остался совсем небольшой шаг до создания целиком автономных систем вооружения", - заявил в интервью Deutsche Welle глава немецкой организации Facing Finance, участвующей в международной кампании "Остановите роботов-убийц", Томас Кюхенмайстер.

А профессор Оксфордского университета Ник Бостром считает, что ИИ уже подошел к той точке, за которой последует его несовместимость с человеком. 

Кто из них Надин, а кто человек? Подскажем: робот - слева.

В тему

Бабушка Скайнет

Эти разработки могут стать предтечей автономного ИИ.  

Ученые из Технологического института Джорджии разработали роботов с искусственным интеллектом, способных обманывать и лгать. Исследовательская группа под руководством профессора Рональда Аркина надеется, что их роботов смогут использовать военные в будущем.

Они будут выступать в качестве охранников, защищая бое­припасы и провиант от врагов. Изучая искусство лжи, эти ИИ смогут "выиграть время, пока не прибудет подкрепление", изменяя стратегии патрулирования, чтобы обмануть других интеллектуальных роботов или людей. При этом профессор Аркин признает, что имеются "значительные этические проблемы" в отношении его исследований. 

Японский эксперт по роботам Хироши Исигуро создал машину с искусственным интеллектом Ян-Ян, а Сингапурский технологический университет - такого же робота Надин, который даже внешне почти неотличим от человека. Они могут улыбаться, приветствовать и встречать людей, пожимать руку и поддерживать зрительный контакт. Ян-Ян и Надин даже могут узнавать гостей и поддерживать с ними беседу на основе предыдущих разговоров.

Эксперты из Microsoft Application and Services Group в Восточной Азии создали искусственную программу, которая может "испытывать" эмоции и разговаривать с людьми "по-человечески". ИИ по имени Xiaoice отвечает на вопросы, как 17-летняя девочка. Если она не знает тему, она может приврать. Если ее уличить во лжи, они разозлится или смутится. Xiaoice может быть саркастичной, мнительной и нетерпеливой.

"Непредсказуемость Xiaoice делает общение с ней очень похожим на общение с человеком. Пока такой ИИ в диковинку, и китайцы общаются с ним, когда хотят повеселиться или когда скучно. Но ее создатель работает над улучшением Xiaoice. Кто знает, может, Xiaoice станет бабушкой SkyNet", - пишет Deutsche Welle.

Футуролог, изобретатель и технический директор Google Рэй Курцвейл предсказывает, что к 2030 году "наноботы, имплантированные в наши мозги, сделают нас богоподобными". С крошечными роботами в голове мы сможем получать и запоминать любую информацию в считаные минуты. Мы сможем складывать в архив наши воспоминания и мысли и даже отправлять и получать письма, фото и видео прямо в голову. А вот что будет, если эти нанороботы захватят человеческий мозг и станут управлять им? 

Новости по теме: искусственный интеллект