Искусственный интеллект вот-вот выйдет из-под контроля

Искусственный интеллект вот-вот выйдет из-под контроля

26 стран подписали петицию о запрете разработок автономных боевых систем.

В 2015 году поклонники сериала "Назад в будущее" отметили дату, в которую прибывают в грядущее герои фильма. И тогда выяснилось - некоторые уникальные фантастические технологии, встречающиеся в фильме, ученые смогли воссоздать в реальности. Так, например, существуют 3D- очки и видеосвязь, компания Nike создала самозашнуровывающиеся кроссовки и прочее.

Но все это цветочки по сравнению с тем, что реальностью может стать сюжет другого известного футуристического фильма - "Терминатор". Речь идет о появлении аналога SkyNet - искусственного интеллекта (ИИ), который может выйти из-под контроля человека. И о полностью самоуправляемых роботах-убийцах, которые сами выбирают мишень и решают, уничтожать ее или нет.

ИИ создал свой язык 

Если кто-то еще не верит в такую возможность, то вот вам факт: в 2017 году компания Facebook была вынуждена закрыть одну из своих систем искусственного интеллекта (ИИ) после того, как программисты обнаружили, что боты (программы) стали произвольно общаться не на английском, а на собственном, непонятном людям языке. И он был создан (!) именно искусственным интеллектом для того, чтобы быстрее и проще обмениваться информацией. 

Что дает ответ на ключевой вопрос: может ли ИИ производить действия и самосовершенствоваться и даже выйти из-под контроля человека? Что в общем-то и сделала сеть SkyNet из "Терминатора". 

Такую угрозу, похоже, уже поняли в мире. В Европарламенте принята резолюция, в которой содержится предложение полностью запретить использование автоматических систем вооружения и боевых роботов. 

"Право принимать решение о жизни и смерти никогда не должно быть передано из рук человека в руки бездушным машинам", - заявила депутат Европарламента от шведской Партии зеленых Бодиль Валеро. 

А в Женеве в конце августа стартовали переговоры группы правительственных экспертов из 70 стран под эгидой ООН по смертоносным автономным системам вооружения. Специалисты опасаются, что полностью независимые боевые роботы будут выбирать и поражать цели бесконтрольно, а не основываясь на юридических и этических аспектах войны. Эксперты призвали страны начать переговоры и разработать к 2019 году новое соглашение об автономных боевых системах.

Пугающее будущее 

На сегодняшний день 26 стран поддержали запрет боевых роботов. Открытое письмо с поддержкой их позиции подписали более 230 организаций по всему миру и около 3000 предпринимателей и ученых, занятых в сфере искусственного интеллекта. 

Среди них был астрофизик Стивен Хокинг, говоривший, что "сверхразумный искусственный интеллект будет отлично справляться с задачами, но если его и наши цели не совпадут, у человечества появятся очень серьезные проблемы". И основатель компаний Tesla и Space X Илон Маск считает, что "искусственный интеллект является фундаментальной угрозой для всего человечества". 

А соучредитель компании Apple Стив Возняк заявил, что "будущее выглядит пугающим и очень опасным для людей. В конце концов настанет день, когда компьютеры будут думать быстрее, чем мы, и они избавятся от медленных людей для того, чтобы компании могли работать более эффективно".

"Решение лишить человека жизни никогда не должно быть делегировано роботу", - говорится в письме о запрете автономных боевых систем.

Но есть и сторонники создания "терминаторов-убийц". Это государства, активно инвестирующие в использование искусственного интеллекта для военных нужд, например, США, Израиль, Россия и Великобритания. США и Россия даже заблокировали в ООН продвижение переговоров о запрете боевых роботов, потому что "лидер по созданию искусственного интеллекта будет властелином мира". 

Остался совсем небольшой шаг

Пока полностью самоуправляемого оружия еще не создано, но многие государства вкладывают значительные средства в адаптацию технологии искусственного интеллекта для военных нужд. А учитывая стремительное развитие IT-технологий, процесс создания боевых роботов с автономным интеллектом только ускорится. На вооружении ряда стран уже стоят системы с элементами искусственного интеллекта - от беспилотников и роботов-часовых до аппаратов для обезвреживания взрывных устройств. При этом продолжается развитие искусственных нейронных сетей, позволяющих искусственному интеллекту самообучаться.

"Остался совсем небольшой шаг до создания целиком автономных систем вооружения", - заявил в интервью Deutsche Welle глава немецкой организации Facing Finance, участвующей в международной кампании "Остановите роботов-убийц", Томас Кюхенмайстер.

А профессор Оксфордского университета Ник Бостром считает, что ИИ уже подошел к той точке, за которой последует его несовместимость с человеком. 

Кто из них Надин, а кто человек? Подскажем: робот - слева.

В тему

Бабушка Скайнет

Эти разработки могут стать предтечей автономного ИИ.  

Ученые из Технологического института Джорджии разработали роботов с искусственным интеллектом, способных обманывать и лгать. Исследовательская группа под руководством профессора Рональда Аркина надеется, что их роботов смогут использовать военные в будущем.

Они будут выступать в качестве охранников, защищая бое­припасы и провиант от врагов. Изучая искусство лжи, эти ИИ смогут "выиграть время, пока не прибудет подкрепление", изменяя стратегии патрулирования, чтобы обмануть других интеллектуальных роботов или людей. При этом профессор Аркин признает, что имеются "значительные этические проблемы" в отношении его исследований. 

Японский эксперт по роботам Хироши Исигуро создал машину с искусственным интеллектом Ян-Ян, а Сингапурский технологический университет - такого же робота Надин, который даже внешне почти неотличим от человека. Они могут улыбаться, приветствовать и встречать людей, пожимать руку и поддерживать зрительный контакт. Ян-Ян и Надин даже могут узнавать гостей и поддерживать с ними беседу на основе предыдущих разговоров.

Эксперты из Microsoft Application and Services Group в Восточной Азии создали искусственную программу, которая может "испытывать" эмоции и разговаривать с людьми "по-человечески". ИИ по имени Xiaoice отвечает на вопросы, как 17-летняя девочка. Если она не знает тему, она может приврать. Если ее уличить во лжи, они разозлится или смутится. Xiaoice может быть саркастичной, мнительной и нетерпеливой.

"Непредсказуемость Xiaoice делает общение с ней очень похожим на общение с человеком. Пока такой ИИ в диковинку, и китайцы общаются с ним, когда хотят повеселиться или когда скучно. Но ее создатель работает над улучшением Xiaoice. Кто знает, может, Xiaoice станет бабушкой SkyNet", - пишет Deutsche Welle.

Футуролог, изобретатель и технический директор Google Рэй Курцвейл предсказывает, что к 2030 году "наноботы, имплантированные в наши мозги, сделают нас богоподобными". С крошечными роботами в голове мы сможем получать и запоминать любую информацию в считаные минуты. Мы сможем складывать в архив наши воспоминания и мысли и даже отправлять и получать письма, фото и видео прямо в голову. А вот что будет, если эти нанороботы захватят человеческий мозг и станут управлять им? 

Чтобы не пропустить все самое важное и интересное, подписывайтесь на нас в соцсетях

Политика

Зеленский, Шмыгаль и Разумков приезжали на заседание  Слуги народа  обсуждать кадровые вопросы
Зеленский, Шмыгаль и Разумков приезжали на заседание "Слуги народа" обсуждать кадровые вопросы 32

С вице-премьером и главой АМКУ ясность есть, а с председателем НБУ - нет.

Зеленский предложил пожизненное заключение для виновников смертельных ДТП
Зеленский предложил пожизненное заключение для виновников смертельных ДТП 121

Речь идет о трагедиях, которые происходят по вине пьяных водителей.

Рада поддержала увеличение срока за пьяную езду после аварии, в которой погибла семья с детьми
Рада поддержала увеличение срока за пьяную езду после аварии, в которой погибла семья с детьми [видео] 334 3

По нынешнему закону Антон Желепа вышел бы уже через пять лет, заявил замглавы МВД Антон Геращенко.

Происшествия

Военные продолжают тушить тлеющую древесину в Луганской области
Военные продолжают тушить тлеющую древесину в Луганской области 24

Очагов открытого огня не наблюдают.

Соседи о виновнике кровавого ДТП под Киевом:  Никто его не отмажет! Кто он такой? Обычный мужик
Соседи о виновнике кровавого ДТП под Киевом: "Никто его не отмажет! Кто он такой? Обычный мужик" 629 2

Знакомые киевлянина Антона Желепы удивляются, откуда у него "Мерседес" и утверждают, что в нетрезвом состоянии он был неадекватным.

В Минобразования наградили подростков из Винницкой области, спасших тонущую женщину
В Минобразования наградили подростков из Винницкой области, спасших тонущую женщину 76

Парни свой поступок геройским не считают и верят, что так поступил бы каждый.

Экономика

Курс валют на сегодня: гривна упала ниже психологической отметки
Курс валют на сегодня: гривна упала ниже психологической отметки [инфографика] 419

Доллар и евро рванули вверх.

Ждем повышения цен на авиабилеты - в аэропортах Украины введен новый сбор
Ждем повышения цен на авиабилеты - в аэропортах Украины введен новый сбор 317

Вылет каждого пассажира принесет в бюджет от 0.5 до 2 долларов.

Минэнергетики не ищет компромисса по вопросам понижения  зеленых  тарифов – глава правления CNBM
Минэнергетики не ищет компромисса по вопросам понижения "зеленых" тарифов – глава правления CNBM 79 1

Министерство энергетики Украины игнорирует мнение одного из ключевых игроков на рынке солнечной энергетики - китайской государственной корпорации CNBM

Общество

Ляшко сравнил статистику смертности от пневмонии с предыдущими годами
Ляшко сравнил статистику смертности от пневмонии с предыдущими годами 260 1

Главный санврач предполагает, что коронавирус может стать в ряд с самыми опасными заболеваниями.

В Египте отыскали мумий, которые помогут обнаружить могилу Клеопатры
В Египте отыскали мумий, которые помогут обнаружить могилу Клеопатры 163

Они могли общаться с египетской царицей.

АМКУ известил участников конкурса на управление активами УМХ
АМКУ известил участников конкурса на управление активами УМХ 40

Антимонопольный комитет Украины (АМКУ) обнародовал предупреждение, адресованное потенциальным участникам конкурса на управление активами холдинга Украинского Медиа Холдинга (УМХ, UMH group).

Спорт

Манчестер Сити отсудил право играть в Лиге чемпионов
Манчестер Сити отсудил право играть в Лиге чемпионов 98

Двухгодичную дисквалификацию "горожан" отменили, но 10 миллионов штрафа придется заплатить.

Первый после Шевченко. Руслан Малиновский покоряет Италию
Первый после Шевченко. Руслан Малиновский покоряет Италию 226

Криштиану Роналду его уже запомнил

Ломаченко открыл собственный отель в Затоке
Ломаченко открыл собственный отель в Затоке 634

Название гостиничного комплекса - Loma Sport Hotel