ВВС: Искусственный интеллект несет человечеству три угрозы

ВВС: Искусственный интеллект несет человечеству три угрозы

Фото: www.holmesplace.ch

Превращенные в снаряды дроны, фейковые видео, манипулирующие общественным сознанием, и автоматизированный компьютерный взлом - вот три основные угрозы, которые, по мнению экспертов, исходят от искусственного интеллекта, попавшего в плохие руки, сообщил ВВС.

Согласно отчету "Вредоносное использование искусственного интеллекта", он вполне может использоваться странами-изгоями, преступниками и террористами. 100-страничный доклад определяет три сферы - цифровую, физическую и политическую, в которых злонамеренное использование ИИ наиболее вероятно.

В составлении доклада также участвовали некоммерческая исследовательская компания OpenAI, группа по управлению цифровыми правами Electronic Frontier Foundation и Центр новых подходов к охране безопасности США.

Авторы этого доклада призывают к следующему:

  • Политики и инженеры-разработчики должны совместно определить, каким именно может быть вредоносное использование ИИ и как это предотвратить
  • Осознать, что в то время как ИИ имеет множество разнообразных применений, это обоюдоострая технология, поэтому ученые и разработчики должны это учитывать и упреждать возможное злонамеренное использование ИИ
  • Перенять подход, который существует, к примеру, в сфере компьютерных технологий, где уже выработаны предохранительные меры против подобных рисков
  • Активное расширение круга заинтересованных сторон, связанных с упреждением и смягчением рисков злонамеренного использования ИИ.

Специалист Центра по изучению экзистенциальных рисков при Кембриджском университете Шахар Авин отметил, что в докладе основное внимание уделяется областям ИИ, которые уже доступны или, вероятно, будут доступны в ближайшие пять лет, но нет взгляда в более отдаленную перспективу. 

Он также обрисовал несколько сценариев, где ИИ может вдруг в ближайшем будущем "сорваться":

  • Такая программа, как AlphaGo - ИИ, разработанный компанией Google DeepMind, способный обыграть человека в игру го - может быть использована хакерами для нахождения шаблонов данных и уязвимости кодировки
  • Некий отдельно взятый злоумышленник может купить дрон, оснастить его программой распознавания лиц и с помощью него напасть на какого-то конкретного человека
  • Боты могут быть автоматизированы на производство фейковых видеоклипов с целью политических манипуляций
  • Хакеры могут использовать синтезированную речь для того, чтобы выдать себя за кого-то.

Научный сотрудник Института будущего человечества Оксфордского университета Майлз Брандидж считает, что "ИИ изменит существующие угрозы для отдельных граждан, организаций и государств - будь то на уровне преступников, которые настроят машины на взлом или фишинг информации у отдельных лиц, или же это будет внедрение в частную жизнь путем слежения, профилирования личности и дальнейших репрессий - полный спектр воздействия этого на безопасность огромен".

- Очень часто так бывает, что системы ИИ не просто достигают человеческого уровня производительности, но намного его превосходят. Это очень печально, однако необходимо рассмотреть те последствия, к которым могут привести сверхчеловеческого уровня хакерство, слежка, методы убеждения и распознавание физической цели, а также возможности ИИ, которые хоть и не достигают человеческого уровня, но тем не менее гораздо лучше варьируются, чем человеческий труд, - полагает ученый.

Шон О'Хэггерти, исполнительный директор Центра по изучению экзистенциальных рисков и один из соавторов доклада, добавляет: "Искусственный интеллект кардинально все меняет, и этот доклад размышляет над тем, как мир может измениться в следующие 5-10 лет. Мы живем в мире, который может быть подвержен ежедневной опасности злоупотребления ИИ, и мы должны начать заниматься этой проблемой, потому что эти риски вполне реальны".

ЧИТАЙТЕ ТАКЖЕ:

Искусственный интеллект научился предсказывать дату смерти человека

Ученые хотят дать смертельно больным пациентам перед уходом из жизни завершить некие важные по их мнению дела, а не тратить это драгоценное время на ненужное и болезненное лечение в больницах.

Чтобы не пропустить все самое важное и интересное, подписывайтесь на нас в соцсетях

Политика

В США назначили прокурора по  делам Украины
В США назначили прокурора по "делам Украины" 43

Донохью будет координировать любые вопросы связаны с нашей страной.

Гончарук в Новых Санжарах: Эвакуированные украинцы находятся в полной безопасности
Гончарук в Новых Санжарах: Эвакуированные украинцы находятся в полной безопасности 125

Премьер-министр созвал провел срочное совещание по поводу размещения прибывших людей из Уханя.

Протесты в Новых Санжарах: полиция задержала 24 человека
Протесты в Новых Санжарах: полиция задержала 24 человека [фото] 114

Действия протестующих привели к травмированию людей.

Происшествия

Гендиректор SkyUp: самолет из Уханя будут дезинфицировать сутки
Гендиректор SkyUp: самолет из Уханя будут дезинфицировать сутки 211

В авиакомпании рассказали, как защищаются от коронавируса из Китая. Заодно объяснили, почему кружили над Украиной.

Дело Шеремета: суд оставил Антоненко под стражей
Дело Шеремета: суд оставил Антоненко под стражей 68

Печерский районный суд Киева оставил под арестом Андрея Антоненко, который является одним из подозреваемых в убийстве журналиста Павла Шеремета.

Посольство - о борьбе за украинку и собаку, оставшихся в Ухане: Анастасии предложили гостиницу для животного
Посольство - о борьбе за украинку и собаку, оставшихся в Ухане: Анастасии предложили гостиницу для животного 1010 5

Власти Китая отказали из-за карантина.

Экономика

Парадокс: в платежках за тепло суммы увеличились, а площадь домов уменьшилась
Парадокс: в платежках за тепло суммы увеличились, а площадь домов уменьшилась 210

"КП" в Украине" ответила на самые актуальные вопросы относительно январских счетов за отопление.

Доллар и евро выросли к прилету самолета из Уханя
Доллар и евро выросли к прилету самолета из Уханя [инфографика] 715

Национальная валюта незначительно обесценилась.

В Пенсионном фонде назвали среднюю зарплату украинцев в 2019 году
В Пенсионном фонде назвали среднюю зарплату украинцев в 2019 году 951

В конце прошлого года размер среднего показателя увеличился.

Общество

Скалецкая добровольно проведет две недели в Новых Санжарах вместе с эвакуированными
Скалецкая добровольно проведет две недели в Новых Санжарах вместе с эвакуированными 495 1

Министр здравоохранения пропустит 10-летие дочери, оставшись поддержать украинцев в карантине.

В МИД не подтверждают информацию о выздоровлении украинцев с лайнера Diamond Princess
В МИД не подтверждают информацию о выздоровлении украинцев с лайнера Diamond Princess 147

Данных лабораторных тестов пока нет.

Нацгвардия: центр в Новых Санжарах полностью готов к приему эвакуированных
Нацгвардия: центр в Новых Санжарах полностью готов к приему эвакуированных 199

Страхи жителей поселка Новые Санжары не имеют под собой оснований.

Светская хроника и ТВ

Первая жена Майкла Джексона - о скандале с педофилией: Я пыталась его спасти
Первая жена Майкла Джексона - о скандале с педофилией: Я пыталась его спасти 144

Дочка Элвиса Пресли рассказала, как развивались отношения с поп-королем.

Звезда Гарри Поттера победила рак: Никогда не забуду слезы мужа
Звезда Гарри Поттера победила рак: Никогда не забуду слезы мужа [видео] 234

Джули Уолтерс исцелилась благодаря операции и химиотерапии.

 Ничто не случается дважды : что будет во втором сезоне сериала
"Ничто не случается дважды": что будет во втором сезоне сериала 642

Режиссер Оксана Байрак рассказала подробности сюжета и призналась, что "оживила" героя Петра Рыкова и ввела новую героиню.

Спорт

Луиш Каштру: дружим с тренером  Бенфики , но в игре один победитель
Луиш Каштру: дружим с тренером "Бенфики", но в игре один победитель [видео] 102

Португалец выведет "Шахтер" на игру против португальского клуба. Что испытывает тренер?

Коноплянка настраивается на  Бенфику , как на финал Лиги Чемпионов
Коноплянка настраивается на "Бенфику", как на финал Лиги Чемпионов [видео] 112

Главное - уверенность и концентрация, считает полузащитник "Шахтера".

Евгений Селезнев: Фонсека угробил Шахтер после Луческу
Евгений Селезнев: Фонсека угробил Шахтер после Луческу 447

Экс-игрок Шахтера и сборной Украины жестко прошелся по бывшему португальскому тренеру горняков Паулу Фонсеке