Харари, Маск, Гейтс: Искусственный интеллект может быть опасен для человеческой расы
Искусственный интеллект уже думает за нас, и у нас осталось не так уж много времени, чтобы научиться им управлять – пока он не стал управлять нами. Об опасностях электронного разума, который однажды может выйти за пределы машинной оболочки, нас неоднократно предупреждали и писатели-фантасты. А сейчас к ним подтянулись и ученые, и философы, и новые технологические гении. Что же их насторожило в ИИ – разбиралась KP.UA.
Юваль Ной Харари, израильский историк, автор бестселлера «Sapiens: Краткая история человечества»
Еще в 2019 году этот авторитетный автор и исследователь развития человечества предупреждал о трех главных угрозах ближайшего десятилетия: угроза ядерной войны, экологический коллапс, вызванный изменениями климата, и так называемый «технологический сбой», к которому приведет усиливающееся влияние искусственного интеллекта на человека.
По прошествии четырех лет мы обнаруживаем, что Харари был недалек от истины по всем пунктам. В отношении "технологического сбоя", говорил Харари, мы будем иметь не столько восстание машин (в это вообще верится с трудом), сколько появление того самого общества из книги Оруэлла «1984». Будет ли ИИ применяться для разработки лекарств от рака или прогноза погоды – тот еще вопрос, а вот установление тотальной слежки за гражданами и как следствие - появление диктатуры, пожалуй, наиболее вероятный вариант.
Юль Ной Харрари. Фото: Daniel Naber/wikipedia.org/
- Раньше даже в такой тоталитарной стране, как СССР, режим не мог все время следить за своими гражданами. Это было практически невозможно. Но сейчас мы достигли той точки, когда новые технологии, я имею в виду сочетание искусственного интеллекта и биотехнологий, биометрические датчики, системы распознавания лиц и голоса, - все они впервые в истории позволяют диктаторам следить за всеми своими гражданами. Это может привести к созданию тоталитарных режимов, которые будут намного хуже, чем все, что мы видели в ХХ веке. Хуже Сталина и Гитлера. И у нас не так много времени, чтобы это остановить, - говорит историк.
Впрочем, он сразу же подчеркивает: это лишь вероятность, а не гарантированный результат. Но пугать не перестает. Юваль Харари смотрит вглубь системы искусственного интеллекта, подчиняющегося только алгоритмам. Которые уже умеют очень быстро и качественно анализировать и обрабатывать огромные массивы данных.
«Ух ты!» - радостно воскликнут экономисты и отдадут в работу электронным мозгам, например, сложную аналитику мировых фондовых рынков. Через несколько лет эти же экономисты просто не смогут понять, о чем им говорит искусственный интеллект, поскольку человек не в силах воспринять то количество информации, которое обрабатывает или генерирует ИИ. Последствия этого? Включайте воображение. Любой удручающий финал вполне возможен с вероятностью в 50%.
О том, что искусственный интеллект оставит без работы миллионы людей, уже говорено не раз, и Харари не исключение. Он даже предполагает, что искусственный интеллект в состоянии поделить людей на полезных (обслуживающий персонал для ИИ и работники, чьи навыки машины заменить не в состоянии) и бесполезных (понятно, что речь идет о тех, чьи функции передадут тем самым алгоритмам – курьеры, официанты, аналитики, прогнозисты и т.п.). Неравенство всепланетного масштаба – о таком ли мы мечтали?
Теперь немного выдыхаем: Юваль Харари считает, что в гонке искусственного интеллекта на первых порах будут участвовать только две страны – США и Китай, остальные просто финансово не потянут масштабное внедрение искусственного интеллекта. Впрочем, о диктатуре и повальной слежке в Китае уже говорят и так, без участия ИИ.
Стивен Хокинг, британский физик-теоретик, космолог и астрофизик
Стивен Хокинг. Фото: Chris Jackson/Getty Images
Вряд ли кто-то усомнится в том, что профессор Стивен Хокинг был выдающимся специалистом не только в сфере космологии и квантовой механики, но и по части искусственного интеллекта. Профессор Хокинг изучал ИИ со всей тщательностью ученого, далекого от влияния фильмов о матрице и терминаторах, но зато прекрасно разбирающегося в искусственных мозгах. Стивен Хокинг высказывался на тему ИИ осторожно, пытаясь соблюсти баланс между оптимизмом и пессимизмом, но последний перевешивал. Все-таки профессор слишком хорошо разбирался в людях и их склонностях.
В 2014 году в интервью ВВС он заявил: «Развитие полноценного искусственного интеллекта может означать конец человеческой расы… Он будет развиваться сам по себе и переделывать себя со все возрастающей скоростью. Люди, которые ограничены медленной биологической эволюцией, не могут конкурировать и будут вытеснены».
Через два года Хокинг, выступая на открытии Леверхальмского центра разведки будущего в Кембридже, отметил, что не видит большой разницы между тем, что может быть достигнуто с помощью биологического мозга, и тем, что с помощью компьютера.
- Отсюда следует, что компьютеры теоретически могут подражать человеческому интеллекту и превосходить его, - подытожил профессор, заставив слушателей задуматься, а сколько времени на это понадобится и не станем ли мы свидетелями (или заложниками) превосходства ИИ над хомо сапиенс уже в этом веке.
Прошло еще немного времени, и, незадолго до своей смерти в 2018 году, ученый предостерег: джинн уже выпущен из бутылки.
- Нам нужно двигаться вперед в развитии искусственного интеллекта, но мы также должны помнить о его очень реальных опасностях. Я боюсь, что ИИ может полностью заменить людей. Если люди разрабатывают компьютерные вирусы, кто-то создаст ИИ, который воспроизводит сам себя. Это будет новая форма жизни, которая превзойдет людей, - сказал ученый.
Илон Маск, американский предприниматель, инженер, миллиардер
Илон Маск. Фото: Justin Sullivan/Getty Images
- Искусственный интеллект пугает меня! - сообщил основатель высокотехнологичных компаний Tesla и SpaceX на технической конференции SXSW. - Он способен на гораздо большее, чем кто-либо знает, и скорость улучшения экспоненциальна. Риск того, что произойдет что-то серьезно опасное, существует в течение пяти лет. Максимум 10 лет.
В начале марта этого года, выступая на конференции для инвесторов, Маску пришлось ответить на вопрос одного из участников: поможет ли ИИ в производстве его автомобилей?
- Не думаю, что это произойдет в ближайшее время. Я немного беспокоюсь об искусственном интеллекте. Я думаю, это то, о чем мы все должны беспокоиться. Нам нужен какой-то регулирующий орган или что-то в этом роде, контролирующий разработку ИИ и следящий за тем, чтобы он работал в интересах общества, - отметил Маск.
При этом эпатажный гений технологий был соучредителем OpenAI - компании, разработавшей ChatGPT. Предполагалось, что этот чат-бот будет помогать писать сопроводительные письма, ну или помогать в подработке, но уж никак не сдавать экзамен на адвоката или создавать дипломные работы для студентов-выпускников.
Поэтому контроль, строжайший контроль и ограничения в использовании искусственного интеллекта – вот к чему призывает Маск, и тут мы, конечно, с ним согласны. Как и технический директор OpenAI Мира Мурати, которая в феврале поведала миру тот потрясающий факт, что «инструмент ИИ должен регулироваться, поскольку его могут использовать плохие люди». Впрочем, никто и не сомневается, что искусственный интеллект, пусть даже в виде ChatGPT, однозначно будет использоваться для мошенничества, проведения кибератак, распространения дезинформации и создания плагиата.
Билл Гейтс, американский бизнес-магнат, соучредитель Microsoft
Билл Гейтс. Фото: Kevin Dietsch/Getty Images
Немного детское восхищение выражает бизнесмен и филантроп Билл Гейтс, когда говорит об искусственном интеллекте. Его создание Гейтс сравнил с появлением микропроцессора, персонального компьютера, интернета и мобильного телефона и предсказал, что целые отрасли промышленности сконцентрируются вокруг него.
- Искусственный интеллект может служить цифровым личным помощником для работников и может помочь работникам здравоохранения и учителям облегчить их работу, - на полном серьезе заявил Гейтс, и где-то захихикали разработчики новых компьютерных вирусов из предсказаний Хокинга. Сам Билл Гейтс использует ИИ в виде чат-бота ChatGPT как для неких серьезных целей, по его словам, так и рады забавы, например, для написания стихов. Увы, мир пока не услышал гейтсовских строф, но все еще впереди. Ведь «ИИ станет самой великой вещью этого десятилетия, а возможности чат-ботов можно назвать фантастическими», - это тоже Гейтс, и видимо, сразу после попыток стихосложения.
Он честно признал: искусственный интеллект может изменить наш мир, заняв человеческие рабочие места, и станет для каждого человека своего рода «личным агентом».
- Он будет видеть ваши последние электронные письма, знать о встречах, которые вы посещаете, читать то, что вы читаете, и читать то, о чем вы не хотите беспокоиться… Он будет знать ваши интересы и ваш стиль обучения, чтобы адаптировать контент, который будет вас удерживать. Он будет измерять ваше понимание, замечать, когда вы теряете интерес, и понимать, на какую мотивацию вы реагируете. Он даст немедленную обратную связь, - предположил Гейтс, и пока трудно сказать, нравится нам это или нет.
Позитивный момент использования ИИ Гейтс видит так:
- Искусственный интеллект значительно ускорит скорость медицинских открытий. Объем данных в биологии очень велик, и людям сложно отслеживать все способы работы сложных биологических систем. Уже есть программное обеспечение, которое может просматривать эти данные, делать выводы о путях, искать мишени для патогенов и, соответственно, разрабатывать лекарства. Некоторые компании работают над лекарствами от рака, которые были разработаны таким образом.
Берите попкорн и усаживайтесь поудобнее – грядет великая битва между медицинскими корпорациями (которые, согласно теории заговора, скрывают создание лекарств от самых страшных болезней) и искусственным интеллектом, которому пока еще плевать на фармацевтическое лобби. Да и Гейтсу, как крупнейшему частному спонсору Всемирной организации здравоохранения, тоже наверняка будет интересно, кто победит.
Что же остается нам, простым смертным? Никто пока не знает, дело великих – заявить о возможной опасности. А потом говорить: «Мы же предупреждали».
