Искусственный интеллект - в чём опасность?

Рейтинг: 5 / 5

Звезда активнаЗвезда активнаЗвезда активнаЗвезда активнаЗвезда активна
 

Восстание машин… Эта тема стараниями Голливуда стала одной из главных «страшилок» завтрашнего дня. Причём наступление на сознание людей ведётся сразу по двум направлениям: бунт роботов (фильмы «Терминатор», «Я — робот») и нашествие интернет-монстров («Газонокосильщик», «Матрица»). Что же здесь близко к реальности, а что — беспочвенные фантазии? На этот вопрос недавно попытались ответить удачливый владелец стартапов (инновационных предприятий) Илон Маек, известный своими футуристическими проектами и фатализмом в отношении развития искусственного интеллекта (ИИ), вместе с всемирно известным физиком-теоретиком, космологом и астрофизиком Стивеном Хокингом (1942-2018). По их мнению, к трём основным вызовам человечеству — космической угрозе, климатическим изменениям и экологическому коллапсу — следует добавить и рабство под гнётом… обучаемых машин.

Искусственный интеллект - в чём опасность?

Не интеллектуальный интеллект

Как-то один из главных британских идеологов создания искусственного интеллекта Демис Хассабис из лондонской лаборатории DeepMind вступил в спор с Илоном Маском. Хассабис доказывал, что человечество стоит на пороге эры искусственно созданного интеллекта, способного неузнаваемо изменить окружающий мир, и это замечательно! Маск не отрицал скорого пришествия интеллектуальных роботов, или искинов, но доказывал, что это крайне опасно для человечества. По его мнению, вырвавшиеся из-под контроля ИИ-роботы неминуемо поработят нашу цивилизацию, если только она не успеет колонизировать иные миры, куда искинам вход будет запрещён.
На это Хассабис привёл пример из научно-фантастического романа Филипа Дика «Снятся ли андроидам электроовцы?», широко известного по голливудским киноверсиям. Там искины последовали за человеком в космос, но их конкуренция со своими создателями привела к тому, что на самой Земле их пребывание было объявлено вне закона. А поскольку внешне отличить андроида от человека стало практически невозможно, для идентификации искинов решили применять модифицированные тесты Тьюринга, основанные на принципе эмпатии — способности сочувствовать и сострадать ближнему. Таким образом, человечество при необходимости всегда сможет противостоять этим самым искинам.
Тем не менее стоит иметь в виду, что хотя сфера ИИ стремительно расширяется, она ещё очень далека от того мощного саморазвивающегося программного обеспечения, о котором предупреждал Хокинг и которое ныне так пугает Маска. По сути все современные ИИ-проекты являются частью гонки по созданию гибкого, самообучающегося ИИ, копирующего человеческий процесс обучения.

Когда они «слетят с катушек»?

Кроме Маска об опасности того, что искусственный интеллект, осознав себя, может легко «слететь с катушек», говорит и один из создателей и бывший крупнейший акционер компании Microsoft Билл Гейтс:
— Я думаю, что человека действительно ждёт вымирание, и в этом определяющую роль сыграют новые компьютерные технологии.
Коллега Маска и Гейтса, сооснователь компании-поисковика Google и генеральный директор дочерней фирмы Alphabet Ларри Пейдж считает, что «всё произойдёт почти по Дарвину». Пройдя за столетие эволюционный путь человека, потребовавший миллионолетий, ИИ может не выдержать встречи с открывшейся ему реальностью и начать элементарно уничтожать «главный раздражитель» — своего создателя. Дальше будет ещё хуже — бездумно впитав океан информации, рассеянной по Всемирной паутине, ИИ легко может вообразить себя новым Демиургом и начать создавать кибернетических существ, программируя их самым непредсказуемым образом. Например, креационистами. Подобные киберы с моралью религиозных мракобесов (истинно только божественное — всё остальное требует уничтожения) если и не уничтожат полностью людей, то превратят их в «расходный материал Матрицы».

Сообщество подопытных мышей

Развивая свою мысль о будущем армагеддоне, где человечество будет биться против порождённого им же искусственного интеллекта, Маск заявил, что единственным способом избежать «морального устаревания человечества» может быть «слияние биологического и машинного разумов».
Ещё один «кибернетический гуру» современности, « соучредитель компании Apple Стив Возняк считает, что путь к киборгенизации связан с так называемым нейронным кружевом. Этот инновационный сетчатый материал будет вводиться инъекционным путём и подключаться к мозгу, обеспечивая связь с компьютером. С вживлённым нейронным кружевом человек сможет мгновенно передавать данные от своего мозга на различные кибернетические устройства и использовать компьютерный «облачный сервис». Маск, как один из главных разработчиков подобного «интерфейса гибридного мозга», надеется на его всестороннее внедрение уже в следующем десятилетии.
Так начался, по мнению его единомышленников, «крестовый поход Илона» против освобождения ИИ от власти человека.
Как-то Возняк заметил: при посещении очередного «кибер-стартапа» в калифорнийской Кремниевой долине трудно отделаться от мысли, что мир действительно становится лучше и новые компьютерные алгоритмы, приложения и изобретения сделают нашу жизнь насыщенной, здоровой и намного более продолжительной. В то же время, если следовать этим путём, можно резко снизить экологическую нагрузку на природу нашей планеты.
Однако после всех этих прекрасных слов почему-то возникает странное ощущение, что новые гуру технологий будущего рассматривают нас лишь как сообщество подопытных мышей или кроликов в своих кибернетических экспериментах. Похоже, скоро нас просто перестанут иметь в виду, как некую устаревшую биотехнологию, препятствующую дальнейшему развитию искусственного интеллекта. Многие научные обозреватели мира кибернетики так и представляют будущее ИИ-технологий: люди будут сыты и здоровы, продолжительность жизни увеличится до двух столетий, но даже в мелочах ими будет управлять машинный сверхинтеллект.

Луддиты или пророки?

Можно было предположить, что пророчества таких научных авторитетов современности, как Хокинг, Маск, Гейтс и Возняк, предостерегающих об опасности неконтролируемого развития ИИ, должны вызвать большой общественный резонанс.
Однако подавляющее большинство блогеров и научных обозревателей пишут о «крестовом походе» Маска в лучшем случае как о сизифовом труде. Ещё чаще его сравнивают с движением «разрушителей машин» — луддитов (луддиты — участники стихийных протестов первой четверти XIX века против внедрения машин в ходе промышленной революции в Англии) и даже называют «гения стартапов» ретроградом и противником компьютерного прогресса. При этом тот же Стив Возняк видит парадокс в том, что, несмотря на благостные манифесты хозяев Кремниевой долины, простые пользователи семимильными шагами движутся в «светлое будущее», где им уготована роль домашних животных при искинах.
В то же время Маск вместе со своими друзьями, сооснователями Google Ларри Пейджем и Сергеем Брином, считает, что лучше самим первыми распространить технологию супер-искусственного интеллекта по всему миру. Иначе может возникнуть ситуация, когда алгоритмы «проснувшегося» ИИ попадут в руки правительственных спецслужб, которые будут всячески скрывать это. В таком случае существует опасность, что с помощью истинного ИИ правительственные агенты узурпируют власть над кибернетическими компаниями. Тогда роль человека надолго сведется к сервисным программам, то есть к биологическим загрузчикам цифрового суперинтеллекта. Проще говоря, люди превратятся в аналог небольших программ, запускающих операционную систему при включении компьютера.

Конспирология ИИ и Большая красная кнопка

Капитаны бизнеса Google не только декларируют общедоступность секретов ИИ, но и пытаются завоевать лидирующие позиции среди компаний, занимающихся робототехникой и обучаемыми машинами. К примеру, они уже приобрели лондонскую компанию DeepMind, опередив в этом своего главного конкурента Facebook. При этом была создана специальная исследовательская команда Google Brain для пионерских работ в области ИИ. Коллектив возглавил известный британский конструктор искусственных нейронных сетей Джеффри Хинтон, а идеологию стал определять футуролог Рэй Курцвейл, который ввёл понятие «технологическая сингулярность». Это очень странное состояние науки, программирования и робототехники, когда саморазвивающийся искусственный сверхинтеллект намного превысит возможности человеческого разума и человечество образует новую расу ИИ-киборгов, которая впоследствии эволюционирует в «богоподобных» гибридных существ будущего.
Когда Google произвёл поглощение DeepMind, Хассабис выступил с неожиданной инициативой создать совместную комиссию по этике развития ИИ. В то время это было воспринято с большим скептицизмом, и эксперты по робототехнике в один голос заявили, что бывший владелец DeepMind как минимум на полстолетия поторопился со своей инициативой. Тем более, добавляли кибернетики-скептики, с начала нашего века просто трудно сосчитать количество заявлений из разных лабораторий мира, доказывающих, что человечество в очередной раз стоит на пороге создания подлинного искусственного сверхинтеллекта. Между тем роботы как были во времена Карела Чапека «механическими болванами», так и остаются по сути лишь сверхбыстрыми программируемыми вычислителями.
Разумеется, такое положение дел не очень способствует росту инвестиций в кибернетические стартапы, и Хассабис сделал следующий пиар-ход. Недавно он заявил, что скучающая без сенсаций и скандалов «этическая комиссия» займётся разработкой вариантов создания «Большой красной кнопки». Это будет полностью автономное кибернетическое устройство для экстраординарного отключения и блокировки систем ИИ, проявивших неповиновение оператору. Правда, и здесь далеко не всё ясно (а точнее — ничего не ясно). Ведь отключить сеть пентагоновского сверхсекретного «скайнета», уже не раз дававшего ложные срабатывания на пуски вражеских МБР, практически невозможно…

Журнал: Тайны 20-го века №23, июнь 2020 года
Рубрика: «Внимание: Опасность»
Автор: Олег Орестов

Метки: Тайны 20 века, компьютер, опасность, машина, цивилизация, робот, интеллект, искусственный интеллект, Олег Фейгин




Исторический сайт Багира Гуру, история, официальный архив (многое можно смотреть онлайн, не Википелия); 2010 — . Все фото из открытых источников. Авторские права принадлежат их владельцам.