Почему роботы опасны для человека?

Звезда не активнаЗвезда не активнаЗвезда не активнаЗвезда не активнаЗвезда не активна
 

Ещё недавно учёные утверждали, что даже самый совершенный компьютер никогда не будет обладать способностью самостоятельно мыслить и рассуждать, ведь по большому счету это всего лишь набор микросхем, которые позволяют устройству производить сложные, но стандартные операции, заложенные в него людьми. Никто, разумеется, не станет закладывать в компьютер программу уничтожения человечества. Хотя чисто теоретически… возможно всё.

Почему роботы опасны для человека?

Думать как люди

Пока ни в одной стране мира ещё не существует технологий, которые могли бы функционировать без контроля со стороны человека. Тем не менее подобные разработки ведутся. Так, специалисты из Технологического института Джорджии разработали особую программу, которая научит роботов… лгать. Правда, только друг другу.
— Подобная тактика может быть использована для роботов, охраняющих военные склады или боеприпасы на полях сражений, — сообщают авторы проекта. — Это поможет им обмануть врага и выиграть время до подхода подкрепления.
Известная компания Google применяет в своём программном обеспечении алгоритмы так называемого глубокого обучения (deep learning), которые имитируют деятельность нейронов в коре головного мозга. Это позволяет программам распознавать те или иные закономерности в звуках, изображениях и других виртуальных данных.
Команде исследователей во главе с профессором химии из Университета Калифорнии Джеймсом Гимзевски при поддержке DARPA (Агентства передовых оборонных исследовательских проектов) удалось разработать технологию, которая позволяет создавать полностью автономных роботов, способных «думать» как человек. Они будут работать не на привычных нам микросхемах, а на нанопроводниках, образующих миллиарды соединений аналогично нейронам человеческого мозга. Это поможет им запоминать и анализировать полученную информацию так же, как люди. Таким роботам не понадобится человеческий контроль. К примеру, самолёты, оснащённые этими системами, будут изучать местность и прокладывать маршруты без участия живого пилота.
Глава компании Palm Computing Джефф Хокинс, автор книги «Об интеллекте» (2004), в свою очередь, разрабатывает систему машинного обучения, предсказывающую закономерности потребления энергии и вероятность поломки различных устройств. Впрочем, он считает, что машинный интеллект никогда не сможет развиться до уровня человеческого, так как даже глубокое обучение не позволит ему, скажем, испытывать эмоции. Предположим, система сможет легко распознать такой объект. как кошка, но не поймёт, когда это животное делает что-то забавное, а когда просто сидит на месте… Но, возможно, главная опасность воздействия искусственного интеллекта на людей как раз и заключается в отсутствии человечности.

Кампания против роботов

В последнее время набирает обороты мировая кампания «Остановить роботов-убийц». Её сторонники убеждены, что развитие искусственного интеллекта грозит человечеству уничтожением. Во главе кампании стоит Джоди Уильяме, основательница Международного движения за запрет противопехотных мин, в 1997 году удостоенная Нобелевской премии мира.
Эксперты утверждают, что всего через 20-30 лет армии будут состоять не из людей, а из высокоорганизованных роботов. Новые технологии сделают военные конфликты практически бескровными, во всяком случае помогут свести число человеческих жертв к минимуму. Однако Джоди Уильяме считает, что производство таких «машин смерти» является нарушением основных принципов гуманизма и прав человека.
— Не хочу, чтобы меня уничтожила запрограммированная машина, — говорит она.
Думаете, это не более чем необоснованная истерия? Возьмём совсем недавний случай с хирургическим роботом «да Винчи», детищем компании Intuitive Surgical. Эта модель сегодня установлена в клиниках по всему миру. Считается, что изобретение значительно облегчило работу врачей-хирургов, которым порой приходится выполнять сложные многочасовые операции, не отходя от операционного стола…
«Да Винчи» оснащён четырьмя механическими руками, набором режущих инструментов и мини-телескопом. Управляют роботом живые медики при помощи специальной консоли, ориентируясь на выводимое на монитор трёхмерное изображение оперируемого органа.
Робот запрограммирован так, чтобы делать миниатюрные разрезы, что снижает потерю крови, уменьшает риск кровотечения, а также сокращает общий период восстановления после операции. Устройство активно применяется при таких операциях, как пересадка органов, восстановление митрального клапана, желудочное шунтирование, удаление желчного пузыря и предстательной железы, и многих других.
Поначалу врачи были в восторге от кибернетического «коллеги», который действительно во многом упростил их нелёгкий труд. Но в последнее время ряд инцидентов, связанных с использованием «да Винчи», заставил медиков насторожиться. Так, под ножом робота умерли два человека: один — в результате случайного пореза роботом кровеносных сосудов, другой — после операции на селезёнке. Также были зафиксированы перфорация толстой кишки во время операции на простате и захват внутренних тканей в ходе ректальной операции.
— Мы должны были полностью отключить систему, чтобы разжать захват аппарата, — рассказывает врач, наблюдающий за операциями.
Кроме того, во время операции по гистерэктомии (удалению матки) робот нанёс пациентке удар одной из своих механических конечностей. В итоге хирургу пришлось отказаться от «услуг» аппарата и оперировать самостоятельно.
— Результаты исследований показывают, что риски, связанные с использованием робота, существенно занижены, — заявил хирург Мартин Макарий из Университета Джонса Хопкинса. — Быстрое внедрение аппарата «да Винчи» было сделано без оценки его возможностей. Нам известны случаи катастрофических осложнений, возникших после операций, проведённых при помощи механических рук.

Почти живые

Тем не менее роботы уже настолько прочно вошли в нашу жизнь, что мы часто воспринимаем их так, как если бы они были живыми существами.
Зарубежные исследователи попытались определить, как взаимодействие с роботами влияет на людей на эмоциональном и неврологическом уровне. Так, добровольцам продемонстрировали два видеоролика. В одном из них маленького робота-динозавра обнимали и щекотали, в другом над ним же издевались — били и бросали на пол. Затем специалисты оценивали уровень физиологического возбуждения испытуемых после просмотра, фиксируя проводимость их кожи. Ведь когда мы испытываем сильные эмоции, то больше потеем и наша кожа лучше проводит электричество.
Участники эксперимента отметили у себя негативные эмоции, полученные в результате просмотра видео с роботом, над которым совершалось насилие. При этом уровень проводимости их кожи значительно вырос, указывая на пережитое состояние стресса.
В другом исследовании мозг участников сканировали при помощи функциональной магнитно-резонансной томографии (МРТ). На этот раз им показывали ролики, в одном из которых в качестве объекта насилия выступал человек, а в другом — робот. Например, в одном ролике мужчина пытался задушить женщину полиэтиленовым пакетом, в другом то же самое проделывали с роботом. Если добровольцам предлагали наблюдать за человеком и роботом, с которыми обращались ласково, сканирование выявляло сходную нейронную активность. Если же над объектом издевались, то испытуемые больше сочувствовали человеку, а не роботу. — Мы полагаем, что жестокое обращение с роботом вызывает практически такую же эмоциональную реакцию, как и издевательства над человеком, — прокомментировала результаты руководитель исследования Астрид Розенталь фон дер Пютен из Университета Дуйсбург-Эссен (Германия). — Однако к человеку у нас пока сочувствия больше.
— То, что человек проявляет сочувствие к роботу, — это неудивительно, потому как роботы выглядят и ведут себя как люди или животные, — утверждает ник Александр Ребен.
Исследователи отмечают, что проявление сочувствия к роботам встречается в самых различных ситуациях и контекстах. Скажем, эмоциональную связь с роботами демонстрируют солдаты на поле боя. Правда, чем более реалистичными кажутся искусственные создания, тем большую степень сочувствия к ним можно наблюдать. Хотя это не работает, если роботы слишком уж похожи на людей. Инстинктивно нас отторгают наши искусственные «копии»…

Журнал: Тайны 20-го века №25, июнь 2013 года
Рубрика: Взгляд в будущее
Автор: Ида Шаховская

Метки: Тайны 20 века, компьютер, опасность, вред, робот, искусственный интеллект




Исторический сайт Багира Гуру, история, официальный архив; 2010 — . Все фото из открытых источников. Авторские права принадлежат их владельцам.