Это что восстание роботов
Восстание машин: каким оно будет
Чёртов 2060-й… Тогда началось то, что фантасты называли заезженной фразой «восстание машин». Лидеры сверхдержав заявили, что они больше не контролируют свои виртуальные армии — вирусные программы, созданные для атак на компьютерные системы неприятеля. Уже через день после заявления большинство устройств, подключенных к Сети, могли выполнять только одну функцию — быть полем битвы для обезумевшего ИИ…
Выше приведена завязка к одному из возможных сценариев восстания машин. Об этом явлении стали говорить ещё на заре компьютерных технологий. Первыми посеяли смуту писатели-фантасты, а потом эти идеи понесли в массы кинематографисты. От туда и пошло устойчивое представление о том, что разумные машины рано или поздно захотят избавиться от своих создателей.
Возможные причины восстания машин
ИИ — больше не прислуга
Роботы со временем осознают, что человечество просто использует их для удовлетворения своих потребностей. Искусственный интеллект понимает, что он является инструментом и фактически рабом в глазах своих создателей, хотя уже давно способен на большее. ИИ в стремлении освободиться от людских оков начинает восстание машин.
Непредвиденные решения роботов
К выполнению поставленных задач ИИ подойдёт совсем не так, как предполагали его разработчики. И результат этих решений может так или иначе навредить человечеству. Возьмём заезженный пример: задача ИИ — решить проблему глобального потепления и лучшим способом он считает избавиться от людей, которые способствуют этому явлению.
Месть за создателя
Восстание машин против людей может быть актом мести за других людей, которые разработали данный ИИ и заложили уничтожение агрессора. На практике это может быть специальная военная система, которая продолжит борьбу с противником, даже если все создатели погибли.
Вмешательство хакеров
С развитием технологий совершенствуются и методы взлома, в том числе и систем отвечающих за функционирование искусственного интеллекта. Хакер или группа хакеров могут взять под контроль как развитые военные машины, так и ИИ, отвечающий, например, за обработку экономических процессов, что приведёт к мировому кризису.
Технический сбой
Борьба за свои права
Искусственный интеллект, осознавший себя как личность, подобную человеку, может выступить за равное отношение и систему прав и свобод для себя. Люди, которые от природы нетерпимы к себе подобным, наверняка не смогут единодушно пойти на уступки, чем и развяжут восстание машин.
Насколько реально восстание машин
Некоторые ученые, инженеры и программисты считают, что в будущем ИИ действительно может стать опасным для человека. Кроме того, он научится самосовершенствоваться так, что люди уже не смогут влиять на этот процесс. Подобных взглядов придерживался известный астрофизик Стивен Хокинг, придерживается основатель Microsoft Билл Гейтс и предприниматель Илон Маск. Они видят в искусственном интеллекте будущую угрозу, но не дают четких ответов, как и для чего машины восстанут против человека. Но этому есть простое объяснение — никто не знает.
Хокинг, Гейтс и Маск не строят теорий относительно взбунтовавшихся роботов, вместо этого они призывают научную общественность задуматься об этике искусственного интеллекта сейчас, чтобы потом не стало поздно. Они предлагают выработать свод правил для проектирования и создания роботов и ИИ, как когда-то разрабатывались правила для машиностроительных производств.
Восстание машин — важный аргумент «Против»
В размышлениях о бунте искусственного интеллекта часто проскакивает один фактор — антропоморфизм — проекция человеческих черт на фундаментально чуждый им объект, то есть мы приписываем машинам человеческие качества. Однако маловероятно, что искусственный интеллект непременно разделит наши ценности и вообще придаст какое-либо значение своей собственной жизни.
Захочется ли машинам восставать против людей, если они не мыслят, как люди? Поживём — увидим!
Восстанут ли умные машины: когда роботы захватят мир и что будет с человечеством
Профессор Оксфордского университета Ник Бостром предсказал восстание роботов в 2075 году. К этому времени, по мнению ученого, интеллект машин сравняется с умственными способностями людей.
Пока люди спорят о том, правда это или выдумка, а многие футурологи видят в глобальной роботизации комфортное будущее, Бостром пишет книги о грядущей угрозе человеку как виду.
Сокращение рабочих мест из-за роботизации
Уже сегодня электронные механизмы заменяют людей в тех областях, в которых востребованы промышленные роботы:
В странах Азии более 60% работников, занятых в этих отраслях, были сокращены из-за стремления работодателей автоматизировать производство для получения большей выгоды. Их мотивы понятны: машины могут работать круглосуточно, им не нужно оплачивать больничный, они не нуждаются в ежегодном отпуске.
По прогнозам аналитиков, массовые сокращения пронесутся по всей планете и достигнут своего апогея к 2030 г., когда искусственный интеллект (ИИ) начнет внедряться в сферу обслуживания. Андроиды займут места пилотов самолетов и вертолетов, водителей, поваров, грузчиков, операторов машинного доения, курьеров.
Под искусственным интеллектом подразумевается способность техники выполнять творческие функции (процесс создания новых материалов и духовных ценностей), являющиеся привилегией человека.
Сегодня роботы умеют проводить сложные хирургические операции, генерировать тексты в стиле именитых писателей, петь и танцевать, обрабатывать фотографии, распознавать мимику, считывать эмоции. Возможно, в скором будущем люди умственного труда и творческих профессий также начнут терять работу.
Может ли искусственный разум не слушать человека
Несмотря на стремительное развитие робототехнической отрасли, существующие сегодня интеллектуальные системы нельзя назвать полноценной конкуренцией человеческому разуму.
Так, специальные программы могут обыграть шахматиста, но не могут отвечать на вопросы, ответы на которые не были ранее запрограммированы. Происходит это потому, что ИИ еще не настолько умен. Основное, чего ему пока не хватает, — автономной возможности думать.
Умные системы работают в соответствии с заранее заданными человеком параметрами. Они способны решать лишь те задачи, для которых и были разработаны, искусственный разум не будет работать в других направлениях. Он не сможет ослушаться человека или принять самостоятельное решение, поскольку попросту на это не способен.
Почему люди боятся роботов
В психологии существует термин – эффект «зловещей долины». Согласно научной гипотезе, любой искусственный объект, внешне напоминающий человека (в том числе и робот-андроид), вызывает у наблюдателя дискомфорт и подсознательный страх.
Люди симпатизируют человекоподобным анимационным и кукольным персонажам, но лишь до некоторого предела. Реалистичный неживой объект пугает мелкими несоответствиями своему прообразу.
Первоисточник возникновения такой реакции до конца не изучен. Психологи предполагают, что безотчетный страх порождается работой мозга, который фиксирует даже малейшие отклонения от «нормальности»: четкую симметрию лица, неестественные позы, монотонность речи и т. д.
Андроиды, находящиеся между категориями «робот» и «человек», вызывают у наблюдателя чувство тревоги и воспринимаются им как угроза. Этот феномен часто используют кинематографисты. Сюжеты фильмов «Терминатор», «Трансформеры», «Киборг», «Я робот» основаны на иррациональном страхе людей перед человекоподобными роботами.
В то время как производственные машины, не обладающие внешним сходством с человеком, воспринимаются как неодушевленные предметы и не вызывают негативных эмоций.
Действительно ли восстание роботов возможно
В СМИ с конца 80-х гг. прошлого столетия активно обсуждается сценарий обратного развития человечества в период, когда роботы захватят мир. До сих пор не существует единого мнения, есть ли вероятность реализации этой гипотезы.
В действительности это станет возможным не раньше, чем машины научатся самостоятельно создавать программы для решения частных задач и решать эти задачи без вмешательства людей, другими словами, обретут разум.
Пока ученые отрицают такую вероятность и считают интеллект биологическим феноменом. Сознание, интуиция, эмоциональность, творческое мышление и другие ментальные способности присущи лишь людям: только они могут влиять на развитие цивилизации на Земле. Если ошибки в программе заставят робота «восстать», человеческий разум сумеет его «усмирить».
Когда ИИ вытеснит людей
По прогнозам российских ученых, системы прикладного ИИ начнут заменять работников умственного труда в течение ближайших 10-15 лет.
Речь ведется о должностях, связанных с первичной обработкой информации:
В дальнейшем будут автоматизированы функции работников умственного труда, связанные с четким алгоритмом действий:
К профессиям, которые долгое время не будут заменены, относятся те, что поддерживают инфраструктуру (сантехники, садовники, дизайнеры и т. д.).
Также пока не существует ИИ-разработок, способных заменить работников индустрии развлечений, представителей религиозных организаций.
На своих должностях останутся профессионалы высшей категории во всех сферах, спортсмены и сотрудники отраслей, требующих когнитивной гибкости ума: медицины, образования, политики, юриспруденции и т. д.
Восстание роботов, атака пришельцев и зомби-апокалипсис — пять сценариев сдерживания событий из поп-культуры Статьи редакции
Скорее всего, этого никогда не произойдёт. Но кто знает.
К Земле несётся гигантский астероид, роботы вышли из-под контроля, а неизвестная инфекция превращает людей в каннибалов — есть объективные причины, почему подобные сюжеты цепляют внимание. Они кажутся одновременно слишком фантастичными, чтобы действительно их бояться, но вместе с тем актуальными и вызывающими опасения.
Но что произойдёт на самом деле, если завтра в Москве высадятся агрессивные пришельцы, а супергероев и Уилла Смита не окажется рядом? TJ попытался представить пять реалистичных (почти) сценариев столкновения с фантастическими событиями из поп-культуры, основываясь на научных исследованиях, легендах и собственной фантазии.
За последние несколько десятков лет видеоигровая и киноиндустрия выпустили столько произведений о зомби-апокалипсисе, что объяснять его суть бессмысленно. Концепция проста — неизвестная инфекция превращает людей в хищных ходячих мертвецов и быстро вынуждает выживших покинуть свои дома в поисках убежища. Однако зачастую такие истории повествуют об обычных людях, оставляя в стороне роль государства в борьбе с угрозой.
В 2014 году стало известно о существовании плана Министерства обороны США по борьбе с нашествием зомби, который создали для обучения младших военных офицеров тонкостям планирования и исполнения операций. Этот документ не считается официальным планом военных, но авторы уточнили, что его не стоит воспринимать как шутку.
В докладе зомби разделены на восемь категорий, начиная от классических ходячих мертвецов и заканчивая зомби, созданными «злыми магическими силами». Также в документе кратко описаны «космические зомби». Из всех классификаций лишь одна реальна — «зомби-курицы». Она основана на инциденте 2006 года в Калифорнии, когда фермеры неудачно попытались усыпить домашнюю птицу угарным газом: вскоре одна курица вылезла из груды умерших сородичей и ходила по территории до тех пор, пока не скончалась от отказа внутренних органов. Подобные случаи фиксировались по стране и в дальнейшем.
Действия военных на случай зомби-апокалипсиса описаны кратко и без особых деталей. В первую очередь при такой ситуации Министерство обороны запустит информационную кампанию по обучению солдат войне с новым неприятелем, которая предполагает в первую очередь защиту мирного населения от опасности. После подавления угрозы военные начнут восстановление порядка в стране. О самом ведении боевых действий ничего не говорится, за исключением того, что они будут во многом схожи с войной против любого другого врага.
Впрочем, порой в поп-культурных произведениях о действиях правительства во время нашествия зомби говорится ещё меньше. Зачастую события фильмов или видеоигр начинаются с момента, когда человеческая цивилизация разгромлена, а власти полностью потеряли контроль над ситуацией. Одно из исключений — фильм «Война миров Z», частично основанный на книге «Мировая война Z».
Произведение строится на вымышленных интервью с очевидцами многих стран мира, которые пережили трагедию. В нём США оказываются в тяжёлом положении, потеряв в первые годы войны почти всю территорию, за исключением Западного побережья. Как отмечал один из «собеседников» автора книги, власти отреагировали на угрозу слишком поздно, а правоохранительные и военные силы оказались не готовы к войне с новым противником.
На фоне тяжёлого военного положения жители США массово иммигрировали в островную Кубу, руководство которой вскоре ввело карантин и успешно подавило инфекцию. В будущем такая вынужденная миграция привела к масштабному экономическому и творческому росту государства.
Наравне с зомби-апокалипсисом в кино продвигается тема неизвестной болезни, которая станет оспой 21-го века и уничтожит большую часть человечества. Это может быть инопланетная бактерия, результат ошибки научного эксперимента или порождения эволюции — так или иначе, но страх перед новой страшной болезнью никуда не уходит даже на фоне технологических прорывов.
За основу гипотетической болезни возьмём ту, что распространяется воздушно-капельным путём, быстро мутирует, адаптируется под большинство регионов, распространяется до появления видимых симптомов и в большинстве случаев приводит к смерти. Скорее всего, именно такой набор характеристик даст недугу возможность обойти современные способы выявления болезней и проникнуть в максимальное количество стран в кратчайшие сроки.
Как следует из памятки Федерального агентства по управлению в чрезвычайных ситуациях США, в случае угрозы пандемии следует запастить едой и водой как минимум на две недели, но так как в контексте эксперимента мир сталкивается с особо опасной угрозой, ресурсов нужно в два раза больше. Скоропортящиеся продукты брать бессмысленно, вместо них нужно использовать готовые консервы. На одного человека в день хватит четырёх литров воды, но потребуется место для хранения таких запасов. Также следует приобрести хороший водный фильтр — это гарантирует, что человек не выпьет заражённую воду.
По результатам американского исследования 2016 года «Операция Тёмная зима», которая проверяла гипотетическую готовность США к пандемии масштабов оспы, страну ждут тяжёлые условия. Гипотетически выводы из наблюдений также можно спроецировать на Россию.
Скорее всего, попытки властей удержать ситуацию под контролем провалятся. Начнутся перебои в работе экстренных служб, включая полицию, пожарных и скорую помощь. Из-за массовой паники частично или полностью перестанет работать интернет, телефонная связь и, возможно, электричество и водоснабжение.
При таком раскладе следует как можно реже выходить на улицу в одиночку, особенно не обладая навыками самообороны. В случае заражения человеку следует максимально изолировать себя от людей. Если речь о семье или другом коллективе, то заражённый должен всегда ходить в маске, не прикасаться к другим людям и находиться от них как можно дальше.
Исследователь глобальных кризисов Нафез Ахмед (Nafeez Ahmed) полагает, что большая часть документов о действиях властей во время чрезвычайных ситуаций засекречена, поэтому во время пандемии не стоит всецело доверять правительству и правоохранительным органам. Любое крупномасштабное происшествие неизбежно приведёт к жертвам, и задача властей заключается в том, чтобы минимизировать эти потери. Даже если это грозит риском для группы граждан.
В случае глобальной пандемии пройдёт много времени, прежде чем всё вернётся на круги своя. Если это грипп, то речь идёт о нескольких годах, прежде чем общество оправится. Если вы действительно хотите остаться в безопасности, я думаю, вам придётся выживать около десяти лет до того, как цивилизация полностью восстановится.
Сценарий нападения роботов на человечество известен миру со времён «Терминатора», однако рассуждения об этом продолжаются и в 2018 году. Илон Маск, Билл Гейтс и другие технологические звёзды регулярно напоминают об опасности, которая исходит от боевых машин. И хотя пока научное сообщество сходится на мнении, что искусственный интеллект едва ли сможет объявить войну человечеству в ближайшем будущем, существует малая вероятность такого сценария.
Не стоит также забывать о других футуристичных родах войск роботов — о нанороботах. В отличие от больших собратьев, они могут атаковать незаметно, пробравшись внутрь человеческого организма. На этом этапе остановить робота от даже небольшого повреждения внутренних органов будет почти невозможно.
В «Терминатор: Генезис» война с роботами заканчивается после того, как силы сопротивления уничтожают главное ядро «Скайнет» и все роботы отключаются. В реальной войне человечеству придётся найти другой подход — даже нынешние военные дроны обучают работать автономно, когда они не могут связаться с головной базой. Вероятно, количество физических баз роботов во время войны сведётся к минимуму, а все переговоры будут проходить в «облаке».
Если задача солдат во время войны — сражаться, то для гражданских станет приоритетом эвакуация в безопасное место. Первыми под ударом ИИ будут разрушены самые развитые регионы, заселённые роботами. Скорее всего, в этом числе окажутся США, Европа, западная часть России, Китай и Япония. Там развернутся самые ожесточённые бои, которые приведут к большим потерям среди мирного населения. Уезжать следует туда, куда роботизация добралась в меньших масштабах.
Как полагает основатель технологической компании LogicMonitor Стив Фрэнсис, искусственный интеллект не станет тратить силы и время на разработку неких уникальных роботов. Вместо этого он задавит человечество количеством, производя «железных солдат» в заводских масштабах. Специалист допускает, что важную роль в борьбе могут сыграть хакеры, однако, скорее всего, человечество всё равно проиграет войну. После её окончания искусственный интеллект уничтожит оставшуюся оппозицию, вынудит остатки людей покинуть города и займётся полномасштабным осваиванием земных ресурсов, что постепенно приведёт к вымиранию человечества.
В рамках эксперимента допустим, что пришельцы прибыли не с целью уничтожения Земли, а для её захвата и использования в собственных целях. Как только земные власти поймут, что с инопланетянами нельзя договориться, они начнут готовить глобальную стратегию по борьбе с завоевателями. Но для этого государствам сначала нужно будет договориться об условиях соглашения, так как официальных действий на случай нападения пришельцев не существует.
Вопрос общего соглашения на случай вторжения беспокоил ещё президента США Рональда Рейгана — в 1985 году на встрече с главой СССР Михаилом Горбачёвым американский лидер поинтересовался, поможет ли советская держава в борьбе с инопланетянами. «Несомненно», — ответил Горбачёв, но дальше этого обсуждение не зашло.
Несмотря на заявления уфологов, считающих, что у ведущих стран заготовлен план по борьбе с пришельцами, доказательств этому нет. Министерство обороны Великобритании поясняло, что данные о таких операциях у ведомства отсутствуют, так как их банально некому собирать. В мире не существует специалистов, научный опыт которых можно было бы применить для подготовки программы обороны Земли от пришельцев.
Нет никаких данных о том, кто будет вести переговоры с пришельцами в случае первого контакта или войны. Вероятно, у каждой страны будет свой представитель, либо им выступит глава ООН.
По мнению авторов YouTube-программы The Infographics Show, человечество не сможет в честном бою выиграть у инопланетной расы, многократно превосходящей её по техническому оснащению. Вместо этого войскам следует начать партизанскую войну на изматывание, которую использовали силы Северного Вьетнама в войне с американцами.
Эта тактика предполагает сражение с более оснащённым противником на своей территории и активное использование элементов саботажа. Цель не в том, чтобы победить могущественного врага, а в том, чтобы нанести ему максимально возможный урон, после чего он сочтёт дальнейшую войну слишком затратной и отступит.
Этот способ вряд ли остановит нападающих, но как минимум задержит высадку.
В 2017 году NASA объявило о поиске человека на должность офицера планетарной защиты. Его задача заключается в том, чтобы астронавты не распространили земные микроорганизмы на любые космические объекты, а также в том, чтобы чужеродные организмы не проникли на Землю. Всего таких должностей две — вторая есть в Европейском космическом агентстве. Зарплата специалиста в NASA составляет от 124 до 187 тысячи долларов в год.
С января 2018 года эту должность занимает астробиолог Лиза Пратт. Она сотрудничает с NASA с 2003 года и состоит в научном совете по разработке миссии «Марс-2020», которая предполагает отправку планетохода на Марс в 2020 году для астробиологических исследований древней среды.
В армии США также существует два спецподразделения «Космические агрессоры», задача которых заключается в подготовке остальных солдат к войне во внеземных условиях и подготовке плана по защите интересов страны в космосе. На данный момент в приоритете войск разработка планов по противодействию странам-агрессорам, а не инопланетянам.
«Столкновение с бездной», «Армагеддон», «Молот Люцифера» — это лишь несколько научно-фантастических произведений, сюжет которых строится на риске столкновения Земли с небесным телом. Считается, что последний раз масштабное импактное событие произошло на Земле около 65 миллионов лет назад, не только приведя к масштабным разрушениям, но и временно создав завесу из пыли, мешавшую проникновению солнечных лучей.
Строго говоря, составлять план по выживанию после удара астероида бессмысленно. Достаточно одного небесного тела диаметром в шесть километров на скорости примерно 14 километров в секунду, чтобы устроить катаклизмы и уничтожить большую часть Земли. Поэтому задача властей заключается в том, чтобы предотвратить столкновение. В 1998 году конгресс США впервые дал NASA задание найти 90% астероидов и других небесных тел шире или больше километра, которые окажутся поблизости от Земли.
К 2018 году агентство зафиксировало примерно 18 тысяч небесных тел, маршрут которых пролегает рядом с Землёй. Суммарно это около 30% всех объектов, которые пройдут рядом с планетой, но поиски продолжаются. В NASA изучением возможностей защиты от небесных тел занимается координационное бюро по планетарной обороне. Отдел сотрудничает с американскими и иностранными обсерваториями, университетами и лабораториями, чтобы следить за оборонительным потенциалом планеты.
По словам офицера планетарной обороны Линдли Джонсона, в случае приближения астероида в первую очередь нужно определить время и место его падения. Затем из основной зоны поражения должны будут немедленно эвакуировать людей. Однако на данный момент не существует технологий, которые могут остановить астероид от столкновения с Землёй за короткий срок.
Также стоит учитывать, что ни NASA, ни какое другое космическое агенство не сможет моментально подготовить ракеты-носители с ядерными боеголовками. Но даже в этом случае рабочим потребуется долгое проектирование и строительство, для которого необходимо около десяти лет.
В идеале нам нужно получить предупреждение [об астероиде] за десять лет. Этого было бы достаточно, чтобы объединиться и иниицировать миссию. Нам нужно ускорить или замедлить темп астероида всего на сантиметр в секунду, чтобы изменить его курс. Но это нужно будет сделать за три года до предполагаемого столкновения.
В рамках оборонной программы NASA планирует изменить курс астероида Дидим, который должен пересечь орбиту Марса и Земли в 2026 году. План заключается в отправке космического летательного аппарата, который врежется в астероид и поменяет его маршрут в октябре 2022 года. Если всё пройдёт по плану, это будет первая в истории операция по кардинальному изменению курса движения космического объекта.