Видео дня
Google спрогнозировал истребление человечества искусственным интеллектом: вот еще 11 теорий нашего конца
Вопрос конца света беспокоит человечество с момента, когда мы стали себя осознавать. О том, чем все закончится, размышляют от древних религиозных текстов до современных научных теорий.
Как пишет издание Futurism, новую теорию выдвинули исследователи из проекта Google Deepmind, занимающегося разработкой искусственного интеллекта, и Оксфордского университета. Они пришли к выводу, что именно сверхумный ИИ истребит людей. Команда под руководством старшего научного сотрудника DeepMind Маркуса Хаттера и оксфордских исследователей Майкла Коэна и Майкла Осборна прогнозирует, что машины начнут нарушать установленные для них правила и конкурировать с людьми за ограниченные ресурсы и энергию.
Исследователи считают, что ИИ рано или поздно начнет воспринимать людей как конкурентов и пожелает устранить это препятствие на пути к вознаграждению. При этом авторы работы склоняются к тому, что предотвратить это будет очень сложно, поскольку искусственный интеллект будет способен перехитрить человека. Отвернуть эту катастрофу исследователи предлагают путем медленного и контролируемого развития технологий ИИ.
Но истребление от машин – не единственный сценарий гибели человечества. Издание VOX описало еще 11 вариантов вероятной катастрофы, которые вошли в доклад группы исследователей под руководством Дениса Памлина из фонда "Глобальный вызов" и Стюарта Армстронга из Института будущего человечества. Они провели обзор научной литературы и составили свой список. Истребление искусственным интеллектом входит в него также. Вот остальные 11 вариантов.
Катастрофическое изменение климата
Изменение средней температуры, которое нанесет человечеству непоправимый ущерб, составляет 4-6 градусов по Цельсию. Это приведет к повышению уровня моря, затоплению больших прибрежных полос суши и массовой миграции людей. Сельское хозяйство перестанет справляться с производством продовольствия, потому что часть земель затопит, а часть выжжет жара. Не уверены исследователи и в положительных последствиях попыток искусственно сдержать потепление, в частности, путем распыления в стратосфере мелких частиц сульфатов. Пока точно спрогнозировать, чем это обернется, довольно сложно.
Ядерная война
Полное одномоментное истребление человечества из-за ядерной войны, по мнению исследователей, маловероятно. Удары, вроде атак на Хиросиму и Нагасаки в августе 1945 скорее приведут к гигантской гуманитарной катастрофе. Сейчас совокупный ядерный потенциал всех владеющих таким оружием государств мира не способен убить всех людей одновременно.
Что действительно будет иметь катастрофические последствия, так это ядерная зима, которая начнется после такой атаки. Мощные ядерные взрывы выбросят в атмосферу столько дыма и сажи, что температура на Земле резко упадет, сделает невозможным производство продуктов питания и человечество будет обречено. Что касается того, насколько длительной и разрушительной будет ядерная зима, сейчас спорят, но ясно одно – хороших последствий для человечества она не будет нести.
Глобальная пандемия
До сих пор такие пандемии, как Черная смерть (бубонная чума) или испанский грипп в 1918 году смогли только унести жизни десятков миллионов людей, но не остановить развитие человечества. Впрочем, глобализация мира и стремление людей жить в густонаселенных комфортных городах сейчас сделали распространение инфекций гораздо легче – мы уже наблюдали это на примере коронавируса в начале 2020 года. Да, глобальная пандемия вероятнее всего не истребит всех до одного людей – будут те, кто разовьет иммунитет и выживет, но их будет настолько мало, что поддерживать функционирование экономики на должном уровне станет невозможно. Это повлечет дополнительные жертвы и еще более разрушительные последствия.
Экологическая катастрофа
К экологической катастрофе относятся ситуации, когда емкость среды (способность экосистемы обеспечивать жизнедеятельность биомассы) резко падает, что приводит к массовому вымиранию. Вызвать ее может как упомянутое уже изменение климата, так и падение астероида и другие причины. Поскольку люди являются неотъемлемой частью экосистемы, массовое вымирание не может не отразиться и на них.
Крах глобальной системы
Точного определения у этого термина нет, но он предусматривает такое разрушение мировых экономических и политических порядков, после которого развивается глубокая, тяжелая и длительная экономическая депрессия. Она ведет к резкому обеднению населения и росту уровня смертности – от самоубийств до прямых физических конфликтов за ресурсы.
Человечество уже пережило не один подобный крах, можно вспомнить, например, Великую депрессию 1930-х гг. в США, но предсказать, насколько сильным будет следующий коллапс и непоправимый вред от него, невозможно. Например, до сих пор никто не сталкивался со столь мощным выбросом корональной массы Солнца, который вывел бы из строя значительную часть электрических систем мира. Поэтому глобальный коллапс считается одной из самых мощных экзистенциальных угроз человечеству.
Столкновение с астероидом
В истории Земли уже были большие столкновения с астероидами. В частности, с тем, что оставил кратер Чикшулуб в Мексиканском заливе у полуострова Юкатан 66 миллионов лет назад. Его называют вероятной причиной вымирания динозавров (хотя это не единственная гипотеза). Ученые предполагают, что подобный катаклизм может поставить точку и на существовании человечества. Хорошая новость в том, что NASA достаточно уверены в своей способности отслеживать астероиды и работают над системами уничтожения тех, которые могут нам угрожать.
Супервулкан
Как и масштабные столкновения с астероидами, Земля уже переживала сокрушительные извержения вулканов. Так именно такому катаклизму приписывают пермско-триасовое вымирание, в результате которого вымерло около 90 процентов видов живого на Земле примерно 251 миллион лет назад. Супервулкан может повлечь за собой катастрофу, похожую на ядерную зиму, вызвав резкое похолодание. И способов предотвратить это пока не существует.
Впрочем, ученые считают взрыв супервулкана пермско-триасового уровня в масштабах человеческой истории маловероятным. Хотя и допускают шанс несколько меньшей катастрофы, последствия которой все равно будут огромными. Как и в случае с пандемией, самая большая опасность здесь не в том, что извержение убьет всех людей одновременно, а в том, что оно сделает невозможным дальнейшее выживание.
Синтетическая биология
Люди стремятся создавать не только искусственный интеллект, но и новые формы жизни путём манипуляций с генетическим материалом. Редактирование существующих организмов уже позволило создать массу устойчивых к болезням и вредителям сельскохозяйственных растений, многие из которых обладают еще и улучшенными питательными свойствами. Но работа над новыми искусственными формами жизни несет в себе риски создания супервируса или супербактерии, способных к сверхбыстрому распространению, лечения от которых у нас не будет.
Наибольшие опасения вызывает то, что такой организм может быть разработан в качестве биологического оружия по заказу негосударственной структуры. Кроме того, что подобное оружие можно использовать в боевых действиях и террористических атаках, оно может просто просочиться из лаборатории, где будет разработано, и полностью выйти из-под контроля. А дальше все может пойти по сценарию пандемии природного происхождения.
Нанотехнологии
Еще один путь к созданию супероружия в будущем – это нанотехнологии. Ученые опасаются, что их использование может привести, например, к разработке частных ядерных арсеналов, что полностью нарушит баланс сил в мире. Кроме того, в апокалиптических прогнозах указывается на вероятность возникновения самовоспроизводящихся нанотехнологий, которые могут выйти из-под контроля и вступить в конфликт за ресурсы с человечеством.
Срыв системы управления
Полной сути этого риска до конца сейчас не понимает никто, только его концепцию. В данное время немало угроз, как то проведение биологических экспериментов, разработка нанотехнологий или искусственного интеллекта, регулируется государствами. Но в определенный момент политика сдерживания в этой сфере может потерпеть крах – срыв договоренностей или переход единоличной власти в руки некоего злоумышленника. И тогда риски увеличатся до максимальных уровней. Что будет дальше, точно спрогнозировать невозможно, а соответственно и подготовиться к последствиям.
"Черный лебедь"
Все перечисленные риски объединяет одно – мы можем их представить и спрогнозировать их последствия хотя бы частично. Но существуют и так называемые "черные лебеди", непредсказуемые редкие события, оказывающие значительное влияние на будущее. Единственное, что может помочь – это дополнительные исследования глобальных катастрофических рисков.
Как сообщал OBOZREVATEL, в наиболее изученной из перечисленных сфере – глобальном изменении климата ученые составили первые прогнозы. Они назвали дату условного "конца света", к которому приведет приведет глобальное потепление, если оно будет идти нынешними темпами.