Способен ли один человек уничтожить весь мир?

0
171

Сегодня скорее нет, но уже в обозримом будущем сможет:

«В ближайшие десятилетия малые группы людей – и даже отдельные индивиды – могут обзавестись технологиями, способными уничтожить человечество».

В данной леденящей душу статье Джордж Дворский описывает эти возможности.

Сегодня апокалиптическое вооружение находится под контролем сильных мира сего. Но так будет не всегда. Совсем скоро незначительные группы людей – и даже отдельные индивиды – могут получить доступ к технологиям, способным уничтожить человечество. Это звучит ужасающе, но конец нашему существованию сможет положить маленькая группка людей или один единственный человек.

Для более подробного изучения столь ужасающей перспективы я поговорил с двумя экспертами, посвятившими много времени размышлениям на эту тему. Филипп ван Недервельде служил ранее в подразделении ACOS Strat вооруженных сил Бельгии и прошел обучение в области радиационной, химической и биологической защиты, сейчас – офицер запаса. Он футуролог и специалист по безопасности, специализирующийся в области экзистенциальных рисков, подзора (“sousveillance” – фр. наблюдение снизу), надзора и конфиденциальности, а в настоящее время также является участником проекта P2P Foundation. Джеймс Баррат написал книгу «Последнее изобретение человечества: Искусственный интеллект и конец эры Homo Sapiens» и рассказал в ней об опасностях, которые нам готовит создание супермощного машинного интеллекта.

Оружие на выбор

Угроза нашему существованию может прийти как извне, из холодного безразличного космоса, так и быть творением рук наших. По словам ван Недервельде, самыми значительными угрозами, созданными человеком, являются биологические пандемии, глобальный обмен термоядерными бомбами, возникновение искусственного недружественного людям суперинтеллекта и перспектива появления оружия массового уничтожения, разработанного с использованием нанотехнологий.

«Уже в ближайшее время нам может грозить биологическая атака или злонамеренная глобальная техногенная эпидемия», – говорит он.

И действительно, разразившаяся в ХХ веке пандемия «испанки» продемонстрировала серьезность данной проблемы, унеся жизни от пятидесяти до ста миллионов людей, т.е. 2,5-5% населения планеты на то время. А ведь это была «обыкновенная» естественная эпидемия.

«Человек изобрел технологию для создания эффективных и действенных патогенных микроорганизмов, – сказал Фрейтас. – Мы располагаем научно-техническими знаниями, с помощью которых можем повысить их функциональность и объединить для повышения эффективности. И если задаться такой целью, боевые патогенные микроорганизмы смогут уничтожить почти любое живое существо и, возможно, даже все человечество».

Размышляя о возможных формах военных нанотехнологий будущего, Роберт Фрейтас, обладая теоретическими познаниями в области наномедицины, приводит в качестве наиболее вероятных «серую пыль», «серый планктон», «серый лишайник» и «убийц биомассы». Являясь вариативными формами серой слизи, они представляют собой дьявольский сценарий полного уничтожения Земли или необходимых для нашего существования ресурсов молекулярными роботами, способными к самовоспроизведению.

Солнцем займется серая пыль, полностью перекрыв нам доступ к солнечному свету. Углеродосодержащую экологию поглотит серый планктон из самовоспроизводящихся на дне моря нанороботов. Геология будет уничтожена серым лишайником, а живые организмы – убийцами биомассы.
И в заключение, как объяснил Барратт, существует угроза возникновения искусственного суперинтеллекта. В ближайшие десятки лет он может значительно превзойти интеллект человека. Появившись однажды, он подобно нам может начать бороться за существование, или же будет неудачно запрограммирован. И тогда нам придется состязаться с противником, чьи возможности будут настолько превосходить наши собственные, что это трудно будет представить.

Самозащита

Не зацикливаясь лишь на неутешительных сценариях, мы также обсуждали превентивные меры. Одной из них могло бы стать создание на базе нашего общества тоталитарного полицейского государства. Но кто же этого захочет? И я спросил ван Недервельде и Баррата, что еще мы можем предпринять.

«Радует то, что нам есть что противопоставить этим угрозам, – сказал ван Недервльде. – Предосторожность, профилактика, своевременное оповещение и действенные защитные меры осуществимы. При этом большая их часть далеко не “драконовские”, но требуют постоянной готовности к профилактике».

Он предлагает вести в системах образования и других учреждениях психологический мониторинг людей, в поведении которые имеются существенные и устойчивые отклонения.

«Это, по сути, подобие общечеловеческого психологического иммунитета: постоянный скрининг для обнаружения этих SIMAD-унабомберов в молодом возрасте еще до того, как они примутся осуществлять задуманное. Для этого существующие системы безопасности могли бы следить за поведением, а системы общественного здравоохранения – за состоянием психического здоровья».

По его мнению, глобальное управление нужно усовершенствовать, чтобы «повысить эффективность реакции транснациональных организаций, таких как ООН и другие, на возникновение угроз нашему существованию».

Как он считает, умение предугадывать удары SIMAD или ADC помогло бы нам им противостоять, когда это потребуется. В качестве экстренной защиты от наноботов можно было бы использовать, например, искусственный туман, солнцезащитные тенты, всплески электромагнитного импульса и направленные лучи. А угроза вмешательства неконтролируемого ИИ, по словам Барратта, наиболее актуальна для небольших организаций, поэтому они более нуждаются в надзоре.

«Однако, сейчас АНБ с 50 миллиардами долларов теневого бюджета гораздо опаснее для американской конституции, чем Аль-Каида и все желающие заполучить общий искусственный интеллект вместе взятые. Интуиция подсказывает, что, заполучив ОИИ первыми, менее своенравными они не станут».

Барратт представляет два универсальных решения данной проблемы:

«Создание глобального государственно-частного партнерства для контроля лиц, стремящихся заполучить ОИИ, наподобие Международного агентства по атомной энергии (МАГАТЭ). А до тех пор, пока эта организация не создана, создать консорциум толстосумов, который привлек бы лучших мировых исследователей ОИИ. Заставить их поверить в опасность неограниченного развития ОИИ и помочь им предельно осторожно развивать эти технологии. Или же предложить им отказаться от мечты о создании ОИИ взамен на достойную компенсацию».

Государство тотального надзора

Существует более радикальное решение проблемы, предложенное Ван Недервельде – концепция 4-х E: «Everyone has Eyes and Ears Everywhere», что в переводе значит «глаза и уши каждого повсюду». Идея, которую можно воплотить в жизнь с помощью другого придуманного им термина: «Panoptic Smart Dust Sousveillance» – всеобъемлющий подзор умной пыли.

«Умная пыль представляет собой крохотные устройства МЭМС, именуемые “пылинки”, размер которых не превышает одного миллиметра, обладающие способностью самостоятельно осуществлять зондирование, производить вычисления, а также обмениваться информацией в беспроводных сетях. Совсем скоро НЭМС позволит сократить размеры этих “пылинок” до 50 кубических микрон, а то и меньше, и тогда они будут витать в воздухе подобно “немой пыли” и формировать мобильные зондирующие “умные облака”, питающиеся энергией солнца».

Он представляет, как нижние слои земной атмосферы наполняются умной пылью, по три пылинки на кубометр. Созданная и управляемая гражданами для граждан, эта технология смогла бы создать систему всеобъемлющего подзора умной пыли – по сути, сеть обратного наблюдения граждан, которая дала бы каждому глаза и уши повсюду, и тем самым рационально и эффективно реализовала – или, по крайней мере, сделала возможным – так называемую «обратную подотчетность» во всем цивилизованном мире.

«Если подзор будет осуществляться в основном машинами, а не людьми, наступит конец “абсолютной конфиденциальности”, но останется на мой взгляд вполне приемлемая “относительная конфиденциальность”. Однако, вероятнее всего, эти меры сведут на нет SIMAD или другие террористические атаки, а также жестокость и насилие над детьми, женщинами и стариками».

Он утверждает, что данные меры помогут покончить с коррупцией и другими преступлениями. Таким образом было бы окончательно сформировано «прозрачное общество» Дэвида Брина или «паноптикум участия» морального футуриста Жамэ Кассио.
«И тогда мы сможем ответить древнему римлянину Ювеналу на вопрос “Quis custodiet ipsos custodes?” (Кто наблюдает за наблюдателями?), — говорит ван Недервельде. – И ответ будет: Мы сами, люди, граждане. И я считаю, что это было бы вполне приемлемо».

ОСТАВЬТЕ ОТВЕТ