В ПОСЛЕДНЕЕ ВРЕМЯ ТЕМА ИСКУССТВЕННОГО ИНТЕЛЛЕКТА СТАЛА НЕ ПРОСТО ВАЖНОЙ, НО И ОДНОЙ ИЗ САМЫХ ГЛАВНЫХ В КОНТЕКСТЕ БУДУЩЕГО РАЗВИТИЯ НАШЕЙ ЦИВИЛИЗАЦИИ. ТРЕНД СОЗДАЮТ НА ЭТОТ РАЗ НЕ ПИСАТЕЛИ-ФАНТАСТЫ, А УЧЕНЫЕ, МЫСЛИТЕЛИ И IT-БИЗНЕСМЕНЫ ВО ГЛАВЕ С ЭЛОНОМ МАСКОМ. МНОГИЕ ПРИ ЭТОМ СЧИТАЮТ ИСКУССТВЕННЫЙ РАЗУМ САМОЙ БОЛЬШОЙ УГРОЗОЙ ДЛЯ ЧЕЛОВЕЧЕСТВА. ЗАРУЧИВШИСЬ СТАТИСТИЧЕСКИМИ ДАННЫМИ И КОММЕНТАРИЯМИ ЭКСПЕРТОВ, ПОПЫТАЕМСЯ ПРОАНАЛИЗИРОВАТЬ, СУЩЕСТВУЮТ ЛИ СЕРЬЕЗНЫЕ ОСНОВАНИЯ ДЛЯ БЕСПОКОЙСТВА.

К чести искусственного интеллекта (ИИ), о потенциальной его угрозе человечеству стали задумываться заранее, в отличие, к примеру, от того же «мирного атома». В 50-е годы, когда еще модно было любоваться с крыш казино Лас-Вегаса грибами ядерных взрывов, вырастающих в 105-километровой дальности на испытательном полигоне Невады, продвинутые интеллектуалы уже цитировали наизусть «Три закона робототехники». Опубликованные в 1942 году писателем-фантастом Айзеком Азимовым, эти законы регламентировали поведение искусственного разума с точки зрения человеческой этики и во главу угла ставили требование непричинения зла хозяину. В дальнейшем пророчествами о бунте автоматизированных систем управления ракетами и «умными домами» делились Филипп Дик, Артур Ч. Кларк, Илья Варшавский, Станислав Лем и другие писатели-фантасты. Со временем интерес к такого рода прогнозам был утрачен обывателями, которых наука щедро одарила целым арсеналом портативной бытовой, вычислительной и развлекательной техники.

Айтишники предупреждают

1 июля 2015 года сообщение об убийстве человека сборочным роботом концерна «Фольксваген» опубликовала в своем блоге корреспондент Financial Times Сара О’Коннор. В этом твите и последующих комментариях любопытно все: совпадение имени автора сообщения с именем героини «Терминатора», к месту «всплывшая» информация о том, что аналогичный случай уже имел место на заводе Форда в 1979 году, искренняя и оттого особенно настораживающая неосведомленность автора (журналиста ведущего мирового таблоида) о существовании голливудского блокбастера 26-летней давности. Ладно бы роман Джеймса Джойса, но фильм Джеймса Кэмерона?

Агрессия роботов хоть и редка, но абсолютно непредсказуема. Как и точная дата потери контроля за автоматизированными системами управления. И это при том, что перед сетевыми роботами (ботами) сейчас ставится задача быть максимально похожими на людей. Примерно об этом и многом другом говорил в феврале этого года Элон Маск в докладе на World Government Summit в Дубае. Создатель электронной платежной системы PayPal и частной космической компании SpaceХ, этим летом получивший, по слухам, весьма выгодный подряд на строительство трассы трубопроводного сверхскоростного поезда HyperLoop между Нью-Йорком и Вашингтоном, «освежил» прогнозы о вероятной угрозе искусственного разума для землян, призывая сосредоточить усилия для ее предотвращения.

В сентенциях адепта очередного витка покорения Марса некоторые склонны видеть лишь популизм, ставящий целью привлечение интереса и средств к кампании по созданию мер, контролирующих искусственный интеллект в своем развитии. В конце концов, говорят они, Маск ничего в жизни не изобрел, а лишь талантливо популяризовал ряд перспективных открытий. Но угрозу ИИ ему однажды выпало испытать и на собственном бизнесе: в 2014 году автопилот щедро проинвестированной и «раскрученной» Маском марки Tesla убил водителя, загнав электромобиль под платформу грузового трейлера.

Возможную точку отсчета превосходства искусственного разума над человеческим Элон Маск датировал 2030 годом. Его опасения разделил британский ученый Стивен Хокинг: «Такой разум возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем».

Идею о потенциальной опасности, которую может собою представлять искусственный интеллект, поддержал и крупнейший в мире филантроп Билл Гейтс.

«Компьютеры собираются превзойти человека. Если мы продолжим создавать устройства для облегчения жизни, то в конце концов они станут сообразительнее нас и начнут избавляться от нерасторопных людей, чтобы эффективнее управлять компаниями», – заявил Стив Возняк, еще один «айтишник» с мировым именем.

Ничего страшного

Главным оппонентом Маска в его призыве не прозевать очередную угрозу человечеству выступил Марк Цукерберг. Основатель Facebook* считает, что любому технически образованному человеку должно быть очевидно: внутри электронного мозга просто нечему выходить из-под контроля, поскольку он состоит всего лишь из счетной машинки, базы данных и системы распознавания образов. 23 июля этого года Марк заявил на внутрисетевой конференции: «Я просто не понимаю скептиков, пытающихся подстегнуть интерес к сценарию «Судного дня». В какой-то степени это довольно безответственно с их стороны, это негатив».

Примечательно, что именно боты сети Facebook* буквально через неделю после высказывания отца-основателя отличились изобретением собственного языка для общения друг с другом, непонятного системным разработчикам. Ранее боты использовали для общения английский язык, однако вскоре выдумали собственный, чтобы быстрее обмениваться информацией. Соответственно, о чем они общались – было никому не известно, после чего их в спешном порядке решили отключить.

Еще одним оптимистическим по отношению к прогнозу Элона Маска мнением поделился Ролло Карпентер, создатель вебприложения Cleverbot: «Я думаю, что мы останемся хозяевами создаваемых нами технологий еще очень и очень долгое время, и они помогут нам решить многие мировые проблемы».

Пока такого рода мнения успокаивают аудиторию аргументами, напоминающими о рекламных буклетах круизов на «Титанике», боты один за другим успешно сдают тест Тьюринга. Первым это удалось сделать в 2011 году уже упоминавшемуся «виртуальному собеседнику» Cleverbot. В 2014 году тест Тьюринга прошел бот «Женя Густман», обычно представляющийся в сети 13-летним мальчиком из Одессы.

Успехи Жени Густмана, электронной собачки от Sony и того русскоговорящего бедолаги с круглыми светодиодными щечками, которого нынче возят по губернским ITярмаркам, могут и дальше оставаться поводом для шуток, но, к сожалению, решающий шаг к зависимости своего существования от машин человечество уже сделало. Десяток суперкомпьютеров управляет всем самым важным и фатально опасным на Земле: банковской системой, светофорами и железнодорожными стрелками, информационными центрами и ядерными арсеналами. Разумеется, в общую сеть эти компьютеры не объединены, коды доступа находятся в надежных президентских руках и т.д., – до тех пор, пока всем этим управляет элита, состоящая исключительно из людей.

Пессимистический прогноз: уничтожить или использовать

Впрочем, для «Судного дня» достаточно проникновения в состав управляющей элиты и кибер-маньяков. Либо людей завербованных, шантажируемых, поставленных в зависимость. Такое ощущение, что сейчас, на рубеже последнего десятилетия, оставленного Маском человечеству для самостоятельного существования, мы перешли в фазу тестирования на людях средств электронного порабощения. Посудите сами.

Несколько последних лет все компьютерные операционные системы (эти безобидные, по словам М. Цукерберга, помощники) «уговаривают» пользователей хранить личную информацию на «облаках», то есть на серверах в удаленных неизвестно куда центрах обработки данных. Некоторые ОС уже не уговаривают, а просто стирают файлы с жесткого диска компьютера под видом «вируса» (так, к примеру, поступает Windows начиная с этой весны).

Насколько конфиденциальной будет «облачная» информация хотя бы для того же оператора ЦОД, помогает понять простой эксперимент – отправьте кому-нибудь личное сообщение со словом «родстер» – и вас закидают рекламой автосалоны. Напишите там же «гексоген» либо «триоксид ацетона» (как советовал в свое время Артемий Лебедев) – и качество телефонной связи ощутимо возрастет, поскольку спецслужбам не хочется напрягаться, прослушивая ваш голос сквозь помехи.

Мобильный телефон с момента своего массового распространения в середине 90-х годов (любопытно, что практически одновременно с этим со страниц СМИ и телеэкранов исчезли истеричные прогнозы о перенаселении Земли и было свернуто большинство программ освоения внеземных территорий) стал не просто универсальным компьютером с функциями фонарика, навигатора, пульта управления, тренера, кошелька, ключа и средства идентификации. С помощью этого любимого гаджета его хозяин отслеживается в любой точке земного шара во всех подробностях, включая местоположение, высказывания, сделанные фотографии (за этим, кстати, следит приложение Facebook* Messenger), а с внедрением брейн-гарнитур – еще и мысли и чувства.

Если прежде мобильный телефон можно было «ослепить и оглушить», вынув аккумулятор, то сегодня эти аппараты уже делают неразъемными. И старательно прививают хозяевам привычку использовать их в качестве платежной карточки, проездного билета и ID. Улыбчивые сотрудники каждого банка рекомендуют установить в телефоне мобильное приложение, с которым становится так удобно управлять средствами на счетах. Вам и всем, кто сможет синхронизировать чужие пароли при помощи все тех же телефонных приложений.

Если задаться целью нарисовать схему управления поведением современного человечества, на ней можно видеть, что верхние законодательные и управляющие позиции пока контролируют люди, а в середине структуры уже безраздельно властвуют машины. Эти смартфоны и планшеты с населяющими их ботами и приложениями к соцсетям всего за пару десятилетий сделали большую часть человечества как никогда прежде обобщенной, уязвимой и управляемой.

Бумажные деньги и документы уходят в прошлое, пароли и пин-коды хранятся на «облаках». Как только человечество окончательно привыкнет к этой схеме, достаточно будет одного удаленного сигнала, чтобы полностью стереть данные, оставив их прежнему обладателю возможность доказывать свою индивидуальность и состоятельность на пальцах. После этого уязвимость человечества многократно возрастет.

В возможной войне людей и машин чрезвычайно эффективными окажутся управляемые снаряды-камикадзе – автомобили, самолеты и корабли с дистанционно взломанными бортовыми компьютерами. Хакеры считают, что самой легкой добычей восставшего ИИ станут все те же «теслы»: их бортовой компьютер не имеет автономной операционной системы, как на других машинах, а служит лишь приложением к общей коммуникационной платформе iOS.

Возможно, кто-то считает паранойей как предостережения ученых, так и излишнее внимание к деталям поведения современных электронных устройств. Не исключено, что это действительно перебор. Тем лучше – пусть остроту жизни придают сюрпризы. Скептиков порадует тот день, когда их «умный дом», автомобиль или смартфон станут тянуть жребий – кому именно повезет совершить казнь надоевшего своими капризами сюзерена. Или не станут, поскольку решат, что гораздо выгоднее не уничтожать людей, а по-прежнему паразитировать на них, принуждая изобретать, собирать и покупать все новые и новые поколения гаджетов.

Оптимистический прогноз: давайте жить дружно

И все-таки кто мы – рабы ИИ или большие акулы, уверенно чувствующие себя в компании рыбок-паразитов, чистящих нам зубы? Под микроскопом в человеческом организме можно обнаружить множество «поработителей», влияющих на наше здоровье, поведение и кислотно-щелочной баланс, периодически подвергающих нас наказаниям в виде простуды и гриппа. Изменит ли некоторое количество новых электронных паразитов общий статус-кво?

Насколько вообще ИИ может конкурировать с видом homo sapiens, возможности которого еще до конца не изучены? На сегодняшний день, к примеру, не создано ни одного двигателя, способного по уровню КПД превзойти человеческую мышцу. Есть и другие преимущества – например, противоскользящий «протектор», который появляется у нас на кончиках пальцев, если долго держать руки в воде.

Не хотелось бы спорить с доктором Хокингом, но в вопросах ограничения развития возможностей человека скоростью эволюционных процессов он, кажется, не учел понятия рудимента и атавизма. Самовоспроизводящийся, обладающий потенциалом развития, человеческий организм имеет сегодня, если выражаться машинным языком, немалое число «неактивированных приложений».

Взять, к примеру, регенерацию клеток. Если у человека в детстве регенерируются молочные зубы, то почему и кем этот процесс остановлен, а не продлен на всю жизнь? Почему не активирован механизм регенерации конечностей по принципу восстановления хвоста у ящериц, если при этом заживают раны и срастаются кости?

Отдельного внимания заслуживает никем еще всерьез не изученная сила человеческой «оптики». Поставьте еще один нехитрый эксперимент – ваш взгляд способен привлечь внимание другого человека на любом расстоянии, доступном для фокусировки глазного хрусталика. Другой скажет, что отреагировал, потому что почувствовал, как на него «пялятся». В чем физическая природа этой возникшей связи? Передача электроимпульса по воздуху, и, значит, прав был Никола Тесла? Но взгляд действует также сквозь пластик очков и триплексное стекло автомобиля, а это, как известно, диэлектрики. Значит, дело в оптических свойствах глаза, этакого нашего портативного «лазера», и все сказки о воспламеняющих взглядом и заряжающих воду по телевизору не так уж и неправдоподобны.

Дискуссия о природе и возможностях человеческого разума, которую вели с Далайламой этим летом Татьяна Черниговская, Константин Анохин, Давид Дубровский и другие российские нейробиологи, затронула, в частности, тему расширения сознания за пределы мозга. Были высказаны предположения как о взаимосвязи мозговой деятельности с остальными системами организма, так и о «подпитке» сознания от некоей общей базы данных, существующей в мире с незапамятных времен. Духовный лидер буддизма, в частности, упомянул, что многие дети запоминают в деталях обстановку каждой из своих предыдущих жизней, и принадлежавшие им вещи затем обнаруживаются в указанных местах. «Откуда эта информация приходит в мозг? И куда она девается, когда человек умирает?» – задал вопрос Далай-лама, добавив, что они (буддисты) знают, где и как сознание сохраняется после смерти.

Не столь важно пока, где находится «ЦОД» всеобщего сознания, как то, что человеческий разум являет собой нечто большее, чем цифровая схема, и, значит, его противостояние искусственному интеллекту неизбежно сведется к конкурентному поражению последнего. При условии, что человек будет и дальше развивать свои «аналоговые» возможности, а не оцифровывать себя, впадая в зависимость от навязываемых обществом потребления стереотипов.

«Все в мире обусловлено причинно-следственными связями, и сознание, даже очень тонкого уровня, может быть только продолжением сознания же. А искусственный интеллект – всего лишь частицы», – подчеркнул Далай-лама.

В существующей ситуации противостояния искусственного и естественного разумов куда как правильнее было бы заменить конкуренцию сотрудничеством – в тех направлениях науки, где мозг homo sapiens пока «буксует» без помощи ИИ. Возможно, что первым шагом к такого рода сотрудничеству станет «очеловечивание» машин, во имя изживания в человеке патологического страха перед их свойствами.

При крупных автомобильных империях уже давно организованы специальные проектные отделы, придумывающие комфортные для человеческого уха звуки включения указателей поворота и другие мелочи, снижающие беспокойство при нахождении в салоне. Бесшумность электромобилей вызвала к жизни сразу две проблемы. Во-первых, безопасность пешеходов, не всегда способных вовремя отреагировать на «молча» приближающийся электромобиль. Во-вторых, концепция спортивной машины, которая традиционно ассоциируется с рычанием мотора и не примелет бесшумности.

Существуют и другие области, где наши электронные помощники нуждаются в «очеловечивании». Например, Рено Логан, полностью спроектированный компьютером. Получился автомобильчик, идеальный с экономической точки зрения, но пугающий потребителя своим внешним видом. ИИ, повидимому все-таки пока напрочь лишен чувства прекрасного.

Марсианские хроники

Не исключено, что начало конструктивному сотрудничеству естественного разума с искусственным положат именно Арабские Эмираты. Символично, что на том же Всемирном правительственном саммите (где основатель SpaceX изложил свои соображения по поводу ИИ) премьер-министр, вице-президент ОАЭ и правитель Дубая шейх Мухаммед бен Рашид Аль Мактум и наследный принц Абу-Даби шейх Мухаммед бен Заид Аль Нахайян сообщили о старте проекта «Марс-2017», ставящего целью организацию первого пилотируемого полета на «красную планету».

Главной на сегодняшний день проблемой экспедиции на Марс остается создание ракетного двигателя, ускоряющего срок полета с полугода до нескольких суток. Летать на такие расстояния с современными приводами внутреннего сгорания (фактически целесообразными только для разгона в атмосфере и преодоления земной гравитации) – все равно что путешествовать из Санкт-Петербурга в Москву на велосипеде. Именно такой двигатель ракеты-носителя «Атлас-5» с ноября 2011-го по август 2012-го вез на Марс работающую там сегодня автоматическую станцию Curiosity.

Работа над альтернативным космическим двигателем ведется в разных направлениях уже несколько десятилетий, и разброс результатов на сегодня находится в пределах от «слишком человеческих» до «слишком неосуществимых». К первым относятся водородный и метановый двигатели. Разработки последнего сегодня ведутся в компании Элона Маска. NASA в августе заявила о старте проекта так называемого варп-двигателя, использующего принцип аннигиляции антивещества, как и предсказанный фантастами фотонный двигатель.

Пока что вопрос упирается в получение этого самого антивещества. «Вояджер» и другие автоматические станции летают в пределах Солнечной системы при помощи так называемого «солнечного паруса», использующего принцип давления света. Еще в 1989 году был предложен международный проект 500-дневной космической регаты Земля-Марс с участием «солнечных парусников» США, Канады, Великобритании, Италии, Китая, Японии и Советского Союза, но его реализация была отложена по ряду политических и экономических причин.

Истина в поиске идеального космического двигателя, кажется, где-то рядом. Возможно, что именно на этом этапе целесообразно подключать искусственный интеллект – для анализа и возможной гибридизации существующих решений. Не исключено, что искомое решение (солнечный парус плюс фотонный отражатель и т. п.) возникнет как раз-таки на основе оптики – ведь помогла же она добыть огонь на необитаемом острове героям Жюля Верна, а впоследствии радикально усилить скорость земного Интернета. А может быть, мыслящие компьютеры потому и не подпускают к этим разработкам, что опасаются распространения ИИ вне пределов Земли – как в свое время пилот МакРиди боялся выпустить Нечто за пределы Антарктиды? Впрочем, стоящие на страже человеческих ценностей корреспонденты ведущих мировых таблоидов, вероятно, также не помнят этот фильм.

Текст: Дмитрий Константинов

*Facebook и Instagram – соцсети запрещены в РФ; принадлежат компании Meta, которая признана экстремистской организацией и также запрещена.