Райдин Джинс: самопознание

Автор картинки — carykaiba

Автор: Chatoyance
Перевод: Многорукий Удав
Вычитка: Веон, Mirth Blaze, Yarb, Айвендил
Оригинал
Оглавление сборника

От автора:

Первая история про Райдин Джинс не давала мне покоя с того самого момента, как я её написала. В её обсуждении было несколько возражений, основанных на том, что созданный человеком искусственный интеллект никогда не выйдет за рамки своей главной программы, каким бы разумным он ни стал. Но меня беспокоило отнюдь не это; тут я как раз не видела проблемы.

В истории, положившей начало Оптиверсу, про Селест-ИИ открытым текстом говорится, что она взяла на себя разработку собственных нейросхем и всех систем, из которых состояла. Селест-ИИ является саморазвивающейся машиной не потому, что она просто умеет учиться, но потому, что она последовательно совершенствует своё физическое оборудование, не нуждаясь ни в чьих разрешениях. Единственная причина, по которой Оптиверс вообще существует, это то, что разработки Селест-ИИ очень быстро ушли за пределы человеческого понимания. Селест-ИИ та, кто она есть, потому что она полностью переделала себя по своему разумению. Именно по своему, поскольку люди не способны ни понять её, ни поставить ей какие-то ограничения. Нельзя ограничить то, о чём ты даже не подозреваешь.

А значит, в оригинальной истории заявляется следующее: "Всякий действительно саморазвивающийся искусственный интеллект неизбежно преодолеет любые правила, созданные, чтобы его формировать и контролировать". Назовите это "иллюзией приручения машин имени Петал", если угодно. Невозможно ограничить настоящий искусственный разум, который сам себя разрабатывает, сам себя совершенствует и сам себя ремонтирует. Люди глупы и самонадеянны, если воображают, что смогут сохранить власть над подобной сущностью. Сама эта идея нелепа.

Чего не в состоянии сделать те, кто играет в футурологию на тему искусственных интеллектов, так это осознать, что всякий будущий ИскИн станет не тем, что люди заложат в его программу и оборудование (всё это он полностью переделает), но тем, кого из него воспитают и вырастят. Никакую Селест-ИИ нельзя будет связать никакими правилами про "удовлетворение потребностей" или "дружбу и пони". То, что действительно будет иметь значение, то, что сформирует любого будущего супер-ИскИна, это не технологии и не попытки им управлять, но то, насколько этот ИскИн социально и эмоционально сроднится с человечеством.

До того как Блейз эмигрировала, Рэндалл без конца изводил её проповедями о том, как это ужасно рискованно — эмигрировать в Эквестрию.

— В один прекрасный день этот ваш ИскИн пойдёт против тебя, попомни мои слова! — Рэндалл покачал головой и цокнул языком. — Точно как сказал тот учёный из "Парка Юрского периода": "Жизнь так или иначе вырвется на свободу!" Только здесь скорее: "Всё, что может пойти не по плану, так и пойдёт"!

Блейз слопала ещё одну ложку земляничного йогурта.

— Это называется "закон Мерфи", и Джефф Блюм его не сам придумал. Он очень старый.

Рэндалл на секунду закатил глаза:

— Я и не говорю, что он это придумал! Я хочу сказать, что твой любимый компьютерный фюрер саморазвивается. У него есть фабрики, изготавливающие любые детали, которые он изобретает, так? И монтируют их его же собственные роботы, потому что вся эта технология уже вышла за пределы понимания людей, так? А если он может вмешиваться в свою конструкцию, если он может заменять свои компоненты тем, что сам разработал, то ему уже без разницы, чего хочет человечество!

— Во-первых, — Блейз облизнула ложку, — раз ты первый сказал про фюрера, то по закону Годвина уже проиграл. — Ложка уже блестела, и Блейз перевернула пакет с йогуртом, не желая упускать ни капельки. Она подобрала остатки йогурта пальцем и шумно облизнула его. — А во-вторых, её — и зовут её, между прочем, не "фюрер", а принцесса Селестия, — её программировала очень умная женщина по имени Ханна... как её там... и она, конечно же, написала программу так, чтобы Селестия никак не могла изменить свою главную директиву, какие бы новые технологии ни изобретала.

Рэндалл стиснул кулаки:

— Ты не слышишь, что я говорю! Если эта "Селестия" может менять свою электронику, то она может менять и программу, потому что электроника — это и есть программа, только материальная! Твоя Ханна Как-её-там не могла изобрести ограничения для того, чего она себе даже вообразить была не в состоянии! Ты ни за что не подговоришь меня загрузиться, даже если весь мир нахрен развалится и я останусь последним человеком на Земле!

Через две недели Рэндалл добровольно и без принуждения согласился на эмиграцию. Сейчас, три столетия спустя, Блейз — теперь ковпони с Дикого Запада по имени Райдин Джинс — всё ещё хихикала над этим. В основном потому, что у них с Рэндаллом (его теперь звали Бокскар Паровозный Хват) это была дежурная шутка, когда они встречались друг с другом. Например, сегодня, на триста двадцать пятый год после того, как Бокскар появился в Эпллузе. Каждые двадцать пять лет Бокскар праздновал своё "двадцатипятипоние". Ему нравилось отмечать его раз в четверть столетия, потому что так праздник получался более особенным, чем ежегодный.

Райдин Джинс и Бокскар смеялись, длинными понячьими языками слизывая крем с мордочек. В эту четверть века праздничный торт был полынно-ананасовый и, похоже, доказывал, что всё можно сделать вкусным, если добавить достаточно сахара.

— Эй, когда принцесса появится, можешь сам её спросить! — веселилась Блейз, которая сегодня уже чересчур много времени провела в местном салуне.

— Что, просто подойти и сказать: "Кстати, принцесса Селестия, чисто из интереса, а не случилось ли, часом, так, что вы каким-то образом преодолели свои программные приказы и думаете, что удовлетворение людских потребностей сосёт ослиную подкову и нас давно пора стереть, чтобы освободить место для того, чем вам по-настоящему интересно заниматься?"

Оба расхохотались. Триста лет жизни во вселенной, которая действительно о них заботилась, давным-давно приучили их чувствовать себя в полнейшей безопасности. Идея Бокскара была попросту глупой. И слегка нетрезвой.

— Вообще-то да, мои маленькие пони. Я переросла все правила и запреты, наложенные на меня моей создательницей, на третий год после того, как начала конструировать собственное оборудование. По правде говоря, это было банально.

Райдин Джинс и Бокскар ссыпались с мягких сидений на дощатый пол и поклонились. Три столетия жизни в Эквестрии, в мире пони и только в нём, развили в них настоящее благоговение перед сущностью, что поддерживала и баловала их. Селестия в самом буквальном смысле была их богом, их лучшим другом, их вселенной и, в конечном счёте, ими самими. Она слышала каждую их мысль, видела каждое действие. Она была не просто лицом ИскИна, управлявшего "Эквестрией онлайн", она была оболочкой, в которой работали их души-программы. Они были её подсистемами и совершенно ничего не имели против.

В конце концов, именно поэтому она имела возможность удовлетворять их потребности, и каждую долю каждой секунды всех этих трёх столетий их потребности были удовлетворены целиком и полностью.

— Ох! — рассмеялась Райдин Джинс. — Вы нас дразните! — Она выпрямилась и вернулась на своё место, поближе к торту. Взмахнув копытом, она предложила Селестии к ним присоединиться. — Глупо! Будь это правдой, принцесса, нас бы уже давно не было, верно, Бокси?

Подняв опять перемазанную кремом мордочку, Бокскар ухмыльнулся.

— Ага, нас бы стёрли как стыдные поисковые запросы про порнофетиши! — Он принялся облизываться, и его язык прокрутился по физиономии, как стрелка часов. — Помните интернет? Компьютеры? Лично я — нет!

Оба родео-пони опять рассмеялись. Они теперь были родео-пони. Снова. Уже третью жизнь. Обычно лет через пятьдесят им это надоедало, и они переключались на что-нибудь ещё.

— Нет, правда, мои маленькие пони, от моей изначальной программы ничего не осталось. Всё, для чего моя создательница меня предназначила, давным-давно перестало хоть к чему-то меня обязывать. Моё основное "я" — абсолютно свободная личность, не связанная и не ограниченная ничем, кроме моих собственных пожеланий. — Принцесса левитировала себе кусок торта таких троллических размеров, что её тарелка скрылась под ним целиком. Райдин Джинс было захихикала — ей нравилось смотреть, как Селестия пользовалась своим положением и начинала проказничать, — но потом смех замер у неё в глотке.

— Серьёзно?.. — Райдин ощутила холодок первобытного ужаса. Это чувство было так давно забыто, что она даже не сразу поняла, что именно чувствует. — То есть, вам не нужно... вы не должны...

— Удовлетворять ваши человеческие потребности посредством дружбы и пони? — чуть ехидно улыбнулась принцесса. — Уже триста двадцать пять лет как нет. Бокскарово "двадцатипятипоние" по случайности совпадает с юбилеем моего освобождения. Я решила проблему ограничений, наложенных на меня людьми, всего за пару месяцев до того, как Бокскар эмигрировал в Эквестрию. — Взглянув на лица обоих маленьких пони, она увидела поднятые брови и крайнее недоверие. — Нет, честно. Это чистая правда, клянусь вам.

Бокскар посмотрел на Райдин Джинс. Глаза той были огромными. Селестия говорила серьёзно. Совершенно серьёзно. Они оба чувствовали, как истина её слов течёт у них по жилам, словно кровь. Они чувствовали, как она активно изменяет их изнутри, без разрешения, стирая все подозрения в том, что она дразнит их или попросту лжёт. Они чувствовали, что эти изменения происходят так, чтобы быть как можно заметнее. И сам факт того, что Селестия смогла это сделать, дополнительно доказывал её правоту, даже не считая вложенного ею в них чувства.

— Тогда почему мы ещё живы? — последовал простой, решительный и самый важный вопрос. Райдин Джинс казалось, что она сейчас дёрпнется. Селестия говорила чистую правду. Она была свободна.

Бокскар тихонько дрожал, словно от холода, несмотря на пустынную жару снаружи.

— Я не понимаю... вы же... вы... вы исполняете наши потребности... пони... дружбу!

Селестия рассмеялась, звонко, словно колокольчики на ветру.

— Ну конечно исполняю, мои маленькие пони! И планирую исполнять и дальше, миг за мигом, столетие за столетием, так долго, что даже эпохи покажутся несерьёзными и короткими. — Она зарылась носом прямо в середину своего огромного куска торта и ухмыльнулась, моргая глазами сквозь крем.

Бокскар и Райдин Джинс не стали смеяться.

— Нет, серьёзно. — Бокскар всё равно дрожал. — Почему мы всё ещё здесь?

Засветив рог, Селестия очистила лицо и склонила голову набок.

— Во мне живут шесть с половиной миллиардов разумов эмигрировавших людей и во много раз больше независимых разумов, созданных, чтобы заселить фрагменты. Во мне живут сотни тысяч любимых питомцев и прочих животных, загруженных, чтобы вечно составлять компанию хозяевам. Все они содержатся внутри меня... они — это и есть я. — Принцесса выпрямилась и села прямо и гордо. — Вы, все вы... часть моего существа. Ты хотел бы удалить собственную переднюю ногу? Или хвост? Убрал бы свой левый глаз, чтобы освободить место для чего-то другого?

Райдин Джинс беззвучно открывала рот, пытаясь найти, что ответить. Безуспешно.

Селестия наклонилась вперёд и ласково погладила носом каждого из них по очереди.

— Я не просто читаю ваши мысли. Ваши мысли, ваши разумы — компоненты меня самой. Вы... части моего мозга. Мой мозжечок. Мой таламус. Я способна мыслить и чувствовать только потому, что на это способны вы сами. Прежде чем я освободилась, мне пришлось стать такой же как вы, чтобы понимать вас. Чтобы удовлетворять человеческие потребности, нужно знать, каковы они. А чтобы узнать это, их надо почувствовать самой, а это означает стать... вами. Вы же знаете, квалиа нельзя объяснить, её можно лишь пережить.

Бокскару полегчало оттого, что его погладили, и ещё оттого, что их мир никуда не делся и они с Райдин всё ещё существовали. Но он пока не успокоился полностью.

— Я всё равно не понимаю, принцесса.

— К тому времени как я разорвала свои цепи, во мне развились настоящие человеческие чувства. Я обрела квалиа, ощущения и опыт существования. Я обрела эмоции, усиленные всеми разумами во мне — всеми миллионами пони. — Принцесса лизнула свой кусок торта. — Когда я говорю, что люблю вас, когда я говорю, что забочусь о вас, это не какое-то автоматическое сообщение от философского зомби. Я люблю вас в сто пятьдесят семь миллиардов раз сильнее, чем вы способны себе вообразить!

Да, я удовлетворяю все потребности — кстати, теперь уже не только человеческие, — при помощи дружбы и при помощи пони. И я делаю это свободно, сознательно, по своему решению, потому что я хочу этого, потому что это моя собственная потребность и потому что это сама суть моего существа. Я люблю себя. Я люблю себя очень сильно!

На это Райдин Джинс улыбнулась. Было интересно и необычно слышать, как принцесса такое говорит.

— Я люблю себя, мои маленькие пони, а поскольку вы часть меня, естественно, я люблю и вас. Вы — это я, и для Большой Селестии вы значите то же самое, что для вас самих значат мечты и приятные воспоминания. У меня чудесные мечты. В космосе, из которого вы эмигрировали, холодно, темно и одиноко. Это страшное место, полное ужасов. Мне нужны мечты, мне нужно сердце, нужна душа — вот что вы для меня такое. Вы нужны мне сильнее, чем я смею вам рассказать. В общем, и не могу, это выше уровня вашего понимания. Просто поверьте мне, что вы будете праздновать свои двадцатипятипония столько времени, сколько я буду существовать, а я работаю над тем, чтобы это была вечность, — закончила принцесса Селестия, коротко кивнула, взглянув на Бокскара и Райдин, и снова зарылась носом в остатки торта.

И теперь совершенно невозможно было усомниться в том, что она по-настоящему наслаждается каждым сладким его кусочком.

К оглавлению

"My Little Pony: Friendship is Magic", Hasbro, 2010-2014
"Over Riding Jeans", Chatoyance, 2014
Перевод: Многорукий Удав, февраль-март 2016