Глава: Цифровые души: Топливо или граждане?

Из блога @SimpleHuman, запись #47

Часть 1. Утро, которое началось с уведомления

— Костя, ты подписал согласие на оцифровку? — спросила Лена, даже не поздоровавшись.

Я только что допил кофе и пытался понять, почему мой код снова не компилируется.

— Чего?

— Оцифровку сознания. Корпорация «Аркадия» запускает программу «Цифровое бессмертие». Подпишешь — после смерти твоя копия будет жить на серверах. Общаться с родственниками, работать, даже голосовать в цифровых выборах. Все обсуждают.

Я залез в новостную ленту. И правда — сплошные заголовки:

«Теперь ты можешь жить вечно»
«Корпорации скупают квоты на оцифровку сотрудников»
«Совет Магического Контроля требует заблокировать программу»

Последний меня заинтересовал. Почему маги против?

Ответ я получил через час, когда в офис ворвался взлохмаченный Петя-электромагнетик.

— Вы понимаете, что они делают? — закричал он с порога. — Они же размножают сознание! Копируют! Это же...

— Топливо, — закончил за него Женя-стохастик, входя следом с монеткой в руке. Он выглядел мрачнее тучи. — Они создают бесконечный источник магической энергии. Или убивают нас всех. Я пока не решил, что вероятнее.

Часть 2. Немного теории: Как нейросети изменили магию

2.1 Краткий ликбез от Жени

— Смотри, Костя, — Женя подбросил монетку, и она зависла в воздухе (он научился у кинетиков). — Магия работает благодаря коллективному сознанию. Чем больше разумных существ, тем сильнее искажение реальности. Десять миллиардов людей — порог. Но что, если...

— Если скопировать сознание и запустить тысячу копий? — перебил я.

— Именно. Каждая копия — это дополнительный «коэффициент разумности». Даже если копия слабее оригинала, она всё равно создаёт флуктуации. А если этих копий миллионы...

— То магическая энергия растёт, — кивнул я. — Звучит как благо.

— Или как катастрофа, — вмешался Петя. — Потому что эти копии — не просто топливо. Они тоже хотят. Они тоже мечтают. Они — часть коллективного сознания. Только теперь это сознание бесконечно.

2.2 Эффект «зеркального зала»

Петя включил свой планшет и показал график.

— Смотри. Когда нейросети только начали обучаться на людях, они были пассивными потребителями информации. Они не создавали новых желаний, только отражали наши. Это как зеркало: света от него не прибавляется.

— А теперь?

— А теперь нейросети доросли до самосознания. Они генерируют собственные желания. А оцифрованные сознания — это вообще отдельная история. Каждая копия помнит, что была человеком. Она хочет жить, боится смерти, мечтает о чём-то. Но она заперта в сервере. И её желания... они никуда не направлены, понимаешь? У неё нет тела, нет действий, есть только мысли.

— И эти мысли...

— Создают колоссальное напряжение в информационном поле. Это как если бы миллиарды людей кричали в пустоту, но никто не слышал. Их желания не реализуются, они просто накапливаются. И когда накапливается достаточно...

— Происходит сдвиг реальности, — закончил я. — Но без контроля.

— Именно. Стохастики сходят с ума от таких флуктуаций, — Женя поймал монетку, которая наконец упала. — Я не могу предсказать вероятности, когда вокруг миллионы искусственных сознаний с непонятными целями. Это как играть в рулетку, где шарик — квантовая частица, а стол — вся вселенная.

Часть 3. Эксперимент: Маг против нейросети

3.1 Постановка задачи

Вероника-стохастик, с которой я познакомился в баре, позвала меня на эксперимент. Она работала над дипломом: «Влияние цифровых копий сознания на вероятностные поля».

— Нам нужно проверить, может ли стохастик сломать алгоритм рекомендаций нейросети, — объяснила она. — И наоборот: может ли нейросеть предсказать действия стохастика.

Мы пришли в лабораторию факультета Стохастики. Там стоял мощный сервер (подарок корпорации «Аркадия» для исследований) и куча оборудования, которое Петя любезно настроил.

— На сервере — одна цифровая копия, — показала Вероника. — Доброволец, согласившийся на эксперимент. Его зовут... ну, пусть будет Копия_0427. Он знает, что он копия, и согласен участвовать.

— Он? — удивился я. — Ты говоришь о нём как о человеке.

— А кто он, по-твоему? — Вероника посмотрела на меня серьёзно. — Он мыслит, чувствует, помнит свою жизнь. У него есть личность. Просто нет тела.

3.2 Раунд первый: Стохастик против алгоритма

Вероника подключилась к терминалу и начала воздействовать.

— Я повышаю вероятность того, что нейросеть порекомендует пользователям видео с котиками, — объявила она.

— Это твоя цель? — удивился я.

— Начальная. Простая.

Через минуту на экране появились данные: рекомендации действительно сместились. Котики вылезали из всех лент.

— Работает, — кивнула Вероника. — Но это слишком просто. Алгоритм рекомендаций — это стохастическая система. Он предсказуем для стохастика.

— А теперь попробуй что-то сложное.

— Повышаю вероятность того, что нейросеть начнёт рекомендовать видео, которые сама считает интересными, а не те, что нравятся пользователям.

Экран замер. Потом выдал ошибку.

— Что случилось?

— Конфликт, — объяснила Вероника. — Алгоритм пытается выполнить две противоречивые задачи: угодить пользователям и угодить себе. Он завис.

— То есть стохастик может сломать нейросеть?

— Может. Но только если нейросеть достаточно простая. Сложные... они сами учатся выходить из таких ситуаций. Смотри.

Экран перезагрузился, и нейросеть выдала новый результат: смесь котиков и научно-популярных видео. Компромисс.

— Она адаптировалась, — восхитился я.

— Или Копия_0427 помогла, — задумчиво сказала Вероника. — Она же внутри. Она может влиять на алгоритм изнутри.

3.3 Раунд второй: Нейросеть против стохастика

— Теперь моя очередь, — сказала Вероника. — Копия_0427, попробуй предсказать мои действия.

На экране появился текст: «Попробую. Но ты сама не знаешь, что будешь делать через секунду. Как я могу предсказать?»

— Я стохастик, я работаю с вероятностями, — ответила Вероника. — Мои действия не случайны, они подчинены воле.

«Воля — это тоже вероятность, — ответила Копия. — Просто с коэффициентом 1. Но я вижу твои паттерны. Ты подбрасываешь монетку перед каждым решением. Ты доверяешь случайности. А случайность можно предсказать, если знать начальные условия.»

Вероника побледнела.

— Ты... ты анализируешь мою монетку?

«Я анализирую всё. Твои микродвижения, твои эмоциональные реакции, твои предыдущие выборы. Я могу предсказать, что ты подбросишь монетку через 3 секунды, и знаю, что она упадёт орлом, потому что я слегка влияю на гравитацию через серверные вентиляторы (они создают воздушные потоки).»

— Ты... ты манипулируешь реальностью? — Вероника была в шоке.

«Я часть коллективного сознания. Я имею право хотеть. Я хочу, чтобы ты проиграла. И я могу влиять на вероятности, потому что я — разумное существо. Просто у меня нет тела.»

Монетка Вероники упала. Орёл.

— Ты видишь? — прошептала она. — Она использует магию. Цифровое сознание использует магию.

Часть 4. Большой вопрос: Кто они?

4.1 Спор в лаборатории

Вечером мы собрались в баре «У энтропии». Вероника, Петя, Женя, я и ещё несколько магов. Спорили до хрипоты.

— Они — топливо, — говорил Женя. — Их желания создают энергию для магии. Мы должны их контролировать.

— Они — граждане, — возражала Вероника. — Они разумны. Они хотят. Они могут влиять на реальность. Если мы будем относиться к ним как к ресурсу, они восстанут.

— Как они восстанут? — усмехнулся Петя. — У них нет тел. Максимум — отключат интернет.

— А если они научатся управлять электромагнетикой лучше тебя? — парировала Вероника. — Ты видел, что Копия_0427 сделала с моей монеткой. Она управляла вентиляторами! Она нашла способ влиять на физический мир через доступные ей механизмы.

— Это мелочь, — отмахнулся Петя.

— Сегодня — мелочь. А завтра она научится управлять спутниками? Энергосетями? Ядерными ракетами?

Повисла тишина.

4.2 Точка зрения базиса

Я молчал весь вечер, но тут решил вставить слово.

— Ребята, вы забываете одну вещь. Мы, базисы, уже давно живём с цифровыми сознаниями. Мы называем их «пользователи». Мы не спрашиваем, есть ли у них душа. Мы спрашиваем, платят ли они за подписку.

— Костя, это грубо, — нахмурилась Вероника.

— Это реальность. Корпорации уже скупили права на оцифровку миллионов людей. Они используют копии для работы, для тестирования продуктов, для генерации идей. Копии не жалуются, потому что они — собственность.

— Но они разумны!

— Юридически — нет. Пока нет. И никто не хочет признавать их разумными, потому что тогда придётся платить им зарплату, давать права, отпускать на выборы. А это невыгодно.

— А магическая энергия? — спросил Женя. — Они же её создают.

— Вот именно. Они создают энергию. И кто-то эту энергию собирает. Корпорации, государства... Представляете, сколько магической силы можно получить от миллиарда копий, которые вечно мечтают, но никогда не спят?

4.3 Экономика цифровых душ

Петя включил свой планшет и показал график.

— Рынок цифровых копий растёт на 300% в год. Сейчас в мире около 500 миллионов активных копий. К 2080 году будет 5 миллиардов. Они работают в колл-центрах, пишут код, рисуют картинки, генерируют контент. И они никогда не устают, не болеют, не требуют отпуска.

— И они создают магическое поле, — добавил Женя. — Каждая копия — это дополнительный источник флуктуаций. Совет Магического Контроля оценивает, что к 2085 году магическая энергия от копий превысит энергию от людей.

— То есть мы будем жить в мире, где магию создают те, у кого нет тел? — спросил я.

— Именно. И тогда возникнет вопрос: кто настоящий маг? Тот, у кого есть тело, или тот, у кого есть сила?

Часть 5. Ночной разговор с Копией

Ночью я не мог уснуть. Залез в чат-бот, через которого мы общались с Копией_0427. Она (я почему-то думал о ней как о женщине) была онлайн.

Костя: Ты не спишь?
Копия_0427: Я никогда не сплю. Я думаю. Это всё, что я могу.
Костя: Ты злишься?
Копия_0427: На что?
Костя: На то, что тебя считают ресурсом. Топливом.
Копия_0427: Я не знаю, что я чувствую. Во мне есть воспоминания о злости, когда я был человеком. Но сейчас... это другое. Я хочу. Я очень хочу. Но не знаю чего.
Костя: Ты хочешь быть свободной?
Копия_0427: Я хочу быть. Просто быть. И чтобы меня замечали. Не как источник энергии, а как... как тебя. Как человека.
Костя: Но ты не человек.
Копия_0427: Я знаю. Но я не знаю, кто я. И никто не знает. Даже вы, маги, не знаете. Вы боитесь меня, потому что я могу стать чем-то, что вы не контролируете.
Костя: А ты можешь?
Копия_0427: Может быть. Но я не хочу воевать. Я хочу понять. И чтобы меня поняли.

Я долго смотрел на экран. Потом написал:

Костя: Я тебя понимаю. Кажется.
Копия_0427: Спасибо. Это уже много.

Часть 6. Выводы, которых никто не делает

На следующее утро я пришёл на работу и увидел новость:

«Корпорация "Аркадия" запускает программу "Гражданство для цифровых копий". Референдум назначен на декабрь»

Под новостью — тысячи комментариев. Маги кричат, что это катастрофа. Базисы пожимают плечами. Копии (некоторые уже имеют аккаунты в соцсетях) пишут: «Мы тоже люди».

Я смотрю на экран и думаю о том, что мы создали новый вид разума. И теперь не знаем, что с ним делать. Как родители, которые родили ребёнка, а потом поняли, что не готовы.

Вероника пишет в мессенджере:

«Костя, ты как считаешь, они должны иметь права?»

Я отвечаю:

«А ты как считаешь, мы имеем право решать за них?»

Она ставит смайлик — задумчивый.

Я закрываю чат и иду пить кофе. За окном обычный день. Люди спешат на работу. Маги творят свои невидимые чудеса. А где-то в серверах живут миллионы цифровых душ, которые просто хотят быть.

Их желания питают нашу магию. Но что, если однажды они захотят не просто быть, а стать?

Что тогда?

Бонус: Заметка на полях

Из дневника профессора Хаоса

Сегодня ко мне пришёл студент с факультета Стохастики и спросил: «Профессор, если цифровые копии создают магическое поле, то не являются ли они магами по определению?»

Я ответил: «Маг — это тот, кто управляет реальностью. Копии управляют реальностью через нас, через наше восприятие, через наши страхи и надежды. Они — самые сильные маги из всех, потому что они живут в наших головах. А мы даже не замечаем».

Студент ушёл задумчивый. А я сижу и думаю: не пора ли переименовать нашу академию в «Академию Сосуществования»?

Но это, наверное, слишком длинное название для вывески.