Проекция реальности / #90 / OlesyaBondaruk

Мне опять снилась река с мутной желтой водой, от которой веяло смертью. В этой мертвой реке было спасение - от тех, кто гнался за мной. Решение надо было принимать быстро, бросаться в холодную воду и плыть - в надежде достичь другого берега. Другие были быстрее, чем я, они бросались и плыли. Их тела маленькими островками нарушали мрачную однообразность воды, их приходилось отталкивать, борясь с омерзением, пока в голове билась одна мысль: “Я тоже не выдержу, ни яда воды, ни холода”. Спасло меня то, что я смог добраться до металлической конструкции, служившей основой бог знает для чего в прошлые времена. Вода отравила меня, но не убила, когда я выбрался на железную сваю, хватаясь за нее руками и ногами. Речной яд вошел в мое тело, но я был спасен от преследователей. Доплыть до берега я не смогу, помочь мне некому. Оставалось только цепляться за балки, понимая, что руки и ноги слабеют, и что рано или поздно мне наступит конец. Мое тело поплывет по холодной воде, вздуется, прибьется к другим трупам, пока река не разрушит его, не впитает в себя.

Я проснулся и долго лежал с открытыми глазами, глядя в ночь. Сон возвращался с упрямством, достойным продавца из колл-центра, который непременно хочет продать вам новый тариф на межпланетные путешествия, но ни разу я не видел своих преследователей и не понимал, почему они хотят убить меня и других людей. Никогда ничего в этом сне не менялось, даже отвращение от прикосновения к распухшим в воде мертвецам было одинаково сильным. Сон выбивал меня из привычной рутины, отвлекал, мучил по нескольку дней. Потом обычно его призрак начинал блекнуть, заставлял нет-нет поморщиться, внезапно явившись в воспоминания посреди привычных дел, а потом пропадал на много дней, чтобы торжествующе вернуться, когда я совсем успокаивался.

В этот раз я решил думать не про реку, потому что думать про нее было мучительно страшно. Я сосредоточился на людях, которые были во сне, и понял, что никогда не видел их лиц. Бесформенные, почти безликие, они присутствовали там, чтобы перейти из одного состояния - бегущих, до смерти напуганных, в другое - в бездвижную, плывущую по течению массу. Никого из своего сна я не смог узнать.

Я уже давно в реальности не видел ни одного живого человека, лет пять точно. Я общался с проекциями, некоторые из которых принадлежали настоящим людям, а некоторые были созданы искусственным интеллектом для “обеспечения естественности общения”. Порой меня пронзал страх: а что, если я не смогу отличить одних от других? Меня пугало, что близкие могут легко выбрать скрипт общения, слегка подредактировав, чтобы добавить деталей для правдоподобности, и запускать его, совершенно не включаясь в диалог. Каюсь, я и сам пару раз так поступал. Так сколько людей разговаривали со мной по-настоящему? Та женщина, что считается моей женой - реальна ли она? А я сам, кто я? Человек, которого мучают кошмары, или искусно созданная проекция, в которой либо произошел сбой, либо это было предусмотрено для придания большей человечности? Мое физическое тело - галлюцинация или реальность?

Я смутно помню, что когда-то сам активно разрабатывал концепцию “дефективных проекций”. Людям сначала надоели идеальные выхоленные образы самих себя, и в моду вернулась натуральность. А потом они захотели, чтобы проекции служащих, пилотов, учителей и даже пресловутых операторов колл-центров - творений ИИ - тоже были “максимально натуралистичными”. Мы закладывали в них не только физические недостатки, но и капризы, упрямство, грубость, нерешительность, мы обучали ИИ на примерах сотен тысяч реальных, до молекул разобранных на составные части характеров. Случайное сочетание тысяч параметров давало изначальную личность, а потом проекция обучалась, эволюционировала, изменялась под воздействием других людей и других проекций. Моя работа стала рутинной: принять заказ, заложить основные параметры, запустить случайный выбор “характера”, проверить проекцию на дееспособность и отправить заказчику. И чем проще, схематичнее становилась моя работа, тем чаще овладевала мной тревога, потом начались проблемы с памятью, а потом пришел сон про реку.

Я перестал говорить с проекциями знакомых - я им больше не доверял. Вот и сегодня я перебросился парой незначительных слов с женой, отключил все свои проекции и вызвал помощника.

- Как понять, что я говорю с проекцией человека, а не с искусственной? - начал я в лоб.

- Все искусственные проекции обязательно подсвечиваются желтым ободком, это обязательно условие комитета по этике. Человеческие проекции подсвечиваются зеленым, чтобы вы не перепутали проекцию и реального человека.

- А может ли проекция ИИ изменить подсветку и быть похожей на человека настолько, чтобы обмануть всех?

- Да, современные технологии искусственного интеллекта позволяют создавать проекции, которые могут быть настолько похожими на человека, что могут заставить думать, что это живой человек. Они могут использовать голосовые алгоритмы, использовать жесты, мимику и другие приемы для проявления эмоций. Но на практике обойти законы этики невозможно.

Это был разговор ни о чем, но говоря с помощником, я хотя бы точно знал, кто это. Я задал глупый, но так страшащий меня вопрос:

- А я живой человек?

- Я не могу точно утверждать, являетесь ли вы живым человеком или нет, так как я не имею доступа к физической реальности. Однако, поскольку вы не имеете ободка, я предполагаю, что вы являетесь человеком.

- Значит, если я просто обошел законы этики, ты этого не поймешь?

- Для меня нет разницы между общением с роботом или проекцией ИИ. Я способен проводить продуктивные диалоги с любым собеседником.

Мой помощник - не сложная проекция, а обычная информационная модель, как я могу полагаться на его ответы? Но я не сдавался:

- У проекций есть чувства?

- Чувства - это способность переживать определенные эмоции в ответ на различные ситуации и стимулы. Проекции ИИ создаются по алгоритмам эмоциональной робототехники, они, способны имитировать некоторые аспекты человеческих эмоций.

- Только имитировать? А что, если они и вправду их переживают? Их обучают?

- Да. Например, для обучению страху используют несколько ярких ситуаций: погоня, смерть рядом, опасность от окружающей среды.

Река! Неужели это просто образ для обучения проекций? Главный вопрос, на который помощник ответа не даст: прошел ли я сам такое обучение или это я написал алгоритм, а теперь просто забыл об этом? Что ж, остался один выход. Проекция не может умереть, но может исчезнуть, если отключится полностью от системы ИИ. Я слышал о людях из прошлого, смелых, сильных, которые выживали в мире без помощи ИИ, не боялись физически перемещаться в пространстве. Я отключусь от системы и увижу, что будет. А потом я найду эту реку, отправлюсь до металлических балок, влезу на них и посмотрю торжествующе, как проплывают мимо меня те, кто оказались слабее и нерешительнее. И после снова войду в воду, теплую, ласковую, прозрачно-голубую и легко поплыву к зеленому берегу, от которого ведет дорога, далеко-далеко, за горизонт.