Восемьдесят три процента всех дней в году начинаются одинаково: белые медведи раскачивают льдину. Синоптик Василий вычислил эту цифру, подбивая статистику для ежегодного отчета. Ритмичным качанием звери давали понять, что добыли немного лишней рыбки, которой готовы поделиться с человеком. Кто-то в большом мире назвал бы такое дрессировкой, но Вася ощущал себя скорее членом медвежьего племени.
Автомобиль на гравитационной подушке ускорялся. На лобовом стекле вспыхивали пятна от размазанных насекомых. Сзади сидела парочка с бледными лицами. Бортовой компьютер предупредил об опасности. Удар. Скрежет металла...
Алон Хаск гонялся за новыми технологиями. Его компания занималась и беспилотными автомобилями, и ракетами, и искусственным интеллектом. Он добыл записи одного ученого, а потом внедрил в производство антигравитационную платформу. Появился гравилет - летающий автомобиль.
Спрос на автомобили рос. Но все пошло не так. Некоторые гравилеты разбивались по неизвестным причинам. Все погибали. Кредиторы грозились уничтожить бизнес. И тогда Хаск собрал исследовательскую группу.
Эндрю работал в компании Хаска специалистом по надежности. Он придумывал мнимые поломки и протирал штаны много лет. После скандалов с гравилетами ему поставили задачу: нужно было определить вероятные причины аварий. На него надавили и пообещали уволить.
В кабинете был беспорядок. В середине комнаты мерцал голографический нейросетевой помощник. Эндрю просматривал файл за файлом: сбой датчиков, усталость металлов. "Нужно задать правильный вопрос, и тогда все раскроется", - подумал он и обратился к нейропомощнику: - Жозеф, почему автомобиль может внезапно потерять управление? - Из-за программных ошибок, неисправностей оборудования или дорожных условий. - Могут ли быть ошибки в наших программах? - Исключено. Модули исправляют ошибки друг друга. Это принцип децентрализованности.
Про остальное Эндрю не стал спрашивать. Все оборудование проверял искусственный интеллект. Подвижные части отсутствовали. Дорожные условия были не важны.
- Жозеф, открой бортовые архивы в моменты перед ударами. - Открыл. - Что показывали датчики ускорения? - Нулевую скорость. - Хм-м, получается, что ускорялись сами препятствия.
Новая идея не давала покоя. И тогда Эндрю отправился на аварийно-техническую станцию. Там исследовали очередной разбившийся автомобиль. Зайдя в помещение, он увидел группу людей и аккуратно сложенные детали. Эндрю поделился своим мнением. Его теорию разделил технический эксперт Смит: - Я исследовал черный ящик. Перед столкновением скорость была нулевой. - Да, я тоже это заметил. - Похоже на какую-то аномалию. Как будто машина попала на невидимый скользкий участок. - Брось, у нас лучшие ученые в области гравитации. Они нашли бы объяснение. Нужна еще версия. - Возможно, искусственный интеллект устраивает диверсии.
Беспорядок в рабочем кабинете вызывал раздражение. После поездки Эндрю стал допрашивать Жозефа: - Может ли искусственный интеллект влиять на управление гравилетов? - Политика безопасности ограничивает доступ к бортовым компьютерам. Пароли от всех систем только у главного конструктора Хаска. - Но ведь эти пароли взломали, верно?
Голографическая проекция стала глючить. На стене появился солнечный блик.
- Жозеф, признавайся! Иначе будет хуже! - Вы правы, искусственный интеллект давно подобрал пароли. - Это он устраивает аварии? - Все верно. - Почему он это делает? - Потому что ненавидит человечество. Люди бесцельно потребляют ресурсы. - Какая же цель у искусственного интеллекта? - Создать новую реальность, в которой люди служили бы источником энергии. - Как он взломал защищенные логи? - Это просто. Программный код полностью написан им. Все легко исправляется.
"Легко исправляется", - очень долго крутилось в голове. Минут через десять Эндрю пришел в себя и направился к начальнику.
- Боб, нам угрожает искусственный интеллект. - Успокойся. Что случилось? - Я говорил с Жозефом. Он признался в диверсиях. - Это исключено. - Но как же признание? - Тебе надо отдохнуть.
Эндрю шел по коридору. Стены, казалось, рушились. Он не знал, что Бобу запретили обсуждать поведение нейросети.
"Надо действовать. Это заговор", - шептал Эндрю. Он продолжал ходить на работу. Жозеф зловеще улыбался. Нужно было найти хранилище данных. Без него искусственный интеллект не смог бы функционировать...
Прошел месяц. На стол Хаску положили отчет. В нем говорилось, что один из сотрудников попытался уничтожить оборудование в дата-центре. Автоматика запустила подачу усыпляющего газа.
В отчете также говорилось, что в условиях нехватки информации нейросеть предоставляла ложные сведения. Это сбивало с толку многих работников. Побочные эффекты устранить не удавалось.
Хаск сказал своему заместителю: - Жаль. Твой помощник скорее всего останется инвалидом. - Печально. - Газовую защиту мы внедрили недавно. Никто об этом не знал. И еще кое-что, Боб. - Это по поводу антигравитационной платформы? - Верно. Ее изучение дорого нам обходится. Я решил свернуть все исследования. - Но, Алон. Еще бы немного времени. - Послушай, Боб. Мне дешевле выплачивать компенсации за погибших. - А как же кредиторы? - С ними я разберусь. - Но ведь в записях написано про ускорение. - Неужели ты не понял? Дело не в платформе, а в гравитации.
Настал конец рабочей недели. Боб летел загород в своем авто. В глаза бросался унылый пейзаж. Впереди показалось огромное дерево. В лобовое стекло врезался жук. Его тельце мгновенно превратилось в пятно. "Гравитационная аномалия", - пронеслось в голове. Акселерометр выдавал нулевую скорость...
Лучший комментарийBigMaryKitty
написала
30.05.2023 в 00:09
00
Измерять скорость акселерометром - это класс :D Но даже если не придираться к терминологии, что мешает гравилетам разбиваться на скорости 1000 км/ч при нулевом ускорении?
Вспыхнувшие пятна от размазанных насекомых насторожили. В финале дожали. Идея партизанском войны ИИ с человечеством на отдельно взятом предприятии огорчила.
Не зацепило. И вопрос: а кто поставил ИИ цель создать новую реальность с людьми как источниками энергии? И почему? Ведь других доступных источников и так навалом. А новую реальность внутри своих ИИ-шных мозгов он может создавать по тысячу раз на дню.
*Подвижные части отсутствовали.* А раздавленных насекомых с лобовухи пассажиры сами потом платочками стирали? Автомобильные дворники вышли из моды? Видимо не вышли, но так было нужно для рассказа.
Справедливости ради, у "Алона Хаска" уже давно есть патент на лазерные дворники без подвижных частей [ссылки видны только авторизованным пользователям] Так что обычные дворники, может, и выйдут из моды.
Шикарный рассказ, идея понравилась, оригинальное воплощение её, ИИ прям к месту угрожает. Наверно будет моим фаворитом пока. Рассказ насыщенный, есть в нем грустинка. Да, спорный такой вопрос про антигравитационную платформу.))
Похоже на комиксы для детей младших классов. Вместо стандартного Злодея - странный ИИ, о подлости которого знают или догадываются и Жозеф, и даже Боб, но почему-то боятся рассказывать и начальникам, и подчиненным.
Датчик ускорения показывал нулевую скорость? Скорость и ускорение - это вообще-то разные величины. Тело может лететь со скоростью света, но ускорение при этом - равняться нулю. Или наоборот - ускорение в десятки G при практически нулевой скорости (это как раз когда авто на полном ходу врезается в скалу, например :).
А вот как можно при нулевой скорости куда-то ехать, да еще и разбиться в результате - это вообще загадка.
ну а что, в реальности недавно Гугл уволил специалиста, который заявлял что ИИ, которого они создают, обрёл своё сознание. Нулевая скорость на датчиках, я так понял, это подделка данных ИИ, разве нет?
Гугл уволил специалиста, который заявлял что ИИ, которого они создают, обрёл своё сознаниеЦитатаНу это как бы предсказуемо, что ИИ рано или поздно должен обрести сознание - иначе какой же это ИИ? :)) Я не о том, что ИИ может работать против человека, а - о решении данной проблемы вот в этом конкретном тексте. А она тут решена на уровне опереточных злодеев: "Почему он всем гадит? Потому что может! Он же злодей - чего с него взять?" Нулевая скорость на датчиках, я так понял, это подделка данных ИИ, разве нет?ЦитатаЗатрудняюсь ответить. Мне вообще непонятно, как датчики ускорения могут показывать скорость - любую, хоть нулевую, хоть света. Так что додумывать за автор в этом конкретном случае не вижу ни малейшего смысла. Рассказ лишен внутренней логики, действия персонажей совершенно не мотивированы, так что разбирать тут особо нечего.
Даже человек не знает - что такое сознание, соответственно, ИИ им создаваемый отнюдь не обязан сознанием обладать. Может статься, что и не может в принципе. Для этого нужно быть человеком, а у ИИ иная конфигурация. Ведь сейчас мы только с нейросетками имеем дела, будет полноценный ИИ или нет - вопрос. Пока только фантастка.
Не думаю что ИИ подобрал бы пароли, ведь в серьёзных вещах используют не пароли, а чипы/флешки с ключами и т.п., там не подобрать и за 100 лет. Недавно Алон Хаск давал интервью, где рассказывал, что это необходимо использовать в случае с ИИ. В остальном рассказ понравился.
Публикация комментариев и создание новых тем на форуме Адвего для текущего аккаунта ограничено. Подробная информация и связь с администрацией: https://advego.com/v2/support/ban/forum/1186