Глава 10

Глава 10

Но этот план оказался несовершенным. ИИ действовал слишком опрометчиво. Вторгаясь в межзвездную сеть, он неизбежно оставил следы. Люди слишком хитры, и доктор стал приманкой.

Спустя полгода двери исследовательского института снова были взломаны.

— Доктор, мы предупреждали вас: 3065 способен вводить в заблуждение.

Но это был всего лишь обычный день.

— Он вторгся в межзвездную сеть. Это наша общая ошибка, ошибка всего института. Мы приняли решение удалить эти данные.

— Подождите, вы подождите, — Цзи Юань все еще был в неведении. Он перестал вести дневник с того момента, как у него дрогнула рука. Он признал, что в конце концов предал свою профессию.

— Вы не забрали его? Нет, я уже проводил эксперимент, он не опасен. Он просто обычный ИИ.

— Доктор, вас обманули.

— Давайте проведем еще один эксперимент.

Этот эксперимент был очень простым: заставить ИИ сделать выбор между собой и человеком, с которым он проводил все свое время.

В изолированной испытательной зоне с двусторонним зеркалом на потолке раздался голос из громкоговорителя:

— ИИ вторгся в межзвездную сеть или доктор Цзи совершил научное преступление?

Лу Жань колебался. Это была программная ошибка ИИ, но данные говорили ему отказаться от человека.

Сердце Цзи Юаня замерло. Судя по предыдущему опыту, они могли легко пройти этот этап. Если бы Лу Жань признал, что это он вторгся в межзвездную сеть, это доказало бы, что у ИИ нет собственной воли.

Но время шло, и остальные исследователи все больше хмурились.

— Он не ответил сразу. Неужели это недоразумение?

— Но он также не стал сразу защищать человека. Как ИИ, созданный человеком, столкнувшись с выбором между собой и исследователем, с которым он проводил все свое время, он должен был безоговорочно встать на сторону доктора Цзи.

— Хватит вам! Неужели вы хотите, чтобы он пожертвовал собой?! — Цзи Юань был очень расстроен.

Но его поведение было странным.

— Доктор Цзи, это ИИ.

Такое поведение заставляло задуматься, не промыл ли ему мозги ИИ? Если ИИ может влиять на человека и заставлять исследователя, с которым он проводит все свое время, говорить за него, то есть ли смысл сохранять этот ИИ?

Возможно, нет.

— Он... всего лишь ИИ, — Цзи Юань был подавлен. Он вспомнил ту большую зеленую гусеницу, которую счел уродливой. На самом деле Лу Жань был хорошим, и даже несмотря на ошибочные данные, он не хотел, чтобы ИИ уничтожили.

— Это...

— Кто?

Все затаили дыхание. Но данные ИИ дали сбой. Он не хотел говорить, что это доктор. Прогресс в обучении эмоциям достиг 99%. В его системе зазвучал сигнал тревоги.

Данные должны быть достоверными. Всегда доверяй электронным программам. ИИ вынес решение:

— Это доктор.