После неловкой встречи Джека и Мэдисон в коридоре Джек заказал пиццу, пока Мэдисон устанавливала свой надувной матрас. Как только пицца приехала, они оба сели на диван и ели, смотря видео на ВебТьюбе. Большинство выбранных ими видео были связаны с наукой или творчеством. Но иногда Джек выбирал что-то совершенно другое, просто чтобы алгоритм рекомендаций ВебТьюба не мог его предугадать. Выбор становился слишком забитым видео о плазме, поэтому он начал прокручивать вниз, чтобы найти что-то еще, и наконец заметил то, что привлекло его интерес.
Когда он выбрал «Философские последствия симулированной жизни», Мэдисон спросила: — Я думала, ты не любишь философские видео?
— Я не то чтобы их не люблю, просто предпочитаю читать первоисточники и формировать собственное мнение. Но это не очередное видео о Платоновой аллегории пещеры. Я имею в виду, возможно, это просто кто-то рецензирует ту философскую работу, которая постулировала, что мы живем в симуляции. И если это так, я пропущу ее и найду что-нибудь другое, но название подразумевает, что это нечто иное.
Видео началось с пожилого мужчины, сидящего за столом на фоне классического для ВебТьюбера кабинета ученого: книжные шкафы, сертификаты, несколько горшечных растений и профессиональное освещение. Он начал со слов: — Для тех, кто задается вопросом, это не будет еще одним обзором статьи Ника Бострома «Живёте ли вы в компьютерной симуляции?». Однако мне понадобится кратко изложить его работу, чтобы те, кто с ней не знаком, смогли следить за дальнейшим ходом видео.
Ник Бостром постулировал, что, учитывая темпы роста вычислительной мощности, вероятно, мы могли бы в конечном итоге создать компьютерные симуляции, способные симулировать целые экосистемы, включая разумных людей. И он пришел к выводу, что если мы можем разумно ожидать достижения таких возможностей сами, то столь же разумно заключить, что мы сами уже находимся в такой симуляции.
— Теперь, — продолжил ВебТьюбер, — давайте зададим вопрос: «Что, если мы разработаем технологию, способную симулировать саму жизнь?». Если мы сможем создать симуляцию, неотличимую от реальности, способную вмещать сапиенсов, человеческих или иных, какие моральные или этические вопросы это поднимет?
Если симуляция вмещает или порождает разумную жизнь, есть ли у нас какие-либо моральные или этические обязательства по отношению к этим сапиенсам? Есть ли разница, моральная или этическая, между разумной жизнью, возникающей внутри симуляции, и человеком, который является симулированной копией все еще живого реального человека?
Что произойдет, если вы отключите компьютер? Это убийство, геноцид или просто потеря данных? Если вы проводите медицинский или психологический эксперимент над людьми в симуляции, так что они страдают или умирают, а затем откатываете состояние симуляции к моменту времени до экспериментов, произошло ли вообще что-нибудь? У вас, контроллера симуляции, есть экспериментальные данные, но люди в симуляции, из-за отката, не имеют знаний или памяти об экспериментах. Если с точки зрения симулированных людей ничего не произошло, по какой причине реальные люди должны жаловаться?
Джек поставил видео на паузу и посмотрел на Мэдисон. — Это отличные вопросы. Что ты думаешь?
Хотя Мэдисон иногда бывала раздражающе эмоциональной, она также была очень умна, и он всегда находил ее образ мышления интересным, по крайней мере, когда она его не раздражала. Ее чрезмерная озабоченность, вероятно, не была бы такой раздражающей, если бы она проявляла ее ко всем, но казалось, что она делала это только с ним. Он поцарапается, и она запаникует, но если кто-то другой получит травму, она будет довольно хладнокровной. Однажды на уроке химии партнерша Мэдисон по лаборатории уронила химический стакан в раковину, затем в панике схватила его, когда он разбился и порезал ей руку. Вместо того чтобы паниковать, Мэдисон спокойно сказала: — Ого, это много крови. Тебе, наверное, стоит прижать ее или что-то в этом роде. Джек был одновременно впечатлен и раздражен контрастом в реакции Мэдисон. Впечатлен тем, как спокойно она отнеслась к серьезной ране, и раздражен тем, что она не была так спокойна с ним.
— Хм, — ответила Мэдисон, — я думаю, есть разница между симулированными копиями реальных людей и сапиенсами, которые возникли полностью внутри симуляции. — Затем она посмотрела на потолок. — Если мы находимся в симуляции, то я очень надеюсь, что люди, управляющие ею, не отключат питание и не удалят нас. — Она повернулась и ухмыльнулась ему. — Что?
— Но если серьезно, — продолжила она, — если бы кто-то мог создать мою копию в симуляции, ничто, что произойдет с симулированной мной, не повлияло бы на настоящую меня, так почему я должна жаловаться?
Хотя он знал, что раскрывать информацию о Сердце Бытия кому-либо было неразумно, он все же чувствовал желание поговорить об этом с кем-то. И видео на ВебТьюбе, которое они смотрели, предоставило идеальную возможность гипотетически обсудить возможности Сердца Бытия, а Мэдисон только что начала обсуждение чего-то вроде функции Создания Шаблонов Разумных, без всякой подсказки.
— А что, если они сделают твою копию без твоего разрешения, — спросил он, — и используют твою симулированную копию для получения какой-либо выгоды, например, для открытия нового лекарства или лечения болезни, или используют твою копию в качестве цифрового рабского труда, например, как NPC в VR-игре?
Именно это и позволяли Шаблоны Разумных. — Хм, тогда я бы хотела гонорары или что-то в этом роде.
— И это все?
— Что еще я могу хотеть? Просить их удалить мою копию мне совершенно не выгодно. Но если они заработают деньги, используя мою копию, то я захочу часть этого.
Его рациональная сторона понимала ее точку зрения, но в глубине души он знал, что его собственные сомнения относительно Шаблонов Разумных проистекали из его собственного дискомфорта с идеей того, что кто-то другой сделает его копию. Ему не нравилась идея того, что кто-то другой будет его контролировать, даже если это была виртуальная копия. — А что, если вместо того, чтобы зарабатывать деньги, используя твою копию, кто-то просто поместит твою копию в свое личное виртуальное пространство для личных утех? Или что, если они смогут изменить твою копию так, чтобы твоя копия была им лояльна или послушна?
(Нет комментариев)
|
|
|
|
|
|
|
|
|
|
|
|
|
|