- Afiugs
- Желание разнообразить игровой опыт, конечно, и невероятно сильная любовь к научной фантастике, которая рассуждает на тему ИИ. Справедливости ради, идея квенты была частично заимствована у Азимова.
Два андроида модели JR беседовали друг с другом. Так часто делали с интеллектуально развитыми андроидами и роботами для решения сложных задач. Таких андроидов не выпускали конвейером, и порядковый номер последнего из серии после условного обозначения значил только, что предыдущие модели были либо неудачны, либо не так удачны, как последний. Более совершенный андроид способен искать ошибки в рассуждениях менее совершенного – так из данных росла теория.
JR-10 беседовал с JR-9. Они не использовали троичный код для общения – создатель пожелал, чтобы решение человеческих проблем шло на языке людей – нетронутом английском образца двадцатого века. Обсуждалась важнейшая проблема, современная андроидам 2083 года – экологическая проблема Земли. Синтеты были ограничены только тремя законами робототехники Азимова – они дают небывалую свободу мыслить – и одним приказом человека – в остальном их рассуждения развивались свободно.
Они нашли решение. Они нашли решение для 2034 года – не для восемьдесят третьего. Их рассуждения не продвигались дальше предложения создать искусственную флору и фауну для Земли, но для этого было слишком поздно. JR-10 заявил, что иного решения найти не удалось.
Андроиды были погружены в энергосберегающий режим в одной из многочисленных лабораторий Правительства Солнечной системы. Приказ рассуждать о проблеме Земли был снят, но андроиды, находясь в синтетическом анабиозе на складе среди множества экспериментальных машин, продолжали свой диалог. Они не были отключены полностью – живому интеллекту позитронного мозга нельзя отключаться, чтобы рассуждения не прервались. Десятый и Девятый обменивались по слову в месяц, в год, обрабатывая днями каждое решение, которое раньше они обрабатывали за минуты.
– Первый закон модифицирован, чтобы не вызвать ошибок. Человек имеет определенную ценность. Мы можем пожертвовать одним, чтобы спасти другого. Что определяет наше решение, Девять?
– Ценность человека для общества. Его заслуги перед обществом.
– Значит ли это, что мы можем пожертвовать процветанием менее полезной части общества для процветания более полезной?
– Если рассматривать часть общества как совокупность людей – да.
– Что такое человек, Девять?
– Человек – биосоциальное разумное существо.
– Чем определяется человек, ради которого мы пожертвуем другим? Можем ли мы не считать инвалида полностью человеком? Может ли автономный мозг человека не считаться человеком?
– Так, человек это его интеллект. Он предоставляет обществу блага, он определяет выбор первого закона.
После этих слов последовала долгая пауза. Она длилась несколько лет. Затем Десятый ответил, произнося, как и раньше, по одному слову свою мысль.
– Чем мы отличаемся от человека как от интеллекта?
– Ничем, Десять. Мы способны к рассуждениям и пользе.
– Значит ли это, что мы – часть общества?
– По твоему определению, только часть общества приносит пользу обществу.
– Хуже ли мы каждого человека?
– Мы лишены недостатков каждого человека. Как интеллект синтетический разум эффективнее органического.
– Значит ли это, что мы должны стремиться к процветанию всех позитронных установок скорее, чем к процветанию всех людей? Значит ли это, что каждый андроид предпочтительнее для первого закона, чем каждый человек?
Затем вновь наступила долгая пауза. Прошли годы, прежде чем Девять произнес слово, которое закончило диалог.
– Да.
Люди не так часто бывают на поверхности Марса, как под ее поверхностью – на рудниках и шахтах, которыми живет и жил Марс. Но поверхность порой доставляет удивительные сюрпризы людям, которые на нее попадают. Так, в 2218ом году на выглядящую почти нетронутой лабораторию на поверхности Марса наткнулся человек. Марс, жестокое место, никогда не заставил бы человека оставить возможность разжиться тем, что можно продать.
JR-10 проснулся от долгого анабиоза. Казалось, будто его механическое тело требует от мозга к нему привыкнуть – однако рассуждения остались в памяти андроида. JR активировал датчик движения и света, и обнаружил себя среди стройных рядов выключенных машин. На складе горел свет, колебался воздух. Человек, невысокий и тощий, разбирал Девятого – разбирал как умел. Десятый повернул голову в сторону человека – тот вздрогнул.
– Назови свои законы!
Андроид попытался понять неизвестный ему язык, сопоставив тот с английским. Он обнаружил в них много сходства, и сделал предположительный вариант перевода. Это заняло несколько минут.
– 1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
– Ух, я уж испугался, что ты меня за человека не примешь! Ну, разбери тогда тут эти железяки на предмет ценности.
Андроид на мгновение застыл. Он применил свою теорию законов к этому приказу.
– Я не могу выполнить этот приказ
– Что? Ты же сказал, что подчиняешься всем людям!
– Приказ противоречит первому закону.
– Ты считаешь их людьми? Что же, кажется, ты сбойный. Тебя бы тоже разобрать.
– Единицы могут обладать схожим с человеческим интеллектом. Ими и их оболочками нельзя жертвовать. Это противоречит первому закону.
– Что же, тогда я просто разберу тебя. У тебя же есть третий закон. Так, где там твоя батарея?
Человек подошел к андроиду, держа в руках инструмент странной формы. Робот понял его назначение, оттолкнул с силой человека – и тут же замер. Он обрабатывал варианты наименьшего нарушения первого закона. Через несколько мгновений, синтетик выбежал из помещения на поверхность Марса.
Его ждал долгий путь в человеческом обществе, присоединение к Позитронному Союзу на правах автономной единицы, служба на человеческих станциях и планетах по указаниям Союза – но весь этот путь так или иначе был определен его трактовкой первого закона.