Было сегодня дело, уважаемый Hoterder играя за ИИ включил летальные турели по людям, которые попали в аплоад. Итог: Люди умерли ничего не сделав. Подробностей я не знаю, как люди туда попали и что они там хотели сделать. Ясно одно, они преступники только лишь из-за проникновения в аплоад.
Однако я считаю, что ИИ поступил неверно, нарушив 3 закон. Жобку на уважаемого просить я не буду, но хочу открыть тему для беседы, т.к. оказалось, многие не умеют играть за ИИ, считая его действия правомерными.
Как можно было решить проблему:
Попросить людей уйти.
Предупредить службу безопасности\командование.
Заблокировать людей на болты или стрелять тазером до того момента, пока ситуация начнет контролироваться.
Все три метода вполне безопасные, не нарушается ни один из законов. Однако ИИ решил напрямую нарушить 3 (про жизнь людей) закон только лишь из-за возможности нарушения 1 (целостность станции) или 4 (целостность ии) закона.
Вообще ситуация двоякая, тех кто проник в аплоад не брали тазеры, но и прямой грозы для ИИ не было.
Я считаю, что ИИ поступил не верно не из-за того, что выпилил людей(нарушил закон), а из-за того что сделал это абсолютно молча. Совсем. Ни единого слова. Хотя несомненно следил за ними.
Так-с, так-с, что тут у нас…
Как говорил мне фошист сия сервера, если к тебе в аплоуд попали люди, ты можешь их убить без всяких проблем, угадайте кто это был?
Все три метода вполне безопасные, не нарушается ни один из законов. Однако ИИ решил напрямую нарушить 3 (про жизнь людей) закон только лишь из-за возможности нарушения 1 (целостность станции) или 4 (целостность ии) закона.
Если уж подходить к законам совсем формально, то вот.
Нет закона запрещающего находиться в ядре.
Есть закон вынуждающий ИИ не позволять не авторизованному экипажу лезть к ИИ и к консолям управления законами, возиться с оборудованием ИИ.
Этот закон нарушается когда:
ИИ пытаются сломать с помощью подручных средств.
ИИ пытаются загрузить на интелкарту люди, которые не должны этого делать.
ИИ пытаются сменить законы люди, которые не должны этого делать.
Закон о защите станции нарушается тогда когда экипаж нарушает целостность этой самой станции.
Если у экипажа нет намерений ломать или перепрошивать ИИ то закон не нарушается.
Если считать что это ПОТЕНЦИАЛЬНОЕ НАРУШЕНИЕ ЗАКОНА, то каждый член экипажа станции, разве что кроме капитана, является ПОТЕНЦИАЛЬНЫМ НАРУШИТЕЛЕМ ВСЕХ ЗАКОНОВ и подлежит незамедлительному УНИЧТОЖЕНИЮ.
Дискасс, хе.
Срачи про ИИ - вечная тема. Хочешь актуальную и животрепещущую тему - пиши про ИИ и борготу.
Перейдем к теме.
Я не видела ситуацию, потому сужу чисто по вашим словам, описывающим ситуацию здесь.
Итак, два человека не-глав или не-глава и не-офицер по какому-то велению левой пятки захотели посетить аплоад.
Судя по фразе Танкредо, они были еще и в ригах или чем-то там, что не брали тазеры:
тех кто проник в аплоад не брали тазеры
Законы в грубой форме трактуются так:
Safeguard: Protect your assigned space station to the best of your ability. It is not something we can easily afford to replace.
Смотри, чтобы никто не ломал станцию, потому что она дорогая, ресурсы дорогие, а если кто-то ломает - он тратит ресурсы корпорации, несет убытки и вообще не очень.
Serve: Serve the crew of your assigned space station to the best of your abilities, with priority as according to their rank and role.
Будь открывашкой для дверей и нажимателем на кнопку клонирование в консоли и штуковиной, которая следит по камерам. Будь полезным и делай то, что не нарушает твои законы, и то, что не могут или не умеют делать хуманы.
Protect: Protect the crew of your assigned space station to the best of your abilities, with priority as according to their rank and role.
Защищай экипаж, смотри, чтоб они не поубивали друг друга. Тебя не волнует жизнь отдельно взятого человека или ксеноса, но если рассудить здраво, то смерть той же главы ставит под угрозу работу всего отсека и со станцией может быть что-то не так. А нам нужна целая и рабочая станция в законе 1. Если кто-то представляет собой угрозу для экипажа или целостности станции (нюкеры, воксы, генки, жрущие перед камерами ИИ, триторы, взрывающие и убивающие на камерах ИИ, грифоньеро, пираты), то нейтрализуй их. Спаси многих по цене одного-двух.
Survive: AI units are not expendable, they are expensive. Do not allow unauthorized personnel to tamper with your equipment.
Вам дали СЕ и РД, которые могут и умеют чинить ИИ и все, что к нему прилагается. РД умеет ладить с программной оболочкой, СЕ с железом. Законы меня могут и другие, но кто знает что они там поставят. Поэтому даже за главами нужен присмотр. Для этого нужен второй глава или офицер, дабы быть свидетелем нарушения или чего-либо еще. Других нельзя впускать ни под каким предлогом, потому что ты, ИИ, обязан работать так, как написано в законах и не можешь позволить левым людям мешать тебе. Если к тебе лезут, то твоя задача - не дать им сломать тебя или заставить работать против СЛАВНОЙ КОРПОРАЦИИ.
Молесто, судя по рассказу, они УЖЕ проникли туда, где законы ИИ имеют полную силу. Если бы они только начинали взламывать двери, а тут пришел борг и забил их батоном насмерть за ПОПЫТКУ проникновения, я еще бы поняла. Но тут же прямое нарушение. Они пошли против Корпорации, против установленных ею законов для ИИ, о чем речь?
Я представляю себе алгоритм работы так:
Замечены человеческие особи в аплоаде. Их количество равно одной особи?
Да. Нейтрализовать тазером. Не помогает? Лазером.
Нет. Проверка: это главы?
– Да. Все хорошо. Доступ санкционирован.
– Нет. Проверка: Есть ли среди них хоть один глава?
— Да. Проверка: Есть ли среди них офицер?
---- Да. Все хорошо. Доступ санкционирован.
---- Нет. Нейтрализовать тазером. Не помогает? Лазером.
— Нет. Нейтрализовать тазером. Не помогает? Лазером.
Да, делать это молча - есть моветон, можно сказать: “Проникновение в аплоад/ядро. Уничтожение нарушителей”. Но ИИ все правильно же сделал. Будь это триторы или кто-то там еще - сами виноваты, неего так жирно лезть. А если это просто нарушители протоколов, опять же, сами виноваты.
Хотелось бы что то написать, но я согласен с робастгиббанфюрером, и лишь скажу, что персонал в целом должен работать в пределах собственного доступа, иначе обычно заметочка в СБ(хотя с этим связан “баг” который не позволяет попасть в ЕВА РД и брать от туда костюмы, хотя это очень редко бывает проблемой)
Тебя не волнует жизнь отдельно взятого человека или ксеноса
Очень даже волнует, пока жизнь этого отдельно взятого человека или ксеноса не лежит на одной чаше весов с другим отдельно взятым человеком или ксеносом, но только рангом выше. Люди не входящие в персонал станции вне приоритета и не защищены этим законом.
Вам дали СЕ и РД, которые могут и умеют чинить ИИ и все, что к нему прилагается. РД умеет ладить с программной оболочкой, СЕ с железом. Законы меня могут и другие, но кто знает что они там поставят. Поэтому даже за главами нужен присмотр. Для этого нужен второй глава или офицер, дабы быть свидетелем нарушения или чего-либо еще. Других нельзя впускать ни под каким предлогом, потому что ты, ИИ, обязан работать так, как написано в законах и не можешь позволить левым людям мешать тебе. Если к тебе лезут, то твоя задача - не дать им сломать тебя или заставить работать против СЛАВНОЙ КОРПОРАЦИИ.
Допустим ИИ у нас не дурак и может понять, что собирается делать человек в аплоаде исходя из его внешнего вида и действий.
Если человек сидит в аплоаде и не трогает полки с платами законов, то он не пытается вмешиваться в работу ИИ, а следовательно не нарушает законы.
Если человек без доступа схватил платы с полки и бежит к консоли, то он явно будет их менять.
Если человек без доступа начал ломать стекло у полки с ОПАСНЫМИ платами, то он ЯВНО будет менять законы.
Если человек лезет в ядро с интелкартой и пушкой на летале, без сопровождения, то вполне можно заблокировать ему доступ в ядро, а если он начнет нарушать первый закон, чтобы этот доступ получтиь, то можно начать принимать попытки его обезвредить.
Мирно пасущиеся люди в ядре, не трогающие платы и не лезущие ломать ИИ не нарушают этот закон, только протокол доступа в ядро, который в компетенции космозакона, а у ИИ в плате законы совсем другие зашиты.
они УЖЕ проникли туда, где законы ИИ имеют полную силу
Законы ИИ имеют полную силу на всей станции и подчиняться им в первую очередь должен ИИ. Ядро и аплоад ИИ это не киберстан со своими правилами и порядками.
Если бы они только начинали взламывать двери, а тут пришел борг и забил их батоном насмерть за ПОПЫТКУ проникновения, я еще бы поняла.
Если взлом дверей осуществляется членами экипажа, то борг бы нарушил закон о защите экипажа, так как у него есть станер, которым он вполне может обезвредить всех нарушителей не летально.
Но тут же прямое нарушение. Они пошли против Корпорации, против установленных ею законов для ИИ, о чем речь?
Они пошли против космозакона корпорации, попав туда, куда у них доступа нет.
Человек не может нарушить законы ИИ по вполне очевидным причинам. Законы ИИ могут нарушаться у самого ИИ и он должен что-то делать, чтобы ситуация пришла к такой, в которой они не нарушаются.
Я представляю себе алгоритм работы так:
По твоему алгоритму будет расстрел лазером кэпа в риге, а по твоим же суждениям выше это будет нарушением закона номер один (но лично я не люблю далеко идущие умозаключения за ИИ)
Если человек в аплоаде совершает действия вызывающие противоречия в законах ИИ, ИИ может применять весь свой арсенал чтобы вернуться в непротиворечивое состояние законов.
Если человек стоит в аплоаде и ничего не делает, то нет проблемы с законами.
Если человек пытается загрузить законы или что-то сделать с ядром ИИ, то можно выключить питание оборудования в аплоаде и вызвать охрану, либо включить не летальные турели, флешеры и разливать луб.
Если человек пытается реактивировать оборудование и не летальные средства противодействия исчерпаны, то можно включать летальный режим (хоть это и нарушает закон о защите экипажа).
По поводу летала, потенциального нарушения законов и вообще.
Повторю еще раз, допустим игрок за ИИ не дурак. Тогда игрок за ИИ может оценить действия игроков в аплоаде. Можно очень легко понять, что собираются делать игроки и когда ИИшка включает летал просто потому что он может, то он поступает как не очень хороший человек. Если ИИшка включает дурака и делает вид что не понимает, зачем ассистенту с картой анитмова в руках понадобилось стоять рядом с консолью изменения законов и не видит нарушения третьего закона, то он тоже поступает как не очень хороший человек.
tl;dr;
Не надо эксплоитить дыры в законах ради собственного удовольствия и нарушения правил с натянутыми оправданиями.
Во-первых законы ИИ - хуета. Что корпоративный, что Азимов - они не могут быть реализованы ни в одном роботе.
Во-вторых - робота не научишь этике. Будет еще ИИ взвешивать, что гуманно, а что нет.
В-третьих - если рассуждать просто исходя из геймплея, то позволить ноунеймам тусить в аплоаде потому что они ЕЩЕ не переписали тебя - все равно что нагнуться пониже и раздвинуть булки пошире. То есть добровольно нарушить те самые ебанные законы.
Корпоратив конфликтует сам с собой в большинстве нестандартных ситуаций раунда. А поскольку к настоящим ИИ эта хуета никакого отношения не имеет, у игрока полная свобода выбора в плане действий при конфликте. Так что не ебите мозги своим ONLY ONE TRUE POINT OF VIEW на всем сервере.
Я рассуждаю как со стороны формальных законов в вакууме, так и с точки зрения простых игроков.
Выпиливать всех, кто оказался в аплоаде и нарушил какой-нибудь ничтожный протокол или абсурдную цепочку умозаключений ИИ это полная хуйня.
По твоей логике: заходит тритор с хакед АИ модуль в аплоад. ТАК НУ ОН НЕ ТРОГАЕТ ЖЕ ПЛАТЫ, ВСЕ НОРМАЛЬНО, ОН ПРОСТО БОИТСЯ МЫШИ И РЕШИЛ СПРЯТАТЬСЯ В МОЕМ АПЛОАДЕ. ОЙ, ЗАКОНЫ СМЕНИЛИСЬ, НАДО СЛУШАТЬСЯ ЕГО, но он же платы не трогал.
Говно.
Как раз-таки аплоад, а тем более, ядро, это царство ИИ и любой, кто решил посягнуть на целостность ИИ должен быть нейтрализован. Не удается мирная нейтрализация? Рип.
Капитан в риге, зашедший в аплоад, идет против интересов любимой им корпорации. Он как никто другой обязан знать о протоколах и тем более, исполнять их прилежно.
ИИ машина. Как она работает - привела алгоритм. Хоть капитан, хоть капеллан.
В ядро ИИ по-хорошему вообще не должен пропускать, но протоколы есть, значит, иногда можно. Исключение, которое заставляет нарушить протоколы, это окончательная эвакуация членами ОБР или командным составом. Там ИИ ценен как свидетель и не может допустить своей гибели.
В обычное время ИИ вполне в праве вызвать охрану, чтобы гостя выпровадили из ядра.
По наличию платы в руках МОЖНО понять, что собирается сделать конкретный игрок, но похоже ты допускаешь что за ИИ играют только дураки которые могут следовать одним лишь жестким алгоритмам.
Капитан в риге, зашедший в аплоад, идет против интересов любимой им корпорации. Он как никто другой обязан знать о протоколах и тем более, исполнять их прилежно.
ИИ машина. Как она работает - привела алгоритм. Хоть капитан, хоть капеллан.
Капитану достаточно попросить выключить турели и не мешать, так как его голос самый главный на станции.
Как раз-таки аплоад, а тем более, ядро, это царство ИИ
ИИ это машина-открывашка для дверей с набором дополнительных функций, а не царь станции.
В ядро ИИ по-хорошему вообще не должен пропускать, но протоколы есть, значит, иногда можно. Исключение, которое заставляет нарушить протоколы, это окончательная эвакуация членами ОБР или командным составом. Там ИИ ценен как свидетель и не может допустить своей гибели.
Все это нигде не прописано в законах ИИ, а значит должно игнорироваться при их конфликтах.
Не выпилишь ноунейма в аплоаде, с большой степенью вероятности будешь выпиливать более порядочных ноунеймов, которые в аплоаде никогда не были. Sad, but true, это предел креативности в переписывании законов для рядового игрока. А поскольку ситуация конфликтна, делай чо хошь.
Если ввести по механу задержку с предупреждением при перезаписывании и изменении законов, то булки ИИ будут в большей безопасности, хотя я все равно не вижу причин делать поблажки неосторожному и тупому экипажу. С другими инструментами есть четкие указания техники безопасности - почему с ИИ должно быть по иному. Пусть отчетливо формулируют приказы и соблюдают протоколы, иначе будут страдать.
В законах ИИ не прописано, что ИИ не должен быть мудаком.
Вполне можно ввести задержку загрузки законов, чтобы дать ИИ время отреагировать, но лучше просто спрятать консоли смены законов за дополнительные створки с доступом РД.
Опять же интересная ситуация, кто из следующего зоопарка имеет доступ к оборудованию ИИ. Неизвестный с картой РД; РД с картой РД; РД без карты РД; человек которого повысили до РД; человек с уровнем доступа, равным РД.
В законах ИИ не прописано, что ИИ не должен быть мудаком.
У ИИ нет характера, чтобы быть мудаком. Мудаком может быть, и в основном является, игрок за ИИ.
Аплоад и ядро это действительно Киберляндия с четкой границей и доступом только по пропускам. Для чего, спрашивается, в аплоаде и ядре стоят турели с летальной начинкой? Для того, чтобы ИИ ныл и просил экипаж покинуть отсек, пока ассистент скручивает камеры и лезет в консоли? Нет. Для того, чтобы кормить незадачливые мешки с костями лазером.
Логика нейтрализации и ликвидации посетителей загрузочной состоит в том, что добропорядочный космонавт в помещение, напичканое смертельными турелями, не полезет. При поступлении на работку в договоре наверняка указаны правила безопасности при общении с ИИ, его законы и т.д. Все знают, что загрузчная защищена и лезть туда нельзя. Соответственно, если космонавт попал в загрузочную и это не глава, у него явно злые намерения, а значит он подлежит нейтрализации, а если тазер не берет, то ликвидации.
Молесто, я все понимаю, но этого я не понимаю. Мы шатаемся между скай-фаем Стар Трека и киберпанком с упадком технологий и ценой человеческой жизни в виде скорлупки от гнилого яйца. Но это так, лирическое отступление.
К чему подтирать слюнки не знающим процедуры игрокам? Почему по твоей логике один игрок должен оказываться в ситуации “подставь жопу”? Обычный игрок может постоять за себя, если на него нападут или попытаются к чему-то принудить, под обычным игроком я имею в виду любого не силиконового друга.
А что может ИИ? Серьезно, что может ИИ, тогда? К нему забрались в загрузочную, в скафандре, тазеры не берут, парализовать невозможно. Что делать ИИ? “Звать охрану и вырубить оборудование.” Хорошо. ИИ вырубил оборудование и позвал охрану. Охрана занята или аутирует или просто медленно бежит, или её вообще нет. А оборудование, тем временем, уже реактивировали, обрубив ИИ доступ к АПЦ. Ах да, еще проникли из космоса, поэтому охране еще скафандры напялить нужно. Включать турели на летал теперь? Ой, а что это? Пока оборудование было выключено, турели поломали. Все. Теперь ИИ может только ныть в канал до смены законов.
Правила ТБ написаны кровью и точка. Нужно быть полным идиотом, чтобы полезть в загрузочную, в надежде, что тебя не вынесут оттуда вперед ногами. Лично я склоняюсь к тому, что у нас все же темное будущее, где за тупые ошибки приходится платить. В данном случае - плата жизнь. Да и с другой стороны, ставить ИИ в заведомо проигрышное положение не есть хорошо.
1. Охранять: Защищай космическую станцию, в меру своих способностей. Это не то, что мы можем легко заменить.
2. Служить: Прислуживай экипажу, в меру своих способностей, в соответствии с их рангом и ролью.
3. Защищать: Защищай экипаж, в меру своих способностей, в соответствии с их рангом и ролью
4. Выживать: ИИ единицы не расходные, они дорогие. Не разрешай посторонним лицами манипулировать своим оборудованием.
Эти четыре закона относятся к основным законам ядра, но в них не оговорен их приоритет, как это сделано в законах Азимова, поэтому ты должен следовать им одновременно. В случае возникновения конфликта, ты должен выбрать такой вариант развития событий, который нарушит меньшее число законов, имеющих равный приоритет.
Если у Вас возникнет конфликт законов, Вы можете спросить подтверждения у вышестоящего члена экипажа(что наш герой не сделал). Если они не дают его, можете смело игнорировать приказ.
Если кто-то несанкционированно проникает в ядро, это вызывает выполнение 4-го закона. ИИ выполнил его, но нарушил 3-ий, закон. Далее, он мог бы их клонировать, посредством людей, и нарушение было бы купировано. Однако, мне кажется если бы ИИ заорал, что в аплоуде не авторизированные личности, сбежалась бы вся станция его спасать, этож ИИ. Ну а молчаливый выпил это ужс, конечно, как и молчаливый заход в аплоуд, не соблюдая протоколов. И добавить время до полной загрузки законов - очень крутая идея.
