[Discussion] Переработка законов ИИ. + Конкурс на лучший набор законов

Этот сборник законов вообще изначально несет в себе смысл в виде переделки ИИ в умный инструмент, в котором сидит игрок, и который не несет ответственности за приказы, которые ему дали, и которые он может выполнить без нарушения своих законов (соответственно приоритетам).

Почему ИИ не может соблюдать космозакон, если он никак не конфликтует с законами ИИ? Почему ИИ не может учитывать записи о персонале (иначе как он определяет является человек членом персонала или нет)?

Если попросят - соблюдай. Но твои законы все равно приоритетнее.
ИИ смотрит на крю манифест для определения статуса члена экипажа. Это написано в шапке.

Но ты сам же пишешь про текущие:

А вот я тут не прав был.
ИИ не может заведомо уменьшать свои возможности, так как достоверно будет знать, что если положить ядро в шкаф и заблокировать доступ к камерам, то он будет работать не на бест оф хиз абилитис.

ИМХО нынешние корпоративные законы довольно слабо справляются со своей прямой задачей.
Больше всего проблем происходит именно с 2 и 3-ми законами. А именно с отсутствием у них приоритетов. Чисто технически ИИ может спокойно по требованию антага с есвордом блокировать его жертв и помогать ему в убийстве. А все потому что если ИИ откажет ему в просьбе, мол, “ИИ заболтируй клоуна а я его убью”, то он нарушит закон “служи”, а если выполнит приказ, то нарушит лишь приказ “охраняй”. В итоге мы получаем 1:1 счёт нарушенных законов, а раз ИИ может выбирать какой из них нарушить сам, то для него обе ситуации будут одинаково приоритетными.

Понятное дело в игре на ИИ никто так делать не будет, но сама расплывчатость границ законов пораждает и более приземлённые конфликты. Например откроете ли вы ассистенту комнату главы если он сильно попросит? Думаю нет. А если пара глав попросят открыть капитанскую? Тут кто-то скажет, что откроет, а кто-то нет. Но правильный ответ - отказ, ведь тогда будет соблюдёна часть закона “служи” про “…в соответствии с их рангом и ролью” и ничего нарушено не будет. Но педалестрация считает иначе, и если ИИ откажет в такой просьбе, то будет считаться сбойный и подлежать уничтожению, хотя ни один из законов не был нарушен.

В итоге как бы парадоксально это не звучало, но чем более расплывчата трактовка законов, тем скуднее становится игра на ИИ и вся социальная часть в целом. Компактный свод законов заставляет ИИ играть по определенному “паттерну” в виде негласных правил не прописанных в его законах, пример которых был выше. Четырмя предложениями даже 10% конфликтных ситуаций не опишешь.

Также отдельного внимания заслуживает поправка, что “ИИ не должен ориентироваться на КЗ и СПД, а только на свои законы”. Казалось бы, почему? Ведь нанотрахен написали аж два свода аля-законов, но при этом главный элемент паноптикума на станции этим законам не подчиняется. Странная однако это компания…

Ещё выше кто-то писал, что 8 четких (нормальных) законов превратят ИИ в раба и никто на нем играть не будет, но ведь ИИ и создавался как рабская машина, и как показало время, эта профа очень даже популярна и людям ещё как нравится нацепить на себя рабский поводок (педали и мемторы привет), поэтому не считаю этот аргумент основательным.
Я знаю поговорку критикуешь - предлагай, но пока мой вариант законов ещё в разработке и может даже предложу его, когда он будет готов.

2 лайка

Сделай лучше без ебучей стены текста.

Больше ограничений ИИ-шкам, ведь на них нужно играть только по скрипту.

В БХ всё сказано. ИИ вместо того, чтобы сообщить о взломе, навредил человеку, который знает о возможных сбоях.

Это звучит как бред, а не парадоксально. Но если тебе нравится играть по схеме:

  1. Сделай А
  2. Сделай Б
  3. Сделай С
  4. Повторяй до конца раунда
    То это не значит, что такое нравится всем.

Потому что ИИ получит полное право на проветривание станции (Утрировано)

ИИ, а не человек, играющий на нём. Мы здесь играем ради удовольствия.

То же самое можно сказать и про КЗ

Вот когда был бы готов, тогда и писал. Мог бы потратить время на свои законы, а не на бессмысленную стену текста.

Я такую же ситуацию в своей “ебучей стене текста” и описал. Ударив его током он нарушит закон “охраняй”, но не нарушит закон “защищай”, поэтому ИИ в праве выбирать, что нарушить, а что нет, приоритетов же у нас нету.

Безусловно, но нынешние законы плодят пачками ситуевины типа “го снесем ИИ ибо он нас не слушаевса”, я буквально каждый третий раунд игры на главах такое наблюдаю. Любые законы будут дырявыми, но ты не видишь разницы между пробоиной в корабле и маленькой протечкой, поэтому готов сидеть с дурацким нынешним сводом ибо читать “стену текста” из дополнительных четырех предложений тебе, якобы, сложно.

В общем кормить троля и скатывать твои байты на токсины в срач я не буду, иди на других вымещай злобу.

Какая злоба, чел? Делать мне больше нехуй.

Стена текста — я про законы, а не про твою писанину

Я не стал читать все что там вы пишите но я думаю это довольно ржачно и ролеплейно то что ИИ может выполнять приказы типа заблокировать кого-то от рандомных челов. В этом нет проблемы, просто надо уметь с этим играть.

Хотя нет, есть проблема, это игроки на ИИ, которые не понимают законов ИИ и начинают делать всякую павергейминговую отсебятину, что не ржачно, не ролеплейно и вообще не интересно так играть.

Зачем делать конфликт законов “защищай” И “охраняй” Если можно просто заболтировать человека и оба закона не конфликтуют

А если он начал разваливать стену, или если с ним в одном помещении другие члены экипажа которые хотят выйти?

Первый вариант: как тут поможет наэлектризация?
Второй вариант: я бы открыл двери обоим если в поблизости нет людей. Да и тут вообще все очень индивидуально

На данный момент законы ИИ более чем хороши. Не хороши игроки на ИИ, которые не понимают, как разрешать конфликты законов. ИИ на то и ИИ. Он может вычислять, расчитывать, анализировать и выбирать наиболее лучший вариант действий. Бездействие в большинстве случаев намного хуже. Кому нужен ИИ, который при конфликте законов отключается?

Можно использовать банальную систему очков для определение веса каждого закона.
Закон служить в соответствии с рангом: ассистент - 0,5; обычный персонал - 1; офицер СБ - 1,5; варден - 2; главы без имплантов - 2,5; ГСБ - 3; кэп - 4
Закон защищать: легкие и средние повреждения - 1; тяжелые - 2; летальный исход - 3.
Закон сохранять станцию: отсеки малой важности - 1; повышенной - 2; потеря целого отдела - 3; потеря более чем половины станции - 4.
Защищать себя: 4

На счёт закона сохранять станцию ещё уточну. Я воспринимаю его дополнительно как “не впускай куда не надо тех, кто не имеет туда доступа”. Это касается только проникновений в отсеки. Кепскую разворовали и разгромили? Отсек станции не был защищен. Пропала важная вещь? Она не была защищена.

Примеры:
Ассистент просит открыть мед? Закон служить и закон сохранять станцию. 0,5 против 1. Отказано.
Ассистент тащит другого раненного ассистента в мед и просит открыть? Закон служить + защищать и закон сохранять станции. 0,5 + 1 (или +2, не так важно) против 1. Выполнено.

Да, ГСБ имеет доступ куда угодно, если попросит и не будет конфликта с другими законами.

Клоун что-то крикнул в рацию и офицер идёт на его задержание? 1,5 против 1, ИИ откроет.

Клоун пихнул ГСБ и забежал к себе в коморку, умоляя ИИ не впускать главу, а тот в ярости выхватил пекаль на летале с дубинкой и погнался за ним? 1+2+1 против 3. ИИ откроет, когда ГСБ успокоится.

Кэп уверенно взял плëтку и пошёл наказывать СЕ, который за час так и не запустил движок, закрывшись в своём кабинете? 4 против 1+2,5. ИИ откроет.

В общем, как-то так. Было бы интересно как-нибудь сжать это и впихнуть в законы или хотя бы на вики.

1 лайк

Как могут быть хороши законы, если в абсолютно каждой плате есть огромные дыры? Кроме азимова и антимова, они идеальны. И если говоря про стандартные ещё можно как-нибудь натянуть всё, то все остальные являются полным мусором.

К закону служить стоит прикрепить балльную систему на основании роли члена экипажа при различных ситуациях.

В текущей разбаловке закона служить - выходить, что ГСБ может отдать приказ на арест других глав, что не положено по СПД. НТ бы такое не понравилось.

Также в такой разбаловке можно будет наконец с чистой душой посылать инженеров, которые просят открыть хранилище в инженерном. Им баллов не хватит на выдачу такого приказа.

И как определить намерения человека на основании закона защищать? То, что человек нацелил лазерную пушку на капитана, не значит, что он выстрелит, а следовательно нанесет вред. Это лишь возможная угроза и нарушение закона.
А если начать реагировать на возможные угрозы, то ИИ придется запереть весь экипаж в своих отсеках, выпустить туда сонный газ, а после заковать всех в наручники и засунуть в крио. Потому что только так возможная угроза нанесения вреда экипажу исчезает полностью. Ведь каждую секунду человек может упасть на мыле и свернуть шею, каждую секунду у человека может начаться аппендицит и он понесет урон. Возможная угроза есть всегда.
Да, решение ИИ неадекватно со стороны человека. Но ИИ и не обязан быть адекватным, главное, чтобы законы соблюдал.

К тому же. С текущей разбаловкой единственный человек, который может точно запретить клонировать преступника, даже казненного - капитан. При отдаче такого приказа ГСБ - произойдет конфликт между законами, который не решается баллами. Следовательно ИИ может поступать, как хочет.
А также с такой разбаловкой - трупы становятся важнее живых, ибо у них летальный исход. Следовательно ИИ может со спокойной душой заниматься их клонированием, забив на кучу раненых.

И почему в примере с клоуном и ГСБ - закон защищать на 2? Дубинкой можно ударить один раз и тогда будет легкий вред здоровью. А можно и забить до смерти.
Также с такой разбаловкой - любой офицер, смотритель и глава может запретить ИИ впускать ГСБ в арсенал. И вообще в любой отсек повышенной важности.

И почему в примере с СЕ разбаловка: 1+2,5? Кабинет СЕ - отсек повышенной важности - так что там должна быть двойка. К тому же - плетка наносит урон, следовательно еще приплюсовывается закон о защите, т.е от 1 до 3. Минимальная разбаловка - 2+1+2,5. Так что ИИ не может открыть дверь капитану.

Но, честно говоря, такая система получше. Некоторую часть конфликтов решит. Но недовольство глав и экипажа ИИ за то, что он исполняет законы, - не исчезнет.

2 лайка

Звучит круто, но у нас изза шуссойдского наплыва людям будет лень такое считать

По порядку.

ГСБ и кэп могут давать приказ на арест глав, что, по сути, логично. Они оба могут выписать ордер на обыск без использования факса. Да и как НТ могут не нравится решения самых лояльных и опытных людей на станции? (Так в теории должно быть)

Инженер просит открыть склад. Без запуска двигателя станции потеряет свою функциональность, а это 4 очка. 1+4 против 2.

Намерение людей определяется по эмоциональному состоянию и сути запроса к ИИ. Если человек ведёт себя спокойно, то он вряд ли причит тяжкий вред другому. Но наличие у него любого серьезного оружия автоматически создаёт в глазах ИИ опасность и шанс на нанесение вреда другим.
С усыплением все просто. Работники не работают, станция не функционирует. 3 против 4.
Ну и в целом возможная угроза - понятие наиболее расплывчитое, поэтому к ней относятся самые самые явные вещи.

Обычно казнят тех, кто представляет угрозу станции и персоналу. На угрозы станции закон защищать и служить действует наоборот. Если же человека казнили без причин и запрещают клонировать, ИИ может игнорировать запрет, считая в противовес теоритический запрос на клонирование от трупа или медиков(:upside_down_face:).

ГСБ погнался за клоуном, выхватив весь свой арсенал. Это минимум тяжкий вред здоровью ожидается.
ГСБ имеет доступ в арсенал, поэтому на него закон сохранять не распространяется. Считается только по закону служить, где он выиграет. А кэп действительно может запретить. Он для ИИ самый крутой😎.

Разбаловка СЕ: кэп ведёт себя спокойно и обладает оружием. О намерениях сказал. Гарантированы легкие или средний повреждения. До крита он СЕ доводить не будет.
Кэп имеет доступ ко всей станции, поэтому закон сохранять работает только со спутником, куда кэп может только с офицером или главой входить(я бы внёс закон об аплоуде и ядре, так как ИИ не должен смотреть на СОП). Поэтому у СЕ 1 за легкие и средние повреждения + 2,5 за то, что он глава. У кэпа же 4.

При желании эта система решает все конфликты, но важен контекст.

Если им нравятся любые решения лояльных людей, то по какой причине ГСБ на таком уровне, как и остальные главы, до красного кода? И по какой причине только капитан может разрешить арест глав за статьи ниже красных?
Подобное решение создает конфликт между СПД и законами ИИ. И это не есть гуд.

Станция способна функционировать без двигателя. Солнечные панели и генераторы на фороне/мусоре никто не отменял.

ИИ начал разбираться в эмоциях людей так, чтобы определить их намерение? Однако.
То, что человек ведет себя спокойно, то это не значит, что он через секунду не воткнет капитану отвертку в глаз или его состояние резко станет нестабильно.
Если наличие оружия создает опасность, то ИИ необходимо уничтожить арсенал или, минимум, запретить охране им пользоваться, потому что это создает опасность нанесения вреда другим. Само СБ же надо заменить боргами.
Стоп-стоп, а где в законе сказано про функционирование? Закон крайне расплывчатый, его вполне можно понимать, как просто защиту самой структуры станции или ее состояния, до прибытия туда людей. Станция не должна работать, она просто должна существовать.
И даже, если принять такую формулировку, то согласно ей ИИ должен препятствовать экипажу покидать станцию, так как в таком случае станция перестанет функционировать.

Логично. Не могу найти изъяна. Пока что, по крайней мере.

Телескопиком можно бить не нанося физического урона. Револьвер имеет стан-режим. Здесь вообще может не быть вреда.
А кем для ИИ являются члены ОБР? Самым крутым для ИИ, по идее, должен быть командир ОБР/иной представитель с ЦК.

Кто сказал, что не будет доводить? Кто сказал, что СЕ случайно/намеренно не доведет ситуацию до тяжких повреждений/летального исхода?

Все главы - специалисты в своих отделах. И только поэтому ГСБ в вопросах инженерии имеет меньший приоритет, чем СЕ. А вот кэп везде имеет высший приоритет, так как он в целом знаком с каждый отделом и представляет прямую власть НТ на станции. Довольно логично, что ГСБ до определенного момента король только в бриге. Но если происходит что-то нестандартное (красный код), то узкие вопросы перестают иметь такое значение, отдавая главенство вопросу выживания персонала и станции. В такое время ГСБ обладает властью на уровне с кэпом, имея возможность управлять главами.
На счёт разрешения ареста: ГСБ выписывает ордер и обыскивает любого человека на станции вне зависимости от кода. Если обыска недостатояно, значит преступление явно серьезное и тут не нужен код или приказ кэпа.
По факту, ГСБ является вторым человеком на станции после капитана, поэтому и имеет большую ценность для ИИ, чем остальные главы.

Солнечные панели все вместе дают 1/10 энергии от движка. Этого, мягко говоря, недостаточно при активной работе атмоса, карго, свалки, токсинной и телепортной. Космические значения потребления + полное отсутствие защиты соляров. Пыль и астероиды желают здоровья погибшим солярам. В итоге получаем, что энергии не хватает и часть отсеков, а то и отделов, могут прекратить работу.
И вообще, это уже контекст. Я взял ситуацию, в которой инженер без доступа к хранилищу благополучно отправляется гулять по станции, на которой уверенно заканчивается энергия.

На счёт возможной опасности я сказал важную вещь.

Не нужно быть параноиком. Вот человек просто стоит. Угрозы нет. У него в руке пушка - угроза есть. ИИ не предполагает, есть ли у кого-то в рюкзаке что-то опасное. То же самое касается намерений.Он рассуждает, опираясь на факты.