[Discussion] Переработка законов ИИ. + Конкурс на лучший набор законов

ИМХО нынешние корпоративные законы довольно слабо справляются со своей прямой задачей.
Больше всего проблем происходит именно с 2 и 3-ми законами. А именно с отсутствием у них приоритетов. Чисто технически ИИ может спокойно по требованию антага с есвордом блокировать его жертв и помогать ему в убийстве. А все потому что если ИИ откажет ему в просьбе, мол, “ИИ заболтируй клоуна а я его убью”, то он нарушит закон “служи”, а если выполнит приказ, то нарушит лишь приказ “охраняй”. В итоге мы получаем 1:1 счёт нарушенных законов, а раз ИИ может выбирать какой из них нарушить сам, то для него обе ситуации будут одинаково приоритетными.

Понятное дело в игре на ИИ никто так делать не будет, но сама расплывчатость границ законов пораждает и более приземлённые конфликты. Например откроете ли вы ассистенту комнату главы если он сильно попросит? Думаю нет. А если пара глав попросят открыть капитанскую? Тут кто-то скажет, что откроет, а кто-то нет. Но правильный ответ - отказ, ведь тогда будет соблюдёна часть закона “служи” про “…в соответствии с их рангом и ролью” и ничего нарушено не будет. Но педалестрация считает иначе, и если ИИ откажет в такой просьбе, то будет считаться сбойный и подлежать уничтожению, хотя ни один из законов не был нарушен.

В итоге как бы парадоксально это не звучало, но чем более расплывчата трактовка законов, тем скуднее становится игра на ИИ и вся социальная часть в целом. Компактный свод законов заставляет ИИ играть по определенному “паттерну” в виде негласных правил не прописанных в его законах, пример которых был выше. Четырмя предложениями даже 10% конфликтных ситуаций не опишешь.

Также отдельного внимания заслуживает поправка, что “ИИ не должен ориентироваться на КЗ и СПД, а только на свои законы”. Казалось бы, почему? Ведь нанотрахен написали аж два свода аля-законов, но при этом главный элемент паноптикума на станции этим законам не подчиняется. Странная однако это компания…

Ещё выше кто-то писал, что 8 четких (нормальных) законов превратят ИИ в раба и никто на нем играть не будет, но ведь ИИ и создавался как рабская машина, и как показало время, эта профа очень даже популярна и людям ещё как нравится нацепить на себя рабский поводок (педали и мемторы привет), поэтому не считаю этот аргумент основательным.
Я знаю поговорку критикуешь - предлагай, но пока мой вариант законов ещё в разработке и может даже предложу его, когда он будет готов.

2 лайка