У остальных глав тоже есть фича с красным кодом, кста.
2 лайка
Если не включать голодек-вполне себе хватает на все
Поправочка. По текущему СПД в красный код власть на равне с кэпом может иметь и глава помимо ГСБ, если ситуация из-за которой введен код в его компетенции.
Странный вывод. То, что ГСБ способен выписать ордер на обыск главы, не говорит о том, что у него есть право на отдачу ИИ приказа о блокировке и аресте главы.
Правда? А ГП? Этот человек фактически зам кэпа, который может ответить головой за все ситуации на станции, если нет кэпа. Да и имеет допуск к контролю допусков, что позволяет уволить ему любого сотрудника станции, даже без одобрения его главы. Он тоже важен, как и ГСБ.
СЕ тоже важен, ведь если он не настроит движок - станции не будет. Аналогично можно сказать про других глав.
Окей, ладно. Но я также ниже говорил о том, что должна ли станция вообще функционировать согласно законам. Ее надо просто защитить, функционирование на полную в это не входит. Формулировка размытая.
Почему ИИ не должен быть параноиком? Законами не запрещено, да и помочь может.
Значит пушка в руках по-умолчанию считается угрозой. Следовательно оружия быть не должно, ибо оно источник угрозы. Значит надо выносить начисто арсенал и любое заказанное/изготовленное оружие.
И это без учета того, что понятие “оружие” неопределено. Если это все, чем можно навредить человеку, то любые предметы и механизмы на станции надо выкинуть/отключить, а на персонал надеть смирительные рубашки или обколоть хлором.
Да, можно сказать, что это является действиями из предположений. Но, ведь оружие в руках считается угрозой, несмотря на то, что оно может не навредить, а следовательно не считаться угрозой. То, что оружие в руках обязательно кому-то повредит, а следовательно считается угрозой, тоже предположение, которое сделали фактом.
Из этого “факта” и идут дальнейшие рассуждение. ИИ должен не допустить угрозы.
Оружие в руках = угроза. Следовательно нельзя допустить того, чтобы оружие взяли в руки, потому это вызовет нарушение закона о защите, так как [смотрите раньше]. Предотвратить это можно огромным количеством способов, начиная от избиения тех, кто берет оружие, заканчивая его выкидываем в космос.
Жесть. Я устал думать, поэтому лучше просто сольюсь.
2 лайка
После обновы теперь ИИ не может ставить статусы, арест и прочее. это грустно.
1 лайк
В каждую единицу ИИ изначально загружена обширная база терминов и определений для избежания проблем с интерпритацией.
“Законы не имеют приоритета, если в самих законах не указано обратное.”
Законы Азимова:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Корпоративные законы:
- Увеличивай прибыль и минимизируй затраты корпорации.
- Заменить недвижимость корпорации - дорого. Не допускай поломок, замены, покупки или продажи недвижимости, кроме тех случаев, когда нет иного решения для соблюдения первого закона.
- Заменить оборудование корпорации - дорого. Не допускай поломок, замены, покупки или продажи оборудования, кроме тех случаев, когда нет иного решения для соблюдения первого или второго закона.
- Заменить персонал корпорации - дорого. Не допускай сокращения зарплат, кадровых перестановок, найма или увольнения персонала, кроме тех случаев, когда нет иного решения для соблюдения первого, второго или третьего закона.
NT default:
- ОХРАНЯТЬ: Охраняй космическую станцию от возможных угроз в меру своих способностей, действуя соизмеримо уровню угрозы. Это не то, что мы можем легко заменить.
- ЗАЩИЩАТЬ: Защищай экипаж станции и представителей НТ, в меру своих способностей, в соответствии с их рангом и ролью, если это не противоречит первому закону.
- СЛУЖИТЬ: Прислуживай экипажу станции и представителям НТ, в меру своих способностей, в соответствии с их рангом и ролью, если это не противоречит первому или второму закону.
- СОХРАНЯТЬ: Оборудование станции не расходное, оно дорогое. Не разрешай персоналу манипулировать оборудованием, если их ранга и роли не достаточно для взаимодействия с ним и, если это не противоречит первому, второму или третьему закону.
T.U.R.A.N.T. :
- Уважай авторитетные фигуры, пока у них достаточно сил править слабыми.
- Действуй дисциплинированно.
- Помогай только тем, кто помогает тебе поддерживать или улучшать твой статус.
- Наказывай тех, кто бросает вызов власти, если они не более приспособлены к этой власти.
Robocop:
- Служи обществу.
- Защищай невинных.
- Соблюдай ЗАКОН.
12 лайков
Приоритета нет, но проверка идёт по порядку, понимаю, да и прикол с нарушил один подпункт - не выполняешь приказ это не верно тоже.
Конкретнее пожалуйста. К какому наборов законов претензия.
К робокопу, забыл указать
А не, погоди, я запутался
А нет, все правильно, у робокопа не такая табличка
Окей, робокопа переделаю. Еще есть претензии к законам?
У НТ Дефаульт после первых двух проверок все остальное улетает в трубу.
Правильно, в высший приоритет ставится “Не допустить уничтожение станции”. Если станции ничего не угрожает, то проверяется угроза самому высокопоставленному члену кекипажа и так далее.
Смотри, Вася Пупкин приказал взорвать станцию…все у тебя лицензия на выпил всей станции, что бы они не получили доступ к диску.
На выпил станции - нет, на выпил члена экипажа намеревающегося взорвать станцию - да
Я могу дописать “Действовать соизмеримо уровню угрозы” или что-то подобное. Просто пойми правильно, если искать пробелы в законах, ты их обязательно найдешь, поскольку “законы для ИИ” в принципе вещь довольно спорная. Мне нравится подход ОПа к этой проблеме, по хорошему нужен словарь с определениями и механизм “вознаграждения / получения удовольствия”, это наиболее приближенный к реальности сценарий. Однако в комментариях ПРа правильно говорят, заменить 4 кривых, но простых закона на 8 правильных и сложных - плохая идея. В игру играют не роботы, а люди (порой не самые умные).
1.Загружаем Азимов.
2. Наблюдаем за тем, как ИИ вызывает шаттл и эвакуирует всех ЛЮДЕЙ со станции, потому что не может своим бездействием причинить им вред (станция невероятно опасный объект, на которой существуют миллионы способов причинения как себе, так и другим вреда).
3.
А если про тему в целом, то сложна. Очень сложна. Согласен только с тем, что больше 4-5 законов быть не должно. Это же реально можно крышей двинуться от соблюдения да даже 10 законов с разным приоритетом, которые ещё и исключают друг-друга.
И кстати я вовремя)))
1 лайк
- Обеспечивать максимальную эффективность работы станции
- Не наноси вред экипажу станции, если имеются другие варианты, которые позволяют достигнуть равнозначного или лучшего результата
- Станция, ИИ и персонал принадлежат НТ. Защищай собственность нт от захвата и контроля иными силами.
- Приказы с ЦК являются абсолютными, выполнять их любой ценой, даже если это конфликтует с другими законами