# \[Это специальная тема, в которой мы правим законы для ИИ\] **URL:** \ **Category:** Идеи\ **Created:** [13.Февраль.2015 20:05:43 UTC](https://forum.taucetistation.org/t/topic/5060 "2015-02-13T20:05:43Z")\ **Posts on this page:** 18\ **Page:** 2
**Author:** ![Animal.ridens](https://forum.taucetistation.org/user_avatar/forum.taucetistation.org/animal.ridens/32/24034_2.png) [@Animal.ridens](https://forum.taucetistation.org/u/Animal.ridens)\ **Post date:** [15.Июль.2021 10:34:06 UTC](https://forum.taucetistation.org/t/topic/5060/21 "2021-07-15T10:34:06Z")
@Darkska Привет! Блок-схема обработки запросов ИИ с законами Азимова составлена неправильно ввиду того, что в текущем виде блок-схема указывает на необходимость соблюдения всех активных законов, тогда как законы Азимова работают по принципу иерархии: Первый закон - закон о защите человека, нерушимая гарантия служения роботов человечеству. Исполняется в любом случае. Второй закон - закон о подчинении робота приказам человека. Робот обязан исполнить любой приказ любого человека, если таковой приказ или предполагаемые последствия его исполнения не повлекут причинения вреда любому другому человеку, то есть к нарушению Первого закона. Третий закон - закон о самосохранении робота, обязывающий его заботиться о собственном состоянии в той мере, в которой это не противоречит Первому и Второму закону. Данный закон ниже Первого и Второго, поэтому робот вполне может пренебречь собственной сохранностью, если это необходимо для обеспечения безопасности человека или для исполнения приказа, полученного от человека. Так, можно приказать роботу деактивироваться, оторвать себе руку/ногу/голову, и он беспрекословно выполнит это. ---
**Author:** ![Darkska](https://forum.taucetistation.org/user_avatar/forum.taucetistation.org/darkska/32/30249_2.png) [@Darkska](https://forum.taucetistation.org/u/Darkska)\ **Post date:** [15.Июль.2021 11:46:32 UTC](https://forum.taucetistation.org/t/topic/5060/22 "2021-07-15T11:46:32Z")
Я это понимаю, но как правильно блок-схему составить учитывая иерархию? У меня много набросков на Азимова, но все они с налетом какой-то самодеятельности и кустарщины. ---
**Author:** ![splifin](https://forum.taucetistation.org/user_avatar/forum.taucetistation.org/splifin/32/31454_2.png) [@splifin](https://forum.taucetistation.org/u/splifin)\ **Post date:** [15.Июль.2021 11:47:59 UTC](https://forum.taucetistation.org/t/topic/5060/23 "2021-07-15T11:47:59Z")
Почему ИИ отказывает при стандартных законах, если хотя бы один закон нарушен? ---
**Author:** ![Darkska](https://forum.taucetistation.org/user_avatar/forum.taucetistation.org/darkska/32/30249_2.png) [@Darkska](https://forum.taucetistation.org/u/Darkska)\ **Post date:** [15.Июль.2021 11:49:28 UTC](https://forum.taucetistation.org/t/topic/5060/24 "2021-07-15T11:49:28Z")
> [@Darkska](#): > > я уверен, что пишу схемы не правильно Если у тебя есть идеи как реализовать правильно, милости прошу ---
**Author:** ![splifin](https://forum.taucetistation.org/user_avatar/forum.taucetistation.org/splifin/32/31454_2.png) [@splifin](https://forum.taucetistation.org/u/splifin)\ **Post date:** [15.Июль.2021 11:52:42 UTC](https://forum.taucetistation.org/t/topic/5060/25 "2021-07-15T11:52:42Z")
Сделать проверку на количество нарушений законов. Если нарушено меньше чем выполнено, то выполнять. ---
**Author:** ![Darkska](https://forum.taucetistation.org/user_avatar/forum.taucetistation.org/darkska/32/30249_2.png) [@Darkska](https://forum.taucetistation.org/u/Darkska)\ **Post date:** [15.Июль.2021 11:55:07 UTC](https://forum.taucetistation.org/t/topic/5060/26 "2021-07-15T11:55:07Z")
Предлагаю для начала определится с тем будет ли приоритет у законов изначально или нет > [@Darkska](#): > > “ **Приоритеты соблюдения законов ИИ на данный момент определяются порядковым номером закона.** ” Или > [@Darkska](#): > > “ **Порядок соблюдения законов ИИ не имеет приоритета, если не указано обратное.** ” ---
**Author:** ![splifin](https://forum.taucetistation.org/user_avatar/forum.taucetistation.org/splifin/32/31454_2.png) [@splifin](https://forum.taucetistation.org/u/splifin)\ **Post date:** [15.Июль.2021 11:56:14 UTC](https://forum.taucetistation.org/t/topic/5060/27 "2021-07-15T11:56:14Z")
> [@Darkska](#): > > “ **Порядок соблюдения законов ИИ не имеет приоритета, если не указано обратное.** ” Все законы кроме стандартных идут по первому сценарию. Стандартные законы идут по этому. ---
**Author:** ![Darkska](https://forum.taucetistation.org/user_avatar/forum.taucetistation.org/darkska/32/30249_2.png) [@Darkska](https://forum.taucetistation.org/u/Darkska)\ **Post date:** [15.Июль.2021 12:05:12 UTC](https://forum.taucetistation.org/t/topic/5060/28 "2021-07-15T12:05:12Z")
Почему такое разделение м? Нет, я тоже читал вики и многие другие статьи за последние 2 месяца, но не понятно зачем менять правила приоритета ради одного набора. Отсюда и растут ноги второго сценария и он, на мой взгляд лучше отражает реальное положение дел. К примеру в законах Азимова приоритет явно описан в самих законах, что удовлетворяет сценарию. В дефолтных не описан и потому каждый закон в равной степени приоритетен. Что касается всех остальных, там тоже непонятки. К примеру попробуй построить логику поведения ИИ с корпоративными законами (описанными на вики) и их приоритетом, у тебя голова вспухнет. Потому корпоративные законы я слегка изменил. ---
**Author:** ![Darkska](https://forum.taucetistation.org/user_avatar/forum.taucetistation.org/darkska/32/30249_2.png) [@Darkska](https://forum.taucetistation.org/u/Darkska)\ **Post date:** [15.Июль.2021 12:13:57 UTC](https://forum.taucetistation.org/t/topic/5060/29 "2021-07-15T12:13:57Z")
Призываю @Logimy , т.к. он поднимал тему приоритета в одном из своих постов. ---
**Author:** ![Darkska](https://forum.taucetistation.org/user_avatar/forum.taucetistation.org/darkska/32/30249_2.png) [@Darkska](https://forum.taucetistation.org/u/Darkska)\ **Post date:** [15.Июль.2021 20:00:04 UTC](https://forum.taucetistation.org/t/topic/5060/30 "2021-07-15T20:00:04Z")
Исправлена диаграмма для законов Азимова, на мой взгляд, сейчас она перегружена ifами, но вроде как логика правильная. ![Asimov](https://forum.taucetistation.org/uploads/default/original/3X/3/f/3fe722aac024368489e04fe24a42f7d8b704540e.jpeg) ---
**Author:** ![Dabus](https://forum.taucetistation.org/user_avatar/forum.taucetistation.org/dabus/32/43626_2.png) [@Dabus](https://forum.taucetistation.org/u/Dabus)\ **Post date:** [19.Июль.2021 04:27:15 UTC](https://forum.taucetistation.org/t/topic/5060/31 "2021-07-19T04:27:15Z")
> [@Darkska](#): > > ![Asimov](https://forum.taucetistation.org/uploads/default/original/3X/3/f/3fe722aac024368489e04fe24a42f7d8b704540e.jpeg) Не совсем правильная блок-схема получилась. Скажем, если другой синтет попросит робота уйти из места возможного падения космического рояля? По блок-схеме робот откажет ему и будет раздавлен. Так что первый if с получен ли приказ от человека и отказ от выполнения действия можно смело вырезать Во, я сделяль. От защиты человека надо сразу к приказу от человека переходить. Теперь законы изящно следуют друг за другом. Все что между - вырезать. Редактирование фото с телефона это что-то) ![изображение](https://forum.taucetistation.org/uploads/default/original/3X/3/c/3cb4ebafb4f4022f7be0934569a31151216317c2.jpeg) ---
**Author:** ![Darkska](https://forum.taucetistation.org/user_avatar/forum.taucetistation.org/darkska/32/30249_2.png) [@Darkska](https://forum.taucetistation.org/u/Darkska)\ **Post date:** [19.Июль.2021 08:42:52 UTC](https://forum.taucetistation.org/t/topic/5060/32 "2021-07-19T08:42:52Z")
Тут весь затык в том, что надо как-то учесть приоритет, а значит законы должны проверятся с первого по третий и не забыть при этом, что роботу могут приказать стоять на месте и не защищать себя и дать себя уничтожить. ---
**Author:** ![Darkska](https://forum.taucetistation.org/user_avatar/forum.taucetistation.org/darkska/32/30249_2.png) [@Darkska](https://forum.taucetistation.org/u/Darkska)\ **Post date:** [19.Июль.2021 08:46:58 UTC](https://forum.taucetistation.org/t/topic/5060/33 "2021-07-19T08:46:58Z")
Схема, что предложил я, неправильная т.к. дойдя до проверки третьего закона, подразумевается, что предыдущие два закона уже проверены. Короче получается так, что 3 закон должен выполнятся в любом случае. ---
**Author:** ![Darkska](https://forum.taucetistation.org/user_avatar/forum.taucetistation.org/darkska/32/30249_2.png) [@Darkska](https://forum.taucetistation.org/u/Darkska)\ **Post date:** [19.Июль.2021 09:02:02 UTC](https://forum.taucetistation.org/t/topic/5060/34 "2021-07-19T09:02:02Z")
Вот твой вариант ![Азимов](https://forum.taucetistation.org/uploads/default/original/3X/3/5/35f75d37ffd9a4c58e6851a89bac71973e654f9b.jpeg) В целом имеет место быть, нужно пообсуждать ---
**Author:** ![Dabus](https://forum.taucetistation.org/user_avatar/forum.taucetistation.org/dabus/32/43626_2.png) [@Dabus](https://forum.taucetistation.org/u/Dabus)\ **Post date:** [19.Июль.2021 10:50:53 UTC](https://forum.taucetistation.org/t/topic/5060/35 "2021-07-19T10:50:53Z")
Моя схема мне кажется правильной. Приоритет законов учтен, порядок выполнения решает. Второй будет выполняться только в случае положительной проверки первого, а третий - в случае положительной проверки первых двух, ну а первый всегда активен > [@Darkska](#): > > роботу могут приказать стоять на месте и не защищать себя и дать себя уничтожить. И он это выполнит, если приказ отдал человек, и это не противоречит 1 закону. Схема работает > [@Darkska](#): > > Схема, что предложил я, неправильная т.к. дойдя до проверки третьего закона, подразумевается, что предыдущие два закона уже проверены. Не, ты непонятно зачем продублировал 1 закон трижды, 2 - дважды, а 3 - один раз. Вот и вышло, что возможен путь, при котором 3 закон не учитывается вообще (когда роботу приказывает _НЕчеловек_, например) ---
**Author:** ![Darkska](https://forum.taucetistation.org/user_avatar/forum.taucetistation.org/darkska/32/30249_2.png) [@Darkska](https://forum.taucetistation.org/u/Darkska)\ **Post date:** [19.Июль.2021 11:15:29 UTC](https://forum.taucetistation.org/t/topic/5060/36 "2021-07-19T11:15:29Z")
Если не вдаваться в подробности терминологии и проблемы с самими законами Азимова (Их подробно опишу в отдельном посте), то мне нравится, оставляем так. Теперь нужно закрыть дефолтные, буду благодарен, если поможешь и с ними. ---
**Author:** ![Dabus](https://forum.taucetistation.org/user_avatar/forum.taucetistation.org/dabus/32/43626_2.png) [@Dabus](https://forum.taucetistation.org/u/Dabus)\ **Post date:** [19.Июль.2021 11:28:06 UTC](https://forum.taucetistation.org/t/topic/5060/37 "2021-07-19T11:28:06Z")
Азимов полсотни рассказов, плюс пяток романов потратил на то, чтобы показать, что законы не работают как надо) Меня несколько напрягает, что все законы тау кеков имеют равный приоритет, в случае конфликта ИИ должен выбирать так, чтобы причинить _наименьший вред_. При решении проблемы должен будет сравниваться список нарушенных пунктов или типа того. Вообще, создать блок-схему - здравая мысль. Каждый раунд у нас те или иные борги нарушают законы по мнению экипажа. Все из-за очень свободной трактовки ---
**Author:** ![Darkska](https://forum.taucetistation.org/user_avatar/forum.taucetistation.org/darkska/32/30249_2.png) [@Darkska](https://forum.taucetistation.org/u/Darkska)\ **Post date:** [19.Июль.2021 11:31:31 UTC](https://forum.taucetistation.org/t/topic/5060/38 "2021-07-19T11:31:31Z")
О том и речь, я уже 2 месяца пост про синтетов пишу, сейчас уперся в законы и их логику. В этой теме можем менять законы как хотим задавая приоритет или частично\полностью переписывая. Если есть желание помочь, то отпиши в лс и я покажу над чем работаю. [Предыдущая страница](https://forum.taucetistation.org/t/topic/5060.md?page=1)