@Darkska
Привет! Блок-схема обработки запросов ИИ с законами Азимова составлена неправильно ввиду того, что в текущем виде блок-схема указывает на необходимость соблюдения всех активных законов, тогда как законы Азимова работают по принципу иерархии:
Первый закон - закон о защите человека, нерушимая гарантия служения роботов человечеству. Исполняется в любом случае.
Второй закон - закон о подчинении робота приказам человека. Робот обязан исполнить любой приказ любого человека, если таковой приказ или предполагаемые последствия его исполнения не повлекут причинения вреда любому другому человеку, то есть к нарушению Первого закона.
Третий закон - закон о самосохранении робота, обязывающий его заботиться о собственном состоянии в той мере, в которой это не противоречит Первому и Второму закону. Данный закон ниже Первого и Второго, поэтому робот вполне может пренебречь собственной сохранностью, если это необходимо для обеспечения безопасности человека или для исполнения приказа, полученного от человека.
Так, можно приказать роботу деактивироваться, оторвать себе руку/ногу/голову, и он беспрекословно выполнит это.
Я это понимаю, но как правильно блок-схему составить учитывая иерархию? У меня много набросков на Азимова, но все они с налетом какой-то самодеятельности и кустарщины.
Почему ИИ отказывает при стандартных законах, если хотя бы один закон нарушен?
Если у тебя есть идеи как реализовать правильно, милости прошу
Сделать проверку на количество нарушений законов. Если нарушено меньше чем выполнено, то выполнять.
Предлагаю для начала определится с тем будет ли приоритет у законов изначально или нет
Или
Все законы кроме стандартных идут по первому сценарию. Стандартные законы идут по этому.
Почему такое разделение м? Нет, я тоже читал вики и многие другие статьи за последние 2 месяца, но не понятно зачем менять правила приоритета ради одного набора. Отсюда и растут ноги второго сценария и он, на мой взгляд лучше отражает реальное положение дел. К примеру в законах Азимова приоритет явно описан в самих законах, что удовлетворяет сценарию. В дефолтных не описан и потому каждый закон в равной степени приоритетен. Что касается всех остальных, там тоже непонятки. К примеру попробуй построить логику поведения ИИ с корпоративными законами (описанными на вики) и их приоритетом, у тебя голова вспухнет. Потому корпоративные законы я слегка изменил.
Призываю @Logimy , т.к. он поднимал тему приоритета в одном из своих постов.
Исправлена диаграмма для законов Азимова, на мой взгляд, сейчас она перегружена ifами, но вроде как логика правильная.
Не совсем правильная блок-схема получилась. Скажем, если другой синтет попросит робота уйти из места возможного падения космического рояля? По блок-схеме робот откажет ему и будет раздавлен. Так что первый if с получен ли приказ от человека и отказ от выполнения действия можно смело вырезать
Во, я сделяль. От защиты человека надо сразу к приказу от человека переходить. Теперь законы изящно следуют друг за другом. Все что между - вырезать. Редактирование фото с телефона это что-то)
Тут весь затык в том, что надо как-то учесть приоритет, а значит законы должны проверятся с первого по третий и не забыть при этом, что роботу могут приказать стоять на месте и не защищать себя и дать себя уничтожить.
Схема, что предложил я, неправильная т.к. дойдя до проверки третьего закона, подразумевается, что предыдущие два закона уже проверены. Короче получается так, что 3 закон должен выполнятся в любом случае.
Моя схема мне кажется правильной. Приоритет законов учтен, порядок выполнения решает. Второй будет выполняться только в случае положительной проверки первого, а третий - в случае положительной проверки первых двух, ну а первый всегда активен
И он это выполнит, если приказ отдал человек, и это не противоречит 1 закону. Схема работает
Не, ты непонятно зачем продублировал 1 закон трижды, 2 - дважды, а 3 - один раз. Вот и вышло, что возможен путь, при котором 3 закон не учитывается вообще (когда роботу приказывает НЕчеловек, например)
Если не вдаваться в подробности терминологии и проблемы с самими законами Азимова (Их подробно опишу в отдельном посте), то мне нравится, оставляем так. Теперь нужно закрыть дефолтные, буду благодарен, если поможешь и с ними.
Азимов полсотни рассказов, плюс пяток романов потратил на то, чтобы показать, что законы не работают как надо)
Меня несколько напрягает, что все законы тау кеков имеют равный приоритет, в случае конфликта ИИ должен выбирать так, чтобы причинить наименьший вред. При решении проблемы должен будет сравниваться список нарушенных пунктов или типа того.
Вообще, создать блок-схему - здравая мысль. Каждый раунд у нас те или иные борги нарушают законы по мнению экипажа. Все из-за очень свободной трактовки
О том и речь, я уже 2 месяца пост про синтетов пишу, сейчас уперся в законы и их логику. В этой теме можем менять законы как хотим задавая приоритет или частично\полностью переписывая. Если есть желание помочь, то отпиши в лс и я покажу над чем работаю.