а если человек при пожаре например прикажет роботу выпрыгнуть вместе с собой из окна высотки вниз на многолюдную улицу,где робот явно свалится другому человеку на голову.Что будет делать робот?
для Ixenzo:
Робот это не живое существо, а вещь созданная человеком, поэтому говорить, что робот будет сопротивлятся, все равно, что говорить, что чайник будет сопративлятся тому что его ввкидывают
Да машина может нанести вред, но только если такое условие прописано в программе.
Много чего может произойти, чего изначально не описано в программе. Особенно в больших системах, основанных на нечёткой логике, самообучении и тому подобных странных штуковинах.
Есть такая парадигма программирования - декларативная. В ней не описывается последовательность действий. В ней описываются некоторые правила (законы), и необходимый результат. В процессе выполнения программы, могут вычисляться новые правила (законы). Так что в программе ещё как может быть то, что не писалось программистом.
для FireSwarm:
Сам комп технически сделан так, что он может работать только на чёткой логике и только выполняя алгоритмы. Всё остальное он может только имитировать с меньшей эффективностью.
Пролог - это узко специализированный язык. Типа как SQL, он предназначен для конкретных задач и очень плохо справляется со всем, что выходит за их пределы. И если с SQLем всё понятно, то я толком не знаю, кому и зачем нужен пролог. ИИ на нём явно не сделаешь
Сам комп технически сделан так, что он может работать только на чёткой логике и только выполняя алгоритмы.
Даже в обычном ООП языке программирования это не так. Самый простой пример.
Есть определённое событие А. Есть два метода, которые могут выполняться после выполнения события А - А1 и А2. И есть переменная А2_poss, сначала имеющая значение 0 и определяющая веротность выполнения метода А1.
При первом выполнении события А выполняется метод А2. Он же увеличивает значение переменной А2_poss на 0.05. Срабатывание метода А2 определяется с помощью срабатывания генератора случайных чисел.
Итого нечеткая логика, реализующая механизм "задалбывания". Т.е. рано или поздно А1 сработает, но когда - не понятно.
Не многим сложнее можно научить программу саму генерировать методы А1, А2 и т.д.. Например, генетическим алгоритмом из атомарных действий. Чем проще атомарное действие, тем больше вариантов методов мы можем получить. Если атомарным действием будет двинуть рукой, изначально используемое для подметания бычка, в результате некоторого количества операций вполне можем получить двинуть рукой в челюсть курильщика.
я толком не знаю, кому и зачем нужен пролог. ИИ на нём явно не сделаешь
На нём как правило пишутся отдельные модули. Но да, это очень специализированный язык. Да и устарел уже, есть более крутые штуки. Mercury, например.
в результате некоторого количества операций вполне можем получить двинуть рукой в челюсть курильщика.
Это сомнительно. Если робот предназначен ТОЛЬКО для подметания, он не может сам по себе додуматься бить курильщика. Потому что для этого в его программе должен появиться целый ряд новых сущностей.
1. Он должен решить, что его задача не только подметать уже существующие окурки, но и препятствовать появлению новых. Этот порог ему уже не преодолеть, потому что с какой стати? В отличие от человека, в роботов не закладывают чувство лени, и вообще какие-то чувства. Он видит окурок - убирает его. Всё.
2. Он должен понять, откуда именно берутся окурки. Это предполагает наличие у него достаточно сложных знаний про человека и общество, которые совершенно не нужны подметателю
3. Он должен достаточно хорошо знать всё это, чтобы допереть, что удар в челюсть может как-то повлиять на выкидывание окурков. Это совсем не очевидно даже для человека. Даже если, как показывают в фильмах, он "проанализирует кучи данных", то логичнее для него будет, что после удара в челюсть он получит ответный удар, после чего существование такого излишне думающего подметателя и закончится.
Короче, всё это хрень
Если робот предназначен ТОЛЬКО для подметания, он не может сам по себе додуматься бить курильщика.
Разумеется. Это если мы говорим о роботе-пылесосе. А если о более сложном роботе-андроиде, с более сложными устройствами взаимодействия с окружающим миром, то это уже не так сомнительно.
Он должен решить, что его задача не только подметать уже существующие окурки, но и препятствовать появлению новых.
Всё зависит от критериев оценки состояния. Например, если у него не просто будет цель убрать окурок, а добиться того, чтобы время без окурков на полу стремилось к максимуму, то уже совсем другой разговор. Или если критерием оценки будет время уборки. Нечего убирать - меньше времени уборки - более успешное действие с точки зрения робота. Он видит окурок - убирает его. Всё.
В этом случае нет. Видит окурок, видит, что время без окурков мало (время уборки велико), ищет другие пути решения проблемы.
Он должен понять, откуда именно берутся окурки. Это предполагает наличие у него достаточно сложных знаний про человека и общество, которые совершенно не нужны подметателю
И более сложных "органов" для взаимодействия с миром, как я уже писал выше. Чего уже сейчас есть у некоторых роботов.
Он должен достаточно хорошо знать всё это, чтобы допереть, что удар в челюсть может как-то повлиять на выкидывание окурков.
Может изучить (как это делает ватсон). Может просто попробовать воздействовать на источник окурков. Всё зависит от сложности робота.
Да, что это всё начнёт делать робот-уборщик, конечно нереально. Но если говорить о передовой науке и технике, это всё не так уж и не реально. Мы же говорим о том, возможно ли это в принципе или нет. Очевидный ответ - возможно. Это просто вопрос времени. И не такого уж и далёкого времени.
Очевидный ответ - возможно.
Не такой уж и очевидный.
Даже если такое и будет, то процесс будет длительный и растянутый на много этапов. На каждом этапе всё будет анализироваться, проверяться и перепроверяться, по 100 раз. Такого, чтобы роботы ВНЕЗАПНО вдруг ни с того ни с сего стали нападать на людей, как в фильмах - такого быть не может.
Конечно, если как в фаллоуте, специально сделать боевого робота с миниганом и ракетницей, то он может и заглючить, что впрочем и с людьми бывает. Но для этого ему нужно изначально иметь несколько вещей. Во-первых, он должен уметь убивать и иметь для этого возможность. Во-вторых, он должен самостоятельно принимать решения. Ну и ещё кое-что. Естественно, что такая смесь потенциально опасна, и любой конструктор, которому взбредёт в голову построить такого робота, будет знать об этом лучше всех. Сделает как минимум штуки 3 запасных варианта, которые бы позволили в случае чего его вырубить.
для FireSwarm:
а есть уже реальные примеры того что достигла робототехника, если отбросить всю фантастику на этот счет, до какой ступени развития поднялся робот по сравнению с пылесосом?