(no subject)

[maelgon]

Три закона роботехники

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред

2. Робот должен повиноваться командам, которые ему дает человек, кроме тех случаев, когда эти команды противоречат первому закону

3. Робот должен заботиться о своей безопасности в той мере, в которой это это не противоречит первому и второму законам

© Айзек Азимов

Два взгляда на фильм "I, Robot" здесь и здесь

Comments

Немного о науке

[maelgon.livejournal.com]

Есть одна небольшая преграда в вопросе возникновения искусственного разума. Робот – это прежде всего механизм и все “ходы” в нем просчитаны, а для прочих ситуаций просто не хватит некоторой избыточности решений.
С проблемой воспроизведения своего мышления связан вопрос возможности самовоспроизведения – что долгое время считалось прерогативой исключительно живых организмов. Хотя какие-то процессы вроде роста кристаллов или синтеза сложных молекул очень уж похожи на это.
Была в начале 50-х годов такая математическая теория "самовоспроизводящихся автоматов" Дж. Фон Неймана
Есть такая вещь как критический порог сложности. На низшем уровне сложность будет вырождающейся, убывающей – то есть изначальный механизм сможет производить только механизмы проще, чем он сам, и далее по цепочке - соответственно уровень развития будет только снижаться. И наоборот: как только критический порог сложности пройден – то уже возможно создание таких же моделей или даже более сложных. Но в этом случае уже сам творец переходит в несколько иное качество, рангом повыше ;о)
Впрочем, теоретически Нейман эту теорию доказал – так что кто знает %)

Re: Немного о науке

[taliya.livejournal.com]

...все “ходы” в нем просчитаны...©
Всего просчитать невозможно, это во-первых.
А во-вторых, вы не замечали, что порою даже чайники выходят из повиновения. Я уж не говорю про компьютеры и прочей технике.
В настоящее время не стоит доказывать первую часть теории Неймана - мы видим это на практике. А доказательство второй части, надеюсь, на своем веку не увижу. Это во мне первые признаки "роботофобии" проявляются :))

И еще немного

[maelgon.livejournal.com]

В нем просчитаны все те ходы, которые необходимы для выполнения данной конкретной задачи. Естественно, что абсолютно все ходы машина просчитать не может - тут уже в дело вступает интуиция и та самая избыточность мышления, что недоступна механизму.
Что до второго пункта.. Не знаю, со мной еще пока не случались ситуации, когда чайник начинал воду замораживать, вместо того чтобы ее кипятить, или выражал свое недовольство негодующими воплями %/
Хотя не исключаю, что это лишь проблемы моего небольшого жизненного опыта ;о)

Re: И еще немного

[wwwolk.livejournal.com]

вы забываете еще и о том, что машина выберет из всех вариантов решения тот, в котором больше процент удачи :) а человке возьмет тот, который ему больше подходит по различным, его личным, параметрам. так что тут еще куча всего будет замешана.
ну а про кино, то если НД это клево (как большинство говорит) то почему я робото плохо? классный фильм, для американцев или любых людей жаждущих только развлекухи.