[ShaddyR]

А как же запрограммированный инстинкт самосохранения ("Обитель зла") - если машина научится делать логические выводы из происходящего, то попытка ее обесточить есть покушение на ее "жизнь". Если вести статистику "угроз" - окажется, что чаще всего угроза вызвана "человеком". вывод логичен - человек - угроза. Или тот же "Я - робот" - логичный вывод - человека надо защитить от самого себя. И тот и другое не является попыткой доминирования - всего лишь абсолютно логический вывод, для которого достаточно умения собирать статистику и обрабатывать статистические данные.

[Tigr]

А как же запрограммированный инстинкт самосохранения ... вывод логичен - человек - угроза»

Логичен для человека. "Инстинкт" же - та же самая программа, в к-ю можно добавить пункт IF хозяин_орет ELSE подсыпать_в_чашку_цианид. А 3 закона робототехники Айзека Азимова, увы, ерунда - робот может дать таблетку из упаковки с надписью "Аспирин", где другой робот до того подменил содержимое...

[DJ Mogarych]

Тут нужно разделять тупого исполнителя приказов с программой и принципиально другого робота, который представляет собой действительно независимо мыслящую единицу.

"Три закона" относятся как раз к тупым исполнителям, хотя бы и сложной разветвлённой программы. Эти три закона являются этакими заглушками. То есть, когда алгоритм приводит к тому, что для достижения цели надо убить человека, заглушка не даёт.

Кстати, непонятно, как будет поступать такой робот, если нужно убить одного человека, чтобы спасти двух, или десять, чтобы спасти сто. А если надо спасти одного, но для этого убить другого? Каковы критерии выбора? Просто не давать никого убивать? У Роберта Шекли есть рассказ "Страж-птица", посвящённая этой проблеме.
В общем, "три закона" изящно выглядят, но совершенно неприменимы на практике.

А мыслящая единица, робот, способный пройти пресловутый тест Тьюринга (хотя я подозреваю, что тестом дело не ограничивается в определении разумности) человеком всё равно не будет. Не будет именно потому, что за роботом не тянется миллиардолетний хвост природного эволюционно-животного развития методом проб, ошибок и компромиссов — ему будут чужды большинство мотивов человеческого поведения.

Но как именно он будет себя вести и до чего он дойдёт в своих мыслях — сказать сложно. Сложно потому, что непонятно, сделают ли люди мыслящих рабов (с заглушками в голове) для удовлетворения своих животных потребностей или будут пытаться сделать железного бога (без заглушек, дав роботу полную свободу развития). Мне кажется, что пока будут стремиться к первому, до второго наше поколение вряд ли доживёт. И ещё о втором сказать ничего не получится именно потому, что если такой робот будет построен, он будет на уровень выше людей; а низший описать высшего не в состоянии.

Также непонятно, сможет ли человек сделать более совершенное создание, чем он сам? И отважится ли на это, если сможет? Ведь после такого создания сам человек станет ненужным, второстепенным. Хотя если человек будет обладать технологиями для сборки такого синтетического бога, его появление неизбежно.

[Tigr]

... дав роботу полную свободу развития »

Насколько знаю, "саморазвивающегося" робота пока создать не удалось. Самообучающийся же может быть написан первоклассником.
_____

Вот так исподволь мы забрели в тему, над которой столетия задумывались люди несравнимо более образованные и умные, чем мы. Не хочу срамиться: что навыдумывают потомки - никто не в состоянии предсказать. Можно только надеяться, что их творения не убьют их (или Создатель этого мира не позволит им зайти так далеко, если такой "заход" вообще возможен).

[DJ Mogarych]

Создателю, как мне кажется, наплевать на то, что там сделают его творения.
Человечество слишком льстит себе, думая, что находится в центре внимания Создателя.
Бог превращается в слугу человечества, в исполнителя его желаний.

[Tigr]

Бог превращается в слугу человечества, в исполнителя его желаний. »

В чем это заключается ? Какие наши желания исполнились ? Желание жить вечно, во всяком случае, пока не исполнилась и продолжительность жизни слабо изменилась со времен появления письменности.

(очень не хочется мутировать тему в очередной спор о причине возникновения всего сущего - ни Его существование, ни отсутствие - оба тезиса недоказуемы и являются предметом веры или неверия)

[DJ Mogarych]

Дело не в том, исполняются эти желания или нет, дело в той роли, которую люди, которые везде носятся со своими "чувствами верующих" как с писаной торбой, отводят богу.

Если человечество уничтожит себя, никакой бог в это не вмешается. Жизнь на Земле — всего лишь непостижимый выигрыш в лотерею на одно мгновение. Один маленький, но гордый точка, с очень близкого по космическим меркам расстояния.

Будет ли возиться, например, создатель Земли с песчинкой? Будет ли он решать смешные проблемы атомов на этой песчинке?

[ShaddyR]

IF хозяин_орет ELSE подсыпать_в_чашку_цианид »

then...

робот может дать таблетку из упаковки с надписью "Аспирин", где другой робот до того подменил содержимое... »

так робот и на курок игрушечного пистолета может нажать, если будет убежден кем-то в его "игрушечности"

[DmB89]

Иногда дико хочется взять автомат и пройтись по палатам министров »

Ты не одинок!
Недавно посмотрел по зомбоящику передачу "Военная тайна". ИМХО - одна из немногих более-менее пристойных оставшихся. Увидел сюжет про цинковый гроб с выпотрошенным телом. Просто разум мутится от подобного. Вот здесь нашёл про то же в сети. И оказалось, что всё это длится не один год. Так ведь без прикрытия на всех уровнях такое не может существовать!!! Все, абсолютно все либо замешаны, либо покрывают по принципу "защитить честь мундира". А чести давным-давно никакой нету... Продали... Просто враз начинаешь понимать всю бездну нравственного вырождения, в которую скатилась наша страна! Стоило только поставить деньги, материальные блага превыше всего, как большинство тут же потеряли человеческий облик! И эта идиотская фраза: "Если вы такие умные, то почему такие бедные?"... Ага, а все "новые русские" - это просто светочи ума!
Всё же верно написано в евангелии: "Какая польза человеку, если он приобретет весь мир, а душе своей навредит?"

[Tigr]

Отвечая на вопрос автора темы: большинство уверенно и ускоренно (помните "ускорение" и перестройку" ?) движутся к вырождению. В этом "благом" деле им помогают СМИ, внушая исподволь, что "работать - это не для вас ! ваше дело - развлекаться !". Очень немногие сумеют избежать этого тренда и стать/остаться специалистами в каком-либо деле. Идиоты будут рассчитывать на свои деньги (акции, недвижимость, выгодный пост) и останутся голыми, когда эта странная и нежизнеспособная современная экономика рухнет окончательно.