"Ум говяжий, 2 р 17 коп за 1 кг"

[eugenebo]

Многим вот нравится творчество Айзека Азимова. На фоне чудовищной серости фантастики в целом оно и вправду выигрывает. Но при этом, на мой взгляд, всё же не стоит каких-то особых восторгов.

Я не буду касаться художественной стороны. Слишком субъективно. Хотя мне есть что сказать про её убогость. Я также не буду разбирать в деталях "идеи" автора. Я коснусь лишь наиболее известного: трёх законов роботехники, "изобретения", которым почему-то безмерно восхищается какое-то прямо неприличное количество народу.

Многие вещи Азимова завязаны на ситуациях, в которых эти законы вступают друг с другом в противоречие. Но господа и дамы, это же халтура! Ибо каждый из этих "законов" некорректно сформулирован уже сам по себе; не требуется великого таланта, чтобы сделать на этом противоречие. Посмотрим хотя бы на первый, простите, "закон":

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Чтобы робот его выполнял, он должен всегда понимать, что такое "вред". Безошибочно!!! Стопроцентно! Всегда!

Вопрос: понимаем ли мы это сами? А вот хренушки! Вот Вас сейчас взять за шкирку, оттащить от ЖЖ и заставить работать, это будет вред или польза? Аборт -- вред или польза? Наркоман, умирающий без героина, ему шприц во вред или на пользу? Посмеяться над человеком -- вред? А покритиковать его? А соблазнить? Можно продолжать ad infinitum.

Человеческий мозг слаб и постоянно ошибается в таких вопросах. Если мы сделаем робота со способностями, близкими к человеческим, то он тоже будет часто ошибаться, и первый "закон" станет фикцией. Ну а если робот гораздо умнее и действительно способен просчитывать вред и пользу на годы вперёд и предсказывать наше счастье лучше нас самих... то это будет существо, неизмеримо превосходящее интеллектом всё человечество. Возможно даже, доброе, но абсолютно непонятное, непредсказуемое, чуждое. Пытаться понять, соблюдает ли оно на самом деле первый закон -- бред. И уж тем более думать, что про такое существо можно сочинять милые сердцу, такие "человеческие" рассказики...

Попса все эти истории про роботов...

Comments

[towerless.livejournal.com]

Как известно, все мужики - козлы. Включая А. Азимова.

[marie-lumiere.livejournal.com]

Робот-человек всегда был предназначен для выдумок.
Человеческому мозгу понадобилось не одна сотня тысяч лет, чтобы накопить весь генетический опыт, коим он руководствуется в принятии решений сегодня.
Просто средний человек, как правило, недооценивает всю сложность человеческого мозга.
Понятно, что любая фантастика, даже очень хорошая, все равно фантастика. Не нужно её принимать столь серьезно. =)

[ex-neo-is-fl156.livejournal.com]

Азимова не читал, но теперь уже и не хочется читать :)
З.Ы. Оттащить от ЖЖ и заставить работать - это жестоко :)

[vtolkov.livejournal.com]

Всегда - да. Безошибочно - не обязательно. В рамках имеющейся информации и имеющейся модели.

[eugenebo.livejournal.com]

Да я и не принимаю серьёзно. Вот фанаты Азимова -- те да :)

[eugenebo.livejournal.com]

Если небезошибочно, то грош цена первому закону.

[http://users.livejournal.com/_nightwing/]

"вред" это ведь переводчики написали, а в оригинале было:
A robot may not injure a human being or, through inaction, allow a human being to come to harm.

не абстрактное "вред", а "повреждение"

[vtolkov.livejournal.com]

Это почему же?

[npopok.livejournal.com]

«Умные людоподобные роботы, делающие добро» — это порождение умственного дефекта, называемое мною «техношизофрения», т. е. раздробленное, несвязное представление о технике и о технологии как общественном явлении.

Первейший робот — беспилотный самолёт-камикадзе. Фронт исследований в САУ — построить робота с пулемётом, самостоятельно уничтожающего живую силу противника. Применение исследований в лингвистической обработке и в распознавании образов — отлов и пытки неугодных (т. н. «антитерроризм»). И так во всём остальном.

[eugenebo.livejournal.com]

Да, в оригинале оно звучит более корректно. Но суть дела всё равно мало меняет. Ведь и "injury" определено довольно неточно, как качественно, так и по силе. Получить мячом в морду при игре в футбол -- это injury? А как насчёт inaction, когда человек напивается в зюзю и умирает от отравления алкоголем?

В контексте данного закона я не вижу принципиальной разницы между "вред" и "injury".

[eugenebo.livejournal.com]

Среди людей и так полно хулиганья и типов, способных нанести человеку вред без видимого к тому основания. Увеличивать их ряды ещё и искусственно -- кому это будет надо? Не станут таких роботов покупать.

[eugenebo.livejournal.com]

Собственно, да. Пока филисофы спорят, может ли машина мыслить, военные спутники у них над головами давно уже это делают :) Только не по-человечески.

[vtolkov.livejournal.com]

Что-то я логики никак не ухвачу. Каких не будут покупать? С первым законом? Или без оного?

[http://users.livejournal.com/_nightwing/]

когда я читал Азимова в детстве, то вопринял именно как физический вред, как травму или возможность травмы.

с тем, что в "законах" не должно быть несколько трактовок, согласен. Юридически расплывчато)

[husainov.livejournal.com]

Даже если абстрагироваться от этих законов, то вот вопрос- почему западный фантаст создал тему роботов? Ответ мне кажется довольно прост- они всегда хотели, чтобы кто-то на них работал, а им за это ничего не было. Это и есть смысл трех законов.

[eugenebo.livejournal.com]

С первым, который нарушается.

[eugenebo.livejournal.com]

Ну, тему роботов создал Карел Чапек, восточный европеец :) Впрочем, эксплуатировал её больше всех, наверное, и вправду Азимов.

Гипотеза Ваша любопытна. Надо подумать.

[insane-reader.livejournal.com]

Речь идет о физическом вреде.Эти законы -ошейник на раба, ограничение свободы воли искусственного разума,и не имеет значения обладает ли этот разум человеческими категориями добра и зла, или гораздо умнее людей.

Меня больше занимает вопрос о копировании и тиражировании человеческой личности.
Научно-технический прогресс постепенно подходит к возможности точного молекулярного сканирования человеческого тела и ,главное, его нервной системы.
Продвигаются технологии печати органов и биологических тканей. Таким образом, когда-нибудь будет можно скопировать и распечатать живое человеческое существо почти идентичное оригиналу ,либо эмулировать функции нервной системы на компьютере или кибернетическом организме (андроиде).
Подобные технологии идеальны для колонизации звезд..... Но какое влияние они могут оказать на земную цивилизацию?
И подобно как в названии темы:"Ум человеческий, 2 р 17 коп за 1 кг"