"Ум говяжий, 2 р 17 коп за 1 кг"

[eugenebo]

Многим вот нравится творчество Айзека Азимова. На фоне чудовищной серости фантастики в целом оно и вправду выигрывает. Но при этом, на мой взгляд, всё же не стоит каких-то особых восторгов.

Я не буду касаться художественной стороны. Слишком субъективно. Хотя мне есть что сказать про её убогость. Я также не буду разбирать в деталях "идеи" автора. Я коснусь лишь наиболее известного: трёх законов роботехники, "изобретения", которым почему-то безмерно восхищается какое-то прямо неприличное количество народу.

Многие вещи Азимова завязаны на ситуациях, в которых эти законы вступают друг с другом в противоречие. Но господа и дамы, это же халтура! Ибо каждый из этих "законов" некорректно сформулирован уже сам по себе; не требуется великого таланта, чтобы сделать на этом противоречие. Посмотрим хотя бы на первый, простите, "закон":

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Чтобы робот его выполнял, он должен всегда понимать, что такое "вред". Безошибочно!!! Стопроцентно! Всегда!

Вопрос: понимаем ли мы это сами? А вот хренушки! Вот Вас сейчас взять за шкирку, оттащить от ЖЖ и заставить работать, это будет вред или польза? Аборт -- вред или польза? Наркоман, умирающий без героина, ему шприц во вред или на пользу? Посмеяться над человеком -- вред? А покритиковать его? А соблазнить? Можно продолжать ad infinitum.

Человеческий мозг слаб и постоянно ошибается в таких вопросах. Если мы сделаем робота со способностями, близкими к человеческим, то он тоже будет часто ошибаться, и первый "закон" станет фикцией. Ну а если робот гораздо умнее и действительно способен просчитывать вред и пользу на годы вперёд и предсказывать наше счастье лучше нас самих... то это будет существо, неизмеримо превосходящее интеллектом всё человечество. Возможно даже, доброе, но абсолютно непонятное, непредсказуемое, чуждое. Пытаться понять, соблюдает ли оно на самом деле первый закон -- бред. И уж тем более думать, что про такое существо можно сочинять милые сердцу, такие "человеческие" рассказики...

Попса все эти истории про роботов...

Comments

[npopok.livejournal.com]

«Умные людоподобные роботы, делающие добро» — это порождение умственного дефекта, называемое мною «техношизофрения», т. е. раздробленное, несвязное представление о технике и о технологии как общественном явлении.

Первейший робот — беспилотный самолёт-камикадзе. Фронт исследований в САУ — построить робота с пулемётом, самостоятельно уничтожающего живую силу противника. Применение исследований в лингвистической обработке и в распознавании образов — отлов и пытки неугодных (т. н. «антитерроризм»). И так во всём остальном.

[eugenebo.livejournal.com]

Собственно, да. Пока филисофы спорят, может ли машина мыслить, военные спутники у них над головами давно уже это делают :) Только не по-человечески.