ManCourt. Человек под следствием

Все, наверное, слышали историю о Големе, предвестнике искусственного интеллекта, который был создан в 16 веке в Праге весьма талантливым, но, к сожалению, не самым предусмотрительным человеком, известным под акронимом Маараль. Созданный с благой целью, Голем вышел из-под контроля, намереваясь навредить не только своему создателю, но и всем вокруг, чуть не угробив планету целиком - таков был раж.

Вот эта книга сразу провела в моей голове параллели между мааральским Големом и современным AI. Аналогия напрашивается сама собой, вот только финал в ситуации с ИИ остается пока что открытым.  Может быть, AI приблизит человечество к завершению его миссии. А может, напротив, заставит людей опомниться и сообразить, что любой искусственно созданный интеллект, как бы талантливо он ни был сотворен, никогда не будет иметь главного - души. И свободы выбора, кстати, тоже. А еще он будет лишен чувств, интуиции и воображения. Любой искусственный интеллект априори ограничен, несмотря на широкие возможности в постижении сложнейших алгоритмов, решении труднейших задач, и тд. Рациональный ИИ никогда не будет способен обучиться чувствам, морали и этике просто потому, что в этом мире нет ни инструментов, ни расходных материалов, из которых это все можно соорудить.

На примере историй из этой книги видно, до какого абсурда может дойти наука, не сдерживаемая морально-этическими принципами. Наука, вроде как, всегда была призвана служить человечеству, облегчая и улучшая его существование, а в итоге может запросто стать опасным и вредоносным фактором, ведущим к хаосу, вовлекая все вокруг в энтропию.

В случае с пражским Големом, Мааралю пришлось его самолично уничтожить, так как это был единственный способ остановить бездушную разрушительную машину. Маараль стер букву «алеф» где надо, и Голем тут же отправился на покой, оставив после себя лишь слой пыли. Все это выглядит немножко фантастически, а немножко и нет.