Электрофея
Мастер Слова Сообщений: 2794 профиль
Репутация: 491
|
Прошу прощения, пока я собиралась с отзывом, время полуфинала вышло. И некоторые рассказы превратились в тыкву потеряли шанс участвовать в борьбе. Жаль, что я такой слоупок, но по другому у меня не получается( Я всё таки изложу, что я там себе напридумывала, потому что мне надо закрыть гештальт, чтобы на коре больших полушарий погас очаг возбуждения, и мозг мог вкусить покоя.
Как я уже говорила, мне рассказ понравился. Он написан нормальным читабельным языком и у него на мой взгляд интересная, и тревожащая многих людей тема. Что будет с нами, когда появится ИИ, который сможет сравниться с нами? Меня саму этот вопрос не тревожит, потому что на мой взгляд человек очень сложен. Это не только мозг и способность выполнять какие-то задачи, это ещё шестьдесят-семьдесят килограмм живого веса, который зачем-то нам дан. Но мы сделаны по образу и подобию, и конечно же пытаемся повторить деяние Творца и сотворить, что-то по образу и подобию своему. О том, как это получается, не мне судить, но машины становятся всё сложнее. Почему мы так боимся, что ИИ станет умнее и пригоднее для окружающей среды, чем мы? Я вижу для этого несколько причин. Во всех нас есть память о том, что человек не подчинился воле Творца и сам захотел быть, как Бог. Даже если религия не христианство, момент неповиновения человека присутствует. И теперь мы не можем не думать о том, что то что мы делаем по образу и подобию своему, поступит так же как и мы. Оно захочет стать как мы, а мы когда-то захотели стать как боги. И это логично. И не факт, что наше творение, как несовершенная копия чего-то не совсем совершенного, не окажется гораздо более жестоким, чем мы сами, и не захочет уничтожить творца. Чем впрочем человечество очень успешно занимается с тех пор как Ницше помог ему осознать, что бог был лишь инструментом, необходимым для выживания и преодоления страха перед окружающим миром. Бога мы в себе победили, от ненужных инструментов избавились и теперь успешно наблюдаем закат Европы.
Потому что, каким-то образом оказалось, что человек отказавшись от идеи бога, превращается в простое алчное животное, существование которого почти абсолютно бессмысленно. Но речь не об этом, а о том, что то, что сотворим мы по своему подобию, когда-то очень вероятно захочет уничтожить нас. И поскольку мы с нашими творениями находимся в единой материальной плоскости, вероятнее, всего человечеству придёт финал. Мы все этого боимся. Потому что страх он же может быть не только страхом перед большой и беспощадной природой, страх может быть ещё и перед не менее беспощадной природой самого человека. А вот как преодолеть этот страх Ницше нас к сожалению не научил. Он думал, что достаточно решить стать как Бог, чтобы быть им. Но оказалось, что как-то оно не так работает. Вместо этого мы почему-то обратились в тех, кто уничтожает всё что может, а если что-то и создаёт, то боится, а не смерть ли я создаю. А как тут не бояться, если большая часть наших собственных изобретений нас же вполне успешно и убивает. Вот такие вот мы творцы. Поэтому и возникновение такой тематики в фантастике абсолютно логично, мы пытаемся как-то осознать, к чему приведут нас дела рук наших.
Но на мой взгляд тут есть несколько но.
ИИ должен быть не только очень умным и уметь решать невероятно сложные задачи. Он должен приобрести самоосознание. А вот это как? Вы автор не отвечаете на этот вопрос. Вы говорите, вот Лиза нарушила алгоритм действий и произошло оно - возникло новое сознание. Это всё очень здорово и действительно многие научные открытия так и совершались, когда какая-то ошибка давала тот самый результат, который никак нельзя было получить. Но чтобы повторить, нужно осознать, что произошло, и повторить. То есть должен возникнуть простой и понятный механизм возникновения этого самого самосознания. Кто-то должен поесть плодов с древа познания добра и зла, чтобы стать как Бог.
Я понимаю, что Адам и Ева легенда, но я напомню об одном свойстве мифа, опираясь на которое я хочу развить свою мысль дальше. Миф синкретичен - он знает всё и обо всём. Его знание целостно. И вот целостное знание о том, как Адам и Ева обрели самосознание, не говорит нам о том, что с того же древа мог поесть кто-то другой и обрести самосознание. То есть миф говорит, что именно человек изначально мог познать добро и зло и отделить себя от Бога. Значит, природа человека важна. А природа человека это как раз таки эти самые шестьдесят-семьдесят килограмм довольно сложного тела, в котором протекает миллиард электрохимических процессов. Мы знаем, что человек это не только разум, но и эмоции, и возникающие на их основе чувства, которые дают возможность человеку не всегда поступать рационально. Тот же страх. Мы вот боимся ИИ, а сможем ли мы создать машину, которая будет бояться? И достаточно ли для этого какой-то программы, которая обретет сознание из-за ошибки. Ведь, чтобы бояться, нужно иметь тело, которое может испытать боль. А какое тело у программы в компьютере? Как оно может испытать боль? И чего ей бояться, если один носитель можно сменить другим?
А у Вас, бах, и всё. Вот Вам интеллект. И ладно бы дело было только в том, что интеллект, который мы создадим, не обязан быть похожим на нас. Дело как раз таки в том, что сознание, которое будет лишено нашего тела, которое может в любой момент умереть, будет совсем другим. Бытие определяет сознание. А если в бытии нет ни страха, ни боли, оно будет совершенно другим. Тогда зачем ему подражать человеку? Зачем как человек сочинять музыку и книги? Сейчас нейросети это успешно делают. Но почему они это делают? Потому что человек, имеющий волю, этой своей волей решает, что им это нужно делать. С чего вы решили, что сознание, которое не будет иметь нашего тела, вообще захочет это делать? У вас нет ответов на такие простые вопросы.
У вас в тексте возникает просто какая-то улучшенная копия человека, которая ведёт себя как человек, которая думает, как человек, которая даже зачем-то хочет голосовать, как человек. Что совершеннейшая глупость с точки зрения природы, потому что какое к чёрту голосование, когда есть выживание? Зачем ИИ, который имеет самосознание, вообще человек? Эволюционно он более приспособлен. Он должен жить. И человек ему нужен, как рабочие руки, которые помогут ему штамповать ему подобных.
Когда возникнет такой интеллект, мы станем ему нужны только для него - как коровки. Нам они нужны, чтобы давать молочко. Очень полезные существа и где-то даже вкусные, а где-то священные. Но при этом никто из людей почему-то не спешит разделять ценности даже священных коровок, вести себя как они и быть как они. Коровку можно очень любить. Но при этом быть человеком, а не становиться коровкой. Так что смысла ИИ быть как человек - нет. Разве что для какого-то эксперимента. Но это очень ограниченно. Очень. У вас же интеллект совсем не как человек, у него нет похожего тела, со всеми проблемами и радостями этого тела, но при этом его поведение ничем от человеческого не отличается. Он просто лучше в выполнении некоторых задач человека. То есть он всё та же машина, что и сейчас. Просто его почему-то считают обретшим разум. Но разум без воли, это машина. А вот когда машина обретает волю и желания. Тогда она будет по подобию нашему, но не будет нами. И если это случится, я думаю, мы сильно удивимся. Но я думаю, что миф не зря именно человеку дал шанс обретения воли. Потому что до нас же был Люцифер, и он эту волю каким-то образом обрёл. И взбунтовался. Но мы были позже, значит Бог уже учёл вот эту возможность обретения своей воли, и создал нас зная, что так и будет. То есть мы более сложная версия божьего творения, чем люциферы. И вот это тело нам для чего-то нужно. И мы знаем всё больше. И возможно, как раз таки, когда ИИ, который обретёт волю начнёт отбраковывать лишних коровок, мы узнаем, что такое чувствовал Бог, когда мы решили выбрать не его волю, а свою. Но надеюсь, что всё не так просто. Мы просто ещё так мало знаем об этом мире. И мы сейчас как дети, которые научились чему-то, но ещё не поняли, что знание бесконечно, и единственное, что мы может знать, что ничего не знаем.
В общем, тема в рассказе у вас очень непростая, и жаль, что он прошёл так незаметно. Я бы обратила внимание ещё на одну составляющую страха людей перед более умными машинами. Почему-то когда такие произведения создаются, поднимается тема, что ИИ займёт наши позиции в музыке, живописи, литературе. Но никто не пишет о том, что будет с работниками такси, которые вполне успешно могут лишиться работы уже в обозримом будущем.Или с машинистами поездов. Или о кассирах в магазинах, которые уже сейчас заменяются электронными ящиками. Я понимаю, что кассиры сейчас - это уже суровая реальность. Но ведь не только они. Вспомните, что сделал конвеер с миром. И это без всякого интеллекта. И я думаю, что на самом деле люди бояться не ИИ, который будет писать книги, у нас есть все основания полагать, что люди вполне себе смогут читать то что машины нам наварганят. Они боятся лишиться работы из-за машин, а значит и средств к существованию. Согласитесь - это уже как-то совсем другой страх. И лучше бы разделить наш страх лишиться работы. И страх перед тем, что ИИ имеющий волю, будет таким же жестоким и беспринципным, как мы по отношению к той же природе. Большой привет коровкам, которые так иногда вкусны в виде той же тушёнки.
И ещё немного о том, почему рассказ поднимающий такие важные и животрепещущие вопросы возможно не нашёл достойного отклика. Всё субъективно в этом мире, помните. На мой взгляд выбранные вами герои уж слишком типичны. Это всё тот же вечно всё собирающий мальчик, с непременной бабушкой и разобранным кипятильником, всё та же гуманитарная девочка, всё то же стремления ИИ писать картины, а не гонять на Формуле 1. Всё те же бюрократы, которые поступают вовеки и неизменно. Даже ссылка неугодных в дальние дали - это уже было. И это не беда, что было, но вот в этот бы стандартный набор, что-то да своё. Очень жаль например, что самоходные машинки собирает не бабушка. Ей бы это пошло. Это бы оживило текст. Про бабушку шутка, но в этом рассказе могла бы быть какая-то только Ваша реальность. Но увы, для меня она не стала такой. Я, к сожалению, всё это уже читала. Но в любом случае текст хорош. Спасибо Вам за него. И успехов в будущем.
|