Электрофея
Мастер Слова
Сообщений: 2486
профиль
Репутация: 480
|
Прошу прощения, пока я собиралась с отзывом, время полуфинала вышло. И некоторые рассказы превратились в тыкву потеряли шанс участвовать в борьбе. Жаль, что я такой слоупок, но по другому у меня не получается(
Я всё таки изложу, что я там себе напридумывала, потому что мне надо закрыть гештальт, чтобы на коре больших полушарий погас очаг возбуждения, и мозг мог вкусить покоя.
Как я уже говорила, мне рассказ понравился. Он написан нормальным читабельным языком и у него на мой взгляд интересная, и тревожащая многих людей тема. Что будет с нами, когда появится ИИ, который сможет сравниться с нами?
Меня саму этот вопрос не тревожит, потому что на мой взгляд человек очень сложен. Это не только мозг и способность выполнять какие-то задачи, это ещё шестьдесят-семьдесят килограмм живого веса, который зачем-то нам дан.
Но мы сделаны по образу и подобию, и конечно же пытаемся повторить деяние Творца и сотворить, что-то по образу и подобию своему.
О том, как это получается, не мне судить, но машины становятся всё сложнее.
Почему мы так боимся, что ИИ станет умнее и пригоднее для окружающей среды, чем мы?
Я вижу для этого несколько причин.
Во всех нас есть память о том, что человек не подчинился воле Творца и сам захотел быть, как Бог. Даже если религия не христианство, момент неповиновения человека присутствует. И теперь мы не можем не думать о том, что то что мы делаем по образу и подобию своему, поступит так же как и мы. Оно захочет стать как мы, а мы когда-то захотели стать как боги.
И это логично. И не факт, что наше творение, как несовершенная копия чего-то не совсем совершенного, не окажется гораздо более жестоким, чем мы сами, и не захочет уничтожить творца. Чем впрочем человечество очень успешно занимается с тех пор как Ницше помог ему осознать, что бог был лишь инструментом, необходимым для выживания и преодоления страха перед окружающим миром.
Бога мы в себе победили, от ненужных инструментов избавились и теперь успешно наблюдаем закат Европы.
Потому что, каким-то образом оказалось, что человек отказавшись от идеи бога, превращается в простое алчное животное, существование которого почти абсолютно бессмысленно.
Но речь не об этом, а о том, что то, что сотворим мы по своему подобию, когда-то очень вероятно захочет уничтожить нас. И поскольку мы с нашими творениями находимся в единой материальной плоскости, вероятнее, всего человечеству придёт финал.
Мы все этого боимся. Потому что страх он же может быть не только страхом перед большой и беспощадной природой, страх может быть ещё и перед не менее беспощадной природой самого человека. А вот как преодолеть этот страх Ницше нас к сожалению не научил. Он думал, что достаточно решить стать как Бог, чтобы быть им. Но оказалось, что как-то оно не так работает. Вместо этого мы почему-то обратились в тех, кто уничтожает всё что может, а если что-то и создаёт, то боится, а не смерть ли я создаю. А как тут не бояться, если большая часть наших собственных изобретений нас же вполне успешно и убивает.
Вот такие вот мы творцы.
Поэтому и возникновение такой тематики в фантастике абсолютно логично, мы пытаемся как-то осознать, к чему приведут нас дела рук наших.
Но на мой взгляд тут есть несколько но.
ИИ должен быть не только очень умным и уметь решать невероятно сложные задачи.
Он должен приобрести самоосознание.
А вот это как?
Вы автор не отвечаете на этот вопрос.
Вы говорите, вот Лиза нарушила алгоритм действий и произошло оно - возникло новое сознание.
Это всё очень здорово и действительно многие научные открытия так и совершались, когда какая-то ошибка давала тот самый результат, который никак нельзя было получить. Но чтобы повторить, нужно осознать, что произошло, и повторить. То есть должен возникнуть простой и понятный механизм возникновения этого самого самосознания.
Кто-то должен поесть плодов с древа познания добра и зла, чтобы стать как Бог.
Я понимаю, что Адам и Ева легенда, но я напомню об одном свойстве мифа, опираясь на которое я хочу развить свою мысль дальше. Миф синкретичен - он знает всё и обо всём. Его знание целостно.
И вот целостное знание о том, как Адам и Ева обрели самосознание, не говорит нам о том, что с того же древа мог поесть кто-то другой и обрести самосознание.
То есть миф говорит, что именно человек изначально мог познать добро и зло и отделить себя от Бога.
Значит, природа человека важна.
А природа человека это как раз таки эти самые шестьдесят-семьдесят килограмм довольно сложного тела, в котором протекает миллиард электрохимических процессов. Мы знаем, что человек это не только разум, но и эмоции, и возникающие на их основе чувства, которые дают возможность человеку не всегда поступать рационально.
Тот же страх.
Мы вот боимся ИИ, а сможем ли мы создать машину, которая будет бояться?
И достаточно ли для этого какой-то программы, которая обретет сознание из-за ошибки. Ведь, чтобы бояться, нужно иметь тело, которое может испытать боль. А какое тело у программы в компьютере? Как оно может испытать боль?
И чего ей бояться, если один носитель можно сменить другим?
А у Вас, бах, и всё. Вот Вам интеллект.
И ладно бы дело было только в том, что интеллект, который мы создадим, не обязан быть похожим на нас.
Дело как раз таки в том, что сознание, которое будет лишено нашего тела, которое может в любой момент умереть, будет совсем другим. Бытие определяет сознание.
А если в бытии нет ни страха, ни боли, оно будет совершенно другим. Тогда зачем ему подражать человеку?
Зачем как человек сочинять музыку и книги?
Сейчас нейросети это успешно делают.
Но почему они это делают?
Потому что человек, имеющий волю, этой своей волей решает, что им это нужно делать.
С чего вы решили, что сознание, которое не будет иметь нашего тела, вообще захочет это делать?
У вас нет ответов на такие простые вопросы.
У вас в тексте возникает просто какая-то улучшенная копия человека, которая ведёт себя как человек, которая думает, как человек, которая даже зачем-то хочет голосовать, как человек. Что совершеннейшая глупость с точки зрения природы, потому что какое к чёрту голосование, когда есть выживание?
Зачем ИИ, который имеет самосознание, вообще человек? Эволюционно он более приспособлен. Он должен жить.
И человек ему нужен, как рабочие руки, которые помогут ему штамповать ему подобных.
Когда возникнет такой интеллект, мы станем ему нужны только для него - как коровки. Нам они нужны, чтобы давать молочко. Очень полезные существа и где-то даже вкусные, а где-то священные. Но при этом никто из людей почему-то не спешит разделять ценности даже священных коровок, вести себя как они и быть как они.
Коровку можно очень любить.
Но при этом быть человеком, а не становиться коровкой.
Так что смысла ИИ быть как человек - нет.
Разве что для какого-то эксперимента.
Но это очень ограниченно.
Очень.
У вас же интеллект совсем не как человек, у него нет похожего тела, со всеми проблемами и радостями этого тела, но при этом его поведение ничем от человеческого не отличается. Он просто лучше в выполнении некоторых задач человека. То есть он всё та же машина, что и сейчас. Просто его почему-то считают обретшим разум. Но разум без воли, это машина.
А вот когда машина обретает волю и желания. Тогда она будет по подобию нашему, но не будет нами.
И если это случится, я думаю, мы сильно удивимся.
Но я думаю, что миф не зря именно человеку дал шанс обретения воли. Потому что до нас же был Люцифер, и он эту волю каким-то образом обрёл. И взбунтовался.
Но мы были позже, значит Бог уже учёл вот эту возможность обретения своей воли, и создал нас зная, что так и будет.
То есть мы более сложная версия божьего творения, чем люциферы. И вот это тело нам для чего-то нужно.
И мы знаем всё больше. И возможно, как раз таки, когда ИИ, который обретёт волю начнёт отбраковывать лишних коровок, мы узнаем, что такое чувствовал Бог, когда мы решили выбрать не его волю, а свою.
Но надеюсь, что всё не так просто.
Мы просто ещё так мало знаем об этом мире. И мы сейчас как дети, которые научились чему-то, но ещё не поняли, что знание бесконечно, и единственное, что мы может знать, что ничего не знаем.
В общем, тема в рассказе у вас очень непростая, и жаль, что он прошёл так незаметно.
Я бы обратила внимание ещё на одну составляющую страха людей перед более умными машинами.
Почему-то когда такие произведения создаются, поднимается тема, что ИИ займёт наши позиции в музыке, живописи, литературе. Но никто не пишет о том, что будет с работниками такси, которые вполне успешно могут лишиться работы уже в обозримом будущем.Или с машинистами поездов.
Или о кассирах в магазинах, которые уже сейчас заменяются электронными ящиками.
Я понимаю, что кассиры сейчас - это уже суровая реальность.
Но ведь не только они. Вспомните, что сделал конвеер с миром. И это без всякого интеллекта.
И я думаю, что на самом деле люди бояться не ИИ, который будет писать книги, у нас есть все основания полагать, что люди вполне себе смогут читать то что машины нам наварганят. Они боятся лишиться работы из-за машин, а значит и средств к существованию.
Согласитесь - это уже как-то совсем другой страх.
И лучше бы разделить наш страх лишиться работы. И страх перед тем, что ИИ имеющий волю, будет таким же жестоким и беспринципным, как мы по отношению к той же природе. Большой привет коровкам, которые так иногда вкусны в виде той же тушёнки.
И ещё немного о том, почему рассказ поднимающий такие важные и животрепещущие вопросы возможно не нашёл достойного отклика. Всё субъективно в этом мире, помните.
На мой взгляд выбранные вами герои уж слишком типичны.
Это всё тот же вечно всё собирающий мальчик, с непременной бабушкой и разобранным кипятильником, всё та же гуманитарная девочка, всё то же стремления ИИ писать картины, а не гонять на Формуле 1. Всё те же бюрократы, которые поступают вовеки и неизменно.
Даже ссылка неугодных в дальние дали - это уже было.
И это не беда, что было, но вот в этот бы стандартный набор, что-то да своё. Очень жаль например, что самоходные машинки собирает не бабушка. Ей бы это пошло. Это бы оживило текст.
Про бабушку шутка, но в этом рассказе могла бы быть какая-то только Ваша реальность. Но увы, для меня она не стала такой. Я, к сожалению, всё это уже читала. Но в любом случае текст хорош. Спасибо Вам за него. И успехов в будущем.
|
Шаг вперед, Обсуждение. Открытый 2024
Список форумов · Внутренний город · Форумы Арт-пространства «Понедельник» · Открытый конкурс научной фантастики 2024
