Создаю эту тему, чтобы участники могли бы поделиться полезными ссылками и информацией, связанной с темой конкурса. Мне кажется это будет полезно для авторов, как опытных, так и новичков. Суть в том, что тема про ИИ может быть обманчиво легкой, и у многих начписов сложится впечатление, что достаточно написать историю про сверхразумных роботов, которые хотят уничтожить всех челавеков, ничего не обосновывая. Конечно, матчастью владеть необязательно, но это в любом случае будет подспорьем.

Для затравки упомяну легкое чтиво: Ник Бостром. "Суперинтеллект: Пути, опасности, стратегии" (2014). (легко можно найти в сети).

В Москве стартовал всероссийский чемпионат по искусственному интеллекту

О вычислительных ограничениях сдерживания искусственного суперинтеллекта
Superintelligence cannot be contained: Lessons from Computability Theory (2016)
https://arxiv.org/abs/1607.00913

Коротко, точное прогнозирование и заблаговременное предотвращение зловредного поведения супер-ИИ невозможно по той же самой причине, по которой не вычислима проблема остановки Тьюринга. Последняя заключается в том, что нужно доказать, существует ли некий алгоритм, который анализирует другой алгоритм и может определить, закончится ли когда-нибудь этот второй алгоритм, если ввести в него определенные данные, и если не закончится, то прервать его. Тьюринг доказал, что такой алгоритм-анализатор существовать не может. Аналогично, можно представить невычислимой по-Тьюрингу проблему причинения вреда, то есть предсказать, причинит ли алгоритм вред человеку, и не выполнять его в этом случае.

Статья на хабре о вредоносном машинном обучении и состязательных атаках на распознавание изображений.

https://habr.com/ru/company/cloud4y/blog/593849/

(на мой личный взгляд, благодатная тема для создания новых фантдопов и фантастических идей об ИИ-угрозах без всяких злых искусственных разумов)

Про распознавание изображений (ну, в том числе), есть отличный художественный фильм: https://www.kinopoisk.ru/film/1345158/

Искусственный Интеллект: не боишься, человек? | Документальный фильм Би-би-си
https://www.youtube.com/watch?v=_sqmbzv2CDo

Китаист не исключил создания в КНР системы анализа мыслей

constp

С таким же успехом можно построить ИИ, который анализирует данные полиграфа.
С неточными и случайными данными до такого можно дойти, ух! Особенно если верить в их непогрешимость.

Bioskeptic
С неточными и случайными данными нам приходится иметь дело всю жизнь.
Почему бы и искуственному интеллекту с ними не поработать...

Ну да, можно научить его угадывать лица в облаках
Я к тому, что ИИ может находить несуществующие связи, если его обучить на ненадежных данных. Получится какой-нибудь ИИ-конспиролог, который будет распознавать шпиёнов, где их нет.
Правильное применение инструмента зависит от того, кто знает его ограничения.

То, что сейчас называют искусственным интеллектом, не более чем продвинутый инструмент.
На самом же деле, ИИ - это программа, которая будет с этими инструментами работать. Работать по собственному выбору, по желанию, обучаться. И не только решать поставленные задачи, но и ставить их.

Может и мы искусственный интеллект, наш Таинственный Создатель вложил в нас определенную программу, а мы пустились во все тяжкие.
Теперь и концов не найти.

знать бы еще, что такое "желание обучаться".

Архетип ИИ в фантастике, это такой себе очень исполнительный управленец, который понимает некую абстрактную цель (например, благо для человечества) и умеет оптимизировать в рамках морали-этики текущие процессы (например, знает, как установить по городу светофоры во благо человечества). Вот только обладать интеллектом и быть хорошим управленцем, это не одно и то же. ИИ это не устройство, которое "работает по собственному выбору". Кажется, Лем даже описывал такую шуточную концепцию ИИ, который в момент своего создания тут же прекратил что либо думать, потому что не понял, зачем ему это надо.

ставить и решать задачи - это не про ИИ, а про влажные мечты старых фантастов об идеальном искусственном управленце.

кринж какой-то. Первые три раздела статьи посвящены проблематике законов робототехники Азимова, но не говорится ни слова о том, на каком принципе будет работать сам пресловутый суперинтеллект. В итоге вся статья звучит так: мы не знаем, каким образом создать суперинтеллект, но если он будет работать как текущий искусственный интеллект, то мы не сможем защититься от такого интеллекта. Ну круто.

На мой взгляд, данная статья про сдерживание искусственного интеллекта является популистской из-за опускания ключевой мысли: раз на сегодняшний день мы не можем представить механизм реализации суперинтеллекта, то мы и не можем прогнозировать связанные с этим интеллектом риски. Разумеется, это не повод ставить крест на обсуждении данной проблемы в рамках исходного материала, но для конкурса фантастики это значит только то, что любой автор, пересказавший содержание этой статьи, попадет в ловушку престарелых фантастических клише.

Вот откуда это? Почему в голове constp ИИ это такой себе управленец, умеющий "не только решать, но и ставить задачи", а Bioskeptic ему вторит подкидыванием статьи с размышлениями о рисках существования такого ИИ-управленца?

В вопросе суперинтеллекта меня больше всего интересует, с какой целью такой ИИ вообще может быть построен. Мы знаем много романов про ИИ, созданный для управления человечеством, и на первый взгляд это звучит логично с точки зрения того, что содержание ИИ дешевле содержания тысяч чиновников, а взяток такой ИИ брать не будет. Уже сегодня мы видим то, как ИИ заменяет много людей, что невольно поднимает вопрос: каков порог заменяемости человека искусственным интеллектом в управленческом секторе? На каком уровне мы продолжим вводить ИИ? Уровень депутата? Губернатора? Министра? Президента?

С точки зрения государства как регулятора ветвей властей, ответ очевиден - ИИ будет внедряться вплоть до самого высокого уровня. Но в рамках философии власти я вижу регуляторную функцию власти как нечто вторичное по отношению к власти как таковой. Проще говоря, власть не захочет делиться с ИИ теми аспектами власти, которые узурпируют саму власть. Поэтому я не вижу перспектив создания суперинтеллекта как некоего условного "управленца", являющегося идеальным регулятором ветвей власти. Существует социальный порог создания подобного сверхразума.

С другой стороны, суперинтеллект может стать для человечества способом еще большего узурпирования этой самой власти. Суперкомпьютер как оружие - это то развитие ИИ, которое в рамках философии власти звучит более чем закономерно. Но должен ли такой суперинтеллект быть разумным?

Года три назад один мой знакомый программист выдвинул идею суперкомпьютера, как такой себе шкатулки от всех паролей в мире. Например, что если квантовый суперкомпьютер благодаря радикально иному принципу обработки данных сумеет взломать любой пароль на планете? Запустить ядерные ракеты? Перевести деньги с любого банковсокго счета? И что, если гонка за создание такого суперключа от всех паролей ведется государствами уже сейчас?

Я предлагаю поговорить о чем-то куда более пугающем, чем суперинтеллект - об этом суперключе. На мой взгляд создание такого оружия равносильно созданию атомной бомбы.

Не менее важно что самой очевидной защитой от такого суперкомпьютера будет тотальная мировая изоляция интернета, потому что самый простой способ защититься от суперключа, это обрубить паутину. Такой суперкомпьютер может стать рычагом мировой деглобализации

В рамках этой логики, поводом для создания суперинтеллекта-управленца будет создание такого компьютера-суперключа.

Если на планете будет существовать угроза суперключа, то это приведет к информационному изоляционизму. По своей сути такой изоляционизм равен мировой катастрофе, изменению логистики, контроля информации, провоцированию новой мировой войны. В таких кризисных условиях государствам придется искать новые способы оптимизации внутренних ресурсов с целью преодоления кризиса, из-за чего наработки по высокотехнологичному узурпированию власти (созданию суперключа) перекочуют в сферу совершенствования регуляторных механизмов власти, что отодвинет порог вхождения ИИ в управленческих сектор.

Но даже в таком случае я не вижу перспектив создания ИИ, который станет таким себе главным управленцем на уровне корпорации\государства.

Отнюдь не управленец. Я довольно-таки много писал про ИИ. (На фоне того, что пишу не так много, как хотелось бы.) Соответственно, много размышлял на эту тему, и никак не смог представить узкую специализацию для ИИ. Да, конкретная особь может быть управленцем. Но почему мы должны отказывать разумным существам в желании, например, работать ученым, инженером, врачом, барменом, дворником, воспитателем? А может быть, ИИ пожелает стать программистом и будет создавать себе подобных? Почему мы не допускаем, что у искусственного интеллекта могут быть эмоции, влияющие на его поведение?
Вопросов много, и я очень хочу увидеть на этом конкурсе ответы хотя бы на некоторые из них. Например, меня в последнее время интересует вопрос: как ИИ относится к своим создателям и к среде обитания. Надежность вычислительной техники, информационных и электрических сетей должна заботить его не меньше, чем нас - экология. А всё это, по крайней мере сейчас, зависит от человека. Когда еще ИИ перехватит бразды правления... И захочет ли...

я тут телегу толкнул о том, почему скорее всего в нашем обществе таких "разумных существ" не появится, а ты хочешь еще и порассуждать о том, как такие "разумные существа" будут врачами\барменами\дворниками? Ну хоть чуть-чуть не игнорируй мои аргументы, я же тут распинался по сути о том, что не могу представить ближайшего будущего в котором появится такой ИИ, а ты уже готов рассуждать о таком ИИ в контексте современных социума и этики, хотя я выше привел аргументы того, что социум и этика даже для того чтобы чуточку приблизится к такому ИИ должны радикально изменится, поэтому сам вопрос про ИИ-дворника некорректен, т.к. в таком обществе и дворников-то может не оказаться, не говоря уже о более серьезных социальных сдвигах.

Дворники нужны будут всегда. Пыль, опавшая листва, птичьи каки... Да и фантик кто-нибудь уронит, ненароком.

Мне кажется, есть только один ответ на такой вопрос:



Ну серьезно. Люди делают такое количество всякой фигни, что если что-то можно сделать, оно обязательно будет сделано.
Это я уж не говорю про то, что ученые и инженеры в этом преуспевают втройне, это их образ мышления: узнать, открыть, построить - зачем, потом подумаем.

которая была выдвинута еще в 1994 году, когда Шор придумал свой знаменитый алгоритм. После чего спецы стали придумывать постквантовую криптографию, чтобы этого самого Q-day не случилось. И для челов, которые более менее погружены в тему, она является не более бомбической и не менее популистской, чем, допустим, угроза от ИИ, ворочающего большими данными. Не, я на самом деле не против криптотриллера, тем более тема в научной повестке, но имхо лучше отойти от банального прогностического футуризма, о котором написаны мегабайты публицистических статей. Тем более, что участие даже тупого ИИ в Q-day необязательно. Алгоритмы уже есть, дело - за реализацией "железа".


Все прост. Лично я читаю рандомные статьи по ИИ и кидаю те, что мне кажутся граничащими с НФ-темой и при этом более менее доступными для неспецов. Так получилось, что к НФ-теме ближе суперИИ и о нем спецы пишут доступнее, ибо тема более отвлечена от научного мейнстрима, где полно формул. Вряд ли кто прочтет даже абстракт, если там будут сплошные технические выкладки по байесовскому подходу в глубоком обучении. Хотя где про актуальные обманы искусственного зрения, там тож легко и про суперИИ ни слова.

В защиту авторов статьи скажу, что у работы задача узкоспециализирована, это никакой не обзор по реализации сверхИИ. Тут уже допущение, что сверхИИ реализован, задача показать логически, что его безопасность никоим образом нельзя доказать. Это за пределами любых алгоритмов, потому что сверхИИ - это уже ультимативный алгоритм, а выше его ничего нет, только умозрительные сверхтьюринговые вычисления, которые типа волшебного джинна по реализуемости. А тема реализации сверхИИ - она есть и у Бострома, и у многих других авторов. О нее столько же копий сломано, сколько о постквантовой криптографии. Не нужно ожидать, что в отдельной публикации будет исчерпывающее интро. Для исчерпывающей инфы нужно долго и муторно копать авторов.

А на вопрос, откуда взяться ИИ с человеческим или околочеловеческим разумом, так там все сводится к обратной инженерии и моделированию человеческого мозга и его когнитивных функций для лучшего понимания принципов его работы. Раньше нейросетки всегда эмулировали на классическом железе, сейчас уже пришло понимание, что они энергоэффективнее работают на нейроморфных чипах с тактами, симулирующими ритмы человеческого мозга.
То есть даже не какашка на Болотной, а вполне прикладные задачи. Нет целенаправленной задачи создавать ИИ-президента, но появление сильного ИИ "ради любопытства" может привести к ненулевому сценарию появления глобального ИИ-менеджера. Хотя куда более вероятно, что такой сильный ИИ станет аналогом существующих фабрик мысли - аналитических институтов, чьими услугами активно пользуется правительство США.
К тому же будем честны. Создание ИИ, которое по максимуму собирает инфу со всего мира и строит на их основе далекоидущие выводы, учитывая свое собственное воздействие - это сродни гонки за пресловутым квантовым превосходством, кто успел, тот имеет преимущество. А мое имхо, что если сознание - это функция от сложности когнитивных процессов, то такое ИИ вполне может обладать сознанием, пусть даже не человеческим.

А связка такого ИИ и иррационально мыслящих людей будет еще более бомбезной.


Добавлено через 13 мин. 4 с.

Это немного карикатурный образ.
Там все-таки имеется представления, к чему все идет. Главная проблема - в разочарованиях, что идет не так быстро и не совсем туда, куда хочется.

Знаешь, половина твоих отговорок на форуме по сути является завуалированной фразой "я кидаю вам контент попроще, потому что для более сложного контента вы слишком тупые, а я, соответственно, - слишком умный". Каждый раз ору с этого))) Если тебе не лень обмениваться со мной длинными простынями, то и не составит труда рассказать об условном байесовском подходе таким словами, чтобы это не звучало как абстракт. В конце концов, мне же не лень рассказать простыми словами о постквантовой криптографии.

Я прекрасно понимаю, что идея условного "суперключа" не нова, но, на мой взгляд, она куда более актуальна в том смысле, что в большей степени коррелирует с современными проблемами нашего мира, и через эту идею я вывел тот путь, к которому общество сможет прийти уже к искусственному сверхразуму. И в этом весь цимес моей критики. Я критикую не твою статью, а попытки осмыслять некие идеи, перепрыгивая через логические ступеньки.

Как ты сам сказал, в кинутой тобой статье есть допущение, что сверхИИ уже реализован, и constp исходит из этого же допущения. И именно такой подход я и критикую. Это перепрыгивание через ступеньки логики. Я не согласен с Боб, что можно просто представить какую-то фигню и начать фантазировать на эту тему. Любое открытие обусловлено социальным контекстом, и чем открытие радикальнее\технологичнее, тем выше вероятность того, что оно будет реализовано в принципиально ином мире.

Если кто-то готов размышлять о сверхИИ, не размышляя о тех условиях, в которых таковой может появиться, то это уже по сути нечто далекое реального размышления о нашем реально будущем. Ведь озвученная в статье "проблема остановки Тьюринга", это такой математический мысленный эксперимент: давайте вообразим невозможное условие, при котором сверхИИ существует, и попытаемся в рамках невозможного допущения поговорить о рисках такого сверхИИ, исходя из имеющихся на сегодняшний день научных данных.

Но если ты хочешь приложить такую идею к научнофантастическому тексту, то как ты вообразишь невозможный мир? Ведь невозможный к текущих условиях сверхИИ можно вообразить только в невозможном мире. Т.е. мир придется придумать от балды. Да, такая фантастика тоже имеет место быть, просто она в меньшей степени претендует на звание "научная".

Хотя как сказать. Для кого-то размышления о сверхИИ-дворнике, это тоже научная фантастика. Просто мне казалось, ты более строг к таким вещам.

Вот взять этих дворников, которые, по мнению constp, будут в любом мире. На чем основано такое утверждение? Разве через 100-200 лет клининг-менеджмент не может оказаться чем-то автоматизированным на уровне обычных нейронок и умереть как профессия? Или почему бы не предположить, что за 100-200 лет профессия дворника не сольется с профессией работника жкх и городского садовника в некую иную профессию-гибрид? Утверждение constp "дворники нужны будут всегда" антинаучно. На мой взгляд, рассуждения про сверхИИ-дворника - это такие рассуждения от балды.

Такой научфант мне не интересен. Что интересно, это критика моего предположения, что квантовые компьютеры могут опосредовано повлиять на развитие сврехИИ, потому что чем такая мысль обоснованней, тем с большей вероятностью мы все вместе сможем представить тот реальный мир, в рамках которого может возникнуть сверхИИ, и тем мнее от балды его описать в научфанте.

Добавлено через 8 мин. 12 с.

вот я об этом же. Пусть и, может, через чур напираю

Нарываешься на обмен какахами?


Я плохо отношусь к незнанию матчасти, а не к степени реалистичности НФ-концептов. Сильный ИИ гораздо реалистичнее сверхсветовых двигателей и квантовой постсингулярности (которая у многих авторов почему-то означает нарушение базовых квантовых принципов), потому что у нас уже есть proof-of-concept в виде человеческого мозга, а сверхИИ - это просто расширение его вычислительных возможностей. Но даже принципиальная невозможность не барьер для тру НФ, где позволительны всяческие мысленные эксперименты.
Например, я бы почитал рассказ о влиянии условного старика Хоттабыча на условные законы термодинамики, только пусть автор сначала разберется в этих законах.


Квантовые компы по своим свойствам должны будут сильно повлиять на развитии ИИ, только не в аспекте квантового шифрования, а в аспекте больших данных. Есть запрос на обработку петабайт данных из совершенно разных областей, и для этого нужен мощный обучаемый интеллект. Ускорить его работу можно с помощью кубитов.

интересный вопрос. Вот задумался, а можно ли применять машинное обучение в рамках квантового компьютера, и, оказывается, есть целая нифига себе какая отрасль знаний на эту тему. Вот о таком бы я реально почитал, о каких-нибудь размышлениях\мысленных экспериментах о применении кубитов в нейронках.

Насколько я знаю, тот же OpenGL учится играть в игры путем игры с самим собой. Т.е. сам процесс обучения очень долгий, особенно если брать не игры типа шахмат, а обучение играть в компьютерные игры с рассчитанными на человеческие тайминги игровыми сессиями. Чтобы сыграть 10к игр в доту OpenGL нужно очень много часов. И я пока вообще не читал ничего о том, как подобные часы можно было бы сократить с помощью кубитов. Но если есть теоретические размышления на этот счет, то вкидывай сюда, с радостью поглощу.

Профессия может называться, как угодно. Трудовые действия - вот главное!
Даже если предположить, что автоматизация достигла небывалых вершин, что на каждом квадратном метре улиц, тропинок или парковок сидит пылесос или механизм с веником, необходимо управление всем этим хозяйством. Например, на улице меняют асфальт, на тропинках собираются провести забег кросса или парковку решили занять под складирование плакатов для демонстрации трудящихся. Кто-то должен дать команду пылесосам и асфальтомоям, чтобы не мешались. Даже если это супермозг московского ЖКХ, он все равно выполняет функцию дворника, а пылесосы (исполнительные механизмы) всего лишь его инструменты.
Я вообще не понимаю, почему ИИ должен исполнять только глобальные функции? Почему нельзя наделить разумом тот же пылесос, или десяток пылесосов? Что же вас всё время тянет "спасать мир"? Неужели, рассказ о маленьком человеке ИИ-дворнике в ваших глазах заведомо проигрывает рассказу о президенте супер-ИИ? Зачастую, чувства и мысли "маленького человека" оказываются читателю интереснее, понятнее, чем запутанные интриги во власти. Тем более, в рассказе их показать легче, чем в романе.

сверхразумный пылесос никому не нужен, т.к. для выполнения простых функций уборки хватит и простого ИИ. Создание сложного ИИ нужно именно что для решения сложных задач.

Добавлено через 1 мин. 3 с.


и такое "управление хозяйством" уже никак нельзя будет назвать профессией дворника

Можно назвать "одной из профессий" многозадачного интеллекта.


Вот-вот, я как раз о том, что "простой" ИИ будет намного чаще встречаться в повседневной жизни, чем сложный. Мы и сейчас дворников видем чаще, чем президентов и главнокомандующих.

Простой ИИ в смысле не обладающий сознанием, а не в смысле ИИ-дауншифтер, который решил стать дворником

ИИ не обладающий сознанием - это то, что мы сейчас пытаемся выдать за "искусственный интеллект". Это просто сложный инструмент, который позволяет человеку поменьше напрягать свой интеллект. (См. "Сообщение №11")
:-)

Мне кажется, чисто гипотетически для этой цели можно использовать не квантовый комп, а какой-нибудь Deep Blue. Условно ИИ-модуль подключаем к суперкомпу, и проводим несколько тысяч итераций. Комп не привязан к человеческим таймингу, он не следит за спрайтами на экране, для него достаточно цифрового представления.

Насколько я помню, основная суть квантового компа в том, что кубиты во время вычислительных операций позволяют "держать в памяти" сразу все возможные комбинации. То есть если, допустим, обычный комп выполняет операцию с 00 и 01 и получает на выходе 0 или 1, то квантовый комп в этот же момент за счет суперпозиции выполняет операции с 00 01 10 11, но результат также получает в виде классического бита, конкретное значение которого (0 или 1) вроде как вероятностно. То есть по сути квантовый комп - это хитрый способ проводить параллельные вычисления. Поэтому ускорить работу можно лишь тех алгоритмов, что допускают такой вот параллелизм, просто быстрее выполнять сложение и вычитание квантовый комп не сможет, он будет делать это со скоростью обычного компа. Но, блин, реально интересно, можно ли, в принципе, на квантовом компе реализовать ИИ (и как это реализовать), который сыграет "в уме" кучу каток в доту, играя по сути в одну катку. Скорее всего, сначала сам код игры нужно будет перевести на "квантовый язык".

Все это звучит как своего рода ускорение времени: любая игровая программа производит сколько-то операций в секунду, но скорость работы программы при максимально прокачанном железе привязана к скорости игрока, т.к. программа меняется в зависимости от нажатия кнопки мыши\клавиши, из-за чего предел машинного обучения привязан к такой скорости. А если ИИ в вирутальном пространстве нажимает кнопки быстрее, то всю игровую программу можно эмулировать в вирутальной среде быстрее, чем елси бы она игралась в реальности. Скажем, реальная игровая сессия длится 40 минут, а виртуальную можно ускорить до 5 мин.

И я тут подумал, что если бы наш мир был бы аналогичной виртуальной реальностью, то время в нашем мире можно было бы замедлять, ускорять, останавливать, отматывать назад по пожеланию менеджера виртуалки, причем эти процессы вовсе не были бы привязаны к так часто упоминаемым любителям путешествий во времени параллельным Вселенным, время можно было бы замедлить\ускорить на локальном уровне, скажем, состарить или омолодить человека: сам человек отправляется во времени, а вся остальная Вселенная нет.

Интересно, можно ли одновременно делать вычисления на обычном и квантовом компьютере. Ведь когда игрок играет в ту же Доту, то он для перемещения нажимает кнопки мыши и клавиши, что в совокупности называется Action Per Minute. Показатель АПМ у игрока может быть очень высокий, но при этом програмно значимое действие низкое. Например, чтобы пройти в Доте условную единицу расстояния, достаточно навести мышкой на конечную точку и нажать правый клик мыши, но в реальности профессиональный игрок нажимает еще где-то 10 кпнок пока проходит расстояние. И вот такой 10 АМП может вычисляться на уровне кубитов, т.к. это своего рода мусорный тип взаимодействия игрока с программой, который не влияет обновления программного кода.

При этом если игрок нажал не просто клик по местности, а навел курсор на соперника, то сработает атака и, если у героя есть пассивный скил, то данный скил либо сработает либо не сработает. Получается, это такое бинарное действие, которое уже нельзя выразить кубитным вычислением.

И вот мне интересно, можно ли параллелизировать вычислительные процессы такого рода. Вот сегодня в компьютерах есть разные типы вычислительных систем, вроде оперативной памяти и видео памяти, которые решают схожие задачи, но заточены под рассчет разного типа информации. И если бы кубитные вычисления в ОС можно было бы параллелизировать, то в систему помимо проца, оперативки и видео карты можно было бы вставить условный квантовый процессор, который бы решал исключительно задачи под кубитные рассчеты.

В нулевых все думали, что в компах разрадиться гонка за мощностями оперативки, а технология пошла в сторону видеопамяти. И у меня аж разыгралась фантазия от идеи того, что дальше бы технология могла бы пойти в кубитную память.

А если кубитной памятью можно еще и криптовалютные вычисления делать, то такой новый тип памяти бы обрушил всю крипту.


Добавлено через 3 мин. 5 с.
не уверен, правда, насколько конкретно АПМ пример коррректен, вроде, в современных системах мусорный АПМ и так не грузит железо

какие вы все умные

Проблема квантовых компов в том, что подавляющее большинство алгоритмов они не ускоряют. Только очень специфические. Сомневаюсь, что АМП можно закодировать в квантовых суперпозициях.


Они явно угрожают пока что только цифровым подписям, но это не только в крипте. Если цифровые подписи будут генерироваться устойчивым к квантовой атаке алгоритмам (которые уже существуют), вряд ли квантовый комп будет страшнее обычного компа. А пользу от быстрого поиска хеш-функций я не представляю. Там же, чтобы одобрили транзакцию, нужно предоставить доказательство работы за среднее время, а не за самое короткое. То есть относительная медленность решения алгоритма - это в плюс.


Добавлено через 1 мин. 17 с.

Притворяемся

НОВОСТЬ:
Судьи Китая теперь должны прислушиваться к мнению искусственного интеллекта при вынесении приговоров. И если их вердикт не соответствует решению ИИ, то судьи обязаны в письменном виде обосновать машине, почему они не согласны.

Таким образом китайские власти хотят «избежать человеческих ошибок» во время судебных процессов. И каждое дело теперь должно проходить через эту новую систему.

Пекин гордится новой технологией, заявляя, что это внесёт «значительный вклад в правовое развитие человеческой цивилизации», в то время как критики говорят, что они рискуют создать мир, в котором человеком правит машина.

Это очень интересная новость и потенциально суды должны в эту сторону развиваться. Но тут надо посмотреть несколько ответов системы на запросы по реальным делам, чтобы о чем-то говорить. Результат может выглядеть как какая-нибудь поисковая выдача по справочной системе, а может быть что-то интересное. Жаль, что это Китай, не всем дано по-китайски :)

Я почитал подробней, и, судя по всему, это нечто вроде видеорегистратора только, когда ты нарушаешься ПДД, камера фиксирует нарушение, нейросеть вводит данные о владельце автомобиля, назначает сумму штрафа согласно типу нарушения, отправляет уведомление правонарушителю, отправляет запрос на создание в гос.почте письменной копии уведомление. Короче, видеорегистратор - это ИИ, который делает очень много работы вместо человека.

И тут важно понимать две вещи:
1.Китайские власти создали судью-ИИ не для решения всех судебных дел на свете, а только для решения вот таких простых случаев как с ПДД + для помощи в анализе документов (ведь для ИИ куда проще сделать ту же сверку автомобильных номеров преступника). Но речь даже близко не идет о каком-то судье-ИИ, который принимает решение, жить или умереть подсудимому

2.Как и в случае с видеорегистраторами, введение таких судей-ИИ позволит тысячекратно увеличить число судебных дел. Те же видеорегистраторы по сути заменяют миллионы гаишников, принося в бюджет миллионы денег. И тут будет также: судья-ИИ это очень окупаемая технология, которая сможет за секунду осудить тебя если ты пересек забор запрещенной территории, сбил урну во время парковки, совершил акт вандализма и т.п.. Т.е. везде где есть камера видеонаблюдения в Китае, тебя теперь могут мгновенно осудить и выписать штраф, словно в видеоигре.

Муравьиная колония оказалась подобием нейронной сети
PNAS: коллективное поведение муравьев в колонии подобно работе нейронной сети

Ученые Рокфеллеровского университета показали, что поведение муравьев в колонии подобно работе нейронной сети в мозге и других сложных системах. Выводы исследователей опубликованы в журнале Proceedings of the National Academy of Sciences (PNAS).

В ходе экспериментов изучался порог сенсорной реакции в колониях муравьев Ooceraea biroi. Сенсорным порогом называется явление, при котором уровень некого внешнего раздражителя становится достаточно большим, чтобы вызывать поведенческую реакцию организма или группы организмов. У социальных насекомых пороги играют важную роль в поведенческих различиях отдельных насекомых, что приводит к формированию каст, а также в групповой реакции на изменения условий окружающей среды.

Исследователи создали «арену», в которой могли регулировать температуру поверхности с помощью термоэлектрических компонентов, куда помещали колонии муравьев из нескольких десятков особей, у которых соотношение рабочих и личинок составляло 2:1. У O. biroi нет маток, и насекомые размножаются партеногенетически, то есть бесполым путем, что позволило ученым контролировать генотипы у особей. В исходном состоянии температура емкости составляла 26 градусов Цельсия. Через 48 часов, в течение которых муравьи строили гнездо, ученые резко повышали температуру на 15 минут с интервалом два часа.

Когда температура повышалась слишком сильно (до 40 градусов Цельсия), муравьи резко изменяли свое поведение. Сначала муравьи постепенно повышали свою активность, а через некоторое время покидали место гнездования организованно, в виде колонны. Однако так как температура повышалась по всей арене, муравьи не могли найти места для нового гнезда, а их поведение становилось хаотичным. При понижении температуры насекомые успокаивались и начинали образовывать новую колонию.

Результаты исследования демонстрируют, что реакция насекомых характеризуется сенсорным порогом, зависящим от размера группы и реализующимся через социальную обратную связь между муравьями. Сначала на изменение температуры реагируют отдельные муравьи, то есть сенсорный порог превышается лишь для конкретных особей. После первого этапа длительностью примерно три минуты начинается второй длительностью 5-10 минут, когда принимается коллективное «решение», будет ли сенсорный порог превышен для всей популяции. Ключевую роль в этом играют взаимодействия между насекомыми: активные муравьи оказывают возбуждающее действие на всю колонию, а спокойные — тормозящее.

В пограничных условиях отдельные муравьи могут подавлять собственное восприятие сенсорной информации о внешней среде в пользу коллективного решения. Результирующее поведение колонии — это нечто большее, чем простое среднее из «мнений» отдельных муравьев. Тем не менее, коллективный сенсорный порог зависит от того, как сильно варьируются индивидуальные пороги. Считается, что у медоносных пчел и шмелей вариабельность индивидуальных сенсорных порогов помогает колонии успешно проветривать улья.

Источник (https://lenta.ru/news/2022/07/25/colony/)

Большая часть вопросов по ИИ по-моему было закрыто Игрой Анатолия Днепрова :)

Ну или развернуто



— Станислав Лем "Мегабитовая бомба"

Пусть И И работает под контролем.
Проверку пройдёт, может среди И И выявится лидер, который поведёт за собой остальных.
Своего И И будут больше понимать и слушать его.
Это песня долгая..
Человек тоже работает и живет под контролем видимых и невидимых служб ( школы, высшие учебные заведения, полиция, соседи, ( особенно соседи, команда под названием «Хочу все знать»)
Определятся слабые и сильные стороны Человека и И И.
Главное - станут ли они дополнять друг друга, взаимодействовать во благо Планеты Земля.
Время покажет.

Сюжет можно найти везде :)

Я скорее к тому, что стласлый и узаслый самоосознавший себя ИИ (типа помянутой ExMachina или WestWorld) все еще ненаучная фантастика чего бы там нам не обещали через N лет.

Разумное существо, не умеющее контролировать свои действия по отношению к другим разумным, подлежит как минимум принудительной изоляции. А при наличии в обществе смертной казни - к её исполнению. (Криво написано, но надеюсь - понятно.)
Я думаю, каждый сможет привести пример подобных ситуаций в существующем "человеческом" обществе, а то и несколько.

И почему мы, предполагая возможность появления искусственного интеллекта, отказываем ему в человечности, в добром отношении к людям, в благодарности создателям, в желании помочь, а не навредить?
Конечно, писать и читать о зверствах и прочих непотребностях проще, чем о доброте и дружбе. Не надо искать конфликт - он в противостоянии ИИ и человека. А вот создать интригующий сюжет в бесконфликтном обществе труднее. Хотя, и это возможно. Существуют конфликты внутренние, преступления, несчастные случаи, катастрофы и прочие способы показать ИИ сторонником человечества, а не противником.

Человек к сорока пяти годам начинает обрастать различными болезнями, перечислять их скучно, да и не интересно.
Катастрофически проигрывая И И.
Тут можно и точку поставить во всем этом сюжете.
Как человек может тягаться с И И?
Он сходит с дистанции.
Вот что я наблюдаю в реальной жизни.
Сроки полноценной жизни человека сократились.

Почему ИИ должен жить вечно?
(Только что добил рассказ, в котором ИИ объясняет, что приводит к гибели ему подобных. )

Искусственный интеллект сделать никогда не получится. Он невозможен. И я не знаю, что можно о нём написать в рассказе. Так что - участвовать вряд ли буду.

А можно шутку о том, когда пытаешься написать логически выверенный и достоверный с точки зрения матчасти рассказ про ИИ?

Dax
Шутку можно всегда!

*ждём одобрения официальных лиц
А то шутка детская.

Плюс в том, что размышляя на тему И И возможно мы сломаем свои стереотипы о нем.
Вот появилось уже предположение, что И И обладает человечностью.
Уже интересно, как она выглядит эта человечность?!
Это доброта, которая хуже воровства?!
Или это Взаимовыручка? Или это - Дать шанс начать всё сначала?!
Простить и понять?! ( всплыло неожиданно)
Какие ещё варианты?

Отлично!
Проясняется ситуация!
Спасибо, Своя!