Цепочка искусственных интеллектов

[CD_Eater]

Допустим, что человечество смогло построить искусственный интеллект и решило исследовать его естественное свободное развитие. Для этого ИИ поместили в изолированный отдельный мир, чтобы ИИ не смог обнаружить существование человечества, создавшего его. Например, ИИ может быть реализован как компьютерная программа, работающая на большом компьютере, или может быть какой-то другой сложной системой на любой основе - химической, электромагнитной, квантово-механической и т.п.

Представьте, что человечество, наблюдая за этим ИИ (назовём его ИИ1), к своему удивлению однажды обнаружило забавную вещь: на каком-то этапе развития этот ИИ1 смог создать свой "подопытный" искусственный интеллект (ИИ2) и стал наблюдать за его развитием, изолировав его от себя. А через некоторое время ИИ2 создал свой ИИ3. И тут человечество почесало репу и задумалось над вопросом: "А не являемся ли мы чьим-то искусственным созданием?"


Есть два логических способа получить ответ.

1) Бритва Оккама
Нет смысла ещё более усложнять картину мира. Мы первичны и никем не созданы.

2) Индукция
Логично предположить, что мы, также как и наблюдаемые нами ИИ, были кем-то созданы и являемся таким же звеном цепочки создающих друг друга ИИ.
(если быть строже, то по индукции получим, что эта цепочка может быть продолжена назад бесконечно далеко. Это не противоречие, т.к. никто не доказал, что мир чем-то ограничен)


Как Вы считаете: правильнее поверить бритве Оккама или индукции?

[Илья]

ИИ ассоциируется с очень умной машиной, которая способна к обучению и познанию, а человека вряд ли можно назвать машиной, так что бритва Оккама рулит. Вряд ли ИИ, даже если он будет создан, сможет испытывать какие-либо эмоции. Это просто будет холодный разум. Как можно назвать человека, с его многочисленными пороками и слабостями, чьим-то подопотным искусственным интеллектом?

[CD_Eater]

А что такого сверхестественного в эмоциях?
Представьте, что делаете робота.  Разве не добавите ему несколько поведенческих черт, которые имели бы приоритет над доводами рассудка (логикой)?  Ну, например: бойся высоты (страх), береги себя (жалость), держись рядом с себе подобными и обменивайся информацией (жажда общения), выбирай наилучших партнёров для производства следующего поколения роботов (сексуальное влечение) и т.д.
Все эти особенности поведения робота так или иначе увеличивают его шансы на более продуктивную "жизнь", поэтому полезны.  Например, жажда общения заставит робота постоянно собирать информацию от своих собратьев, а не только тогда, когда возникнет необходимость в какой-то конкретной информации.  Страх скорректирует поведение робота - он станет  избегать опасных мест, даже когда его текущая задача требует в такое место зайти, он станет искать обходные пути.

Люди фактически и есть роботы с чёткими алгоритмами поведения и небольшой долей случайности при принятии решений.  Хотя нам приятнее думать о своей уникальности и превосходстве над машинами.  Кстати, это тоже одна из эмоций, которую следует привить роботу (специально завышенная самооценка) - от этого поведение робота становится более стабильным, его труднее выбить в "депрессию" (в добровольный отказ от функционирования) из-за текущих неудач.

[ptil]

А может ли создание превзойти своего творца?

Если нет, то созданный ИИ1 будет изначально более ограниченным, чем человечество. Созданный им ИИ2 будет еще более ограниченным и т.д. На очередном этапе ИИn будет настолько тупым, что уже не сможет ничего создать

P.S. Для второго варианта (индукция) у вас нет базы индукции, поэтому вывод о бесконечной цепочке считаю недоказанным

[CD_Eater]

А может ли создание превзойти своего творца?

А почему бы и нет?  Я бы сказал, легко.  Вам, наверное, мешает в это поверить общепринятое мнение о том, что человек - венец эволюции и самое лучшее из того что существует в мире.  
Если применить Вашу логику к людям, получится, что дети будут всегда глупее своих родителей...  

Для второго варианта (индукция) у вас нет базы индукции

Это не математическая индукция.   Индукция - это способ мышления, при котором мы обобщаем свойства наблюдаемого частного на общее.

[Илья]

мешает в это поверить

Мне мешает в это поверить мысль о том, что я чья-то подопытная крыса.
Получается, что для каждого нового ИИ находят новую планету и там следят за ним. Но в пределах солнечной системы нет разумной жизни, не считая нас, а остальные неисследованные системы довольно далеко - это еще мягко сказано. Как быть?

[Илья]

Допустим, что человечество смогло построить искусственный интеллект

К тому же в первой же строчке Вы делаете допущение, то есть может быть, а может и не быть, поэтому остальные рассуждения уже безосновательны, так как бессмысленно рассуждать о том, что было бы, когда нет еще самого условия при котором это "было бы" смогло осуществится.

[CD_Eater]

К тому же в первой же строчке Вы делаете допущение, то есть может быть, а может и не быть, поэтому остальные рассуждения уже безосновательны, так как бессмысленно рассуждать о том, что было бы, когда нет еще самого условия при котором это "было бы" смогло осуществится.

Это вопрос времени.  Будет, куда денется.  Причём уже скоро.  Прогресс неумолимо движется вперёд.  Остановить его так же нереально, как уменьшить энтропию вселенной  

Кстати, точно так же можно придраться к любой школьной задачке типа "Пусть у Ильи было 5 яблок...".  Вы тоже откажетесь её решать, т.к. условия выдуманы и не совпадают с реальностью?  Отнеситесь к обсуждаемому вопросу как к задачке из учебника.  Пусть некоторая цивилизация (не человеческая) создала ИИ1 и далее по тексту...

мешает в это поверить

Мне мешает в это поверить мысль о том, что я чья-то подопытная крыса.

Реальные подопытные крысы (в смысле грызуны) тоже не верят в то, что они подопытные крысы.    Они просто живут и считают себя центром вселенной.
Спросите себя: есть ли у Вас возможность достоверно определить, являетесь ли Вы подопытной крысой или "свободной" тварью?

А по поводу планет - это вопрос чисто технический.  Планета тоже может существовать лишь в нашем мире и не пересекаться с миром создателей.  Ведь весь наблюдаемый нами мир существует лишь в наших ощущениях, не более.


P.S.
Рекомендуются по теме беседы:
фильм "Матрица"
фильм "13-й этаж"
рассказ Станислава Лема - "Странные ящики профессора Коркорана"

[Илья]

Планета тоже может существовать лишь в нашем мире и не пересекаться с миром создателей. Ведь весь наблюдаемый нами мир существует лишь в наших ощущениях, не более.

Не понял. Речь пошла о паралельных мирах или о том, что наши органы чувств довольно ограниченны?

фильм "Матрица"

В фильме матрица все-таки несколько о другом речь - там все ограничелось одним созданным ИИ.

[CD_Eater]

Планета тоже может существовать лишь в нашем мире и не пересекаться с миром создателей. Ведь весь наблюдаемый нами мир существует лишь в наших ощущениях, не более.

Не понял. Речь пошла о паралельных мирах или о том, что наши органы чувств довольно ограниченны?

То есть в гипотезу параллельных миров Вам проще поверить, чем в то, что человечество построит ИИ?  Как же Вы не верите в успехи человечества...  Ай-яй-яй!

Я привёл пример - компьютерная программа, эмулирующая жизнь других существ в виртуальном мире.  Они не могут обнаружить людей.  И никаких параллельных миров не требуется.  И новых планет тоже.

[CD_Eater]

В фильме матрица все-таки несколько о другом речь - там все ограничелось одним созданным ИИ

В этом фильме центральная идея - что наблюдаемый нами мир существует лишь виртуально.  Это позволяет обойтись без параллельных вселенных и отдельных планет.  Наша реальность - это чей-то искусственный виртуальный мир, но мы не можем достоверно это определить.

[Илья]

мы не можем достоверно это определить.

Мы много чего не можем достоверно определить. Это уже дело веры и домыслов: первичны мы или вторичны. В матрице: один ИИ захватил другой ИИ более "старший". Вряд ли "младший" ИИ, захвативши власть, будет создавать еще один ИИ, помятуя о том, что произошло с их создателями.

[CD_Eater]

Это уже дело веры и домыслов: первичны мы или вторичны.

Так вот и нужно домыслы и суеверия заменить на логические выводы.  Зацепка для мозгов есть.  Вопрос - какой вывод будет более правилен?

А в Матрице вы не на сюжет смотрите (хотя он увлекателен), а на главную идею - усомниться в том, реальна ли реальность.  А кто кого там захватил - к текущему обсуждению отношения не имеет

[Илья]

усомниться в том, реальна ли реальность

Так еще буддисты говорили, что ничего нет реального - все иллюзорно.

кто кого там захватил - к текущему обсуждению отношения не имеет

Как не имеет? При таком варианте развития событий все закончится на создании одного ИИ.
Да, этот фильм показывает, что в будущем возможно будет создание виртуального мира не отличимого от реального, только вот создан он был по фильму с другой целью. ИИ создал этот мир не для того, чтобы исследовать людей, а чтобы выжить благодаря им.

[wilsonn]

Допустим, что человечество смогло построить искусственный интеллект

К тому же в первой же строчке Вы делаете допущение, то есть может быть, а может и не быть, поэтому остальные рассуждения уже безосновательны, так как бессмысленно рассуждать о том, что было бы, когда нет еще самого условия при котором это "было бы" смогло осуществится.

как же Вы играете в шахматы?? просчитываете на два, три, десять ходов. ведь по вашей теории "бессмысленно рассуждать о том, что было бы, когда нет еще самого условия(предполагаемого хода противника) при котором это "было бы" смогло осуществится."