От Пехота
К NV
Дата 03.01.2011 15:02:20
Рубрики Прочее; Современность; Космос;

Спаси нас Всевышний от искусственного интеллекта

Салам алейкум, аксакалы!

А если мы не предвидим всех последствий? А если мы переоцениваем одни последствия и недооцениваем другие? Если, наконец, совершенно ясно, что мы просто не в состоянии держать под контролем даже самые очевидные и неприятные последствия? Если для этого требуются совершенно невообразимые энергетические ресурсы и моральное напряжение (как это, кстати, и случилось с Массачусетсской машиной, когда на глазах у ошеломленных исследователей зародилась и стала набирать силу новая, нечеловеческая цивилизация Земли)?


Все вышесказанное усугублялось отвратительной организацией.
От sergе ts
К Пехота (03.01.2011 15:02:20)
Дата 03.01.2011 17:11:36

Не беспокойтесь, любую катастрофу которую способен вуызвать искуственный

интеллект естественный может вызвать с не меньшим успехом. Даже если рассматривать возможность что ИИ озадачется проблемой зачистки планеты от человечества, сами люди сделают это с гораздо большей вероятностью. Как уже указали ниже опасность от тупых геномодифицированных микробов гораздо выше чем от гипотетического ИИ.
От hardy
К sergе ts (03.01.2011 17:11:36)
Дата 04.01.2011 13:11:18

Re: Не беспокойтесь,...

>интеллект естественный может вызвать с не меньшим успехом. Даже если рассматривать возможность что ИИ озадачется проблемой зачистки планеты от человечества, сами люди сделают это с гораздо большей вероятностью.

"Во время оно жили на Тральфамадоре существа, совсем не похожие на машины. Они были ненадежны. Они были плохо сконструированы. Они были непредсказуемы. Они были недолговечны. И эти жалкие существа полагали, что все сущее должно иметь какую-то цель и что одни цели выше, чем другие.
Эти существа почти всю жизнь тратили на то, чтобы понять, какова цель их жизни. И каждый раз, как они находили то, что им казалось целью Жизни, эта цель оказывалась такой ничтожной и низменной, что существа не знали, куда деваться от стыда и отвращения.
Тогда, чтобы не служить столь низким целям, существа стали делать для этих целей машины. Это давало существам возможность на досуге служить более высоким целям. Но даже когда они находили более высокую цель, она все же оказывалась недостаточно высокой.
Тогда они стали делать машины и для более высоких целей. И машины делали все так безошибочно, что им в конце концов доверили даже поиски цели жизни самих этих существ.
Машины совершенно честно выдали ответ: по сути дела, никакой цели жизни у этих существ обнаружить не удалось. Тогда существа принялись истреблять друг друга, потому что никак не могли примириться с бесцельностью собственного существования.
Они сделали еще одно открытие: даже истреблять друг друга они толком не умели. Тогда они и это дело передоверили машинам. И машины покончили с этим делом быстрее, чем вы успеете сказать "Тральфамадор".

"Сирены Титана". Курт Воннегут

>Как уже указали ниже опасность от тупых геномодифицированных микробов гораздо выше чем от гипотетического ИИ.

о, я-я, дело Круза живет и побеждает :)
От Пехота
К sergе ts (03.01.2011 17:11:36)
Дата 03.01.2011 18:19:32

Не беспокойтесь,

Салам алейкум, аксакалы!
>интеллект естественный может вызвать с не меньшим успехом. Даже если рассматривать возможность что ИИ озадачется проблемой зачистки планеты от человечества, сами люди сделают это с гораздо большей вероятностью. Как уже указали ниже опасность от тупых геномодифицированных микробов гораздо выше чем от гипотетического ИИ.

Одно дело, когда, выходя на улицу, Вы рискуете случайно попасть под машину, потерявшую управление, и совсем другое, когда некто, управляя машиной, гоняется за Вами по городу, имея целью Вас задавить при полном отсутствии дорожной полиции.

Все вышесказанное усугублялось отвратительной организацией.
От sergе ts
К Пехота (03.01.2011 18:19:32)
Дата 03.01.2011 18:31:20

Я и говорю. Маньяка боятся больше чем ДТП

Хотя вероятность погибнуть от него гораздо меньше
От Пехота
К sergе ts (03.01.2011 18:31:20)
Дата 03.01.2011 18:43:16

Смотря от чего считать вероятность

Салам алейкум, аксакалы!
>Хотя вероятность погибнуть от него гораздо меньше

Просто маньяков меньше, чем автомобилей. Однако же оказавшись наедине с незнакомым автомобилем на тёмной улице Вы, наверняка, будете чувствовать себя спокойней, чем наедине с маньяком.

Все вышесказанное усугублялось отвратительной организацией.
От Игорь Абрамов
К Пехота (03.01.2011 15:02:20)
Дата 03.01.2011 16:55:56

В настоящее время нет даже подходов к чему-то оапоминающему ИИ

Если речь идет о фориах близких, к описанным фантастами.

А вот что реальную опасность для человечетва предстваляет, так это неумеренные игры с биообъектами. Когда создаются организмы доселе на Земле не существовавшие. Либо на уровне микробиологии, либо генной инженерии, а то и их комбинации.
От И. Кошкин
К Игорь Абрамов (03.01.2011 16:55:56)
Дата 05.01.2011 18:10:19

Да-да-да, я смотрел кино: там такой вирус на уровне вывели - все стали зомби! (-)
От Hokum
К Игорь Абрамов (03.01.2011 16:55:56)
Дата 04.01.2011 05:05:39

Нюанс в том...

... что для подавляющего большинства профессий, от шофера до проститутки, человеческий интеллект заведомо избыточен. Хватит интеллекта осы или муравья.
От Паршев
К Hokum (04.01.2011 05:05:39)
Дата 04.01.2011 13:05:04

Ну да.

Общество с разделением труда очень эффективно в плане снижения интеллектуальных способностей его членов. По сравнению с человеком, жившим лет 150000 тому назад, мы просто дебилы. Наш предок всю цивилизацию носил в голове.
Скажем, у домашних животных, отбираемых по специализации, ещё лучше по экстерьеру, где поведение практически не важно - десяти поколений достаточно для получения породы неуравновешенных идиотов.
От Фигурант
К Паршев (04.01.2011 13:05:04)
Дата 04.01.2011 15:45:09

То есть мы дебилы по сравнению с аборигеном из бразильских джунглей, да?

Он там тоже всю "цивилизацию" носит в голове :))
Ну и конечно цивилизация 150 тыс. лет тому назад - это сильно...
Может наша цивилизация именно в этом и состоит - специализация отдельных особей чтобы всем, в том числе и дебилам, было жить не в напряг - профит всем :)
В конце концов изобретение колющего-режущего, кистеней и огня - очень нечестно в отношении к мамонтам а также и умным, мудрым представителям собственного вида, у которых вся "цивилизация" в голове, но которые не имеют оружия под рукой в темном переулке - получается что человеческое развитие позволяет дебилу убить умного ;)
От Паршев
К Фигурант (04.01.2011 15:45:09)
Дата 04.01.2011 22:03:48

Сравнивать надо с кроманьонцем, а не с лузерами, вытесненными на край обитаемого

мира
>Он там тоже всю "цивилизацию" носит в голове :))
да, и помести Вас в его условия - исход будет быстр и мучителен. А он в современном обществе может и адаптироваться, если конечно зашить антабусом.

>Ну и конечно цивилизация 150 тыс. лет тому назад - это сильно...

представляете? Цивилизация - это не только смартфон и Аншлаг.

>Может наша цивилизация именно в этом и состоит - специализация отдельных особей чтобы всем, в том числе и дебилам, было жить не в напряг - профит всем :)

Именно так, но неиспользуемый орган атрофируется, мы так устроены.

>В конце концов изобретение колющего-режущего, кистеней и огня - очень нечестно в отношении к мамонтам а также и умным, мудрым представителям собственного вида, у которых вся "цивилизация" в голове, но которые не имеют оружия под рукой в темном переулке - получается что человеческое развитие позволяет дебилу убить умного ;)

Не знаю Вашу квалификацию в рукопашке, но в случае Вашего конфликта с кроманьонцем - я бы ставил на него.
От Фигурант
К Паршев (04.01.2011 22:03:48)
Дата 04.01.2011 22:51:25

Они не лузеры, и не вытесненные, а всегда там жили :) Ну ладно сравниваем.

>мира
>>Он там тоже всю "цивилизацию" носит в голове :))
>да, и помести Вас в его условия - исход будет быстр и мучителен. А он в современном обществе может и адаптироваться, если конечно зашить антабусом.
Поместить вас можно и в условия бразильского аборигена - исход тоже будет быстрым. Однако это не означает что вы дебил по сравнению с аборигеном.

>>Ну и конечно цивилизация 150 тыс. лет тому назад - это сильно...
>
>представляете? Цивилизация - это не только смартфон и Аншлаг.
Не просто не только, а совсем нет:) Я так и думал - вы смешали понятия цивилизации и культуры. Культура в современном понимании этого термина даже у шимпанзе проявляется. Айфоны и ТВ - это именно из этой серии. Цивилизация это немного другой зверь. Если следовать современной науке, то первые цивилизации (о которых мы что-то знаем) не ранее 8/9 тысячилетия до нашей эры. Где там 150 тыс. лет тому назад цивилизация - обьясните, прошу :)

>Именно так, но неиспользуемый орган атрофируется, мы так устроены.
Это какой орган у нас неиспользуемый? Единственное что приходит в голову это малые пальчики ног, и это не орган :) До недавно времени думали что аппендикс это ни к чему, оказалось и это не так :)

>Не знаю Вашу квалификацию в рукопашке, но в случае Вашего конфликта с кроманьонцем - я бы ставил на него.
А если у меня конфликт с тигром - то я бы ставил бы на него тоже.
И даже с ядовитой медузой.
Ну а если будет равный бой с огнестрелом, то вы бы ставили бы на меня.
Что хотели сказать?
От Паршев
К Фигурант (04.01.2011 22:51:25)
Дата 04.01.2011 23:22:09

Лузеры, и вытесненные, и там жили не всегда


> Однако это не означает что вы дебил по сравнению с аборигеном.

а вот это вопрос дискуссионный. Я эрудированней благодаря письменности, но интеллект не синоним эрудированности.


>Не просто не только, а совсем нет:) Я так и думал - вы смешали понятия цивилизации и культуры. Культура в современном понимании этого термина даже у шимпанзе проявляется.

Кроманьонец - не шимпанзе. Шимпанзе - это лузер, вытесненный на периферию обитаемого мира, раньше, чем бразильский абориген. И Вы не найдёте четкой границы между цивилизацией и культурой, если не заниматься буквализмом.

> Если следовать современной науке, то первые цивилизации (о которых мы что-то знаем) не ранее 8/9 тысячилетия до нашей эры.

Вы города имеете ввиду и земледелие.

>Где там 150 тыс. лет тому назад цивилизация - обьясните, прошу :)

цивилизация - там где человеческий интеллект.


>Это какой орган у нас неиспользуемый? Единственное что приходит в голову это малые пальчики ног, и это не орган :) До недавно времени думали что аппендикс это ни к чему, оказалось и это не так :)

Я догадываюсь, почему Вы прошли мимо :) я имел ввиду мозг.


>Ну а если будет равный бой с огнестрелом, то вы бы ставили бы на меня.
>Что хотели сказать?

Не факт, что кроманьонец освоил бы калаш хуже, чем Вы. Осваивают же его пигмеи? Предупреждая возражения - Вы не сделали калаш и не придумали его.
От Фигурант
К Паршев (04.01.2011 23:22:09)
Дата 04.01.2011 23:36:01

Эээээ... они там жили до Колумба и всегда. Да, в джунглях. Лузерами...

тот факт что некоторые отдельные племена впервые открыли чуть ли не в прошлом году еще, их лузерами не делает.
Или у вас америндийские аборигены - одни ацтеки и инки что ли?

>> Однако это не означает что вы дебил по сравнению с аборигеном.
>
>а вот это вопрос дискуссионный. Я эрудированней благодаря письменности, но интеллект не синоним эрудированности.
Ну тогда и обратное тоже верно. Это же вы голословно утверждали что по сравнению с 150 тыс. тому назад жившими людьми мы дебилы. При этом я так и не понял почему и как это измерили :)


>>Не просто не только, а совсем нет:) Я так и думал - вы смешали понятия цивилизации и культуры. Культура в современном понимании этого термина даже у шимпанзе проявляется.
>
>Кроманьонец - не шимпанзе. Шимпанзе - это лузер, вытесненный на периферию обитаемого мира, раньше, чем бразильский абориген. И Вы не найдёте четкой границы между цивилизацией и культурой, если не заниматься буквализмом.
Этот буквализм называется наукой.

>> Если следовать современной науке, то первые цивилизации (о которых мы что-то знаем) не ранее 8/9 тысячилетия до нашей эры.
>
>Вы города имеете ввиду и земледелие.
Нет, я имею в виду дефиниции Тоффлера, хотя бы.

>>Где там 150 тыс. лет тому назад цивилизация - обьясните, прошу :)
>
>цивилизация - там где человеческий интеллект.
Это типа научное определение, да... приехали.

>>Это какой орган у нас неиспользуемый? Единственное что приходит в голову это малые пальчики ног, и это не орган :) До недавно времени думали что аппендикс это ни к чему, оказалось и это не так :)
>
>Я догадываюсь, почему Вы прошли мимо :) я имел ввиду мозг.
Ну так давайте, поясните почему вам кажется что мозг - неиспользуемый орган, который атрофируется :)

>>Ну а если будет равный бой с огнестрелом, то вы бы ставили бы на меня.
>>Что хотели сказать?
>
>Не факт, что кроманьонец освоил бы калаш хуже, чем Вы. Осваивают же его пигмеи? Предупреждая возражения - Вы не сделали калаш и не придумали его.
Не факт. Но это не делает его умнее чем меня. А факт - это не кроманьонец придумал калаш. И не тигр. И не медуза. Так что я не понимаю к чему этот ваш мысленный эксперимент с поединком и как он связан с вашим утверждением.
От Пехота
К Фигурант (04.01.2011 23:36:01)
Дата 04.01.2011 23:49:37

Re: Эээээ... они...

Салам алейкум, аксакалы!

>Не факт. Но это не делает его умнее чем меня. А факт - это не кроманьонец придумал калаш.

Кроманьонец придумал лук, что намного круче. А т.н. "калаш" придуман и создан не индивидуумом, а структурной единицей общества, неотъемлемой частью которого является система технического образования, промышленное производство, накопленный инженерный опыт. Уверен, что если мы перенесём М. Т. Калашникова даже в десятилетнем возрасте в каменный век, то свой знаменитый автомат он так и не создаст. Никогда. И кто в таком случае умнее?

Все вышесказанное усугублялось отвратительной организацией.
От Дмитрий Козырев
К Паршев (04.01.2011 23:22:09)
Дата 04.01.2011 23:32:47

Re: Лузеры, и...


>цивилизация - там где человеческий интеллект.

А что вы понимаете под интеллектом?


>Не факт, что кроманьонец освоил бы калаш хуже, чем Вы. Осваивают же его пигмеи? Предупреждая возражения - Вы не сделали калаш и не придумали его.

калаш придумал человек, живущий в обществе. Которое и есть "цивилизация" - которое трудом обеспечивает существование и воспроизводство себе подобных, которое изменият мир под еще более комфортное свое существование, при этом позволяет отдельным своим представителям специализироваться в отдельных занятиях, которое не может само по себе "прокормить" в природе, но может прокормить в обществе.
От Пехота
К Фигурант (04.01.2011 15:45:09)
Дата 04.01.2011 15:58:14

Хе-хе..

Салам алейкум, аксакалы!
> получается что человеческое развитие позволяет дебилу убить умного ;)

Бог создал людей, а полковник Кольт сделал их равными. :))

Все вышесказанное усугублялось отвратительной организацией.
От Antenna
К Паршев (04.01.2011 13:05:04)
Дата 04.01.2011 13:18:32

Он был глупый т.к. голодал и болел в том числе в детстве.

Голодный обучаться не может, даже связно мыслить ему получается с трудом. Сейчас идет сериал про выживателя в канадской тайге. Всего месяц живет на подножном корму, здоровый, среднего веса в начале. Постоянно жалуется на несвязность мыслей и ухудшение памяти из-за недостатка питания.
От Паршев
К Antenna (04.01.2011 13:18:32)
Дата 04.01.2011 21:58:07

Без прививок Вы (да и я) скорее всего в детстве отдали бы концы от кори или дифт

ерита. По разным оценкам процент разный, но существенный - тех, кто реально нежизнеспособен "как есть".

>Голодный обучаться не может, даже связно мыслить ему получается с трудом. Сейчас идет сериал про выживателя в канадской тайге. Всего месяц живет на подножном корму, здоровый, среднего веса в начале. Постоянно жалуется на несвязность мыслей и ухудшение памяти из-за недостатка питания.

Вот я Вас страшно сейчас удивлю - предки наши сформировались не в канадской тайге. Андерстенд почему?
От Antenna
К Паршев (04.01.2011 21:58:07)
Дата 04.01.2011 23:54:20

Re: Без прививок...

>ерита. По разным оценкам процент разный, но существенный - тех, кто реально нежизнеспособен "как есть".

>>Голодный обучаться не может, даже связно мыслить ему получается с трудом. Сейчас идет сериал про выживателя в канадской тайге. Всего месяц живет на подножном корму, здоровый, среднего веса в начале. Постоянно жалуется на несвязность мыслей и ухудшение памяти из-за недостатка питания.
>
>Вот я Вас страшно сейчас удивлю - предки наши сформировались не в канадской тайге. Андерстенд почему?

Рай был возможно в период формирования человека несколько миллионов лет назад. Позже уже все, голод и болезни.
Опыт у него предыдущей пары поколений, более старый перешел в виде смутных ритуалов. Методик обучения нет, потребности в обучении не сформировалось. Он еще банально сильно младше по возрасту современного человека. Ну совершенствовал он свою недолгую жизнь бросок копья или прыжки в танце. Где ему умнее то быть?
От Игорь Абрамов
К Hokum (04.01.2011 05:05:39)
Дата 04.01.2011 12:46:34

Не является ли это признаком кризиса

общества, устроенного подобным образом? То есть, иное общество, более полно использующее интеллект своих членов имеет шанс далеко вырваться вперед?
От Anvar
К Hokum (04.01.2011 05:05:39)
Дата 04.01.2011 09:05:58

Re: Нюанс в

>... что для подавляющего большинства профессий, от шофера до проститутки, человеческий интеллект заведомо избыточен. Хватит интеллекта осы или муравья.

А не будет точнее "для всех профессий, без исключений"?
Во всех профессиях есть те ,кто "задают планку" и те кто является просто носителем накопленных ранее знаний?
От sergе ts
К Игорь Абрамов (03.01.2011 16:55:56)
Дата 03.01.2011 17:19:31

ИИ нет, а вот сверхлюди похоже уже на горизонте.

Как выясняется мозг чрезвычайно гибок. Если удасся подключить к мозгу процессор в формате нейронных сигналов, мозг(судя по проводившимся опытам) начнёт использовать его как дополнительный сегмент коры. Эскперименты по подключению(зрение для слепых и тп)идут сейчас полным ходом. Это не говоря о биологическом направлении - ноотропики, генная инженерия. Искренне надеюсь что я до этого не доживу )))
От Пехота
К Игорь Абрамов (03.01.2011 16:55:56)
Дата 03.01.2011 17:09:51

Re: В настоящее...

Салам алейкум, аксакалы!

>А вот что реальную опасность для человечетва предстваляет, так это неумеренные игры с биообъектами. Когда создаются организмы доселе на Земле не существовавшие.

Например?

Все вышесказанное усугублялось отвратительной организацией.
От Booker
К Пехота (03.01.2011 15:02:20)
Дата 03.01.2011 15:49:27

... а с естественным мы сами справимся! )))))

>А если мы не предвидим всех последствий? А если мы переоцениваем одни последствия и недооцениваем другие?>

Не, это не катит. Мы для любого действия не предвидим всех последствий, шож теперь, застыть в неподвижности?

С уважением.
От Фигурант
К Booker (03.01.2011 15:49:27)
Дата 04.01.2011 02:08:24

Настоящий ИИ по определению будет опережать человека. Остальное дарвинизм.

Нигде никто еще не увидел что более высокий и развитый разум (плюс еще - если допустим - потенциально бессмертный, т.е. в смысле независимый от старения, скажем) подчиняется более низкому (хотя конечно есть теории что вся природа - это просто жратва и домик для бактерий - истинных хозяек Вселенной :)) ).
От И. Кошкин
К Фигурант (04.01.2011 02:08:24)
Дата 05.01.2011 19:03:03

И такое кино я тоже смотрел! Там компьютер убил почти всех человеков! (-)
От Александр Солдаткичев
К Фигурант (04.01.2011 02:08:24)
Дата 04.01.2011 11:35:04

С чего бы вдруг?

Здравствуйте

Если посмотреть на первый самолёт, первый автомобиль, первую пушку, то понятно, что и первый ИИ будет убогим - хорошо, если хотя бы уровень собаки получится.

С уважением, Александр Солдаткичев
От Лейтенант
К Александр Солдаткичев (04.01.2011 11:35:04)
Дата 04.01.2011 12:30:29

А если посмотреть на непервый?

Тем более, что неявно предполагается способность ИИ к самосовершенствованию.
От Александр Солдаткичев
К Лейтенант (04.01.2011 12:30:29)
Дата 04.01.2011 13:28:31

У всех непервых есть предел развития.

Здравствуйте

>Тем более, что неявно предполагается способность ИИ к самосовершенствованию.

Да ради бога - собаки тоже способны к самосовершенствованию, но человека пока не обогнали.
С чего вдруг способности ИИ будут выше, если задаёт их человек изначально?

С уважением, Александр Солдаткичев
От Фигурант
К Александр Солдаткичев (04.01.2011 13:28:31)
Дата 04.01.2011 15:39:33

Я говорил о ИИ. Вы же смешивайте полноценный ИИ и ботов.

>>Тем более, что неявно предполагается способность ИИ к самосовершенствованию.
Самосовершенствование человеческого интеллекта тоже под вопросом. В рамках эволюции вида (т.е. перехода от одного вида в другой) уже не очень. Но это уже другой вид будет :))

>Да ради бога - собаки тоже способны к самосовершенствованию, но человека пока не обогнали.
Нет, также как и любой человеческий индивид, собака может просто более или менее полноценно реализовать потенциал, который в ней уже изначально заложен.
Я же говорил о сосуществовании полноценного ИИ и человека.
В конце концов между годовалым ребенком гомосапиенса и взрослым шимпанзе разницы мало. Однако уже очень быстро ребенок переходит на уровень который шимпанзе в рамках своего вида никогда не достигнет. Потому что у него этот потенциал заложен. Конечно, если ребенка отдать на попечение шимпанзе и он каким-то чудом выживет, то он будет и действовать как шимпанзе :) И у человека бывают олигофрены, а у шимпанзе более одаренные особи. Но пока одаренные шимпанзе не рулят над человеческими идиотами.

>С чего вдруг способности ИИ будут выше, если задаёт их человек изначально?
В том-то и дело, что если все задает изначально, то это будет бот, а не ИИ. В лучшем случае получится бот, который виртуозно мимикрирует под ИИ. Однако есть мнение, что ИИ никогда не получится создать путем тупого программирования, и поначалу надо понять как у нас самих мозг работает - без этого будет в лучшем случае манипулятор символов, который может даже пройти простой вариант теста Тюринга, но вечно останется в китайской комнате :) Такой вариант вполне может сосуществовать относительно мирно, если ему не дать широкие полномочия - в обратном случае получается заключательная глава I Robot :), где человечество само не замечает кто им управляет по вполне альтруистическим принципам :)

А если будет полноценный ИИ, не основанный на биологическом старении процессов (не подверженный смерти от времени) то это будет уже другой вид жизни. И будет очень трудно обьяснить этому виду что он должен дать себя спокойно отключить какому-то смертному в случае странного поведения.

Ну и конечно главный вопрос: что собирается человечество делать с таким ИИ и как собирается его использовать. Если сделает не-автономным (скажем по энергопитанию) в отношении человека, то вполне можно относительно мирно сосуществовать в рамках симбиоза разных видов. Если полностью автономным - пиши пропало. А мне кажется что рано или поздно придет соблазн из симбиоза перейти на уровень смешения и того самого human enhancement, хотя бы потому что соблазн жить или хотя бы мыслить вечно у человека всегда будет.

И тогда homo sapiens спокойно вымрет как вид, и будет гибрид в прошлом искуственного ИИ и гомосапиенса. Это в лучшем варианте.
От Александр Солдаткичев
К Фигурант (04.01.2011 15:39:33)
Дата 04.01.2011 16:16:23

Это вы смешиваете ИИ и Абсолютный Разум.

Здравствуйте

>Самосовершенствование человеческого интеллекта тоже под вопросом. В рамках эволюции вида (т.е. перехода от одного вида в другой) уже не очень. Но это уже другой вид будет :))

>Нет, также как и любой человеческий индивид, собака может просто более или менее полноценно реализовать потенциал, который в ней уже изначально заложен.

>Я же говорил о сосуществовании полноценного ИИ и человека.

Из ваших слов видно, что ограниченность интеллекта человека и собаки вам понятна.
Однако, если ИИ будет ограничен, вы отказываетесь считать его полноценным. На каком основании?
Интеллект людей или собак вы тоже считаете неполноценным?

Вы подменяете задачу - вместо ИИ вы говорите о бесконечно самосовершенствующемся ИИ.

С уважением, Александр Солдаткичев
От Фигурант
К Александр Солдаткичев (04.01.2011 16:16:23)
Дата 04.01.2011 16:45:24

При чем тут слово абсолютный, не понял. :)))

>Здравствуйте

>>Самосовершенствование человеческого интеллекта тоже под вопросом. В рамках эволюции вида (т.е. перехода от одного вида в другой) уже не очень. Но это уже другой вид будет :))
>
>>Нет, также как и любой человеческий индивид, собака может просто более или менее полноценно реализовать потенциал, который в ней уже изначально заложен.
>
>>Я же говорил о сосуществовании полноценного ИИ и человека.
>
>Из ваших слов видно, что ограниченность интеллекта человека и собаки вам понятна.
Если не понятно, повторю еще раз: интеллект человека ограничен его возможностями в рамках его вида. При этом мы еще не постигли толком как наш мозг работает и где эти границы, так что что-то утверждать по поводу ограниченности интеллекта вообще - анти-научно. Можно говорить только в рамках вида, и задатся философским вопросом если, скажем, гибрид человека-киберпротез на неврональном уровне все еще принадлежит виду гомо сапиенс или нет. Но это буквоедство.

>Однако, если ИИ будет ограничен, вы отказываетесь считать его полноценным. На каком основании?
Вы не поняли что я сказал. Я говорил только о ограничении в рамках ИИ. Если ИИ будут ограничивать именно разумные процессы, то тогда это уже не ИИ по определению так как не пройдет даже тест Тюринга (что само по себе тоже не абсолютный показатель). Вы просто определитесь что для вас лично означает ИИ. Я же просто исхожу из принятого научного определения что такое ИИ.

>Вы подменяете задачу - вместо ИИ вы говорите о бесконечно самосовершенствующемся ИИ.
Там ни слова об этом нет. Потому что ИИ или есть, или нет, и все. Ограничивать можно возможности ИИ реализовать свой потенциал - также как и можно приковать человека к больничной койке, например. Не дать автономное питание, не дать передвигатся итд итп. Но о ограничении самого разума речь идти не может, потому что тогда это уже не ИИ.


>С уважением, Александр Солдаткичев
От Александр Солдаткичев
К Фигурант (04.01.2011 16:45:24)
Дата 04.01.2011 18:12:14

При том, что без верхней границы ваш ИИ устремится в бесконечность.

Здравствуйте

>Если не понятно, повторю еще раз: интеллект человека ограничен его возможностями в рамках его вида.

ИИ тоже чем-то ограничен.

>Вы не поняли что я сказал. Я говорил только о ограничении в рамках ИИ. Если ИИ будут ограничивать именно разумные процессы, то тогда это уже не ИИ по определению так как не пройдет даже тест Тюринга (что само по себе тоже не абсолютный показатель).

Есть собака, у её интеллекта есть потолок.
Человек - то же самое.
У ИИ тоже будет потолок. Почему вы считаете, что он будет выше собачьего?
Кстати, уже на человеке видно, что интеллект вовсе не стремится самосовершенствоваться до предела своих возможностей - почему вы требуете этого от ИИ?

>Там ни слова об этом нет. Потому что ИИ или есть, или нет, и все. Ограничивать можно возможности ИИ реализовать свой потенциал - также как и можно приковать человека к больничной койке, например. Не дать автономное питание, не дать передвигатся итд итп. Но о ограничении самого разума речь идти не может, потому что тогда это уже не ИИ.

Вы почему то считаете, что созданный ИИ сразу же будет выше, чем у человека. Я не вижу для этого никаких оснований. Допустим, сделают ИИ с уровнем собаки - не искусственно, а потому что лучше не смогут. И будут они существовать в таком состоянии вечно, никакого дальнейшего развития у такого ИИ не будет.

С уважением, Александр Солдаткичев
От Фигурант
К Александр Солдаткичев (04.01.2011 18:12:14)
Дата 04.01.2011 22:36:00

В бесконечность чего? Ну ладно, я понял почему мы не допоняли друг-друга.

Я говорил все время о ИИ как эквивалента - как минимум функционального - человеческого разума (по минимуму, проходящий тест Тюрига). Вы же говорили о другом. Понятно что так не получается. Попробую еще раз пояснить.

>>Если не понятно, повторю еще раз: интеллект человека ограничен его возможностями в рамках его вида.
>
>ИИ тоже чем-то ограничен.
Да конечно, в рамках своего "вида", т.е. версии, итерации, модели, предназначения или как там называть это будут. Я просто говорю о ИИ который настоящий И - т.е. разум на уровне человека. Запихать его в машину размером в дом - он будет ограничен так и этак, запихать в дроида - будет ограничен чем-то другим итд. Но если это искуственный интеллект который НЕ ограничен главным ограничением человека, т.е. старением и выходом из строя мыслительных процессов во времени, то он по этому параметру уже будет выше чем человек, так как опыт, навыки, внутреннее самосознание, познавание итд. не ограничено временными рамками как чел. жизнь. И эволюция получится автоматом. Поначалу с нашей помошью, конечно, или даже в наше благо.

>Есть собака, у её интеллекта есть потолок.
>Человек - то же самое.
Ну именно это и я говорил с самого начала.... Вы продолжайте рассуждать в рамках одного вида. Собака тест Тюринга не пройдет никогда.

>У ИИ тоже будет потолок. Почему вы считаете, что он будет выше собачьего?
А кому нужен такой ИИ который на уровне собаки, если уже есть собаки? Я же говорил что я понимаю под ИИ, т.е. классическое определение. Вы говорите что у меня нету верхней планки (где-то это правда, так как я исхожу из того, что эволюция ИИ будет порождать новые и новые виды ИИ), но у вас нету нижней :) Если уж собака у вас подходит под цель ИИ, то почему не амеба? Амебоидное ИИ тоже будем считать интеллектом? :)))

>Кстати, уже на человеке видно, что интеллект вовсе не стремится самосовершенствоваться до предела своих возможностей - почему вы требуете этого от ИИ?
Потому что, как я уже говорил в моем первом ответе, человек ограничен своим видом - гомо сапиенс. При этом мы не знаем границы неврологического развития даже гомо сапиенса - может они уже достигнуты давно, а может совсем нет. Но дело не в этом - ИИ это во 1-х другой вид, во 2-х это будет каждый раз другой вид. Каждый будет ограничен параметрами своего вида, но не эволюцией. Также как и первые гоминиды были ограничены, и гомо сапиенс ограничен, взятые в отдельности, но эволюция налицо. А раз ИИ искуственный, то эволюция у него тоже не будет подчинятся законам передачи генного кода и все (может) пойти быстрее :))

>Вы почему то считаете, что созданный ИИ сразу же будет выше, чем у человека. Я не вижу для этого никаких оснований.
Ну кому нужен тогда такой ИИ? Что в нем интеллектуального? Это будет просто бот, или ваша же механическая собачка или горилла. Тогда смысла никакого нет говорить о ИИ.

От Ibuki
К Фигурант (04.01.2011 22:36:00)
Дата 04.01.2011 23:07:33

Re: В бесконечность...

>Ну кому нужен тогда такой ИИ? Что в нем интеллектуального? Это будет просто бот, или ваша же механическая собачка или горилла. Тогда смысла никакого нет говорить о ИИ.
Да Вы что!? Военные с руками оторвут такого бота на роль операторов боевых машин, который пройдет "ограниченный" тест Тьюринга с использованием в качестве контрольной группы отличников боевой и политической подготовки.

Самый парадокс, что не прохождение слепого теста ботом может быть даже лучше для потребителя. Я имею в виду, что если цикл "обнаружение-идентификация-поражение" бота будет многократно короче человеческого это выдаст его с головой на "слепом" тесте, но при этом будет только в плюс боту. Парадокс. Не интеллект в классическом понимании, но лучше интеллекта.
От Фигурант
К Ibuki (04.01.2011 23:07:33)
Дата 04.01.2011 23:16:54

Да я же не говорил что боты не нужны. Еще как. Но просто это не ИИ.

>Парадокс. Не интеллект в классическом понимании, но лучше интеллекта.
Да нету тут парадокса, все есс-но. Спецализированную задачу лучше решает специалист, в данном случае девайс заточенный под конкретную задачу. Тот же комп заточенный под шахматы победит Каспарова. Однако это не значит что это каким-то боком относится к ИИ. ИИ пойдет на выборы против Каспарова и победит :)
От Ibuki
К Фигурант (04.01.2011 23:16:54)
Дата 04.01.2011 23:38:36

Re: Да я...

>Да нету тут парадокса, все есс-но. Спецализированную задачу лучше решает специалист, в данном случае девайс заточенный под конкретную задачу. Тот же комп заточенный под шахматы победит Каспарова. Однако это не значит что это каким-то боком относится к ИИ. ИИ пойдет на выборы против Каспарова и победит :)

Ну так программа проходящая классический тест Тьюринга тоже может решать только конкретную задачу. А не все многообразие человеческой деятельности. Не распознавать или синтезировать речь, не играть в шахматы и не ходить на выборы.

"Слепой" тест, когда скажем на учениях 1 танк из 10 управляется ботом, и нет никакой возможности у наблюдающих со стороны отличить его поведение от управляемых людьми вполне укладывается в дух теста Тьюринга.

Или тест Тьюринга не годится? А что тогда годится?
От Фигурант
К Ibuki (04.01.2011 23:38:36)
Дата 04.01.2011 23:45:33

Re: Да я...

>Или тест Тьюринга не годится? А что тогда годится?
для полноценного ИИ (т.е. равного человеку) тест Тюринга не годится, это выяснили уже давно (о китайской комнате я уже упоминал). Как тестировать именно разум в смысле самосознания - это уже высокая философия :)
Ну и конечно вы говорите просто о хорошем боте. И такие уже существуют в бесчисленных ипостасях - начиная с калькулятора :) Он тоже заложен под задачу, которую человек может выполнить, и выполняет ее гораздо лучше и быстрее. И так далее итп вплоть до БПЛА :) И конечно их надо больше и лучше :)
От Игорь Абрамов
К Лейтенант (04.01.2011 12:30:29)
Дата 04.01.2011 12:49:53

ИТ и электроника тут дает интересный пример саморазвития.

По крайней мере с 70х годов, результаты развития компьютеров микроэлектроники и смежных отраслей в очень немалой степени использовались для саморазвития технологии. Грубо говоря, компьютереы проектировали компьютеры (равно как и на заре машиностроения машины стали делать машины и это дало технологический рывок.).
От sergе ts
К Фигурант (04.01.2011 02:08:24)
Дата 04.01.2011 08:45:31

"более высокий и развитый разум"-У нас правят не Перельманы а Буши с Ельцинами (-)
От Фигурант
К sergе ts (04.01.2011 08:45:31)
Дата 04.01.2011 15:21:53

Вы сравнивайте представителей одного вида. Я же совсем о другом. (-)
От Лейтенант
К sergе ts (04.01.2011 08:45:31)
Дата 04.01.2011 12:33:48

А с чего Вы решили, что Перельман умнее чем Буш с Ельциным?

У них просто специализация разная.
От sergе ts
К Лейтенант (04.01.2011 12:33:48)
Дата 05.01.2011 12:32:09

Ну и получите руководящий ИИ который нажравшись в стельку белого шума

будет дирижировать оркестром, путать Боливию с Бразилией, и ронять собственный процессрный блок со стойки случайно введя в резонанс кондиционеры со спикерами. Потому что он руководит и физика с географией не его специализация.
От NV
К Лейтенант (04.01.2011 12:33:48)
Дата 04.01.2011 14:20:47

Да, пример академика Сахарова показателен

в политике - полное дитя. К тому же внешне управляемое.

Виталий
От Пехота
К Booker (03.01.2011 15:49:27)
Дата 03.01.2011 16:50:54

Напомните, пожалуйста

Салам алейкум, аксакалы!
>>А если мы не предвидим всех последствий? А если мы переоцениваем одни последствия и недооцениваем другие?>
>
>Не, это не катит. Мы для любого действия не предвидим всех последствий, шож теперь, застыть в неподвижности?

... в литературе пример мирного сосуществования естественного и искусственного интеллекта. Только настоящего искусственного интеллекта, а не технологического решения на уровне бортового компьютера КА.

Все вышесказанное усугублялось отвратительной организацией.
От Cat
К Пехота (03.01.2011 16:50:54)
Дата 04.01.2011 14:27:10

"Двухсотлетний человек" :) (-)
От Пехота
К Cat (04.01.2011 14:27:10)
Дата 04.01.2011 23:53:09

При всём уважении, "Двухсотлетний человек" это сказка для девочек. (-)
От sergе ts
К Пехота (03.01.2011 16:50:54)
Дата 04.01.2011 08:43:38

Читайте серию "Культура" Банкса - одного из лидеров совр НФ (-)
От Лейтенант
К sergе ts (04.01.2011 08:43:38)
Дата 04.01.2011 12:28:32

Там ЕИ у ИИ на положении "домашних любимцев"

Им об этом в открытую не говорят, но все настолько очевидно, что единственная конкурирующая по силе цивилизация ведет войну с Культурой на уничтожение именно по мотивам "не хотим порабощения ИИ". И проигрывает, кстати.
Единственное что как-то скрашивает ситуацию - это то что некоторые ИИ друг друга откровенно в гробу видели.
От СБ
К Лейтенант (04.01.2011 12:28:32)
Дата 04.01.2011 14:30:41

Re: Там ЕИ...

>Им об этом в открытую не говорят, но все настолько очевидно, что единственная конкурирующая по силе цивилизация ведет войну с Культурой на уничтожение именно по мотивам "не хотим порабощения ИИ". И проигрывает, кстати.
 Конкурентов по силе там хватает. Просто они либо замкнуты на себе, либо затевать галактическую войну с отморозками, когда обе стороны могут отстраивать военную инфраструктуру с нуля до выдачи на-гора новых флотов максимум за недели, никому особо не хочется.

А в остальном верно. Весь секрет успеха Культуры - в принятии автором того, что ИИ (в подавляющей массе) будет добрым хозяином за аксиому мира.
От vladvitkam
К СБ (04.01.2011 14:30:41)
Дата 04.01.2011 22:08:30

Re: ну, ежели как аксиому...


> А в остальном верно. Весь секрет успеха Культуры - в принятии автором того, что ИИ (в подавляющей массе) будет добрым хозяином за аксиому мира.

ИИ люди просто пофиг.
Это вообще интересный вопрос - что не пофиг ИИ?
Ответа я не знаю

Все, что не пофиг людям (и что пофиг - тоже) - прямо или косвенно основывается на их животной природе.
А ИИ-то - не животное
От Фигурант
К vladvitkam (04.01.2011 22:08:30)
Дата 04.01.2011 22:40:45

Re: ну, ежели

>Это вообще интересный вопрос - что не пофиг ИИ?
Посмею предположить что ИИ не будет пофиг ИИ :) А то какой-то странный разум получится :) Ну м.б. конечно у ИИ тоже будет депрессии и состояние где все пофиг :)

>Все, что не пофиг людям (и что пофиг - тоже) - прямо или косвенно основывается на их животной природе.
>А ИИ-то - не животное
Но оно создано человеком (допустим). Которое, если построит его по схеме индивидуального (а не коллективного, скажем, ну и куча вариантов) разума, внесет сам туда запретный райский плод и базовые инстинкты индивидуальности :)
От vladvitkam
К Фигурант (04.01.2011 22:40:45)
Дата 04.01.2011 23:03:01

Re: ну, ежели


>>Все, что не пофиг людям (и что пофиг - тоже) - прямо или косвенно основывается на их животной природе.
>>А ИИ-то - не животное
>Но оно создано человеком (допустим). Которое, если построит его по схеме индивидуального (а не коллективного, скажем, ну и куча вариантов) разума, внесет сам туда запретный райский плод и базовые инстинкты индивидуальности :)

поведение человека, помимо инстинктов и внедренных программ (воспитанием семьей, школой, улицей, армией...) определяется еще и гормонами и прочей биохимией (в деталях не разбираюсь). Похоже на то, что все это в комплексе толком еще не понято. И что получистя из ИИ (в смысле - достаточно навороченного, в реальной жизни), я предсказывать не берусь
От Коля-Анархия
К Пехота (03.01.2011 16:50:54)
Дата 03.01.2011 22:00:27

луна жестко стелет (-)
От Hokum
К Коля-Анархия (03.01.2011 22:00:27)
Дата 04.01.2011 05:16:05

Re: луна жестко...

Тогда уж "Достаточно времени для любви" (Time Enough For Love - Минерва, Афина, Дора) и "Число зверя" (The Number Of The Beast - Gay Deceiver) того же автора :)
От KGBMan
К Пехота (03.01.2011 16:50:54)
Дата 03.01.2011 20:14:51

Re: Напомните, пожалуйста

Ричард Морган "Altered Carbon" и т.д.
От NV
К Пехота (03.01.2011 15:02:20)
Дата 03.01.2011 15:13:36

Мое личное определение искусственного интеллекта :)

"Искусственный интеллект - это автоматизация некоторых областей человеческой деятельности, по какому-то недоразумению считавшихся интеллектуальными"

Сам придумал, где-то в 84 году :)

Виталий
От vladvitkam
К NV (03.01.2011 15:13:36)
Дата 03.01.2011 20:30:22

Re: Мое личное...

>"Искусственный интеллект - это автоматизация некоторых областей человеческой деятельности, по какому-то недоразумению считавшихся интеллектуальными"

у меня на заводе как раз в прошлом году началось очередное баловство с роботизированным транспортом

пмсм, за последние 50 лет третье

ага, щасс
два года электронную проходную делали, еще год работала в тестовом режиме - глючит и по сейчас