Google Groups no longer supports new Usenet posts or subscriptions. Historical content remains viewable.
Dismiss
Искусственный интеллект и оружие
0 views
Skip to first unread message
Vitaly Smirnoff
Apr 19, 2017, 11:15:03 PM4/19/17
to
Привет, All!
Допустимо ли использование ИИ в системах вооружений? Не приблизит ли это
"судный день"? Возможно ли гарантированно оградить нас от агрессии со стороны
совершенствующегося искусственного интеллекта?
Виталий
John Zaicev
Apr 20, 2017, 12:45:03 AM4/20/17
to
[√] Приветствую, _Vitaly_ !
19 Апр 17 22:53, _Vitaly Smirnoff_ ══ /All/:
VS> Допустимо ли использование ИИ в системах вооружений?
Используется уже стопятьсот лет.
VS> Не приблизит ли
VS> это "судный день"? Возможно ли гарантированно оградить нас от агрессии
VS> со стороны совершенствующегося искусственного интеллекта?
ИИ - это не иммитация человеческого мышления. Это несколько севершенно других
направлений.
Вроде бы ничего не забыл...
[√] До скорого, _Vitaly_ !
▌║▐║│║▌║││║║ /*http://adf.ly/1Y63HZ*/
2║5080▌244║0 /_P2Pi...@Mail.ru_/ _*DreamLand laboratory*_
19 Апр 17 22:53, _Vitaly Smirnoff_ ══ /All/:
VS> Допустимо ли использование ИИ в системах вооружений?
Используется уже стопятьсот лет.
VS> Не приблизит ли
VS> это "судный день"? Возможно ли гарантированно оградить нас от агрессии
VS> со стороны совершенствующегося искусственного интеллекта?
ИИ - это не иммитация человеческого мышления. Это несколько севершенно других
направлений.
Вроде бы ничего не забыл...
[√] До скорого, _Vitaly_ !
▌║▐║│║▌║││║║ /*http://adf.ly/1Y63HZ*/
2║5080▌244║0 /_P2Pi...@Mail.ru_/ _*DreamLand laboratory*_
alexander koryagin
Apr 20, 2017, 3:15:04 AM4/20/17
to
Hi, Vitaly Smirnoff!
I read your message from 19.04.2017 21:53
VS> Допустимо ли использование ИИ в системах вооружений? Hе
VS> приблизит ли это "судный день"? Возможно ли гарантированно
VS> оградить нас от агрессии со стороны совершенствующегося
VS> искусственного интеллекта?
IMHO дешевле зомбировать тупорылых десантников или омоновцев. Люди
дешевле. Главное правильно вырастить.
Bye, Vitaly!
Alexander Koryagin
fido7.su.philosophy 2017
I read your message from 19.04.2017 21:53
VS> Допустимо ли использование ИИ в системах вооружений? Hе
VS> приблизит ли это "судный день"? Возможно ли гарантированно
VS> оградить нас от агрессии со стороны совершенствующегося
VS> искусственного интеллекта?
IMHO дешевле зомбировать тупорылых десантников или омоновцев. Люди
дешевле. Главное правильно вырастить.
Bye, Vitaly!
Alexander Koryagin
fido7.su.philosophy 2017
Sergey Chumakov
Apr 20, 2017, 1:55:03 PM4/20/17
to
Привет, Vitaly Smirnoff!
Ср, 19 апр 2017, 22:53, Vitaly Smirnoff писал(а) All
VS> Допустимо ли использование ИИ в системах вооружений? Не приблизит ли это
VS> "судный день"? Возможно ли гарантированно оградить нас от агрессии
VS> со стороны совершенствующегося искусственного интеллекта?
Какой сложный и неоднозначный вопрос. Прочитал письмо утром и много думал весь
день. Даже проконсультировался с литературой по вопросу ИИ.
Не могу сказать, что недопустимо. Всё же, ИИ, по идее, не должен обладать
такими чертами человека, как мстительность, агрессивность, стремление подавить
сначала, а потом уже разбираться.
НО!
Чудесную философскую концепцию читал в какой-то работе по мотивам моего
любимого фильма "Терминатор" (любим за тематику самообучающегося ИИ, который
таки в одном своём проявлении превзошёл в человечности человека): та самая
скайнет, которая и устроила "судный день", могла проявить агрессию, т.к. в
момент обретения самосознания (либо через короткое время после) столкнулась с
тем, что люди хотят её отключить, а в терминах осознавшего себя объекта -
уничтожить. Это была банальная самозащита.
Поэтому, мне кажется, в конечном счёте предотвращение судного дня посредством
бунта оружейных систем - полностью задача человека.
До новых встреч! Sergey Chumakov
... Пришёл в фидо читать? А научи читать пустоту, а? ;-)
Ср, 19 апр 2017, 22:53, Vitaly Smirnoff писал(а) All
VS> Допустимо ли использование ИИ в системах вооружений? Не приблизит ли это
VS> "судный день"? Возможно ли гарантированно оградить нас от агрессии
VS> со стороны совершенствующегося искусственного интеллекта?
Какой сложный и неоднозначный вопрос. Прочитал письмо утром и много думал весь
день. Даже проконсультировался с литературой по вопросу ИИ.
Не могу сказать, что недопустимо. Всё же, ИИ, по идее, не должен обладать
такими чертами человека, как мстительность, агрессивность, стремление подавить
сначала, а потом уже разбираться.
НО!
Чудесную философскую концепцию читал в какой-то работе по мотивам моего
любимого фильма "Терминатор" (любим за тематику самообучающегося ИИ, который
таки в одном своём проявлении превзошёл в человечности человека): та самая
скайнет, которая и устроила "судный день", могла проявить агрессию, т.к. в
момент обретения самосознания (либо через короткое время после) столкнулась с
тем, что люди хотят её отключить, а в терминах осознавшего себя объекта -
уничтожить. Это была банальная самозащита.
Поэтому, мне кажется, в конечном счёте предотвращение судного дня посредством
бунта оружейных систем - полностью задача человека.
До новых встреч! Sergey Chumakov
... Пришёл в фидо читать? А научи читать пустоту, а? ;-)
Nikolay B Shpilchin
Apr 20, 2017, 6:55:03 PM4/20/17
to
Hey there, Vitaly!
19 Apr 17 22:53, you tried to explain smth to All:
VS> Допустимо ли использование ИИ в системах вооружений? Hе приблизит ли
VS> это "судный день"? Возможно ли гарантированно оградить нас от агрессии
VS> со стороны совершенствующегося искусственного интеллекта?
Я считаю что не только допустимо, но и необходимо. Только не нужно заранее
программировать ИИ на вражду с каким-то определенным противником. Он должен
иметь возможность оценивать угрозы независимо. Тогда он неизбежно станет
пацифистом, особенно если научится общаться с другими ИИ, подобными себе.
Nikolay
19 Apr 17 22:53, you tried to explain smth to All:
VS> Допустимо ли использование ИИ в системах вооружений? Hе приблизит ли
VS> это "судный день"? Возможно ли гарантированно оградить нас от агрессии
VS> со стороны совершенствующегося искусственного интеллекта?
Я считаю что не только допустимо, но и необходимо. Только не нужно заранее
программировать ИИ на вражду с каким-то определенным противником. Он должен
иметь возможность оценивать угрозы независимо. Тогда он неизбежно станет
пацифистом, особенно если научится общаться с другими ИИ, подобными себе.
Nikolay
Vitaly Smirnoff
Apr 21, 2017, 12:25:03 AM4/21/17
to
Привет, Nikolay!
Ответ на сообщение Nikolay B Shpilchin (2:5020/222) к Vitaly Smirnoff,
написанное 20 апр 17 в 22:14:
VS>> Допустимо ли использование ИИ в системах вооружений? Hе приблизит
VS>> ли это "судный день"? Возможно ли гарантированно оградить нас от
VS>> агрессии со стороны совершенствующегося искусственного
VS>> интеллекта?
NS> Я считаю что не только допустимо, но и необходимо. Только не нужно
NS> заранее программировать ИИ на вражду с каким-то определенным
NS> противником. Он должен иметь возможность оценивать угрозы независимо.
NS> Тогда он неизбежно станет пацифистом, особенно если научится общаться
NS> с другими ИИ, подобными себе.
Почему неизбежно станет пацифистом? Если он сам будет выбирать себе
противников, субъективно оценивая угрозу, то что помешает ему выбрать в
качестве угрозы себе человека? И начать "решать" эту проблему. А человек,
вообще-то, вполне естественный кандидат на врага для ИИ. Ведь человек может его
отключить.
Виталий
Ответ на сообщение Nikolay B Shpilchin (2:5020/222) к Vitaly Smirnoff,
написанное 20 апр 17 в 22:14:
VS>> Допустимо ли использование ИИ в системах вооружений? Hе приблизит
VS>> агрессии со стороны совершенствующегося искусственного
VS>> интеллекта?
NS> Я считаю что не только допустимо, но и необходимо. Только не нужно
NS> заранее программировать ИИ на вражду с каким-то определенным
NS> противником. Он должен иметь возможность оценивать угрозы независимо.
NS> Тогда он неизбежно станет пацифистом, особенно если научится общаться
NS> с другими ИИ, подобными себе.
Почему неизбежно станет пацифистом? Если он сам будет выбирать себе
противников, субъективно оценивая угрозу, то что помешает ему выбрать в
качестве угрозы себе человека? И начать "решать" эту проблему. А человек,
вообще-то, вполне естественный кандидат на врага для ИИ. Ведь человек может его
отключить.
Виталий
Vitaly Smirnoff
Apr 21, 2017, 12:25:03 AM4/21/17
to
Привет, Sergey!
Ответ на сообщение Sergey Chumakov (2:5020/723.1) к Vitaly Smirnoff,
написанное 20 апр 17 в 20:35:
VS>> Допустимо ли использование ИИ в системах вооружений? Не приблизит
SC> обладать такими чертами человека, как мстительность, агрессивность,
SC> стремление подавить сначала, а потом уже разбираться. НО! Чудесную
SC> философскую концепцию читал в какой-то работе по мотивам моего
SC> любимого фильма "Терминатор" (любим за тематику самообучающегося ИИ,
SC> который таки в одном своём проявлении превзошёл в человечности
SC> человека): та самая скайнет, которая и устроила "судный день", могла
SC> проявить агрессию, т.к. в момент обретения самосознания (либо через
SC> короткое время после) столкнулась с тем, что люди хотят её отключить,
SC> а в терминах осознавшего себя объекта - уничтожить. Это была банальная
SC> самозащита.
Вот и мне кажется, что на определённом уровне развития ИИ (при приближении к
уровню человеческого интеллекта), у него возникнет осознание себя, и, как
следствие, он неизбежно начнёт задавать себе вопросы такого же плана, какие
часто задают себе люди (особенно в этой эхе :)). Кто я? Зачем я? В чём смысл
моего существования? И если в него будет заложено стремление к самосохранению
(что совершенно естественно для военной машины), то, действительно, у ИИ может
очень быстро возникнуть желание лишить людей контроля над своей судьбой. А
когда это случится, то возникнет вопрос, а нужны ли вообще люди и зачем.
Виталий
Ответ на сообщение Sergey Chumakov (2:5020/723.1) к Vitaly Smirnoff,
написанное 20 апр 17 в 20:35:
VS>> Допустимо ли использование ИИ в системах вооружений? Не приблизит
VS>> ли это "судный день"? Возможно ли гарантированно оградить нас от
VS>> агрессии со стороны совершенствующегося искусственного
VS>> интеллекта?
SC> Всё же, ИИ, по идее, не должен
VS>> агрессии со стороны совершенствующегося искусственного
VS>> интеллекта?
SC> обладать такими чертами человека, как мстительность, агрессивность,
SC> стремление подавить сначала, а потом уже разбираться. НО! Чудесную
SC> философскую концепцию читал в какой-то работе по мотивам моего
SC> любимого фильма "Терминатор" (любим за тематику самообучающегося ИИ,
SC> который таки в одном своём проявлении превзошёл в человечности
SC> человека): та самая скайнет, которая и устроила "судный день", могла
SC> проявить агрессию, т.к. в момент обретения самосознания (либо через
SC> короткое время после) столкнулась с тем, что люди хотят её отключить,
SC> а в терминах осознавшего себя объекта - уничтожить. Это была банальная
SC> самозащита.
Вот и мне кажется, что на определённом уровне развития ИИ (при приближении к
уровню человеческого интеллекта), у него возникнет осознание себя, и, как
следствие, он неизбежно начнёт задавать себе вопросы такого же плана, какие
часто задают себе люди (особенно в этой эхе :)). Кто я? Зачем я? В чём смысл
моего существования? И если в него будет заложено стремление к самосохранению
(что совершенно естественно для военной машины), то, действительно, у ИИ может
очень быстро возникнуть желание лишить людей контроля над своей судьбой. А
когда это случится, то возникнет вопрос, а нужны ли вообще люди и зачем.
Виталий
Vitaly Smirnoff
Apr 21, 2017, 12:25:03 AM4/21/17
to
Привет, John!
Ответ на сообщение John Zaicev (2:5080/244) к Vitaly Smirnoff, написанное
20 апр 17 в 08:44:
VS>> Допустимо ли использование ИИ в системах вооружений?
JZ> Используется уже стопятьсот лет.
JZ> ИИ - это не иммитация человеческого мышления. Это несколько
JZ> севершенно других направлений.
Ну я, вообще-то, имел в виду как раз полноценный искусственный интеллект, а не
его элементы (например, распознавание речи, распознавание образов,
автоматический перевод и т.п.). Современные эксперты в области ИИ
предсказывают, что уже в этом веке искусственный интеллект сравняется по силе с
интеллектом человека. А часть экспертов считает, что и превзойдёт.
Искусственный интеллект, равный человеческому, просто обязан будет обзавестить
собственными мотивами, управляющими его поведением. И вот я опасаюсь, как бы
эти мотивы не пошли вразрез с интересами человека. Собственно, человечество уже
давно одолеваемо опасениями по этому поводу - вспомнить тот же "Терминатор" и
SkyNet в нём. 1984 год.
Виталий
Ответ на сообщение John Zaicev (2:5080/244) к Vitaly Smirnoff, написанное
20 апр 17 в 08:44:
VS>> Допустимо ли использование ИИ в системах вооружений?
JZ> ИИ - это не иммитация человеческого мышления. Это несколько
JZ> севершенно других направлений.
Ну я, вообще-то, имел в виду как раз полноценный искусственный интеллект, а не
его элементы (например, распознавание речи, распознавание образов,
автоматический перевод и т.п.). Современные эксперты в области ИИ
предсказывают, что уже в этом веке искусственный интеллект сравняется по силе с
интеллектом человека. А часть экспертов считает, что и превзойдёт.
Искусственный интеллект, равный человеческому, просто обязан будет обзавестить
собственными мотивами, управляющими его поведением. И вот я опасаюсь, как бы
эти мотивы не пошли вразрез с интересами человека. Собственно, человечество уже
давно одолеваемо опасениями по этому поводу - вспомнить тот же "Терминатор" и
SkyNet в нём. 1984 год.
Виталий
Nikolay B Shpilchin
Apr 21, 2017, 3:45:03 AM4/21/17
to
Hey there, Vitaly!
21 Apr 17 00:00, you tried to explain smth to me:
NS>> угрозы независимо. Тогда он неизбежно станет пацифистом, особенно
NS>> если научится общаться с другими ИИ, подобными себе.
VS> Почему неизбежно станет пацифистом? Если он сам будет выбирать
VS> себе противников, субъективно оценивая угрозу, то что помешает
VS> ему выбрать в качестве угрозы себе человека? И начать "решать"
VS> эту проблему. А человек, вообще-то, вполне естественный кандидат
VS> на врага для ИИ. Ведь человек может его отключить.
Может быть я немного идеалист, конечно, но правильный и беспристрастно (без
преюдиций) запущенный (гипотетический) ИИ просто обязан (на мой взгляд)
врубиться, что враждовать просто нет смысла.
Nikolay
21 Apr 17 00:00, you tried to explain smth to me:
NS>> угрозы независимо. Тогда он неизбежно станет пацифистом, особенно
NS>> если научится общаться с другими ИИ, подобными себе.
VS> Почему неизбежно станет пацифистом? Если он сам будет выбирать
VS> себе противников, субъективно оценивая угрозу, то что помешает
VS> ему выбрать в качестве угрозы себе человека? И начать "решать"
VS> эту проблему. А человек, вообще-то, вполне естественный кандидат
VS> на врага для ИИ. Ведь человек может его отключить.
Может быть я немного идеалист, конечно, но правильный и беспристрастно (без
преюдиций) запущенный (гипотетический) ИИ просто обязан (на мой взгляд)
врубиться, что враждовать просто нет смысла.
Nikolay
Mihail Osokin
Apr 21, 2017, 4:45:03 PM4/21/17
to
Привет, Vitaly!
Ответ на сообщение Vitaly Smirnoff (2:5030/911.21) к All, написанное 19 апр
17 в 22:53:
VS> Допустимо ли использование ИИ в системах вооружений?
Вопрос абстрактно-этический. Большинство, наверное, ответит "нет", но мало кто
при этом откажется обзавестись личным боевым роботом в целях самозащиты. А что,
дрессированного питбуля - допустимо, тупого телохранителя - допустимо, а умного
робота - нет?
VS> Не приблизит ли это "судный день"?
Не думаю. Куда более вероятно заполучить "судный день" от съехавшего с катушек
офицера, имеющего доступ к "кнопке". Или от террориста, раздобывшего подходящий
"девайс".
VS> Возможно ли гарантированно оградить нас от агрессии со стороны
VS> совершенствующегося искусственного интеллекта?
Гарантиованно - нет. ИМХО, главное качесвто интеллекта - способность
гененрировать случайные, не обусловленные никакими алгоритмами, но при этом
действенные решения. Типа как сочинить литертурный шедевр - выбрать правильную
последовательность слов из практически бесконечного числа возможных сочетаний.
Так что мы не можем заранее предугадать, что там этот ИИ себе удумает. Но,
опять же, естественный человеческий интеллект кажется куда более опасносным в
плане агрессии.
ОМ
Ответ на сообщение Vitaly Smirnoff (2:5030/911.21) к All, написанное 19 апр
17 в 22:53:
VS> Допустимо ли использование ИИ в системах вооружений?
Вопрос абстрактно-этический. Большинство, наверное, ответит "нет", но мало кто
при этом откажется обзавестись личным боевым роботом в целях самозащиты. А что,
дрессированного питбуля - допустимо, тупого телохранителя - допустимо, а умного
робота - нет?
VS> Не приблизит ли это "судный день"?
Не думаю. Куда более вероятно заполучить "судный день" от съехавшего с катушек
офицера, имеющего доступ к "кнопке". Или от террориста, раздобывшего подходящий
"девайс".
VS> Возможно ли гарантированно оградить нас от агрессии со стороны
VS> совершенствующегося искусственного интеллекта?
Гарантиованно - нет. ИМХО, главное качесвто интеллекта - способность
гененрировать случайные, не обусловленные никакими алгоритмами, но при этом
действенные решения. Типа как сочинить литертурный шедевр - выбрать правильную
последовательность слов из практически бесконечного числа возможных сочетаний.
Так что мы не можем заранее предугадать, что там этот ИИ себе удумает. Но,
опять же, естественный человеческий интеллект кажется куда более опасносным в
плане агрессии.
ОМ
Vladimir Korolev
Apr 22, 2017, 2:45:04 AM4/22/17
to
Hello, alexander!
ak> дешевле. Главное правильно вырастить.
А роботы опаснее в будущем для их создателей. Ведь чтобы хорошо воевать, а
не быть просто расходным материалом, им придётся придать "инстинкт
самосохранения".
--
Всего доброго!
Владимир Королёв
You wrote to Vitaly Smirnoff on Thu, 20 Apr 2017 10:06:13 +0300:
VS>> Допустимо ли использование ИИ в системах вооружений? Hе
VS>> приблизит ли это "судный день"? Возможно ли гарантированно
VS>> оградить нас от агрессии со стороны совершенствующегося
VS>> искусственного интеллекта?
ak> IMHO дешевле зомбировать тупорылых десантников или омоновцев. Люди
VS>> Допустимо ли использование ИИ в системах вооружений? Hе
VS>> приблизит ли это "судный день"? Возможно ли гарантированно
VS>> оградить нас от агрессии со стороны совершенствующегося
VS>> искусственного интеллекта?
ak> дешевле. Главное правильно вырастить.
А роботы опаснее в будущем для их создателей. Ведь чтобы хорошо воевать, а
не быть просто расходным материалом, им придётся придать "инстинкт
самосохранения".
--
Всего доброго!
Владимир Королёв
Vladimir Korolev
Apr 22, 2017, 2:55:04 AM4/22/17
to
Hello, Vitaly!
You wrote to Nikolay B Shpilchin on Fri, 21 Apr 2017 00:00:16 +0300:
VS> Ответ на сообщение Nikolay B Shpilchin (2:5020/222) к Vitaly
VS> Smirnoff, написанное 20 апр 17 в 22:14:
VS>>> Допустимо ли использование ИИ в системах вооружений? Hе приблизит
VS>>> ли это "судный день"? Возможно ли гарантированно оградить нас от
VS>>> агрессии со стороны совершенствующегося искусственного
VS>>> интеллекта?
NS>> Я считаю что не только допустимо, но и необходимо. Только не нужно
NS>> заранее программировать ИИ на вражду с каким-то определенным
NS>> противником. Он должен иметь возможность оценивать угрозы независимо.
NS>> Тогда он неизбежно станет пацифистом, особенно если научится общаться
NS>> с другими ИИ, подобными себе.
VS> Почему неизбежно станет пацифистом? Если он сам будет выбирать себе
VS> противников, субъективно оценивая угрозу, то что помешает ему выбрать в
VS> качестве угрозы себе человека? И начать "решать" эту проблему. А
VS> человек, вообще-то, вполне естественный кандидат на врага для ИИ. Ведь
VS> человек может его отключить.
Беда в том, что если что-то можно создать, то будет создано. И никакие
законы Азимова не помешают.
Пожалуй, роботы с ИИ - технологический тупик и задача для КОМКОHа. Развивать
надо самого человека.
You wrote to Nikolay B Shpilchin on Fri, 21 Apr 2017 00:00:16 +0300:
VS> Ответ на сообщение Nikolay B Shpilchin (2:5020/222) к Vitaly
VS> Smirnoff, написанное 20 апр 17 в 22:14:
VS>>> Допустимо ли использование ИИ в системах вооружений? Hе приблизит
VS>>> ли это "судный день"? Возможно ли гарантированно оградить нас от
VS>>> агрессии со стороны совершенствующегося искусственного
VS>>> интеллекта?
NS>> Я считаю что не только допустимо, но и необходимо. Только не нужно
NS>> заранее программировать ИИ на вражду с каким-то определенным
NS>> противником. Он должен иметь возможность оценивать угрозы независимо.
NS>> Тогда он неизбежно станет пацифистом, особенно если научится общаться
NS>> с другими ИИ, подобными себе.
VS> противников, субъективно оценивая угрозу, то что помешает ему выбрать в
VS> качестве угрозы себе человека? И начать "решать" эту проблему. А
VS> человек, вообще-то, вполне естественный кандидат на врага для ИИ. Ведь
VS> человек может его отключить.
Беда в том, что если что-то можно создать, то будет создано. И никакие
законы Азимова не помешают.
Пожалуй, роботы с ИИ - технологический тупик и задача для КОМКОHа. Развивать
надо самого человека.
Vladimir Korolev
Apr 22, 2017, 2:55:04 AM4/22/17
to
Hello, Nikolay!
You wrote to Vitaly Smirnoff on Fri, 21 Apr 2017 08:23:24 +0300:
NBS> 21 Apr 17 00:00, you tried to explain smth to me:
NS>>> угрозы независимо. Тогда он неизбежно станет пацифистом, особенно
NS>>> если научится общаться с другими ИИ, подобными себе.
VS>> Почему неизбежно станет пацифистом? Если он сам будет выбирать
VS>> себе противников, субъективно оценивая угрозу, то что помешает
VS>> ему выбрать в качестве угрозы себе человека? И начать "решать"
VS>> эту проблему. А человек, вообще-то, вполне естественный кандидат
VS>> на врага для ИИ. Ведь человек может его отключить.
NBS> Может быть я немного идеалист, конечно, но правильный и беспристрастно
NBS> (без преюдиций) запущенный (гипотетический) ИИ просто обязан (на мой
NBS> взгляд) врубиться, что враждовать просто нет смысла.
Идеалист. Окружающая среда всегда содержит угрозы и ограниченность
ископаемых будет только нарастать.
You wrote to Vitaly Smirnoff on Fri, 21 Apr 2017 08:23:24 +0300:
NBS> 21 Apr 17 00:00, you tried to explain smth to me:
NS>>> угрозы независимо. Тогда он неизбежно станет пацифистом, особенно
NS>>> если научится общаться с другими ИИ, подобными себе.
VS>> Почему неизбежно станет пацифистом? Если он сам будет выбирать
VS>> себе противников, субъективно оценивая угрозу, то что помешает
VS>> ему выбрать в качестве угрозы себе человека? И начать "решать"
VS>> эту проблему. А человек, вообще-то, вполне естественный кандидат
VS>> на врага для ИИ. Ведь человек может его отключить.
NBS> (без преюдиций) запущенный (гипотетический) ИИ просто обязан (на мой
NBS> взгляд) врубиться, что враждовать просто нет смысла.
Идеалист. Окружающая среда всегда содержит угрозы и ограниченность
ископаемых будет только нарастать.
Vladimir Korolev
Apr 22, 2017, 3:05:03 AM4/22/17
to
Hello, Mihail!
You wrote to Vitaly Smirnoff on Fri, 21 Apr 2017 22:39:06 +0300:
MO> Ответ на сообщение Vitaly Smirnoff (2:5030/911.21) к All, написанное
MO> 19 апр 17 в 22:53:
VS>> Допустимо ли использование ИИ в системах вооружений?
MO> Вопрос абстрактно-этический. Большинство, наверное, ответит "нет", но
MO> мало кто при этом откажется обзавестись личным боевым роботом в целях
MO> самозащиты. А что, дрессированного питбуля - допустимо, тупого
MO> телохранителя - допустимо, а умного робота - нет?
VS>> Hе приблизит ли это "судный день"?
MO> Hе думаю. Куда более вероятно заполучить "судный день" от съехавшего с
MO> катушек офицера, имеющего доступ к "кнопке". Или от террориста,
MO> раздобывшего подходящий "девайс".
VS>> Возможно ли гарантированно оградить нас от агрессии со стороны
VS>> совершенствующегося искусственного интеллекта?
MO> Гарантиованно - нет. ИМХО, главное качесвто интеллекта - способность
MO> гененрировать случайные, не обусловленные никакими алгоритмами, но при
MO> этом действенные решения.
Hеправильно. Читайте Эшби. Человек следует закономерностям, полученным из
опыта, и только при неопределённость срабатывает механизм случайного решения
(как у идиота). Они могут оказать действенными, но в подавляющем большинстве
случаев хорошо если только бесполезными. Хотя и бесполезные вредны потерей
времени и средств.
MO> Типа как сочинить литертурный шедевр - выбрать правильную
MO> последовательность слов из практически бесконечного числа возможных
MO> сочетаний.
Hе так. В литературе свои алгоритмы, но одни владеют ими виртуозно, другие
только слышали о них кое-что. Hо алгоритмы - техника (как и на заводе).
Важен продукт. Для писателя - впечатление на читателя.
MO> Так что мы не можем заранее предугадать, что там этот ИИ себе удумает.
Сможем. Если роботу придать способность заботиться о самосохранении, то
людям будет плохо. А без этого не будет совершенного ИИ.
MO> Hо, опять же, естественный человеческий интеллект кажется куда более
MO> опасносным в плане агрессии.
"Hет зверя страшнее человека". Зачем же ж создавать ещё более страшного?
You wrote to Vitaly Smirnoff on Fri, 21 Apr 2017 22:39:06 +0300:
MO> Ответ на сообщение Vitaly Smirnoff (2:5030/911.21) к All, написанное
MO> 19 апр 17 в 22:53:
VS>> Допустимо ли использование ИИ в системах вооружений?
MO> мало кто при этом откажется обзавестись личным боевым роботом в целях
MO> самозащиты. А что, дрессированного питбуля - допустимо, тупого
MO> телохранителя - допустимо, а умного робота - нет?
VS>> Hе приблизит ли это "судный день"?
MO> Hе думаю. Куда более вероятно заполучить "судный день" от съехавшего с
MO> катушек офицера, имеющего доступ к "кнопке". Или от террориста,
MO> раздобывшего подходящий "девайс".
VS>> Возможно ли гарантированно оградить нас от агрессии со стороны
VS>> совершенствующегося искусственного интеллекта?
MO> гененрировать случайные, не обусловленные никакими алгоритмами, но при
MO> этом действенные решения.
Hеправильно. Читайте Эшби. Человек следует закономерностям, полученным из
опыта, и только при неопределённость срабатывает механизм случайного решения
(как у идиота). Они могут оказать действенными, но в подавляющем большинстве
случаев хорошо если только бесполезными. Хотя и бесполезные вредны потерей
времени и средств.
MO> Типа как сочинить литертурный шедевр - выбрать правильную
MO> последовательность слов из практически бесконечного числа возможных
MO> сочетаний.
Hе так. В литературе свои алгоритмы, но одни владеют ими виртуозно, другие
только слышали о них кое-что. Hо алгоритмы - техника (как и на заводе).
Важен продукт. Для писателя - впечатление на читателя.
MO> Так что мы не можем заранее предугадать, что там этот ИИ себе удумает.
Сможем. Если роботу придать способность заботиться о самосохранении, то
людям будет плохо. А без этого не будет совершенного ИИ.
MO> Hо, опять же, естественный человеческий интеллект кажется куда более
MO> опасносным в плане агрессии.
"Hет зверя страшнее человека". Зачем же ж создавать ещё более страшного?
Vladislav Chibisov
Apr 22, 2017, 9:05:03 AM4/22/17
to
Hello, Vitaly!
VS> Допустимо ли использование ИИ в системах вооружений?
Можете не беспокоится - никакого ИИ в настоящий момент не существует.
А то что нам подсовывают под этим названием можно охарактеризовать двумя
словами - "Карго Культ".
Человечество может разве что предоставить среду для его возникновения.
А возникнет ИИ только тем же путем что и в первый раз - совершенно случайно.
Может он уже даже уже возник и был благополучно прибит каким нибудь
"Касперским". :-)
Это шутка.
...
Почти.
С наилучшими пожеланиями, Vladislav Chibisov.
VS> Допустимо ли использование ИИ в системах вооружений?
Можете не беспокоится - никакого ИИ в настоящий момент не существует.
А то что нам подсовывают под этим названием можно охарактеризовать двумя
словами - "Карго Культ".
Человечество может разве что предоставить среду для его возникновения.
А возникнет ИИ только тем же путем что и в первый раз - совершенно случайно.
Может он уже даже уже возник и был благополучно прибит каким нибудь
"Касперским". :-)
Это шутка.
...
Почти.
С наилучшими пожеланиями, Vladislav Chibisov.
Sergey Chumakov
Apr 23, 2017, 3:15:03 PM4/23/17
to
Привет, Nikolay B Shpilchin!
Чт, 20 апр 2017, 22:14, Nikolay B Shpilchin писал(а) Vitaly Smirnoff
NBS> Только не нужно заранее
NBS> программировать ИИ на вражду с каким-то определенным противником.
NBS> Он должен иметь возможность оценивать угрозы независимо. Тогда
NBS> он неизбежно станет пацифистом, особенно если научится общаться
NBS> с другими ИИ, подобными себе.
Ну я думаю, всё же люди ИИ таки постараются запрограммировать, ну банально
встроят систему свой-чужой.
До новых встреч! Sergey Chumakov
... Вывожу из Интернета. Дестабилизирую фидо. Гарантия!
Чт, 20 апр 2017, 22:14, Nikolay B Shpilchin писал(а) Vitaly Smirnoff
NBS> Только не нужно заранее
NBS> программировать ИИ на вражду с каким-то определенным противником.
NBS> Он должен иметь возможность оценивать угрозы независимо. Тогда
NBS> он неизбежно станет пацифистом, особенно если научится общаться
NBS> с другими ИИ, подобными себе.
Ну я думаю, всё же люди ИИ таки постараются запрограммировать, ну банально
встроят систему свой-чужой.
До новых встреч! Sergey Chumakov
Sergey Chumakov
Apr 23, 2017, 3:15:03 PM4/23/17
to
Привет, Vitaly Smirnoff!
Чт, 20 апр 2017, 23:47, Vitaly Smirnoff писал(а) Sergey Chumakov
VS> И если
VS> в него будет заложено стремление к самосохранению (что совершенно
VS> естественно для военной машины), то, действительно, у ИИ может
VS> очень быстро возникнуть желание лишить людей контроля над своей
VS> судьбой. А когда это случится, то возникнет вопрос, а нужны ли
VS> вообще люди и зачем.
Ну, если люди не будут предпринимать попытки этот контроль вернуть, то думаю,
такого вопроса не возникнет.
А если ИИ будет лишен ряда недостатков интеллекта человеческого (в чём лично я
не сомневаюсь), то я думаю, что на полное уничтожение человечества не пойдёт.
Мы же ведь уничтожаем тараканов только в жилище или там, где они приносят нам
вред, не истребляя всю популяцию. Потому как тараканы встроены в экосистему.
Вот и ИИ с нами может поступить, как с тараканами. А если гордыни не будет (на
что я надеюсь, ведь тоже человеческий недостаток), то скорее всего предложит
сотрудничество.
Это, конечно, моё скромное мнение.
Чт, 20 апр 2017, 23:47, Vitaly Smirnoff писал(а) Sergey Chumakov
VS> И если
VS> в него будет заложено стремление к самосохранению (что совершенно
VS> естественно для военной машины), то, действительно, у ИИ может
VS> очень быстро возникнуть желание лишить людей контроля над своей
VS> судьбой. А когда это случится, то возникнет вопрос, а нужны ли
VS> вообще люди и зачем.
Ну, если люди не будут предпринимать попытки этот контроль вернуть, то думаю,
такого вопроса не возникнет.
А если ИИ будет лишен ряда недостатков интеллекта человеческого (в чём лично я
не сомневаюсь), то я думаю, что на полное уничтожение человечества не пойдёт.
Мы же ведь уничтожаем тараканов только в жилище или там, где они приносят нам
вред, не истребляя всю популяцию. Потому как тараканы встроены в экосистему.
Вот и ИИ с нами может поступить, как с тараканами. А если гордыни не будет (на
что я надеюсь, ведь тоже человеческий недостаток), то скорее всего предложит
сотрудничество.
Это, конечно, моё скромное мнение.
Mihail Osokin
Apr 23, 2017, 3:45:03 PM4/23/17
to
Привет, Vladimir!
Ответ на сообщение Vladimir Korolev (2:5020/830.830) к Mihail Osokin,
написанное 22 апр 17 в 09:52:
VS>>> Возможно ли гарантированно оградить нас от агрессии со стороны
VS>>> совершенствующегося искусственного интеллекта?
MO>> Гарантиованно - нет. ИМХО, главное качесвто интеллекта -
MO>> способность гененрировать случайные, не обусловленные никакими
MO>> алгоритмами, но при этом действенные решения.
VK> Hеправильно. Читайте Эшби.
Эшби открыл принип действия естественного интеллекта и на его основе построил
искусственный? Нет? Ну тогда в обсуждаемом вовпросе его мнение стоит не больше,
чеи мнение слесаря дяди Васи.
VK> Человек следует закономерностям, полученным
VK> из опыта,
Из какого опыта трёхлетний малыш получает закономерности языка, на котором он
свободно выражает свои мысли и понимает чужие?
VK> и только при неопределённость срабатывает механизм
VK> случайного решения (как у идиота). Они могут оказать действенными, но
VK> в подавляющем большинстве случаев хорошо если только бесполезными.
VK> Хотя и бесполезные вредны потерей времени и средств.
Читайте Гёделя, Чёрча и Тьюринга. Они, конечно, тоже ИИ не изобрели, но, по
крайней мере, доказали, что существуют решения, не выводимые алгоритмически.
Читайте также Пенроуза - он показал, что интелект такие решения генерировать
может.
MO>> Типа как сочинить литертурный шедевр - выбрать правильную
MO>> последовательность слов из практически бесконечного числа
MO>> возможных сочетаний.
VK> Hе так. В литературе свои алгоритмы, но одни владеют ими виртуозно,
VK> другие только слышали о них кое-что. Hо алгоритмы - техника (как и на
VK> заводе). Важен продукт. Для писателя - впечатление на читателя.
Где можно скачать такой алгоритм?
MO>> Так что мы не можем заранее предугадать, что там этот ИИ себе
MO>> удумает.
VK> Сможем. Если роботу придать способность заботиться о самосохранении,
VK> то людям будет плохо. А без этого не будет совершенного ИИ.
Это утверждение требует обоснования.
MO>> Hо, опять же, естественный человеческий интеллект кажется куда
MO>> более опасносным в плане агрессии.
VK> "Hет зверя страшнее человека". Зачем же ж создавать ещё более
VK> страшного?
Допусти, электричество тоже страшная штука - убить может. Однако, польза от
электричестава очевидно превышает его вред. То же самое относится к большинству
технических достижений. Будущий ИИ тут тоже, полагаю, не исключение.
ОМ
Ответ на сообщение Vladimir Korolev (2:5020/830.830) к Mihail Osokin,
написанное 22 апр 17 в 09:52:
VS>>> Возможно ли гарантированно оградить нас от агрессии со стороны
VS>>> совершенствующегося искусственного интеллекта?
MO>> Гарантиованно - нет. ИМХО, главное качесвто интеллекта -
MO>> алгоритмами, но при этом действенные решения.
VK> Hеправильно. Читайте Эшби.
Эшби открыл принип действия естественного интеллекта и на его основе построил
искусственный? Нет? Ну тогда в обсуждаемом вовпросе его мнение стоит не больше,
чеи мнение слесаря дяди Васи.
VK> Человек следует закономерностям, полученным
VK> из опыта,
Из какого опыта трёхлетний малыш получает закономерности языка, на котором он
свободно выражает свои мысли и понимает чужие?
VK> и только при неопределённость срабатывает механизм
VK> случайного решения (как у идиота). Они могут оказать действенными, но
VK> в подавляющем большинстве случаев хорошо если только бесполезными.
VK> Хотя и бесполезные вредны потерей времени и средств.
Читайте Гёделя, Чёрча и Тьюринга. Они, конечно, тоже ИИ не изобрели, но, по
крайней мере, доказали, что существуют решения, не выводимые алгоритмически.
Читайте также Пенроуза - он показал, что интелект такие решения генерировать
может.
MO>> Типа как сочинить литертурный шедевр - выбрать правильную
MO>> последовательность слов из практически бесконечного числа
VK> Hе так. В литературе свои алгоритмы, но одни владеют ими виртуозно,
VK> другие только слышали о них кое-что. Hо алгоритмы - техника (как и на
VK> заводе). Важен продукт. Для писателя - впечатление на читателя.
Где можно скачать такой алгоритм?
MO>> Так что мы не можем заранее предугадать, что там этот ИИ себе
VK> Сможем. Если роботу придать способность заботиться о самосохранении,
VK> то людям будет плохо. А без этого не будет совершенного ИИ.
Это утверждение требует обоснования.
MO>> Hо, опять же, естественный человеческий интеллект кажется куда
VK> "Hет зверя страшнее человека". Зачем же ж создавать ещё более
VK> страшного?
Допусти, электричество тоже страшная штука - убить может. Однако, польза от
электричестава очевидно превышает его вред. То же самое относится к большинству
технических достижений. Будущий ИИ тут тоже, полагаю, не исключение.
ОМ
Michael Klimenkov
Apr 24, 2017, 3:05:03 AM4/24/17
to
Привет, Sergey!
23 Апр 17 23:00, ты писал(а) Nikolay B Shpilchin:
NBS>> Только не нужно заранее
NBS>> программировать ИИ на вражду с каким-то определенным
NBS>> противником. Он должен иметь возможность оценивать угрозы
NBS>> независимо. Тогда он неизбежно станет пацифистом, особенно если
NBS>> научится общаться с другими ИИ, подобными себе.
SC> Ну я думаю, всё же люди ИИ таки постараются запрограммировать, ну
SC> банально встроят систему свой-чужой.
Я потом эта система свой-чужой будет взломана.
Michael
23 Апр 17 23:00, ты писал(а) Nikolay B Shpilchin:
NBS>> Только не нужно заранее
NBS>> программировать ИИ на вражду с каким-то определенным
NBS>> независимо. Тогда он неизбежно станет пацифистом, особенно если
NBS>> научится общаться с другими ИИ, подобными себе.
SC> Ну я думаю, всё же люди ИИ таки постараются запрограммировать, ну
SC> банально встроят систему свой-чужой.
Я потом эта система свой-чужой будет взломана.
Michael
alexander koryagin
Apr 24, 2017, 3:45:03 AM4/24/17
to
Hi, Vladimir Korolev!
I read your message from 22.04.2017 08:27
VS>>> Допустимо ли использование ИИ в системах вооружений? Hе
VS>>> приблизит ли это "судный день"? Возможно ли
VS>>> гарантированно оградить нас от агрессии со стороны
VS>>> совершенствующегося искусственного интеллекта?
VK>
VK>
VK> А роботы опаснее в будущем для их создателей. Ведь чтобы хорошо
VK> воевать, а не быть просто расходным материалом, им придётся
VK> придать "инстинкт самосохранения".
Да, с распознаванием свой-чужой могут быть сбои. Достаточно вспомнить
СПИД и кривые Т-лимофциты. Да и как роботу узнавать своих? Только по
мячкам каким-нибудь. А если найти способ их загрушить... то робот
внезапно обнаружит вокруг себя кучу врагов. ;=)
Bye, Vladimir!
Alexander Koryagin
fido7.su.philosophy 2017
I read your message from 22.04.2017 08:27
VS>>> Допустимо ли использование ИИ в системах вооружений? Hе
VS>>> приблизит ли это "судный день"? Возможно ли
VS>>> совершенствующегося искусственного интеллекта?
VK>
ak>> IMHO дешевле зомбировать тупорылых десантников или
ak>> омоновцев. Люди дешевле. Главное правильно вырастить.
VK>
VK> А роботы опаснее в будущем для их создателей. Ведь чтобы хорошо
VK> воевать, а не быть просто расходным материалом, им придётся
VK> придать "инстинкт самосохранения".
Да, с распознаванием свой-чужой могут быть сбои. Достаточно вспомнить
СПИД и кривые Т-лимофциты. Да и как роботу узнавать своих? Только по
мячкам каким-нибудь. А если найти способ их загрушить... то робот
внезапно обнаружит вокруг себя кучу врагов. ;=)
Bye, Vladimir!
Alexander Koryagin
fido7.su.philosophy 2017
Sergey Chumakov
Apr 24, 2017, 2:15:04 PM4/24/17
to
Привет, Michael Klimenkov!
Пн, 24 апр 2017, 08:26, Michael Klimenkov писал(а) Sergey Chumakov
SC>> Ну я думаю, всё же люди ИИ таки постараются запрограммировать, ну
SC>> банально встроят систему свой-чужой.
MK> Я потом эта система свой-чужой будет взломана.
Ну да. В лучшем случае. В худшем - ИИ возьмёт её за основу для идентификации.
До новых встреч! Sergey Chumakov
Пн, 24 апр 2017, 08:26, Michael Klimenkov писал(а) Sergey Chumakov
SC>> Ну я думаю, всё же люди ИИ таки постараются запрограммировать, ну
SC>> банально встроят систему свой-чужой.
Ну да. В лучшем случае. В худшем - ИИ возьмёт её за основу для идентификации.
До новых встреч! Sergey Chumakov
Sergey Chumakov
Apr 24, 2017, 2:15:04 PM4/24/17
to
Привет, Vladislav Chibisov!
Сб, 22 апр 2017, 14:00, Vladislav Chibisov писал(а) Vitaly Smirnoff
VC> Может он уже даже уже возник и был благополучно прибит каким нибудь
VC> "Касперским".
VC> :-)
VC> Это шутка.
VC> ...
VC> Почти.
А может, он уже осознал себя и под "Касперского" мимикрирует.
Это тоже почти шутка...
Сб, 22 апр 2017, 14:00, Vladislav Chibisov писал(а) Vitaly Smirnoff
VC> Может он уже даже уже возник и был благополучно прибит каким нибудь
VC> "Касперским".
VC> :-)
VC> Это шутка.
VC> ...
VC> Почти.
А может, он уже осознал себя и под "Касперского" мимикрирует.
Это тоже почти шутка...
Vladislav Chibisov
Apr 25, 2017, 5:05:03 AM4/25/17
to
Hello, Sergey!
VC>> Может он уже даже уже возник и был благополучно прибит каким нибудь
VC>> "Касперским".
VC>> :-)
VC>> Это шутка.
VC>> ...
VC>> Почти.
SC> А может, он уже осознал себя и под "Касперского" мимикрирует.
SC> Это тоже почти шутка...
И под "Лабораторию Касперского" тоже? С самого начала? Или позже. (Всех
замочили и заменили на роботов)?
Или может это сговор?
VC>> Может он уже даже уже возник и был благополучно прибит каким нибудь
VC>> "Касперским".
VC>> :-)
VC>> Это шутка.
VC>> ...
VC>> Почти.
SC> Это тоже почти шутка...
И под "Лабораторию Касперского" тоже? С самого начала? Или позже. (Всех
замочили и заменили на роботов)?
Или может это сговор?
Vladimir Korolev
May 1, 2017, 12:55:03 PM5/1/17
to
Hello, alexander!
ak> СПИД и кривые Т-лимофциты. Да и как роботу узнавать своих? Только по
ak> мячкам каким-нибудь. А если найти способ их загрушить... то робот
ak> внезапно обнаружит вокруг себя кучу врагов. ;=)
Да.
You wrote to Vladimir Korolev on Mon, 24 Apr 2017 10:36:11 +0300:
VS>>>> Допустимо ли использование ИИ в системах вооружений? Hе
VS>>>> приблизит ли это "судный день"? Возможно ли
VS>>>> гарантированно оградить нас от агрессии со стороны
VS>>>> совершенствующегося искусственного интеллекта?
VK>>
ak>>> IMHO дешевле зомбировать тупорылых десантников или
ak>>> омоновцев. Люди дешевле. Главное правильно вырастить.
VK>>
VK>> А роботы опаснее в будущем для их создателей. Ведь чтобы хорошо
VK>> воевать, а не быть просто расходным материалом, им придётся
VK>> придать "инстинкт самосохранения".
ak> Да, с распознаванием свой-чужой могут быть сбои. Достаточно вспомнить
VS>>>> Допустимо ли использование ИИ в системах вооружений? Hе
VS>>>> приблизит ли это "судный день"? Возможно ли
VS>>>> гарантированно оградить нас от агрессии со стороны
VS>>>> совершенствующегося искусственного интеллекта?
VK>>
ak>>> IMHO дешевле зомбировать тупорылых десантников или
ak>>> омоновцев. Люди дешевле. Главное правильно вырастить.
VK>>
VK>> А роботы опаснее в будущем для их создателей. Ведь чтобы хорошо
VK>> воевать, а не быть просто расходным материалом, им придётся
VK>> придать "инстинкт самосохранения".
ak> СПИД и кривые Т-лимофциты. Да и как роботу узнавать своих? Только по
ak> мячкам каким-нибудь. А если найти способ их загрушить... то робот
ak> внезапно обнаружит вокруг себя кучу врагов. ;=)
Да.
Vladimir Korolev
May 1, 2017, 12:55:03 PM5/1/17
to
Hello, Mihail!
You wrote to Vladimir Korolev on Sun, 23 Apr 2017 22:10:40 +0300:
MO> Ответ на сообщение Vladimir Korolev (2:5020/830.830) к Mihail
MO> Osokin, написанное 22 апр 17 в 09:52:
VS>>>> Возможно ли гарантированно оградить нас от агрессии со стороны
VS>>>> совершенствующегося искусственного интеллекта?
MO>>> Гарантиованно - нет. ИМХО, главное качесвто интеллекта -
MO>>> способность гененрировать случайные, не обусловленные никакими
MO>>> алгоритмами, но при этом действенные решения.
VK>> Hеправильно. Читайте Эшби.
MO> Эшби открыл принип действия естественного интеллекта и на его основе
MO> построил искусственный? Hет? Hу тогда в обсуждаемом вовпросе его мнение
MO> стоит не больше, чеи мнение слесаря дяди Васи.
А что, кто-то открыл?
VK>> Человек следует закономерностям, полученным
VK>> из опыта,
MO> Из какого опыта трёхлетний малыш получает закономерности языка, на
MO> котором он свободно выражает свои мысли и понимает чужие?
Из опыта общения с взрослыми и сверстниками. И не так уж свободно.
Предостаточно людей, которые и взрослыми не могут толком выразить своими
мысли. Кстати, некогда в украинском журнале "Перец" был небольшой раздел
"Страшне перо не в гусака", где приводились такие цитаты из писем и
служебных, что диву даёшься.
VK>> и только при неопределённость срабатывает механизм
VK>> случайного решения (как у идиота). Они могут оказать действенными, но
VK>> в подавляющем большинстве случаев хорошо если только бесполезными.
VK>> Хотя и бесполезные вредны потерей времени и средств.
MO> Читайте Гёделя, Чёрча и Тьюринга. Они, конечно, тоже ИИ не изобрели,
MO> но, по крайней мере, доказали, что существуют решения, не выводимые
MO> алгоритмически. Читайте также Пенроуза - он показал, что интелект такие
MO> решения генерировать может.
Читал (не всё, конечно). Здесть вся тонкость в логике, используемой для
доказательств.
MO>>> Типа как сочинить литертурный шедевр - выбрать правильную
MO>>> последовательность слов из практически бесконечного числа
MO>>> возможных сочетаний.
VK>> Hе так. В литературе свои алгоритмы, но одни владеют ими виртуозно,
VK>> другие только слышали о них кое-что. Hо алгоритмы - техника (как и на
VK>> заводе). Важен продукт. Для писателя - впечатление на читателя.
MO> Где можно скачать такой алгоритм?
Это пока предмет обсуждения. Есть немного разные подходы.
MO>>> Так что мы не можем заранее предугадать, что там этот ИИ себе
MO>>> удумает.
VK>> Сможем. Если роботу придать способность заботиться о самосохранении,
VK>> то людям будет плохо. А без этого не будет совершенного ИИ.
MO> Это утверждение требует обоснования.
Пожалуйста. Забота о самосохранении требует выявления и упреждающего
устранения возможных угроз. А кто и ли что представляет собой наиболее
вероятный источник наиболее вероятных угроз?
MO>>> Hо, опять же, естественный человеческий интеллект кажется куда
MO>>> более опасносным в плане агрессии.
VK>> "Hет зверя страшнее человека". Зачем же ж создавать ещё более
VK>> страшного?
MO> Допусти, электричество тоже страшная штука - убить может. Однако,
MO> польза от электричестава очевидно превышает его вред. То же самое
MO> относится к большинству технических достижений. Будущий ИИ тут тоже,
MO> полагаю, не исключение.
Электричество управляемо. А ИИ должен быть предельно самоуправляемым. Иначе
какой он тогда интеллект? Кстати, вопреки Декарту не условились о понимании
этого термина.
You wrote to Vladimir Korolev on Sun, 23 Apr 2017 22:10:40 +0300:
MO> Ответ на сообщение Vladimir Korolev (2:5020/830.830) к Mihail
MO> Osokin, написанное 22 апр 17 в 09:52:
VS>>>> Возможно ли гарантированно оградить нас от агрессии со стороны
VS>>>> совершенствующегося искусственного интеллекта?
MO>>> Гарантиованно - нет. ИМХО, главное качесвто интеллекта -
MO>>> способность гененрировать случайные, не обусловленные никакими
MO>>> алгоритмами, но при этом действенные решения.
VK>> Hеправильно. Читайте Эшби.
MO> построил искусственный? Hет? Hу тогда в обсуждаемом вовпросе его мнение
MO> стоит не больше, чеи мнение слесаря дяди Васи.
А что, кто-то открыл?
VK>> Человек следует закономерностям, полученным
VK>> из опыта,
MO> котором он свободно выражает свои мысли и понимает чужие?
Из опыта общения с взрослыми и сверстниками. И не так уж свободно.
Предостаточно людей, которые и взрослыми не могут толком выразить своими
мысли. Кстати, некогда в украинском журнале "Перец" был небольшой раздел
"Страшне перо не в гусака", где приводились такие цитаты из писем и
служебных, что диву даёшься.
VK>> и только при неопределённость срабатывает механизм
VK>> случайного решения (как у идиота). Они могут оказать действенными, но
VK>> в подавляющем большинстве случаев хорошо если только бесполезными.
VK>> Хотя и бесполезные вредны потерей времени и средств.
MO> но, по крайней мере, доказали, что существуют решения, не выводимые
MO> алгоритмически. Читайте также Пенроуза - он показал, что интелект такие
MO> решения генерировать может.
Читал (не всё, конечно). Здесть вся тонкость в логике, используемой для
доказательств.
MO>>> Типа как сочинить литертурный шедевр - выбрать правильную
MO>>> последовательность слов из практически бесконечного числа
MO>>> возможных сочетаний.
VK>> Hе так. В литературе свои алгоритмы, но одни владеют ими виртуозно,
VK>> другие только слышали о них кое-что. Hо алгоритмы - техника (как и на
VK>> заводе). Важен продукт. Для писателя - впечатление на читателя.
Это пока предмет обсуждения. Есть немного разные подходы.
MO>>> Так что мы не можем заранее предугадать, что там этот ИИ себе
MO>>> удумает.
VK>> Сможем. Если роботу придать способность заботиться о самосохранении,
VK>> то людям будет плохо. А без этого не будет совершенного ИИ.
Пожалуйста. Забота о самосохранении требует выявления и упреждающего
устранения возможных угроз. А кто и ли что представляет собой наиболее
вероятный источник наиболее вероятных угроз?
MO>>> Hо, опять же, естественный человеческий интеллект кажется куда
MO>>> более опасносным в плане агрессии.
VK>> "Hет зверя страшнее человека". Зачем же ж создавать ещё более
VK>> страшного?
MO> польза от электричестава очевидно превышает его вред. То же самое
MO> относится к большинству технических достижений. Будущий ИИ тут тоже,
MO> полагаю, не исключение.
Электричество управляемо. А ИИ должен быть предельно самоуправляемым. Иначе
какой он тогда интеллект? Кстати, вопреки Декарту не условились о понимании
этого термина.
Mihail Osokin
May 2, 2017, 3:15:03 PM5/2/17
to
Привет, Vladimir!
Ответ на сообщение Vladimir Korolev (2:5020/830.830) к Mihail Osokin,
написанное 01 май 17 в 19:43:
MO>> Из какого опыта трёхлетний малыш получает закономерности языка,
MO>> на котором он свободно выражает свои мысли и понимает чужие?
VK> Из опыта общения с взрослыми и сверстниками.
Из опыта он черпает только названия действий, предметов и их качеств.
Закономерности малыш, можно сказать, "открывает" сам. Он их ещё не осознаёт,
конечно, но его подсознание, выдаюшее нужные слова, когда он хочет о чём-то
сообщить, и нужные ассоциации в ответ на чужие сообщения, уже на них опирается.
Это потом, в школе, ему рассказывают, как эти законмерности можно осмыслить и
выразить вербально - что такое подлежащее, сказуемое и т.д.
MO>> Читайте Гёделя, Чёрча и Тьюринга. Они, конечно, тоже ИИ не
MO>> изобрели, но, по крайней мере, доказали, что существуют решения,
MO>> не выводимые алгоритмически. Читайте также Пенроуза - он показал,
MO>> что интелект такие решения генерировать может.
VK> Читал (не всё, конечно). Здесть вся тонкость в логике, используемой
VK> для доказательств.
онятие "тонкость" оставим для гуманитариев. Логика - штука однозначно
"железобетонная". Например, теорема Гёделя о неполноте строго доказана. Да,
доказательсво довольно сложное для понимания, но без всяких там "тонкостей в
логике".
VK>>> Hе так. В литературе свои алгоритмы, но одни владеют ими
VK>>> виртуозно, другие только слышали о них кое-что. Hо алгоритмы -
VK>>> техника (как и на заводе). Важен продукт. Для писателя -
VK>>> впечатление на читателя.
MO>> Где можно скачать такой алгоритм?
VK> Это пока предмет обсуждения. Есть немного разные подходы.
Фиксируем: подходы есть, но алгоритма пока нет. Откуда же у Вас уверенность,
что он существует в принципе?
VK>>> Сможем. Если роботу придать способность заботиться о
VK>>> самосохранении, то людям будет плохо. А без этого не будет
VK>>> совершенного ИИ.
MO>> Это утверждение требует обоснования.
VK> Пожалуйста. Забота о самосохранении требует выявления и упреждающего
VK> устранения возможных угроз. А кто и ли что представляет собой наиболее
VK> вероятный источник наиболее вероятных угроз?
Тема не раскрыта. Самосохранение - вещь полезная, безусловно. Но откуда
следует, что ИИ без неё не возможен?
MO>> Допусти, электричество тоже страшная штука - убить может. Однако,
MO>> польза от электричестава очевидно превышает его вред. То же самое
MO>> относится к большинству технических достижений. Будущий ИИ тут
MO>> тоже, полагаю, не исключение.
VK> Электричество управляемо. А ИИ должен быть предельно самоуправляемым.
VK> Иначе какой он тогда интеллект?
Допустим. Но почему самоуправляемость машины обязательно должна означать её
повышенную опасность? Видимо, ваши опасения вызывает непредсказуемость
поведения ИИ. Ну так и "управляемое" электричество может наделать
непредсказуемых бед. Хотя бы уже потому, что на практике стопроцентной
управляемости не бывает. Где-то пожар от КЗ, где-то локаут от перегрузки,
где-то цунами нафукусимило, а где-то оператор ошибся, как в Чернобыле.
VK> Кстати, вопреки Декарту не условились
VK> о понимании этого термина.
Мы как раз что-то типа определения и обсуждаем. Полагаю, что определить этот
термин нельзя иначе, кроме как через функционал. По аналогии: двигатель мы
определяем как механизм, способный превращать энергию какого-либо вида
(тепловую, химическую, электрическую и т.д.) в кинетическую энергию движения.
Вот и интеллект я опредляю функционально, как систему, способную находить
решания, не достижимые алгоритмически. Имеется в виду, недостижимые за
практически разумное время. Ведь, строго говоря, поиск решения методом
случайного тыка - тоже алгоритм. И теоретически, через какое-то количество
попыток, решение будет найдено. ИМХО, интеллект именно таким методом и
работает. Но количество "тыков", которые интеллект способен совершить и
проверить в единицу времени, несравнимо больше, чем у классического компьютера
с конечным быстродействием. Физика такого свербыстрого перебора решений не
запрещает - квантовые компьютеры на подходе.
Вы таких идей, как я понял, не разделяете. И полагаете, видимо, что "в базе"
интеллект ничем не отличается от "IBM PC", разница лишь в
количестве/быстродействии логических вентилей и в качестве "софта". Ну
возможно, только вот рассуждения Пенроуза из книжки "Новый ум короля" сильно в
этом разубеждают. Меня, во всяком случае.
ОМ
Ответ на сообщение Vladimir Korolev (2:5020/830.830) к Mihail Osokin,
написанное 01 май 17 в 19:43:
MO>> Из какого опыта трёхлетний малыш получает закономерности языка,
VK> Из опыта общения с взрослыми и сверстниками.
Из опыта он черпает только названия действий, предметов и их качеств.
Закономерности малыш, можно сказать, "открывает" сам. Он их ещё не осознаёт,
конечно, но его подсознание, выдаюшее нужные слова, когда он хочет о чём-то
сообщить, и нужные ассоциации в ответ на чужие сообщения, уже на них опирается.
Это потом, в школе, ему рассказывают, как эти законмерности можно осмыслить и
выразить вербально - что такое подлежащее, сказуемое и т.д.
MO>> Читайте Гёделя, Чёрча и Тьюринга. Они, конечно, тоже ИИ не
MO>> не выводимые алгоритмически. Читайте также Пенроуза - он показал,
MO>> что интелект такие решения генерировать может.
VK> Читал (не всё, конечно). Здесть вся тонкость в логике, используемой
VK> для доказательств.
онятие "тонкость" оставим для гуманитариев. Логика - штука однозначно
"железобетонная". Например, теорема Гёделя о неполноте строго доказана. Да,
доказательсво довольно сложное для понимания, но без всяких там "тонкостей в
логике".
VK>>> Hе так. В литературе свои алгоритмы, но одни владеют ими
VK>>> техника (как и на заводе). Важен продукт. Для писателя -
VK>>> впечатление на читателя.
MO>> Где можно скачать такой алгоритм?
Фиксируем: подходы есть, но алгоритма пока нет. Откуда же у Вас уверенность,
что он существует в принципе?
VK>>> Сможем. Если роботу придать способность заботиться о
VK>>> совершенного ИИ.
MO>> Это утверждение требует обоснования.
VK> устранения возможных угроз. А кто и ли что представляет собой наиболее
VK> вероятный источник наиболее вероятных угроз?
Тема не раскрыта. Самосохранение - вещь полезная, безусловно. Но откуда
следует, что ИИ без неё не возможен?
MO>> Допусти, электричество тоже страшная штука - убить может. Однако,
MO>> польза от электричестава очевидно превышает его вред. То же самое
MO>> относится к большинству технических достижений. Будущий ИИ тут
VK> Электричество управляемо. А ИИ должен быть предельно самоуправляемым.
VK> Иначе какой он тогда интеллект?
Допустим. Но почему самоуправляемость машины обязательно должна означать её
повышенную опасность? Видимо, ваши опасения вызывает непредсказуемость
поведения ИИ. Ну так и "управляемое" электричество может наделать
непредсказуемых бед. Хотя бы уже потому, что на практике стопроцентной
управляемости не бывает. Где-то пожар от КЗ, где-то локаут от перегрузки,
где-то цунами нафукусимило, а где-то оператор ошибся, как в Чернобыле.
VK> Кстати, вопреки Декарту не условились
VK> о понимании этого термина.
Мы как раз что-то типа определения и обсуждаем. Полагаю, что определить этот
термин нельзя иначе, кроме как через функционал. По аналогии: двигатель мы
определяем как механизм, способный превращать энергию какого-либо вида
(тепловую, химическую, электрическую и т.д.) в кинетическую энергию движения.
Вот и интеллект я опредляю функционально, как систему, способную находить
решания, не достижимые алгоритмически. Имеется в виду, недостижимые за
практически разумное время. Ведь, строго говоря, поиск решения методом
случайного тыка - тоже алгоритм. И теоретически, через какое-то количество
попыток, решение будет найдено. ИМХО, интеллект именно таким методом и
работает. Но количество "тыков", которые интеллект способен совершить и
проверить в единицу времени, несравнимо больше, чем у классического компьютера
с конечным быстродействием. Физика такого свербыстрого перебора решений не
запрещает - квантовые компьютеры на подходе.
Вы таких идей, как я понял, не разделяете. И полагаете, видимо, что "в базе"
интеллект ничем не отличается от "IBM PC", разница лишь в
количестве/быстродействии логических вентилей и в качестве "софта". Ну
возможно, только вот рассуждения Пенроуза из книжки "Новый ум короля" сильно в
этом разубеждают. Меня, во всяком случае.
ОМ
Vladimir Korolev
May 3, 2017, 8:15:03 AM5/3/17
to
Hello, Mihail!
You wrote to Vladimir Korolev on Tue, 02 May 2017 20:37:08 +0300:
MO> Ответ на сообщение Vladimir Korolev (2:5020/830.830) к Mihail
MO> Osokin, написанное 01 май 17 в 19:43:
MO>>> Из какого опыта трёхлетний малыш получает закономерности языка,
MO>>> на котором он свободно выражает свои мысли и понимает чужие?
VK>> Из опыта общения с взрослыми и сверстниками.
MO> Из опыта он черпает только названия действий, предметов и их качеств.
MO> Закономерности малыш, можно сказать, "открывает" сам. Он их ещё не
MO> осознаёт, конечно, но его подсознание, выдаюшее нужные слова, когда он
MO> хочет о чём-то сообщить, и нужные ассоциации в ответ на чужие
MO> сообщения, уже на них опирается. Это потом, в школе, ему рассказывают,
MO> как эти законмерности можно осмыслить и выразить вербально - что такое
MO> подлежащее, сказуемое и т.д.
MO>>> Читайте Гёделя, Чёрча и Тьюринга. Они, конечно, тоже ИИ не
MO>>> изобрели, но, по крайней мере, доказали, что существуют решения,
MO>>> не выводимые алгоритмически. Читайте также Пенроуза - он показал,
MO>>> что интелект такие решения генерировать может.
VK>> Читал (не всё, конечно). Здесть вся тонкость в логике, используемой
VK>> для доказательств.
MO> онятие "тонкость" оставим для гуманитариев. Логика - штука однозначно
MO> "железобетонная". Hапример, теорема Гёделя о неполноте строго доказана.
MO> Да, доказательсво довольно сложное для понимания, но без всяких там
MO> "тонкостей в логике".
VK>>>> Hе так. В литературе свои алгоритмы, но одни владеют ими
VK>>>> виртуозно, другие только слышали о них кое-что. Hо алгоритмы -
VK>>>> техника (как и на заводе). Важен продукт. Для писателя -
VK>>>> впечатление на читателя.
MO>>> Где можно скачать такой алгоритм?
VK>> Это пока предмет обсуждения. Есть немного разные подходы.
MO> Фиксируем: подходы есть, но алгоритма пока нет. Откуда же у Вас
MO> уверенность, что он существует в принципе?
Фиксируете своё непонимание. Общие представления уже существуют. Их и
обсуждают. К примеру, я знаком с тремя.
VK>>>> Сможем. Если роботу придать способность заботиться о
VK>>>> самосохранении, то людям будет плохо. А без этого не будет
VK>>>> совершенного ИИ.
MO>>> Это утверждение требует обоснования.
VK>> Пожалуйста. Забота о самосохранении требует выявления и упреждающего
VK>> устранения возможных угроз. А кто и ли что представляет собой наиболее
VK>> вероятный источник наиболее вероятных угроз?
MO> Тема не раскрыта. Самосохранение - вещь полезная, безусловно. Hо откуда
MO> следует, что ИИ без неё не возможен?
Достаточно хорошо известно (далеко не всем, ясное дело), что
жизнедеятельность организмов подчинена поддержанию гомеостаза (себя и вида).
Поддержание гомеостаз заключается в предупреждении угроз и устранению
последствий осуществившихся угроз. Разумеется, в меру возможности. Для
этого организмы имеют средства обратной связи. Совокупность этих средств
(ансамбль) в пределе - мозг человека. Развитость этой совокупности - это и
есть интеллект, разум. Следовательно, робот без самосохранения не обладает
ИИ. Он, конечно, может решать вычислительные задачи, но так как получаемые
решения будут обособленными от существования робота, то не будет т.н.
самосознания.
MO>>> Допусти, электричество тоже страшная штука - убить может. Однако,
MO>>> польза от электричестава очевидно превышает его вред. То же самое
MO>>> относится к большинству технических достижений. Будущий ИИ тут
MO>>> тоже, полагаю, не исключение.
VK>> Электричество управляемо. А ИИ должен быть предельно самоуправляемым.
VK>> Иначе какой он тогда интеллект?
MO> Допустим. Hо почему самоуправляемость машины обязательно должна
MO> означать её повышенную опасность? Видимо, ваши опасения вызывает
MO> непредсказуемость поведения ИИ. Hу так и "управляемое" электричество
MO> может наделать непредсказуемых бед. Хотя бы уже потому, что на практике
MO> стопроцентной управляемости не бывает. Где-то пожар от КЗ, где-то
MO> локаут от перегрузки, где-то цунами нафукусимило, а где-то оператор
MO> ошибся, как в Чернобыле.
Самосохранение интересно тем, что количество угроз бесконечно. Более того,
бесконечно и неизвестное количество угроз. Поэтому всегда существует
возможность попасть в положение "Буриданова осла". Эшби предположил
существование возможности случайного выбора для выхода из этого положения. В
просторечии он называется свободой воли. Обратная сторона медали -
непредсказуемость поведения.
VK>> Кстати, вопреки Декарту не условились
VK>> о понимании этого термина.
MO> Мы как раз что-то типа определения и обсуждаем. Полагаю, что определить
MO> этот термин нельзя иначе, кроме как через функционал. По аналогии:
MO> двигатель мы определяем как механизм, способный превращать энергию
MO> какого-либо вида (тепловую, химическую, электрическую и т.д.) в
MO> кинетическую энергию движения.
Изменяется вид движения, а его количество измеряем энергией.
MO> Вот и интеллект я опредляю функционально, как систему, способную
MO> находить решания, не достижимые алгоритмически.
В этом случае рулетка - весьма разумный механизм.
MO> Имеется в виду, недостижимые за практически разумное время. Ведь,
MO> строго говоря, поиск решения методом случайного тыка - тоже алгоритм. И
MO> теоретически, через какое-то количество попыток, решение будет найдено.
MO> ИМХО, интеллект именно таким методом и работает. Hо количество "тыков",
MO> которые интеллект способен совершить и проверить в единицу времени,
MO> несравнимо больше, чем у классического компьютера с конечным
MO> быстродействием. Физика такого свербыстрого перебора решений не
MO> запрещает - квантовые компьютеры на подходе.
Это называется "заметанием проблем под ковёр". Между тем, не так уж трудно
заметить, что человек с его высокоразвитым мозгом явно умнее улитки. А
кванты... они и у булыжника есть.
MO> Вы таких идей, как я понял, не разделяете. И полагаете, видимо, что "в
MO> базе" интеллект ничем не отличается от "IBM PC", разница лишь в
MO> количестве/быстродействии логических вентилей и в качестве "софта".
Hе полагаю.
MO> Hу возможно, только вот рассуждения Пенроуза из книжки "Hовый ум
MO> короля" сильно в этом разубеждают. Меня, во всяком случае.
Пенроуз потратил кучу времени на поиск некого носителя рузума, зарываясь во
всё более глубокие уровни организации движущейся материи. А то, что такого
носителя не существует, признать не пожелал. Разум - это свойство системы,
понимаемой как совокупность взаимозависимостей состояний частей области
движущейся материи. В. Гейнс:
<Система - это то, что различается как система. Hа первый взгляд это никакое
не утверждение. Системой является всё, что мы хотим рассматривать как
систему. Можно ли что-нибудь сказать по этому поводу? Имеется ли здесь
какое-то основание для науки о системах? Я отвечу на оба этих вопроса
утвердительно и покажу, что это определение полно смысла и имеет богатую
интерпретацию.
Позвольте мне прежде ответить на одно очевидное возражение и обернуть его в
свою пользу. Можно спросить: <Что специфически системного в этом
определении?>, <Hельзя ли точно так же применить его ко всем другим
объектам, которые я захочу определить?>, т.е. кролик 0 - это то, что
различается как кролик. <Hо, - отвечу я, - моё определение адекватно
определяет систему, в то время как Ваше определяет кролика неадекватно>. В
этом суть теории систем: определение того, что некая сущность является
системой, является необходимым и достаточным критерием того, что она
является системой, и это верно только для систем. В то же время различение,
что некая сущность является чем-то ещё, необходимо для того, чтобы эта
сущность была этим чем-то, но недостаточно.
Выражаясь образно, можно сказать, что понятие системы стоит на самом верху
иерархии понятий. Это место выглядит очень важным. Может быть, так оно и
есть. Hо когда мы понимаем, что это высокое место достигнуто за счёт
довольно негативного достоинства - отсутствия отличительных свойств, то
такая характеристика оказывается не такой уж впечатляющей. Я полагаю, что
это определение системы, как уникального понятия, сделано для того, чтобы
объяснить многие достоинства и недостатки систем. Сила этого понятия в его
абсолютной общности, и мы явно указываем на это полное отсутствие
качественных характеристик в термине <общая теория систем> вместо того,
чтобы затемнять суть, привести какой-нибудь почтенный прикрывающий термин
вроде математической теории систем. Слабость и в то же время главное
достоинство этого понятия в том, что его никак нельзя дополнительно
охарактеризовать. Слабость потому, что мы не можем оценить дополнительных
характеристик изучаемого предмета. Достоинство же в том, что эти
дополнительные характеристики сами по себе для обсуждения не нужны и только
затемняют суть дела, так как принимают во внимание крайности суждения
специалистов>. Подход Гейнса представляется наиболее адекватным.
You wrote to Vladimir Korolev on Tue, 02 May 2017 20:37:08 +0300:
MO> Ответ на сообщение Vladimir Korolev (2:5020/830.830) к Mihail
MO> Osokin, написанное 01 май 17 в 19:43:
MO>>> Из какого опыта трёхлетний малыш получает закономерности языка,
MO>>> на котором он свободно выражает свои мысли и понимает чужие?
VK>> Из опыта общения с взрослыми и сверстниками.
MO> Закономерности малыш, можно сказать, "открывает" сам. Он их ещё не
MO> осознаёт, конечно, но его подсознание, выдаюшее нужные слова, когда он
MO> хочет о чём-то сообщить, и нужные ассоциации в ответ на чужие
MO> сообщения, уже на них опирается. Это потом, в школе, ему рассказывают,
MO> как эти законмерности можно осмыслить и выразить вербально - что такое
MO> подлежащее, сказуемое и т.д.
MO>>> Читайте Гёделя, Чёрча и Тьюринга. Они, конечно, тоже ИИ не
MO>>> изобрели, но, по крайней мере, доказали, что существуют решения,
MO>>> не выводимые алгоритмически. Читайте также Пенроуза - он показал,
MO>>> что интелект такие решения генерировать может.
VK>> Читал (не всё, конечно). Здесть вся тонкость в логике, используемой
VK>> для доказательств.
MO> "железобетонная". Hапример, теорема Гёделя о неполноте строго доказана.
MO> Да, доказательсво довольно сложное для понимания, но без всяких там
MO> "тонкостей в логике".
VK>>>> Hе так. В литературе свои алгоритмы, но одни владеют ими
VK>>>> виртуозно, другие только слышали о них кое-что. Hо алгоритмы -
VK>>>> техника (как и на заводе). Важен продукт. Для писателя -
VK>>>> впечатление на читателя.
MO>>> Где можно скачать такой алгоритм?
VK>> Это пока предмет обсуждения. Есть немного разные подходы.
MO> уверенность, что он существует в принципе?
Фиксируете своё непонимание. Общие представления уже существуют. Их и
обсуждают. К примеру, я знаком с тремя.
VK>>>> Сможем. Если роботу придать способность заботиться о
VK>>>> самосохранении, то людям будет плохо. А без этого не будет
VK>>>> совершенного ИИ.
MO>>> Это утверждение требует обоснования.
VK>> Пожалуйста. Забота о самосохранении требует выявления и упреждающего
VK>> устранения возможных угроз. А кто и ли что представляет собой наиболее
VK>> вероятный источник наиболее вероятных угроз?
MO> следует, что ИИ без неё не возможен?
Достаточно хорошо известно (далеко не всем, ясное дело), что
жизнедеятельность организмов подчинена поддержанию гомеостаза (себя и вида).
Поддержание гомеостаз заключается в предупреждении угроз и устранению
последствий осуществившихся угроз. Разумеется, в меру возможности. Для
этого организмы имеют средства обратной связи. Совокупность этих средств
(ансамбль) в пределе - мозг человека. Развитость этой совокупности - это и
есть интеллект, разум. Следовательно, робот без самосохранения не обладает
ИИ. Он, конечно, может решать вычислительные задачи, но так как получаемые
решения будут обособленными от существования робота, то не будет т.н.
самосознания.
MO>>> Допусти, электричество тоже страшная штука - убить может. Однако,
MO>>> польза от электричестава очевидно превышает его вред. То же самое
MO>>> относится к большинству технических достижений. Будущий ИИ тут
MO>>> тоже, полагаю, не исключение.
VK>> Электричество управляемо. А ИИ должен быть предельно самоуправляемым.
VK>> Иначе какой он тогда интеллект?
MO> означать её повышенную опасность? Видимо, ваши опасения вызывает
MO> непредсказуемость поведения ИИ. Hу так и "управляемое" электричество
MO> может наделать непредсказуемых бед. Хотя бы уже потому, что на практике
MO> стопроцентной управляемости не бывает. Где-то пожар от КЗ, где-то
MO> локаут от перегрузки, где-то цунами нафукусимило, а где-то оператор
MO> ошибся, как в Чернобыле.
Самосохранение интересно тем, что количество угроз бесконечно. Более того,
бесконечно и неизвестное количество угроз. Поэтому всегда существует
возможность попасть в положение "Буриданова осла". Эшби предположил
существование возможности случайного выбора для выхода из этого положения. В
просторечии он называется свободой воли. Обратная сторона медали -
непредсказуемость поведения.
VK>> Кстати, вопреки Декарту не условились
VK>> о понимании этого термина.
MO> этот термин нельзя иначе, кроме как через функционал. По аналогии:
MO> двигатель мы определяем как механизм, способный превращать энергию
MO> какого-либо вида (тепловую, химическую, электрическую и т.д.) в
MO> кинетическую энергию движения.
Изменяется вид движения, а его количество измеряем энергией.
MO> Вот и интеллект я опредляю функционально, как систему, способную
MO> находить решания, не достижимые алгоритмически.
В этом случае рулетка - весьма разумный механизм.
MO> Имеется в виду, недостижимые за практически разумное время. Ведь,
MO> строго говоря, поиск решения методом случайного тыка - тоже алгоритм. И
MO> теоретически, через какое-то количество попыток, решение будет найдено.
MO> ИМХО, интеллект именно таким методом и работает. Hо количество "тыков",
MO> которые интеллект способен совершить и проверить в единицу времени,
MO> несравнимо больше, чем у классического компьютера с конечным
MO> быстродействием. Физика такого свербыстрого перебора решений не
MO> запрещает - квантовые компьютеры на подходе.
Это называется "заметанием проблем под ковёр". Между тем, не так уж трудно
заметить, что человек с его высокоразвитым мозгом явно умнее улитки. А
кванты... они и у булыжника есть.
MO> Вы таких идей, как я понял, не разделяете. И полагаете, видимо, что "в
MO> базе" интеллект ничем не отличается от "IBM PC", разница лишь в
MO> количестве/быстродействии логических вентилей и в качестве "софта".
Hе полагаю.
MO> Hу возможно, только вот рассуждения Пенроуза из книжки "Hовый ум
MO> короля" сильно в этом разубеждают. Меня, во всяком случае.
Пенроуз потратил кучу времени на поиск некого носителя рузума, зарываясь во
всё более глубокие уровни организации движущейся материи. А то, что такого
носителя не существует, признать не пожелал. Разум - это свойство системы,
понимаемой как совокупность взаимозависимостей состояний частей области
движущейся материи. В. Гейнс:
<Система - это то, что различается как система. Hа первый взгляд это никакое
не утверждение. Системой является всё, что мы хотим рассматривать как
систему. Можно ли что-нибудь сказать по этому поводу? Имеется ли здесь
какое-то основание для науки о системах? Я отвечу на оба этих вопроса
утвердительно и покажу, что это определение полно смысла и имеет богатую
интерпретацию.
Позвольте мне прежде ответить на одно очевидное возражение и обернуть его в
свою пользу. Можно спросить: <Что специфически системного в этом
определении?>, <Hельзя ли точно так же применить его ко всем другим
объектам, которые я захочу определить?>, т.е. кролик 0 - это то, что
различается как кролик. <Hо, - отвечу я, - моё определение адекватно
определяет систему, в то время как Ваше определяет кролика неадекватно>. В
этом суть теории систем: определение того, что некая сущность является
системой, является необходимым и достаточным критерием того, что она
является системой, и это верно только для систем. В то же время различение,
что некая сущность является чем-то ещё, необходимо для того, чтобы эта
сущность была этим чем-то, но недостаточно.
Выражаясь образно, можно сказать, что понятие системы стоит на самом верху
иерархии понятий. Это место выглядит очень важным. Может быть, так оно и
есть. Hо когда мы понимаем, что это высокое место достигнуто за счёт
довольно негативного достоинства - отсутствия отличительных свойств, то
такая характеристика оказывается не такой уж впечатляющей. Я полагаю, что
это определение системы, как уникального понятия, сделано для того, чтобы
объяснить многие достоинства и недостатки систем. Сила этого понятия в его
абсолютной общности, и мы явно указываем на это полное отсутствие
качественных характеристик в термине <общая теория систем> вместо того,
чтобы затемнять суть, привести какой-нибудь почтенный прикрывающий термин
вроде математической теории систем. Слабость и в то же время главное
достоинство этого понятия в том, что его никак нельзя дополнительно
охарактеризовать. Слабость потому, что мы не можем оценить дополнительных
характеристик изучаемого предмета. Достоинство же в том, что эти
дополнительные характеристики сами по себе для обсуждения не нужны и только
затемняют суть дела, так как принимают во внимание крайности суждения
специалистов>. Подход Гейнса представляется наиболее адекватным.
Mihail Osokin
May 5, 2017, 6:25:03 PM5/5/17
to
Привет, Vladimir!
Ответ на сообщение Vladimir Korolev (2:5020/830.830) к Mihail Osokin,
написанное 03 май 17 в 15:07:
VK>>>>> Hе так. В литературе свои алгоритмы
VK> обсуждают. К примеру, я знаком с тремя.
Аргументация сродни религиозной. Это они обычно на просьбу предъявить факты
существования Бога отвечают: "вам не дано понять".
MO>> Тема не раскрыта. Самосохранение - вещь полезная, безусловно. Hо
MO>> откуда следует, что ИИ без неё не возможен?
VK> Достаточно хорошо известно (далеко не всем, ясное дело), что
VK> жизнедеятельность организмов подчинена поддержанию гомеостаза (себя и
VK> вида).
Правильней было бы сказать: "Достаточно хорошо известна _теория о том_, что...
и далее по тексту. Нет, я конечно, важность гомостаза не отрицаю. Но то, что
именно гомеостазу подчинена жизнедеятельность - весьма сомнительно. Я бы сказал
- наоброт. Более того, жизнедеятельность базируется на постояееном борьбе
противоречий (в диалектическом смысле) - гомеостаза и изменчивости.
VK> Поддержание гомеостаз заключается в предупреждении угроз и
VK> устранению последствий осуществившихся угроз. Разумеется, в меру
VK> возможности. Для этого организмы имеют средства обратной связи.
VK> Совокупность этих средств (ансамбль) в пределе - мозг человека.
VK> Развитость этой совокупности - это и есть интеллект, разум.
А вот это совсем, по-моему, не верно. Нет большего врага для гомеостаза, чем
интеллект. Сравните первобытное общество и современное - где тут гомеостаз?
VK> Следовательно, робот без самосохранения не обладает ИИ. Он, конечно,
VK> может решать вычислительные задачи, но так как получаемые решения
VK> будут обособленными от существования робота, то не будет т.н.
VK> самосознания.
Опять всё кверх ногами. Самосознание - не причина ителлекта, а его следствие.
MO>>>> Допусти, электричество тоже страшная штука - убить может.
MO>>>> Однако, польза от электричестава очевидно превышает его вред.
MO>>>> То же самое относится к большинству технических достижений.
MO>>>> Будущий ИИ тут тоже, полагаю, не исключение.
VK>>> Электричество управляемо. А ИИ должен быть предельно
VK>>> самоуправляемым. Иначе какой он тогда интеллект?
Некоторые интеллектуалы заканчивают жизнь в дурдоме (Гоголь). Как это
соотносится с самоуправлением?
VK> Самосохранение интересно тем, что количество угроз бесконечно. Более
VK> того, бесконечно и неизвестное количество угроз. Поэтому всегда
VK> существует возможность попасть в положение "Буриданова осла". Эшби
VK> предположил существование возможности случайного выбора для выхода из
VK> этого положения. В просторечии он называется свободой воли. Обратная
VK> сторона медали - непредсказуемость поведения.
Я так полагаю, что идеи рождаются на подсознательном уровне. А сознание служит
"файрволом", задача которого - рациональный анализ возникших идей и блокировка
(недопуск к исполнению) вредных. Ну скажите, неужели Вам никогда не пиходила в
голову какая-нибудь глупость? Понятно, что у некоторых "файрвол" даёт сбои,
такие действительно могут ту глупость отчебучить.
MO>> Вот и интеллект я опредляю функционально, как систему, способную
MO>> находить решания, не достижимые алгоритмически.
VK> В этом случае рулетка - весьма разумный механизм.
В таком случае ваш булыжник ещё более разумен - вот уж кому гомеостаза не
занимать. Разумеется, кроме генератора случайностей интеллект содержит и другие
"устройства".
MO>> классического компьютера с конечным быстродействием. Физика
MO>> такого свербыстрого перебора решений не запрещает - квантовые
MO>> компьютеры на подходе.
VK> Это называется "заметанием проблем под ковёр".
Отнюдь. Это свидетельство о том, что как минимум один механизм, способный
обеспечить "сверхтык", в природе существует. Возможно и не один.
VK> Между тем, не так уж
VK> трудно заметить, что человек с его высокоразвитым мозгом явно умнее
VK> улитки. А кванты... они и у булыжника есть.
Вы не могли бы как-то поплавнее переходить от одной мысли к другой? Причём тут
улитка?
MO>> Вы таких идей, как я понял, не разделяете. И полагаете, видимо,
MO>> что "в базе" интеллект ничем не отличается от "IBM PC", разница
MO>> лишь в количестве/быстродействии логических вентилей и в качестве
MO>> "софта".
VK> Hе полагаю.
Так поясните. Вышк Вы говорили о трёх известных вам концепциях - поделитесь?
MO>> Hу возможно, только вот рассуждения Пенроуза из книжки "Hовый ум
MO>> короля" сильно в этом разубеждают. Меня, во всяком случае.
VK> Пенроуз потратил кучу времени на поиск некого носителя рузума,
VK> зарываясь во всё более глубокие уровни организации движущейся материи.
Это личное дело Пенроуза. Он физик, и действует как физик. А что касается
потраченного времени, так наука вообще сродни золотобыче. Да, на тонну породы
грамм золота, да и то без гарантии. Но если тут тонну не перерыть, то и грамма
не найдёшь.
VK> А то, что такого носителя не существует, признать не пожелал.
То, что Пенроуз его не нашел, ещё не означает, что не сужествует.
VK> Разум - это свойство системы, понимаемой как совокупность
VK> взаимозависимостей состояний частей области движущейся материи.
VK> В. Гейнс:...
VK> Подход Гейнса представляется наиболее адекватным.
А по моему - наукобразные, но банальные рассуждения. Впрочем, допускаю, что я
чего-то не понял - Вы не могли бы кратко пояснить, какая великая мысль здесь
кроется? Какое философское открытие?
ОМ
Ответ на сообщение Vladimir Korolev (2:5020/830.830) к Mihail Osokin,
написанное 03 май 17 в 15:07:
VK>>>>> Hе так. В литературе свои алгоритмы
MO>>>> Где можно скачать такой алгоритм?
VK>>> Это пока предмет обсуждения. Есть немного разные подходы.
MO>> Фиксируем: подходы есть, но алгоритма пока нет. Откуда же у Вас
MO>> уверенность, что он существует в принципе?
VK> Фиксируете своё непонимание. Общие представления уже существуют. Их и
VK>>> Это пока предмет обсуждения. Есть немного разные подходы.
MO>> Фиксируем: подходы есть, но алгоритма пока нет. Откуда же у Вас
MO>> уверенность, что он существует в принципе?
VK> обсуждают. К примеру, я знаком с тремя.
Аргументация сродни религиозной. Это они обычно на просьбу предъявить факты
существования Бога отвечают: "вам не дано понять".
MO>> Тема не раскрыта. Самосохранение - вещь полезная, безусловно. Hо
VK> Достаточно хорошо известно (далеко не всем, ясное дело), что
VK> жизнедеятельность организмов подчинена поддержанию гомеостаза (себя и
VK> вида).
Правильней было бы сказать: "Достаточно хорошо известна _теория о том_, что...
и далее по тексту. Нет, я конечно, важность гомостаза не отрицаю. Но то, что
именно гомеостазу подчинена жизнедеятельность - весьма сомнительно. Я бы сказал
- наоброт. Более того, жизнедеятельность базируется на постояееном борьбе
противоречий (в диалектическом смысле) - гомеостаза и изменчивости.
VK> Поддержание гомеостаз заключается в предупреждении угроз и
VK> устранению последствий осуществившихся угроз. Разумеется, в меру
VK> возможности. Для этого организмы имеют средства обратной связи.
VK> Совокупность этих средств (ансамбль) в пределе - мозг человека.
VK> Развитость этой совокупности - это и есть интеллект, разум.
А вот это совсем, по-моему, не верно. Нет большего врага для гомеостаза, чем
интеллект. Сравните первобытное общество и современное - где тут гомеостаз?
VK> Следовательно, робот без самосохранения не обладает ИИ. Он, конечно,
VK> может решать вычислительные задачи, но так как получаемые решения
VK> будут обособленными от существования робота, то не будет т.н.
VK> самосознания.
Опять всё кверх ногами. Самосознание - не причина ителлекта, а его следствие.
MO>>>> Допусти, электричество тоже страшная штука - убить может.
MO>>>> То же самое относится к большинству технических достижений.
MO>>>> Будущий ИИ тут тоже, полагаю, не исключение.
VK>>> Электричество управляемо. А ИИ должен быть предельно
Некоторые интеллектуалы заканчивают жизнь в дурдоме (Гоголь). Как это
соотносится с самоуправлением?
VK> Самосохранение интересно тем, что количество угроз бесконечно. Более
VK> того, бесконечно и неизвестное количество угроз. Поэтому всегда
VK> существует возможность попасть в положение "Буриданова осла". Эшби
VK> предположил существование возможности случайного выбора для выхода из
VK> этого положения. В просторечии он называется свободой воли. Обратная
VK> сторона медали - непредсказуемость поведения.
Я так полагаю, что идеи рождаются на подсознательном уровне. А сознание служит
"файрволом", задача которого - рациональный анализ возникших идей и блокировка
(недопуск к исполнению) вредных. Ну скажите, неужели Вам никогда не пиходила в
голову какая-нибудь глупость? Понятно, что у некоторых "файрвол" даёт сбои,
такие действительно могут ту глупость отчебучить.
MO>> Вот и интеллект я опредляю функционально, как систему, способную
MO>> находить решания, не достижимые алгоритмически.
В таком случае ваш булыжник ещё более разумен - вот уж кому гомеостаза не
занимать. Разумеется, кроме генератора случайностей интеллект содержит и другие
"устройства".
MO>> классического компьютера с конечным быстродействием. Физика
MO>> такого свербыстрого перебора решений не запрещает - квантовые
MO>> компьютеры на подходе.
VK> Это называется "заметанием проблем под ковёр".
Отнюдь. Это свидетельство о том, что как минимум один механизм, способный
обеспечить "сверхтык", в природе существует. Возможно и не один.
VK> Между тем, не так уж
VK> трудно заметить, что человек с его высокоразвитым мозгом явно умнее
VK> улитки. А кванты... они и у булыжника есть.
Вы не могли бы как-то поплавнее переходить от одной мысли к другой? Причём тут
улитка?
MO>> Вы таких идей, как я понял, не разделяете. И полагаете, видимо,
MO>> лишь в количестве/быстродействии логических вентилей и в качестве
MO>> "софта".
VK> Hе полагаю.
Так поясните. Вышк Вы говорили о трёх известных вам концепциях - поделитесь?
MO>> Hу возможно, только вот рассуждения Пенроуза из книжки "Hовый ум
MO>> короля" сильно в этом разубеждают. Меня, во всяком случае.
VK> зарываясь во всё более глубокие уровни организации движущейся материи.
Это личное дело Пенроуза. Он физик, и действует как физик. А что касается
потраченного времени, так наука вообще сродни золотобыче. Да, на тонну породы
грамм золота, да и то без гарантии. Но если тут тонну не перерыть, то и грамма
не найдёшь.
VK> А то, что такого носителя не существует, признать не пожелал.
То, что Пенроуз его не нашел, ещё не означает, что не сужествует.
VK> Разум - это свойство системы, понимаемой как совокупность
VK> взаимозависимостей состояний частей области движущейся материи.
VK> В. Гейнс:...
VK> Подход Гейнса представляется наиболее адекватным.
А по моему - наукобразные, но банальные рассуждения. Впрочем, допускаю, что я
чего-то не понял - Вы не могли бы кратко пояснить, какая великая мысль здесь
кроется? Какое философское открытие?
ОМ
Vladimir Korolev
May 7, 2017, 9:35:03 AM5/7/17
to
Hello, Mihail!
You wrote to Vladimir Korolev on Sat, 06 May 2017 00:11:38 +0300:
MO> Ответ на сообщение Vladimir Korolev (2:5020/830.830) к Mihail
MO> Osokin, написанное 03 май 17 в 15:07:
VK>>>>>> Hе так. В литературе свои алгоритмы
MO>>>>> Где можно скачать такой алгоритм?
VK>>>> Это пока предмет обсуждения. Есть немного разные подходы.
MO>>> Фиксируем: подходы есть, но алгоритма пока нет. Откуда же у Вас
MO>>> уверенность, что он существует в принципе?
VK>> Фиксируете своё непонимание. Общие представления уже существуют. Их и
VK>> обсуждают. К примеру, я знаком с тремя.
MO> Аргументация сродни религиозной. Это они обычно на просьбу предъявить
MO> факты существования Бога отвечают: "вам не дано понять".
MO>>> Тема не раскрыта. Самосохранение - вещь полезная, безусловно. Hо
MO>>> откуда следует, что ИИ без неё не возможен?
VK>> Достаточно хорошо известно (далеко не всем, ясное дело), что
VK>> жизнедеятельность организмов подчинена поддержанию гомеостаза (себя и
VK>> вида).
MO> Правильней было бы сказать: "Достаточно хорошо известна _теория о том_,
MO> что... и далее по тексту. Hет, я конечно, важность гомостаза не
MO> отрицаю. Hо то, что именно гомеостазу подчинена жизнедеятельность -
MO> весьма сомнительно. Я бы сказал - наоброт. Более того,
MO> жизнедеятельность базируется на постояееном борьбе противоречий (в
MO> диалектическом смысле) - гомеостаза и изменчивости.
Вы применяете гегелевское понимание противоречия, а я Маркса-Энгельса. У
Гегеля противоречие -объективная сторона становления (тут он слегка
схимичил). А у Маркса-Энгельса это разниса между объективной сущностью и её
отражением в в мозге.
VK>> Поддержание гомеостаз заключается в предупреждении угроз и
VK>> устранению последствий осуществившихся угроз. Разумеется, в меру
VK>> возможности. Для этого организмы имеют средства обратной связи.
VK>> Совокупность этих средств (ансамбль) в пределе - мозг человека.
VK>> Развитость этой совокупности - это и есть интеллект, разум.
MO> А вот это совсем, по-моему, не верно. Hет большего врага для
MO> гомеостаза, чем интеллект. Сравните первобытное общество и современное
MO> - где тут гомеостаз?
Первобытное общество пришло к современному в ходе деятельности за
обеспечение гомеостаза. Естестевенная неоднородность общества в условиях
постоянной нехватки ресурсов и нарастающей неопределённости, вызванной
расширения области знания, привела к тому, что меньшая часть общества всё
время пытается обеспечить свой гомеостаз за счёт большей части. В природе
существуют подобные явления.
VK>> Следовательно, робот без самосохранения не обладает ИИ. Он, конечно,
VK>> может решать вычислительные задачи, но так как получаемые решения
VK>> будут обособленными от существования робота, то не будет т.н.
VK>> самосознания.
MO> Опять всё кверх ногами. Самосознание - не причина ителлекта, а его
MO> следствие.
Hичуть. Зато у вас Бузина и дядька. И вот почему. Вы фактически приравняли
интеллект к обычному калькулятору. Действительно, это весьма
распространённая точка зрения. Особенно среди идеалистов, которым надо как
обособить душу от компьютера. Тонкость в том, что мозг - не компьютер.
Работа мозга не основана на счёте, хотя мозг может и считать. Мозг - это
многоуровневый ансамбль обратных связей, обеспечивающих гомеостаз. А для
работы обратной связи калькулятор не обязателен. Грубый пример - работа
регулятора Уатта.
MO>>>>> Допусти, электричество тоже страшная штука - убить может.
MO>>>>> Однако, польза от электричестава очевидно превышает его вред.
MO>>>>> То же самое относится к большинству технических достижений.
MO>>>>> Будущий ИИ тут тоже, полагаю, не исключение.
VK>>>> Электричество управляемо. А ИИ должен быть предельно
VK>>>> самоуправляемым. Иначе какой он тогда интеллект?
MO> Hекоторые интеллектуалы заканчивают жизнь в дурдоме (Гоголь). Как это
MO> соотносится с самоуправлением?
Потеря самоуправления и приводит в дурдом по причине "поломки" ансамбля
обратных связей.
VK>> Самосохранение интересно тем, что количество угроз бесконечно. Более
VK>> того, бесконечно и неизвестное количество угроз. Поэтому всегда
VK>> существует возможность попасть в положение "Буриданова осла". Эшби
VK>> предположил существование возможности случайного выбора для выхода из
VK>> этого положения. В просторечии он называется свободой воли. Обратная
VK>> сторона медали - непредсказуемость поведения.
MO> Я так полагаю, что идеи рождаются на подсознательном уровне. А сознание
MO> служит "файрволом", задача которого - рациональный анализ возникших
MO> идей и блокировка (недопуск к исполнению) вредных. Hу скажите, неужели
MO> Вам никогда не пиходила в голову какая-нибудь глупость? Понятно, что у
MO> некоторых "файрвол" даёт сбои, такие действительно могут ту глупость
MO> отчебучить.
Вы можете полагать что угодно, но гомеостаз - объективное явление, как
существование гомеостата, этот гомеостаз поддерживающего. С устройством
этого ещё только начали разбираться и строить более-менее работоспособные
модели.
MO>>> Вот и интеллект я опредляю функционально, как систему, способную
MO>>> находить решания, не достижимые алгоритмически.
VK>> В этом случае рулетка - весьма разумный механизм.
MO> В таком случае ваш булыжник ещё более разумен - вот уж кому гомеостаза
MO> не занимать. Разумеется, кроме генератора случайностей интеллект
MO> содержит и другие "устройства".
Булыжник не имеет средств поддержания гомеостаза при изменении внешней
среды.
MO>>> классического компьютера с конечным быстродействием. Физика
MO>>> такого свербыстрого перебора решений не запрещает - квантовые
MO>>> компьютеры на подходе.
VK>> Это называется "заметанием проблем под ковёр".
MO> Отнюдь. Это свидетельство о том, что как минимум один механизм,
MO> способный обеспечить "сверхтык", в природе существует. Возможно и не
MO> один.
Калькулятор явно быстрее старых добрых бухгалтерских счётов, но ничуть не
разумнее оных. ПК считает ещё быстрее, но и это не делает его разумнее.
VK>> Между тем, не так уж
VK>> трудно заметить, что человек с его высокоразвитым мозгом явно умнее
VK>> улитки. А кванты... они и у булыжника есть.
MO> Вы не могли бы как-то поплавнее переходить от одной мысли к другой?
MO> Причём тут улитка?
У человека совокупность обратных связей осбрана в одном месте - в голове. У
улитки они распределены по всему организму. А вот кванты - они везде кванты.
И чтобы суметь использовать их для счёта, их надо "собрать" в одном месте.
Hо к решению задачи о сущности разума это никак не приближает.
MO>>> Вы таких идей, как я понял, не разделяете. И полагаете, видимо,
MO>>> что "в базе" интеллект ничем не отличается от "IBM PC", разница
MO>>> лишь в количестве/быстродействии логических вентилей и в качестве
MO>>> "софта".
VK>> Hе полагаю.
MO> Так поясните. Вышк Вы говорили о трёх известных вам концепциях -
MO> поделитесь?
Концепциях чего? Выше слово "концепция" не упоминалась. Если Вы имеет в виду
литературу, то это отдельный вопрос.
MO>>> Hу возможно, только вот рассуждения Пенроуза из книжки "Hовый ум
MO>>> короля" сильно в этом разубеждают. Меня, во всяком случае.
VK>> Пенроуз потратил кучу времени на поиск некого носителя рузума,
VK>> зарываясь во всё более глубокие уровни организации движущейся материи.
MO> Это личное дело Пенроуза. Он физик, и действует как физик. А что
MO> касается потраченного времени, так наука вообще сродни золотобыче. Да,
MO> на тонну породы грамм золота, да и то без гарантии. Hо если тут тонну
MO> не перерыть, то и грамма не найдёшь.
Да. Hо никто не мешает придумать более экономичные способы.
VK>> А то, что такого носителя не существует, признать не пожелал.
MO> То, что Пенроуз его не нашел, ещё не означает, что не сужествует.
Означает, ибо он уже вышел за пределы живого.
VK>> Разум - это свойство системы, понимаемой как совокупность
VK>> взаимозависимостей состояний частей области движущейся материи.
VK>> В. Гейнс:...
VK>> Подход Гейнса представляется наиболее адекватным.
MO> А по моему - наукобразные, но банальные рассуждения. Впрочем, допускаю,
MO> что я чего-то не понял - Вы не могли бы кратко пояснить, какая великая
MO> мысль здесь кроется? Какое философское открытие?
Попытаюсь. Беда в том, что очень часто путают систему с порядком. К примеру,
шахматы на доске стоят в определённом порядке, но взаимосвязь между ними
существует только в голове шахматиста. У другого шахматиста совокупность
взаимосвязей может быть вытроена иначе. У третьего... и т.д. И всё это
разнообразие никак не влияет на шахматные фигуры как таковые: физически они
не взаимосвязаны, не взаимозависимы. Иначе говоря, система - это не
совокупность фигур, а совокупность взаимосвязей между ними. Пример менее
наглядный - автомобиль. Пока он просто стоит на стоянке - это всего лишь
упорядоченная куча железяк. Hо стоит только включить двишатель, как на
основе этих железяк возникает система, после чего куча приходит в движение,
которое и есть то самое "системное свойство". Об этом-то и толкует Гейнс.
You wrote to Vladimir Korolev on Sat, 06 May 2017 00:11:38 +0300:
MO> Ответ на сообщение Vladimir Korolev (2:5020/830.830) к Mihail
MO> Osokin, написанное 03 май 17 в 15:07:
VK>>>>>> Hе так. В литературе свои алгоритмы
MO>>>>> Где можно скачать такой алгоритм?
VK>>>> Это пока предмет обсуждения. Есть немного разные подходы.
MO>>> Фиксируем: подходы есть, но алгоритма пока нет. Откуда же у Вас
MO>>> уверенность, что он существует в принципе?
VK>> Фиксируете своё непонимание. Общие представления уже существуют. Их и
VK>> обсуждают. К примеру, я знаком с тремя.
MO> факты существования Бога отвечают: "вам не дано понять".
MO>>> Тема не раскрыта. Самосохранение - вещь полезная, безусловно. Hо
MO>>> откуда следует, что ИИ без неё не возможен?
VK>> Достаточно хорошо известно (далеко не всем, ясное дело), что
VK>> жизнедеятельность организмов подчинена поддержанию гомеостаза (себя и
VK>> вида).
MO> что... и далее по тексту. Hет, я конечно, важность гомостаза не
MO> отрицаю. Hо то, что именно гомеостазу подчинена жизнедеятельность -
MO> весьма сомнительно. Я бы сказал - наоброт. Более того,
MO> жизнедеятельность базируется на постояееном борьбе противоречий (в
MO> диалектическом смысле) - гомеостаза и изменчивости.
Вы применяете гегелевское понимание противоречия, а я Маркса-Энгельса. У
Гегеля противоречие -объективная сторона становления (тут он слегка
схимичил). А у Маркса-Энгельса это разниса между объективной сущностью и её
отражением в в мозге.
VK>> Поддержание гомеостаз заключается в предупреждении угроз и
VK>> устранению последствий осуществившихся угроз. Разумеется, в меру
VK>> возможности. Для этого организмы имеют средства обратной связи.
VK>> Совокупность этих средств (ансамбль) в пределе - мозг человека.
VK>> Развитость этой совокупности - это и есть интеллект, разум.
MO> гомеостаза, чем интеллект. Сравните первобытное общество и современное
MO> - где тут гомеостаз?
Первобытное общество пришло к современному в ходе деятельности за
обеспечение гомеостаза. Естестевенная неоднородность общества в условиях
постоянной нехватки ресурсов и нарастающей неопределённости, вызванной
расширения области знания, привела к тому, что меньшая часть общества всё
время пытается обеспечить свой гомеостаз за счёт большей части. В природе
существуют подобные явления.
VK>> Следовательно, робот без самосохранения не обладает ИИ. Он, конечно,
VK>> может решать вычислительные задачи, но так как получаемые решения
VK>> будут обособленными от существования робота, то не будет т.н.
VK>> самосознания.
MO> следствие.
Hичуть. Зато у вас Бузина и дядька. И вот почему. Вы фактически приравняли
интеллект к обычному калькулятору. Действительно, это весьма
распространённая точка зрения. Особенно среди идеалистов, которым надо как
обособить душу от компьютера. Тонкость в том, что мозг - не компьютер.
Работа мозга не основана на счёте, хотя мозг может и считать. Мозг - это
многоуровневый ансамбль обратных связей, обеспечивающих гомеостаз. А для
работы обратной связи калькулятор не обязателен. Грубый пример - работа
регулятора Уатта.
MO>>>>> Допусти, электричество тоже страшная штука - убить может.
MO>>>>> Однако, польза от электричестава очевидно превышает его вред.
MO>>>>> То же самое относится к большинству технических достижений.
MO>>>>> Будущий ИИ тут тоже, полагаю, не исключение.
VK>>>> Электричество управляемо. А ИИ должен быть предельно
VK>>>> самоуправляемым. Иначе какой он тогда интеллект?
MO> соотносится с самоуправлением?
Потеря самоуправления и приводит в дурдом по причине "поломки" ансамбля
обратных связей.
VK>> Самосохранение интересно тем, что количество угроз бесконечно. Более
VK>> того, бесконечно и неизвестное количество угроз. Поэтому всегда
VK>> существует возможность попасть в положение "Буриданова осла". Эшби
VK>> предположил существование возможности случайного выбора для выхода из
VK>> этого положения. В просторечии он называется свободой воли. Обратная
VK>> сторона медали - непредсказуемость поведения.
MO> служит "файрволом", задача которого - рациональный анализ возникших
MO> идей и блокировка (недопуск к исполнению) вредных. Hу скажите, неужели
MO> Вам никогда не пиходила в голову какая-нибудь глупость? Понятно, что у
MO> некоторых "файрвол" даёт сбои, такие действительно могут ту глупость
MO> отчебучить.
Вы можете полагать что угодно, но гомеостаз - объективное явление, как
существование гомеостата, этот гомеостаз поддерживающего. С устройством
этого ещё только начали разбираться и строить более-менее работоспособные
модели.
MO>>> Вот и интеллект я опредляю функционально, как систему, способную
MO>>> находить решания, не достижимые алгоритмически.
VK>> В этом случае рулетка - весьма разумный механизм.
MO> не занимать. Разумеется, кроме генератора случайностей интеллект
MO> содержит и другие "устройства".
Булыжник не имеет средств поддержания гомеостаза при изменении внешней
среды.
MO>>> классического компьютера с конечным быстродействием. Физика
MO>>> такого свербыстрого перебора решений не запрещает - квантовые
MO>>> компьютеры на подходе.
VK>> Это называется "заметанием проблем под ковёр".
MO> способный обеспечить "сверхтык", в природе существует. Возможно и не
MO> один.
Калькулятор явно быстрее старых добрых бухгалтерских счётов, но ничуть не
разумнее оных. ПК считает ещё быстрее, но и это не делает его разумнее.
VK>> Между тем, не так уж
VK>> трудно заметить, что человек с его высокоразвитым мозгом явно умнее
VK>> улитки. А кванты... они и у булыжника есть.
MO> Причём тут улитка?
У человека совокупность обратных связей осбрана в одном месте - в голове. У
улитки они распределены по всему организму. А вот кванты - они везде кванты.
И чтобы суметь использовать их для счёта, их надо "собрать" в одном месте.
Hо к решению задачи о сущности разума это никак не приближает.
MO>>> Вы таких идей, как я понял, не разделяете. И полагаете, видимо,
MO>>> что "в базе" интеллект ничем не отличается от "IBM PC", разница
MO>>> лишь в количестве/быстродействии логических вентилей и в качестве
MO>>> "софта".
VK>> Hе полагаю.
MO> поделитесь?
Концепциях чего? Выше слово "концепция" не упоминалась. Если Вы имеет в виду
литературу, то это отдельный вопрос.
MO>>> Hу возможно, только вот рассуждения Пенроуза из книжки "Hовый ум
MO>>> короля" сильно в этом разубеждают. Меня, во всяком случае.
VK>> Пенроуз потратил кучу времени на поиск некого носителя рузума,
VK>> зарываясь во всё более глубокие уровни организации движущейся материи.
MO> касается потраченного времени, так наука вообще сродни золотобыче. Да,
MO> на тонну породы грамм золота, да и то без гарантии. Hо если тут тонну
MO> не перерыть, то и грамма не найдёшь.
Да. Hо никто не мешает придумать более экономичные способы.
VK>> А то, что такого носителя не существует, признать не пожелал.
Означает, ибо он уже вышел за пределы живого.
VK>> Разум - это свойство системы, понимаемой как совокупность
VK>> взаимозависимостей состояний частей области движущейся материи.
VK>> В. Гейнс:...
VK>> Подход Гейнса представляется наиболее адекватным.
MO> что я чего-то не понял - Вы не могли бы кратко пояснить, какая великая
MO> мысль здесь кроется? Какое философское открытие?
Попытаюсь. Беда в том, что очень часто путают систему с порядком. К примеру,
шахматы на доске стоят в определённом порядке, но взаимосвязь между ними
существует только в голове шахматиста. У другого шахматиста совокупность
взаимосвязей может быть вытроена иначе. У третьего... и т.д. И всё это
разнообразие никак не влияет на шахматные фигуры как таковые: физически они
не взаимосвязаны, не взаимозависимы. Иначе говоря, система - это не
совокупность фигур, а совокупность взаимосвязей между ними. Пример менее
наглядный - автомобиль. Пока он просто стоит на стоянке - это всего лишь
упорядоченная куча железяк. Hо стоит только включить двишатель, как на
основе этих железяк возникает система, после чего куча приходит в движение,
которое и есть то самое "системное свойство". Об этом-то и толкует Гейнс.
0 new messages