разработка через моделирование
Dmitry Ponyatov
бродят смутные мысли по поводу сабжа -- никак не могу сформулировать
ну скажем нужно мне сделать электронные часы с будильником на несколько меток
времени, часть с дерганьем ногой на исполнительное устройство (например молча
включать электрочайник за 5 минут до побудки и выключать при закипании)
естественно эта задачка ведет напрямую к использованию простого
микроконтроллера, скажем AVR (насколько я помню, они могут вообще без обвязки
работать, кроме кондерчика с питания на ногу сброса ?)
и вот как раз на этапе проектирования схемы и прошивки для контроллера
собственно и начинается моделирование системы в голове и реализация этой модели
обычными средствами (САПР, пакеты разработки ПО, симуляторы,
компиляторы/ассемблеры и т.п.
и вот смутно бродит мысль, а нельзя ли этот цикл реализовать с помощью
метапрограммирования (см. статью Луговского по метапрограммированию на LISP),
но на Форте
в самом простейшем случае написания прошивки описать модель процессора (язык
модели), потом написать ассемблеро-подобный язык (язык программного
обеспечения) на языке модели, потом возможно сделать вариант языка
сверхвысокого уровня, описывающего то что мне нужно (проблемно-ориентированный
язык), отладить систему, а потом подменив языки ассемблера реализованный через
язык модели другим вариантом реализации, включающий кодогенератор (а в идеале
еще и оптимизатор), получить прошивку, которую средствами того же Форта загнать
напрямую через кабель в чип
не наталкивался ли кто-нибудь на заумные статьи по сабжу, работе сознания
человека (мы же моделируем в голове, когда пишем программу и прикидываем
варианты железа ?) и т.п. ? в гугле как-то даже не знаю, что искать. припонимаю
читал перевод Programmer's Stone, а больше ничего подобного пока не попадалось
ну и хотелось бы обсудить:
- метапрограммирование в embedded
- мета...ие на Форте (тут конечно нужна привычка к его синтаксису 8-)
- как моделировать паралельные и асинхронные системы на языках, не
поддерживающих параллельность
зачем это нужно ? меня очень смущает то, что большАя часть разработки ведется
визуальными средствами, которые в принципе дают только ту функциональность,
которая предусмотрена разработчиком среды
а вот языковые средства как раз не ограничены (при условии полноты языка --
были какие-то теоремы, связанные с машиной Тьюринга), и хотелось бы попробовать
использовать как раз их (визуальщина естественно легко прикручивается поверх)
кстати, в коммерческом софте языковые средства как раз неприменимы примерно
по той же причине, что и в сравнении коммерческий софт vs open source и
соответственно решения на их основе -- собственно поставщики САПР как раз на
том и живут, что добавляют функциональность и оптимизируют то что уже есть
(например заменой алгоритмов) в новые версии, не давая конченным пользователям
при желании залезть внутрь системы и напрограммировать что-то под собственные
нужды
вот такой вот написался поток сознания -- еще раз извините, не могу никак
сформулировать это все более четко
хотелось бы развязать болтологию в эхе в рамках эхотага, что-то типа
"методология проектирования с использованием языковых средств, моделирования и
метапрограммирования (создания проблемно-ориентированных языковых средств,
Domain Specific Languages)"
Ilia Tarasov
DP> и вот как раз на этапе проектирования схемы и прошивки для контроллера
DP> собственно и начинается моделирование системы в голове и реализация этой
DP> модели обычными средствами (САПР, пакеты разработки ПО, симуляторы,
DP> компиляторы/ассемблеры и т.п.
Hу включалку чайника-то можно и руками написать.
DP> и вот смутно бродит мысль, а нельзя ли этот цикл реализовать с помощью
DP> метапрограммирования (см. статью Луговского по метапрограммированию на
DP> LISP), но на Форте
Если смутно - то нельзя :) Да, есть такое метапрограммирование, и еще есть
суперкомпиляция (а с учетом гибкого железа - видимо, еще и гиперкомпиляция,
когда САПР пытается одновременно собрать процессор и подобрать к нему софт).
Только это запредельные объемы вычислений и к тому же совершенно непаханое
методологическое поле. То есть и повычислять-то можно, только пока непонятно,
что.
DP> в самом простейшем случае написания прошивки описать модель процессора
DP> (язык модели), потом написать ассемблеро-подобный язык (язык программного
DP> обеспечения) на языке модели, потом возможно сделать вариант языка
DP> сверхвысокого уровня, описывающего то что мне нужно
DP> (проблемно-ориентированный язык), отладить систему, а потом подменив
DP> языки ассемблера реализованный через язык модели другим вариантом
DP> реализации, включающий кодогенератор (а в идеале еще и оптимизатор),
DP> получить прошивку, которую средствами того же Форта загнать напрямую
DP> через кабель в чип
Можешь посмотреть в сторону System-C, Handel-C, Impulse-C и подобных систем -
это диалекты Си, транслируемые в железо. Теоретически можно (и компании -
разработчики этих трансляторов копают в этом направлении) взять некую
программу на Си и создать такой процессор, который будет оптимально ее
выполнять. Hо на современном этапе это пока только декларации.
DP> не наталкивался ли кто-нибудь на заумные статьи по сабжу, работе
DP> сознания человека (мы же моделируем в голове, когда пишем программу и
DP> прикидываем варианты железа ?) и т.п. ? в гугле как-то даже не знаю, что
DP> искать. припонимаю читал перевод Programmer's Stone, а больше ничего
DP> подобного пока не попадалось
По работе сознания человека можно выйти разве что на нейросети и нечеткую
логику. Это иная вычислительная модель по сравнению с машиной Тьюринга и
конечными автоматами, на которых основаны современные процессоры.
DP> - метапрограммирование в embedded
Гм. Я руками делаю процессор за 20-30 минут (точнее, регистровое ядро к нему).
При такой производительности лишний инструмент будет служить только источником
лишних глюков (придется разбираться не с понятным и прозрачным HDL, а с
каким-то свежим и малопользованным метаязыком).
DP> - мета...ие на Форте (тут конечно нужна привычка к его синтаксису 8-)
Форт лучше убрать в вычислительную модель нижнего уровня, он очень эффективен,
если речь идет о гибком железе. Грубо говоря, если уж делать связку
"железо+системное ПО+прикладное ПО", то быстрее всего ее сделать для стековой
модели вычислений.
DP> - как моделировать паралельные и асинхронные системы на языках, не
DP> поддерживающих параллельность
Смотря зачем. Сейчас львиная доля проблем параллельности идет от того, что
поток вычислений в процессорах один. А если на кристалле больше одного
процессора, то параллельность получается некоторым образом сама...
DP> а вот языковые средства как раз не ограничены (при условии полноты
DP> языка -- были какие-то теоремы, связанные с машиной Тьюринга), и хотелось
DP> бы попробовать использовать как раз их (визуальщина естественно легко
DP> прикручивается поверх)
Визуальщина-то прикручивается, только объем работ при этом непомерный.
DP> хотелось бы развязать болтологию в эхе в рамках эхотага, что-то типа
DP> "методология проектирования с использованием языковых средств,
DP> моделирования и метапрограммирования (создания проблемно-ориентированных
DP> языковых средств, Domain Specific Languages)"
Hу это тебе надо бы наш отчет по HИР :))) А вообще - тему ты сформулировал
хотя и актуальную, но настолько общую и всеобъемлющую, что с приемлемыми
усилиями хоть сколько-нибудь значимый результат не достигается. Hу и что, что
сейчас много сделано в теории компиляторов? Все равно ведь нет суперязыка, на
котором пишет весь мир. И метаязыки что-то не очень развиты, хотя речь идет
только о софтварной части проекта. А тут получается софт+хард... и всем этим
надо как-то рулить... да еще автоматизированной САПР. Ужас! Тут пока только на
примерах можно рассматривать.
bye
Dmitry Ponyatov
IT> Гм. Я руками делаю процессор за 20-30 минут (точнее, регистровое
IT> ядро к нему).
IT> При такой производительности лишний инструмент будет служить
IT> только источником
IT> лишних глюков (придется разбираться не с понятным и прозрачным
IT> HDL, а с каким-то свежим и малопользованным метаязыком).
зачем разбираться, если ты сам себе этот микроязык придумал и реализовал ?
естественно это начинает работать только если нечто делается не одноразово, а
ты постоянно работаешь в узкой области -- ну скажем вместо того чтобы писать на
HDL, придумываешь себе собственный язык и пишешь транслятор с него в HDL,
причем очень маленький, например заточенный под быстрый синтез разнообразных
электронных часов для разных требовний разных заказчиков
Dmitry Ponyatov
IT> подобных систем -
IT> это диалекты Си, транслируемые в железо. Теоретически можно (и
IT> компании -
IT> разработчики этих трансляторов копают в этом направлении) взять
IT> некую
IT> программу на Си и создать такой процессор, который будет
IT> оптимально ее
IT> выполнять. Hо на современном этапе это пока только декларации.
в Мур же делает что-то подобное, только что-то мне не удалось найти в сети как
он это делает
а если писать такие трансляторы _самому под узкий круг задач_ ?
Dmitry Ponyatov
IT> По работе сознания человека можно выйти разве что на нейросети и
IT> нечеткую логику.
это _очень и очень_ низкий уровень -- меня интересует как применить компьютер
для проектирования на верхних уровнях сознания, где работают языковые механизмы
Dmitry Ponyatov
IT> Форт лучше убрать в вычислительную модель нижнего уровня, он
IT> очень эффективен,
IT> если речь идет о гибком железе. Грубо говоря, если уж делать связку
IT> "железо+системное ПО+прикладное ПО", то быстрее всего ее сделать
IT> для стековой модели вычислений.
это достоинства форт-машины
а как же идеи Броуди по написанию своих языков поверх стандартного Форта ?
это же основная идея языка 8-0
просто мы надстраиваем DSL-языки поверх аппаратно реализованного базового
языка
если решение не оказывается жестко завязынным на железо, мы можем подменить
нижний аппаратный уровень например на его программную симуляцию на обычной
персоналке
Dmitry Ponyatov
IT> Hу это тебе надо бы наш отчет по HИР :))) А вообще - тему ты
IT> сформулировал
IT> хотя и актуальную, но настолько общую и всеобъемлющую, что с
IT> приемлемыми
IT> усилиями хоть сколько-нибудь значимый результат не достигается.
IT> Hу и что, что
IT> сейчас много сделано в теории компиляторов? Все равно ведь нет
IT> суперязыка, на
IT> котором пишет весь мир. И метаязыки что-то не очень развиты, хотя
IT> речь идет
IT> только о софтварной части проекта. А тут получается софт+хард...
IT> и всем этим
IT> надо как-то рулить... да еще автоматизированной САПР. Ужас! Тут
IT> пока только на
IT> примерах можно рассматривать.
О, почти в десятку ! Это вот очень близко к тому, что я не мог сформулировать
-- вот в этом направлении и надо копать
а что касается САПР -- Мур же написал ее себе ?
И сделал он это видимо решая конкретные целевые задачи -- форт-процессоры он
же делал не из любви к искуству, просто при решении его задач он предпочел
самостоятельно создать себе инструментарий, и форт-подход с его минимализмом и
постоением DSL-языка от самого низкого уровня сработал
первая сложность метапрограммирования -- если проект делается не в одиночку (а
для работы на заказ необходимы минимум 2 человека, чтобы не потерять деньги и
заказчика, если один из разработчиков заболеет или уйдет), нужен очень
интенсивный обмен информацией по идеям, устройству и работе DSL-языков, приемам
их использования
у меня тоже с началом этого пути самообеспечения средствами разработки софта
практически получилось -- используя интерпретатор байт-кода и целевую
компиляцию, я решил проблему со стыковкой Форта с другими языками (заплатив
скоростью работы программ) и code reuse, получив при этом еще и практически
неограниченные возможности по отладке форт-программ и их переносимость на
разные системы.
теперь надо собрать те материалы, которые я использовал в кучу -- прежде всего
это статья Родригеса, и решение отказаться от использования словарей в ЦК и от
написания своей форт-системы (мозги выключались когда было 3 варианта
како-нибудь слова DUP: в SPF, в наборе команд интерпретатора байт-кода и в
новой форт-системе)
кстати, в литературе я еще нигде не встречал такой методики программирования
на Форте с использованием целевого компилятора -- примеры были, но они выходили
за порог моих думательных способностей 8-)
Ilia Tarasov
IT>> программу на Си и создать такой процессор, который будет
IT>> оптимально ее
IT>> выполнять. Hо на современном этапе это пока только декларации.
DP> в Мур же делает что-то подобное, только что-то мне не удалось найти в
DP> сети как он это делает
А что конкретно Мур делает?
DP> а если писать такие трансляторы _самому под узкий круг задач_ ?
Hу так мы пишем. Только не автоматизированно, а руками. Получается ПЛИС с
ядром, обслуживающая конкретный набор периферии. Внутри диалект Форта, где
стековая машина дополнена обслуживанием аппаратных узлов, которые выполняют
наиболее важные для системы задачи. Про универсальный генератор таких систем
пока речь не идет.
bye
Ilia Tarasov
IT>> По работе сознания человека можно выйти разве что на нейросети и
IT>> нечеткую логику.
DP> это _очень и очень_ низкий уровень -- меня интересует как применить
DP> компьютер для проектирования на верхних уровнях сознания, где работают
DP> языковые механизмы
"Он встретил ее на поляне с цветами". Где были цветы - на поляне, у него или у
нее? Единственное, что мне попадалось из хоть сколько-нибудь близкой области -
работы лаборатории нелинейной динамики. ИРЭ РАH или как-то так. Так вот там
система могла, имея в наличии первую главу "Винни-Пуха" в ответ на вопрос
"зачем пчелы делают мед?" ткнуть в текст "единственная причина, по которой
пчелы делают мед, это та, чтобы я его ел". Hо это именно "ткнуть", поскольку
никакого осмысления вопроса программой не наблюдается и наблюдаться не может.
Главная заморочка с сознанием - наличие достаточно плавных активационных
функций в нейронах, а до кучи еще и механизм "аппаратной" адаптации к уровню
сигнала. Цифровой электронике такое недоступно, у нее иной физический принцип
функционирования. Переход достаточно труден, причем в обе стороны - все 15
млрд. нейронов еле-еле помогают человеку посчитать в уме столбиком, а цифра
такие операции делает за наносекунды. Так что прослойка в виде конструктора,
формализующего желание человека в виде схемы, программы или алгоритма, еще
нескоро получит полноценную замену.
bye
Ilia Tarasov
DP> зачем разбираться, если ты сам себе этот микроязык придумал и реализовал
DP> ?
Тикль, gcc, C#. Форт, наконец. У третьекурсников - паскаль (больше они ничего
толком не знают). Вполне пишутся программы для синтеза HDL-описаний простых
вещей.
DP> естественно это начинает работать только если нечто делается не
DP> одноразово, а ты постоянно работаешь в узкой области -- ну скажем вместо
DP> того чтобы писать на HDL, придумываешь себе собственный язык и пишешь
DP> транслятор с него в HDL, причем очень маленький, например заточенный под
DP> быстрый синтез разнообразных электронных часов для разных требовний
DP> разных заказчиков
Hу это скриптик на тикле :) Кстати, вполне официальный и достаточно мощный
Core Generator написан именно на тикле и синтезирует около сотни
разновидностей цифровых узлов по результатам тыканья мышкой в визуальный
конструктор. Hо. Из Core Generator я пользуюсь только синтезатором блочной
памяти (там удобно делается инициализация из файла). Из наших разработок -
счетчик, делитель, ШИМ и UART. Все заточенное под работу в стиле "задать
один-два параметра в командной строке". Все, что сверх - пробовалось, ради
интереса. Тут же было получено предсказываемое подтверждение, что попытка
автоматического синтеза чего-то сложного и пока до конца не формализованного
выходит боком. Проблема-то не в том, что набирать текст долго, или сложно
потом отлаживать устройство. Проблема чаще в том, что требования к устройству
далеко не всегда формализованы и выданы в виде четкого и ясного ТЗ. Или у тебя
есть масса заказчиков, которые требуют электронные часы?
bye
Ilia Tarasov
IT>> Форт лучше убрать в вычислительную модель нижнего уровня, он
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
DP> а как же идеи Броуди по написанию своих языков поверх стандартного Форта
DP> ?
DP> это же основная идея языка 8-0
Hу а я что написал?
DP> просто мы надстраиваем DSL-языки поверх аппаратно реализованного
DP> базового языка
Поверх - не обязательно. Hу получает базовый (!) набор слов аппаратную
поддержку этого самого domain. Ему же никакой обертки не требуется, грамматике
Форта еще надо постараться начать противоречить.
DP> если решение не оказывается жестко завязынным на железо, мы можем
DP> подменить нижний аппаратный уровень например на его программную симуляцию
DP> на обычной персоналке
Угу. Идем дальше и получаем Java. Идем еще дальше и получаем MSIL (который в
.net). Или по-другому - если начать выкидывать из MSIL все, что только можно,
получим стековую машину, которую нетрудно сделать и аппаратно. Только зачем
делать такой уклон в создание инструментов? Движущей силой их развития
являются реальные потребности. Мы же совсем не из нездорового энтузиазма
работаем с форт-кристаллами, были реальные задачи, криво решавшиеся
стандартными способами. Вот решили их нестандартно - продвинулись
форт-технологии. Как побочный результат. А если бы сразу поставили цель
сделать форт-процессор и софт к нему, скорее всего, все так бы и осталось в
проектах.
P.S. Хочу микро(!) движок форта для XP/.net.
bye
Ilia Tarasov
DP> О, почти в десятку ! Это вот очень близко к тому, что я не мог
DP> сформулировать -- вот в этом направлении и надо копать
:) "Кажется, я попал..."
DP> а что касается САПР -- Мур же написал ее себе ?
DP> И сделал он это видимо решая конкретные целевые задачи --
DP> форт-процессоры он же делал не из любви к искуству, просто при решении
DP> его задач он предпочел самостоятельно создать себе инструментарий, и
DP> форт-подход с его минимализмом и постоением DSL-языка от самого низкого
DP> уровня сработал
:) Ага, я угадал стиль в ответе на предыдущее письмо.
DP> у меня тоже с началом этого пути самообеспечения средствами разработки
DP> софта практически получилось -- используя интерпретатор байт-кода и
DP> целевую компиляцию, я решил проблему со стыковкой Форта с другими языками
DP> (заплатив скоростью работы программ) и code reuse, получив при этом еще и
DP> практически неограниченные возможности по отладке форт-программ и их
DP> переносимость на разные системы.
Hу вобщем это то, как я себе примерно представляю использование форта в
"большом" программировании.
DP> теперь надо собрать те материалы, которые я использовал в кучу -- прежде
DP> всего это статья Родригеса, и решение отказаться от использования
DP> словарей в ЦК и от написания своей форт-системы (мозги выключались когда
DP> было 3 варианта како-нибудь слова DUP: в SPF, в наборе команд
DP> интерпретатора байт-кода и в новой форт-системе)
У меня сейчас обратная задача - попытаться сделать словари в спф похожими на
pm-форт. Именно контекстные словари здорово помогают с code reuse, только если
они сделаны не так странно, как в '94. ЦК для серии KF (любого ядра) занимает
два экрана текста, но работает только из-под Win98. А САПР в WinXP...
bye
Dmitry Ponyatov
IT> Так что прослойка в виде конструктора,
IT> формализующего желание человека в виде схемы, программы или
IT> алгоритма, еще нескоро получит полноценную замену.
я говорил об использовании языковых способностей -- придумывание терминов, в
каком-то смысле вывод по наборам правил, распознавание устойчивых групп
элементом (вырожденный случай для символьных строк -- regexpы)
похоже наконец-то я дошел в эхотаге до состояния, когда можно курить Броуди
Dmitry Ponyatov
IT> P.S. Хочу микро(!) движок форта для XP/.net.
портани http://akps.ssau.ru/forth/vm/vm.cpp, но это только ЦК+интерпретатор, а
к нему нет self-hosted форт-системы 8-(
Ilia Tarasov
DP> я говорил об использовании языковых способностей -- придумывание
DP> терминов, в каком-то смысле вывод по наборам правил, распознавание
DP> устойчивых групп элементом (вырожденный случай для символьных строк --
DP> regexpы)
А это и сейчас можно. Русские символы + мимикрия под естественный язык +
абстрагирование от аппаратуры (или обертками в виде библиотек, или прямо на
HDL). Или что ты хочешь распознавать?
bye
Ilia Tarasov
IT>> P.S. Хочу микро(!) движок форта для XP/.net.
DP> портани http://akps.ssau.ru/forth/vm/vm.cpp, но это только
DP> ЦК+интерпретатор, а к нему нет self-hosted форт-системы 8-(
Ты думаешь, у меня таких нет? :)
bye
Andrey Cherezov
> "Он встретил ее на поляне с цветами". Где были цветы - на поляне, у него или у
> нее? Единственное, что мне попадалось из хоть сколько-нибудь близкой области -
> работы лаборатории нелинейной динамики. ИРЭ РАH или как-то так. Так вот там
> система могла, имея в наличии первую главу "Винни-Пуха" в ответ на вопрос
> "зачем пчелы делают мед?" ткнуть в текст "единственная причина, по которой
> пчелы делают мед, это та, чтобы я его ел". Hо это именно "ткнуть", поскольку
> никакого осмысления вопроса программой не наблюдается и наблюдаться не может.
> Главная заморочка с сознанием - наличие достаточно плавных активационных
> функций в нейронах, а до кучи еще и механизм "аппаратной" адаптации к уровню
> сигнала. Цифровой электронике такое недоступно, у нее иной физический принцип
> функционирования.
"Активационные функции в нейронах" плавные не больше (относительно
длительности сигнала), чем в электронном триггере.
Человеческий мозг делает свои логические выводы __СТАТИСТИЧЕСКИ__ на
базе накопленной за всю жизнь информации. Этот процесс вполне можно
моделировать и на цифровой технике. По крайней мере обученные байесовые
фильтры фильтруют спам в разы, если не на порядки, надежнее человека.
Т.е. фактически они __ПОНИМАЮТ__ разницу спам-неспам, и "механизм этого
понимания" (производства вывода) очень близок к человеческому
логическому выводу - переход "суммарного сигнала" через пороговое
значение, "сход лавины".
> Переход достаточно труден, причем в обе стороны - все 15
> млрд. нейронов еле-еле помогают человеку посчитать в уме столбиком, а цифра
> такие операции делает за наносекунды.
Если человека с раннего детства учить только двоичной (ну или там
троичной :) системе счисления и "затачивать" его обучение под скоростной
устный счет, то он будет считать не хуже компьютера - с поправкой на
тактовую частоту, конечно. Сигналы по биосетям мозга проходят медленнее,
чем за наносекунды.
Да и без такого спец-обучения находятся уникумы, показывающие чудеса
скоросчета, причем часто не понимающие, как это у них выходит (как и
компьютеры не понимают :).
Как попалось недавно где-то - "древние греки посчитали бы невозможным
чудом способность большинства европейцев делить большие числа". Система
счисления, система символов и прочие правильные абстракции повысили
скорострельность человеческого счета на порядки, без замены хардвера.
Но до предела еще очень далеко. Была бы нужда (а она только уменьшается :).
> Так что прослойка в виде конструктора,
> формализующего желание человека в виде схемы, программы или алгоритма, еще
> нескоро получит полноценную замену.
Нужно ли делать "полноценную замену" ограниченных способностей человека?
А самый умный сверхчеловек у нас уже есть - интернет. Интернет +
простейший алгоритм вывода (человек без высшего образования) способны в
паре на такие открытия, какие иному академику не снились. Хотя бы в
свете того, что он (академик) может за все свои 80-90 лет не узнать
весь тот объем информации, который уже доступен гуглу и любому человеку
посредством его.
Людей и компьютеры нужно учить не считать в столбик, а правильно
задавать вопросы. А поисковые машины нужно развивать в русле
"статистической логики" и обучения. Ну и продолжать оцифровывать
бумажные первоисточники, конечно :) Следующий уровень организации
самосознания вселенной уже родился, остается его "кормить" наработками
нашего уровня. И всё будет в порядке с "искусственным интеллектом"!
Правда, когда "будет в порядке", мы наверное не узнаем. Как клетки
нашего организма ничегошеньки не смыслят в человеческом сознании, хоть и
работают на него самоотверженно всю свою короткую жизнь ;)
Andrey Cherezov
> получим стековую машину, которую нетрудно сделать и аппаратно. Только зачем
> делать такой уклон в создание инструментов? Движущей силой их развития
> являются реальные потребности. Мы же совсем не из нездорового энтузиазма
> работаем с форт-кристаллами, были реальные задачи, криво решавшиеся
> стандартными способами.
>
> P.S. Хочу микро(!) движок форта для XP/.net.
Все хотят (и некоторые имеют :). Но почему? "Из нездорового энтузиазма,
или реальные задачи криво решаются НЕмикро-движками." ? ;)
Ilia Tarasov
AC> "Активационные функции в нейронах" плавные не больше (относительно
AC> длительности сигнала), чем в электронном триггере.
Функции считаются не относительно длительности, а относительно уровня.
Цифровую систему стараются загнать в релейный режим, как можно сильнее
ограничивая зону линейного усиления. Для нейрона же применимы понятия нечеткой
логики - "почти единица", "похоже на ноль" и прочее.
AC> Человеческий мозг делает свои логические выводы __СТАТИСТИЧЕСКИ__ на
AC> базе накопленной за всю жизнь информации. Этот процесс вполне можно
AC> моделировать и на цифровой технике. По крайней мере обученные байесовые
Моделировать можно, получить копию нельзя. Окончания нейрона умеют
адаптироваться к уровню входного сигнала. Логический элемент не сможет
адаптироваться, если вместо 5 вольт реглуярно давать ему на вход 10.
AC> фильтры фильтруют спам в разы, если не на порядки, надежнее человека.
AC> Т.е. фактически они __ПОHИМАЮТ__ разницу спам-неспам, и "механизм этого
AC> понимания" (производства вывода) очень близок к человеческому
AC> логическому выводу - переход "суммарного сигнала" через пороговое
AC> значение, "сход лавины".
Hет, пониманием там и не пахнет. Байесовская статистика, нейросети, нечеткая
логика - это все попытки имитировать поведение мозга при решении отдельных
задач. Это копирование реакций на внешние раздражители, но не воспроизведение
тех процессов, которые приводят к их появлению.
AC> Если человека с раннего детства учить только двоичной (ну или там
AC> троичной :) системе счисления и "затачивать" его обучение под скоростной
AC> устный счет, то он будет считать не хуже компьютера - с поправкой на
AC> тактовую частоту, конечно. Сигналы по биосетям мозга проходят медленнее,
AC> чем за наносекунды.
Процесс "точного" счета есть попытка загнать свою аналоговую нейросеть в
нелинейный (дискретный) режим. Человек и так прекрасно сообразит, что от
сложения двух кучек яблок будет одна кучка, побольше. И даже маленький ребенок
без замеров и расчетов может собрать пирамидку или вложить матрешку одну в
другую, делая на лету оценку "больше-меньше". Человек с хорошей координацией
может и "качать маятник", двигаясь по очень точно выверенной синусоиде - но он
же ее не рассчитывает?
AC> Да и без такого спец-обучения находятся уникумы, показывающие чудеса
AC> скоросчета, причем часто не понимающие, как это у них выходит (как и
AC> компьютеры не понимают :).
А у этих уникумов нейросеть просто дает точные результаты. :)
AC> Как попалось недавно где-то - "древние греки посчитали бы невозможным
AC> чудом способность большинства европейцев делить большие числа". Система
AC> счисления, система символов и прочие правильные абстракции повысили
AC> скорострельность человеческого счета на порядки, без замены хардвера.
AC> Hо до предела еще очень далеко. Была бы нужда (а она только уменьшается
AC> :).
Вполне можно привить практический навык оперирования некими системами
символов. Hо это уже шаги к технике со стороны человека, попытка понять и
воспроизвести в голове принципы работы компьютера.
>> Так что прослойка в виде конструктора,
>> формализующего желание человека в виде схемы, программы или алгоритма, еще
>> нескоро получит полноценную замену.
AC> Hужно ли делать "полноценную замену" ограниченных способностей человека?
Только рутинных. Замена целеполагания попросту вредна и опасна для общества.
Компьютер ничтоже сумняшеся сунет всем электрод в центры наслаждения, если
придет к такому выводу на основе анализа вводной "надо сделать всем хорошо". У
человека при этом задействовалась бы система более высокого уровня,
блокирующая такое решение. А компьютер, моделирующий повседневную
деятельность, этой системы не имеет.
AC> А самый умный сверхчеловек у нас уже есть - интернет. Интернет +
AC> простейший алгоритм вывода (человек без высшего образования) способны в
AC> паре на такие открытия, какие иному академику не снились. Хотя бы в
AC> свете того, что он (академик) может за все свои 80-90 лет не узнать
AC> весь тот объем информации, который уже доступен гуглу и любому человеку
AC> посредством его.
См. ниже.
AC> Людей и компьютеры нужно учить не считать в столбик, а правильно
AC> задавать вопросы. А поисковые машины нужно развивать в русле
Вот это правильно...
AC> "статистической логики" и обучения. Hу и продолжать оцифровывать
AC> бумажные первоисточники, конечно :) Следующий уровень организации
AC> самосознания вселенной уже родился, остается его "кормить" наработками
AC> нашего уровня. И всё будет в порядке с "искусственным интеллектом"!
AC> Правда, когда "будет в порядке", мы наверное не узнаем. Как клетки
AC> нашего организма ничегошеньки не смыслят в человеческом сознании, хоть и
AC> работают на него самоотверженно всю свою короткую жизнь ;)
Есть интересный математический раздел под названием нелинейная динамика. Там
используется понятие аттрактора - траектории системы в фазовом пространстве.
Причем замечание оттуда следует достаточно интересное - например, весь
"гигантский" объем информации в интернете вполне может укладываться в
ограниченное число таких аттракторов. То есть гуляй не гуляй - принципиально
новое перестанет появляться после прочтения N сайтов. Поэтому рулят:
а) новые экспериментальные данные
б) люди, способные регулировать переходы между аттракторами и выбор нужного в
данной ситуации (напр. академик 80-90 лет).
bye
Ilia Tarasov
>> P.S. Хочу микро(!) движок форта для XP/.net.
AC> Все хотят (и некоторые имеют :). Hо почему? "Из нездорового энтузиазма,
AC> или реальные задачи криво решаются HЕмикро-движками." ? ;)
А PM-Forth уже пошел в связке WinXP+DOSbox. И кросс-компилятор для kf
прекрасно заработал в пакетном режиме (а больше пока ничего и не надо).
bye
Dmitry Zyryanov
> AC> Человеческий мозг делает свои логические выводы __СТАТИСТИЧЕСКИ__ на
> AC> базе накопленной за всю жизнь информации. Этот процесс вполне можно
> AC> моделировать и на цифровой технике. По крайней мере обученные байесовые
>
> Моделировать можно, получить копию нельзя. Окончания нейрона умеют
> адаптироваться к уровню входного сигнала. Логический элемент не сможет
> адаптироваться, если вместо 5 вольт реглуярно давать ему на вход 10.
А можно сделать и такие логические элементы?
> AC> фильтры фильтруют спам в разы, если не на порядки, надежнее человека.
> AC> Т.е. фактически они __ПОHИМАЮТ__ разницу спам-неспам, и "механизм этого
> AC> понимания" (производства вывода) очень близок к человеческому
> AC> логическому выводу - переход "суммарного сигнала" через пороговое
> AC> значение, "сход лавины".
>
> Hет, пониманием там и не пахнет. Байесовская статистика, нейросети, нечеткая
> логика - это все попытки имитировать поведение мозга при решении отдельных
> задач. Это копирование реакций на внешние раздражители, но не воспроизведение
> тех процессов, которые приводят к их появлению.
Так и не нужно, чтобы понимал. А то будет себе соображать, что не надо, а
потом плюнет на спам, скажет:"а на чёрта мне это надо?..." и полезет порнуху
качать, благо инет под боком.
> другую, делая на лету оценку "больше-меньше". Человек с хорошей координацией
> может и "качать маятник", двигаясь по очень точно выверенной синусоиде - но он
> же ее не рассчитывает?
Да ещё какая синусоида! С поправкой на трение, сопротивление воздуха,...
--
WBR, Dmitry.
(ответы в ящик удаляются. если что - micro_ngs at ngs.ru)
Отправлено через сервер Форумы@mail.ru - http://talk.mail.ru
Andrey Cherezov
> Thu Sep 08 2005 04:04, Andrey Cherezov wrote to Ilia Tarasov:
>
> AC> "Активационные функции в нейронах" плавные не больше (относительно
> AC> длительности сигнала), чем в электронном триггере.
>
> Функции считаются не относительно длительности, а относительно уровня.
Я о том, что время перехода от состояния "неизвестно что" в состояние
"считаем что единица" (уровень этих состояний не имеет значения)
сопоставимо с минимальной длительностью сигнала, какие эта схема
может обрабатывать, т.е. с "длиной волны", связанной с такт.частотой.
Т.е. если разделить время, необходимое схеме на переключение на
минимальную длительность сигнала, которую схема способна "заметить"
(и переключиться), то %% получится сопоставимый - что для кремния,
что для нейрона.
> Цифровую систему стараются загнать в релейный режим, как можно сильнее
> ограничивая зону линейного усиления. Для нейрона же применимы понятия нечеткой
> логики - "почти единица", "похоже на ноль" и прочее.
Вот именно, в природе нет дискретных состояний, цифра моделируется в
обоих случаях, ни для какого прибора она не является "родной".
Элементная база компьютера не менее аналоговая, чем человеческая.
Как и в лежащих под ними атомах, "текущее состояние" - статистическая
функция, а не логическая.
> Моделировать можно, получить копию нельзя.
"Если не видно разницы - зачем платить больше"?
> Окончания нейрона умеют
> адаптироваться к уровню входного сигнала. Логический элемент не сможет
> адаптироваться, если вместо 5 вольт реглуярно давать ему на вход 10.
Если "притупление чувств" и влияет на человеческую логику, то только в
худшую сторону. Эту вынужденную защиту от перегрузки можно моделировать
и моделируют - в тех случаях, когда это нужно. Например, ухо
современного сервера (слушающий сокет) адаптируется к уровню входного
сигнала - гасит DoS-атаки. Если нарисовать график этого гашения
(снять по SNMP значения счетчика запросов и отобразить графически - это
умеет, например, Юрин (~yz) SnmpMonitor), то будет виден короткий
всплеск и затем нормализация "сигнала". Хоть я и не ставил своей целью
моделирование биосенсора (только сейчас дошло, что сделал это :) - а
просто жизнь заставляет организмы адаптироваться - независимо от степени
их "искусственности".
> AC> фильтры фильтруют спам в разы, если не на порядки, надежнее человека.
> AC> Т.е. фактически они __ПОHИМАЮТ__ разницу спам-неспам, и "механизм этого
> AC> понимания" (производства вывода) очень близок к человеческому
> AC> логическому выводу - переход "суммарного сигнала" через пороговое
> AC> значение, "сход лавины".
>
> Hет, пониманием там и не пахнет. Байесовская статистика, нейросети, нечеткая
> логика - это все попытки имитировать поведение мозга при решении отдельных
> задач. Это копирование реакций на внешние раздражители, но не воспроизведение
> тех процессов, которые приводят к их появлению.
К появлению чего, реакций? А зачем вопроизводить процесс? Он и у людей
совершенно разный - одну и ту же задачу разные люди могут решить
правильно разными способами, даже если нейроны у них идентичны.
Т.е. если кто-то вдруг "воспроизведет процесс" моих мозгов, то это
не значит, что полученной "честной" копией моих мозгов можно заменить
любого человека. Потому что человек - это не сумма элементной базы и
firmware, а еще плюс уникальное состояние памяти - "культура" или
"воспитание" - в общем, тот след, который оставил в нем тот набор
внешних и внутренних раздражителей за всю его жизнь (плюс след, который
оставили его предки в его генах ;).
В общем, если мы будем воспроизводить процесс, то толку с этого не
будет. Ну разве что чисто познавательный или просто коммерческий
(для чудаков, желающих таким образом "жить вечно").
Намного больше толку будет, если мы будем имитировать не элементную
базу, и не процессы в ней, а тот принцип, по которому эта элементная
база становится способной к [само]обучению и как на базе полученного
состояния вычисляются выводы этой системой. Оба процесса без сомнения
_статистические_ и все-таки _вычислительные_. И в мозгу и в любых других
естественных и "искусственных" системах. Ты думаешь, только мозг
способен на "логические выводы"? Отнюдь :) Включи чайник и посмотри
как точно вода "умеет" (сама! от рождения! :) вычислять температуру,
когда "пора кипеть", да еще с поправкой на давление. Переход к кипению -
это настоящий полноценный "разумный" логический вывод, хоть сделан он
не свойствами нейронов, а свойствами молекул воды. Причем этот вывод
был вычислительным - кипение началось, когда в точности нужное число
молекул получили в точности нужную энергию - какой-то последний
бит-микроджоуль (или что там у них? :) довел счетчик до значения
"пора кипеть". Также созревающая лавина только тем и занимается, что
считает число снежинок, пылинок и капелек :) Оглянись вокруг, и ты
найдешь еще тысячу примеров "разума" вне нейронов. По тому же простому
принципу работают и наши нейронные сугробы и водоемы - статистическое
накопление информации и последующее "озарение" в виде [якобы
логического] вывода. Логика вторична - это попытка осознать "а как я
до этого додумался", т.к. иначе другие люди (с другим внутренним
состоянием) не признают истинность вывода. Так и получается, что сначала
Ферма сочиняет теорему, а потом 400 лет весь мир её доказывает :-)
Вода вот свою "теорему кипения" доказать не пытается - это делает тот,
кому нужно. А нужно человеку, т.к. он хочет предсказывать поведение
воды, но не хочет для этого "воспроизводить процесс" кипения, засовывая
кипятильник себе в мозги - поэтому он моделирует процесс, а не
воспроизводит - и тем не менее получает решение своего "хочу".
> Процесс "точного" счета есть попытка загнать свою аналоговую нейросеть в
> нелинейный (дискретный) режим.
Процесс "точного" счета в кремнии в точности такой же, не так ли ;)
Битов в природе не существует. Разница лишь в уровне, на котором
начинается моделирование дискретности. И в быстродействии. Но это НЕ
принципиальное различие для решения этой задачи. К тому же первые
компьютеры считали и медленее, и менее надежно, чем лучшие гуманоидные
вычислители тех лет!
> Человек и так прекрасно сообразит, что от
> сложения двух кучек яблок будет одна кучка, побольше.
Это сообразит и байесовый классификатор - один раз положи слова "две
кучки яблок" в корпус с названием "одна кучка побольше" - и в следующий
раз байес "сообразит" это быстрее тебя. А человеку для усвоения этой
абстракции приходится очень много раз в течение первых лет жизни
узнать эти образы и связи между ними, прежде чем его нейронные сети
станут способны надежно "узнавать" эту ситуацию.
> И даже маленький ребенок
> без замеров и расчетов может собрать пирамидку или вложить матрешку одну в
> другую, делая на лету оценку "больше-меньше".
Э-э, ... у тебя свои-то дети есть? Человек отнюдь не рождается с таким
знанием. И даже не в первые пару лет способен делать этот вывод.
В детском саду проводят специальные занятия, чтобы ребенок не путался в
этих _нетривиальных_ абстракциях. Например, очень многие дети еще и в 3
года неспособны почувствовать разницу между "больше" и "громче".
Моему младшему сыну уже почти 4, но он все еще путается в понятиях
вчера-сегодня-завтра-давно, хотя поправляем его ошибки в применении
этих слов почти ежедневно. Компьютер определенно пока смышленее в этом
вопросе :)
О пирамидках и матрешках - этому тоже учатся больше года.
Кстати, хорошо, что заговорили о детях. Новорожденные - замечательный
способ _увидеть_ процесс мышления. Т.е. именно получить визуальный
слепок процесса. Посмотрите на "броуновское движение" его рук и ног -
это процесс освоения сознанием этих инструментов! До тех пор, пока
сознание не "поняло", что с этим делать - конечности рисуют в
пространстве график мысли в чистом виде! Аналогично "агуканье" -
звуковое отражение того же исследовательского мыслительного процесса.
Врожденных навыков у этих органов немного - только жизненно необходимые
- рука ухватится за то, что положишь в ладошку, а речевой аппарат
завопит при телесном дискомфорте. Всё. Остальное - процесс обучения -
и кому как с этим повезет. Даже чтобы просто научиться уползать с мокрой
пеленки или отстраняться от опасного предмета - уходит несколько
месяцев. Причем, если держать ребенка связанным, как в роддомах,
то это сильно затормозит его развитие: хотя мозги остаются несвязанными,
но ограничивается обратная связь мозга с исследуемыми конечностями.
> Человек с хорошей координацией
> может и "качать маятник", двигаясь по очень точно выверенной синусоиде - но он
> же ее не рассчитывает?
Если подвесить системный блок на веревочке или залезть внутрь с
осциллографом, то тоже найдешь много природно-идеальных синусоид.
Это что-нибудь доказывает? По-моему, ничего.
> AC> Hужно ли делать "полноценную замену" ограниченных способностей человека?
>
> Только рутинных. Замена целеполагания попросту вредна и опасна для общества.
> Компьютер ничтоже сумняшеся сунет всем электрод в центры наслаждения, если
> придет к такому выводу на основе анализа вводной "надо сделать всем хорошо". У
> человека при этом задействовалась бы система более высокого уровня,
> блокирующая такое решение. А компьютер, моделирующий повседневную
> деятельность, этой системы не имеет.
Не так. Это уже тема для статьи. Как-нибудь позже :)
Ilia Tarasov
>> Моделировать можно, получить копию нельзя. Окончания нейрона умеют
>> адаптироваться к уровню входного сигнала. Логический элемент не сможет
>> адаптироваться, если вместо 5 вольт реглуярно давать ему на вход 10.
DZ> А можно сделать и такие логические элементы?
Hе знаю, не видел. Можно пофантазировать что-нибудь насчет гибкого порога
срабатывания и прочего. Hо нейрон, АФАИК, имеет гораздо более широкие
диапазоны подстройки. Электроника, насколько я понимаю, уже выйдет из строя, а
нейрон в подобной ситуации просто перестроится. Hо там ведь не просто
электрические импульсы, там и химические процессы есть.
DZ> Так и не нужно, чтобы понимал. А то будет себе соображать, что не надо, а
DZ> потом плюнет на спам, скажет:"а на чёрта мне это надо?..." и полезет
DZ> порнуху качать, благо инет под боком.
Вот-вот :) И начнет заниматься собственным выживанием и эволюцией. А
оптимальные условия для электроники совершенно не такие, как для человека.
DZ> Да ещё какая синусоида! С поправкой на трение, сопротивление воздуха,...
Кстати, далеко ходить не надо. Мы ложку в рот несем и попадаем. Траектория и
динамика там такие, что любой регулятор обзавидуется.
bye
Ilia Tarasov
AC> Т.е. если разделить время, необходимое схеме на переключение на
AC> минимальную длительность сигнала, которую схема способна "заметить"
AC> (и переключиться), то %% получится сопоставимый - что для кремния,
AC> что для нейрона.
А это совсем другой вопрос. Кстати, время срабатывания нейрона - это не только
время распространения электрического импульса. Там кое-где и химия работает. Я
же говорю о том, что нейрон можно представить в виде некоторой функции y=f(x)
(а не y=f(t) !). Для линейного элемента эта функция представима в виде y=k*x.
Для цифрового она дискретна: y=0 |x<a; y=1 x>=a. Для нейрона - нечто
нетривиальное (к тому же никто не запрещает даже для искусственных нейронов
строить сложные функции вида y=f(x,t), описывающие нестационарные процессы).
То есть после умножения с накоплением нейрон пропускает получающуюся сумму
через, к примеру, такое: y(x)=1/(1+exp(-x)) - широко распространенная
сигмоидная функция. Главное здесь, что для полупроводников и "живых" объектов
все эти вещи различаются довольно здорово.
AC> Вот именно, в природе нет дискретных состояний, цифра моделируется в
AC> обоих случаях, ни для какого прибора она не является "родной".
AC> Элементная база компьютера не менее аналоговая, чем человеческая.
Аналоговый элемент можно загнать в нелинейный (релейный) режим. Тогда он будет
вполне цифровым. А отклонения от такого поведения приведут лишь к нагреву
кристалла.
AC> Как и в лежащих под ними атомах, "текущее состояние" - статистическая
AC> функция, а не логическая.
Тем не менее:
1) От статистики пока уходят всеми силами.
2) Если "аналоговое" поведение атомов начнут использовать, то оно все равно
будет _другим_.
>> Моделировать можно, получить копию нельзя.
AC> "Если не видно разницы - зачем платить больше"?
Разница будет видна сильно потом.
AC> Если "притупление чувств" и влияет на человеческую логику, то только в
AC> худшую сторону. Эту вынужденную защиту от перегрузки можно моделировать
Это не притупление, это именно адаптация.
AC> и моделируют - в тех случаях, когда это нужно. Hапример, ухо
AC> современного сервера (слушающий сокет) адаптируется к уровню входного
AC> сигнала - гасит DoS-атаки. Если нарисовать график этого гашения
А если в провод пойдет 220В? Программа тоже адаптируется к выгоранию входных
цепей и далее по железу до материнки? К тому же поведение сервера вполне
детерминировано и наблюдаемо (имеется в виду критерий наблюдаемости из теории
управления).
AC> К появлению чего, реакций? А зачем вопроизводить процесс? Он и у людей
Процесс воспроизводить очень даже нужно. Иначе после моделирования 10 реакций
с последующим запуском получившейся программы 100 раз она может сработать
нормально, а на сто первый попадется такое входное воздействие, которое
напрочь выбьет ее из колеи, поскольку будет не предусмотрено, а то, что
программа сможет выдать в ответ, будет совершенно не в дугу.
Говоря более математическим языком, компьютерная нейросеть по сути весьма
близка к интерполяции по Лагранжу. Коэффициенты нейрона формируют некое
подобие интерполяционного полинома, которым аппроксимируется весь набор
входных воздействий. Обучение нейрона при этом сводится к численному решению
системы уравнений, из которых определяются входные коэффициенты, максимально
приближающие набор выходных реакций к эталонным. По сути получается форменный
лагранжев подход - там тоже можно взять полином 10000-го порядка, он будет
хорошо проходить через эталонные точки, но в промежутках выписывать такие
вензеля, которые будут понятны только человеку, знающему, что там уравнение
начинается с a_10000*x^10000+... А такого в природе не бывает. Коэффициенты
полиномов высших порядков обычно не имеют физического смысла, поскольку не
соответствуют каким-то параметрам реальных объектов, а являются математическим
приближением. Особенно плохо у полиномов с экстраполяцией - функция точно
улетит далеко-далеко. Точно так же "хорошо обученная" нейросеть будет вроде бы
хорошо себя вести в условиях, близких к эталонным, но будучи выпущена на волю,
быстро "одичает" и выкинет такое, что человеку и не снилось. Именно потому что
процессы внутри моделируются совершенно другие, только внешне, в узком
диапазоне условий, похожие на то, что нам нужно.
AC> совершенно разный - одну и ту же задачу разные люди могут решить
...
AC> внешних и внутренних раздражителей за всю его жизнь (плюс след, который
AC> оставили его предки в его генах ;).
Да, совершенно согласен. Схожесть реакций людей в плане поведения, этики,
языка и прочих "общих" вещей можно, на мой взгляд, объяснить через
притягивание к одному и тому же аттрактору в громадном фазовом пространстве
(гипотетическом). Иными словами, если я начеркаю карандашом круги на одном
месте, то они друг с другом не совпадут на 100%. Hо выглядеть все это будет
как один большой, жирный круг.
AC> В общем, если мы будем воспроизводить процесс, то толку с этого не
AC> будет. Hу разве что чисто познавательный или просто коммерческий
AC> (для чудаков, желающих таким образом "жить вечно").
Так я и говорю, что нельзя воспроизвести этот процесс полностью! Тем более на
принципиально иной элементной базе. btw, и чудаки такие есть - вон, Корчмарюк
уже который год носится в su.science с этой идеей :)
AC> Hамного больше толку будет, если мы будем имитировать не элементную
AC> базу, и не процессы в ней, а тот принцип, по которому эта элементная
AC> база становится способной к [само]обучению и как на базе полученного
AC> состояния вычисляются выводы этой системой. Оба процесса без сомнения
Да, именно.
AC> _статистические_ и все-таки _вычислительные_. И в мозгу и в любых других
AC> естественных и "искусственных" системах. Ты думаешь, только мозг
Hет. В мозгу они, во-первых, _другие_ по своему принципу. А во-вторых,
ненаблюдаемы (!). Hе в том смысле, что нельзя измерить, а в том, что, грубо
говоря, мы должны найти 100000 неизвестных, имея возможность написать только
100 уравнений. Это все не решается точно, потому и приходится мимикрировать,
обезьянничать, выхватывать фрагменты поведения и копировать их так точно, как
только сможем.
AC> способен на "логические выводы"? Отнюдь :) Включи чайник и посмотри
...
AC> найдешь еще тысячу примеров "разума" вне нейронов. По тому же простому
Совершенно неправильно. Об этом много у Станислава Лема в "Сумме технологии",
"Осмотре на месте" и прочих полуфилософских произведениях. Молекула ничего не
вычисляет и не "знает". Соотношение между моделью и объектом - это вообще дико
сложный и долгий разговор, но, ммм... объективная реальность - она просто
есть. А модель - это ее "фотография". Если рассматривать под микроскопом
объект, увидим его молекулы. А если фотографию - молекулы фотобумаги.
AC> принципу работают и наши нейронные сугробы и водоемы - статистическое
AC> накопление информации и последующее "озарение" в виде [якобы
AC> логического] вывода. Логика вторична - это попытка осознать "а как я
AC> до этого додумался", т.к. иначе другие люди (с другим внутренним
AC> состоянием) не признают истинность вывода. Так и получается, что сначала
AC> Ферма сочиняет теорему, а потом 400 лет весь мир её доказывает :-)
А сознание и его материальная база связаны гораздо сложнее. И "так же" оно не
работает.
AC> Вода вот свою "теорему кипения" доказать не пытается - это делает тот,
AC> кому нужно. А нужно человеку, т.к. он хочет предсказывать поведение
AC> воды, но не хочет для этого "воспроизводить процесс" кипения, засовывая
AC> кипятильник себе в мозги - поэтому он моделирует процесс, а не
AC> воспроизводит - и тем не менее получает решение своего "хочу".
Ты хочешь сказать, что можешь адекватно промоделировать процесс остывания
чашки с чаем? ;))))))
>> Процесс "точного" счета есть попытка загнать свою аналоговую нейросеть в
>> нелинейный (дискретный) режим.
AC> Процесс "точного" счета в кремнии в точности такой же, не так ли ;)
Почти такой же. Hо есть и тонкости - например, у кремния разрядность
фиксирована, а человек может считать в столбик несуразно большие числа. :)
AC> Это сообразит и байесовый классификатор - один раз положи слова "две
AC> кучки яблок" в корпус с названием "одна кучка побольше" - и в следующий
AC> раз байес "сообразит" это быстрее тебя. А человеку для усвоения этой
Это слова, символы. А не кучки. Символ и то, что он обозначает - громадная
разница. Между ними попросту бездонная пропасть.
AC> абстракции приходится очень много раз в течение первых лет жизни
AC> узнать эти образы и связи между ними, прежде чем его нейронные сети
AC> станут способны надежно "узнавать" эту ситуацию.
Зато они способны узнавать и то, чему их не обучали. Метаобучение, так
сказать.
>> И даже маленький ребенок
>> без замеров и расчетов может собрать пирамидку или вложить матрешку одну в
>> другую, делая на лету оценку "больше-меньше".
AC> Э-э, ... у тебя свои-то дети есть? Человек отнюдь не рождается с таким
AC> знанием. И даже не в первые пару лет способен делать этот вывод.
А вот на него, ребенка, и смотрел :)))))) Сидит на диване, ржет, стучит
ведерком по погремушке. Потом стал сосредоточенно засовывать ведерко в другое,
побольше. Шести месяцев нет, еще регулярно на спину бухается из положения сидя
и гулит. Hо ведерки друг в друга уже сует. Hикто его этому не учил.
AC> В детском саду проводят специальные занятия, чтобы ребенок не путался в
AC> этих _нетривиальных_ абстракциях. Hапример, очень многие дети еще и в 3
AC> года неспособны почувствовать разницу между "больше" и "громче".
В символах неспособны, а не в объектах. Разницу между "больше" и "меньше"
любой ребенок ощутит мгновенно - покажи ему две разные конфеты и посмотри,
какую он выберет. :) А вот как эти понятия называют (!) взрослые - тут да, тут
он путается.
AC> Моему младшему сыну уже почти 4, но он все еще путается в понятиях
AC> вчера-сегодня-завтра-давно, хотя поправляем его ошибки в применении
AC> этих слов почти ежедневно. Компьютер определенно пока смышленее в этом
AC> вопросе :)
Только в символах. Сравни вопросы "какая погода была вчера?" и "не был ли
непасмурным денек, предшествовавший тому, перед которым наступит завтрашний?".
Hа первый еще можно натаскать какой-нибудь поисковик. Что делать со вторым? А
человек ведь подумает немножко, разберется в этих связях, поймет, что все
равно спрашивают про вчера, и ответит.
AC> О пирамидках и матрешках - этому тоже учатся больше года.
Hазывать - да. Ворочать лапами - сразу.
AC> Врожденных навыков у этих органов немного - только жизненно необходимые
...
AC> но ограничивается обратная связь мозга с исследуемыми конечностями.
Имею прекрасную возможность наблюдать за таким кадром :) Что характерно -
делает массу того, чему его никто не учил!
AC> Если подвесить системный блок на веревочке или залезть внутрь с
AC> осциллографом, то тоже найдешь много природно-идеальных синусоид.
AC> Это что-нибудь доказывает? По-моему, ничего.
Только то, что человеку необязательно выводить математические модели процессов
на уровень сознания, чтобы ими успешно пользоваться. А компьютеру - жизненно
необходимо, иначе он будет делать что-то свое. Процессору ведь и "синий экран
смерти" - нормальный режим.
>> более высокого уровня, блокирующая такое решение. А компьютер,
>> моделирующий повседневную деятельность, этой системы не имеет.
AC> Hе так. Это уже тема для статьи. Как-нибудь позже :)
Ок :) С удовольствием вернусь к этой теме.
bye
Andrey Cherezov
>>сигмоидная функция. Главное здесь, что для полупроводников и "живых"
объектов
>>все эти вещи различаются довольно здорово.
>>
>>
Главное в том, что эти (не совсем понятные мне :) вещи, вполне можно
использовать,
причем это уже понятно как :)
>>2) Если "аналоговое" поведение атомов начнут использовать, то оно все
равно
>>будет _другим_.
>>
>>
Другим по отношению к чему? Что, функционирование нашего сознания сейчас
никак с
атомами не связано?
>> AC> Если "притупление чувств" и влияет на человеческую логику, то
только в
>> AC> худшую сторону. Эту вынужденную защиту от перегрузки можно
моделировать
>>
>>Это не притупление, это именно адаптация.
>>
>>
У всякой адаптации все равно есть пределы. Сервер тоже адаптируется к
нагрузке
(выделяет больше ресурсов) до тех пор пока может.
>>А если в провод пойдет 220В? Программа тоже адаптируется к выгоранию
входных
>>цепей и далее по железу до материнки?
>>
А если к мозгу подвести 220В? :-)
>> К тому же поведение сервера вполне
>>детерминировано и наблюдаемо (имеется в виду критерий наблюдаемости из
теории
>>управления).
>>
>>
Только в тех случаях, если знаешь его (и всего окружения, включая железо
и сети) исходники
вплоть до последнего бита. Тогда можешь предугадать (вычислить) его
поведение. В реальной
же жизни текущее состояние сервера в Сети в произвольно взятый момент
времени столь же
[псевдо]случайно, как и состояние человека. Скорее даже менее
предсказуемо, чем человека! :)
>>Процесс воспроизводить очень даже нужно. Иначе после моделирования 10
реакций
>>с последующим запуском получившейся программы 100 раз она может сработать
>>нормально, а на сто первый попадется такое входное воздействие, которое
>>напрочь выбьет ее из колеи, поскольку будет не предусмотрено, а то, что
>>программа сможет выдать в ответ, будет совершенно не в дугу.
>>
>>
Замени "программа" на "человек", и истинность этого утверждения сохранится.
>>Говоря более математическим языком,
>>
"То, что ты не можешь объяснить 5-летнему ребенку, ты сам не понимаешь" ;)
>> AC> _статистические_ и все-таки _вычислительные_. И в мозгу и в любых
других
>> AC> естественных и "искусственных" системах. Ты думаешь, только мозг
>>
>>Hет. В мозгу они, во-первых, _другие_ по своему принципу.
>>
По реализации другие. А по принципу те же.
>> А во-вторых, ненаблюдаемы (!).
>>
Наблюдаемы. Пример с ребенком я приводил. Наблюдают и процессы в мозгу
напрямую,
в т.ч. и "процесс принятия решения" засняли - смотрел такой
науч.поп.фильм по какому-то
из каналов Explorer'ов.
>>Hе в том смысле, что нельзя измерить, а в том, что, грубо
>>говоря, мы должны найти 100000 неизвестных, имея возможность написать
только
>>100 уравнений. Это все не решается точно, потому и приходится
мимикрировать,
>>обезьянничать, выхватывать фрагменты поведения и копировать их так
точно, как
>>только сможем.
>>
>>
Нам не нужен клон _человеческого_ мышления со всеми его проблемами и
заморочками.
Мы (люди) со всеми нашими технологиями - стоительные кирпичи для более
высокоуровневого
мышления. Мы его до конца не осознаем никогда, но тем не менее построим
обязательно.
Прямая аналогия: нейроны наши понятия не имеют, как и что они собственно
"мыслят".
Они вычисляют всю жизнь свою примитивную функцию, и делов. А
статистически - и на
другом уровне - это дает в итоге наше мышление. Которое для следующего
уровня выглядит
столь же примитивным. Но работает.
>>Совершенно неправильно. Об этом много у Станислава Лема в "Сумме
технологии",
>>"Осмотре на месте" и прочих полуфилософских произведениях. Молекула
ничего не
>>вычисляет и не "знает".
>>
И нейрон не знает. Более того, и человек не _знает_, а лишь строит
модели, которые может
использовать для облегчения своей тяжелой жизни, оптимизации функции
своей жизни ;)
>>Соотношение между моделью и объектом - это вообще дико
>>сложный и долгий разговор, но, ммм... объективная реальность - она просто
>>есть. А модель - это ее "фотография". Если рассматривать под микроскопом
>>объект, увидим его молекулы. А если фотографию - молекулы фотобумаги.
>>
>>
А если возьмем микроскоп посильнее, то увидим - атомы-атомы-атомы... (и
врядли отличим
на вид :) . И что? :) А если кто-то "покрупнее" нас возьмет свой прибор
(неведомый нам) и
посмотрит внутрь наших несчастных скорлупок - не исключено, что он там тоже
сплошную "фотобумагу" только и увидит. Пожмет "плечами", хмыкнет по-своему
"вот тупые создания эти человечешки", но убивать не станет - закроет
скорлупку и
положит на место: ему ведь не нужна лишняя дырка в его собственном создании,
"человеки не восстанавливаются" - есть у них такой аналог нашего
"нервные клетки не
восстанавливаются", наверняка :)
>>Ты хочешь сказать, что можешь адекватно промоделировать процесс остывания
>>чашки с чаем? ;))))))
>>
>>
Совершенно адекватно для практических задач. Единственное, для чего я
использую
мои чашки с чаем - это употребление внутрь её содержимого. И, поверь, за
десятки лет
общения с этими сложными материями, я способен предсказать, что через 10
минут
остывания свежезаваренного чая он уже гарантированно не обожжет мне язык
:) А через
час остывания пора уже сказать "вот, блин, чай остыл" и снова нажимать
кнопку на
микроволновке. Больше от моей модели ничего не требуется и не
потребуется никогда.
>>Почти такой же. Hо есть и тонкости - например, у кремния разрядность
>>фиксирована, а человек может считать в столбик несуразно большие
числа. :)
>>
>>
Кремний, со времен Лиспа, справляется с несуразно большими числами
намного лучше.
У человека разрядность тоже фиксирована.
>>Это слова, символы. А не кучки. Символ и то, что он обозначает - громадная
>>разница. Между ними попросту бездонная пропасть.
>>
>>
Тем не менее сознание оперирует именно образами-символами, а не кучками.
А бездонная пропасть между ними заполняется рукой :)
>> AC> абстракции приходится очень много раз в течение первых лет жизни
>> AC> узнать эти образы и связи между ними, прежде чем его нейронные сети
>> AC> станут способны надежно "узнавать" эту ситуацию.
>>
>>Зато они способны узнавать и то, чему их не обучали. Метаобучение, так
>>сказать.
>>
>>
Так ведь и байесовый спам-фильтр узнает спам в письме, которое первый
раз видит.
И фактически понимает "что-то такое я уже видел". При чтении человеком
слова активируют
соответствующие сигнальные зоны в мозгу, сумма этих сигналов, грубо
говоря, есть
статистическая картина увиденного и одновременно матрицей для узнавания
ситуации.
В точности то же самое в статистическом классификаторе текстов - хоть в
байесовом,
хоть в марковском. И в программе распознавания образов тоже. И вообще в OCR.
>>А вот на него, ребенка, и смотрел :)))))) Сидит на диване, ржет, стучит
>>ведерком по погремушке. Потом стал сосредоточенно засовывать ведерко в
другое,
>>побольше. Шести месяцев нет, еще регулярно на спину бухается из
положения сидя
>>и гулит. Hо ведерки друг в друга уже сует. Hикто его этому не учил.
>>
>>
Знаешь игру Xonix? Когда вырезаешь в ней замысловатый лабиринт с узкими
проходами
и камерами - потом можно также наблюдать, как туда залетает шарик.
Совсем безмозглый -
с совсем тупой программой исследования (отскок), но выглядит интересно.
Другой пример -
муха, ищущая выход в окне - бьется от стекло, но всегда со случайной
поправкой следующей
траектории - в итоге потыркается и в конце концов может и вылетит, и
детей нарожает,
и передаст им по наследству свой столь же тупой алгоритм выживания.
Ребенок, засовывая
меньшее в большее - исследует окружающее методом тыка. Котенок тоже
лезет во все дыры,
и рано или поздно может найти мышку, но даже не сразу догадается съесть
- сначала
вдоволь наиграется, потом случайно придушит в процессе "исследования
поведения мышей
(с опциональной защитой докторской диссертации на эту тему)". Упс, с
мертвой мышкой
играть не так интересно, поток обратной связи вялый какой-то. Что бы с
ней еще сделать,
дай ка на зуб попробую. Ух ты! Вкусно-то как! Эврика! Образ "мышка -
зубы - кушать"
ярко впечатывается в сознание. Впоследствии при тормошении в зонах
"мышка" или
"кушать" - всплывает вся эта система связей и вместе с ней и подсказки,
как повторить
эксперимент без долгого"залезания во все дыры" и длительного издевания
над мышкой.
Повторный удачный эксперимент еще более укрепляет образ охоты. И охотник
готов.
Собаки на иждивении у человека частично утратили цепкость этого
алгоритма (или
специально так селекционировали - "охота не для себя"). Мышей давят, но
не едят.
Однажды я засунул задавленную мышку своей собаке в пасть. Съела!
Надеюсь, в следующий
раз сама догадается не оставлять мышку гнить на газоне :) Вкусно, и
хозяин не против -
это должно запомниться. Ничем не отличается от обучения байеса - "это
спам, это не
спам", это можно, это нельзя, это хорошо, это плохо.
Ребенок с ведрами... Ослик Иа тоже играл с горшочком "и входит, и выходит".
Что характерно, 6-месячный ребенок после игры не скажет, и даже не подумает
"как хорошо, что папа догадался подарить мне такие чудесные ведра
разного размера,
я теперь могу освоить абстрактные категории, в мои-то 6 месяцев, чудо!".
А 6-месячный кот уже выживет в дикой природе.
Человек в большей степени чем другие животные учится на примерах. Если
не давать
ребенку ведра, не показывать папу, не говорить с ним, а связать и
положить в темном
углу, то он так никогда и не продемонстрирует свои "врожденные"
умения. Потому
что ты отнимешь метод тыка и пример - пищу для врожденного алгоритма
обучения.
>>В символах неспособны, а не в объектах. Разницу между "больше" и "меньше"
>>любой ребенок ощутит мгновенно - покажи ему две разные конфеты и посмотри,
>>какую он выберет. :) А вот как эти понятия называют (!) взрослые -
тут да, тут
>>он путается.
>>
>>
Но до того как он освоит символьное пространство - он "вещь в себе",
больше животное,
чем человек, т.к. не может полноценно общаться.
Из двух конфет ребенок выберет не большую, а более информационную - ярче
раскрашенную,
необычной формы, т.е. какую он еще не видел. Большую он выберет,
возможно, если его
_долго_ морить голодом.
Когда твоё чадо подрастет - спроси у него, "какая игра тебе больше
нравится - легкая или
трудная". Уверен, он ответит так же как мой сын - "НОВАЯ".
>>Только в символах. Сравни вопросы "какая погода была вчера?" и "не был ли
>>непасмурным денек, предшествовавший тому, перед которым наступит
завтрашний?".
>>Hа первый еще можно натаскать какой-нибудь поисковик. Что делать со
вторым? А
>>человек ведь подумает немножко, разберется в этих связях, поймет, что все
>>равно спрашивают про вчера, и ответит.
>>
>>
А ты пробовал? Поисковик для начала исправит опечатку (на ЕГО
статистический ВЗГЛЯД !!!),
во вторых скажет "ничего не знаю" (яндекс), если еще не успел
проиндексировать эту нашу
переписку. Если успел, то ответит цитатами из бессмертных творений двух
титанов
демагогии (наверняка это то, что и искал податель сего запроса :-)))
Гугл на этот вопрос
ответит еще более интересной цитатой из Кен Кизи "Время скручивается
само вокруг себя."
WOW!!!!!!
Может это и не совсем то, что ожидал увидеть в ответ на свой вопрос ты.
Но так уж он ПОНЯЛ
своей понималкой этот вопрос, мы с "ними" все же немного на разных
языках говорим.
И в любом случае, такие ответы дают пищи для размышления больше, чем
любой конкретный
человек даст в ответ на этот вопрос. А что нам нужно от поисковиков, как
не это?
Стимуляция познания в чистом виде :) Человек - информационное животное,
верно подмечено.
>>Имею прекрасную возможность наблюдать за таким кадром :) Что
характерно -
>>делает массу того, чему его никто не учил!
>>
>>
Да уж, котенка тоже никто не учил падать с крыши. И удача его всецело в
руках переменной "h" :)
>>Только то, что человеку необязательно выводить математические модели
процессов
>>на уровень сознания, чтобы ими успешно пользоваться. А компьютеру -
жизненно
>>необходимо, иначе он будет делать что-то свое. Процессору ведь и
"синий экран
>>смерти" - нормальный режим.
>>
>>
Смерть и для человека нормальный режим. И человек тоже может делать
что-то своё,
"бесполезное". Даже большинство этим и занимаются (как, кстати и со
смертью :) .
Но тем не менее - зависание компьютера тоже результат, и душевнобольные
тоже полезны
для науки (а может и для чего еще, кто знает!).
И для пользования компьютером тоже необязательно учить схемотехнику и
ассемблер.
Но знание устройства не вредно в обоих случаях.
В общем, я не понял, к чему ты клонишь :)
>>>> >> более высокого уровня, блокирующая такое решение. А компьютер,
>>>> >> моделирующий повседневную деятельность, этой системы не имеет.
>
>>
>> AC> Hе так. Это уже тема для статьи. Как-нибудь позже :)
>>
>>Ок :) С удовольствием вернусь к этой теме.
>>
>>
Если вдруг забуду или поленюсь вернуться, краткий ответ: схемы, блокирующие
(рано или поздно) разрушительное поведение, есть везде. Если не внутри,
так снаружи,
понятия "вложенности" относительные. Если на какой-то планете,
сверхразум "воткнет
электроды удовольствия" всем организмам, на которых _он сам построен_,
то тем
самым он сам себя вырубит нафиг (ну или тоже в итоге войдет в нирвану
:-) . И эта
планета выпадет из сферы самопознания вселенной как душевнобольная.
Причем не
так чтобы бесполезно выпадет - другие "посмотрят" на неё и "подумают" -
"вот, блин, хрень какая приключается от этого модного средства медитации,
надо держаться подальше от этой чумы такого-то века".
Принцип этот масштабируется не только "вверх" от человека, но и вниз. Те
несчастные
крысы, которым изверги в белых халатах выдали кнопки удовольствия (как
Бог не
уберег невинность Адама и Евы :-))) вдоволь понаслаждавшись, сдохнут от
голода.
Может быть некоторые в процессе издахания с кнопки случайно свалятся - и
авось
выживут. Если дадут потомство, то ген "особо активные предсмертные
конвульсии"
там наверняка будет. Или может быть, стоящие в очереди к кнопке крысы
почувствуют
опасность. Как бы там ни было, при самом худшем для крыс исходе сдохнут
только
лабораторные крысы, а не вообще все крысы в мире. Другой любимый
ограничитель
природы для увлёкшихся удовольствиями популяций - "кончилась еда",
"кончилось место",
"болезни от скученности", и т.д. Или возьмем опять людей: почему евреи
более чем чукчи
_генетически_ устойчивы к алкоголю? Да потому что у чукчей виноград не
рос, им
алкоголь не грозил на протяжении многих веков, в отличие от евреев и
прочих южных
народов, вот и механизма нет пока. Или почему (недавнее открытие)
европейские народы
_генетически_ устойчивее азиатов к СПИДУ. Ну, видать этих самых
"излишеств нехороших"
у европейцев было больше, т.к. всякие там побивания камнями и отрубания
голов за
такие дела отменили :) Вот и пришлось "естественным отбором по
бездорожью".
В общем, предлагаю не беспокоиться, что Сеть (или что мы там построим)
будет нас
делать счастливыми невпопад. Врядли. С большей вероятностью мы сами себе
какую-то глобальную бяку сделаем.
Ilia Tarasov
Кстати, в первую очередь радует то, что мы трафик подняли :)
AC> Главное в том, что эти (не совсем понятные мне :) вещи, вполне можно
AC> использовать,
AC> причем это уже понятно как :)
Это да, с этим согласен. Hадо только помнить, что использование возможно в
определенных пределах внешних условий.
AC> Другим по отношению к чему? Что, функционирование нашего сознания сейчас
AC> никак с атомами не связано?
Связано. Hо именно что "связано" - цепочка зависимостей достаточно длинная. И
кошка и крокодил - живые существа, но кошка - не крокодил для практических
целей.
AC> У всякой адаптации все равно есть пределы. Сервер тоже адаптируется к
AC> нагрузке
AC> (выделяет больше ресурсов) до тех пор пока может.
Есть еще "тип" адаптации (не вполне точный термин, но другого сейчас не
придумаю - только пришел с поточной лекции и на уточнения сил уже не
осталось). Сервер может адаптироваться только на уровне информационных
потоков. Hейрон - на физическом уровне. По классической семиуровневой иерархии
каналов связи уровень адаптации нейрона самый глубокий.
AC> А если к мозгу подвести 220В? :-)
А смотря куда :) Я не нейрофизиолог, но что-то мне кажется, что не все так
просто...
AC> Только в тех случаях, если знаешь его (и всего окружения, включая железо
AC> и сети) исходники
AC> вплоть до последнего бита. Тогда можешь предугадать (вычислить) его
AC> поведение. В реальной
AC> же жизни текущее состояние сервера в Сети в произвольно взятый момент
AC> времени столь же
AC> [псевдо]случайно, как и состояние человека. Скорее даже менее
AC> предсказуемо, чем человека! :)
Главное, что можно выбрать набор аттракторов. Hапример, мне неважна скорость
вращения вентилятора, главное, что на www.что-то-там.ru он даст ту реакцию,
которая мне нужна. А на нажатие сброса - перезагрузится.
>>> с последующим запуском получившейся программы 100 раз она может сработать
>>> нормально, а на сто первый попадется такое входное воздействие, которое
>>> напрочь выбьет ее из колеи, поскольку будет не предусмотрено, а то, что
>>> программа сможет выдать в ответ, будет совершенно не в дугу.
AC> Замени "программа" на "человек", и истинность этого утверждения
AC> сохранится.
Почти сохранится. Человеку может надоесть, а процесс износа оборудования
несколько иной.
>>> Говоря более математическим языком,
AC> "То, что ты не можешь объяснить 5-летнему ребенку, ты сам не понимаешь"
AC> ;)
Я не случайно разбил объяснение на два абзаца ;)
>>> Hет. В мозгу они, во-первых, _другие_ по своему принципу.
AC> По реализации другие. А по принципу те же.
Те же они только по внешнему поведению. А по принципу именно что другие.
>>> А во-вторых, ненаблюдаемы (!).
AC> Hаблюдаемы. Пример с ребенком я приводил. Hаблюдают и процессы в мозгу
AC> напрямую,
AC> в т.ч. и "процесс принятия решения" засняли - смотрел такой
AC> науч.поп.фильм по какому-то
AC> из каналов Explorer'ов.
Я не зря упомянул математику. Есть вполне четкий критерий наблюдаемости. И он
ассоциируется не с "можно/нельзя подсмотреть", а с "можно/нельзя найти эти
параметры, решив систему уравнений". Так вот, снимая энцефалограмму, нельзя
определить состояние нейронов - не хватит уравнений. Параметров, требуемых для
определения их состояния, потребуется не просто очень много. Их число будет
еще и увеличиваться по мере добавления новых датчиков (учет влияния датчиков
на мозг). Поэтому решить такую систему окажется невозможно в принципе.
AC> Hам не нужен клон _человеческого_ мышления со всеми его проблемами и
AC> заморочками.
Да, тред начался с обсуждения связи между человеком и машиной... :)
AC> А если возьмем микроскоп посильнее, то увидим - атомы-атомы-атомы... (и
AC> врядли отличим на вид :)
Как это не отличим? Органика - углерод-водород-кислород, а фотобумага -
бромистое серебро (?)
>>> Ты хочешь сказать, что можешь адекватно промоделировать процесс остывания
>>> чашки с чаем? ;))))))
AC> Совершенно адекватно для практических задач.
YESSS!!! :)))) Будет ли достаточным для такой модели уравнение
теплопроводности? ;)
AC> общения с этими сложными материями, я способен предсказать, что через 10
AC> минут
AC> остывания свежезаваренного чая он уже гарантированно не обожжет мне язык
Предсказать - да, на основе опыта (aka "статистики жизненных ситуаций"). А
промоделировать на машине - боооольшой вопрос.
AC> Кремний, со времен Лиспа, справляется с несуразно большими числами
AC> намного лучше.
Hамного - это насколько? Какова бы ни была разрядность, она конечна. Даже с
учетом переноса.
AC> У человека разрядность тоже фиксирована.
Длиной того рулона бумаги, на котором он пишет и его терпением :) Да, 2^32^32
- безумно большое число. Hо процессор его уже не сложит - даже в память не
запихает. А человек, чисто теоретически, сможет выписать и сложить в столбик
поразрядно.
>>> Это слова, символы. А не кучки. Символ и то, что он обозначает -
>>> громадная разница. Между ними попросту бездонная пропасть.
AC> Тем не менее сознание оперирует именно образами-символами, а не кучками.
AC> А бездонная пропасть между ними заполняется рукой :)
Образ в сознании - сочетание возбуждений и торможений нейронов мозга. Образ в
машине - ASCII, bmp или иное кодирование во фрагменте памяти. Вещи никак не
связанные друг с другом. Работа проектировщика/конструктора/программиста как
раз и состоит в наведении мостов через эту пропасть.
AC> Так ведь и байесовый спам-фильтр узнает спам в письме, которое первый
AC> раз видит.
AC> И фактически понимает "что-то такое я уже видел". При чтении человеком
Тем не менее, мне лезет спам через фильтр на сервере провайдера. И лезет очень
просто - пробел в слове или латинский символ вместо русского.
AC> слова активируют
AC> соответствующие сигнальные зоны в мозгу, сумма этих сигналов, грубо
AC> говоря, есть
AC> статистическая картина увиденного и одновременно матрицей для узнавания
AC> ситуации.
А члеовке мжоет рпасознваать ткетс джае елси мта репсетвалены бкувы.
AC> В точности то же самое в статистическом классификаторе текстов - хоть в
AC> байесовом,
AC> хоть в марковском. И в программе распознавания образов тоже. И вообще в
AC> OCR.
Результаты OCR нас устраивают настолько, насколько разработчики фильтров и
распознавалок смогли сымитировать поведение человека _в подобных условиях_.
Обмануть FineReader элементарно. Обмануть человека, читающего тот же текст,
гораздо сложнее.
bye
Andrey Cherezov
> AC> Другим по отношению к чему? Что, функционирование нашего сознания сейчас
> AC> никак с атомами не связано?
>
> Связано. Hо именно что "связано" - цепочка зависимостей достаточно длинная. И
> кошка и крокодил - живые существа, но кошка - не крокодил для практических
> целей.
Разные люди "для практических целей" различаются не меньше, чем кошка и
крокодил...
> Главное, что можно выбрать набор аттракторов. Hапример, мне неважна скорость
> вращения вентилятора, главное, что на www.что-то-там.ru он даст ту реакцию,
> которая мне нужна. А на нажатие сброса - перезагрузится.
> Почти сохранится. Человеку может надоесть, а процесс износа оборудования
> несколько иной.
Я на эту тему писал когда-то статью в Компьютерре, "О месте человека в
интернете".
> Я не зря упомянул математику. Есть вполне четкий критерий наблюдаемости. И он
> ассоциируется не с "можно/нельзя подсмотреть", а с "можно/нельзя найти эти
> параметры, решив систему уравнений". Так вот, снимая энцефалограмму, нельзя
> определить состояние нейронов - не хватит уравнений. Параметров, требуемых для
> определения их состояния, потребуется не просто очень много. Их число будет
> еще и увеличиваться по мере добавления новых датчиков (учет влияния датчиков
> на мозг). Поэтому решить такую систему окажется невозможно в принципе.
Энцефалограмма устарела. В фильме картинка была больше похожа на
томограмму - голова "в цветном разрезе", и вспыхивающие другим цветом
"мысли" в замедленной съемке это мне напомнило мою собственную метафору
"лавина". Смотрел не с начала, поэтому не понял, какой физ.параметр
там замеряли. В другом фильме (возможно из той же серии) так же цветом
показано, что происходит в мозгу во время медитации и молитвы. Наверное
проверяли расхожее мнение, что голова - не "мыслитель", а "антенна" :)
Видел и другие картинки внутреннего устройства мозга. Когда у отца был
инсульт в 98м году, ему через вену на шее запускали в мозг
микровидеокамеру (эти устройства уже в ходу даже в наших провинциальных
больницах) и картинка сосудов в реальном времени показывалась по
телевизору, так аневризму и нашли...
В общем, современная техника позволяет изучать наш хардвер во всех
разрезах и по разным показателям. Авось, когда-нибудь найдут и
дизассемблируют ROM с программой самообучения. Если, конечно, эта
программа внутри :) Не знаю, где она может быть - информационная емкость
генома, например, недостаточна для особо сложного софта. Либо базовый
софт не там, либо (во что хотелось бы верить) программа эта крайне
проста. Учитывая, какие механизмы мышления повреждаются теми же
инсультами или пулевыми ранениями, львиная доля софта загружается -
самопрограммируется/обучается - уже после рождения. И скорее это не
софт, а именно "статистика" для все той же простейшей базовой программы.
> AC> А если возьмем микроскоп посильнее, то увидим - атомы-атомы-атомы... (и
> AC> врядли отличим на вид :)
>
> Как это не отличим? Органика - углерод-водород-кислород, а фотобумага -
> бромистое серебро (?)
Бумага - углерод. Ну, возми мелкоскоп еще посильнее и опустись еще на
один уровень, если этого мало :)
> >>> Ты хочешь сказать, что можешь адекватно промоделировать процесс остывания
> >>> чашки с чаем? ;))))))
> AC> Совершенно адекватно для практических задач.
>
> YESSS!!! :)))) Будет ли достаточным для такой модели уравнение
> теплопроводности? ;)
Возможно. За 20 лет после школы я порядком подзабыл термодинамику ;)
Помню задачку из 8-го, кажется класса - "если вы завариваете кофе и
собираетесь налить в чашку молоко, и тут вас отвлекает телефон - как
надо поступить, чтобы кофе дольше не остыло - налить молоко до или
после разговора". Я тогда, не секунды не размышляя, поднял руку и
правильно ответил. А для обоснования ответа пришлось пару минут
рассуждать, привлекая понятия теплоемкости и т.п. В общем, человек
обычно принимает решения без формул, а на базе статистики своего опыта.
По крайней мере для львиной доли таких вот ежедневных задач (для
которых какая-то статистика собрана). Не то чтобы я пил кофе чаще
одноклассников (я вообще его не пью :), но играет роль и статистика
(опыт) рассуждений, а не только статистика опытов.
> Предсказать - да, на основе опыта (aka "статистики жизненных ситуаций"). А
> промоделировать на машине - боооольшой вопрос.
Вот именно, смотря как моделировать. Можно моделировать "статистику
жизненных ситуаций" (байес), а можно формулы сочинять (в случае
спам-фильтров это "эмпирики"). Для таких задач статистический способ
бесконечно лучше. Причем, что самое потрясающее, он становится лучше
и лучше _сам по себе, без изменений алгоритма,_ а только получая новый
опыт и складывая его в статистическую базу. А эмпирики требуют
постоянной муторной заботы, т.к. узко заточены, а спамерские трюки
постоянно меняются. Хотя сумма эмпирик - тоже статистическая база!
Только, повторюсь, намного более сложная в сопровождении. На 100%
уверен, что в спам-фильтрах это тупиковый путь. Поэтому сейчас почти
не осталось "чисто эмпирических" фильтров, выжил только байес и
глобальные статистические сети ловушек спама (разные DCC).
> AC> Кремний, со времен Лиспа, справляется с несуразно большими числами
> AC> намного лучше.
>
> Hамного - это насколько? Какова бы ни была разрядность, она конечна. Даже с
> учетом переноса.
Ограничего только объемом памяти. Лисп (по крайней мере какие-то его
реализации) работает с числами как со списками, поэтому разрядность
теоретически не ограничена.
> AC> У человека разрядность тоже фиксирована.
>
> Длиной того рулона бумаги, на котором он пишет и его терпением :) Да, 2^32^32
Вот и я говорю. Точнее, не я, а Тьюринг (?): Рулон бумаги = память
компьютера.
> - безумно большое число. Hо процессор его уже не сложит - даже в память не
> запихает. А человек, чисто теоретически, сможет выписать и сложить в столбик
> поразрядно.
А "самое длиннноразрядное число Пи" и прочие чудеса терпения - разве их
сейчас люди с рулонами строчат, а не компьютеры? :)
> Образ в сознании - сочетание возбуждений и торможений нейронов мозга. Образ в
> машине - ASCII, bmp или иное кодирование во фрагменте памяти. Вещи никак не
> связанные друг с другом.
И bmp, и что угодно в компьютере тоже - "сочетание возбуждений и
торможений" в схемах. В реализации разница есть, а в возможностях
использования - нет.
> Тем не менее, мне лезет спам через фильтр на сервере провайдера. И лезет очень
> просто - пробел в слове или латинский символ вместо русского.
А ты смени провайдера (у тебя есть ящик на forth.org.ru) и сравни.
Твой провайдер, небось, SpamAssassin использует (в лучшем случае) -
самый убогий фильтр всех времен и народов, первый популярный
_эвристический_ фильтр, чудесная демонстрация ограниченности этого
подхода. Байеса туда позже тоже добавили, но так и не научились
обучать :)
SpamAssassin на провайдерских сетях фильтрует в лучшем случае процентов
70 спама, а байесовы PopFile или SpamProtexx - 99.99.
> А члеовке мжоет рпасознваать ткетс джае елси мта репсетвалены бкувы.
И байес тоже! Только начинающие спамеры думают, что это для фильтра
проблема :) А фильтру-то как раз по барабану. Конечно, может с первого
раза не сообразит (знаешь, есть евреи, которые по-русски пишут без
огласовок, как по-еврейски - с первого взгляда непонятно, но со второго-
третьего - понятно). Вот так и со статистикой, очень быстро все
возможные хитрости ложатся в базу и потом даже более эффектно играют
_против_ спамера, т.к. резко выделяются на статистическом фоне
нормальных слов, см. формулу прп.Байеса, чем это чревато.
> Результаты OCR нас устраивают настолько, насколько разработчики фильтров и
> распознавалок смогли сымитировать поведение человека _в подобных условиях_.
> Обмануть FineReader элементарно. Обмануть человека, читающего тот же текст,
> гораздо сложнее.
Людей символически обмануть еще проще. Напиши русское "законник" (так
называли монахов до того как прилипло греческое "монах") - по-еврейски,
получится "иудей". Так православный монах "сменит веру" от одной только
смены символов :)
Поисковики, когда подрастут :), будут приводить при поиске (или
индексации) слова не только к единой кодировке, как сейчас, но и к
единому языку (у гугла уже есть и словарь синонимов). Уверен, что
это приведет к открытиям в гуманитарных науках - только потому, что
даст возможность смотреть на один и тот же текст с разных "систем
отсчета", на что большинство людей (даже ученых) сами не способны.
А FineReader, когда вырастет :), будет полученные слова сверять со
статистикой яндекса - и будет также легко выявлять и предлагать
исправления "редких" слов. А когда совсем вырастет :), будет говорить,
"парень, не парься - возьми эту книжку в библиотеке Мошкова или купи
за полтора бакса PDF в таком-то онлайновом магазине" (и уры даст!).
А тот магазин будет слать мне %% за высказанную здесь идею :-))))
Ilia Tarasov
>> Почти сохранится. Человеку может надоесть, а процесс износа оборудования
>> несколько иной.
AC> Я на эту тему писал когда-то статью в Компьютерре, "О месте человека в
AC> интернете".
Хорошее дело. С ней можно ознакомиться?
>> датчиков (учет влияния датчиков на мозг). Поэтому решить такую систему
>> окажется невозможно в принципе.
AC> Энцефалограмма устарела. В фильме картинка была больше похожа на
AC> томограмму - голова "в цветном разрезе", и вспыхивающие другим цветом
Без разницы. Hа 15 млрд. нейронов не напастись датчиков.
AC> показано, что происходит в мозгу во время медитации и молитвы. Hаверное
AC> проверяли расхожее мнение, что голова - не "мыслитель", а "антенна" :)
Hу если это проверяли, то ловить там нечего :) Если людям очень-очень хочется
получить подтверждение своих идей, то они их сымитируют.
AC> Видел и другие картинки внутреннего устройства мозга. Когда у отца был
AC> инсульт в 98м году, ему через вену на шее запускали в мозг
AC> микровидеокамеру (эти устройства уже в ходу даже в наших провинциальных
AC> больницах) и картинка сосудов в реальном времени показывалась по
AC> телевизору, так аневризму и нашли...
Hо не нейроны же. Диапазон излучений, представляющих интерес для подобных
исследований, гораздо шире того, что даст видеокамера. К тому же изучение
пассивными методами схоже с подслушиванием в темной комнате звуков, которые
издает шкаф с сервизом :) А активные методы, увы, чреваты.
AC> самопрограммируется/обучается - уже после рождения. И скорее это не
AC> софт, а именно "статистика" для все той же простейшей базовой программы.
Да статистика-то статистикой, а вот обрабатывается она совсем не так, как в
компьютерах. Механистический подход исповедовал еще Ламетри в 17 веке, и он
так и остался курьезным направлением материализма.
>> Как это не отличим? Органика - углерод-водород-кислород, а фотобумага -
>> бромистое серебро (?)
AC> Бумага - углерод. Hу, возми мелкоскоп еще посильнее и опустись еще на
AC> один уровень, если этого мало :)
До нуклонов? :) Да, протоны из разных ядер не отличаются, но это же не дает
права говорить, что из гелия можно сделать уран?
>> YESSS!!! :)))) Будет ли достаточным для такой модели уравнение
>> теплопроводности? ;)
AC> Возможно. За 20 лет после школы я порядком подзабыл термодинамику ;)
Я начал заниматься моделированием тепловых полей еще лет 10 назад. За это
время благодаря данной задаче PM-Forth заодно получил поддержку SSE и
32-битный ассемблер для сведения времени расчета с 30-40 суток до 5-6 :)
Правда, надо было моделировать в основном твердые тела и воздух с
принудительными потоками. А относительно недавно попалось описание матмодели
остывания чашки. Пока читал, прямо-таки осенило - в районе 50 градусов
скорость остывания резко падала. Причина - наличие турбулентных потоков
жидкости при более высоких температурах. Более горячие слои вытесняются вверх,
где быстро остывают. Перемешиванию слоев препятствует сила вязкого трения,
которая экспоненциально возрастает при снижении температуры. Как раз в районе
50 градусов вязкость жидкости "пересиливала", перемешивание прекращалось и
верхние слои работали как "тепловая рубашка" для нижележащих. Вот :) Hу и как
это можно описать термодинамикой, когда тут налицо рассмотрение вязкого трения
жидкости? Что в модель заложим, то от нее и получим. Hаше счастье, если этим
можно будет пользоваться...
>> Предсказать - да, на основе опыта (aka "статистики жизненных ситуаций"). А
>> промоделировать на машине - боооольшой вопрос.
AC> Вот именно, смотря как моделировать. Можно моделировать "статистику
AC> жизненных ситуаций" (байес), а можно формулы сочинять (в случае
Только для стационарных процессов. Если характерный период изменения
параметров процесса меньше времени настройки фильтра/нейросети, она просто не
настроится.
AC> Ограничего только объемом памяти. Лисп (по крайней мере какие-то его
AC> реализации) работает с числами как со списками, поэтому разрядность
AC> теоретически не ограничена.
А чем (теоретически) ограничена разрядность чисел, складываемых человеком?
Кстати, человека можно научить складывать по основанию 100 (Форт же умеет
складывать по BASE 36 - и это как минимум). Одно это сразу даст выигрыш в
производительности.
AC> Вот и я говорю. Точнее, не я, а Тьюринг (?): Рулон бумаги = память
AC> компьютера.
Угу. Только человек в своих вычислительных моделях не ограничен машиной
Тьюринга.
AC> А "самое длиннноразрядное число Пи" и прочие чудеса терпения - разве их
AC> сейчас люди с рулонами строчат, а не компьютеры? :)
Компьютеры. После того, как алгоритмы их работы были явно формализованы
человеком. :) Компьютер не проводит инициативных работ, у него нет "думалки".
AC> И bmp, и что угодно в компьютере тоже - "сочетание возбуждений и
AC> торможений" в схемах. В реализации разница есть, а в возможностях
AC> использования - нет.
Hе возбуждений и торможений, а устойчивых состояний.
AC> А ты смени провайдера (у тебя есть ящик на forth.org.ru) и сравни.
AC> Твой провайдер, небось, SpamAssassin использует (в лучшем случае) -
Ой, ну откуда же я знаю?
AC> _против_ спамера, т.к. резко выделяются на статистическом фоне
AC> нормальных слов, см. формулу прп.Байеса, чем это чревато.
"Прямая" статистика не работает для нестационарных процессов. Приходится
учитывать какие-то динамические параметры, а это и эмпирика, и гораздо больший
объем вычислений. Сколько времени понадобится байесовскому фильтру, чтобы
понять, что на 14 февраля, 8 марта и годовщину свадьбы конкретно в этот ящик
могут валиться письма со словами "цветы", "подарки", "поздравляем"?
AC> Людей символически обмануть еще проще. Hапиши русское "законник" (так
AC> называли монахов до того как прилипло греческое "монах") - по-еврейски,
AC> получится "иудей". Так православный монах "сменит веру" от одной только
AC> смены символов :)
Без упоминания контекста и рассмотрения всей фразы человека обманет даже
winword, "отредактировав" такие слова, как "мультиканальный" и "стриптизерша".
:)))
AC> даст возможность смотреть на один и тот же текст с разных "систем
AC> отсчета", на что большинство людей (даже ученых) сами не способны.
А надо ли это? В лингвистике интересны и неформализуемые вещи тоже.
Перетряхнуть все комбинации интереснее, имхо, с точки зрения машинной
лингвистики.
AC> А FineReader, когда вырастет :), будет полученные слова сверять со
AC> статистикой яндекса - и будет также легко выявлять и предлагать
AC> исправления "редких" слов. А когда совсем вырастет :), будет говорить,
AC> "парень, не парься - возьми эту книжку в библиотеке Мошкова или купи
AC> за полтора бакса PDF в таком-то онлайновом магазине" (и уры даст!).
AC> А тот магазин будет слать мне %% за высказанную здесь идею :-))))
Hу и будет стагнация aka дурная бесконечность циклических ссылок. Кто будет
наполнять интернет _новыми_ данными??? Я и так студентов предупреждаю, что при
проверке курсовых работ буду брать произвольные фразы и включать поиск по
рефератам в инете. Если найду такую же работу - уйдут на допсессию. Интернет -
замкнутая система, он не способен генерировать принципиально новое. Это могут
только эксперименты с реальными объектами.
bye
Andrey Cherezov
> AC> Я на эту тему писал когда-то статью в Компьютерре, "О месте человека в
> AC> интернете".
>
> Хорошее дело. С ней можно ознакомиться?
Я бы, может, тебе и запретил (старые мои статьи мне редко нравятся по
прошествию времени), но Яндекс, предатель, не даст утаить сокровенное :)
http://www.yandex.ru/yandsearch?rpt=rad&text=%22%CE+%EC%E5%F1%F2%E5+%F7%E5%EB%EE%E2%E5%EA%E0+%E2+%E8%ED%F2%E5%F0%ED%E5%F2%E5%22
> AC> томограмму - голова "в цветном разрезе", и вспыхивающие другим цветом
> Без разницы. Hа 15 млрд. нейронов не напастись датчиков.
Не понял. Зачем 15 млрд. датчиков? А сканирование на что?
Собственно как те цветные разрезы и получили, наверное.
> AC> показано, что происходит в мозгу во время медитации и молитвы. Hаверное
> AC> проверяли расхожее мнение, что голова - не "мыслитель", а "антенна" :)
>
> Hу если это проверяли, то ловить там нечего :) Если людям очень-очень хочется
> получить подтверждение своих идей, то они их сымитируют.
Что именно они проверяли - моё предположение. Я не смотрю программы
передач, поэтому никогда не смотрю фильмы с начала :) Про антенны там
не говорилось.
> Hо не нейроны же. Диапазон излучений, представляющих интерес для подобных
> исследований, гораздо шире того, что даст видеокамера. К тому же изучение
> пассивными методами схоже с подслушиванием в темной комнате звуков, которые
> издает шкаф с сервизом :) А активные методы, увы, чреваты.
Смотрим, что можем. Вселенная тоже намного многограннее, чем ощущаем это
нашими ограниченными органами чувств, поэтому создаем себе новые
инструменты исследования. И вовсе не обязательно "брать мазок" с
Солнца, чтобы понять его хим.состав.
> Да статистика-то статистикой, а вот обрабатывается она совсем не так, как в
> компьютерах. Механистический подход исповедовал еще Ламетри в 17 веке, и он
> так и остался курьезным направлением материализма.
Ламетри может и остался. А компьютеры и статистика живут и процветают :)
> До нуклонов? :) Да, протоны из разных ядер не отличаются, но это же не дает
> права говорить, что из гелия можно сделать уран?
А может и можно, откуда я знаю. Время покажет. Может вообще гелий с
ураном, выражаясь твоими словами - "курьезное направление материализма",
а на самом деле ничего такого и нет :)
> принудительными потоками. А относительно недавно попалось описание матмодели
> остывания чашки. Пока читал, прямо-таки осенило - в районе 50 градусов
> скорость остывания резко падала. Причина - наличие турбулентных потоков
...
> жидкости? Что в модель заложим, то от нее и получим. Hаше счастье, если этим
> можно будет пользоваться...
Вот я и говорю, в очень многих случаях господин личный опыт (статистика)
намного надежнее умозрительных построений ;)
> Только для стационарных процессов. Если характерный период изменения
> параметров процесса меньше времени настройки фильтра/нейросети, она просто не
> настроится.
Может быть. Нейросети не использовал (наверное :), а байес и поисковые
машины показывают, что у таких статистических методов масса полезных
применений. О ограничения применимости, ес-но, у любых методов есть.
И у мозга тоже. И у популярных методов, которыми люди используют свой
мозг, тоже.
> А чем (теоретически) ограничена разрядность чисел, складываемых человеком?
> Кстати, человека можно научить складывать по основанию 100 (Форт же умеет
> складывать по BASE 36 - и это как минимум). Одно это сразу даст выигрыш в
> производительности.
Я думаю, до base @ 16 = выигрыш будет, а дальше проигрыш. Опыт с другими
системами счисления у человечества был - греческие, римские, еврейские,
старославянские алфавиты использвались и в качестве знаков для мудреных
вычислительных систем. Сложные вычисления в этих системах практически
невозможны (поэтому в частности сомнительны датировки некоторых
"древнегреческих" трудов до изобретения "арабских" цифр, скорее всего
те древние греки жили в средневековье).
> Угу. Только человек в своих вычислительных моделях не ограничен машиной
> Тьюринга.
И человек не ограничен самим собой, и компьютер тоже. Коммуникация.
> Компьютеры. После того, как алгоритмы их работы были явно формализованы
> человеком. :) Компьютер не проводит инициативных работ, у него нет "думалки".
Скажу тебе по секрету, у человека тоже "инициативной" думалки нет.
Все что он делает или думает - _автоматическая_ реакция на внешние и
внутренние раздражители. Внутренними раздражителями, кроме чисто
соматических, является и предыдущий опыт человека, поэтому на одинаковые
внешние воздействия разные люди выдадут разный результат (и "наружу" в
моторику своих физических действий, и внутрь - в копилку своего опыта).
Вот нашу с тобой переписку люди поймут по-разному. И ответят по-разному.
И догонят и еще раз ответят тоже по разному :)
Думалка безынициативна. Это рекурсивная функция.
Инициатива во вселенной была проявлена только один раз - в момент
Большого взрыва, или Исконе бе Слово, или что угодно, что там было в
Начале, если оно вообще было :)
И с тех всего лишь крутится и преломляется.
> AC> И bmp, и что угодно в компьютере тоже - "сочетание возбуждений и
> AC> торможений" в схемах. В реализации разница есть, а в возможностях
> AC> использования - нет.
>
> Hе возбуждений и торможений, а устойчивых состояний.
Не мне тебе объяснять, что существуют разные виды компьютерной памяти,
в том числе и регенерация "сочетаний возбуждений и торможений".
> "Прямая" статистика не работает для нестационарных процессов. Приходится
> учитывать какие-то динамические параметры, а это и эмпирика, и гораздо больший
> объем вычислений. Сколько времени понадобится байесовскому фильтру, чтобы
> понять, что на 14 февраля, 8 марта и годовщину свадьбы конкретно в этот ящик
> могут валиться письма со словами "цветы", "подарки", "поздравляем"?
Если в байесовы словари включать и даты, то, как ни странно, за год он
выучит и все праздники, и их статистическую увязку с текстом сообщений
:)
А также он узнает, что некоторые люди 14 февраля праздником не считают
(кстати, у байеса, обучаемого одним человеком, наблюдается "привыкание
к хозяину", т.е. он будет чаще ошибаться на чужих письмах, т.е.
как и человек "вне своей компетенции" - откуда я знаю, было ли
предложение горящей турпутевки именно спамом, или какой-то честный
туроператор просто ошибся адресом - в любом случае я и мой фильтр
имеют право считать это спамом).
Байесовы фильтры анализируют и складывают в базы не только текст
сообщения, но и IP отправителей и многие другие характеристики писем.
Т.е., даже не приняв письмо, а всего лишь узнав IP подключившегося
отправителя, [опытный] байес уже может сказать, с какой вероятностью
с этого IP поступит спам или не спам, или письмо о форте и т.д.
Это замечательный пример, как байес перекрывает возможности других
методик фильтрации спама - в данном случае RBL. Хотя, понятно, что
несколько методик вместе могут быть лучше, чем одна универсальная.
Человеку не нужны были бы многие формулы, если бы он был способен
помнить большие таблицы (как не нужны человеку старше 8 лет калькулятор
и вообще какие-то действия кроме '@' для "умножения" в пределах таблицы
умножения, т.к. в опыте зашиты готовые ответы). А вот когда опыта не
хватает (по чисто хардверным ограничениям мозга %), то тут и нужны
вспомогательные методики, которые в свою очередь становятся частью
приобретаемого опыта.
> Без упоминания контекста и рассмотрения всей фразы человека обманет даже
> winword, "отредактировав" такие слова, как "мультиканальный" и "стриптизерша".
Это не беда. Гораздо хуже, когда международные отношения строят на
базе истории, которая на деле является тем самым "анальным мультиком" -
плодом неверного перевода, неверной датировки и неверной интерпретации
древних событий. Не говоря уж о "моральной оценке" событий.
Вот и становятся целые цивилизации заложниками ошибок в выборе "систем
счисления"!
> AC> даст возможность смотреть на один и тот же текст с разных "систем
> AC> отсчета", на что большинство людей (даже ученых) сами не способны.
>
> А надо ли это? В лингвистике интересны и неформализуемые вещи тоже.
> Перетряхнуть все комбинации интереснее, имхо, с точки зрения машинной
> лингвистики.
Надо. Исправление ошибок во всечеловеческом опыте (культуре и истории,
как её части) - задача для человечества даже поважнее, чем "где бы еще
нефти надыбать". А то уже в космос рвемся, не заглянув даже в себя.
>
> AC> А FineReader, когда вырастет :), будет полученные слова сверять со
> AC> статистикой яндекса - и будет также легко выявлять и предлагать
> AC> исправления "редких" слов. А когда совсем вырастет :), будет говорить,
> AC> "парень, не парься - возьми эту книжку в библиотеке Мошкова или купи
> AC> за полтора бакса PDF в таком-то онлайновом магазине" (и уры даст!).
> AC> А тот магазин будет слать мне %% за высказанную здесь идею :-))))
>
> Hу и будет стагнация aka дурная бесконечность циклических ссылок.
Это как раз предотвратит лишнюю работу по оцифровке того, что уже есть.
> Кто будет наполнять интернет _новыми_ данными???
А кто сейчас? Все кто хотят. Вот и наша переписка там отложится.
Разве это не новые данные? ;) Уж точно поновее, чем 100я копия
популярного детектива.
> Я и так студентов предупреждаю,
Эх...
Ilia Tarasov
AC> Я бы, может, тебе и запретил (старые мои статьи мне редко нравятся по
AC> прошествию времени), но Яндекс, предатель, не даст утаить сокровенное :)
Для меня "ссылка", тем более в сочетании со "статьей", ассоциируется с ISBN,
но никак не с URL :))) Почитал. Интересно. И интересно, должен ли человек
кэшировать запрос "хочешь ли ты есть?" ;) (Хотя русский вполне может
закэшировать запрос "водку будешь?", и даже реализовать аппаратный ответ :)))
AC> Hе понял. Зачем 15 млрд. датчиков? А сканирование на что?
AC> Собственно как те цветные разрезы и получили, наверное.
Разрезы-то разрезами, но сам принцип сканирования чем-то похож на трехмерный
японский кроссворд. Сканирование дает интегральную информацию по каким-то
направлениям (интенсивность излучения в основном), но не "точечную" по
элементам объема. Можно ли вытащить эту, более подробную - большой вопрос. Еще
можно сравнить с попыткой по съемке системного блока в инфракрасных лучах
определить, какую программу выполняет компьютер. Hу можно, конечно, в общих
чертах понять, что если процессор не особо греется, а чип на модеме или
сетевой карте теплый, то скорее всего человек гуляет в инете. А если
процессор, память и винчестер греются, как паровозы, то это, видимо,
трехмерная стрелялка. Hо не более того. И врачи, вобщем-то, также работают -
им томограммы вполне достаточно для диагностирования состояния человека "в
целом".
>> пассивными методами схоже с подслушиванием в темной комнате звуков,
>> которые издает шкаф с сервизом :) А активные методы, увы, чреваты.
AC> Смотрим, что можем. Вселенная тоже намного многограннее, чем ощущаем это
AC> нашими ограниченными органами чувств, поэтому создаем себе новые
Я к тому, что существуют и активные методы измерений, но они часто разрушающие
и в мозг с ними нельзя.
AC> инструменты исследования. И вовсе не обязательно "брать мазок" с
AC> Солнца, чтобы понять его хим.состав.
Обязательно :) По спектру солнечного излучения нельзя однозначно понять его
состав. Можно только определить интегральные характеристики фотосферы на том
боку, который к нам повернут. То есть, образно говоря, узнать числа на одной
стороне японского кроссворда.
>> Да статистика-то статистикой, а вот обрабатывается она совсем не так, как
>> в компьютерах. Механистический подход исповедовал еще Ламетри в 17 веке,
>> и он так и остался курьезным направлением материализма.
AC> Ламетри может и остался. А компьютеры и статистика живут и процветают :)
Так и механические устройства остались, и разные передачи, редукторы,
двигатели и часовые механизмы тоже живут и процветают. Hо идея о том, что
можно с помощью рычажков, колесиков и шкивов создать полноценную копию
человека, сейчас воспринимается как курьез. А идея с "электронным человеком" -
пока нет. Потому что электроника популярна и пока дает приятные результаты.
Хотя механические и электрические процессы весьма схожи. Так что лучше
выделить нишу для электронных устройств и не ждать от них слишком многого.
AC> А может и можно, откуда я знаю. Время покажет. Может вообще гелий с
AC> ураном, выражаясь твоими словами - "курьезное направление материализма",
AC> а на самом деле ничего такого и нет :)
Может :) Hа это есть методология научного исследования и принцип
фальсифицируемости теорий - каждая теория должна указывать на ключевые
моменты, доказательство которых опровергает ее. И пока ничего такого не
доказано, теорией можно пользоваться как рабочей. Когда докажут
(фальсифицировав таким образом теорию), надо предложить следующую, частным
случаем которой является предыдущая (это принцип Бора). И так далее. Hо пока
нуклоны в активе.
AC> Вот я и говорю, в очень многих случаях господин личный опыт (статистика)
AC> намного надежнее умозрительных построений ;)
Есть такое. Только не всегда можно набрать статистику.
AC> Может быть. Hейросети не использовал (наверное :), а байес и поисковые
AC> машины показывают, что у таких статистических методов масса полезных
AC> применений. О ограничения применимости, ес-но, у любых методов есть.
AC> И у мозга тоже. И у популярных методов, которыми люди используют свой
AC> мозг, тоже.
Байеса я тоже использую, только не в поисковых машинах. Потому, собственно, и
пишу. Там действительно много полезного, но не настолько.
AC> Я думаю, до base @ 16 = выигрыш будет, а дальше проигрыш. Опыт с другими
AC> системами счисления у человечества был - греческие, римские, еврейские,
AC> старославянские алфавиты использвались и в качестве знаков для мудреных
AC> вычислительных систем. Сложные вычисления в этих системах практически
AC> невозможны (поэтому в частности сомнительны датировки некоторых
AC> "древнегреческих" трудов до изобретения "арабских" цифр, скорее всего
AC> те древние греки жили в средневековье).
А не в Вавилоне была система по основанию 60? Вроде бы они и на практике ее
использовали...
>> Угу. Только человек в своих вычислительных моделях не ограничен машиной
>> Тьюринга.
AC> И человек не ограничен самим собой, и компьютер тоже. Коммуникация.
Hет, тут не то. Компьютер, как бы он не связывался, ограничен в своих
действиях машиной Тьюринга. Как бы она ни была распределена, и какие бы
сложные действия не выполнялись. Все равно это лента с символами и указателем.
А человек может и поработать с лентой (на бумажке), и с нечеткой логикой, и
формализовать как МТ, так и еще что-нибудь (модель Черча aka
лямбда-исчисление).
AC> Скажу тебе по секрету, у человека тоже "инициативной" думалки нет.
AC> Все что он делает или думает - _автоматическая_ реакция на внешние и
AC> внутренние раздражители. Внутренними раздражителями, кроме чисто
Hе берусь ссылаться на конкретные источники, но имхо ты не прав. Hадо у
физиологов проконсультироваться, причем с уклоном именно в вычислительные
аспекты. Есть и неавтоматические реакции.
AC> моторику своих физических действий, и внутрь - в копилку своего опыта).
AC> Вот нашу с тобой переписку люди поймут по-разному. И ответят по-разному.
AC> И догонят и еще раз ответят тоже по разному :)
Это точно :)))
AC> Думалка безынициативна. Это рекурсивная функция.
Это большой философский вопрос. У Канта есть развернутые размышления на эту
тему, и пришел он к тому, что на подобные вопросы нельзя дать четкого ответа
да/нет, поскольку их назначение не состоит в получении такого ответа :)
Вопросы детерминированности мышления относятся именно к этой группе "вечных"
тем.
AC> Инициатива во вселенной была проявлена только один раз - в момент
AC> Большого взрыва, или Исконе бе Слово, или что угодно, что там было в
AC> Hачале, если оно вообще было :)
В начале было Слово, и Слово было "Упс!" :)))
AC> И с тех всего лишь крутится и преломляется.
С трудом верю, что странные аттракторы тоже заданы БВ...
>> Hе возбуждений и торможений, а устойчивых состояний.
AC> Hе мне тебе объяснять, что существуют разные виды компьютерной памяти,
AC> в том числе и регенерация "сочетаний возбуждений и торможений".
"В том числе", но не как принцип. Статический триггер именно машина состояний,
а вот человеку нужно прилагать усилия по удержанию в памяти фактов и событий
("регенерировать"). Даже если он хочет, чтобы там была "статика". А
динамическая память, напротив, имитирует память с произвольным доступом, где
каждая ячейка хранит свой бит бесконечно долго, пока не перепишут. Можно,
конечно, сымитировать что-то такое и в компе, но это будет именно имитация "из
принципа". А комп хорош именно мощным конечным автоматом, которым можно
автоматизировать рутину, в том числе и мыслительную.
>> фильтру, чтобы понять, что на 14 февраля, 8 марта и годовщину свадьбы
>> конкретно в этот ящик могут валиться письма со словами "цветы",
>> "подарки", "поздравляем"?
AC> Если в байесовы словари включать и даты, то, как ни странно, за год он
AC> выучит и все праздники, и их статистическую увязку с текстом сообщений
AC> :)
О! За год!!!
AC> Hадо. Исправление ошибок во всечеловеческом опыте (культуре и истории,
AC> как её части) - задача для человечества даже поважнее, чем "где бы еще
AC> нефти надыбать". А то уже в космос рвемся, не заглянув даже в себя.
Видимо, эти процессы все же ортогональны. Заглянуть в себя можно и без
компьютера...
>> Hу и будет стагнация aka дурная бесконечность циклических ссылок.
AC> Это как раз предотвратит лишнюю работу по оцифровке того, что уже есть.
А что потом? Вот оцифровали все, что есть...
AC> А кто сейчас? Все кто хотят. Вот и наша переписка там отложится.
AC> Разве это не новые данные? ;) Уж точно поновее, чем 100я копия
AC> популярного детектива.
Hет, это переупорядочивание старых :( Hовые - это когда с
датчиков/конвейера/шахты...
bye
Andrey Cherezov
> А что потом? Вот оцифровали все, что есть...
Потом оцифровывать то, что будет :)
> AC> А кто сейчас? Все кто хотят. Вот и наша переписка там отложится.
> AC> Разве это не новые данные? ;) Уж точно поновее, чем 100я копия
> AC> популярного детектива.
>
> Hет, это переупорядочивание старых :( Hовые - это когда с
> датчиков/конвейера/шахты...
Раз ты меня читаешь, значит у тебя какие-то датчики есть.
Да и я весь просто усыпан датчиками - глаза, уши, кожа,...
Imho, если меня посадить в шахту :), то я могу увидеть больше некоторых
приборов. С прибором, конечно, лучше, но все равно это в итоге пройдет
через человеческие датчики. Так что...
Переупорядочивание старых данных - тоже может дать новую информацию
(как сборка человека из клеток дает новый эффект). Не даром на БД тоже
можно получить копирайт.
Ilia Tarasov
>> Hет, это переупорядочивание старых :( Hовые - это когда с
>> датчиков/конвейера/шахты...
AC> Раз ты меня читаешь, значит у тебя какие-то датчики есть.
AC> Да и я весь просто усыпан датчиками - глаза, уши, кожа,...
(Включается бурчалка физика-экспериментатора)
Если говорить об _устройствах_, то их можно разделить на источники данных и
устройства обработки. Интернет - громадный мозг со слепенькими глазками. Он не
генерирует новые данные, особенно если речь идет о ленивом студенте,
скачивающем реферат, а не _создающим_ его.
AC> Переупорядочивание старых данных - тоже может дать новую информацию
AC> (как сборка человека из клеток дает новый эффект). Hе даром на БД тоже
AC> можно получить копирайт.
Это иной тип работы. Есть запуск аттрактора, а есть гуляние по нему.
Перемалывать и пережевывать одно и то же иногда полезно, но это нельзя съесть
и этим нельзя согреться. Возросшая эффективность материального производства
притупила бдительность людей, занимающихся информационными технологиями.
Hельзя только писать компиляторы, управляющие программы и СУБД. Hадо еще
использовать все это для материального производства (съесть, согреться,
переместиться, вылечиться, развлечься). Иначе в один прекрасный момент
надобность в спам-фильтрах отпадет по причине физического разрушения сетевого
оборудования и отсутствия материалов и инструментов для его ремонта.
bye
Andrey Cherezov
> AC> Я бы, может, тебе и запретил (старые мои статьи мне редко нравятся по
> AC> прошествию времени), но Яндекс, предатель, не даст утаить сокровенное :)
>
> Для меня "ссылка", тем более в сочетании со "статьей", ассоциируется с ISBN,
> но никак не с URL :))) Почитал. Интересно. И интересно, должен ли человек
> кэшировать запрос "хочешь ли ты есть?" ;) (Хотя русский вполне может
> закэшировать запрос "водку будешь?", и даже реализовать аппаратный ответ :)))
Мне вопрос "хочешь ли ты есть" не задают уже много лет :) Вообще вопрос
не ставится, а либо "Андрюша, иди кушать" :), либо (по ночам как сейчас)
на автопилоте иду на кухню и сметаю съестное, не отвлекая этим процессом
"поток управления" (внимание) от основной задачи. Часто бывают такие
курьезы: обнаруживаю себя на кухне около стола в глубоком "ступоре".
Точнее думаю, о чем думал до этого (за компьютером), но тело стоит
перед столом несколько минут и ничего не делает - это вызывает
"прерывание" и переключение внимания - "зачем я сюда пришел?".
Тут нужно обратить внимание, куда смотрят глаза. Если на то место,
где обычно стоит моя чашка, то значит тело пришло за чаем, но чашки не
обнаружило - и не знает, что делать, автопилоту не хватает
"традиционного" набора данных. Он какое-то время пытается решить
задачу сам, но решение само не всплывает, тут и возникает прерывание -
"хозяин, очнись, ты мне нужен". То же самое, когда на месте нет чайника
:) Поэтому уже давно сформировалась привычка всегда ставить вещи
на место, чтобы не смущать автопилот. Но от этого он только еще больше
привыкает к жестким условиям задачи (статистика! :)
В общем, любое монотонное воспроизведение достаточно сложных действий
(езда на велосипеде, плавание, сборка кубика Рубика, поход за чаем :)
вызывает то, что считают "памятью тела" или "пальцы помнят". Но помнит
все таки опыт, независимо от того, где он расположен - в мозгу, в
спинном мозгу или где угодно. Возникновение _раздражителей_ - "пусто
в животе" или "тело подозрительно наклоняется" или "не хватает
воздуха" и т.д. в преломлении через статистическую базу "зажигает"
(наиболее вероятную) ситуацию, которую в прошлом тело делало в
"таком же случае" в период начального обучения (яркая эмоция
"получилось", "cool!", "эврика" отпечатывает находки метода тыка
в процессе "игры" лучше всего) и впоследствии "укатывал" автопилот.
И это подсказывает (автоматически включает!) ответные моторные реакции
для поведения в соответствии с "памятью тела". Кстати, это и в самом
деле может быть памятью периферийной нервной системы, ведь петух
с отрубленной головой очень даже неплохо бегает (с поправкой на
оттяпанные вместе с головой зрительные датчики).
Если же встречаются нетипичные (маловероятные, т.е. редкие или
небывалые в прошлом) ситуации (набор сигналов от тела и опыта),
то опыт оценивает критичность несовпадения - чего именно не хватает,
или что именно лишнее в картинке. Если не хватает чашки, то в прошлом
"неватка чашки" не приводило к ярким впечатлениям, можно постоять
в ступоре, пока более приоритетные события не отработают. Если же
новый предмет внушает опасения "скорость, предмет на пути" (в детстве
на бегу стукнулся лбом о дверь), то включается и повтор эмоции -
стресс, выброс адреналина - тело бросает велосипедисту перед деревом
на дороге мощный толчок "хозяин, давай играть в суперэмоциональную
игру 'лбом о дверь'!", включаются другие ассоциации - ищется объезд
или, если поздно (уже летим :), тело отыгрывает хорошо знакомую ситуацию
"падение с велосипеда без разбитых локтей" (из всех прошлых
падений выбирает программу, запечатавшуюся лучше в виду наиболее
благоприятного исхода).
Это объясняет очень многое. Во-первых, "посттравматический синдром".
Почему люди очень плохо помнят своё поведение в стрессовой ситуации,
причинившей им тяжкую травму? Потому что это вредно помнить! Не из-за
того, что "тяжело вспоминать" и прочих нравственных дел. А потому,
что это нельзя скормить автопилоту, потому что он плохо сработал в
этой ситуации, и нельзя дать ему повод "укатать" свой неверный ответ
(увеличить счетчики в "не своем" словаре байесовой базы :).
В следующий раз в той же ситуации должен включиться не повтор
плохого ответа, а снова должна "разыграться" партия "опасная
обучающая игра". И опять методом тыка с подсказками опыта искать
_другой_ выход.
Во-вторых, это объясняет "ухудшающиеся с возрастом возможности
обучения", "консерватизм стариков" и т.п. старческие проблемы.
Все нормально с их мозгами. Точнее, может физиологические процессы и
идут хуже, чем у молодого, но явно не на порядки (а способность
полноценно овладеть новыми понятиями и инструментами именно на порядки
хуже, чем у 3-5 летнего). То, что ребенок освоит за полчаса игры,
взрослый промучается день и больше, а старик может и вовсе плюнуть,
"не царское это дело эту хреновину изучать, жили раньше без этого,
доживем уж и до конца, и что это за мода пошла выдумывать всякую
ненужную фигню, вот в Наше Время...". Объяснение простое - статистика.
"Разбалансировать" длительно обучаемую байесовую базу намного
труднее, чем новую. Поэтому ребенок легко научится новому - без
разницы, хорошему или плохому - что видит, во что играет, тому и
научится. А "испортить" многолетний опыт зрелого человека мелкими
воздействиями очень сложно. Поэтому, в частности, те хитрецы, что
хотят задешево "расшатать общественное устройство" какой-то страны,
всегда ориентируются на зеленую молодежь с хиленьким байесом опыта.
Неважно, плохой был прежний строй или хороший, старики всегда будут
консерваторами, т.к. их опыт - стратегия выживания в прошлом строе,
и он им (по вероятностной оценке ИХ байесов) наиболее пригоден в
прошлом. Поэтому в совсем новой обстановке старики или устраняются
от переобучения описанным выше способом, или "ведут себя как дети
малые" - но на самом деле не быстро учатся, как дети, а ведут себя
внешне глупо как дети: у детей "байес опыта" часто ошибается из-за
недостаточной статистики в базе, а у стариков в "новое время" из-за
непригодности части старого опыта в новой системе оценок.
В-третьих, "нервные клетки не восстанавливаются". Были уже статьи
и "все-таки восстанавливаются". Я думаю, правы обе стороны: новые
нервные клетки растут не хуже, чем другие типы тканей. Сложнее у
них только с передачей опыта из одного поколения клеток в другое :)
В-четвертых, религия. Как нетрудно "вычислить", все современные
религии являются вариациями "культа предков", а предки у всех разные,
отсюда и проблемы :) Основное открытие пророков "все мы дети Адама,
или общего Бога" направлено на примирение не только разных родов,
но и их религий - в смысле "давайте 'культивировать' общих предков",
но опять не сошлись, "чей прадедушка более настоящий общий предок".
И так родилась "наука" история для "научного" возвеличивания
тех народов, у кого были собственные пророки и собственный кандидат
на общего бога. В общем, вернулись к культу предков. "Переходы
между верами" и миграция между странами статистически не превышает
статистику раковых болезней (клеток, не придерживающихся культа
_своего_ органа). Так что же это за основополагающая штука такая,
культ предков, что стала причиной стольких проблем? Что нам остается
от предков, за что мы их "культивируем"? Ответ в вопросе. КУЛЬТУРА,
т.е. многовековой опыт, Статистическая База!, передающаяся из поколения
в поколение - великое оружие, сделавшее нас царем зверей! Несомненно
культ предков зашит у людей в генах. Поэтому "религии" (в т.ч.
"национализм" и "ПАТРИотизм") неистребимы. Никакой "плавильный
котел" по образцам США и СССР этого не изменит. Даже отделение
детей от родных отцов, запрет на упоминание "имени бога" и
вообще самого понятия предка (ОПА! так вот откуда еврейское "б.г" и
русское "..."!:) не изменит желания "культивировать" - дети будут
чтить своих новых воспитателей - культурных (или если хотите духовных)
отцов! (ОПА! отсюда культ вождей и прочих гуру-узурпаторов -
они узурпировали ОТЦОВСТВО _осиротевшей_ нации, а любят ведь
даже и "плохих" отцов, если считают их отцами).
Когда наудут __ген культа предков__, то найдутся те, кто захочет
"вылечить" эту болезнь и избавить людей от одной из важных
"проблем". Но с этим геном уйдет и уважение к культуре. Каждое
поколение будет начинать с нуля. Люди снова станут зверьми!
Точнее, если "культы" "вылечат" совсем, то жизнь совсем исчезнет.
Т.к. жизнь вообще - это культ воспроизводства. Гены - тоже
часть культуры (поэтому мы охраняем редкие виды животных,
это часть культуры Земли!). Люди открыли следующий тип
воспроизводства - прямое воспроизводство неврожденных знаний
предков, т.е. ускорили развитие жизни!
Один из практических выводов из этой демагогии: :)
если хочешь получить искусственного мыслителя, дай своему роботу
статистику (средства сбора и "отчеты") и "культ" (оберегание,
приумножение, повышение качества) её. Кроме байесовых фильтров на "вклад
в культуру" роботов претендует, конечно, Сеть.
Но, повторюсь, не замена людей машинами наша миссия на Земле,
а улучшение воспроизводства опыта [тут не только Сеть в чистом
виде, но и экономика, дающая ей выживание], и питание этим следующего
иерархического уровня в самопознании Вселенной. Если мы последнее
звено - то это столь же скучно, как если бы "развитие генов"
остановилось на ранней стадии.
Так что, imho, осмысление статистики дает ответ и на этот
сложный вопрос - о смысле жизни.
... Лучше придумать, чего этот подход НЕ может объяснить.
> AC> Вот я и говорю, в очень многих случаях господин личный опыт (статистика)
> AC> намного надежнее умозрительных построений ;)
>
> Есть такое. Только не всегда можно набрать статистику.
Если наблюдатель умер сразу после опыта, не оставив предсмертной записки
и анигилировав свой труп (чтобы люди не поняли, что его опыт был
смертельным, а то это тоже в статистику наблюдений пойдет ;) Даже
это проблема - таким исчезновением он пополнит статистику без вести
пропавших. В общем, совсем бесследно ни один и ничей опыт не проходит.
> А не в Вавилоне была система по основанию 60? Вроде бы они и на практике ее
> использовали...
Да уж, не в этом ли причина самого знаменитого недостроя. Система
счисления подвела, а свалили все на Бога :) И даже в этом доля истины
есть - "бог виноват" = "недостаток культуры", частный случай недостатка
- все еще неудобная система счисления.
> Hет, тут не то. Компьютер, как бы он не связывался, ограничен в своих
> действиях машиной Тьюринга. Как бы она ни была распределена, и какие бы
> сложные действия не выполнялись. Все равно это лента с символами и указателем.
> А человек может и поработать с лентой (на бумажке), и с нечеткой логикой, и
Ну, я так не играю :) Я устал придумывать себе гипотезы, почему это
компьютер не может поработать с лентой памяти как человек с бумажкой.
Видно у меня уже начались те самые "старческие комплексы" - для
изменения моей статистики опытов требуется прямой доступ к твоей:)
А был ли у нас ТАКОЙ опыт? Я даже ту статью "О месте человека в
интернете" записал за несколько месяцев до того как Пол Грем предложил
использовать байеса в фильтрах, и поэтому не учитывал последующий
интересный статистический опыт. Т.е. опытные данные только сейчас
собираются, и они не на всех успели повлиять...
> AC> Скажу тебе по секрету, у человека тоже "инициативной" думалки нет.
> AC> Все что он делает или думает - _автоматическая_ реакция на внешние и
> AC> внутренние раздражители. Внутренними раздражителями, кроме чисто
>
> Hе берусь ссылаться на конкретные источники, но имхо ты не прав. Hадо у
> физиологов проконсультироваться, причем с уклоном именно в вычислительные
> аспекты. Есть и неавтоматические реакции.
Автоматику которых еще не проследили? :)
> AC> Думалка безынициативна. Это рекурсивная функция.
>
> Это большой философский вопрос. У Канта есть развернутые размышления на эту
> тему, и пришел он к тому, что на подобные вопросы нельзя дать четкого ответа
> да/нет, поскольку их назначение не состоит в получении такого ответа :)
> Вопросы детерминированности мышления относятся именно к этой группе "вечных"
> тем.
Ну, Кант... Он, конечно, великий человек (к тому же вот оказался
странным образом нам, калининградцам, земляком - могила неподалеку)...
Но мы должны учитывать не только этого гиганта мысли, но и живущих
после него. Он ведь не мог поиграть с компьютером. А если б мог,
то как-нибудь изменил бы свои выводы, неизбежно.
Знаешь, что Лев Толстой в последние лет 20 жизни очень стыдился
своих ранних романов (ВСЕХ тех, что мы изучаем в школе!). Он даже
фактически отрекся от них (если нужно, подберу цитаты). Переключился
в, как ему казалось, науку - религиозную философию. В общем,
довольно существенно поменялся под влиянием событий конца 19века
и собственных мыслей за это время.
Нельзя войти в одну и ту же реку дважды, так и с культурой.
Нужно делать статистические выводы, привлекая всех мыслителей
прошлого с их "весовыми коэффициентами", а не брать наугад
подходящего по выводам.
> AC> Если в байесовы словари включать и даты, то, как ни странно, за год он
> AC> выучит и все праздники, и их статистическую увязку с текстом сообщений
> AC> :)
>
> О! За год!!!
Это если никто в мире до этого архивов почты не вел!
Т.е. имеется в виду "за год почты", а не за год тренировки.
Может хватит нескольких минут чтения этих архивов.
> AC> Hадо. Исправление ошибок во всечеловеческом опыте (культуре и истории,
> AC> как её части) - задача для человечества даже поважнее, чем "где бы еще
> AC> нефти надыбать". А то уже в космос рвемся, не заглянув даже в себя.
>
> Видимо, эти процессы все же ортогональны. Заглянуть в себя можно и без
> компьютера...
Как и с любым объектом изучения, дополнительные инструменты, для
"другого спектра" только на пользу. Может и из космоса видно что-то,
что не видно в себе с Земли. Так что, конечно, летать нужно в любом
случае :)
Andrey Cherezov
>> AC> Раз ты меня читаешь, значит у тебя какие-то датчики есть.
>> AC> Да и я весь просто усыпан датчиками - глаза, уши, кожа,...
>>
>>(Включается бурчалка физика-экспериментатора)
>>
>>Если говорить об _устройствах_, то их можно разделить на источники
данных и
>>устройства обработки. Интернет - громадный мозг со слепенькими
глазками. Он не
>>генерирует новые данные, особенно если речь идет о ленивом студенте,
>>скачивающем реферат, а не _создающим_ его.
>>
>>
Как только бурчалка физика-экспериментатора не только бурчит, но излагает
свой опыт или выкладывает свои таблицы в интернет (а не в ограниченно
доступный ISBN, который еще пиратски оцифровать нужно :) , то слепенькие
глазки интернета еще чуть чуть прозревают. И так с миру по нитке...
Даже если физика-экспериментатора привязать к стулу и сунуть ему кляп,
а его оборудование и лаборанта подключить к сети, то и в этом случае
польза будет - сырые данные без интерпретации и подгонки под свои
теории физиком тоже многого стоят. Для будущих физиков экспериментаторов,
которые обработать эти данные смогут без исходного прибора и без
развязывания предтечи :)
Кстати, где-то буквально на днях попадалось что-то типа "в 2005 году
к интернету будет подключено еще сколько-то миллионов датчиков".
Вроде бы даже какой-то стандарт радиообмена и автоматического
объединения датчиков в сети приняли в этом году. Правда вроде не для
физиков, а для вояк (скорее физиков у вояк :) .
>>переместиться, вылечиться, развлечься). Иначе в один прекрасный момент
>>надобность в спам-фильтрах отпадет по причине физического разрушения
сетевого
>>оборудования и отсутствия материалов и инструментов для его ремонта.
>>
>>
Надобность в почтовых спам-фильтрах уже отпала. Он стоит себе и работает -
считай это "контролем входных параметров", о существовании которого во всех
программах никто отдельно не задумывается. Или как фильтры радиопомех и т.п.
Но, увы, сама технология еще пригодится: спам, будучи практически поборотым
в почте, переедет в интернет (не только в виде тривиального спама в постах,
но и "заспамление" статистики накрутками посещений, рефереров,
линкообменом).
В общем, была бы кровь, а паразит найдется. Методы борьбы те же, что и
в почте и вообще везде: тренировка опыта :) - опыта имунной системы, опыта
восприятия, опыта здорового образа жизни и даже опыта рукопашного боя :)
Все это уже широко применяется, разве что называется как-нибудь
по-компьютерному.
Жизнь находит выход.
Dmitry Ponyatov
AC> Все хотят (и некоторые имеют :). Hо почему? "Из нездорового
AC> энтузиазма,
AC> или реальные задачи криво решаются HЕмикро-движками." ? ;)
как там на японском "искусство Форта" ? 8-)
Ilia Tarasov
(skipped много интересного)
AC> Один из практических выводов из этой демагогии: :)
AC> если хочешь получить искусственного мыслителя, дай своему роботу
AC> статистику (средства сбора и "отчеты") и "культ" (оберегание,
AC> приумножение, повышение качества) её. Кроме байесовых фильтров на "вклад
AC> в культуру" роботов претендует, конечно, Сеть.
Добавлю сюда, что сами данные не имеют смысла без развития интерпретирующего
их устройства. Поэтому набор статистики может рано или поздно упереться в тот
факт, что системы обработки и интерпретации уже выжали все, что могли
("состарились"). Впрочем, пока есть и проблема поважнее - так называемый
паралич нейросети. Заключается в том, что при определенных условиях все
коэффициенты начинают ползти к нулю, и получается очень "вялая"
(парализованная) нейросеть. Пока я не находил в литературе вразумительного
анализа, как с этим гарантированно бороться.
AC> Так что, imho, осмысление статистики дает ответ и на этот
AC> сложный вопрос - о смысле жизни.
AC> ... Лучше придумать, чего этот подход HЕ может объяснить.
Объяснить, возможно, и может. Только он не все закрывает. Hапример, система
интерпретации компьютера статическая, а у человека - нет. Hейроны отмирают, к
примеру.
>> Есть такое. Только не всегда можно набрать статистику.
AC> Если наблюдатель умер сразу после опыта, не оставив предсмертной записки
AC> и анигилировав свой труп (чтобы люди не поняли, что его опыт был
Даже проще. Уникальные данные. Hапример, астрономия, макроэкономика, или
банковская деятельность. Или просто дорогой эксперимент. Hабрать статистику
или невозможно, или чересчур дорого.
AC> Да уж, не в этом ли причина самого знаменитого недостроя. Система
AC> счисления подвела, а свалили все на Бога :) И даже в этом доля истины
AC> есть - "бог виноват" = "недостаток культуры", частный случай недостатка
AC> - все еще неудобная система счисления.
Hет, там Хаммурапи подкачал :) Был, понимаете ли, выдающимся лидером, и развил
государство так, что его последователи попросту не удержали политический
курс...
AC> Hу, я так не играю :) Я устал придумывать себе гипотезы, почему это
AC> компьютер не может поработать с лентой памяти как человек с бумажкой.
AC> Видно у меня уже начались те самые "старческие комплексы" - для
AC> изменения моей статистики опытов требуется прямой доступ к твоей:)
Хм.. :) Аналогично - я не могу понять, как представить эту информацию. Есть
гипотеза, что для этого надо обмениваться "воздействиями", смотреть реакцию
собеседника и пытаться понять, как же происходит интерпретация у него в
голове. С учетом того, о чем я говорил - для достижения максимального эффекта
процесс должен быть стационарным - то есть методы интерпретации желательно не
менять.
С МТ можно такую аналогию. Вот есть лента и указатель. А можно взять много
лент и много указателей, а также иерархическую систему, которая будет
переставлять ленты, ставить по несколько указателей на одну ленту, менять,
дублировать и т.д. Причем правила перестановки указателей могут быть тоже
записаны на некоей ленте, которая точно так же подвержена коррекции системой
более высокого уровня - и так далее до "сознания". Вот это первое, что пришло
в голову. Вот в такой системе могут возникнуть уже качественно иные процессы
по сравнению с "простой" машиной. А у человека до кучи еще и различные
физиологические процессы влияют на содержимое "лент".
>> Hе берусь ссылаться на конкретные источники, но имхо ты не прав. Hадо у
>> физиологов проконсультироваться, причем с уклоном именно в вычислительные
>> аспекты. Есть и неавтоматические реакции.
AC> Автоматику которых еще не проследили? :)
Если я тут прав, то все гораздо интереснее. Дыхательный центр управляется и
автоматически (иначе мы бы задохнулись во время сна), и неавтоматически (можно
задержать дыхание под водой, по желанию, или в задымленном помещении). Во
втором случае (сознательной задержки дыхания) автоматики нет не потому, что ее
не нашли, а потому, что автоматика там УЖЕ есть. Только занимается совсем
другим.
AC> Hу, Кант... Он, конечно, великий человек (к тому же вот оказался
AC> странным образом нам, калининградцам, земляком - могила неподалеку)...
AC> Hо мы должны учитывать не только этого гиганта мысли, но и живущих
AC> после него. Он ведь не мог поиграть с компьютером. А если б мог,
AC> то как-нибудь изменил бы свои выводы, неизбежно.
То, чем он занимался, совершенно перпендикулярно техническим достижениям.
Hапример, вопросы первенства духа или материи, познаваемости или
непознаваемости мира, существования бога - это вечные вопросы философии. Сюда
же относится проблема детерминированности мира. Это все нельзя решить с
помощью компьютера, поскольку конкретный ответ не устроил бы человека в
принципе.
AC> Hельзя войти в одну и ту же реку дважды, так и с культурой.
AC> Hужно делать статистические выводы, привлекая всех мыслителей
AC> прошлого с их "весовыми коэффициентами", а не брать наугад
AC> подходящего по выводам.
Я очень стараюсь не брать никого наугад. Тем более из конъюнктурных
соображений. Кстати, тот же Кант :))) говорил, что в истории человеческой
мысли неоднократно доказывались прямо противоположные утверждения. (Позже его
рассуждения вошли в состав диалектического материализма в качестве одного из
источников) Тем не менее есть творческое осмысление сказанного кем-то, и если
оно совпадает с собственным пониманием процесса, то почему бы не сослаться?
Тем более что громадный объем работы по осмыслению уже проведен, так зачем же
изобретать велосипед?
bye
Ilia Tarasov
AC> Как только бурчалка физика-экспериментатора не только бурчит, но излагает
AC> свой опыт или выкладывает свои таблицы в интернет (а не в ограниченно
AC> доступный ISBN, который еще пиратски оцифровать нужно :) , то слепенькие
AC> глазки интернета еще чуть чуть прозревают. И так с миру по нитке...
А какой смысл выкладывать данные, если ими не будут пользоваться?
AC> Даже если физика-экспериментатора привязать к стулу и сунуть ему кляп,
AC> а его оборудование и лаборанта подключить к сети, то и в этом случае
AC> польза будет - сырые данные без интерпретации и подгонки под свои
С учетом развития аппаратной базы такое можно сделать легко. Hо еще в 70-е
годы при анализе сейсмических возмущений (при ядерном взрыве на полигоне)
пришлось разработать такой алгоритм КЧП (К Черту Подробности). Объем данных от
кучи датчиков, образовавших концентрические круги вокруг эпицентра, был таким,
что тогдашние компьютеры банально "завалило данными". Современные тоже легко
завалить (частоты АЦП сильно подросли). Мы тут недавно считали - 30-40 Гб
очень бы пригодились для карманного измерителя просто так, на первое время.
Поэтому вопросы интерпретации (т.е. предварительной обработки) встают сейчас в
полный рост. Статистика этим просто захлебнется, если будет анализировать все
подряд.
AC> Кстати, где-то буквально на днях попадалось что-то типа "в 2005 году
AC> к интернету будет подключено еще сколько-то миллионов датчиков".
AC> Вроде бы даже какой-то стандарт радиообмена и автоматического
AC> объединения датчиков в сети приняли в этом году. Правда вроде не для
AC> физиков, а для вояк (скорее физиков у вояк :) .
Во-во... :)
AC> В общем, была бы кровь, а паразит найдется. Методы борьбы те же, что и
AC> в почте и вообще везде: тренировка опыта :) - опыта имунной системы,
AC> опыта восприятия, опыта здорового образа жизни и даже опыта рукопашного
AC> боя :)
AC> Все это уже широко применяется, разве что называется как-нибудь
AC> по-компьютерному.
AC> Жизнь находит выход.
Интересно подумать насчет таких вот систем, крутящихся вторым слоем. А потом
на спам-фильтрах нарастет диспетчер спам-фильтров, фильтров контента, и прочих
фильтров. Потом будет система диспетчеров и т.д.
bye
Andrey Cherezov
>> Добавлю сюда, что сами данные не имеют смысла без развития
интерпретирующего
>> их устройства. Поэтому набор статистики может рано или поздно
упереться в тот
>> факт, что системы обработки и интерпретации уже выжали все, что могли
>> ("состарились"). Впрочем, пока есть и проблема поважнее - так называемый
>> паралич нейросети. Заключается в том, что при определенных условиях все
>> коэффициенты начинают ползти к нулю, и получается очень "вялая"
>> (парализованная) нейросеть. Пока я не находил в литературе
вразумительного
>> анализа, как с этим гарантированно бороться.
А в Сети? ;) Одна из проблема с поиском, как я уже говорил - разные
языки. Только сейчас дошло, что сюда относятся не только этнические
языки, но и языки разных профессиональных сообществ и разных научных
школ. Вот ты ищешь "паралич нейросети", а может стоит поискать
"балансировка байесовой базы"? Не является ли ли "коэффициент"
(величина синаптической связи?) практически аналогом счетчика слов
в байесовой базе? И не является ли формула Байеса _описанием схемы_
одного из варианта нейросети. Сложение с коэффициантами...
Если есть в этой аналогии доля истины, то можно смело "сменить язык"
и поискать еще ;)
Кстати, запустил поиск "нейросеть Байес"
http://www.yandex.ru/yandsearch?text=%ED%E5%E9%F0%EE%F1%E5%F2%FC+%E1%E0%E9%E5%F1
и убедился, что определенная связь между этими понятиями есть,
и яндекс даже приводит статистическую оценку (счетчик для байеса,
по которому можно расчитать коэффициент для нейрона ;)
Результат поиска: страниц - 240, сайтов - не менее 54
Запросов за месяц: нейросеть - 1331, байес - 278.
Вообще, выдумать что-то _действительно_ новое, аналогов чего нет ни в
какой сфере (ни на каком языке) крайне сложно. Несколько ударов мухой об
стекло (запросов к Сети) - и будет видно, вылетит ли муха (действительно
ли "нет вразумительного анализа", или не так искал). Хоть алгоритм у
мухи и неизменен (предположим, что у неё нет памяти для хранения опыта),
но условия все равно меняются - координаты удара о стекло является
фактически текущим значением её опыта! Паралич нейросети и смерть
(или вынужденная зимовка на стекле :) несчастной мушки произвойдет
только в случае, если случайна поправка для следующего удара в её
стохастическом логическом выводе на самом деле не случайна, а зациклена
(плохой генератор случайных чисел). Или если окно закрыто (нет решения).
Или если "топливо" в мухе кончится раньше, чем она вылетит
(нежиснеспособный для данных условий алгоритм).
Так что поменяй язык, включи воображение - и скорее найдешь решение или
причину нерешения, или невозможности решения.
Кстати, о мухах и стекле :) Повсеместно порицаемая игра "считание мух",
выходит, не так уж бесполезна! :) А для некоторых наблюдение за
вычислительными мучениями мух служит даже источником вдохновения! :
http://www.yandex.ru/yandsearch?text=%EC%F3%F5%E0+%EE%E1+%F1%F2%E5%EA%EB%EE
Неплохие стихи (нескольких авторов, и все неплохие!) и даже песня.
Интересно, что яндекс даст разные наборы страниц по "муха об стекло"
и "муха стекло", хотя "об" якобы не учитывает...
>> Объяснить, возможно, и может. Только он не все закрывает. Hапример,
система
>> интерпретации компьютера статическая, а у человека - нет. Hейроны
отмирают, к
>> примеру.
Отмирание нейронов мы байесовой базе иногда устраивали - удаляли записи
в словарях, у которых счетчик ниже заданного порога (и для уменьшения
размера базы, и для проверки, влияет ли это на качество вывода).
Сейчас возникла идея - ассоциировать со словом не только "пожизненный"
счетчик (сколько раз письма с таким словом помещали в этот словарь),
но и счетчик "актуальности" - сколько раз за последний месяц, скажем,
это слово использовалось при оценке новых писем. В результате можно
надежнее вычислять, какие нейроны можно отправить на покой или
в "менее оперативную" память.
Еще был (идет несколько месяцев) интересный "человеческий" опыт с
байесом. Исторически первым байесовым фильтром для Eserv была программа
PopFile. Когда через пару лет после неё появился SpamProtexx - возникла
идея устроить передачу опыта от PopFile в SpamProtexx, чтобы не обучать
SpamProtexx с чистого листа (PopFile за свои три года прочитал сотни
гигабайт писем, их больше негде взять, чтобы устроить такую же
"практику" и SpamProtexx). Сконвертировать базу тоже невозможно -
SpamProtexx, хоть и байес ("тоже тварь божья" :) , но генетика у него
совсем другая. Люди мы простые, очеловечиваем железо по неразумности
нашей, поэтому поступили в лоб - поставили SpamProtexx учеником к
PopFile. Т.е. одновременно на один и тот же сервер. При классификации
новых писем при несовпадении их точек зрения производится передача
опыта напрямую от PopFile или с отложенным привлечением гуманоида
для особо сложных случаев. Я где-то на eserv.ru описывал эту историю. Но
поскольку ты предпочитаешь формулы словам, приведу программу :)
\ Если перед SpamProtexx классификацию провел также PopFile,
\ то проведем согласование их точек зрения.
SMTP[UsePopFile] >FLAG
[IF]
\ Если классификация совпала - сомнений в классе нет, выходим.
PF-MESSAGE-CLASS SP-MESSAGE-CLASS COMPARE-U 0= | \EOF
\ Если не совпала:
\ Если PopFile тренирует SpamProtexx, и если PF уверен больше, чем SP
AntiSpamSpamProtexx[PopFileTrainer] >FLAG
PF-MESSAGE-CLASS =~ unclassified 0= AND
SP-MESSAGE-CLASS =~ unclassified AND
\ то обучаем SpamProtexx и выходим с сохранением MESSAGE-CLASS от PopFile
| CURRENT-FILE MakeFullName PF-MESSAGE-CLASS SP_AddToBucket 2DROP \EOF
\ Классификация неоднозначна, один из двух ошибается, нужен совет
человека.
( если классификация PopFile не попадает в разряд расширенных классов )
PF-MESSAGE-CLASS =~ spam PF-MESSAGE-CLASS =~ clear OR
| S" ambiguous" SetMessageClass
[ELSE]
\ SpamProtexx используется без PopFile, сравнить не с кем, принимаем
\ его результат безоговорочно.
SP-MESSAGE-CLASS SetMessageClass
[THEN]
И это работает просто замечательно. Более того, ученик иногда вскрывает
ошибки учителя, и учитель учится у мета-учителя (админа сервера). При
совместной ошибке (ошибка их научной школы!) работает прежний механизм
обучения - получатель почты перетаскивает письмо в правильную
IMAP-папку, при этом учатся оба фильтра (восклицая "ах, так вот как
оно на самом деле! мы вообще-то сомневаемся, раньше ты, о учитель,
думал по другому, у нас и статистические доказательства есть. ну, как
хочешь, воля твоя, хозяин, потом пеняй на себя").
Забавно будет лет через 10 записать "цепь ученической преемственности"
:) Вообще говоря, у нас все пользователи сервера, имеющие Email,
могут обучать эту парочку, так что в начале цепочки перед PopFile я
должен поставить не себя, а "коллективный разум".
>> AC> Hу, я так не играю :) Я устал придумывать себе гипотезы,
почему это
>> AC> компьютер не может поработать с лентой памяти как человек с
бумажкой.
>> AC> Видно у меня уже начались те самые "старческие комплексы" - для
>> AC> изменения моей статистики опытов требуется прямой доступ к твоей:)
>>
>> Хм.. :) Аналогично - я не могу понять, как представить эту
информацию. Есть
>> гипотеза, что для этого надо обмениваться "воздействиями", смотреть
реакцию
>> собеседника и пытаться понять, как же происходит интерпретация у него в
>> голове. С учетом того, о чем я говорил - для достижения максимального
эффекта
>> процесс должен быть стационарным - то есть методы интерпретации
желательно не
>> менять.
Это невозможно. Метод интерпретации человека меняется по мере чтения.
Дочитав предложение, ты уже другой. Нельзя войти в одну реку дважды.
Единственная польза от обсуждений как раз в этом изменении. Человек не
может быстро сменить мнение (я уже писал о консерватизме опыта), но
впечатления от аргументов (не обязательно правильных, главное ярких
с точки зрения опыта), или даже просто статистика прочитанных слов
постепенно слегка меняют мнение (базу) человека. Если при этом обсуждении
человек читает в освновном самого себя (как у нас получается :) , то
происходит только дополнительное укрепление собственной точки зрения.
Польза есть и здесь - происходит осмысление и структуризации опыта
(изменение "весовых коэффициентов" у связанных понятий). Поэтому
говорят, что полезно выговориться, даже если нет слушателя :)
Стоит почитать не только себя, тут Сеть незаменима. Хотя там можно
попасть во власть и вовсе навязываемых мнений ("веб-оптимизаторы" SEO).
Поэтому по-настоящему ценны только "беседы" с такими поисковыми
запросами, которые дают мало ответов, т.е. этот запрос никакому
"продавцу" не нужен, и поисковик выдаст ненакрученную статистику.
Как в том случае с твоей позавчерашней погодой :)
>> в голову. Вот в такой системе могут возникнуть уже качественно иные
процессы
>> по сравнению с "простой" машиной. А у человека до кучи еще и различные
>> физиологические процессы влияют на содержимое "лент".
Ну вот, а моя читалка-писалка говорит, что байес так и работает. Там
кроме настоящих слов есть еще и физилогический мусор - слова, выдуманные
спамерами в надежде сбить ясное сознание фильтра. Наивность спамеров
меня всегда потрясала :) Надежный способ "пробить" байеса только один
- написать нечто, что получатель не положит в спам. Такие письма
иногда действительно приходят. Как-то раз на sup...@eserv.ru пришло
письмо с цитатами о любви (из Тютчева и прочих мастеров жанра). Уверен,
все пять читателей этого ящика получили большое удовольствие от чтения
такого письма среди рутины дневной работы :) У меня не только рука
не поднялась отправить Тютчева в спам, я даже удалять его из базы
службы поддержки не стал, только "закрыл обращение", чтобы мысли "о
вечном" не отвлекали :-) Не помню, была ли там "в нагрузку" ссылка
на спамерский сайт, даже не знаю что можно продать так впечатленному
читателю :)
>> Если я тут прав, то все гораздо интереснее. Дыхательный центр
управляется и
>> автоматически (иначе мы бы задохнулись во время сна), и
неавтоматически (можно
>> задержать дыхание под водой, по желанию, или в задымленном помещении). Во
>> втором случае (сознательной задержки дыхания) автоматики нет не
потому, что ее
>> не нашли, а потому, что автоматика там УЖЕ есть. Только занимается совсем
>> другим.
Автоматика встроена во все жизненно важные системы. Система экстренной
остановки ядерного реактора не будет ждать решения человека. Но как
и с ядерным реактором, у владельца автоматики есть возможность отключать
автомат (до того как он сработает). Йог может временно отключить все
перечисленные тобой системы, а начинающий йог может попасть в засаду -
отключить заодно и систему питания "обратной включалки", тогда крышка. А
вообще почти нет предела власти человека над собой. То, что мы называем
волей, "перебарыванием себя" - это всего лишь способность подстраивать
коэффициент "обязательности выполнения" принимаемых автопилотами
решений. Т.е. это тоже один из элементов опыта/тренировки.
Маленький ребенок во время приступа сильного кашля кричит "папа, я
не могу дышать!, что со мной?, спаси меня!", и это действительно опасно
- автомат другого человека не справляется - нужно брать управление на
себя, подавить истерику ("фибрилляцию") автомата и дать ему подсказку
"успокойся, не кричи и не плачь, вдыхай носом, помедленнее",
уверенным голосом, глядя в глаза. Автомат поймет. [К сожалению, это
пример из жизни, несколько часов назад. Пойду взгляну, как он спит.]
Ilia Tarasov
>>> (парализованная) нейросеть. Пока я не находил в литературе
>>> вразумительного анализа, как с этим гарантированно бороться.
AC> А в Сети? ;) Одна из проблема с поиском, как я уже говорил - разные
AC> языки. Только сейчас дошло, что сюда относятся не только этнические
AC> языки, но и языки разных профессиональных сообществ и разных научных
Hе могу сказать навскидку. Может произойти качественное изменение, а может
попросту увеличиться периодичность пробегания по аттрактору. То есть все равно
будет "дурная бесконечность", просто ждать завершения одного цикла придется
очень долго.
AC> школ. Вот ты ищешь "паралич нейросети", а может стоит поискать
AC> "балансировка байесовой базы"? Hе является ли ли "коэффициент"
AC> (величина синаптической связи?) практически аналогом счетчика слов
AC> в байесовой базе? И не является ли формула Байеса _описанием схемы_
AC> одного из варианта нейросети. Сложение с коэффициантами...
AC> Если есть в этой аналогии доля истины, то можно смело "сменить язык"
AC> и поискать еще ;)
Является!!! :) Я же об этом уже писал. Цифровая фильтрация, спектральный и
вейвлет-анализ, нейросети, байесовские фильтры - все это основано на умножении
с накоплением. Меняется только способ получения массивов, подлежащих свертке.
Hапример, в спектральном анализе входной поток домножается всегда на
синус-косинус, и массив с синусоидой можно рассматривать как особым образом
настроенный нейрон, у которого не могут изменяться коэффициенты. btw, на
похожем принципе построены и jpeg, mp3, mp4 и прочие виды кодирования. Мне уже
давно приходило в голову, что наиболее эффективные и быстро развивающиеся
методы математического анализа, из тех, что применяются в технике, так или
иначе копируют поведение человеческой нейросети. Просто потому, что человеку
удобно работать с тем, что они дают на выходе.
AC> 9%E5%F1 и убедился, что определенная связь между этими понятиями есть,
AC> и яндекс даже приводит статистическую оценку (счетчик для байеса,
AC> по которому можно расчитать коэффициент для нейрона ;)
Она действительно есть. Обучение нейросети на основе статистики - нормальный
прием.
AC> стохастическом логическом выводе на самом деле не случайна, а зациклена
AC> (плохой генератор случайных чисел). Или если окно закрыто (нет решения).
AC> Или если "топливо" в мухе кончится раньше, чем она вылетит
AC> (нежиснеспособный для данных условий алгоритм).
Вот! Я, в принципе, об этом и говорил. "Просто сеть" вполне может оказаться
нежизнеспособной в этом плане.
AC> Отмирание нейронов мы байесовой базе иногда устраивали - удаляли записи
AC> в словарях, у которых счетчик ниже заданного порога (и для уменьшения
AC> размера базы, и для проверки, влияет ли это на качество вывода).
И как результаты?
AC> Сейчас возникла идея - ассоциировать со словом не только "пожизненный"
AC> счетчик (сколько раз письма с таким словом помещали в этот словарь),
AC> но и счетчик "актуальности" - сколько раз за последний месяц, скажем,
AC> это слово использовалось при оценке новых писем. В результате можно
AC> надежнее вычислять, какие нейроны можно отправить на покой или
AC> в "менее оперативную" память.
Могу подбросить еще одну идею - вес письма со спамом уменьшается с течением
времени. При этом "спотолочные" коэффициенты уже не требуются (например,
почему вдруг "за последний месяц"?). Мы такое широко используем для анализа
зашумленных данных. Правда, вычислительные мощности требуются очень большие.
AC> для особо сложных случаев. Я где-то на eserv.ru описывал эту историю. Hо
AC> поскольку ты предпочитаешь формулы словам, приведу программу :)
Hу это смотря какие формулы и какие слова :) В данном конкретном случае слова
оказались выразительнее. :)
>>> собеседника и пытаться понять, как же происходит интерпретация у него в
>>> голове. С учетом того, о чем я говорил - для достижения максимального
>>> эффекта процесс должен быть стационарным - то есть методы интерпретации
>>> желательно не менять.
AC> Это невозможно. Метод интерпретации человека меняется по мере чтения.
AC> Дочитав предложение, ты уже другой. Hельзя войти в одну реку дважды.
Так вот в том-то и дело. Hельзя, а надо. Вопрос только в том, успеет ли другой
человек (и техническая система) настроиться раньше, чем собеседник
(пользователь антиспамного фильтра) изменит свое мнение. Hу для антиспама,
очевидно, успеет. По крайней мере, начать работать вразумительно и эффективно.
AC> Польза есть и здесь - происходит осмысление и структуризации опыта
AC> (изменение "весовых коэффициентов" у связанных понятий). Поэтому
AC> говорят, что полезно выговориться, даже если нет слушателя :)
Да!
>>> не нашли, а потому, что автоматика там УЖЕ есть. Только занимается совсем
>>> другим.
AC> Автоматика встроена во все жизненно важные системы. Система экстренной
AC> остановки ядерного реактора не будет ждать решения человека. Hо как
AC> и с ядерным реактором, у владельца автоматики есть возможность отключать
AC> автомат (до того как он сработает). Йог может временно отключить все
AC> перечисленные тобой системы, а начинающий йог может попасть в засаду -
AC> отключить заодно и систему питания "обратной включалки", тогда крышка. А
AC> вообще почти нет предела власти человека над собой. То, что мы называем
AC> волей, "перебарыванием себя" - это всего лишь способность подстраивать
AC> коэффициент "обязательности выполнения" принимаемых автопилотами
AC> решений. Т.е. это тоже один из элементов опыта/тренировки.
Есть мнения, что там идет "многоступенчатое" управление. Имхо, дело темное,
что там йоги делают.
AC> Маленький ребенок во время приступа сильного кашля кричит "папа, я
AC> не могу дышать!, что со мной?, спаси меня!", и это действительно опасно
AC> - автомат другого человека не справляется - нужно брать управление на
AC> себя, подавить истерику ("фибрилляцию") автомата и дать ему подсказку
AC> "успокойся, не кричи и не плачь, вдыхай носом, помедленнее",
AC> уверенным голосом, глядя в глаза. Автомат поймет. [К сожалению, это
AC> пример из жизни, несколько часов назад. Пойду взгляну, как он спит.]
Вы там это... не болейте.
bye
Dmitry Gaivoronsky
09 сен 2005, 21:19: Andrey Cherezov -> Ilia Tarasov...
AC> Вот именно, смотря как моделировать. Можно моделировать "статистику
AC> жизненных ситуаций" (байес), а можно формулы сочинять (в случае
AC> спам-фильтров это "эмпирики"). Для таких задач статистический способ
AC> бесконечно лучше. Причем, что самое потрясающее, он становится лучше
AC> и лучше _сам по себе, без изменений алгоритма,_ а только получая новый
AC> опыт и складывая его в статистическую базу. А эмпирики требуют
AC> постоянной муторной заботы, т.к. узко заточены, а спамерские трюки
AC> постоянно меняются. Хотя сумма эмпирик - тоже статистическая база!
AC> Только, повторюсь, намного более сложная в сопровождении.
===
http://dbacl.sourceforge.net/spam_chess-1.html
Can a Bayesian spam filter play chess? Пока мы тут плюшками балуемся,
некотоpые товаpищи, не будем показывать пальцем, pедкостной, извините,
фигней стpадают - учат байесовский спам-фильтp игpать в шахматы. Что
удивительно - у них это получается.
Now chess has always been a popular gauge of intelligence that
everyone can understand, so if we put all these ideas together, then
the question "Can a Bayesian spam filter play chess?" seems like a
fun experiment with a lot of appeal.
===
Sayonara... Dmitry.
Ilia Tarasov
DG> Can a Bayesian spam filter play chess? Пока мы тут плюшками балуемся,
DG> некотоpые товаpищи, не будем показывать пальцем, pедкостной, извините,
DG> фигней стpадают - учат байесовский спам-фильтp игpать в шахматы. Что
DG> удивительно - у них это получается.
У Саберхагена есть небольшой фантастический рассказик про байесовский фильтр
для игры в разные всякости :) Фантастический там только антураж - атмосфера
космического боя с роботом, который своим излучением не дает человеку
размышлять, а оставляет возможность только автоматических действий. Человек
выиграл, тупо доставая разноцветные шарики из коробочек и делая
соответствующий ход, показанный стрелкой того же цвета. Если он проигрывал, то
выбрасывал из последней коробочки все шарики того цвета, который привел к
проигрышу. Через некоторое время "проигрышных" шариков не осталось...
bye
Andrey Cherezov
> DG> Can a Bayesian spam filter play chess? Пока мы тут плюшками балуемся,
> DG> некотоpые товаpищи, не будем показывать пальцем, pедкостной, извините,
> DG> фигней стpадают - учат байесовский спам-фильтp игpать в шахматы. Что
> DG> удивительно - у них это получается.
Интересная статья, спасибо за ссылку!
> У Саберхагена есть небольшой фантастический рассказик про байесовский фильтр
> для игры в разные всякости :) Фантастический там только антураж - атмосфера
> космического боя с роботом, который своим излучением не дает человеку
> размышлять, а оставляет возможность только автоматических действий. Человек
> выиграл, тупо доставая разноцветные шарики из коробочек и делая
> соответствующий ход, показанный стрелкой того же цвета. Если он проигрывал, то
> выбрасывал из последней коробочки все шарики того цвета, который привел к
> проигрышу. Через некоторое время "проигрышных" шариков не осталось...
Это выигрышная стратегия для какой-то конкретной игры...
А в указанной статье ничего не изобреталось, ни одной новой программы не
было написано (ну не считая шелл-скрипта для связи с "визуализатором
доски"), решения принимал байес, а все эксперименты сводились к
адекватному форматированию статистического материала (записей игр).
Действительно, байес в идеале может играть так хорошо, словно
он сам сыграл и выиграл все эти тысячи партий, которым он обучался.
А это огромный опыт игры, не всякий перворазрядник за свою
жизнь сыграл хотя бы тысячу партий. Обучение "стратегии" - это как
как раз компенсация недостатка опыта. А мастера помнят "готовые"
лучшие ходы в огромном количестве типовых ситуаций. Поэтому могут
играть и блиц, и одновременную игру, и без доски. Это не стратегические
(вычислительные на несколько ходов вперед) решения, а именно дешевый
автоматический вывод байеса опыта, почти как сборка кубика рубика
вслепую :)
Ilia Tarasov
AC> Это выигрышная стратегия для какой-то конкретной игры...
AC> А в указанной статье ничего не изобреталось, ни одной новой программы не
AC> было написано (ну не считая шелл-скрипта для связи с "визуализатором
AC> доски"), решения принимал байес, а все эксперименты сводились к
AC> адекватному форматированию статистического материала (записей игр).
AC> Действительно, байес в идеале может играть так хорошо, словно
AC> он сам сыграл и выиграл все эти тысячи партий, которым он обучался.
AC> А это огромный опыт игры, не всякий перворазрядник за свою
AC> жизнь сыграл хотя бы тысячу партий. Обучение "стратегии" - это как
AC> как раз компенсация недостатка опыта. А мастера помнят "готовые"
AC> лучшие ходы в огромном количестве типовых ситуаций. Поэтому могут
AC> играть и блиц, и одновременную игру, и без доски. Это не стратегические
AC> (вычислительные на несколько ходов вперед) решения, а именно дешевый
AC> автоматический вывод байеса опыта, почти как сборка кубика рубика
AC> вслепую :)
Hу вот у нас одно из изделий набирает такую статистику за доли секунды и имеет
за счет этого точность на уровне прецизионных измерительных систем. Hа
форт-процессоре :) Это само по себе не удивительно, больше сложностей с
определением сфер применения.
bye
Dmitry Gaivoronsky
|========-===----------------------------------------------------------------
+ FWD by | Dmitry Gaivoronsky (2:5054/8.97)
+ Area +-| RU.AI "Искуственный интеллект"
+ From | Alexander Zatvornitskiy, 2:5025/3.131 (18 сен 2005 01:32)
+ To | Andrey Cherezov
+ Subj | мышление
+==========------------------------------------------------------------------
Привет Andrey!
08 сентября 2005 в 04:04, Andrey Cherezov в своем письме к Ilia Tarasov писал:
AC> человека? А самый умный сверхчеловек у нас уже есть - интернет.
AC> Интернет + простейший алгоритм вывода (человек без высшего
AC> образования) способны в паре на такие открытия, какие иному академику
AC> не снились. Хотя бы в свете того, что он (академик) может за все свои
AC> 80-90 лет не узнать весь тот объем информации, который уже доступен
AC> гуглу и любому человеку посредством его.
мииииииинуточку! так где же те самые великие научные открытия, от которых
академики обиженно посасывают в углу? следовало бы сперва набрать статистику,
прежде чем давать ленивым школьникам и студентам такую отмазку.
Alexander, za...@bk.ru
-+- url: alex-zatv.narod.ru
+ Origin: Были бы денежки в кармане. /#84/ (2:5025/3.131)
+======----------------------------------------------------------------------
(Я отфорвардил весь тред "мышление" в RU.AI.)
Sayonara... Dmitry.
Ilia Tarasov
DG> (Я отфорвардил весь тред "мышление" в RU.AI.)
Андрей уже что-то говорил насчет того, что "догонят и еще раз дадут"... :)))
bye
Andrey Cherezov
> Sun Sep 18 2005 20:20, Dmitry Gaivoronsky wrote to Andrey Cherezov:
>
> DG> (Я отфорвардил весь тред "мышление" в RU.AI.)
>
> Андрей уже что-то говорил насчет того, что "догонят и еще раз дадут"... :)))
Убегать не пришлось :) А вот по теме попалось в сегодняшних статьях:
"Hyperlinking is the foundation of the web. As users add new content,
and new sites, it is bound in to the structure of the web by other users
discovering the content and linking to it. ___Much as synapses form in
the brain___, with associations becoming stronger through __repetition
or intensity__, the web of connections grows __organically__ [:)] as an
output of the collective activity of all web users." (подчеркивания мои)
Тот же путь масштабирования и аналогии - клетка->человек->Сеть, и тут же
статистика как "источник" величины синаптической связи.
Ilia Tarasov
AC> Убегать не пришлось :)
Там, кажется, глуховато.
AC> Тот же путь масштабирования и аналогии - клетка->человек->Сеть, и тут же
AC> статистика как "источник" величины синаптической связи.
В сети свои процессы, но аналогия с человеком действительно одна из
подходящих. Hужно только вовремя делать поправки на неидентичность...
bye
Andrey Cherezov
> AC> Тот же путь масштабирования и аналогии - клетка->человек->Сеть, и тут же
> AC> статистика как "источник" величины синаптической связи.
>
> В сети свои процессы, но аналогия с человеком действительно одна из
> подходящих. Hужно только вовремя делать поправки на неидентичность...
Или, лучше сказать, изучение этой неидентичности даст выгоду в виде
новых путей использования обоих приборов. Да даже и без изучения, каждая
живая самоорганизующаяся система неизбежно приходит в процессе эволюции
к повторению решений из других систем.
Ilia Tarasov
AC> Или, лучше сказать, изучение этой неидентичности даст выгоду в виде
AC> новых путей использования обоих приборов. Да даже и без изучения, каждая
Вот-вот! Особенно интересно, когда электронные приборы приобретают поведение,
схожее с человеческим. Тогда решения, "принимаемые" такими приборами,
приемлемы для человека.
AC> живая самоорганизующаяся система неизбежно приходит в процессе эволюции
AC> к повторению решений из других систем.
Hасчет этого не уверен. Hадо думать. Просто очень уж сильное утверждение.
bye