подумал, может создать ветку для комментариев и мини-обсуждений,пока
для отдельного топика не созреет достаточно мыслей :-)
Недавно на лекции Wolfgang Banzhaf говорил о натуральной эволюции, я
отметил график, на котором была изображена зависимость так сказать
активной и пассивной генетической информации: процент пассивной
информации неуклонно растет от простейших видов к человеку, что
наводит на набор вопросов и предположениях о целях ее хранения. плюс
те факты, что генетически мы не так сильно отличаемся от шимпанзе и
прочих более 'простых' видов. я к тому, что процент мутации следует
вероятно считать не от всей строки, а от 'эффективной' (вопрос Какие
гены мутируют, да и мало ли это 60 для скорости эволюции человека).
добавим к тому предположение об активации/включении той или иной
генетической информации в процессе жизни (что пожалуй бьет по рукам
численному 'среднему' измерению).
что касается моего мнения, я не уверен что 'скриншоты' биологической
эволюции сегодняшнего человека представляют главный интерес (будь я
фармацевтом, сломал бы за такое руки ;), сегодня нам пожалуй пока
более интересны простейшие и поиск того моторчика роста, который
привел к человеку, а человек как большая сложная формула/модель
конечно интересен, но в целом сложен, когда мы еще слабо владеем
арифметикой.
моя вторая позицию, это то что эволюция человека сейчас это уже не
биология (забудем про адаптацию к новым болезням), а эволюция
цивилизации, и физические способности шагают куда медленнее, чем
обогащение информационного пространства и подходов к решению задач
обе позиции пожалуй не новы ;)
p.s. если взглянуть скептически, то позитивная статья в Nature и New
York Times это то, что нужно, когда вы потратили кучу бабок ;-)
Конечно, интересно, что промутировало всего 60 генов, но, на мой
взгляд, нужно больше статистики. А еще есть такая "теория
нейтральности", согласно которой большая часть мутаций -- нейтральна,
т.е грубо говоря не оказывает прямого влияния на приспособленность,
потому что попадает в "молчащие" гены, либо просто не оказывает
существенного влияния. Если следовать этой теории, то из 60
мутировавших генов реальный эффект оказала только малая часть мутаций
(выходит, ребенок должен быть очень похож на родителя? эх, жалко что в
статье фото участников эксперимента и медицинские карты нельзя было
привести :)).
Юрий
На самом деле, это очень больной вопрос, и в моем понимании для
улучшения ситуации не делается практически ни-че-го. А то, что
делается -- это для сиюминутный целей и на краткосрочную перспективу,
т.к. фундаментальную науку толком не финансируют. РФФИ уже второй год
проводит "урезание" финансирования по грантам на 20-30 %, при том, что
сами гранты не ахти какие и не идут ни в какое сравнение с
европейскими. Большинство хотят по-простому: "открываете инновационное
предприятие -- за пару лет разворачиваете бизнес на миллионы долларов
и все рады", и правительство вбухивает неимоверные суммы в эти
прожекты. В итоге имитация кипучей деятельности, пухлые отчеты на
12375698734 страниц и почти нулевой выхлоп. Хотя, может быть, это я
все в таком мрачном свете вижу. В РАНовских НИИ, говорят, ситуация
стала лучше в последние 2-3 года, но в ВУЗах индексацию з/п уже второй
год не проводят, а несколько лет назад обещали к 2010г. среднюю з/п в
вузе поднять до 1--1,5 тысяч бакинских рублей (хотя коммунизм вообще
обещали построить к 1980-му году :)).
Очень часто проблема заключается в "странном" расходовании денег
(закономерность: здания часто снаружи и внутри находятся в гораздо
лучшем состоянии, чем большинство людей, которые там работают),
поэтому, Илья, на мой взгляд, твой сценарий хоть и хорош, но у нас
просто не будет работать, т.к. в реальности, скорее всего, поручат
выполнение этой задачи человеку, который в лучшем случае потребует
прибавление к зарплате и хорошую премию из этих 10 млн. за
рассмотрение заявок и отчетов, а в худшем попытается организовать свое
структурное подразделение и станет маленьким босом, а потом устроит
активность в виде конкурса на поездки, чтобы народ доказал значимость
конференции, необходимость поездки и что всем станет от этого лучше
жить (джентльменам на слово у нас как-то верить не принято) и т.д. А
10 млн., хоть, согласен, это и не такая великая сумма, найти будет
тяжело (эх, таким Макаром уволят меня из ТУСУРа ;)). Политех выделяет
порядка 5-7 млн. на организацию всей политеховской молодежной науки
(эта сумма включает организацию конференций, олимпиады, премии,
коммандировки и т.д.) и соответствующий отдел этим очень даже
козыряет, а политех побогаче будет (из политеха тоже уволят :)).
В общем можно долго ругаться и плеваться, но что есть, то есть. Если
бы моя жена не боялась далеко уезжать, я бы давно уже поехал куда-
нибудь на постдок на 2-3 года и постарался остаться, т.к. хочется уже
пожить и поработать в стране, где простых граждан уважают и ценят, а у
нас даже ветеранов ВОВ не могут нормально обеспечить, какая уж тут
наука... (вот, вдогонку к увольнениям и гражданства лишат %)).
Юрий
Юрий
--
Вы получили это сообщение, поскольку подписаны на группу Эволюционные вычисления.
Чтобы добавлять сообщения в эту группу, отправьте письмо по адресу ec...@googlegroups.com.
Чтобы отменить подписку на эту группу, отправьте сообщение по адресу ecetc+un...@googlegroups.com.
О дополнительных функциях можно узнать в группе по адресу http://groups.google.com/group/ecetc?hl=ru.
С зарплатой профессоров примерно так и есть (по крайней мере в ТПУ и
ТУСУРе) или немного меньше, т.е. на общем фоне, наверное, неплохо.
Хотя у знакомого профессора в ТГАСУ на полной ставке получается меньше
20 тыс. Еще вот пример: буквально сегодня говорил с одним профессором
из ТУСУРа, рассказал ему про КИИ-2010 (кстати,
http://raai.org/news/arch_news/2010/03/kii2010-1letter.doc) и он
сказал, что поехать в Тверь скорее всего не сможет, т.к. денег нет.
В общем, интересный это вопрос, наука в России :), можно долго
обсуждать. Кстати, любопытно, но домен "http://science.ru/" не
занят :) Страница есть, просто кто-то хочет перепродать, а в самой
верхней строчке есть список "родственных сайтов" и все они
порнографической направленности. Символично :)
Интересные результаты.
Все что я бы желал бы в этом случае, это прикрепленный мини-алгоритм
лучше всего на матлабе для каждого из первой пятерки. Вероятно многие
алгоритмы - гибриды, т.е. могут быть далеки от своих же канонических
версий.
Из того что не влезло в таблицу - размерности задач. Хотя кому надо -
посмотрят.
On 12 мар, 18:09, "yuryt...@gmail.com" <yuryt...@gmail.com> wrote:
> Да, если бы так было (поездки и стипендии), то шансов у науки было бы
> больше. По крайней мере, аспиранты могли бы хоть как-то работать.
>
> С зарплатой профессоров примерно так и есть (по крайней мере в ТПУ и
> ТУСУРе) или немного меньше, т.е. на общем фоне, наверное, неплохо.
> Хотя у знакомого профессора в ТГАСУ на полной ставке получается меньше
> 20 тыс. Еще вот пример: буквально сегодня говорил с одним профессором
> из ТУСУРа, рассказал ему про КИИ-2010 (кстати,http://raai.org/news/arch_news/2010/03/kii2010-1letter.doc) и он
Гуд что появился такой журнал, я даже как-то легко представил как я
написал туда статью.
Есть правда одна проблема, вот например статья по многокритериальной
оптимизации, а именно "Сужение множества Парето
на основе наборов взаимно зависимой информации о нечетком отношении
предпочтения": http://aidt.ru/images/documents/2009-02/34-44.pdf
Когда просматриваешь статью, создается впечатление, что мы работаем в
разных областях, т.е. для меня это "странная" статья, т.е. не такая,
какие я обычно вижу по этой теме. Я полагаю, что для автора моя бы
статья, или статья которые я вижу выглядели бы так же странными .
т.е. мой краткий вопрос на статью: а почему не использовать
nondominated sorting и hypervolume или другой индикатор. И тут даже
если ответ "НЕТ, потому что ..." , то он должен быть написать прямо в
тексте статьи, чтобы дать остыть странным ребятам вроде меня.
On 19 мар, 13:57, "ilya.loshchi...@gmail.com"
On Mar 21, 2:27 pm, "ilya.loshchi...@gmail.com"
на мой взгляд, дело в том, что вы с автором статьи работаете в разных
областях, т.к. задача многокритериальной оптимизации часто делится на
две части:
1. генерация альтернатив (здесь среди прочих и эволюционные
алгоритмы). Результатом является набор альтернатив. Свежий пример: 4
пункта, в которых можно было бы построить Российскую силиконовую
долину (Питер, Сколково, Томск и по-моему Новосибирск).
2. оценка альтернатив и выбор (здесь автор). При этом, очень часто на
этом этапе сразу предполагается, что сравниваемые альтернативы
находятся на границе Парето. Даже если это не так, то не оптимальные
по Парето альтернативы быстро отсеиваются и non-dominated sorting это
один из возможных вариантов, просто, в математике уже давно (60-70-е
годы, если не ошибаюсь) придумано много своих методов, и остаются
только "крепкие орешки", выбор между которыми действительно затруднен.
Результатом является 1 (иногда 2) наилучших решения.
т.е. если посмотришь практически любую статью по методу аналитических
иерархий, то там тоже не будет ни nondominated sorting, ни индикаторов
там не будет, т.к. на самом деле правильнйы выбор из имеющихся
альтернатив задача часто гораздо более сложная.
В статье есть еще одна интересная особенность. Предполагается, что ЛПР
действует в соответствии с известными аксиомами рационального выбора,
которые приведены в статье и которые, кстати, весьма достойно
оправдывают свое название. Но самое интересное заключается в том, что
в огромном количестве случаев люди руководствуются не рациональным
выбором, а эмоциями, поэтому пока что не существует ни одной
универсальной модели, описывающей особенности человеческого (не
математического) выбора. На эту тему есть много всяких парадоксов,
например, дилемма генерала (совсем немного изменил условия из
http://www.gorskiy.ru/Articles/Dmss/Larichev.html):
"Генерал должен вывести воинское подразделение, насчитывающее 600
человек, из вражеского окружения по одной из двух дорог. Известно, что
при выборе первой дороги 200 человек будут спасены. При выборе второй
дороги имеется вероятность равная 1:3, что все 600 человек будут
спасены, и вероятность 2:3, что никто не спасется. Большинство выбрало
первую дорогу. Через некоторое время перед той же группой людей
ставилась та же задача, но со следующими условиями: при выборе первой
дороги погибнут 400 человек, при выборе второй - есть вероятность 1:3,
что никто не погибнет, и вероятность 2:3, что погибнет 600 человек.
Большинство предпочло вторую дорогу.
Совершенно очевидно, что задача одна и та же, но сформирована в первом
случае на языке "приобретений", а во втором - на языке "потерь".
Известен психологический факт разного поведения человека по отношению
к риску для задач с выгодами и потерями."
Т.е. это не значит, что в статье результаты плохие или еще что-нибудь.
Нет, статья, на мой вкус, вполне хорошая. Просто, как говорится "In
theory there is no difference between theory and practice. In practice
there is" :).
Юрий,
Я думаю, что мы работаем с автором в одной и той же области. Поскольку
если предпочтения могут быть сформированы, то поиск
и выбор может осуществляться на их основе. Так, hypervolume
contribution, например, может быть использован для выбора между Парето
альтернативами, да и multiple criteria decision making это в сущности
может представлять собой environmental selection в алгоритме поиска. В
статье представлен вариант трансформации пространства целей ("сужение
Парето" здесь) на основе информации о предпочтениях.
Мое замечание в сущности основано на том, что автор не дает оценку
своего подхода среди других, он оставляет это на читателя.
Я как читатель провел свою оценку: я не увидел чего-то уникального, я
прикинул год той книжки, где это может уже было описано, в моей голове
появилось 80-85 год. Если бы автор указал, что этот подход имеет
схожие идеи с подходом А1 автора Б1 от 85 года, но лучше его и лучше
алгоритма А2 автора Б2 от 95 года, но является хорошей альтернативой
подхода А3,А4,А5, отличаясь рядом достоинств. Для своего алгоритма
оценка Парето фронта похоже не приведена, либо не представлена по
каким-то причинам (каким?).
Статья руководителя http://www.apmath.spbu.ru/ru/staff/nogin/ , "Ногин
В.Д. Новый способ сужения области компромиссов// Известия АН СССР,
Техническая кибернетика, 1976, No. 5, с. 10-14." (я ее не нашел) наводит
на мысль, что Ногин В.Д. утер бы нос многим, поскольку занимается этим
35 лет :) Вопрос в другом, утер чем? Позволю себе дерзость
предположить, что чем-то 20ти летней давности.
Проблема в том, что аспирант Климова продолжает эти исследования в том
же ключе, вероятно, без доли сомнения.
Я надеюсь, Вы сможете рассматривать мои замечания без оценки моей
собственной деятельности, поскольку это позволяет отбросить эмоции
вроде "а кто ты такой, чтоб это говорить", которую ни к чему
конструктивному не ведут. Хотя кто мешает, в этом весь мотор
дискуссий ? ;)
> например, дилемма генерала (совсем немного изменил условия изhttp://www.gorskiy.ru/Articles/Dmss/Larichev.html):
On 29 мар, 11:49, "Andrey Gavrilov" <avg1...@rambler.ru> wrote:
> Стремиться к нобелю мне, пожалуй, поздновато.
> Был бы лет на 20 моложе...)))
> А если серъезно, вы меня наверное не поняли.
> Когда вы смотрите по сторонам, вы ведь не можете на все 100% угадать и увидеть все, что делается вокруг. Вы видите только то, что доступно вашим органам чувств, и то, что готовы увидеть в соответствии с вашими целями и моделями действительности. И вам вовсе не обязательно иметь по "глазу" на каждый квадратный дециметр, например, в округе. Но это вам не мешает понимать окружающее в той степени, в какой это вам надо (конечно, всякое восприятие относительно, читайте замечательную книгу А.Уилсона "Квантовая психология").
> Вот с такой точки зрения я и рассматриваю "систему восприятия или распознавания мыслей". Для этого не надо снимать состояние каждого нейрона. Можно и снимать и огрубленную (или усредненную) информацию.
> А о том, как работает мозг, уже кое-что известно. Например. Я сейчас не смогу найти ссылку, но где-то было сообщение, что ученые обнаружили, что при распознавании значимых образов, например, лица родственника, на выходе системы распознавания (в верхнем слое коры) возбуждается всего один нейрон.
> И другой факт,полученный недавно, - в процессе обучения рождаются новые нейроны и мигрируют в нужное место коры, создавая необходимые связи (прошу прощения, что не привожу ссылки, т.к. сам не занимаюсь нейрофизиологией, а только искусственными НС, и эту информацию почернул из научно-популярных новостных рассылок).
> Но есть и специалисты в области ИИ, которые пытаются воссоздать как можно более точно логику работы коры с ее уровнями обработки информации и, вроде, довольно успешно (см. Jeff Hawkins, Sandra Blakeslee. On Intelligence). Ими сделан мобильный робот, управляемый такой моделью мозга.
> А.В.Гаврилов
>
>
>
> ----- Original Message -----
> From: Ilya Loshchilov
> To: ec...@googlegroups.com
> Sent: Monday, March 29, 2010 8:12 PM
> Subject: Re: {Эволюционные вычисления} Re: Лента - комментарии
>
> 'я могу представить, что управлять мышкой или классифицировать эмоции это проблема решаемая, но ловить сложные мысли ~ неплохо понимать как работает мозг :)' - я писал про классификацию ;)
> если я верно понял, то вы работаете в этой области, поэтому я еще более удивлен вашей позицией
>
> 'Насчет распознавания объектов (субъектов) в мыслях, нужна соотвествующая (высокая) разрешающая способность сети датчиков'
> хорошо, нужна высокая разрешающая способность, или иначе - больше лучших датчиков
> допустим благодаря датчикам вы сняли 'всю' картинку мозга - всю химию и физику, тогда что теперь? теперь дело в шляпе?
> классификация поможет вам ловить эмоции и некоторые позывы, как я и писал, но сложная мысль, например воспоминание или план/идея, требует от вас понимания принципов распознавания образов мозгом, если вы у вас есть такое детальное понимание, то видимо следует печатать в nature и в очередь за нобелем, если же вы используете современные, но стандартные методики, то боюсь что они далеки от чтения моих мыслей об шахматной партии, которую я играл вчера, а так же от тех ассоциаций с партиями, которые я играл в 8 лет. хотя шахматы, вероятно, можно отнести к относительно простым проблемам, когда у большинства 'пациентов' очень похожие подходы к хранению данных и решению задачи.
>
> если говорить о проблеме глобальнее, то если представить что жизнь человека - это решение многоцелевой задачи оптимизации/адаптации, то то, что вы увидите 'сняв' мозг, это процессы модификации и хранения информации, но не причины этих процессов.
> я полагаю, что для чтения сложных мыслей (а не эмоций), которые являются промежуточными решениями частной задачи оптимизации, вам требуется 'неплохо понимать как работает мозг' ( слово 'глубоко' все-таки отличается от слова 'неплохо')
>
> 29 марта 2010 г. 2:30 пользователь Andrey Gavrilov <avg1...@rambler.ru> написал:
>
> Вовсе не обязательно понимать глубоко как работает мозг. Эту задачу можно рассматривать как задачу распознавания (классификации). Имеем множество паттернов, взятых с разных участков коры, извлекаем информативные признаки (предобработка) и распознаем с помощью НС движения, эмоции, объекты, о которых мыслит человек и т.п. Т.е. имеем обратную симметричную задачу по отношению к обычной задаче распознавания (моделирующей работу мозга).
> Насчет распознавания объектов (субъектов) в мыслях, нужна соотвествующая (высокая) разрешающая способность сети датчиков.
> А.В.Гаврилов
> http://www.insycom.ru
>
> ----- Original Message -----
> From: Ilya Loshchilov
> To: ec...@googlegroups.com
> Sent: Monday, March 29, 2010 12:41 AM
> Subject: Re: {Эволюционные вычисления} Re: Лента - комментарии
>
> институт децентрализован, т.е. в нескольких городах равноправные лаборатории, поэтому как это часто бывает, люди не в курсе кто что делает :)
> с одной стороны тема перспективная, но для качественного шага нужно немало времени и денежных вложений в междисциплинарные исследования
> я могу представить, что управлять мышкой или классифицировать эмоции это проблема решаемая, но ловить сложные мысли ~ неплохо понимать как работает мозг :)
> а обзор хороший, можно сэкономить прилично времени
>
> 28 марта 2010 г. 15:56 пользователь yuryt...@gmail.com <yuryt...@gmail.com> написал:
>
> Илья,
> Очень интересный ролик, перспективная штука, особенно для людей с
> ограниченными возможностями. Хороший у тебя институт :) Пару лет назад
> слышал, как про подобный проект с интерфейсом мозг-компьютер
> докладывал А.А. Фролов из ИВНД и НФ, Москва, на Нейроинформатике-2008
> (http://neurolectures.narod.ru/2008/Frolov-2008.pdf). У них был
> немного другой принцип, там пытались силой мысли заставить курсор мыши
> перемещаться по экрану, что-то получалось, но т.к. человек постоянно
> отвлекается на всякие...
>
> продолжение >>
--
Если $605 млн составляют 0,00075% от выручки, то вся выручка будет
около 8,067E+15 долларов. Вспомним, что в 2008 жители Латвии
предложили Абрамовичу купить их страну за 7,500Е+9 долларов. Итого
получаем, что на выручку Газпрома можно купить больше 1 млн. Латвий :)
Если посчитать по-другому, то площадь Латвии составляет примерно 64500
км2, и раз можно купить в млн. раз больше земли, то получаем 6,450Е+10
км2, что почти в 13 раз больше всей площади поверхности нашей планеты
Земля, возможно, этого должно хватить, чтобы купить Землю целиком и с
Луной в нагрузку :). Ну или, на худой конец, хотя снтиметровый слой
всей Земной поверхности (т.к., по-хорошему, нужно учитывать ископаемые
ресурсы).
Аналогично можно посчитать по населению Латвии (2,253 млн. человек по
состоянию на октябрь 2009 г.). Выручки Газпрома хватит, чтобы купить
более 2,253Е+9 жителей Прибалтики, а это примерно треть населения
Земли. Да, с населением как-то "мелковато" получается: Землю уже
купить не выйдет, разве что пару материков %).
Понятно, что выручка -- это не чистая выручка и с нее потом много чего
"откусят", но опечатка получилась очень забавная :)
"Для задач очень малой размерности лучше всех оказался алгоритм NELDER
(Doe). При небольшом количестве вычислений ЦФ победили алгоритмы
NEWUOA, MCS и GLOBAL. В случае сложных функций и большого количества
вычислений ЦФ варианты CMA-ES и IDEA показали самые хорошие
результаты."
Что любопытно, примерно 10 из рассматриваемых алгоритмов в той или
иной степени используют EDA (если считать CMA-ES также вариантом EDA).
В трудах EvoCOP есть неплохая статья из Новосибирска (НГУ):
Alekseeva E., Kochetova N., Kochetov Y., Plyasunov A. Heuristic and
Exact Methods for the Discrete (r | p)-Centroid Problem
К сожалению, EuroGP2010 никак не открывается (размер 8729745 байтов,
может просто файл не "залился" в группу до конца?)
On 8 апр, 22:22, Ilya Loshchilov <ilya.loshchi...@gmail.com> wrote:
> очень хорошая затея, в этом году еще будут алгоритмы и вроде бы частные
> сравнительные анализы алгоритмов попарно
> + это стимулируют людей
>
> 8 апреля 2010 г. 17:04 пользователь yuryt...@gmail.com
> <yuryt...@gmail.com>написал:
>
>
>
> > Илья, спасибо за ссылку! Очень интересный материал. Чтобы сильно не
> > мудрить вот перевод отрывка из заключения:
>
> > "Для задач очень малой размерности лучше всех оказался алгоритм NELDER
> > (Doe). При небольшом количестве вычислений ЦФ победили алгоритмы
> > NEWUOA, MCS и GLOBAL. В случае сложных функций и большого количества
> > вычислений ЦФ варианты CMA-ES и IDEA показали самые хорошие
> > результаты."
>
> > Что любопытно, примерно 10 из рассматриваемых алгоритмов в той или
> > иной степени используют EDA (если считать CMA-ES также вариантом EDA).
>
> > --
> > Вы получили это сообщение, поскольку подписаны на группу Эволюционные
> > вычисления.
>
> > Чтобы добавлять сообщения в эту группу, отправьте письмо по адресу
> > ec...@googlegroups.com.
> > Чтобы отменить подписку на эту группу, отправьте сообщение по адресу
> > ecetc+un...@googlegroups.com <ecetc%2Bunsu...@googlegroups.com>.
Классная ссылка и очень много деталей, о которых сейчас сложно узнать.
Что интересно буквально вчера натыкался уже на этот блог (перешел с
блога Джулиана Тогелиуса, http://togelius.blogspot.com/), но сильно не
смотрел, разве что последний пост про советского мега-ученого :)
Юрий
--
Вы получили это сообщение, поскольку подписаны на группу Эволюционные вычисления.
Чтобы добавлять сообщения в эту группу, отправьте письмо по адресу ec...@googlegroups.com.
Чтобы отменить подписку на эту группу, отправьте сообщение по адресу ecetc+un...@googlegroups.com.
Да, публикации отличные и к тому же по теории ГА, что, к сожалению,
для российских работ -- редкость. Насколько знаю, А. Еремеев также
входит в оргкомитет ряда зарубежных конференций по эволюционным
вычислениям (тот же Evo*), что вообще практически уникальный случай
для молодого российского ученого, работающего в России. На сайте есть
еще интересный файл с вопросами и ответами для экзамена по спецкурсу
"Эволюционные алгоритмы и оптимизация": http://www.iitam.omsk.net.ru/~eremeev/PAPERS.SK/defs.pdf
Отдельно нужно отметить, что не в последнюю очередь публикации в
рейтинговых журналах достигнуты, благодаря хорошей математической
подготовке.
Просто, на мой взгляд, это статья, написанная психологами и для
психологов -- другой предмет исследования, специализированный и
специфичный язык, терминология, манера написания и свой (более
детальный, что ли) смысл, вкладываемый в привычные вроде слова. Хотя,
казалось бы, что научный метод и стиль должен быть унифицированным без
оглядки на конкретную науку, но на самом деле имеем дифференциацию
наук, и когнитивный шок при чтении статей из "не своих" областей :)
A simple genetic algorithm has been added. New keyword:
POPULATION_SIZE. Tours found by the first POPULATION_SIZE runs
constitute an initial population of tours. In each of the remaining
runs two tours (parents) from the current population is recombined
into a new tour (child) using a variant of the Edge Recombination
Crossover (ERX). The parents are chosen with random linear bias
towards the best members of the population. The child is used as
initial tour for the next run. If this run produces a tour better than
the worst tour of the population, then the resulting tour replaces the
worst tour. Premature convergence is avoided by requiring that all
tours in the population have different costs."
Про академию интересно, не знал, что есть такая возможность.
По поводу оптимизации всяких функций, недавно решил помучать CMA-ES и
подсунуть ей на вход ИНС с примерно 150-180 весами, в результате
замучился ждать, т.к. вычисление собственных векторов и значений для
матрицы 150х150 идет очень долго, хотя я добавил ограничение на
точность расчетов. Хотел попробовать гипотезу, что собственные векторы
не очень сильно меняются от поколения к поколению, а значит можно при
вычислении собственных векторов заранее преобразовывать матрицу
ковариаций в другой базис, образованный собственными векторами с
предыдущего шага, чтобы уменьшить количество итераций QR-разложения,
но там вообще программа сломалась, как раз из-за ограниченной
точности :). Пришлось откатываться к вещественному ГА с элитизмом и
агрессивной селекцией.
Я использую pure-CMA-ES, только переписанную на С#, правда там
злосчастные собственные значения вычисляются одним из самых прямых и
не самых быстрых способов (что интересно, вычислительно "правильные"
реализации поиска собственных значений из Math.Net и AlgLib нормально
работать не захотели и очень часто крэшились, особенно на первом
поколении, когда матрица была почти единичная).
On 8 июн, 23:29, Ilya Loshchilov <ilya.loshchi...@gmail.com> wrote:
> сорри, ссылка на springer, на самом деле статья конечно есть в google
> scholar
>
> 8 июня 2010 г. 20:28 пользователь Ilya Loshchilov <ilya.loshchi...@gmail.com
>
>
>
> > написал:
> > Согласен, d=150 это много %)
> > Можно попробовать sep-CMA-ES "A simple modification in CMA-ES achieving
> > linear time and space complexity<http://www.springerlink.com/index/a85w47t6p03r8067.pdf>
> > ".
> > Можно использовать код cma-es на matlab, есть вроде на сайте авторов, в
> > версии cma-es или bipop-cma-es. Там просто флаг для использования только
> > диагональной матрицы ковариации (сам я код в с флагом не юзал, но проблем не
> > должно быть в теории :). По сути можно разницу в коде (несколько строк)
> > исправить в c++ варианте cma-es.
> > На выходе сложность самого алгоритма sep-CMA-ES на одно вычисление ЦФ
> > растет квази-линейно, что спасает при больших размерностях.
> > Для экономии в cma-es можно обновлять матрицу каждые несколько поколений,
> > часто поиск от этого деградирует незначительно (в матлаб коде это есть
> > вроде).
> > А так, конечно d=150 это многовато :) Но вместо NN тогда можно юзать SVM,
> > он без локальных оптимумов и размерность "прячется" под ядро (kernel). Хотя
> > конечно как всегда успехи того или иного подхода зависят от проблемы :)
>
> > 8 июня 2010 г. 20:09 пользователь yuryt...@gmail.com <yuryt...@gmail.com>написал:
>
> > Илья,
>
> >> Про академию интересно, не знал, что есть такая возможность.
>
> >> По поводу оптимизации всяких функций, недавно решил помучать CMA-ES и
> >> подсунуть ей на вход ИНС с примерно 150-180 весами, в результате
> >> замучился ждать, т.к. вычисление собственных векторов и значений для
> >> матрицы 150х150 идет очень долго, хотя я добавил ограничение на
> >> точность расчетов. Хотел попробовать гипотезу, что собственные векторы
> >> не очень сильно меняются от поколения к поколению, а значит можно при
> >> вычислении собственных векторов заранее преобразовывать матрицу
> >> ковариаций в другой базис, образованный собственными векторами с
> >> предыдущего шага, чтобы уменьшить количество итераций QR-разложения,
> >> но там вообще программа сломалась, как раз из-за ограниченной
> >> точности :). Пришлось откатываться к вещественному ГА с элитизмом и
> >> агрессивной селекцией.
>
> >> --
> >> Вы получили это сообщение, поскольку подписаны на группу Эволюционные
> >> вычисления.
>
> >> Чтобы добавлять сообщения в эту группу, отправьте письмо по адресу
> >> ec...@googlegroups.com.
> >> Чтобы отменить подписку на эту группу, отправьте сообщение по адресу
> >> ecetc+un...@googlegroups.com <ecetc%2Bunsu...@googlegroups.com>
Чтобы отменить подписку на эту группу, отправьте сообщение по адресу ecetc+un...@googlegroups.com.
Причем идея с гидами мне очень даже нравится интересная и
оригинальная. Можно сделать так, что не все туристы будут толпиться
возле одного гида, а часть будет исследовать музей. Если к гиду
перестали подходить туристы, то он перемещается к другому экспонату
(ближайшему самому интересному). Т.е. реализуется поочередное
исследование найденных наиболее интересных областей в пространстве
поиска. Попутно еще возникла аналогия с археологами на раскопках
какого-нибудь древнего города. Оказывается много идей еще осталось :)