Домашнее задание от 21.10.10
Nikolai Zolotykh
1. Найти материал по происхождению терминов "логистическая функция" и
"логистическая регрессия". Почему "логистическая"?
2. Найти примеры практических задач, в которых нейронные сети
показывают лучшие результаты, чем все остальные методы, изучаемые в
курсе. Есть ли такие примеры?
Ответы пишем в эту тему.
Zamyslov Sergey
curve" (1845 p.8). Though he does not explain this choice, there is a
connection with the logarithmic basis of the function. Logarithm was
coined by John Napier (1550-1617) from Greek logos (ratio, proportion,
reckoning) and arithmos (number). Logistic comes from the Greek
logistikos (computational). In the 1700's, logarithmic and logistic
were synonymous. Since computation is needed to predict the supplies
an army requires, logistics has come to be also used for the movement
and supply of troops.
(http://rasch.org/rmt/rmt64k.htm)
Nikolai Zolotykh
Valeriy Ryazanov
по 1847 ).
Первое упоминание в 1838 г. в Correspondance Mathematique et Physique,
демонстрирующая что
кривая хорошо согласуется с реальным ходом популяции в России,
Франции, Бельгии до 1833.
Но не называет кривую.
Вторая публикация Proceedings в 1845. Тут он называет кривую logistic.
В третьей публикации он определяет три параметра: сигма, альфа, бетта
Гудков Сергей
that it is commonly accepted. The second name honors P. F. Verhulst, a
Belgian mathematician who studied this idea in the 19th century. "
http://mathdl.maa.org/mathDL/4/?pa=content&sa=viewDocument&nodeId=484&pf=1
а вот ссылка на его публикации + мини биографию
http://www-history.mcs.st-andrews.ac.uk/history/Mathematicians/Verhulst.html
Наталья Ражева
http://www.graphpad.com/faq/viewfaq.cfm?faq=1465
Статья так же содержит ссылку на публикацию J.S. Cramer "The origins and development of the logit model":
http://www.cambridge.org/resources/0521815886/1208_default.pdf
--
Вы получили это сообщение, поскольку подписаны на группу Курс "Машинное обучение".
Чтобы добавлять сообщения в эту группу, отправьте письмо по адресу ml_...@googlegroups.com.
Чтобы отменить подписку на эту группу, отправьте сообщение по адресу ml_nnsu+u...@googlegroups.com.
О дополнительных функциях можно узнать в группе по адресу http://groups.google.com/group/ml_nnsu?hl=ru.
--
Ражева Наталья
Nikolai Zolotykh
"Гуманитарное" задание вызвало больший интерес, чем обычное
математическое.
Теперь жду от вас краткого обзора по всем найденным материалам.
Гудков Сергей
> Теперь жду от вас краткого обзора по всем найденным материалам.
Что в вашем понимании подразумевается под обзором? "Мини реферат"?
Nikolai Zolotykh
Суммировать всю информацию - по-русски, на полстраницы.
Sergey Bastrakov
Я пытался найти примеры практических задач, в которых нейронные сети
показывают лучшие результаты, чем все остальные методы, изучаемые в
курсе.
Изучив около полусотни статей (точнее, большей частью abstract'ов
статей), опубликованных не ранее 2000 года, я нашел всего несколько
примеров, когда нейронные сети лучше. Практически все авторы,
сравнивающие нейронные сети с другими методами, приводят данные, что в
их задаче нейронные сети по меньшей мере не лучше (а часто сильно
хуже). Далее приведены ссылки и краткое описание задачи и результатов
по каждому найденному примеру, в котором нейронные сети все-таки
лучше. Почему-то все найденные задачи, кроме одной, относятся к
медицинской диагностике.
http://www.springerlink.com/content/vq172v01286244u6/
Здесь рассматривается задача диагностирования ишемической болезни
сердца. Сравниваются 4 метода: нейронные сети, Байесовская модель, SVM
и деревья решений. Результаты: нейронная сеть 88.6%, SVM 82.5%,
Байесовская модель 82%, деревья решений 80.4%.
http://ieeexplore.ieee.org/Xplore/login.jsp?url=http%3A%2F%2Fieeexplore.ieee.org%2Fiel5%2F4604641%2F4620480%2F04620504.pdf%3Farnumber%3D4620504&authDecision=-203
Здесь рассматривается задача диагностики желудочковой аритмии
сердца.Сравниваются 3 метода: нейронные сети, ANFIS (Adaptive Neuro-
Fuzzy Inference System), SVM. Результаты: нейронная сеть 99.8%, ANFIS
94.8673%, SVM 97.57%.
http://ieeexplore.ieee.org/xpl/freeabs_all.jsp?arnumber=4620505
Здесь также рассматривается медицинская диагностика (я не понял чего).
Сравниваются нейронные сети и SVM с 2 видами ядер: полиномиальным и
радиальным. Результаты приводятся как количество false positive при
одинаковом проценте true positive: нейронные сети 0.782, SVM с
полиномиальным ядром 1, SVM с радиальным ядром 0.95.
http://scitation.aip.org/getabs/servlet/GetabsServlet?prog=normal&id=JHYEFF000015000010000729000001&idtype=cvips&gifs=yes&ref=no
Здесь рассматривается задача прогнозирования потребления воды в
городах Кипра. Сравниваются многомерная линейная регрессия и нейронные
сети с 3 различными методами обучения (Левенберга-Марквардта, с
обратным распространением ошибки, на основе сопряженных градиентов).
Результаты: в abstract написано лишь, что сети Левенберга-Марквардта
показывают лучший результат, без конкретных цифр, сама статья платная.
Наталья Ражева
--
Вы получили это сообщение, поскольку подписаны на группу Курс "Машинное обучение".
Чтобы добавлять сообщения в эту группу, отправьте письмо по адресу ml_...@googlegroups.com.
Чтобы отменить подписку на эту группу, отправьте сообщение по адресу ml_nnsu+u...@googlegroups.com.
О дополнительных функциях можно узнать в группе по адресу http://groups.google.com/group/ml_nnsu?hl=ru.
--
Ражева Наталья