{机器学习与AI} 人脑认知的概率推理（贝叶斯）模型

[pongba]

在人脑的认知方面，原则上总结得已经挺不错了，接下来就是怎样用量化的数学模型来描述我们的大脑了，因为如果不能用量化数学模型描述出来，又怎么能编写成程序呢？后者，是属于认知科学和计算机科学交界处的事情。就我的知识，目前有两派理论比较火，一是神经网络，这个是直接从人脑处理信息的物理基础切入。二是概率推理模型，这个是从抽象层面切入——一定要神经网络作为基础才能完成人脑所能完成的工作吗？

由于这个领域我目前的认识尚浅，言多必属扯淡，所以就说这些，神经网络我上次贴过一些 reference ，这次贴一些关于概率推理的：

有兴趣的读者可以参考 Josh Tenenbaum 和 Charles Kemp 的主页，注意这几篇 paper：

[1] Kemp 写的 Bayesian Model of Cognition ，里面对贝叶斯推理作了非常漂亮和系统的介绍。（注：paper 里提到的 Bayesian Occam's Razor 理论在 David J.C. MacKay 的牛书 《Information Theory: Inference and Learning Algorithms》（作者开放电子版）里面的第28章："模型比较与奥卡姆剃刀" 中有精彩的阐述）
[2] Tenenbaum 写的两篇综述性质的文章：1. Probabilistic models of cognition: Conceptual foundations 2. Probabilistic models of cognition: where next? 牛人写的综述是极有价值的，可以为一个领域指明方向。

最后要大力感谢 Shenli 同学上次分享的信息。

--
刘未鹏(pongba)|C++的罗浮宫
http://blog.csdn.net/pongba
TopLanguage
http://groups.google.com/group/pongba

[pongba]

BTW. Teneubaum 是 MIT Computational Cognitive Science Group 的 Leader，那是相当牛啊:)

对这方面有共同兴趣的可以关注我的 twitter ， 我一直在阅读这方面的资料，看到不错的就会共享上去。

2008/9/1 pongba <pon...@gmail.com>

[Shenli]

Pongba，我一年前开始读P.Norvig的AIMA，其中的第二大章的基础是Baysian Network（你是否读过？）。P.Norvig
在一些大会上宣称，未来AI的大方向是FOL + BN，似乎这个方向比较困难，有没有人知道？

On Sep 1, 4:09 pm, pongba <pon...@gmail.com> wrote:
> BTW. Teneubaum 是 MIT Computational Cognitive Science

> Group<http://web.mit.edu/cocosci/>的 Leader，那是相当牛啊:)
>
> 对这方面有共同兴趣的可以关注我的 twitter <http://twitter.com/pongba> ，

> 我一直在阅读这方面的资料，看到不错的就会共享上去。
>
> 2008/9/1 pongba <pon...@gmail.com>
>
>
>
>
>
>
>

> > 在人脑的认知方面，原则上总结得已经挺不错了，接下来就是怎样用量化的数学模型来描述我们的大脑了，因为如果不能用量化数学模型描述出来，又怎么能编写成程序呢-？后者，是属于认知科学和计算机科学交界处的事情。就我的知识，目前有两派理论比较火，一是神经网络，这个是直接从人脑处理信息的物理基础切入。二是概率推理模-型，这个是从抽象层面切入----一定要神经网络作为基础才能完成人脑所能完成的工作吗？
>
> > 由于这个领域我目前的认识尚浅，言多必属扯淡，所以就说这些，神经网络我上次贴过一些 reference<https://groups.google.com/group/pongba/browse_thread/thread/93ac6f711...>，这次贴一些关于概率推理的：
>
> > 有兴趣的读者可以参考 Josh Tenenbaum <http://web.mit.edu/cocosci/josh.html> 和 Charles
> > Kemp <http://www.psy.cmu.edu/%7Eckemp/> 的主页，注意这几篇 paper：
>
> > [1] Kemp 写的 Bayesian Model of Cognition<http://www.psy.cmu.edu/%7Eckemp/papers/bayeschapter.pdf>，里面对贝叶斯推理作了非常漂亮和系统的介绍。（注：paper 里提到的 Bayesian Occam's Razor 理论在 David
> > J.C. MacKay <http://www.inference.phy.cam.ac.uk/mackay/> 的牛书 《Information
> > Theory: Inference and Learning Algorithms》（作者开放电子版<http://www.inference.phy.cam.ac.uk/mackay/itila/>）里面的第28章："模型比较与奥卡姆剃刀"

> > 中有精彩的阐述）
> > [2] Tenenbaum 写的两篇综述性质的文章：1. Probabilistic models of cognition: Conceptual

> > foundations<http://www.sciencedirect.com/science?_ob=ArticleURL&_udi=B6VH9-4K8SC6...>2. Probabilistic
> > models of cognition: where next?<http://www.sciencedirect.com/science?_ob=ArticleURL&_udi=B6VH9-4K6CR0...>牛人写的综述是极有价值的，可以为一个领域指明方向。
>
> > 最后要大力感谢 Shenli 同学上次分享的信息<https://groups.google.com/group/pongba/browse_thread/thread/dacd6f1ae...>
> > 。
>
> --
> 刘未鹏(pongba)|C++的罗浮宫http://blog.csdn.net/pongba
> TopLanguagehttp://groups.google.com/group/pongba- Hide quoted text -
>
> - Show quoted text -

[pongba]

AIMA 还没拜读，块头巨大，我准备拿来做参考用书的:-) 贝叶斯网络倒是学过的。

FOL？是吗？我想听听他的论据。我觉得一阶逻辑应该是概率模型的一个子集（Pr = 1 的情况）；况且一阶逻辑似乎就那点东西，属于 deductive reasoning 领域的，而 deductive 这方面已经有人做了很多工作了，证明机都做出来了。剩下的一个重要的人类思维特征就是 inductive ，似乎还没有什么重大成果。Kemp 和 Teneubaum 做的概率模型就在试图模拟我们的 inductive reasoning 呢，上次你提到的那篇文章就是做的 inductive reasoning 。

2008/9/1 Shenli <zhus...@gmail.com>

[Shenli]

参考 AIMA 2nd edition, P519 Section 14.6 Extending Probability to FOL。
惭愧，上次那片文章我还没读过，周末出去玩了。。。

On Sep 1, 7:06 pm, pongba <pon...@gmail.com> wrote:
> AIMA 还没拜读，块头巨大，我准备拿来做参考用书的:-) 贝叶斯网络倒是学过的。
>
> FOL？是吗？我想听听他的论据。我觉得一阶逻辑应该是概率模型的一个子集（Pr = 1 的情况）；况且一阶逻辑似乎就那点东西，属于 deductive
> reasoning 领域的，而 deductive 这方面已经有人做了很多工作了，证明机都做出来了。剩下的一个重要的人类思维特征就是 inductive
> ，似乎还没有什么重大成果。Kemp 和 Teneubaum 做的概率模型就在试图模拟我们的 inductive reasoning
> 呢，上次你提到的那篇文章就是做的 inductive reasoning 。
>

> 2008/9/1 Shenli <zhushe...@gmail.com>

>
>
>
>
>
> > Pongba，我一年前开始读P.Norvig的AIMA，其中的第二大章的基础是Baysian Network（你是否读过？）。P.Norvig
> > 在一些大会上宣称，未来AI的大方向是FOL + BN，似乎这个方向比较困难，有没有人知道？
>
> > On Sep 1, 4:09 pm, pongba <pon...@gmail.com> wrote:
> > > BTW. Teneubaum 是 MIT Computational Cognitive Science
> > > Group<http://web.mit.edu/cocosci/>的 Leader，那是相当牛啊:)
>
> > > 对这方面有共同兴趣的可以关注我的 twitter <http://twitter.com/pongba> ，
> > > 我一直在阅读这方面的资料，看到不错的就会共享上去。
>
> > > 2008/9/1 pongba <pon...@gmail.com>
>

> > 在人脑的认知方面，原则上总结得已经挺不错了，接下来就是怎样用量化的数学模型来描述我们的大脑了，因为如果不能用量化数学模型描述出来，又怎么能编写成程序呢--？后者，是属于认知科学和计算机科学交界处的事情。就我的知识，目前有两派理论比较火，一是神经网络，这个是直接从人脑处理信息的物理基础切入。二是概率推理-模-型，这个是从抽象层面切入----一定要神经网络作为基础才能完成人脑所能完成的工作吗？

> > > TopLanguagehttp://groups.google.com/group/pongba-Hide quoted text -

[pongba]

2008/9/1 Shenli <zhus...@gmail.com>

参考 AIMA 2nd edition, P519 Section 14.6 Extending Probability to FOL。
惭愧，上次那片文章我还没读过，周末出去玩了。。。

奇怪了，找半天没找到这一节。14章标题是 Uncertainty（不确定性） ？

[pongba]

2008/9/1 pongba <pon...@gmail.com>

2008/9/1 Shenli <zhus...@gmail.com>

参考 AIMA 2nd edition, P519 Section 14.6 Extending Probability to FOL。
惭愧，上次那片文章我还没读过，周末出去玩了。。。

奇怪了，找半天没找到这一节。14章标题是 Uncertainty（不确定性） ？

不过扫了一下详细目录之后改变了决定，打算把这本书系统的翻一翻了，看上去挺诱人:)
唉，都是被大块头吓的。

[pongba]

2008/9/1 pongba <pon...@gmail.com>

[2] Tenenbaum 写的两篇综述性质的文章：1. Probabilistic models of cognition: Conceptual foundations 2. Probabilistic models of cognition: where next? 牛人写的综述是极有价值的，可以为一个领域指明方向。

看完了这两篇短小精悍（5页+2页）的 review 了，很高屋建瓴，描绘了概率认知模型的 state of the art ，里面提到的许多 reference 都值得有兴趣者深入阅读。
注意，这两篇 review 都发表于 Trends of Cognitive Science 的一期特刊，里面全是关于概率认知模型的，从标题看都非常有意思，我打算先看看那篇 Vision as Bayesian inference: analysis by synthesis? Vision 是被神经科学家研究得相对最透彻的一个模块，而图像识别（我是说真实世界的图像识别，而不是简化的 Toy Problem）也是 CS 的一大难题，看看贝叶斯推理能提出什么见解应该很有意思，这篇 paper 的 abstract 号称能够对噪音数据很 robust ，而且声称很可能对应了真实发生在人脑中的抽象处理过程。

目前计算机科学研究的一些较难的问题：数据挖掘、信息检索、自然语言处理等等都是 AI-Complete 的，意味着一旦 AI 问题被解决，这些问题都迎刃而解，做科研的同学也许有这样的体会：在 AI 问题没有解决之前，解决以上提到的几个问题都只能旁敲侧击，用尽数学技巧不说，还讨不到多大好处，那是相当郁闷的；所以我觉得有抱负的同学应该去搞 AI ，因为它是 "The Problem"，是基础性研究，现代的 AI 还有一个非常迷人的特征：他已经不是纯数学的学科，而是一门数学&计算机科学&认知神经科学的交叉学科，在我看来，没有什么比探索自然界和人本身的奥秘更迷人的了，物理属于前者，而心理学&AI属于后者。

[Shenli]

Pongba，回家去读"旁观者"，没来得及回复:)
Chapter 14是Probabilistic Reasoning，你读的是不是第一版？

关于AI，我去请教过一位Fudan的CS教授，老人家数学系出生，在计算复杂度领域颇有建树，，他强烈不推荐我读AI（说推测强AI实现至少要
2050年，我等不到那一天），认为读Robot可能更实际一些（我是电子系出身，似乎Hawkins也是，呵呵）。

现在有些研究是把biology/brain和robot联系起来，比如把rat的brain放在robot上。

科学方法里有一种就是排列组合，把方法组合起来，如吴文俊的几何机器证明，或者P.Norvig的FOL+BN，也算是开出了一条新路。

On Sep 1, 7:41 pm, pongba <pon...@gmail.com> wrote:
> 2008/9/1 Shenli <zhushe...@gmail.com>

[james lee]

基于生存的压力，一直都没有好好读过AI方面的书籍，领域做的是越来越小了。
现在发现这些书不读，确实没有找到祖宗的感觉~~

2008/9/1 pongba <pon...@gmail.com>

[pongba]

2008/9/2 Shenli <zhus...@gmail.com>

Pongba，回家去读"旁观者"，没来得及回复:)
Chapter 14是Probabilistic Reasoning，你读的是不是第一版？

汗，我一直以为我下的那个PDF是第二版的，仔细一看原来是第一版。然后我发现我还下了一个djvu的版本，倒的确是第二版的:P
看看先。

[Linker]

2008/9/2 pongba <pon...@gmail.com>

2008/9/2 Shenli <zhus...@gmail.com>

Pongba，回家去读"旁观者"，没来得及回复:)
Chapter 14是Probabilistic Reasoning，你读的是不是第一版？

汗，我一直以为我下的那个PDF是第二版的，仔细一看原来是第一版。然后我发现我还下了一个djvu的版本，倒的确是第二版的:P
看看先。

给个下载链接?

--
刘未鹏(pongba)|C++的罗浮宫

http://blog.csdn.net/pongba

TopLanguage

http://groups.google.com/group/pongba

--
Linker M Lin
linker...@gmail.com

[pongba]

2008/9/2 Linker <linker...@gmail.com>

2008/9/2 pongba <pon...@gmail.com>

2008/9/2 Shenli <zhus...@gmail.com>

Pongba，回家去读"旁观者"，没来得及回复:)
Chapter 14是Probabilistic Reasoning，你读的是不是第一版？

汗，我一直以为我下的那个PDF是第二版的，仔细一看原来是第一版。然后我发现我还下了一个djvu的版本，倒的确是第二版的:P
看看先。

给个下载链接?

http://gigapedia.org/items/19742/artificial-intelligence--a-modern-approach-2nd-edition

[EC]

某些在线资源:
Artificial Intelligence: A Modern Approach http://aima.cs.berkeley.edu/


On Sep 2, 12:01 pm, pongba <pon...@gmail.com> wrote:
> 2008/9/2 Linker <linker.m....@gmail.com>
>
>
>
>
>
> > 2008/9/2 pongba <pon...@gmail.com>
>
> >> 2008/9/2 Shenli <zhushe...@gmail.com>

>
> >>> Pongba，回家去读"旁观者"，没来得及回复:)
> >>> Chapter 14是Probabilistic Reasoning，你读的是不是第一版？
>
> >> 汗，我一直以为我下的那个PDF是第二版的，仔细一看原来是第一版。然后我发现我还下了一个djvu的版本，倒的确是第二版的:P
> >> 看看先。
>
> > 给个下载链接?
>

> http://gigapedia.org/items/19742/artificial-intelligence--a-modern-ap...

[EC]

经shenli提供的线索，资料总结如下：
1、吴文俊的几何机器证明 http://d.download.csdn.net/down/260289/tlh1234567
2、书的在线资源（包括源码）：Artificial Intelligence: A Modern Approach
http://aima.cs.berkeley.edu/
PDF（第二版）：http://www.torreador.com/details/
ed59e7f97fac14c57bf81fb43d558290e3692d82
3、牵涉到的paper：http://www.psy.cmu.edu/~ckemp/
牵涉到的code：http://www.psy.cmu.edu/~ckemp/code/formdiscovery.html
《-----总有种似曾相识的感觉，还得装MATLAB，其实maple很好用的，他为什么要用MATLAB呢？我还没找到转换的方法。


个人总结：看到了FOL的概念，刚接触不好评说，第二大章的基础BN，没找到；还得继续wiki + SE一番，似乎能有点感觉。
加点基础：
1、张沈鹏推荐的——人工智能智能系统指南(原书第2版) http://www.douban.com/subject/2046630/
2、相关数学、基础（知识背景） = ？

我发现，找资料还真费时间，不过有了方法后，效率还忒高，心情愉快，就等效果了。

[maximzhao]

我倒不是做人脑认知的。只是这学期有门课叫做 Uncertain Modeling of AI. 主要是讲BN的。老师是MIT本，博毕业的，所以
作业和project很多。

有几本书是值得一读的：
［1］ (N) Neapolitan, R. E. Learning Bayesian Networks. Pearson Prentice
Hall, 2004
［2］ (RN) Russell, S. and Norvig, P. Artificial Intelligence: A Modern
Approach, 2nd ed. Prentice Hall, 2003
［3］(KN) Korb, K. B. and Nicholson, A. E. Bayesian Artificial
Intelligence. Chapman and Hall/CRC, 2004.

我觉得（KN）讲得比较详细。

会议和Murphy的主页：
You will also find valuable tutorials, tools, publications on
Bayesian networks and related technologies at the following
websites:
Conference in Uncertainty in Artificial Intelligence (UAI)
www.auai.org
American Association for Artificial Intelligence Conference (AAAI)
www.aaai.org
International Joint Conference on Artificial Intelligence (IJCAI)
www.ijcai.org
Neural Information Processing Systems Conference (NIPS)
www.nips.cc
Kevin Murphy’s tutorial on Graphical models and Bayesian networks
http://www.cs.ubc.ca/~murphyk/Bayes/bnintro.html

两个著名的研究BN的工具软件：
Genie 2.0 by Decision Systems Laboratory, University of Pittsburgh
http://genie.sis.pitt.edu/
An excellent, free probabilistic networks reasoning program

Netica 4.08 by Norsys Software Corp.
Free versions of the main application and the APIs are available

BN的无痛入门：
Charniak, Eugene “Bayesian Networks without Tears”, AI Magazine,
12(4), Winter 91, 50-63

Exactly Inference 是一定不能少了这伙计的： Pearl, BN的始祖之一

当然绝对不能少了Jordan和Bishop的材料（Approximate Inference)：
[PRML] Pattern Recognition and Machine Learning 第10章Approximate
Inference 主要讲了Variational Method;
Jordan 派的Graphical Model这个自然就不用再说了。

On 9月1日, 下午4时01分, pongba <pon...@gmail.com> wrote:
> 在人脑的认知方面，原则上总结得已经挺不错了，接下来就是怎样用量化的数学模型来描述我们的大脑了，因为如果不能用量化数学模型描述出来，又怎么能编写成程序呢？后者，是属于认知科学和计算机科学交界处的事情。就我的知识，目前有两派理论比较火，一是神经网络，这个是直接从人脑处理信息的物理基础切入。二是概率推理模型，这个是从抽象层面切入——一定要神经网络作为基础才能完成人脑所能完成的工作吗？
>
> 由于这个领域我目前的认识尚浅，言多必属扯淡，所以就说这些，神经网络我上次贴过一些

> reference<https://groups.google.com/group/pongba/browse_thread/thread/93ac6f711...>，这次贴一些关于概率推理的：

>
> 有兴趣的读者可以参考 Josh Tenenbaum <http://web.mit.edu/cocosci/josh.html> 和 Charles

> Kemp <http://www.psy.cmu.edu/%7Eckemp/> 的主页，注意这几篇 paper：

>
> [1] Kemp 写的 Bayesian Model of

> Cognition<http://www.psy.cmu.edu/%7Eckemp/papers/bayeschapter.pdf>，里面对贝叶斯推理作了非常漂亮和系统的介绍。（注：paper

> 里提到的 Bayesian Occam's Razor 理论在 David

> J.C. MacKay <http://www.inference.phy.cam.ac.uk/mackay/> 的牛书 《Information
> Theory: Inference and Learning
> Algorithms》（作者开放电子版<http://www.inference.phy.cam.ac.uk/mackay/itila/>）里面的第28章："模型比较与奥卡姆剃刀"

> 中有精彩的阐述）
> [2] Tenenbaum 写的两篇综述性质的文章：1. Probabilistic models of cognition: Conceptual

> foundations<http://www.sciencedirect.com/science?_ob=ArticleURL&_udi=B6VH9-4K8SC6...>2.

> Probabilistic
> models of cognition: where

> next?<http://www.sciencedirect.com/science?_ob=ArticleURL&_udi=B6VH9-4K6CR0...>牛人写的综述是极有价值的，可以为一个领域指明方向。
>
> 最后要大力感谢 Shenli 同学上次分享的信息<https://groups.google.com/group/pongba/browse_thread/thread/dacd6f1ae...>
> 。

[pongba]

多谢maxim，很有用的资料:) 打算看看那本 KN

BTW. 有谁知道哪里有讲 MCMC （Markov Chain Monte Carlo）方法讲得比较深入浅出的？我看的几个版本都是上来一坨公式，没有直观解释辅助理解。

2008/9/14 maximzhao <zhaozh...@gmail.com>

[LiAndy]

maximzhao == 学术派？

pongba == 实践派？

other == XX派？（XX==菠萝也行，哈哈哈哈）

2008/9/14 maximzhao <zhaozh...@gmail.com>

--
------Crazy in Silence. Silence in Crazy.------
facebook : Li Andy
Twitter : http://twitter.com/liandy

[LiAndy]

补充一下pongba说的：

Machine Learning - Tom Mitchell pdf

 

这只是资料的汇集（属于群体进化的一部分？）

 

2008/9/14 EC <NetCl...@gmail.com>

[LiAndy]

补充下maximzhao 说道的资源：

【1】learning-bayesian-networks

【2】这本之前已经记录了

【3】Bayesian Artificial Intelligence (Chapman & Hall/Crc Computer Science and Data Analysis) 

BN无痛入门

 

恩，应该可以在较长的一段时间内，AI的keyword 会减少。

 

 

2008/9/14 LiAndy <netcl...@gmail.com>

[maximzhao]

PRML pattern recognition and machine learning. 应该是第十章：）

MCMC的算法比较简单，但是原理比较难以理解。MCMC中，第一个MC是要求所解的问题具备性质，第二个MC是方法。比较常用的是Gibbs
sampling.：）我大概看明白的时候，觉得比较难以理解的是markov blanket. 这个在参考文献（N）中介绍的还算清楚。就是有向图
中， 一个节点的parents & children and children's parents 组成了markov blanket. 呵
呵。

On 9月14日, 下午10时48分, pongba <pon...@gmail.com> wrote:
> 多谢maxim，很有用的资料:) 打算看看那本 KN
>
> BTW. 有谁知道哪里有讲 MCMC （Markov Chain Monte
> Carlo）方法讲得比较深入浅出的？我看的几个版本都是上来一坨公式，没有直观解释辅助理解。
>

> 2008/9/14 maximzhao <zhaozhend...@gmail.com>

>
>
>
> > 我倒不是做人脑认知的。只是这学期有门课叫做 Uncertain Modeling of AI. 主要是讲BN的。老师是MIT本，博毕业的，所以
> > 作业和project很多。
>
> > 有几本书是值得一读的：
> > ［1］ (N) Neapolitan, R. E. Learning Bayesian Networks. Pearson Prentice
> > Hall, 2004
> > ［2］ (RN) Russell, S. and Norvig, P. Artificial Intelligence: A Modern
> > Approach, 2nd ed. Prentice Hall, 2003
> > ［3］(KN) Korb, K. B. and Nicholson, A. E. Bayesian Artificial
> > Intelligence. Chapman and Hall/CRC, 2004.
>
> > 我觉得（KN）讲得比较详细。
>
> > 会议和Murphy的主页：
> > You will also find valuable tutorials, tools, publications on
> > Bayesian networks and related technologies at the following
> > websites:
> > Conference in Uncertainty in Artificial Intelligence (UAI)
> > www.auai.org
> > American Association for Artificial Intelligence Conference (AAAI)
> > www.aaai.org
> > International Joint Conference on Artificial Intelligence (IJCAI)
> > www.ijcai.org
> > Neural Information Processing Systems Conference (NIPS)
> > www.nips.cc
> > Kevin Murphy's tutorial on Graphical models and Bayesian networks

> > http://www.cs.ubc.ca/~murphyk/Bayes/bnintro.html<http://www.cs.ubc.ca/%7Emurphyk/Bayes/bnintro.html>

>
> > 两个著名的研究BN的工具软件：
> > Genie 2.0 by Decision Systems Laboratory, University of Pittsburgh
> >http://genie.sis.pitt.edu/
> > An excellent, free probabilistic networks reasoning program
>
> > Netica 4.08 by Norsys Software Corp.
> > Free versions of the main application and the APIs are available
>
> > BN的无痛入门：
> > Charniak, Eugene "Bayesian Networks without Tears", AI Magazine,
> > 12(4), Winter 91, 50-63
>
> > Exactly Inference 是一定不能少了这伙计的： Pearl, BN的始祖之一
>
> > 当然绝对不能少了Jordan和Bishop的材料（Approximate Inference)：
> > [PRML] Pattern Recognition and Machine Learning 第10章Approximate
> > Inference 主要讲了Variational Method;
> > Jordan 派的Graphical Model这个自然就不用再说了。
>
> > On 9月1日, 下午4时01分, pongba <pon...@gmail.com> wrote:
>

> > 在人脑的认知方面，原则上总结得已经挺不错了，接下来就是怎样用量化的数学模型来描述我们的大脑了，因为如果不能用量化数学模型描述出来，又怎么能编写成程序呢？后者，是属于认知科学和计算机科学交界处的事情。就我的知识，目前有两派理论比较火，一是神经网络，这个是直接从人脑处理信息的物理基础切入。二是概率推理模型，这个是从抽象层面切入----一定要神经网络作为基础才能完成人脑所能完成的工作吗？

[Eric]

maximzhao 是 ZDD? 在这里又遇到鸟

[maximzhao]

haha, maximzhao == ZDD:) Small world.

[pongba]

在 David MacKay 的 Information theory - inference and learning algorithms 里面看到了对 Monte Carlo 方法的最佳（尽管还是不完美）介绍:) 非常推荐这本书。技术书籍典范。

2008/9/15 maximzhao <zhaozh...@gmail.com>