任何一门学科体系的建立和发展，都必须要依靠适当的理论分析工具。比如，标准金融学正是将均衡分析、数学、统计学和金融计量学等作为它的理论分析工具才得以建立起一套逻辑严密、精美完善的学科体系。投资者行为研究旨在对金融市场中的个体和群体的决策与行为模式进行研究，进而对金融市场中的价格发生机制进行解释。由于其有别于标准金融学的学科特色，投资者行为研究在发展的进程中基于行为金融理论分析框架，除了保留均衡分析、数学、统计学和金融计量学等传统的理论分析工具之外，还吸纳了其他一些独具特色的理论分析工具，现将它们做一个简要的介绍。
实验方法
传统意义上的经济学被广泛认为是一门非实验科学，大多数的经济学研究依赖于各种假设。然而，现在越来越多的研究者开始尝试运用实验方法来研究经济学，验证和修改各种基本的经济学假设，这使得经济学的研究越来越多地依赖于实验数据，从而变得更加真实可信。在这样的背景下，自20世纪60年代开始，实验经济学得到了飞速的发展。实验经济学是指在可控的实验室背景下，针对某一现象，通过控制某些条件观察经济个体的决策机制和行为模式.并通过分析实验结果来检验、修正和完善经济理论。2002年，美国经济学家弗农·史密斯因其运用实验方法在选择性市场机制的研究中取得卓越成就而荣获诺贝尔经济学奖。
投资者行为研究吸纳了实验经济学的精髓，将诸如开展问卷调查、心理测试和建立人工股票市场等实验方法作为其重要的理论分析工具，通过设计和模拟实验环境，探求投资者在金融市场中的心理因素、决策机制和行为模式。如果回顾一下行为金融学的发展历史，我们不难发现，正是阿莱•卡尼曼和特维斯基等经济学家所做的大量彩票选择实验，发现了经典的预期效用理论所不能解释的“确定性效应”、“反射效应”等真实决策行为，才为投资者行为研究的产生和发展奠定了坚实的实验基础。
运用基于agent的计算机模型来建立人工股票市场是当今实验金融学研究的前沿领域之一。在人工股票市场中，每个agent有不同的预测和决策机制，并且预测规则随着市场状态的变化而变化。该模型通过设定初始市场结构来模拟实际市场的演化过程，研究内容包括agent的投资策略、市场价格的形成机制、财富在各agent之间的分配规律以及市场宏观特性涌现的原因等。通过计算机模拟，在人工股票市场上会产生与实际股票市场上具有相同统计特征的价格时间序列。用计算机来模拟金融市场推广传统金融学的研究方法，可以用来检测在可控环境下的各种学习理论和市场微观结构。相对于基于人的实验，基于agent的计算机模型能很容易地进行对复杂学习行为、信息传递、异质信念和特别式启发的系统仿真研究。
行为博弈论
作为对策略选择的标准化研究.博弈论产生于20世纪40年代，其方法是考察毫无情感的理性经济人在博弈中应如何行动，至今已成为标准经济学的一个重要的理论分析工具。然而传统的博弈论却忽视了具有情感和有限预见力的一般群体在博弈中究竟会如何行动，直至行为博弈论的出现才弥补了这种缺陷。作为行为博弈研究领域的领军人物，凯莫勒(2006)利用心理学原则以及数以百计的实验研究来建立有关互惠行为、有限策略选择以及学习过程的数理分析博弈模型，这有助于推断真实世界中的个人或团体在各种策略条件下会如何行动。
演化博弈论
与传统的博弈论不同.演化博弈论并不要求参与人是完全理性的，也不要求完全信息的条件。它通过考察参与者在不稳定的状态下如何调节彼此之间的关系来刻画参与者的动态学习和自适应机制。Smith和Price(1973)及Smith(1974)创造性地提出了演化稳定策略的概念并给出了严格的数学定义。此概念的提出成为演化博弈论发展的一个重要里程碑。通俗地讲，所谓演化稳定策略，是指如果占群体绝大多数的个体选择演化稳定策略，那么小的突变者群体就不可能侵入这个群体。或者说，在自然选择的压力下，突变者要么改变策略而选择演化稳定策略，要么退出系统而在进化过程中消失。Taylor和Jonker(1978)提出了演化博弈论的基本动态概念——模仿者动态，刻画了有限理性个体的群体行为变化趋势，是演化博弈论的又一次突破性发展。他们认为，一般的进化过程都包含两个可能的行为演化机制：选择机制和突变机制。选择机制是指本期中能够获得较高支付的策略在下期中被更多的参与者选择。突变机制是指参与者以随机的方式选择策略，因此突变策略可能是能够获得较高支付的策略，也可能是能够获得较低支付的策略。突变一般很少发生，新的突变也必须经过选择，并且只有能够获得较高支付的策略才能生存下来。演化稳定策略与模仿者动态一起构成了演化博弈论最核心的一对基本概念，它们分别表征演化博弈的稳定状态和向这种稳定状态的动态收敛过程。此后，发端于生态学的演化博弈论在社会学和经济学等领域得到了广泛的应用。Basu(1995)研究了公民规范与社会演化之间的关系，认为公民规范的长期存活依赖于社会演化过程和自然选择。Friedman和Fung(1996)以日本和美国的企业组织模式为背景，运用演化博弈论分析了在无贸易和有贸易情形下企业组织模式的演化过程。Guttman(2000)运用演化博弃论研究了互惠主义在有机会主义存在的群体中是否能够存活的问题。更多的关于演化博弈论应用的文献可参见Bester和Guth(1998)，Dufwenberg和Guth(1999)、Haruvy和Prasad(2001)、Kosfeld(2002)、Nyborg和Rege(2003)Jasmina和John(2004)等。
金融复杂系统分析
复杂性科学认为金融市场是一个复杂的非线性动力系统，于是探索金融复杂系统的非线性动力学特征和行为机制，对于研究金融市场的演化机理、探索金融危机的形成和传导机制具有十分重要的意义。
学者们运用混沌、分形、人工神经网络、元胞自动机等微观分析工具，依据对金融市场实际观测所获得的信息建立动态仿真模型，并通过计算机模拟来研究金融系统的复杂性特征和分析系统的动力学行为，进而寻求改善系统行为的机会和途径，具体可参见彼得斯(1999，2002)、范英和魏一鸣(2004)、应尚军等(2003)、范英、魏一鸣和应尚军(2006)、李红权和马超群(2006)。