任何一門學科體系的建立和發展，都必須要依靠適當的理論分析工具。比如，標準金融學正是將均衡分析、數學、統計學和金融計量學等作爲它的理論分析工具才得以建立起一套邏輯嚴密、精美完善的學科體系。投資者行爲研究旨在對金融市場中的個體和羣體的決策與行爲模式進行研究，進而對金融市場中的價格發生機制進行解釋。由於其有別於標準金融學的學科特色，投資者行爲研究在發展的進程中基於行爲金融理論分析框架，除了保留均衡分析、數學、統計學和金融計量學等傳統的理論分析工具之外，還吸納了其他一些獨具特色的理論分析工具，現將它們做一個簡要的介紹。
實驗方法
傳統意義上的經濟學被廣泛認爲是一門非實驗科學，大多數的經濟學研究依賴於各種假設。然而，現在越來越多的研究者開始嘗試運用實驗方法來研究經濟學，驗證和修改各種基本的經濟學假設，這使得經濟學的研究越來越多地依賴於實驗數據，從而變得更加真實可信。在這樣的背景下，自20世紀60年代開始，實驗經濟學得到了飛速的發展。實驗經濟學是指在可控的實驗室背景下，針對某一現象，通過控制某些條件觀察經濟個體的決策機制和行爲模式.並通過分析實驗結果來檢驗、修正和完善經濟理論。2002年，美國經濟學家弗農·史密斯因其運用實驗方法在選擇性市場機制的研究中取得卓越成就而榮獲諾貝爾經濟學獎。
投資者行爲研究吸納了實驗經濟學的精髓，將諸如開展問卷調查、心理測試和建立人工股票市場等實驗方法作爲其重要的理論分析工具，通過設計和模擬實驗環境，探求投資者在金融市場中的心理因素、決策機制和行爲模式。如果回顧一下行爲金融學的發展歷史，我們不難發現，正是阿萊•卡尼曼和特維斯基等經濟學家所做的大量彩票選擇實驗，發現了經典的預期效用理論所不能解釋的“確定性效應”、“反射效應”等真實決策行爲，才爲投資者行爲研究的產生和發展奠定了堅實的實驗基礎。
運用基於agent的計算機模型來建立人工股票市場是當今實驗金融學研究的前沿領域之一。在人工股票市場中，每個agent有不同的預測和決策機制，並且預測規則隨着市場狀態的變化而變化。該模型通過設定初始市場結構來模擬實際市場的演化過程，研究內容包括agent的投資策略、市場價格的形成機制、財富在各agent之間的分配規律以及市場宏觀特性湧現的原因等。通過計算機模擬，在人工股票市場上會產生與實際股票市場上具有相同統計特徵的價格時間序列。用計算機來模擬金融市場推廣傳統金融學的研究方法，可以用來檢測在可控環境下的各種學習理論和市場微觀結構。相對於基於人的實驗，基於agent的計算機模型能很容易地進行對複雜學習行爲、信息傳遞、異質信念和特別式啓發的系統仿真研究。
行爲博弈論
作爲對策略選擇的標準化研究.博弈論產生於20世紀40年代，其方法是考察毫無情感的理性經濟人在博弈中應如何行動，至今已成爲標準經濟學的一個重要的理論分析工具。然而傳統的博弈論卻忽視了具有情感和有限預見力的一般羣體在博弈中究竟會如何行動，直至行爲博弈論的出現才彌補了這種缺陷。作爲行爲博弈研究領域的領軍人物，凱莫勒(2006)利用心理學原則以及數以百計的實驗研究來建立有關互惠行爲、有限策略選擇以及學習過程的數理分析博弈模型，這有助於推斷真實世界中的個人或團體在各種策略條件下會如何行動。
演化博弈論
與傳統的博弈論不同.演化博弈論並不要求參與人是完全理性的，也不要求完全信息的條件。它通過考察參與者在不穩定的狀態下如何調節彼此之間的關係來刻畫參與者的動態學習和自適應機制。Smith和Price(1973)及Smith(1974)創造性地提出了演化穩定策略的概念並給出了嚴格的數學定義。此概念的提出成爲演化博弈論發展的一個重要里程碑。通俗地講，所謂演化穩定策略，是指如果佔羣體絕大多數的個體選擇演化穩定策略，那麼小的突變者羣體就不可能侵入這個羣體。或者說，在自然選擇的壓力下，突變者要麼改變策略而選擇演化穩定策略，要麼退出系統而在進化過程中消失。Taylor和Jonker(1978)提出了演化博弈論的基本動態概念——模仿者動態，刻畫了有限理性個體的羣體行爲變化趨勢，是演化博弈論的又一次突破性發展。他們認爲，一般的進化過程都包含兩個可能的行爲演化機制：選擇機制和突變機制。選擇機制是指本期中能夠獲得較高支付的策略在下期中被更多的參與者選擇。突變機制是指參與者以隨機的方式選擇策略，因此突變策略可能是能夠獲得較高支付的策略，也可能是能夠獲得較低支付的策略。突變一般很少發生，新的突變也必須經過選擇，並且只有能夠獲得較高支付的策略才能生存下來。演化穩定策略與模仿者動態一起構成了演化博弈論最核心的一對基本概念，它們分別表徵演化博弈的穩定狀態和向這種穩定狀態的動態收斂過程。此後，發端於生態學的演化博弈論在社會學和經濟學等領域得到了廣泛的應用。Basu(1995)研究了公民規範與社會演化之間的關係，認爲公民規範的長期存活依賴於社會演化過程和自然選擇。Friedman和Fung(1996)以日本和美國的企業組織模式爲背景，運用演化博弈論分析了在無貿易和有貿易情形下企業組織模式的演化過程。Guttman(2000)運用演化博棄論研究了互惠主義在有機會主義存在的羣體中是否能夠存活的問題。更多的關於演化博弈論應用的文獻可參見Bester和Guth(1998)，Dufwenberg和Guth(1999)、Haruvy和Prasad(2001)、Kosfeld(2002)、Nyborg和Rege(2003)Jasmina和John(2004)等。
金融複雜系統分析
複雜性科學認爲金融市場是一個複雜的非線性動力系統，於是探索金融複雜系統的非線性動力學特徵和行爲機制，對於研究金融市場的演化機理、探索金融危機的形成和傳導機制具有十分重要的意義。
學者們運用混沌、分形、人工神經網絡、元胞自動機等微觀分析工具，依據對金融市場實際觀測所獲得的信息建立動態仿真模型，並通過計算機模擬來研究金融系統的複雜性特徵和分析系統的動力學行爲，進而尋求改善系統行爲的機會和途徑，具體可參見彼得斯(1999，2002)、範英和魏一鳴(2004)、應尚軍等(2003)、範英、魏一鳴和應尚軍(2006)、李紅權和馬超羣(2006)。