18世紀的行為學是指研究倫理的科學。1854年最早持進化論觀點的法國著名生物學家若弗魯瓦·圣·伊萊爾，首次將這個詞用來指研究動物在其自然棲息地中特性的科學。
在相當長的一個時期，行為學和生態學常被混淆。19世紀的海因羅特、費伯和斯波爾丁都可稱為最早的行為學家。20世紀30年代以后，洛倫茨和廷伯根等人在鳥類行為方面的研究和發現，豐富和發展了行為學。
行為學是從以下幾個方面來研究動物行為的：分析動物的整個行為序列；剝奪學習機會的實驗；比較系統上相近的物種的行為的相似性，研究其演化上的關系；雜交實驗，研究基因的決定性；觀察和分析物種特異行為和它們的生存條件的關系，研究其適應價值。
近幾年，由威爾遜提出的社會生物學的研究，如動物種群的組織，個體之間的交往手段，雌雄關系，親子關系；利他行為等等，都屬于行為學的范圍。行為學強調決定行為的進化因素，即基因和自然選擇的作用。行為學家試圖通過研究在自然或半自然環境中生活的動物去了解動物的行為，他們從事研究的主導思想是由于自然選擇的結果，每個動物的行為都具有一定的適應意義。
行為可以分析成為許多固定的運動序列。它們可以被內外環境的適當刺激觸發。因此可以在適當場合下出現。所以，他們注重研究能夠直接與自然選擇聯系起來的天生的或本能的行為模式。行為學家經常描述的動物的動作稱為“固定動作模式”，其性質是：在一個種內(特別是在同性個體中)其表現形式是極端一致的；可能是天生的；個體每次重復這些行為時，形式都是一樣的；每當被激活后總要全部表演出來；不易改變。
大量行為學的研究集中在辨認觸發固定動作模式的特殊環境刺激上。這些刺激稱為暗號刺激或釋放者。釋放者和固定動作模式一樣，也是種族特異化的。這就是說，同一個釋放者。在種的同性個體中引起同樣的固定動作模式。暗號刺激也可能是其他動物的，特別是種內其他成員的某些身體結構、聲音、氣味或行為。在許多動物中，暗號刺激和固定動作模式是連鎖起來的，如在社群行為中，種內一個成員的固定動作模式可以是別的成員的另一種固定動作模式的釋放者。
行為學家持進化論的觀點，他們從行為的生存價值上來研究行為的功能意義，從比較各種動物功能上或形式上類似的行為中，探索行為的演化。他們提出的儀式化的行為，指的是原來表現不甚規范的動作模式在進化過程中逐漸變為非常定型的行為，被稱為展示行為。它的價值在于能更明確地傳達特殊的信息給信號接收者。例如，一只斗敗的公雞遇見取勝的公雞，在一定距離之內即表現曲頸、低頭和兩翅高舉的姿態。這樣的行為表現可能更明確地給勝利者以投降或屈服的信號，使勝利者不再向它進攻。
他們提出的替換行為，是指一個動物面臨兩種可以引起兩種互相沖突的行為刺激時，所出現的一種與兩種刺激全無關聯的行為。例如一只鷗既欲坐在窩里，又想逃避獵者，這時，它出現了一種與坐窩和逃走全然不相干的啄羽毛的行為。有人認為在人類也常表現這類行為，如當一人面臨兩種可選擇的決策而舉棋不定時，會撓頭抓耳。
這種行為可能也是由進化而來，并且有消除緊張的作用。關于在進化過程中，經過自然選擇的動物的展示行為，它們的來源，最初的信號意義，后來的演化以及現在的信號含義等行為學的研究，可以蒼鷺的兩種行為表示為例加以說明。
噠嘴，表示來源于替換地收集小樹枝的行為。最初表示雄性占有了適合筑巢的地方；后來變為定型的夸張的并帶有聲音(聽覺成分)的行為；現在它表示雄性已準備好接受雌性的求婚；
伸頸，表示來源于預備起飛的行為。最初表示雄性護巢的攻擊性行為已經緩和下來；后來變為定型的、夸張的并在自然選擇過程中獲得了特別的羽毛、嘴和眼睛的顏色：以加強這種表示的效果，現在表示雄性要配對行為學家也研究個體行為的習得成分。
他們發現了所謂“印刻”式的學習，提出在個體發育過程中有關這類學習能力的關鍵期的問題。例如，小鴨往往會跟著一個運動的物體走，這是一種習得的行為，而且往往是跟孵出后最初幾小時所看見的東西走，這種習得的行為似乎能保持很久，甚至終生不忘。最初的視覺印象就仿佛打在腦中的烙印一樣。但這種“印刻”只能在發育過程中的某一段時間內才發生，這段時間就稱為關鍵期。
當然各種動物對各種刺激的印記的關鍵期也各不相同。關于關鍵期的概念已廣泛地引入神經系統的發育和行為的研究中。但印刻式學習是否與條件作用有本質區別，研究者們已有不同的看法。