传说契丹族的奇首可汗和可敦一共生了八个儿子，后来八个儿子各自繁衍生息，形成了八个部落。依据八个部落最初居住的地名或者山川湖泊名，它们分别为悉万丹部、何大何部、伏弗郁部、羽陵部、日连部、匹契部、黎部、吐六于部。因为这些部落是史书上所记载的最早的八个部落，所以这些部落被称为契丹古八部。
契丹古八部是由最初的八个父系氏族繁衍发展而来的，彼此之间存在着血缘关系。但是，当时各部落独立活动，部落之间没有共同的领袖。
古八部时期的契丹与中原地区有着密切的联系。契丹部落居住在草肥水清的地方，他们向中原地区献上名马和兽皮，从而换取部落中的其他生活必需品。北魏登国三年（388），北魏道武帝拓跋珪对契丹发起战争，契丹大败。太延三年（437），契丹开始向北魏朝廷进行朝贡。有一次，契丹派遣莫弗纥何辰前往北魏朝廷朝贡，受到北魏皇帝的热情款待。何辰被北魏朝廷的隆重场面所震撼。回到契丹之后，何辰向各部讲述了自己在北魏的所见所闻，各部落羡慕不已。因此，契丹各部争先恐后向北魏朝贡。为了方便契丹与北魏之间经济的交流，北魏在边境地区和龙（今辽宁朝阳）、密云（今北京密云）之间设立榷场。契丹以名马、毛皮这些畜牧产品前往榷场与北魏的中原人民进行贸易。
契丹各部落这种独立分散的活动方式持续了将近两百多年，直至隋朝末年，契丹各部落这种分散的状况才有所改变。
随着畜牧业的发展以及部落的繁衍，契丹人对外扩张的要求日益强烈。与此同时，周围强大的邻国也不断侵袭契丹各部。在这种情况下，契丹各部落为了更好地抵御外族入侵，也为了氏族部落的内部发展需求，各部落逐渐结束了分散的活动状态，开始走向了联合。
每当遇到战争状态，各个部落临时结成联盟，推选出一名酋长作为契丹领袖，指挥部落对外作战。当战争结束之后，这种联盟状态解散，契丹各部落回到分散的生活状态。虽然契丹各部落为了生存，已经开始联盟，但这种联盟仍然具有松散性和暂时性的特点。