继乌桓人之后，鲜卑人成为活动在科尔沁草原上的主体民族。汉初（公元前206年）匈奴袭破了东胡，东胡人向北败退，越过西拉木伦河之后分成两支，一支逃向科尔沁草原西北退保乌桓山，称之为乌桓人，另一支游牧于科尔沁草原的东北，称之为鲜卑人，《后汉书》卷九十《鲜卑传》载：“鲜卑者亦东胡之支也，别依鲜卑山，故因号焉。……汉初亦为冒顿所破，远窜辽东塞外，与乌桓相接（即与汉朝之间被乌桓阻隔），未常通与中国（指中原）焉。”清代史学家张穆认为，鲜卑山就是现今科右中旗西北约三十华里的大罕山，当地人亦称为蒙格罕山。此山位于霍林河西南岸，位于扎鲁特旗和科尔沁右翼中旗之间。东西宽约十公里，南北长约十三公里，由蒙格罕山、奥斯克吐、芒尔得高乌拉，哈夫特嗄乌拉，莫达板乌拉，模模乌拉，道劳哈马尔，柴拉切楞等数座相连山峰组成。主峰大罕山高721米，相对高度近400米，山中松、桦、柞、榆、枫、杏等树木繁茂，山的东北有条山谷，名为查干扎拉（蒙语为清澈的山沟），有一条清溪沿山谷流出。山谷两侧群峰竞秀，树木葱郁，并有几处人工开凿的山洞高悬于峭壁之上，这更给古鲜卑山增加几分神秘色彩。

　　鲜卑人从东汉光武帝建武二十五年（公元49年）始与中原王朝相沟通。公元48年，匈奴分裂为南北二部，之后南匈奴附汉，东汉政府乘机联络鲜卑，实行孤立和打击北匈奴的政策。封、赏鲜卑各部大人，“每年竞耗费二亿七千万钱”，以达到“保塞无事”的目的。

　　和帝永元三年（公元前91年），北匈奴被东汉政府击败。政权瓦解，单于西迁余众多附鲜卑。自此鲜卑逐步强大起来，并经常“寇掠东汉北方诸郡”。当时以居住在科尔沁草原东部的辽西鲜卑大人其至革建最为强盛，并为鲜卑各部的盟主，直至东汉顺帝阳嘉二年（公元133年）其至革建死去，鲜卑各部统领失驭。东汉政府多次组织大军会同乌桓、南匈奴共同进讨，于是鲜卑势力才逐步减弱。

　　东汉后期（桓帝时，公元二世纪中叶）鲜卑出现了一个著名首领名叫檀石槐（156-181年在位）他“勇健而有智略”被推为鲜卑大人，他在高柳（今山西阳高县）北三百余里的弹汗山（今河北张家口尚义县南）设营，兵马甚盛，鲜卑各部在他的统领之下，南抄缘边，北拒零丁，东却扶余，西击乌孙，尽据“匈奴故地”。建立起了鲜卑部落军事大联盟。“东西万四千余里，南北七千余里”。擅石槐把他控制的地区划分为三部，自右北平以东至辽东，接扶余为东部；自右北平以西至上谷为中部；自上谷以西至敦煌接乌孙为西部。每部各置大人统领，总属于檀石槐。此时，由于东汉王朝内乱频频，许多汉人逃往边地投靠鲜卑，为檀石槐出谋划策，加之鲜卑骑兵进退神速，战斗力获得充分发挥，“兵利马疾，过于匈奴”，作战中“来如飞鸟，去如绝弦”。不断入侵边郡，杀略吏民，劫夺财产。熹平六年（公元177年）“鲜卑复寇三边，一岁中竟达三十余次”。鲜卑人此时靠战争和掠夺取得了不少的财富，但生产力却很低下，农业、畜牧业经济都不发达，人口的剧增使得鲜卑各部之间除了军事联盟之外，并无过多经济往来。加之政治上除以军事掠夺为目的的战争协作之外，组织上也较为松散。故公元181年檀石槐死后，鲜卑军事联盟迅速瓦解。

　　此后，盘据太原雁门一带的“小种鲜卑”首领轲比能曾   附曹魏短暂的统治了鲜卑各部，青龙三年（235）年，轲比能被曹魏派刺客刺死，局部统一的鲜卑各部进一步瓦解。这时以科尔沁草原为中心地带的东部鲜卑先后兴起了宇文部、段部和慕容部。宇文部本非鲜卑，他们是世居阴山东部的匈奴南单于的远属，他们原有十二个部落，公元一世纪北匈奴兵败西迁后，留居漠北的匈奴人十余万落（户）东迁至辽东与鲜卑人杂处。宇文部即是此时东迁的匈奴部之一。他们使用的语言是阿尔泰语系中的匈奴语。鲜卑人则是通古斯语系中的东胡语。故史书上说宇文鲜卑语言与鲜卑颇异，东迁过程中宇文部的上层人物统治了辽东一带的鲜卑人。并参加了檀石槐建立的部落大联盟，成为联盟中的东部大人。从此逐步鲜卑化，并称之为宇文鲜卑，宇文鲜卑的驻地主要在西拉木伦河以北，乌力吉木仁河，霍林河流域，宇文鲜卑所属部中，以驻扎于扎鲁特旗乌力吉木仁河、老哈河、西拉木伦河一带的遥牵氏，驻扎于西拉木伦河上游的习部，下游的迭刺部较为著名。位于扎鲁特旗西北部的窖窟山，《辽史》中称为大勒得山，是宇文鲜卑部中的大勒得王大贺氏的发源之地，这个大贺氏部族，就是以后中国复姓中贺兰氏、贺楼氏、贺岳氏（也有写作贺若氏的）贺连氏等姓氏的始祖发源地。

　　宇文部中的迭刺部最先在霍林河中上游一带游牧，后逐步南移至乌力吉木仁河与西拉木伦河之间游牧。公元四世纪中叶，以迭刺部、乌槐部等部为核心的部落，在老哈河与西拉木伦河交汇之处建立了部落联盟。契丹八部由此产生。迭刺部夷离堇耶律阿保机于公元916年在“金玲岗”（现开鲁县黑龙坝至胡家岗一带”，祭告天地，承袭大统，建立了契丹王朝，建元神册，建都龙化洲（奈曼旗与开鲁交界处孟家段水库附近）。宇文鲜卑的另一部落习部则游牧于西拉木伦河上游和老哈河上游一带，并发展成为库莫溪部族。定居于现今赤峰市宁城一带、五胡十六国至随唐时期经常参与中原混战。隋初较为强盛，后被契丹所征服，融于契丹民族之中。