蒙古细犬在辽代就已经存在并受到了契丹王室的垂爱。辽代契丹人很重视对猎犬的选择，哲里木盟库伦旗六号辽墓壁画《出行图》中绘有一只灰犬，该犬长喙、长腿、细身，给人以机警迅猛之感，颈部系着黄色脖套，身向墓室，长尾卷起，作回首张望状。据邵清隆先生研究认为，该犬是契丹猎犬——细犬。《契丹国志》载：契丹“取细犬于萌骨子(即蒙古)之疆”。可知细犬是契丹贵族从当时居于额尔古纳河流域蒙古人那里索取来的良种犬加以培育的。另据邵国田先生《敖汉旗喇嘛沟辽墓壁画》一文介绍：该墓东壁画一幅《出行图》其上画有一只白色奔犬，细腰，腿高且粗壮属猎犬之类。此犬与库伦六号辽墓壁画中所绘灰犬相似，应同属“细犬”。
据《元都丞志》及有关史料记载，当年成吉思汗远征欧洲时，曾带着许多蒙古细犬作为警戒与狩猎之用。这些英勇机敏的细狗在战争累建奇勋。后蒙灭亡后，此犬便散落于民间，自然繁衍。但到了二十一世纪，己成了稀少的品种。仅在中国内蒙东部，东北有少数的留存。