Feljegyzések vannak arról, hogy a római birodalom idején kisebb méretű kutyákat angol vadászkutyákkal kereszteztek. A birodalom fénykorában léteztek olyan apró méretű kutyák, melyek kitűntek harcias természetükkel. Ezek a latin 'föld' szóból származó "terrari" nevet kapták. Őket kotorékozásban alkalmazták, azaz elsősorban vadászkutyák voltak. Feladatuk az apró rágcsálók - patkány, egér stb. - irtása volt. Ezzel emberi társaikat megszabadították a kártékony rágcsálóktól,  önmaguk számára pedig biztosították az élelmet. Nem tudni miért, de a terrierek elsősorban Nagy-Britanniában honosodtak meg és terjedtek el. 
A középkori Európában még csak alig tucatnyi fajta létezett, ám az ipari forradalom a kutyatenyésztésben is nagy változásokat hozott. A XVIII. században kocsmai versenyek zajlottak a legjobb kutya címért, a XIX. századra már szabályok korlátozták a versenyeket, és elindult a komoly tenyésztői munka. 
A terrier régi típusú vadászkutya, melyről 1576-ban írt először Flemming, a "The English Dogs"-ban. Ebben szót ejt egy kutyáról, mely igen kiváló a róka, a borz és a nyúl nyomának követésében és vadászatában. Ezt a kutyát "terrarinak" nevezi. A szó latin eredetű, összefüggésben van a latin "terra" (föld) szóval. A fajta neve tehát "York grófsági földi kutyát" jelent. 
Erzsébet angol királynő (1533-1603) orvosa, dr. Cajus a "de canibus britannicis" című könyvében az alábbiakat írta: " A terrar a rókát, a borzot és más káros állatokat vadássza, és azokat mélyen a föld alatt darabokra szaggatja." Leírásában kitér a külső jegyek leírására is: " a terrar kutya kisebb példányainak sötét vagy hosszú fekete szőrük van." A későbbiekben más szerzők is hangsúlyozták a terrierek vadászképességét, mely a tenyésztésénél előtérben állt. 1760-ban Daniel a "Field Sports" című újságban megjelent írásában már két kisméretű, hosszú szőrű terrierfajtát különböztet meg, és kiemeli eredményességüket a rágcsálóirtásban. 
A bányászok gyakran vitték magukkal kiskutyájukat a munkában, ahol azok sújtólég és más mérgező gázok kiszagolásában jeleskedtek és ezt hangos ugatással gazdáig tudomására hozták, megmentve őket ezzel a biztos haláltól. Mivel méretük nem volt túl nagy, könnyű volt őket szállítani, és etetésük sem volt költséges. 
A terrierek a malmokban, raktárokban is hasznosították magukat  - itt elsősorban a rágcsálókara vadásztak. Ugyanakkor jelzőkutyaként is tevékenykedtek - a tolvajokat, betolakodókat éles csaholással fogadták.