Historia puli jest długa i niezwykła. Sięga zarania dziejów cywilizacji i zaczyna się w Mezopotamii. Badania archeologiczne w miejscach miast starożytnych cywilizacji pozwoliły odkryć wiele śladów istnienia puli, datowanych na ok. 2300 lat p.n.e.

W Eridu nad Eufratem, gdzie wykopano jedno z najstarszych miast na ziemi, znaleziono grobowiec 8-letniej sumeryjskiej księżniczki, którą wyposażono na ostatnią podróż w ulubione przedmioty. Była wśród nich alabastrowa figurka psa o wyglądzie puli. Wiek znaleziska oszacowano na 6000 lat. Archeolodzy znaleźli wiele dowodów na to, że były one nie tylko pasterzami i stróżami stad, ale żyły też u boku mieszkańców miast.

Półdzikie puli pędzące stada towarzyszyły też koczowniczym plemionom pustoszącym Azję ok. 1200 r. p.n.e. W Chinach nazywano najeźdźców Puli Hau albo Niszczycielskim Hunami. W V w.n.e. hordy Hunów pod wodzą Attyli skierowały się na zachód i dotarły aż do Rzymu. Po śmierci Attyli wrócili do Azji, ale w VI w. z Kaukazu nad Dunaj dotarli Awarowie, którzy również znali termin „puli”. Słowo to odnosiło się zwykle do stada i znane było w Indiach i w innych miejscach gdzie dotarli Awarowie.

W IX w. z dorzecza Donu i Dniestru za linię Karpat przybyli Madziarowie z dużymi stadami bydła i rogatych owiec argali pędzonymi przez puli. Byli dzikimi, twardymi i raczej gwałtownymi ludźmi, którzy po wypędzeniu mieszkańców doliny Dunaju osiedli tam ze swymi psami. Puli żyjący na Węgrzech w roku 899, bardzo przypominał psy z północnych Himalajów.

Wśród wrogich plemion najeżdżających Madziarów najgroźniejsi byli Mongołowie pod wodzą Dżyngis Chana. Dla nich termin „puli” lub „buri” oznaczał „niszczyciel”. Po rozbiciu ludności Węgier zaczęli się tam osiedlać Germanie, pojawiły się nowe owce i psy podobne do briarda i beaucerona. Zaczęły się krzyżowac z miejscowymi puli i na reliefach z XII i XIV w. widać juz różne typy psów – niektóre mają stojące uszy i zakręcone ogony, inne nie mają ogonów, a uszy opadające.

Choć najwcześniejsza weryfikacja puli pochodzi z 1751 r. i zalicza je do psów myśliwskich, Węgrzy nazywali puli i pumi: Juhasz-Kutyak – pies pasterza.

W 1901 r. puli został przemianowany na „psa domowego, rodzinnego, węgierskiego”. Miało to miejsce w czasie, kiedy wiele krajów zdecydowało chronić swoje narodowe rasy. W XX w. po rozdzieleniu puli i pumi, czasem zdarza się pojedynczy szczeniak w miocie puli podobny do pumi, a nawet mudi – kolejnej rasy pasterskiej, wyodrębnionej niedawno.

Na początku XX w. sędziowie psich wystaw nie mieli pewności, jakie cechy rasy uznawać i zdarzało się, że zwycięzcami zostawały całkiem różne typy psa; ze stojącymi uszami, z krótką sierścią lub spiczastą głową! Rozbieżności w wielkości występowały przez pierwsze 30-40 lat, odkąd standard rasy określał puli jako „średniego psa pasterskiego”. Przed II wojną ilustracje przedstawiały rasę z całkiem długimi nogami, sierścią często nie skręconą w sznury, z ogonem umieszczonym niżej i nie zawsze zakręconym na grzbiecie.

Na wczesnych wystawach w Budapeszcie zarówno puli, jak i pumi były określane jako Juhasz-Kutyak. Dla pasterzy były to dwie różne rasy i miały swoje odrębne nazwy .

W 1899 r. powstała na Węgrzech organizacja zwana w skrócie MEOE, mająca na celu ochronę narodowych ras. Ustaleniem wzorca puli zajął się lekarz weterynarii zatrudniony w budapesztańskim ZOO – dr Emil Raitsits. Wzorzec został opublikowany w 1915 r., a w poprawionej wersji w 1924 r. został zaakceptowany przez FCI.

Dr Raitsits pragnął rozszerzenia wzorca i dopuszczenia do rejestracji psów nieposiadających rodowodów. Założył w 1930 r. alternatywny klub, który dopuszczał różne kolory i wielkości, ale FCI odmówiła jego rejestracji. Istnienie dwóch klubów o różniących się wzorcach wprowadziło zamieszanie wśród hodowców na Węgrzech i w innych krajach. Kupowali oni psy w dobrej wierze, aby stworzyć podstawy hodowli po czym okazywało się, że wyhodowane psy nie spełniają wymogów wzorca FCI.

Po II wojnie światowej, gdy pula genów drastycznie się zmniejszyła, hodowle i wystawy zostały zdominowane przez hodowców z MEOE. Ta organizacja propagowała swój wzorzec rasy wśród hodowców i wystawców. Wysoki poziom wystaw przyciągał zainteresowanych z innych krajów, szczególnie z USA i Wielkiej Brytanii. Brytyjczycy sprowadzili rasę do Australii i Nowej Zelandii.

W książce „Pracujące psy świata”, wydanej w 1947 r., Clifford Hubbard (w Wielkiej Brytanii znany wielbicielom psów jako „Doggy Hubbard”) odnotował, że puli staje się coraz bardziej znany poza Węgrami. Przed II wojną był hodowany w Austrii, Niemczech i Włoszech.

Również amerykańscy hodowcy zaczęli interesować się rasą. Puli został sprowadzony do USA w 1936 r., kiedy departament rolnictwa stanu Maryland testował inteligencję i pasterską przydatność sześciu osobników puli. O ich niezwykłej inteligencji i zdolnościach może świadczyc fakt, że wszystkie inne psy pracujące na farmach, podczas testów mogły opanować (zapamiętać i poprawnie wykonać) około 16 komend, tymczasem puli zdystansował je wynikiem 75 komend!

Pierwsza wzmianka o puli w Wielkiej Brytanii donosi o Clive of India, który został kupiony od niemieckiego eks-służącego przez panią Turpin za 20 papierosów. Został on wystawiony na wystawie w Stafford w 1950 r.

Rasa zyskała, kiedy na wystawie w Hammersmith w 1970 r. pan Ingus pokazał swojego psa Bodri z okazałą sznurowa szata sięgającą ziemi. Rodzina Ingus posiadała również 4 szczeniaki po wybitnym węgierskim Interchampionie. Bodri i szczeniaki zostały pokazane w prasie i telewizji, dzięki czemu ta niezwykła rasa wzbudziła jeszcze większe zainteresowanie. Z czwórki szczeniaków jeden trafił do Pat Lanz, już znanej z hodowli rottweilerów Borgvaale. Puli z tej hodowli wciąż odnoszą sukcesy na wystawach w Europie i w Australii. Pies o imieniu Immerzu trafił do państwa Horan, którzy wyemigrowali do Kanady, a pozostała dwójka do państwa Tomlin, którzy byli pionierami wystawiania briardów na angielskich ringach. Immerzu dał poczatek i nazwę hodowli panstwa Horan, która istnieje do dziś.

W Ameryce, w następstwie eksperymentu z Maryland, para puli została przez American Kennel Club uznana i zarejestrowana w maju 1937 r. Prawdopodobnie najlepiej znanym przedwojennym hodowcą była pani Sylwia Owen, która odnosiła sukcesy na wystawach, i od której wiele lat później pani Lanz sprowadziła samca o imieniu Wilie. Suka zapłodniona przez Williego pojechała do hodowli p. Owen i przeszła do historii rasy jako matka 24 championów. Brat Williego z miotu został sir wszechczasów z 49 tytułami championa.

W ten sposób wiejski pastuch o niecodziennej fryzurze trafił na ringi honorowe najbardziej prestiżowych wystaw na świecie. Okazało się, że radzi sobie na salonach równie doskonale, jak w owczarniach.

W Polsce puli nigdy nie był popularny. Przed wojną można go było zobaczyć w warszawskim Zoo. W latach 70. i 80. przywożono je czasem z Węgier, ale choć wzbudzały sensację na ulicach, rasa nie zdobyła większego zainteresowania wśród hodowców.