La historia San Bernardo jest pełen wątpliwości i spekulacji. Jej pochodzenie jest nieznane, chociaż różne wersje łączą narodziny tej rasy ze starożytnym Rzymem, Grecją i Szwajcarią. Prawdopodobnie nigdy nie dowiemy się na pewno, skąd się wziął, ale warto poznać interesujące legendy, które go otaczają.
Jednym z najpopularniejszych jest ten, który to stwierdza jego pochodzenie sięga starożytnych rzymskich psów, znany jako molossi. Mówi się, że istniały dwie odmiany tych psów, te z Ilirii i te z Babilonu, i że zostały one przywiezione przez armię rzymską do Helwecji (Szwajcaria). Od nich pochodzi nie tylko bernardyn, ale także berneński pies pasterski i wielki szwajcarski pies pasterski.
Około 1.000 roku ne te psy osiadł w Alpach Szwajcarskich, gdzie były używane do misji wojennych, obserwacyjnych, pasterskich, poszukiwawczych i ratowniczych. W tym czasie były one również znane jako Talhund (psy z doliny) lub Bahuerhund (psy hodowlane), a ich wygląd coraz bardziej przypominał dzisiejszego świętego Bernarda.
Postać Archidiakon Bernardo de Mentón jest kluczem w całej tej historii. Pod koniec X wieku stworzył w Alpach Szwajcarskich hospicjum, które służyło jako schronienie dla żołnierzy i kupców, a obecnie jest znanym miejscem turystycznym w okolicy. Przyjmował również i karmił dużą liczbę psów tej rasy, które pełniły ważne funkcje ochronne i robocze. Ponadto potrafiły wykrywać lawiny, ratując w ten sposób życie setkom ludzi.
Dlatego te psy nazywano „San Bernardo”. to jest warte wspomnienia Barry („Niedźwiedź” w gwarze berneńskiej), najsłynniejszy pies hospicjum, który uratował ponad 40 osób i którego ciało jest nadal przechowywane w Muzeum Historii Naturalnej w Bernie. Zmarł tragicznie po wzięciu go za wilka, pozostawiając po sobie niezliczone udane misje poszukiwawcze. Dziś to prawdziwa legenda związana z tą rasą.