Początków tego nabożeństwa należy szukać w pieśniach sławiących Maryję Pannę znanych na Wschodzie już w V w. Na Zachodzie poświęcenie majowego miesiąca Matce Bożej pojawiło się dopiero na przełomie XIII i XIV w., dzięki hiszpańskiemu królowi Alfonsowi X. Zachęcał on by wieczorami gromadzić się na wspólnej modlitwie przed figurami Bożej Rodzicielki.
Nabożeństwo majowe bardzo szybko stało się popularne w całej chrześcijańskiej Europie. Jeden z mistyków nadreńskich, dominikanin bł. Henryk Suzo, w swoich tekstach wspomina, że jeszcze jako dziecko w maju zbierał na łąkach kwiaty i zanosił je Maryi. W XVI w. upowszechnieniu nabożeństwa sprzyjał wynalazek druku. Po raz pierwszy maj został nazwany miesiącem Maryi w wydanej w 1549 r. w Niemczech książeczce „Maj duchowy”, która była odpowiedzią na Reformację.
W wielu żywotach świętych oraz kronikach zakonnych można wyczytać o majowym kulcie Maryi Panny. Dobrym przykładem jest św. Filip Nereusz, który gromadził dzieci przy figurze Matki Bożej, zachęcał do modlitwy i do składania u jej stóp kwiatów. Podobne zwyczaje opisują XVII wieczne kroniki włoskich dominikanów.
Ojcem nabożeństw majowych jest żyjący na przełomie XVII i XVIII wieku w Neapolu jezuita o. Ansolani. Organizował on w kaplicy królewskiej specjalne koncerty pieśni maryjnych, które kończył uroczystym błogosławieństwem Najświętszym Sakramentem. Wielkim propagatorem tej formy czci Matki Bożej był jezuita, o. Muzzarelli, który w 1787 r. wydał specjalną broszurkę, którą rozesłał do wszystkich włoskich biskupów. Po mimo kasaty jezuitów przez Klemensa XIV, o. Mazurelli wprowadził nabożeństwo majowe w kościele Il Gesu w Rzymie. Rozpowszechnił je również w Paryżu, towarzysząc papieżowi Piusowi VII podczas koronacji Napoleona Bonaparte. To właśnie Pius VII obdarzył nabożeństwo majowe pierwszymi odpustami. W 1859 r. kolejny następca św. Piotra – Pius IX, zatwierdził obowiązującą do naszych czasów formę nabożeństwa, składającego się z Litanii Loretańskiej, nauki kapłana oraz uroczystego błogosławieństwa Najświętszym Sakramentem.
W Polsce pierwsze odnotowane nabożeństwa majowe zostały wprowadzone w 1838 r. przez jezuitów w Tarnopolu. W połowie XIX w. „majówki” odprawiane już były w wielu miastach, m.in. w Warszawie w kościele Św. Krzyża, w Krakowie, Płocku, Toruniu, Nowym Sączu, Lwowie i Włocławku.
Litania Loretańska, która jest główną częścią nabożeństw majowych, powstała prawdopodobnie już w XII w. we Francji. Zebrane wezwania sławiące Maryję Pannę zatwierdził 11 czerwca 1587 r. papież Sykstus V. Swoją nazwę zawdzięcza włoskiej miejscowości Loretto, gdzie była niezwykle popularna. Ponieważ często modlący się dodawali do niej własne wezwania, w 1631 r. Święta Kongregacja Obrzędów zakazała dokonywania w tekście samowolnych zmian. Nowe wezwania posiadały aprobatę Kościoła i wynikały z rozwoju Mariologii. W Polsce jest o jedno wezwanie więcej. W okresie międzywojennym, po zatwierdzeniu przez Stolicę Apostolską uroczystości Najświętszej Maryi Panny Królowej Polski, za zgodą papieża Piusa XI, do Litanii dołączono wezwanie "Królowo Polski".