Ambroży urodził się około roku 340 w Trewirze (dzisiejsze Niemcy), jako syn prefekta Galii. Otrzymawszy staranne wykształcenie w Rzymie, rozpoczął karierę państwową na terenie dzisiejszej Jugosławii. Około roku 370 został mianowany zarządcą - prefektem północnej Italii, mieszkając w Mediolanie.
W roku 374 w Mediolanie zmarł tamtejszy biskup. Zapowiadał się burzliwy wybór nowego biskupa, gdyż dwie partie: jedna prawowierna, druga sympatyzująca z arianizmem, wysuwały swoich kandydatów, ale ponieważ głosy były równomierne, wybory się przeciągały. Ambroży, podejrzewając, że może dojść do zamieszek, nie chcąc do nich dopuścić, z urzędu udał się do katedry. Kiedy tam się znalazł, z tłumu jakieś dziecko zwołało: "Ambroży biskupem". Zebrani uznali to za znak opatrznościowy i mimo tego, że Ambroży - choć należał do rodziny chrześcijańskiej - nie był nawet ochrzczony i opierał się, wymogli na nim zgodę. Dla wybierających nie stanowiło to żadnej przeszkody. Wiedzieli, że jest człowiekiem sprawiedliwym i bardzo odpowiedzialnym, a to wystarczyło, by mógł być dobrym biskupem. Przyszłość potwierdziła, że mieli rację.
W ciągu ośmiu dni Ambroży przygotował się, przyjął chrzest i pozostałe sakramenty, a 7 grudnia 374 r. został konsekrowany na biskupa Mediolanu.
Nowy biskup wiedział, jak małe kompetencje posiada w zakresie znajomości Pisma Świętego i prawd objawionych, dlatego swoje duszpasterzowanie rozpoczął od gruntownego studiowania Biblii i literatury chrześcijańskiej. Miało to służyć jego przepowiadaniu. Wnet zasłynął jako kaznodzieja; podziwiał go św. Augustyn.
Św. Ambroży żył i działał w okresie, kiedy dopiero zaczynały się kształtować stosunki Kościoła z państwem (władzą cesarską). Jego postawa i poczynania w tej dziedzinie miały znaczący wpływ na przyszłość tych stosunków. Inicjatywy biskupa Mediolanu były też próbą określenia miejsca Kościoła w społeczeństwie. Z tego też punktu widzenia należy oceniać słynne "potyczki" Ambrożego z władzą cesarską.
Najgłośniejszym był konflikt Ambrożego z cesarzem Teodozjuszem. Powodem była rzeź dokonana z rozkazu cesarza w Tessalonikach. Podczas lokalnych zamieszek zginął tam jeden z oficerów rzymskich. W odwecie cesarz zarządził masakrę ludności; mieszkańców zgromadzonych w cyrku zaatakowali żołnierze. Zginęło prawie 700 osób. Wówczas biskup Ambroży nałożył na cesarza obowiązek odbycia pokuty. O dziwo, Teodozjusz uznał swój grzech i zgodził się na określoną przez biskupa pokutę, co było wyrazem wielkiego autorytetu biskupa Ambrożego. Za jego sprawą świat zrozumiał, że władca w Kościele jest tylko wiernym - niczym więcej - i obowiązują go te same zasady Bożego Prawa, które normują życie wszystkich.
Sprecyzowane przez św. Ambrożego ustawienie władcy wobec Bożego Prawa, na straży którego stoi biskup, stało się normą w Kościele katolickim i obowiązuje do dziś. Potknął się o tę normę w XVI w. Henryk VIII, który po popełnieniu grzechu, nie chcąc pokutować, wolał oderwać cały Kościół angielski od biskupa Rzymu. Ten zaś, stając na straży Bożego Prawa, nie mógł przyjąć innego rozwiązania.
Wspomnienie postaci św. Ambrożego przypomina bardzo trudne zagadnienie relacji Kościoła do państwa, zwłaszcza wtedy, gdy władzę w państwie sprawuje katolik. Ten bowiem jako wierzący musi się nieustannie liczyć z Bożym Prawem. Nie chodzi tu tylko o decyzje, ale i o zachowanie Bożego Prawa w życiu osobistym, które dla podwładnych jest niepisaną normą postępowania.
Stąd do historii św. Ambroży przeszedł nie tyle jako teolog, ile jako odważny biskup, wzywający władców (dzisiaj sprawujących władzę na różnym szczeblu życia demokratycznego) do zachowania Prawa Bożego.
Św. Ambroży zmarł w Wielką Sobotę 4 kwietnia 397 r. Został pochowany w Mediolanie. Do dziś pozostaje postacią wręcz symboliczną dla tego miasta. Zdumiewała jego aktywność, co podkreślił biograf, notując z podziwem, że po śmierci Ambrożego, jego obowiązki katechetyczne musiały być podzielone między pięciu kapłanów.