Sylwester urodził się w Rzymie. Prawdopodobnie jego ojciec był kapłanem, który gdy trwały prześladowania dioklecjańskie ukrył księgi liturgiczne i Pismo Święte rzymskiego Kościoła. Inne relacje mówią, że matka oddała go na wychowanie do pewnego uczonego kapłana. Młodzieniec posiadł „mądrości książkowe” i „cnotliwe usposobienie”. W wieku trzydziestu lat został wyświęcony na diakona, a następnie prezbitera. Gorliwie służąc Bogu i ciesząc się powszechnym szacunkiem, został w 314 roku wybrany papieżem.
Jego pontyfikat trwał 21 lat i przypadł na czasy, w których chrześcijanie mogli wreszcie cieszyć się (po ogłoszeniu edyktu mediolańskiego) swobodą wyznania. Papież Sylwester I ustanowił rzymski dzień słońca (dies solis) Dniem Pańskim, na pamiątkę zmartwychwstania Chrystusa, z kolei cesarz Konstantyn Wielki ogłosił w 321 roku, że niedziele będą dniem wolnym od pracy. W trakcie pontyfikatu odbył się sobór nicejski – na którym przyjęto m.in. wyznanie wiary recytowane do tej pory w czasie Mszy świętych, ogłoszono dogmat o boskości Syna i Jego równości z Ojcem, ujednolicono obchodzenie świąt Wielkanocy w całym Kościele, a także ogłoszono 20 kanonów prawa kościelnego, które obejmowały uprawnienia jurysdykcyjne biskupów Rzymu oraz określały sposób wybierania biskupów. Sylwester zmarł w Rzymie i został pochowany na cmentarzu św. Pryscylli przy Via Salaria. W VII w. wybudowano tam bazylikę ku jego czci.
Papieżowi Sylwestrowi zawdzięczamy też zabawy sylwestrowe. Ludzie wierzyli, że w roku 317 zamknął on w podziemiach Watykanu smoka. Zgodnie ze starą przepowiednią, smok miał się wydostać na wolność w rocznicę śmierci świętego i zniszczyć świat, gdy rozpocznie się rok tysięczny. 31 grudnia 999 r. wszyscy czekali na koniec świata, a gdy ten nie nastąpił wylegli świętować na ulice.