Als Begräbnisplatz wird Sillenstede erstmals 1138 genannt. Die Kirche in Sillenstede findet 1168 erstmalig Erwähnung. Ob damit die jetzige St.-Florian-Kirche gemeint ist, kann nicht eindeutig gesagt werden, denn die Jeversche Chronik schreibt:
"Anno 1233 Is Zillensteder Kerke gebuwet". Dies wiederum kann sich aber auch auf Reperatur- oder Umbaumaßnahmen beziehen, so dass auch ein älteres Entstehungsdatum möglich ist.
Die Kirche mit einer Länge von 48 m, einer Breite von 13 m und einer Mauerhöhe von nahezu 11 m stellt einen Höhepunkt in der baulichen Entwicklung der Granitquaderkirchen im Jeverland dar. Das Baumaterial lieferten Findlinge, die von den Gletschern der Eiszeiten in großen Mengen ins norddeutsche Moränengebiet geschoben wurden. Die Findlinge stammen wohl aus der hiesigen Geest. Sie wurden zum Bauplatz transportiert und vor Ort gespalten, um so wenigstens eine glatte Außenfläche zu bekommen. Die beschlagenen Steine, die bis zu 1.70 m lang sind, setzte man in Schalenbauweise über- und nebeneinander, so daß zunächst die Außen- und Innenwände errichtet wurden, dann füllte man den Zwischenraum mit Steinabfall und Muschelkalk. Die Mauerstärke beträgt etwa 1,40 m. Dokumente aus dem 16. Jh. berichten, daß im Laufe der Zeit 80 Eisenanker eingezogen werden mußten, um das Ausbrechen der Granitquader in der Außenmauer zu verhindern. Die Eisenanker und schmucklose Portale zieren die Wände, die nur durch die hochgelegenen Fenster (romanische Stileigenheit) unterbrochen werden.

Ursprünglich hatte die Kirche ein niedriges Reitdach, die Backsteingiebel sind später in der Gotik hochgezogen worden.