Schwammiger Knochen fehlen die funktionellen röhrenförmigen Einheiten, die Osteon genannt werden, die in kompakten Knochen zu finden sind. Osteon werden durch ein Netzwerk kleiner Kanäle zusammen mit Osteozytenzellen gebildet, die in Ringen um die Kanäle aufgereiht sind. Sie sind dafür verantwortlich, einen Kanal für Blutgefäße, Venen und Nerven bereitzustellen.
Schwammknochen besteht aus einem Netzwerk von unregelmäßig geformten Knochenplatten und -stacheln. Es ist weniger dicht und flexibler als kompakter Knochen, wodurch das Gewicht des Skeletts reduziert wird. Obwohl er unter dem Mikroskop einem Küchenschwamm ähnelt, ist der Knochenschwamm fest und hart. Je nach Alter der Person enthält der Schwammknochen entweder rotes oder gelbes Mark.