Chemisch gesehen besteht der Unterschied zwischen den beiden darin, dass hartes Wasser Kalzium- und Magnesiumionen enthält, während weiches Wasser keine enthält. Mit weichem Wasser lässt sich leichter aufschäumen als mit hartem Wasser.
Hartwasser neigt dazu, Rückstände zu hinterlassen, daher bilden sich Filme an Wasserhähnen, in Abflüssen und in Wasserleitungen. Es verursacht auch Bildungen in Kaffeekannen und Teekesseln, weshalb einige Marken empfehlen, die Maschinen regelmäßig zu entkalken.
Die saure Natur des Regens verursacht hartes Wasser; Regen ist sauer, weil er sich mit Kohlendioxid zu einer schwachen Säure verbindet. Der Regen löst dann Gesteine und andere Verbindungen im Wasser auf, wodurch hartes Wasser entsteht.