Die grundlegende Definition einer anorganischen Verbindung ist jede Substanz, in der sich zwei oder mehr Elemente außer Kohlenstoff verbinden. Verbindungen, die Kohlenstoff enthalten, werden normalerweise als organisch klassifiziert, mit Ausnahme von Carbiden, Carbonaten und Cyanide, wodurch die Unterscheidung zwischen organischen und anorganischen Verbindungen in manchen Situationen etwas undeutlich wird.
Die International Union of Pure and Applied Chemistry legt Definitionen für chemische Begriffe fest. Obwohl die Union mit dieser Aufgabe betraut ist, muss sie die Begriffe "anorganische Verbindungen" oder "organische Verbindungen" noch definieren. Einige wissenschaftliche Disziplinen beschreiben anorganische Verbindungen als nicht lebend und organische Verbindungen als lebend. Wasser ist ein Paradebeispiel für eine anorganische Verbindung.