Kohlenstoff wurde erstmals in prähistorischer Zeit als Holzkohle entdeckt. Es wurde im 17. Jahrhundert als Element anerkannt, nachdem Robert Boyle ein Element als eine Substanz klassifiziert hatte, die nicht in einfachere Substanzen zerlegt werden konnte.
Carbon wurde vom französischen Wissenschaftler Antoine Lavoisier benannt, als er eine Vielzahl von Experimenten durchführte, um seine Eigenschaften zu enthüllen. In einem seiner Experimente fokussierte Lavoisier die Sonnenstrahlen mit einer Lupe auf einen Diamanten und sah den Diamanten brennen und verschwinden. Er bemerkte, dass sich der Diamant mit Sauerstoff zu Kohlendioxid kombinierte, was ihn zu dem Schluss brachte, dass Diamant und Holzkohle beide aus Kohlenstoff bestehen.
Im Jahr 1770 zeigte Carl Wilhelm Scheele, dass auch Graphit zu Kohlendioxid verbrennt und entdeckte damit eine andere Form von Kohlenstoff. Eine weitere Form von Kohlenstoff, Fulleren, wurde 1985 von Robert Curl, Harry Kroto und Richard Smalley entdeckt. Fullerene wurde auch "Buckminsterfullerene" genannt, weil seine Moleküle den geodätischen Kuppeln ähnelten, die der Architekt Buckminster Fuller für die Weltausstellung 1967 entworfen hatte. Die zuletzt entdeckte Form von Kohlenstoff ist Graphen, das aus einer einzigen Schicht von Kohlenstoffatomen besteht, die in Sechsecken angeordnet sind. Graphen wurde 2004 von Kostya Novoselov und Andre Geim entdeckt, die mit Klebeband eine einzelne Atomschicht von Graphit ablösten, um diese Form von Kohlenstoff herzustellen.