Na antiguidade clássica, tanto gregos quanto romanos já utilizavam instrumentos parecidos com o lápis: eram barrinhas redondas de chumbo que serviam para traçar linhas, desenhar e escrever. No século XII surgiu um lápis feito com a mistura de estanho e chumbo, conhecido como "lápis de prata" e depois foi muito usado por artistas como Albert Dürer, Jan Van Eyck e Leonardo da Vinci.
O lápis moderno apareceu no século XVI, depois da descoberta das primeiras jazidas de grafite na Inglaterra. No entanto, até hoje em inglês o lápis grafite é chamado de "lead pencil" que quer dizer lápis de chumbo, provavelmente por causa da influência da cultura greco-latina.
Inicialmente as barras de grafite eram cortadas em pedaços e embrulhadas em cordões ou em pele de ovelha. Depois o grafite passou a ser encaixilhado e colado dentro de pequenas ripas de madeira, cujo formato final era moldado manualmente. No século XVII carpinteiros da cidade alemã de Nuremberg começaram a produzir lápis, cujo monopólio foi desfeito no século seguinte por oficinas familiares como a de Kaspar Faber (1761), nome de fabricante de lápis que chegou até nossos dias.
Em 1795, o químico francês Nicholas Jacques Conté desenvolveu e patenteou o processo moderno de produção de lápis, misturando grafite em pó com argila que, depois de moldados eram endurecidos em alta temperatura, o que possibilitou o desenvolvimento de diversos graus de dureza do grafite. As inovações que se seguiram estão mais ligadas à industrialização da produção de lápis com a introdução de tornos e maquinários que aumentariam drasticamente a velocidade da produção e melhorariam a exatidão da forma (tubular ou hexagonal) e o acabamento.
Durante o século XIX e início do século XX, além do lápis grafite, os alunos usavam na escola lápis feitos de ardósia e de pedra-sabão bem macias para escrever em lousas de ardósia que tinham grau mais duro.
