古醫書《外台祕要》曾説，用楊枝將一頭咬軟，蘸了藥物揩牙，可使牙“香而光潔”， 咀嚼嫩樹枝用以潔牙的效果似乎也不錯，李時珍也説，用嫩柳枝“削為牙枝，滌齒甚妙”。
在還沒發明牙膏和牙刷的古代，中國人用樹枝、鹽、藥物等工具來清潔牙齒，希望能達到清潔、消炎抑菌，並帶來些微清香的效果。牙膏問世前，西方人發明了牙粉。它是碳酸鈣和肥皂粉的混合物，其功能是保持牙齒清潔，除卻污漬。但牙粉pH值高，會引起口腔組織發炎。今天，人們對牙膏的期望早已超出了清潔，而是希望牙膏能起到更多口腔保健的作用。
牙膏的組成
牙膏是由摩擦劑、保濕劑、增稠劑、發泡劑、芳香劑、水和其他添加劑（含用於改善口腔健康狀況的功效成份）組成的。不管什麼牙膏，其中主打成分都是摩擦劑，清潔作用主要由摩擦劑完成。其他添加劑還包括防腐劑、着色劑等等。
1、增稠劑
增稠劑常見為CMC（羧甲基纖維素鈉），目的是將牙膏中多種原料成分有機地粘合在一起製成膏狀，不過新國標已經取消了對稠度的要求。
2、香料
牙膏用香料主要是薄荷，它能給刷牙帶來涼爽感。此外，還可使用水果類香料和綠茶味等，但作為牙膏香料來説是有嚴格限制的，也不要求一定含有。
3、摩擦劑
牙膏中常用的摩擦劑有： 碳酸鈣、磷酸氫鈣（摩擦力較強，因此在特製除煙跡的牙膏中，可在二水鹽中混入5%-10%無水鹽）、焦磷酸鈣（由於它不和含氟化合物發生反應，可用作含氟牙膏的基料。 ）
4、保濕劑
濕潤劑可防止牙膏在軟管中固化變硬，並使膏體具有光澤等效能。用於牙膏中的濕潤劑有甘油、山梨醇、聚乙二醇等。山梨醇還能賦予牙膏適度的甜味。
二甘醇作為一種保濕劑也曾用在牙膏中，但被發現有低毒性，並在2007年被美國、日本、加拿大等國家先後禁止，我國國家質檢總局也隨後發出了禁止使用的公告，並在在2009年公佈的牙膏新國標（GB8372-2008）中明確禁止添加。如作為雜質帶入，在牙膏中的含量不得超過0.1%。
5、表面活性劑
表面活性劑有潔淨、發泡能力，使牙膏在口腔迅速擴散，並使香氣易於透發。配方中用量一般為2～3%，普遍使用的是月桂醇硫酸鈉。
6、防腐劑
牙膏生產過程中時常會受到微生物污染的威脅，因此有必要在牙膏配方體系中添加一定的防腐劑。牙膏中的防腐劑有苯甲酸和對羥基苯甲酸酯類。至於媒體所説的會致癌的三氯生，在2009年的新國標中，已被列入到允許添加的防腐劑中，但明確不得超過0.3%。
