數學符號的發明及使用比數字要晚，但其數量較數字來說要多得多。現在常用的數學符號有200多個，初中階段經常使用的就有至少20個，其中，每一個符號都有一段有趣的經歷。
例如加號曾經有好幾種，通用“+”號.“+”號是由拉丁文“et”(“和”的意思)演變而來的。十六世紀，意大利科學家塔塔里亞用意大利文“plu”(“加”的意思)的第一個字母表示加，草為“μ”最后都變成了“+”號。“-”號是從拉丁文“minus”(“減”的意思)演變來的，簡寫m，再省略掉字母，就成了“-”了。
也有人說，賣酒的商人用“-”表示酒桶里的酒賣了多少。以后，當把新酒灌入大桶的時候，就在“-”上加一豎，意思是把原線條勾銷，這樣就成了個“+”號。
到了十五世紀，德國數學家魏德美正式確定：“+”用作加號，“-”用作減號。
乘號曾經用過十幾種，現代數學通用兩種。一個是“×”，最早是英國數學家奧屈特1631年提出的;一個是“·”，最早是英國數學家赫銳奧特首創的。德國數學家萊布尼茨認為：“×”號象拉丁字母“X”，加以反對，而贊成用“·”號。他自己還提出用“∩“表示相乘。可是這個符號現代應用到集合論中去了。
到了十八世紀，美國數學家歐德萊確定，把“×”作為乘號。他認為“×”是“+”斜起來寫，是另一種表示增加的符號。
“÷”最初作為減號，在歐洲大陸長期流行。直到1631年英國數學家奧屈特用“：”表示除或比，另外有人用“-”(除線)表示除。后來瑞士數學家拉哈在他所著的《代數學》里，才根據群眾創造，正式將“÷”作為除號。
平方根號曾經用拉丁文“Radix”(根)的首尾兩個字母合并起來表示，十七世紀初葉，法國數學家笛卡兒在他的《幾何學》中，第一次用“√”表示根號。“√”是由拉丁字線“r”的變形，“￣”是括線。
十六世紀法國數學家維葉特用“=”表示兩個量的差別。可是英國牛津大學數學、修辭學教授列考爾德覺得：用兩條平行而又相等的直線來表示兩數相等是最合適不過的了，于是等于符號“=”就從1540年開始使用起來。
1591年，法國數學家韋達在菱形中大量使用這個符號，才逐漸為人們接受。十七世紀德國萊布尼茨廣泛使用了“=”號，他還在幾何學中用“∽”表示相似，用“≌”表示全等。
大于號“>”和小于號“<”，是1631年英國著名代數學家赫銳奧特創用。至于“≥”、“≤”、“≠”這三個符號的出現，是很晚很晚的事了。大括號“{}”和中括號“[]”是代數創始人之一魏治德創造的。
任意號來源于英語中的any一詞，因為小寫和大寫均容易造成混淆,故將其單詞首字母大寫后倒置。