公元前500年，古希腊毕达哥拉斯（Pythagoras）学派的弟子希伯索斯（Hippasus）发现了一个惊人的事实，一个正方形的对角线与其一边的长度是不可公度的（若正方形的边长为1，则对角线的长不是一个有理数），这一不可公度性与毕氏学派的“万物皆数”（指有理数）的哲理大相径庭。这一发现使该学派领导人惶恐，认为这将动摇他们在学术界的统治地位，于是极力封锁该真理的流传，希伯索斯被迫流亡他乡，不幸的是，在一条海船上还是遇到毕氏门徒，于是希伯索斯被残忍地扔进了大海。
希伯索斯的发现，第一次向人们揭示了有理数系的缺陷，证明了它不能同连续的无限直线等同看待，有理数并没有布满数轴上的点，在数轴上存在着不能用有理数表示的“孔隙”。而这种“孔隙”经后人证明简直多得“不可胜数”。于是，古希腊人把有理数视为连续衔接的那种算术连续统的设想彻底地破灭了。不可公度量的发现连同芝诺悖论一同被称为数学史上的第一次数学危机，对以后2000多年数学的发展产生了深远的影响，促使人们从依靠直觉、经验而转向依靠证明，推动了公理几何学和逻辑学的发展，并且孕育了微积分思想萌芽。
不可约的本质是什么？长期以来众说纷纭，得不到正确的解释，两个不可通约的比值也一直认为是不可理喻的数。15世纪意大利著名画家达.芬奇称之为“无理的数”，17世纪德国天文学家开普勒称之为“不可名状”的数。
然而真理毕竟是淹没不了的，毕氏学派抹杀真理才是“无理”。人们为了纪念希伯索斯这位为真理而献身的可敬学者，就把不可通约的量取名“无理数”——这就是无理数的由来。