柔道起源于日本古代的柔术。日本明治10年,日本青年嘉纳治五郎汲取众多柔术流派的长处,始创了一套适合青少年锻炼身体,便于防身自卫的技术体系,为区别于其他柔术,称为"柔道"。
经过嘉纳治五郎先生的辛勤努力和大力提倡,1882年在日本的东京下谷北稻荷街的永昌寺,建立了日本最早的"讲道馆",用以训练和传授柔道。很快柔道便在日本全国普遍开展起来。 1895年,日本成立了"大日本武德会",大力宣传和推广柔道,并制订了柔道比赛的统一规则。从1930年起,柔道在日本学校中成了青少年的必修课。在军队、警察部队以及其他各种场所也开始教授柔道,并在全国各地通过各种柔道比赛,使柔道逐渐成为日本普及的运动。1948年,日本举行了柔道锦标赛。1949年,成立了全日本柔道联盟。
为鼓励柔道运动员积极向上、刻苦训练,嘉纳治五郎设立了柔道的段位制:一、二、三、四、五段腰带颜色为黑色;六、七、八段腰带颜色为红白相间的腰带;九、十段腰带颜色为红色带。未入段者又分为五个等级:一、二、三级系茶色腰带;四、五级系白色腰带。 1949年,欧洲成立了柔道联合会。1951年7月,由英国、法国、德国、意大利、荷兰、瑞士、日本等12个国家发起成立了国际柔道联合会。本部设在日本东京,会长为嘉纳履正(嘉纳治五郎之子)。
1956年,在日本东京举办了第一届世界柔道比赛。1964年5月,在日本东京举行的第18届奥运会上,男子柔道被列为奥运会正式比赛项目。
女子柔道也始于日本。早在1893年,嘉纳治五郎就在日本讲道馆开始招收女生,传授柔道。20世纪70年代,女子柔道在全世界范围内开展起来。1978年,国际柔道联合会正式决定举办世界柔道比赛,并对女子柔道比赛的体重级别作出了具体的规定,这一决定在很大程度上推进了女子柔道运动在世界范围内的迅猛发展。1980年11月29日,在美国纽约举办了第一次女子柔道比赛,当时有27个国家和地区的150多名运动员参赛。