A Japánból eredő judo első nyomai az időszámítás szerinti 720-as évig nyúlnak vissza. Abban a korszakban állították össze a Kojiki (Régi dolgok feljegyzései) és a Nihon Shoki (Japán krónikák) címen híressé vált könyveket. Ebben említették a chikara kurabe nevezetű tornát, Shuinin császár uralmának 7. évében. A ju-jitsu kialakulása a XVI. évszázadra tehető, mindez a XIX. századig tartott. A különböző iskolák (ryu-k) halmazából alakultak ki a ma már teljesen elfogadott önvédelmi sportok, közöttük a judo is.
A modern judo atyja Kano Jigoro (1860-1938) volt, aki egy átfogó testnevelési rendszert alakított ki, amely már versenyeztetésre is alkalmas volt. Ezen rendszer terjesztésére alapította meg a Kodokan Egyetemet 1882-ben. Innen indult el a sportág a világhódító útjára.
Az első nem hivatalos Európa-bajnokságot a németországi Drezdában rendezték meg, 1934-ben. A II. világháború után gyorsult fel jelentős mértékben a fejlődés, a Nemzetközi Judo Szövetség (IJF) már hosszú évtizedek óta rendelkezik minden földrészen kontinentális szervezettel.
Magyarországon már 1900-ban történtek kísérletek a meghonosításra, hiszen akkor járt hazánkban Sasaki Kchisaburo japán mester, akit Szemere Miklós hívott meg. Aztán 1928-ban Vincze Tibor már megkezdte a judo rendszeres oktatását, de a világégés miatt mindez megtorpant. Az önálló hazai szakszövetség 1957-ben alakult meg, majd csatlakoztunk az Európai Judo Unióhoz.