Hoewel algemeen wordt erkend dat karate-dō zich heeft ontwikkeld uit vechtsystemen die hun oorsprong vinden in China, bestaan er weinig documenten die kunnen verifiëren hoe dit precies in zijn werk is gegaan. In 1392 migreerden meer dan 500 Chinezen vanuit Zuid-China naar Okinawa, en vestigden een gemeenschap in het gebied dat bekend staat als Kume. Zij introduceerden de Chinese cultuur bij de Ryūkyū bevolking, en men vermoedt dat een aantal Chinese beoefenaars van het gevecht van hand tot hand ook deel uitmaakten van deze gemeenschap.

Veel later, rond 1756, introduceerde de militaire gezant van de Qing dynastie, Kushanku, een expert in de krijgskunst van Ch'uan Fa, deze op Okinawa.

Toen Shimazu Iehisa van de Satsuma-clan de eilanden in 1609 binnenviel, werden alle wapens van de plaatselijke bevolking in beslag genomen. Ryūkyū (Okinawa) mocht nog wel zijn tributaire relatie met China handhaven, maar het verbod op wapens werd de volgende 250 jaar strikt gehandhaafd. De training van hand-tot-hand gevechten werd in het geheim uitgevoerd terwijl de autoriteiten van Satsuma hun beleid van ontwapening en het onder controle houden van de Ryūkyūanen intensiveerden.

Er zijn vele theorieën over de oorsprong van de term "karate". Het is onduidelijk wie de eerste was die het woord gebruikte en wanneer. Het oude Ryūkyū vechtsysteem werd echter oorspronkelijk "te" genoemd, en de standaard aanname is dat "kara-te" verwijst naar de krijgstechnieken die men uit China leerde (kara = China).

Hoe het ook zij, het is duidelijk dat karate zich in Okinawa onder aanzienlijke Chinese invloed heeft ontwikkeld. Na verloop van tijd werden de eens zo geheime technieken wijdverbreid over heel Okinawa. In 1905 introduceerde Itosu Anko karate in het schoolcurriculum van Okinawa.

Karate was voor het eerst te zien op het Japanse vasteland in 1916-1917 toen de Okinawaanse onderwijzer Gichin Funakoshi een openbare demonstratie gaf in de Butōkuden in Kyōtō. In 1922 organiseerde het Ministerie van Onderwijs de eerste Lichamelijke Opvoeding Expgichin-funakoshi1-concentratie in Tōkyō, waarvoor Funakoshi was uitgenodigd om het Kushanku-no-kata te demonstreren. Kanō Jigorō, de stichter van Judō, verzocht Funakoshi zelfs om kata en kumite te tonen aan de leden van het Kodōkan Judo Instituut. Funakoshi bleef vanaf dat moment in Tōkyō om karate te onderwijzen.

Naast Funakoshi kwamen ook andere karatemeesters naar het vasteland van Japan. Deze meesters creëerden meer dan 100 verschillende karatescholen, zowel in Okinawa als op het Japanse vasteland.

Shōtōkan, Shitō-ryu, Goju-ryu en Wadō-ryu zijn de meest succesvolle in termen van het aantal leerlingen en worden de "grote vier" scholen van Karate dō genoemd.

De universitaire clubs waren de voorhoede van de popularisering van karate op het Japanse vasteland. Het opvoedkundig potentieel van karate werd al snel erkend, en de benaming werd veranderd in "karate-dō" om de morele opvoeding en het potentieel als middel tot zelfverbetering te benadrukken (kara = leeg).

Vanaf het begin van de jaren 1950 begonnen verschillende karate groepen te experimenteren met freestyle wedstrijden in een wedstrijd format. In 1957 organiseerde de Japan Karate Association het eerste officiële "Kampioenschap van Japan". Mr. Kanazawa Hirokazu behaalde de eerste plaats in kumite.

Vanaf het begin van de jaren 1960, zonden de meeste karate organisaties instructeurs uit over de hele wereld. Mr. Kanazawa Hirokazu werd eerst naar Hawai gestuurd en later naar Europa om "Shōtokan karate" te onderwijzen.