山口剛玄(Gogen Yamaguchi)在明治四十二年(1909)120日,於鹿兒島市千石町出世,本名實美。在山口家中十人中,有六個兄弟都熱衷於武道。排行第三的剛玄自小就習示現流的劍術。

山口剛玄於13歲時認識了沖繩縣出生的木匠‧丸田武雄。隨後進入宮崎縣都城丸田道場,跟丸田武雄學習剛柔流空手道。1927,宮城長順受到京都帝國大學柔道部的邀請,舉辦唐手道講習會,當時擁有柔道四段實力的山口剛玄都有參加。1928,入讀關西大學法學家專門部。但不夠一年便退學了。

1929,於立命館大學修讀法律。但當時立命館大學沒有開設空手道部,所以當時的他加入相撲部同應援團(類似啦啦隊)。同年在京都新撰組壬生屯開設「剛柔流空手道拳法道場」及於立命館大學創設「唐手術研究會」。同時引入自由組手(博擊)的形式。在那個時代,所有在沖繩和日本的空手道學校都只是練習型及約束組手,從未嘗試練習自由組手。

1931,於立命館大學唐手術研究會招待宮城長順,接受宮城長順的指導。由於受到宮城長順的影響,使山口剛玄改變了空手道只有剛的想法,進而下定決心,向身心作出磨練。

1936五月,宮城長順在大日本武德會進行剛柔流空手道的示範。1937五月,宮城長順再次到訪京都,山口剛玄除了得到授予道名「剛玄」,亦委任在日本推廣剛柔流空手道的事務。之後,山口剛玄到深山進行三戰、禪和禁食等苦修。

19505月,他在東京成立一個全國性組織「全日本空手道剛柔會」。此時有約3萬的剛柔流修行者一同呼應,使剛柔會成為當時最大的組織。7月,將道場移至淺草千束。在當時的淺草時代,艱苦的練習令整個道場充滿著活力。有很多有名者亦都曾在場練習,包括極真會館創立人大山倍達、宮城長順的長子‧宮城敬、現全空連剛柔會理事長間山統正、中國拳法的松田隆志等。甚至乎流派的不同,都曾有交流到訪練習。例如世界有名的空手道家「金澤弘和」(國際松濤館館長)等。

1965年,成立國際空手道剛柔會﹝IKGA﹞。開設杉並剛柔館本部道場。

山口剛玄的綽號「貓兒」(The Cat),是全日本武術界賜給他的。除了因常擺出貓足立架式之外,還有是他行動快捷,毫無聲色,進攻敵人時,出手如電,狠辣準確。

​1969年獲日本天皇授勳