Hokejový útočník, držitel jedné stříbrné a dvou bronzových olympijských medailí. Na světových šampionátech získal ještě čtyři stříbra a stejný počet bronzů. V roce 2007 byl uveden do Síně slávy Mezinárodní hokejové federace.

V roce 1964 v Innsbrucku drželo Československo až do posledního duelu šanci na druhé místo za suverénním Sovětským svazem, avšak po prohře 3:8 se Švédskem nakonec bylo rádo za bronz. O čtyři roky později v Grenoblu svěřenci trenérů Jaroslav Pitnera a Vladimíra Kostky po těsné porážce s Kanadou ukončili po obětavém výkonu a výhře 5:4 letitou neporazitelnost týmu SSSR. Po remíze 2:2 v závěrečném duelu se Švédskem na ně zbylo jen stříbro. V Sapporu čs. tým kromě Sovětského svazu překvapivě nestačil ani na mladé Američany, alespoň bronz mu zajistilo těsné vítězství nad Švédskem.

Od konce 50. do začátku 70. let patřil Josef Černý k reprezentačním pilířům, později byl i kapitánem. Dres se lvíčkem na prsou oblékl v 210 utkáních, v nichž vstřelil 75 gólů. Se ZKL Brno vybojoval sedm titulů mistra ligy a jako první hráč v nejvyšší soutěži překonal hranici 400 branek. V roce 1972 se několik dnů před začátkem světového šampionátu v Praze překvapivě vzdal reprezentace a přišel o titul mistra světa. Po ukončení hráčské kariéry se stal trenérem.