Kdyby se měla osobnost Josefa Abrháma charakterizovat jediným slovem, byl by to asi výraz „solitér“. Po stránce lidské i herecké. Jde o umělce, který si přísně střeží svůj osobní život a nevydává ho veřejnosti všanc. Jde o herce, který střídmě, až úsporně pracuje s vnějšími výrazovými prostředky a vyniká vnitřní noblesou, působivou v rolích dramatických a účinně „shazovanou“ v postavách komických. Jde o člověka, z nějž je cítit velká pokora k tvůrčí cestě, pro kterou se rozhodl.

Umělecké geny zdědil Josef Abrhám po svém dědovi, slovenském dramatikovi Jozefu Hollém. Proto také původně začal studovat herectví na bratislavské VŠMU a teprve později přestoupil na DAMU do třídy prof. Miloše Nedbala. Ještě jako posluchač hostoval v Národním divadle a natočil svůj první film (Strop s Věrou Chytilovou). Po absolutoriu v roce 1962 přijal angažmá v Divadle na Vinohradech (tehdy Divadle Československé armády), současně ale dál účinkoval i na naší první scéně. Ze dvou možností, které se mu nabízely, si překvapivě vybral tu třetí – nově vznikající Činoherní klub, zaštítěný jmény Ladislav Smoček, Jaroslav Vostrý a Jan Kačer, s programem, opírajícím se o hledání co nejpravdivějšího hereckého výrazu v přímém kontaktu s divákem. Reprezentantem této poetiky se Josef Abrhám stal hned od počátků v roce 1965. Už ve druhé inscenaci mladého souboru, v Penzionu pro svobodné pány, hrál smolařského pana Mulligana (a tato postava se zařadila k jeho životním rolím). K jeho dalším výrazným úkolům v Činoherním klubu patří např. Kaljajev v Camusových Spravedlivých, Medik v Na koho to slovo padne, Poštmistr v Revizorovi, Teddy v Návratu domů, Edmund v Cestě dlouhého dne do noci nebo Capitano ve Třech v tom. Významnou skupinu jeho repertoáru tvořily čechovovské postavy – Trofimov, Vojnickij a Treplev. Brilantním vyvrcholením této řady pak byl – už v dusné éře normalizace – Icharev v Gogolových Hráčích. Také film a televize dál plně využívaly šíře Abrhámových hereckých schopností. V šedesátých letech byl vyhledávaným představitelem současného mládí v tehdejší nové vlně českého filmu. Stále častěji se však objevoval i ve veseloherních rolích (Partie krásného dragouna, Marečku, podejte mi pero, Vrchní, prchni aj.). K jeho velkým filmovým rolím se řadí také kníže Megalrogov v Konci starých časů nebo postava Karla Čapka v Člověku proti zkáze. Po roce 1989 na své domovské scéně zazářil ve dvou hrách Václava Havla, v Audienci jako Vaněk a v Žebrácké opeře jak o Macheath. V letech 1992 až 1994 hrál souběžně také v Národním divadle, kde nastudoval Autolyka v Zimní pohádce. Následně ukončil i svoje angažmá v Činoherním klubu a rozhodl se věnovat jen filmu (např. Šakalí léta, Andělské oči, Všichni moji blízcí, Odcházení).

V roce 2009 poskytl velký rozhovor Divadelním novinám, kde se vyjadřuje k zakončení své aktivní divadelní činnosti:

Připravil jste se ale určitě o krásné role, které by vásjinak potkaly.
Udělat jednu roli navíc, to už je mi jedno. Bylo jich tolik, že jestli bude jedna, dvě navíc… Netrpím žádným Learem, Hamletem ani Richardem, to už vůbec ne… V životě jsem neměl ctižádost zahrát si nějaký slavný part. Bavilo mě najít něco v nečekaných postavách mimo ten „hlavní“ slavný proud.