Gjennom et langt skuespillerliv spilte Johannes Eckhoff så vel komedie som barneteater og absurd dramatikk. Han ble likevel kanskje mest kjent for sine mange oppgaver i radioprogrammer for barn og for sin oppsøkende virksomhet i fengsler, spesialskoler og sykehus.
Barndommen var en vanskelig tid for Johannes Eckhoff. Han var yngst i en søskenflokk på seks, og faren døde av blindtarmbetennelse da Johannes bare var to måneder gammel. Familien ble oppløst, og Johannes ble tidlig sendt til Tyskland, hvor han ble oppfostret hos nonner. Klesdrakten og oppdragelsen ble deretter; han gikk kledd i silkedrakt og hadde knebeskyttere. Etter et opphold i Gudbrandsdalen kom han til Lillehammer, hvor han etter eget ønske ble oppfostret hos jernvarehandler Borgen. Møtet med folkeskolen på Lillehammer ble brutalt; Johannes snakket en blanding av tysk, dansk og valdresdialekt, og møtte opp på skolen i topplue til tross for varmen. Det første som møtte ham, var et slag i ansiktet. Han ble mobbet fra første stund. Mange timer ble benyttet alene på et jorde for å komme vekk fra skarringen og bli som de andre.
Etter middelskolen begynte Eckhoff på teaterskole i Frankfurt, 17 år gammel. Der møtte han tysk disiplin og et Tyskland med Hitler på sterk fremmarsj, noe som gjorde ham til motstandsmann under den tyske okkupasjonen av Norge 1940–45.
Eckhoff debuterte 1939, 20 år gammel, på Trøndelag Teater som gammel mann i forestillingen Papirkassa, som var skrevet av to elever ved byens katedralskole. Det var et dårlig stykke. Etter Eckhoffs eget utsagn er det få norske skuespillere som har spilt i så mange dårlige stykker som han.
1940–45 var Eckhoff ansatt på Centralteatret, hvor han bl.a. spilte i skuespillerkollegaen Karl Ludvig Bugges dramatiske debut, kriminalkomedien Fortunas sønn Peter (1941). Det ble også en del gjesteopptredener på Centralteatret i de første etterkrigsårene, mens han var fast ansatt på Det Nye Teater. Der var han 1945–69, deretter ved Riksteatret 1976–85 og senere også ved Seniorteatret. For øvrig har han vært frilans.
Som scenekunstner var Eckhoff særlig kjent som en lun komediekunstner, med oppgaver som tittelrollen i Peter Ustinovs komedie Mannen i regnfrakken (1951) og Lommetyven i Edmond Rostands Cyrano de Bergerac (1956). Selv husket han med særlig glede Noel Cowards Forfulgt av kvinner (1949). Eckhoff trivdes også godt i barnekomedier; han har spilt i Anne Cath. Vestlys Huset i skogen (1959), Astrid Lindgrens Pippi Langstrømpe (1961) og John Harrysons Trollmannen fra Oz (1965). Han viste seg også som en skarpsynt miljøskildrer, bl. a som fyrst Bolkonskij i Erwin Piscators dramatisering av Tolstojs Krig og fred (1977) og Thiers i Nordahl Griegs Nederlaget (1978). Som Vladimir i Becketts Mens vi venter på Godot (1955) og Den gamle mannen i Eugène Ionescos Neshorn (1985) viste han sitt talent for absurd teater.
Eckhoff var særlig kjent for sitt engasjement for sin oppsøkende virksomhet for barn på spesialskoler, pasienter i psykiatriske sykehus og fengselsinnsatte. I 24 år oppsøkte han disse institusjonene uten betaling for å skaffe dem glede i hverdagen. Han var også vel kjent fra NRKs barneprogrammer i radio, hvor han holdt på siden 1948, med Barnetimen, Barnetimen for de minste og Stompa-hørespillene. I barne-TV spilte han i 1990-årene butikkeier Hagen i de nesten 60 episodene av serien Lillys butikk.
Johannes Eckhoff filmdebuterte 1942 i Toralf Sandøs Jeg drepte –!, i samme rolle som han hadde hatt under teateroppførelsen året før. Han spilte i Englandsfarere (1946) og hadde rollen som motstandsmannen Knut Haugland i Kampen om tungtvannet (1948), foruten en del biroller i norske filmer i 1960- og 1970-årene. Eckhoff fikk Kongens fortjenstmedalje i gull 1994 og Teskjekjerringprisen 1982. Han mottok også Gudbrandsdalsprisen og Statens stipend for eldre skuespillere.