Ole Harbek var sorenskriver og ble i offentligheten mest kjent som medlem av Administrasjonsrådet i den første tiden av den tyske okkupasjonen.
Harbek tok examen artium 1906 og juridisk embetseksamen 1911. Etter noen år som advokatfullmektig og dommerfullmektig ble han sekretær i Justisdepartementet, hvor han 1925 avanserte til byråsjef. 1921 oppholdt han seg fire måneder i Tyskland og Storbritannia for å studere statsforvaltning. 1936 ble han sorenskriver i Nedre Romerike og 1950 i Horten. Han hadde en sterk stilling blant sine dommerkolleger, noe som fremgår av at han var formann i Den norske Dommerforening 1945–49 og 1961 ble valgt til æresmedlem av foreningen.
Ole Harbek hadde en rekke offentlige oppdrag. Han var således formann i Straffelovrådet (Det sakkyndige råd for strafferettslige spørsmål) 1949–65 og 1957–69 medlem av Straffeprosesslovkomiteen, hvis utkast ligger til grunn for den nåværende lov om rettergangsmåten i straffesaker av 1981. Han har skrevet kommentarer til Sportelloven, Tinglysningsloven (sammen med Erik Solem) og Hotelloven. Han var medutgiver (sammen med Per Augdahl og Carl Platou) av boken Forfatning og forvaltning (1929).
En oppgave utenfor den vanlige embetsmannskarriere fikk Harbek da han ble medlem av Administrasjonsrådet for de besatte områder, som ble oppnevnt av Høyesterett 15. april 1940. I Administrasjonsrådet bestyrte Harbek Justisdepartementet. Okkupasjonsmakten håpet å gjøre Administrasjonsrådet til en motregjering til regjeringen Nygaardsvold, men rådet la i sin virksomhet vekt på å unngå alt som kunne skape skinn av dette. Medlemmene av rådet beholdt således sine tidligere embetsstillinger og lønn. Regjeringen stilte seg opprinnelig kjølig til opprettelsen av Administrasjonsrådet, men anerkjente det senere og takket rådet for dets arbeid.
På det besatte området utøvet Administrasjonsrådet ikke bare den forvaltningsmyndighet som normalt ligger under regjeringen, men også myndighet som ellers ligger under Stortinget, slik som å utskrive skatter eller gi forskrifter av lovgivningsmessig innhold. Rådets virksomhet opphørte 25. september 1940, da det ble avløst av et “kommissarisk råd” som den tyske Reichskommissar Terboven opprettet.
Undersøkelseskommisjonen av 1945 uttalte i sin innstilling at Administrasjonsrådet ikke hadde gått Kongens forfatningsmessige rett for nær, hadde begrenset seg til nødvendige tiltak, og hadde verget norske interesser så langt det praktisk lot seg gjøre.
Ole Harbek ble utnevnt til kommandør av St. Olavs Orden 1963.