Etter konfirmasjonen kom han til Bergen, som så mange andre nordlendinger. Han ble elev hos maleren Anders Askevold, samtidig som han tok utdannelse som fotograf.
Hans fetter Adelsten Normann oppmuntret han til å satse på en kunstnerkarriere, og i 1876 reiste han til Dusseldorf hvor han studerte under Eugene Ducker.
Juul slo aldri gjennom som kunstmaler i sin tid. Han livnærte seg som fotograf om vinteren og malte om sommeren. I en artikkel om nyoppdagede malere fra 1915 skriver Alf Harbitz: “Endnu maler han saa flittig som nogensinde, den gamle hædersmand.
“Han bor ensomt, han er vænlig mot folk, men søker dem ikke.”
I dag er Ole Juul ansett som en betydelig nordnorsk maler. Han ligger begravet på Kabelvåg kirkegård.