Jan Verheul studeerde aan de Rotterdamse Academie voor Beeldende Kunst en Technische Wetenschappen en vervolgens de Polytechnische School in Delft waar hij onder de indruk raakte van één van zijn leermeesters: de Duitse architect Eugen Gugel, die een groot propagandist was van de neorenaissance stijl.

Al tijdens zijn studie ontving Verheul een prijs voor zijn ontwerp voor een Kunstnijverheidsmuseum. Later maakte hij studiereizen door o.a. Duitsland en Italië en behaalde verschillende eerste prijzen bij openbare prijsvragen, zoals in 1882 voor de verbouwing van de Doelen in Rotterdam

Prijsvraag nieuwe schouwburg
In 1883 vestigde Verheul zich als architect in Rotterdam. In datzelfde jaar werd de 23-jarige Verheul uitgenodigd een ontwerp te maken voor een nieuwe schouwburg. Aan deze besloten prijsvraag deden acht architecten mee. De opdracht werd uiteindelijk verstrekt aan de jonge en onervaren Verheul. Hij ontwierp de Groote Schouwburg aan de Aert van Nesstraat in een uitbundige op de Italiaanse Renaissance geënte stijl. Met de bouw van dit theater vestigde Verheul in één klap zijn naam als architect.

Bouwwerken
Verheul ontwierp tussen 1882 en 1938 talloze woonhuizen, bedrijfspanden, kerken en kantoorgebouwen. Rond 1900 ontwikkelde Verheul zich tot een van Nederlands meest vooraanstaande Jugendstil-architecten. Kantoorgebouw De Utrecht voor de gelijknamige levensverzekeringsmaatschappij in Utrecht ontwierp hij in 1900. Het hoofdkantoor gold lang als één van de mooiste voorbeelden van Art Nouveau-architectuur in Nederland. Het gebouw werd in 1974 gesloopt voor de aanleg van winkelcentrum Hoog Catharijne. 

Nieuwe tijd
Via de neorenaissance en Jugendstil ontwikkelde Verheul zich tot neoclassicist. Tussen 1920 en 1930 kwam er aan zijn activiteiten als architect geleidelijk een einde. Hij had de tijdgeest tegen zich. Een jonge generatie architecten, volgelingen van De Stijl en De Nieuwe Zakelijkheid nam de fakkel over. Verheul moest niets hebben van hun esthetische opvattingen in de bouwkunde. Hij verafschuwde de nieuwe gemeentelijke bouwprojecten eind jaren twintig zoals Het Witte Dorp en Kiefhoek. De ideeën van Het Nieuwe Bouwen die architectuur en sociale vooruitgang samenbrachten waren niet de zijne. Zijn bouwopdrachten liepen van de jaren twintig sterk terug.