Sarapuu oli Eesti Maapanga juhatuse liige 1997–1998 ja ATKO Grupi juhatuse liige 2001 ning ATKO Grupi nõukogu esimees alates 2001. Sarapuu oli EKP Paide Rajoonikomitee esimene sekretär 1988–1989 ning Järva maavanem 1989–1997. Ta oli Roosna-Alliku vallavolikogu liige 2005–2007 ning oli XI Riigikogu liige. Aprillis 2011 asus ta tööle Tallinna abilinnapeana. Sarapuu kuulus Eesti Keskerakonda alates 2006, ta oli Keskerakonna juhatuse liige. Arvo Sarapuu abikaasa on endine Paide linnapea ja nüüdne Keskerakonna riigikogu fraktsiooni juht Kersti Sarapuu. Neil on viis last.