Аркадий Шилклопер окончил Институт имени Гнесиных (1981), учился в Московской экспериментальной студии музыкальной импровизации (1976–1978). Работал в оркестре Большого театра, в оркестре Московской филармонии. Первый серьезный джазовый опыт – дуэт с басистом Михаилом Каретниковым (1984–1986). В 1985–1989 годах выступал в ансамбле «Три О». С 1988 играет в дуэте с пианистом Михаилом Альпериным (записано 4 альбома), в 1990 году возникло трио Шилклопер – Альперин – Старостин (Moscow Art Trio) – сейчас это один из самых известных в мире российских джазовых коллективов. С 1992 года выступает с сольными программами, много записывается. Играл в составе квартета Pago Libre, трио Mauve, сотрудничал с Vienna Art Orchestra, постоянно работает с ведущими отечественными и зарубежными музыкантами и коллективами, включая симфонические оркестры. Гастролирует в разных странах мира, дает мастер-классы. Один из немногих джазовых исполнителей на альпийском роге (альпенхорне), признан одним из лучших импровизаторов на этом инструменте.