Арвід Жилінський народився 18 (31) березня 1905 року в Саукській волості (за іншими джерелами - в Сауку) (нині в Вієсітському краї, Латвія) в сім'ї фермера Яна Жілінскіса і його дружини Єви.
Під час Першої світової війни сім'я переїхала до Харкова, де в 1916-1918 роках Арвід навчався в Харківському музичному училищі по класу фортепіано. У 1927 році закінчив Латвійську консерваторію (нині Латвійська академія музики) по класу фортепіано у Б. Рогге, в 1933 році – по класу композиції у Я. Вітолса.
У 1927-1937 роках викладав гру на фортепіано в Ризькій народній консерваторії, з 1937 року – в Латвійській консерваторії (з 1947 року – доцент, з 1967 – професор).
З 1927 року виступав як піаніст.
Арвід Жилінський помер 31 жовтня 1993 року Ризі. Похований на Лісовому кладовищі.
