Gimė 1925 m. Ukmergės r. 1932–1936 m. mokėsi Vidiškių (Ukmergės r.) pradžios mokykloje, vėliau A. Smetonos gimnazijoje Ukmergėje. 1942–1946 m. studijavo Kauno kunigų seminarijoje. Dar gimnazijoje įsitraukęs į pogrindinę veiklą, tęsė ją ir seminarijoje.

1946 m. pavasarį A. Svarinskas išėjo pas partizanus, aprūpindavo juos spauda ir medikamentais. 1946 m. gruodį jis buvo areštuotas, tris mėnesius tardytas ir kankintas, teistas net penkis kartus. Pirmą kartą – karo tribunolo, antrą kartą, taip vadinamos „troikos“ – KGB organo už akių. Gavo 10 metų pataisos lagerio ir 5 metus tremties. 1947–1956 m. jis kalėjo Abezės (Komija, Rusija) lageryje.

Vyskupas Pranciškus Ramanauskas 1954 m. lageryje slapta suteikė jam kunigo šventimus. Grįžęs į Lietuvą, A. Svarinskas netrukus (1958 m.) nuteistas antrą kartą šešeriems metams už antimarksistinės, antisovietinės literatūros laikymą. 1958–1964 m. kalėjo Mordovės (Rusija) lageriuose. 1961 m. už akių jį dar nuteisė LTSR Aukščiausiasis teismas, pripažinęs A. Svarinską ypač pavojingu recidyvistu. Jis buvo perkeltas į ypatingo rėžimo kalėjimą. 1964 m. balandžio 9 d. išleistas į laisvę ir grįžęs į Lietuvą, A. Svarinskas tik po 20 mėnesių gavo leidimą dirbti kunigu ir buvo nuolat sekamas saugumo.

Kunigas A. Svarinskas bendradarbiavo 1972 m. pradėtame leisti pogrindiniame leidinyje „Lietuvos Katalikų bažnyčios kronika“. 1978 m. kartu su kunigais S. Tamkevičiumi, J. Kaunecku, J. Zdebskiu ir V. Vėlavičiumi įkūrė Katalikų komitetą tikinčiųjų teisėms ginti.

Už pogrindinę, antisovietinę veiklą, jaunimo ugdymą katalikiška dvasia 1983 m. A. Svarinskas buvo areštuotas trečią kartą ir nuteistas 7 metams griežtojo rėžimo lagerio ir 3 metams tremties. 1983–1988 m. jis kalėjo Čiusavovo rajono (Permės sritis, Rusija) griežto rėžimo lageriuose.

1988 m. lankydamasis Maskvoje JAV prezidentas R. Reiganas paprašė SSRS vadovo M. Gorbačiovo išlaisvinti kunigą A. Svarinską. 1988.07.11 d. kalinys buvo paleistas ir ištremtas į Vokietiją be teisės grįžti į tėvynę. 1988–1990 m. jis lankė lietuvių kolonijas visame pasaulyje, net 11 kartų buvo susitikęs su popiežiumi Jonu Paulium II. Lietuvai paskelbus nepriklausomybę, jis grįžo atgal į tėvynę, dirbo kardinolo V. Sladkevičiaus kancleriu, 1991–1995 m. buvo Lietuvos kariuomenės vyriausias kapelionas.

1991 m. A. Svarinskas buvo išrinktas Lietuvos Aukščiausiosios Tarybos deputatu, vėliau buvo Lietuvos partizanų, šaulių, politinių kalinių ir tremtinių kapelionu, Kavarsko (Anykščių r.) klebonu.

A. Svarinskas apdovanotas Vyčio Kryžiaus ordino Komandoro kryžiumi (1998 m.), Lietuvos nepriklausomybės medaliu (2000 m.) ir Lietuvos kariuomenės kūrėjų savanorių medaliu (2001 m.). Už žmogaus teisių gynimą jis buvo apdovanotas diplomu Detroite (JAV), Pueblo (Meksika) miesto premija, gavo Venesuelos apdovanojimą „II Grand Cordon“, yra Lecco miesto (Italija) garbės pilietis.