Занимал достаточно высокую должность полевого писаря литовского (лат. notarius campestris). Принадлежа к партии противников Польской конституции 1791 года, после её принятия вошёл в состав делегации оппозиционеров, отправившейся в Санкт-Петербург для встречи с Екатериной II; затем был одним из видных деятелей Тарговицкой конфедерации. В 1792 году назначен конфедерацией чрезвычайным и полномочным послом Польши в Санкт-Петербурге. Во время Восстания Костюшко в 1794 году заочно приговорён, вместе с семью другими виднейшими фигурами пророссийской партии, к смертной казни, которая была проведена in effigie 29 сентября.
После Третьего раздела Польши перешёл на русскую службу. Был камергером, гофмаршалом, а с 1800 года — сенатором. От брака с дочерью графа Д. М. Матюшкина — восемь детей; из внучек одна — за писателем графом Соллогубом, ко второй (Анне) неудачно сватался Н. В. Гоголь.
В России Виельгорский был известен как любитель искусств и музыкант-дилетант, один из учредителей Санкт-Петербургского филармонического общества. Он написал несколько пьес, из которых наибольшим успехом пользовалась «Olympie», работал над сочинением «О воспитании российского дворянского юношества», но не успел его опубликовать. Музыкальные наклонности Виельгорского унаследовали его сыновья, Матвей Юрьевич и Михаил Юрьевич.
