Дед Ивана Желябужского — выходец из Речи Посполитой — служил в Москве дьяком, отец стал воеводой. Иван начал службу при царе в чине дворянина.
В начале 1657 ясельничий И. Желябужский по наказу царя выполнял дипломатическую миссию в Трансильвании ко двору князя Дьёрдя II Ракоци. По пути в Трансильванию летом 1657 находился на Украине, собирая здесь по поручению главы Посольского приказа информацию о состоянии дел в Войске Запорожском, а также агитировал местное население за ограничение прав гетмана в пользу русского царя. Собранные им сведения были использованы правительством царя Алексея I Михайловича Тишайшего при определении нового курса в отношении Украины.
В 1658 был отправлен гонцом в Польшу для переговоров о месте посольского съезда. В 1661 назначен приставом при приёме послов императора Священной Римской империи. В 1662 он находился при посольстве, отправленном в Венецию и Англию. Имел особое поручение устроить в Англии заём.
В сентябре 1665 И. Желябужский по поручению царя встречал на въезде в Москву посольство гетмана Войска Запорожского (левобережного) И. Брюховецкого. Активный участник русско-украинских переговоров, по результатам которых были заключены Московские статьи 1665 года. После завершения переговоров был отправлен послом на Украину. Однако, в результате конфликта с главой Посольского приказа Ординым-Нащокиным, вскоре был отозван в Москву.
В 1666 был судьёй в Конюшенном приказе, а в следующем году был отправлен посланником в Вену. В 1667 был назначен воеводой в Курмыш, но тогда же участвовал в заключении Андрусовского перемирия с Речью Посполитой.
В 1668 по приказу царя Алексея Михайловича вновь ездил на Украину для усмирения восстания Брюховецкого.
В 1674 он был произведён в стольники, а в 1682 показан в списках думным дворянином и в этом качестве подписал «Соборное деяние об отставке отеческих случаев и местничества». После смерти царя Фёдора Алексеевича Желябужский был послан привести запорожское войско к присяге на верность царю Петру.
В 1676 вместе с архимандритом Павлом Желябужский был послан в Ферапонтов монастырь для объявления Никону соборного определения о переводе его в Кирилло-Белозерский монастырь. Затем в 1680 - на службе в приказе Казанского дворца, в 1681 отправлен в Речь Посполитую в рамках подготовки к заключению военного союза против Османской Турции и Крымского ханства. В 1682, будучи думным дьяком, подписал постановление об отмене местничества.
В 1684 он, в сане окольничего, отправлен воеводой в Чернигов, а затем участвовал в комиссии для составления родословной книги.
Желябужский оставил после себя записки, охватывающие время с 1682 по 1709. Не особенно важные для политической истории данной эпохи, они заключают в себе немало любопытных подробностей, касающихся отдельных распоряжений петровского правительства, материального быта общества и его нравов. Изданы: Туманским, в его «Собрании разных записок и сочинений, служащих к доставлению полных сведений о жизни и деяниях Петра Великого», ч. VII; отдельно — Д. И. Языковым, «Записки Желябужского с 1682 по 2 июля 1709» (СПб., 1840) и И. П. Сахаровым, в «Записках русских людей» (СПб., 1841).
