Михаил Михайлович (Маньевич) Жванецкий родился 6 марта 1934 года в Одессе в семье врачей Мане Моисеевича Жванецкого и Раисы Яковлевны Жванецкой. Рос в Томашполе, где отец работал хирургом и главврачом районной больницы, а мать — стоматологом. С началом Великой Отечественной войны отец был призван в армию в качестве военврача. Семья вернулась в Одессу из эвакуации после освобождения города в 1944 году. Михаил окончил 118-ю среднюю школу.
В 1956 году окончил Одесский институт инженеров морского флота по специальности «Инженер-механик подъёмно-транспортного оборудования портов». Во время учёбы был комсоргом факультета механизации портов. После окончания ОИИМФа работал в Одесском порту вместе с Виктором Ильченко.
В студенческие годы участвовал в самодеятельности, где начал писать миниатюры и монологи, которые часто сам и исполнял в студенческом театре «Парнас-2», где выступали также его друзья Роман Кац (Карцев) и Виктор Ильченко. Название придумал сам Жванецкий по аналогии с горой в Греции, где согласно мифам обитали Музы. Его друг Роман Карцев который работал с 1962 года в Ленинградском театре миниатюр у Аркадия Райкина, однажды на шефском концерте успешно выступил с монологом Жванецкого, Аркадий Райкин услышал монолог и вставил этот монолог в программу театра, до этого Жванецкий ездил к Райкину в Ленинград, но привозил от Райкина только автографы, брать его монологи Райкин раньше не хотел, а в 1964 году пригласил Михаила в свой театр на должность заведующего литературной частью.
Вместе со Жванецким Райкин поставил в 1969 году программу «Светофор», в которой впервые прозвучали миниатюры Жванецкого «Авас», «Дефицит», «Век техники».
В период работы в театре Райкина продолжил сотрудничество с Романом Карцевым и Виктором Ильченко, для которых написал более трёхсот миниатюр и монологов.
Позднее Жванецкий самостоятельно выступал в Одесской филармонии, потом в Московском театре «Эрмитаж», являлся художественным руководителем созданного им Московского театра миниатюр в структуре Москонцерта.
7 ноября 1990 он открыл Всемирный клуб одесситов, девиз клуба: «Одесситы всех стран, соединяйтесь!».
С декабря 2000 по июль 2001 года в паре с поэтом Вадимом Жуком принимал участие в программе «Простые вещи» на РТР. С апреля 2002 по декабрь 2019 года являлся постоянным ведущим ежемесячной телепередачи «Дежурный по стране» на канале «Россия-1».
В октябре 2020 года директор Жванецкого Олег Сташкевич сообщил, что Жванецкий принял решение закончить концертную деятельность по состоянию здоровья. 6 ноября 2020 года на 87-м году жизни Михаил Михайлович скончался.