Разрушение Иерусалима в 587/586 г. до н. э. и вавилонское пленение не стали последним аккордом в политической истории Иудеи периода Первого Храма. Тот факт, что вавилоняне назначили своим наместником в стране не члена царской семьи, а представителя яхвистского священнического сословия, сам по себе породил вражду давидидов к Гедалии, как к потенциальному сопернику их династии. Их неприязнь к Гедалии была еще более усилена тем, что он происходил не из южных ааронидов, а из северных левитов и являлся в их глазах чужаком и узурпатором. Навуходоносор II не случайно остановил свой выбор на Гедалии. После измены Цидкии, который ему лично был обязан своим троном, вавилонский царь утратил доверие к давидидам, впрочем, он не доверял и ааронидам, которые тоже в большинстве своем принадлежали к проегипетскому лагерю. В отличие от них северные левиты не имели глубоких корней в Иудее и не могли рассчитывать ни на поддержку иудейской аристократии, ни на помощь «народа страны». Это обстоятельство делало северных левитов более зависимыми от вавилонян и, возможно, именно оно толкало их в провавилонскую партию. Иеремия и его писец Барух, кому он диктовал свои пророчества, тоже происходили из северных левитов. Правда, сам пророк был родом из той области колена Биньямин, которая после раскола северных и южных племен досталась Иудее, поэтому он мог одинаково считаться своим и у северян, и у южан. В целом, северные левиты были более грамотны, а главное, более продвинуты в монотеистическом восприятии культа Яхве, чем южные аарониды. Однако в силу того, что большинство из них оказалось пришельцами в Иудее, они занимали второстепенные позиции в яхвистском священническом сословии. Северолевитское происхождение Гедалии способствовало росту влияния Иудеи на территории бывшего Израильского царства. Очевидно, и в религиозной области, и в отношении населения северной и центральной Палестины Гедалия был намерен проводить ту же политику, что и цари Хизкия и Иосия, правда, в отличие от них он не собирался отложиться от своего покровителя, от которого зависел еще больше, чем эти иудейские цари.
Постепепенно его усилия по укреплению влияния Иудеи на землях северных племен начали приносить первые результаты. Библейский текст сообщает о массовом паломничестве из Самарии, Шхема и Шило, что происходило раньше только во времена Хизкии и Иосии. Трудно сказать, куда шли эти паломники: то ли они собирались посетить развалины иерусалимского Храма, то ли направлялись непосредственно в Мицпу, где Гедалия, вероятно, построил временный храм. Столь же быстро он сумел собрать к себе в Мицпу и разбросанные войной части иудейской армии. Пророк Иеремия свидетельствует, что «когда все военачальники, бывшие в поле, они и люди их, услышали, что царь вавилонский поставил над страною Гедалию, сына Ахикама, и что вверил он ему мужчин, женщин и детей, и бедноту страны, из тех, что не были переселены в Вавилон, то пришли они к Гедалии в Мицпу…» (Иер. 40:7–8). В страну вернулись многочисленные беженцы, укрывавшиеся от войны в соседних странах. В Мицпу к Гедалии пришел и пророк Иеремия «и был с ним среди народа, оставшегося в стране» (Иер. 40:6). Скорее всего, Гедалия мог стать одним из наиболее успешных правителей Иудеи, который сумел бы быстро восстановить страну и собрать заново ее население. Однако его наместничество пришлось не по душе не только давидидам, но и соседям Иудеи.
Верность Гедалии своим обязательствам перед вавилонянами и его усилия по консолидации страны вели к возрождению сильной Иудеи, которая доминировала бы над своими палестинскими соседями. Его политика по сближению с населением бывшего Израильского царства больше всего противоречила интересам северного заиорданского царства Аммон, которое еще со времен царя Саула претендовало на земли центральной Палестины как к востоку, так и к западу от реки Иордан. Как известно, образование мощного Израильского царства заставило Аммон не только отказаться от претензий на его земли, но со временем и самому стать его данником. Падение Израильского царства, а затем и гибель Ассирии возродили к жизни старые притязания аммонитян. Однако на этот раз на их пути стояла Вавилония и ее наместник в Иудее Гедалия. Конечно, Баалис, тогдашний царь Аммона, будучи таким же вавилонским данником, как и все палестинские правители, не собирался в одиночку бросать вызов Навуходоносору II. Во всем, что касалось Вавилонии, он рассчитывал на помощь Египта, точно так же, как это делали в свое время иудейские цари Йеояким и Цидкия. Однако в противостоянии с соседней Иудеей ему не приходилось ожидать содействия региональных держав, которых мало интересовали внутрипалестинские раздоры. Поэтому, не желая допустить усиления потенциального соперника, он рассчитывал использовать в своих целях обиженных давидидов, часть которых укрылась от вторжения вавилонян в его царстве.
Один из них, Ишмаэль, сын Нетании, как подчеркивает библейский текст, «из царского рода и из царских сановников» при содействии аммонитянского царя составил заговор с целью убийства Гедалии. Первоначально в заговоре участвовали и командиры уцелевших отрядов иудейской армии, и представители аристократии, особенно те, которые нашли убежище в Аммоне. Однако по возвращении домой очень многие из них отказались от планов убийства наместника, убедившись, что Гедалия не собирается ущемлять их права и интересы. Более того, своей политикой национальной консолидации и примирения Гедалия сумел растопить лед недоверия и настороженности к себе как к ставленнику вавилонян и выходцу не из царской семьи. Хотя он был предупрежден о заговоре против него, верноподданическое поведение Ишмаэля усыпило его бдительность. Очевидно, сам факт того, что о планах убийства Гедалии были наслышаны очень многие, включая самого наместника, породил уверенность, что заговорщики давно отказались от них.
Выждав, пока исчезнет настороженность по отношению к нему, Ишмаэль нанес удар, о котором вроде бы все знали, но в осуществление которого не верили. Во время одного из пиров в Мицпе он и его сообщники убили Гедалию и перебили весь его двор, включая вавилонский гарнизон, приставленный в помощь наместнику. Затем они вероломно расправились и с паломниками, пришедшими в Мицпу с территории бывшего Израильского царства. Очевидно, им не нравилось сближение Гедалии с северянами, которых они рассматривали как его потенциальных союзников. Трудно сказать, входило ли в планы Ишмаэля намерение захватить власть в Иудее, или он собирался ограничиться лишь убийством «узурпатора» власти давидидов. Как бы то ни было, глубоко национальная политика Гедалии уже успела завоевать много сторонников и привлечь на свою сторону уцелевшие части иудейской армии, которые выступили против заговорщиков. Не найдя поддержки у населения, заговорщики захватили множество пленных, включая дочерей последнего иудейского царя, и попытались уйти к царю Баалису в Аммон. Однако оставшиеся верными Гедалии отряды настигли их в районе города Гивон и преградили им дорогу. Обе стороны стали готовиться к сражению, но оно так и не произошло. Воины, состоявшие на службе у заговорщиков, вместе со всеми пленниками перешли на сторону их противников, и Ишмаэль вместе с несколькими сообщниками, бросив все, был вынужден тайком бежать к своему покровителю в Аммон. Военное и политическое руководство в Иудее перешло к одному из военачальников, Йоханану, сыну Карэаха, который изначально был убежденным сторонником Гедалии и противником Ишмаэля. Однако ситуация оставалась крайне серьезной. Убийство наместника, назначенного самим Навуходоносором II, и уничтожение вавилонского гарнизона должны были неизбежно повлечь за собой новые репрессии со стороны вавилонского царя. Дело национального возрождения Иудеи, начатое Гедалией, оказалось загубленным по крайней мере на полвека, до возвращения вавилонских пленников.