Почему Дубровский искал возможности поселиться в доме Троекурова и отказался от своей мести?

Коротко: он проник в дом Троекурова под именем учителя-француза Дефоржа, чтобы быть рядом с Машей и уберечь её, а не для «кровавой» расправы. Любовь к Маше и чувство дворянской чести постепенно вытеснили из него слепую жажду мести — поэтому от прямой расплаты он отказался.

Чуть развёрнутее по пунктам:

1. Зачем селиться у Троекурова
   – После смерти отца и захвата Кистенёвки Дубровский даёт клятву мстить, но очень скоро сталкивается с Машей Троекуровой, видит её доброту и невинность в истории отцов.
   – Под видом Дефоржа он входит в дом прежде всего ради Маши: чтобы видеть её, понять, можно ли связать с ней жизнь, и — если понадобится — защитить от воли отца (принудительного брака с Верейским).
   – Второй мотив — узнать изнутри, как живёт его противник, и иметь «рычаг» влияния, но убийства или поджога он не планирует: у Дубровского есть внутренний кодекс (он не поднимает руки на безоружных и не мстит через женщин).

2. Почему отказался от мести
   – Любовь перевесила ненависть. Мстить «через» Машу значило бы ранить её — а именно её счастье становится для него главным.
   – Он видит неоднозначность Троекурова: деспот и виновник несчастья, но при этом способный на вспышки раскаяния и привязанности к дочери. Картина мира «чёрно-белая» трескается, вместе с ней — и простая схема возмездия.
   – В момент, когда он похищает Машу со свадьбы, решающий оказывается её просьба: она уже дала обет мужу. Для Дубровского, человека чести, заставить её нарушить клятву — значит самому стать недостойным. Он отпускает её, хотя это перечёркивает и личное счастье, и «идеальную» развязку мести.
   – Практический смысл расправы исчезает: наказав Троекурова, он не вернёт ни отца, ни имение, а сделает несчастной ту, ради кого теперь живёт. Поэтому он распускает ватагу и уходит.

Итог: селиться у Троекурова Дубровского подтолкнула любовь и желание защитить Машу; от мести он отказался, потому что его моральное чувство и рыцарская деликатность по отношению к женщине оказались сильнее клятвы мстителя.