Коротко: окончания разные, потому что это разные типы склонения. Предлог к требует дательного падежа, предлог о (об, обо) — предложного. В этих падежах слова на -ья / -ия и имена на -ей / -ий дают разные окончания.

1) «к Марье» vs «к Марии»

• Марья — слово типа статья, семья (окончание -ья).
  Склоняется: Марья — Марье (Д., П.), Марью, Марьей и т. д.
  Отсюда: к Марье, о Марье.

• Мария — слова на -ия (как Лидия, Анатолия).
  Склоняется: Мария — Марии (Р., Д., П.), Марию, Марией.
  Отсюда: к Марии, о Марии.

Мнемоника: если в именительном -ия, то в Р./Д./П. будет -ии; если -ья, то в Д./П. будет -ье.

2) «о Матвее» vs «о Геннадии»

Обе формы — предложный падеж, но:

• Матвей — имена на -ей (как Андрей, Сергей).
  Предложный: о Матвее, об Андрее, о Сергее — окончание -ее.

• Геннадий — имена на -ий (как Василий, Дмитрий).
  Предложный: о Геннадии, о Василии, о Дмитрии — окончание -ии.

Мнемоника: у мужских имен на -ий в Р./Д./П. пишется -ии, а на -ей — -ее.

Итого: смотрим на исходное окончание в именительном. -ия → -ии, -ья → -ье, -ий → -ии, -ей → -ее — отсюда и «к Марье / к Марии», «о Матвее / о Геннадии».