Чем объяснить, что высота цунами в открытом море небольшая, но может значительно увеличиваться у берега?

Коротко: у цунами в океане огромная длина волны и большая скорость, поэтому при той же энергии высота (амплитуда) невелика; у берега глубина падает, волна тормозит, «сжимается» по длине, и чтобы сохранить поток энергии, её высота резко растёт.

Чуть подробнее по шагам:

1. Длинноволновая природа.
   Цунами — это длинные гравитационные волны с длиной волны сотни километров и периодом минут–десятков минут. Даже в «глубоком» океане для такой волны выполняется режим мелкой воды: её длина волны намного больше глубины. Поэтому скорость цунами определяется приближённой формулой $c \approx \sqrt{g\,h}$, где $h$ — глубина.

2. В открытом океане — быстро и «плоско».
   На глубинах в километры $c$ очень велика (сотни км/ч). Энергия распределена по огромной толще воды и по очень длинному гребню, поэтому амплитуда над уровнем моря обычно десятки сантиметров — метр-другой, часто незаметно на фоне обычной зыби.

3. Приближение к берегу — торможение и уширение энергии по высоте.
   По мере уменьшения глубины скорость волны падает. Длина волны $\lambda = c T$ тоже уменьшается (период $T$ почти не меняется), т.е. волна «сжимается». Поток энергии длинной волны примерно пропорционален $c\,A^2$ (где $A$ — амплитуда). Если потери невелики, то при падении $c$ амплитуда должна вырасти, чтобы сохранить энерго-перенос. Отсюда «вспухание» цунами у берега — эффект засоления/шолинга.

4. Геометрическое «втягивание» и фокусировка.
   Рельеф дна и форма побережья усиливают рост высоты: конусовидные бухты, воронкообразные эстуарии и узкие фьорды «собирают» фронт волны (эффект воронки), направляя ту же энергию в меньшую ширину — высота ещё выше. Подводные хребты и каньоны также могут фокусировать волну.

5. Срыв гребня и набегающая «стенка».
   Когда волна становится слишком крутой на мелководье, она трансформируется в прибойный вал/бор, превращаясь не в привычный «гребень», а в мощный быстрый подъём уровня воды, который далеко заходит на сушу (ран-ап). Это и даёт разрушительную высоту уже на береговой линии и дальше.

Итого: в океане — длинная, быстрая и низкая; у берега — замедляется, укорачивается и, из-за сохранения энергии и фокусировки рельефом, резко увеличивает высоту.