«Я шёл берегом, надеясь поднять уток, но видел только сплетенья тумана и метёлки-языки приболотной травы». Это предложение однородное или сложносочинённое?

Это сложносочинённое предложение, а не предложение с однородными членами.

Разберём:

1. Я шёл берегом, надеясь поднять уток — первая грамматическая основа:

• подлежащее: я;

• сказуемое: шёл.

2. но видел только сплетенья тумана и метёлки-языки приболотной травы — вторая грамматическая основа:

• подлежащее подразумевается то же (я);

• сказуемое: видел.

Части соединены противительным союзом но, который связывает два самостоятельных действия: шёл и видел. Поэтому это сложносочинённое предложение.

Сочетание «сплетенья тумана и метёлки-языки приболотной травы» содержит однородные дополнения (что видел? — сплетенья и метёлки), но это не делает всё предложение однородным. Главный признак сложносочинённого предложения — наличие двух грамматических основ, соединённых сочинительным союзом.