6a^2 + 3ab^2 - 4ab - 2b^3, если a = -1 1/8; b = -1 2/2

Переведу смешанные числа в неправильные дроби и аккуратно посчитаю.

Дано:
$a=-1\frac{1}{8}=-\frac{9}{8}$, $b=-1\frac{2}{2}=-1-1=-2$.

Считаем по частям в выражении $6a^2+3ab^2-4ab-2b^3$:

1. $a^2=\left(-\frac{9}{8}\right)^2=\frac{81}{64}$ ⇒ $6a^2=6\cdot\frac{81}{64}=\frac{486}{64}=\frac{243}{32}$.

2. $b^2=(-2)^2=4$, $ab^2=a\cdot4=-\frac{9}{8}\cdot4=-\frac{9}{2}$ ⇒ $3ab^2=3\cdot\left(-\frac{9}{2}\right)=-\frac{27}{2}$.

3. $ab=\left(-\frac{9}{8}\right)\cdot(-2)=\frac{18}{8}=\frac{9}{4}$ ⇒ $-4ab=-4\cdot\frac{9}{4}=-9$.

4. $b^3=(-2)^3=-8$ ⇒ $-2b^3=-2\cdot(-8)=16$.

Складываем:
$\frac{243}{32}-\frac{27}{2}-9+16$.
Приведём к знаменателю 32:
$\frac{243}{32}-\frac{432}{32}-\frac{288}{32}+\frac{512}{32}=\frac{35}{32}$.

Итог: $\boxed{\frac{35}{32}}=1\frac{3}{32}$.