Я делал так, нурбс-воду пересекал с нурбс-землей, а из полученной кривой частицы испускал... На воду деформер какой-нить чтобы волновалась.
Только это подходит для очень спокойных волн, типа наката в штиль. поскольку волны у берега не поднимаются, как это бывает в большую волну.
Ну и парева с настройкой частиц конечно - вагон...