Самый простой способ, не требующий особых познаний:
1. Читаете это;
2. Качаете скрипт htb.init и закачиваете его через WinSCP или любым другим способом в rwfs (или куда-нибудь, где можно сохранить), пишете под него правила;
3. Правите скрипт и запускаете как сказано здесь;
4. Анализируете результат, и если всё устраивает, то сохраняете нужные строки в файле shaper в соответствующей секции. В оригинальном shaper вроде бы используются хэш таблицы, прочитать можно здесь. Могу ошибаться, так как у меня нет такого модема, но вроде бы br0 смотрит в сеть, ppp0 и ppp1 (или ppp0_vc0 и ppp1_vc0) - в интернет. Думаю, определите что к чему.
Если будет свободное время - попробую написать скрипт. Напишите, какие нужны правила в общем случае, что требуется шейпить, ширину входящего канал. В общем, как можно больше информации. Скажу сразу, работоспособность скрипта не гарантирую.