Движение полигонов можно сделать. Модификатор едит меш(или другой едит) и анимация по ключам.
Но естественнее будет реактором. Примените модификатор Cloth, с помощбъью "мягкого выделения" выберите нужные вершины полигонов и привяжите их к невидимому объекту. Затем, в режиме "автоключей", передвигаете этот объект по вкусу. Просчитываете реактором и, собстно, все. Это в кратце, подробнее на рендер.ру было. Учебников по реактору я не встречал.