解：（1）当铁块滑至弧形槽中的最高处时，m与M有共同的水平速度，等效于完全非弹性碰撞，由于无摩擦力做功，则系统减小的动能转化为m的势能
根据系统水平动量守恒：mv=(M+m)v′
而mgH=mv²－(m+M)v′²
可解得H_m=Mv²/［2g(M+m)］
（2）当铁块滑至最大高度后返回时，M仍在作加速运动，其最大速度是在铁块从右端脱离小车时，而铁和小车间挤压、分离过程，属于弹性碰撞模型，有：
mv=mv_m+MV_M
mv²=mv²_m+Mv²_M
联立得v_m=v，v_M=v
所以，小车的最大速度为2mv/(M+m)
（3）当M=m时，v′_m=0，v_M=v，铁块将作自由落体运动