解题思路：当这三个力作用在同一物体上，并且作用在同一直线上，方向相同，三个力的合力最大．如果三个力不在同一直线上，夹角可以变化，当两个较小力的合力大小等于第三个力，方向相反时，合力为零，此时三个力的合力的最小．
当三个力作用在同一直线、同方向时，三个力的合力最大，即F=6N+8N+3N=17N．
当三个力作用在一个物体上，不在一条直线，并且夹角可以改变，3N能在5N与8N最大与最小之间，所以能使物体处于静止状态，故此时三个力的合力为零，即它们合力的最小值为0．
故选：D．
点评：
本题考点： 力的合成．
考点点评： 当多个力合成时，它们作用在同一直线上、同方向时，合力最大；求最小合力时，先考虑合力为零的情况．