解题思路：根据线段的性质公理判断①；
根据垂线的性质判断②；
根据平行公理的推论判断③；
根据点到直线的距离的定义判断④．
①两点之间的所有连线中，线段最短，说法正确；
②在同一平面内，过一点有且只有一条直线与已知直线垂直，说法错误；
③平行于同一直线的两条直线互相平行，说法正确；
④直线外一点到这条直线的垂线段的长度叫做点到直线的距离，说法错误．
故选B．
点评：
本题考点： 平行公理及推论；线段的性质：两点之间线段最短；垂线；点到直线的距离．
考点点评： 本题考查了线段的性质公理，垂线的性质，平行公理的推论，点到直线的距离的定义，是基础知识，需熟练掌握．