解题思路：根据相关公理及定义利用排除法求解．
A、两点之间，线段最短，是公理，正确；
B、直线外一点与直线上各点连接的所有线段中垂线段最短，是公理，正确；
C、连接两点之间的线段的长度叫做两点间的距离，是定义，正确；
D、应为过直线外一点画已知直线的平行线有且只有一条，错误．
故选D．
点评：
本题考点： 平行公理及推论；线段的性质：两点之间线段最短；两点间的距离；垂线段最短．
考点点评： 对平面几何中概念的理解，一定要紧扣概念中的关键词语，要做到对它们正确理解，对不同的几何语言的表达要注意理解它们所包含的意义，要善于区分不同概念之间的联系和区别．