現代数理統計学の基礎（久保川達也著）

概念の背景、定義、基本的な性質をはじめ、発展的な内容も基本的な性質を積み上げる形で説明されています。この一冊で数理統計学の重要な概念、定理を一から理解できる良書だと思います。