Nama Zermatt berasal dari bahasa Jerman, kurang lebih berarti 'di padang rumput' — dari kata 'zur' (di/ke) dan 'Matte' (padang rumput), merujuk pada lembah hijau di bawah Ngarai Gorner. Bentuk lamanya adalah 'Zur Matte', yang lambat laun menyingkat menjadi 'Zermatt'.