Распространение звуковых волн в воздухе и других материалах изучалось еще в XIX веке, но внедрение ультразвуковых инструментов потребовало технических достижений начала XX века, включая разработку электронно-лучевой трубки. Идея использования ультразвуковых волн для исследования внутренней структуры материалов была впервые выдвинута в 1920-х годах, а первый конкретный патент в области ультразвукового измерения толщины поверхности датируется 1931 годом. Первый практический толщиномер, называемый рефлектоскопом, был запатентован профессором Флойдом Файерстоуном из Мичиганского университета в 1940 г. Разработка сонаров во время Второй мировой войны еще больше продвинула эту область. И уже в 1950-х годах толщиномер стал доступным для покупки.
Эти первые инструменты были разработаны в первую очередь для ультразвуковой дефектоскопии, хотя их можно было использовать и для измерения толщины. В 1960-х годах появились первые более мобильные и портативные измерительные приборы, к тому же начали входить в продажу толщиномеры с цифровыми дисплеями. Модель 5221, представленная предшественником Olympus Panametrics в 1973 году, была первым толщиномером, появившемся на рынке, который включал несколько режимов измерения для покрытий разных материалов с разной толщиной.
В 1970-х годах стали распространяться сравнительно компактные толщиномеры с батарейным питанием, предназначенные для широкого спектра действий. Регистрация данных на приборе была введена только в 1980-х годах, а в 1990-х годах цифровая обработка сигналов заменила аналоговые схемы и улучшила стабильность и повторяемость. Современные достижения науки в области микропроцессорных технологий привели к новому уровню производительности усовершенствованных, но простых в использовании миниатюрных толщиномеров.