A propagação de ondas sonoras pelo ar e outros materiais foi estudada já no século XIX, mas a introdução de instrumentos ultrassônicos exigiu os avanços eletrônicos do início do século XX, incluindo o desenvolvimento do tubo de raios catódicos. A ideia de usar ondas ultrassônicas para investigar a estrutura interna dos materiais foi investigada pela primeira vez na década de 1920, e a primeira patente específica na área de testes ultrassônicos não destrutivos data de 1931. O primeiro instrumento de teste ultrassônico comercial prático, denominado Reflectoscópio, foi patenteado pelo Prof. Floyd Firestone, da Universidade de Michigan, em 1940, e o desenvolvimento do sonar durante a Segunda Guerra Mundial avançaram ainda mais no campo. Na década de 1950, os instrumentos comerciais tornaram-se amplamente disponíveis.
Esses primeiros instrumentos foram desenvolvidos principalmente para detecção ultrassônica de falhas, embora também pudessem ser usados para medição de espessura. Na década de 1960, os primeiros instrumentos menores e mais portáteis projetados para aferição começaram a aparecer, incluindo instrumentos com telas de espessura digital em vez de telas de osciloscópio. O Modelo 5221 apresentado pelo predecessor da Olympus, Panametrics, em 1973, foi o primeiro medidor ultrassônico comercial que incorporou medição multimodo predefinida para cobrir uma ampla gama de materiais e espessuras, bem como a calibração de velocidade por botão.
Instrumentos relativamente compactos, alimentados por bateria, otimizados para uma ampla variedade de aplicações de teste, tornaram-se comuns na década de 1970 e os instrumentos se tornaram cada vez menores e mais poderosos. Os visores de forma de onda como um auxílio ao operador e registro de dados interno foram introduzidos na década de 1980 e, na década de 1990, o processamento de sinal digital substituiu o circuito analógico e melhorou a estabilidade e a repetibilidade. Mais recentemente, os avanços na tecnologia de microprocessador levaram a novos níveis de desempenho dos instrumentos compactos, sofisticados e fáceis de usar de hoje em dia.