Az mp3 formátum egy adatveszteséges zenetömörítési eljárás eredménye. Ennek során az emberi fül "tökéletlenségére" építenek: a kiváló minőségű forrásból, például az audió CD-ből a jól hallható frekvenciákat emelik ki, az ezen kívül eső tartományokat lényegében figyelmen kívül hagyják. Kidolgozása még az 1980-as években kezdődött a berlini Frauenhofer Intézetben, ahol egy tudóscsoport az Európai Unió által támogatott EUREKA program keretében kísérletezett a zeneszámok minél jobb kódolásával. A munkát támogatta a filmipar képviselői által létrehozott MPEG (Motion Picture Expert Group) is, amely a minél hatékonyabb, a CD-lemezek lejátszása során alkalmazható videó- és audiótömörítés létrehozását tűzte ki célul.
A kutatásban oroszlánrészt vállaló, frissen diplomázott Karlheinz Brandenburg Suzanne Vega Tom's Diner című dalát választotta tesztelésre, ennek újra- és újrakódolása közben finomított a módszeren. 1991-re csak két eljárás maradt, amelyet az MPEG audió szabványként fogadhatott el, ezek a Musicam és az ASPEC elnevezést viselték. Végül a Musicam projektet választották egyszerűsége, hibatűrő képessége miatt, és mert kisebb számítástechnikai teljesítményt igényelt.
A filmek kódolására szánt MPEG-1 kódoló szabványt végül 1992 novemberében hagyták jóvá, ez három audióréteggel (kódolási eljárással) rendelkezett. Ezek közül aztán a leghatékonyabb harmadik terjedt el, mivel akkoriban a számítógépek merevlemezén igen kevés volt a hely és az internet sávszélessége is alacsony volt, ezért a zenefájloknak minél kisebb helyet kellett foglalniuk. 1995. július 14-én az MPEG-1 Audio Layer 3 formátumnak (amely addig a .bit kiterjesztést viselte) a Frauenhofer Intézet munkatársai egy belső szavazáson az mp3 kiterjesztést választották. (A Frauenhofer az eljárást le is védette, és ez az idők során százmillió eurónál többet jövedelmezett.) 1995-ben következett az újabb kódoló szabvány, az MPEG-2, amely jelentősen javított az audiórétegek teljesítményén is.
A kódoló és dekódoló eljárások, a zenelejátszók megjelenésével az mp3 fájlok robbanásszerűen kezdtek terjedni. A kis mérethez ugyanis viszonylag jó hangminőség társult, a standard 128 bitrátás tömörítés mellett tíz hagyományos CD tartalmát lehetett felírni egyetlen lemezre. Az mp3 veszteséges tömörítési formátum, azaz az eredeti fájl már nem állítható belőle helyre, de a tömörítés során meg lehet adni, hogy milyen minőséget szeretnénk. A nagyobb bitráta jobb minőséget eredményez, de persze a fájl mérete is nagyobb lesz. Az mp3 fájlok meta adatokat is tartalmazhatnak, mint a szám címe, műfaja, az előadó neve, a kiadás éve és így tovább, ezeket az információkat a legtöbb lejátszó program meg tudja jeleníteni.
Az mp3-nak azóta számtalan vetélytársa támadt, mint a teljesen szabad és legalább ilyen jó minőséget produkáló ogg, a Microsoft által preferált wma, az Apple által használt aac és az audiofilok által kedvelt, veszteségmentes flac. A merevlemezek és memóriakártyák kapacitásának növekedésével, a szélessávú internet mindennapossá válásával az mp3-at egykor népszerűvé tevő kisebb méret egyre kevésbé szempont, és sokan bírálják úgymond nem kielégítő minősége miatt, de a formátum egyeduralma egyelőre megdönthetetlennek látszik.