Els orígens dels diversos instruments que actualment coneixem com a àbac tenen les seues arrels en les tècniques primitives de càlcul utilitzades amb pedres, ja que hi va haver una època en què encara no existien els nombres i els primers mecanismes per comptar es basaven en l’ús de les mans. No obstant això, a mesura que les quantitats a comptabilitzar es feien més grans, els deu dits de les mans resultaven insuficients. Per aquest motiu, els humans van començar a emprar diferents materials, com ara pedres, branques o petxines, per representar i registrar quantitats de manera més efectiva. (Vasquez, 2023)

Com que aquest mètode amb pedres només es podia utilitzar per comptar quantitats relativament menudes, va sorgir la necessitat d’inventar una mena de taula de càlcul coneguda actualment com a "taula de càlcul". Aquest utensili consistia en una superfície plana o taula amb diverses marques que indicaven diferents valors numèrics. Amb el temps, aquesta necessitat de comptar i registrar informació numèrica va donar lloc al desenvolupament de sistemes més sofisticats, com el primer àbac d'aquest tipus que s'ha conservat: la famosa Taula de Salamina, que encara es pot observar avui en dia. (Puche, 2021)

Posteriorment, els romans van desenvolupar el primer àbac tal com el coneixem hui en dia, és a dir, una taula amb diverses peces o comptes desplaçables. Aquest àbac portàtil era fabricat amb metall i presentava diverses columnes en què s'incrustaven els comptes. Segons la columna a la qual pertanyessen, els comptes tenien un valor determinat, generalment múltiples de 10 (una columna per a les unitats, una altra per a les desenes, per a les centenes, etc.), amb l'excepció de les columnes de la dreta, que es feien servir per a realitzar càlculs amb els diversos tipus de monedes romanes. (Puche, 2021)

Tot i que aquest sistema va patir múltiples canvis al llarg dels segles, ha mantingut la mateixa essència en els àbacs utilitzats fins a l'actualitat. De fet, els àbacs que coneguem hui conserven la mateixa estructura bàsica: peces desplaçables per indicar valors i una disposició en columnes per representar els diferents ordres de magnitud, com les unitats, les desenes, les centenes, etc. (Puche, 2021)