Το υλικό του υπολογιστή (computing hardware) αποτελεί σημαντικό τμήμα της υπολογιστικής διαδικασίας και της αποθήκευσης δεδομένων. Η αρχική μορφή του υλικού των υπολογιστικών συσκευών ήταν, πιθανότατα, κάποια ράβδος με εγκοπές. Μεταγενέστερα βοηθήματα αποθήκευσης πληροφοριών είναι τα Φοινικικά πήλινα σχήματα, που αντιπροσώπευαν τον αριθμό αντικειμένων (ζώων ή καρπών) σε δοχεία. Παρόμοιοι «αριθμοί» έχουν βρεθεί σε Μινωικές ανασκαφές. Αυτά φαίνεται ότι χρησιμοποιούνταν από εμπόρους, λογιστές και κυβερνητικούς αξιωματούχους της εποχής.
Οι βοηθητικές συσκευές για υπολογισμούς έχουν αλλάξει από τις απλές συσκευές για μέτρηση και καταγραφή, στον άβακα, τον λογαριθμικό κανόνα, τους αναλογικούς υπολογιστές και πρόσφατα τους ηλεκτρονικούς υπολογιστές. Ακόμα και σήμερα, ένας πεπειραμένος χρήστης του άβακα μπορεί, χρησιμοποιώντας μια συσκευή που δημιουργήθηκε πολλούς αιώνες πριν, να εκτελέσει βασικούς υπολογισμούς ταχύτερα από έναν ανειδίκευτο χρήστη ενός ηλεκτρονικού υπολογιστή, αν και για περίπλοκους υπολογισμούς οι υπολογιστές ξεπερνούν σε ταχύτητα ακόμα και τον πιο έμπειρο άνθρωπο.
Οι άνθρωποι από πολύ παλιά χρησιμοποιούσαν βοηθητικές συσκευές για να κάνουν υπολογισμούς. Ένα απλό παράδειγμα είναι η συσκευή για τον έλεγχο της ισότητας του βάρους: η κλασική ζυγαριά. Άλλο ένα είναι η απαρίθμηση: τα καρό υφάσματα των αγορών χρησίμευαν ως απλές δομές δεδομένων για να απαριθμούνται στοίβες από νομίσματα, με βάση το ύψος. Μια μηχανή πιο προσανατολισμένη προς την αριθμητική είναι ο άβακας. Η πλέον πρώιμη μορφή του άβακα, ο άβακας σκόνης, φαίνεται να είχε εφευρεθεί πρώτα στη Βαβυλωνία. Ο Αιγυπτιακός άβακας με χάντρες και κλωστή υπάρχει από το 500 π.Χ.
Το 1206 μ.Χ. ο Ιρακινός εφευρέτης Αλ-Τζαζάρι δημιούργησε την πρώτη προγραμματιζόμενη μηχανή με τη μορφή ενός ανθρωπόμορφου ρομπότ.
Το 1623 μ.Χ. ο Βίλχελμ Σικάρντ έφτιαξε την πρώτη μηχανική αριθμομηχανή και έτσι έγινε ο πατέρας της εποχής των υπολογιστών. Λόγω του ότι η μηχανή του χρησιμοποιούσε οδοντώσεις και γρανάζια που αρχικά χρησιμοποιούνταν σε ωρολόγια, λεγόταν επίσης υπολογιστικό ρολόι. Χρησιμοποιήθηκε για πρακτικούς σκοπούς από τον φίλο του Γιόχαν Κέπλερ ο οποίος έφερε επανάσταση στην αστρονομία.