Γεννήθηκε στις 5 Αυγούστου 1930 κοντά στο Wapakoneta του Οχάιο.
Ως χειριστής αεροσκάφους στην αεροπορία ναυτικού (1949 – 1952), συμμετείχε στον πόλεμο της Κορέας πετώντας σε 78 αποστολές με ένα αεροπλάνο Grumman F9F-2 Panther.
Αφού σπούδασε αεροναυπηγός, το 1955 μπήκε στην Εθνική Συμβουλευτική Επιτροπή Αεροναυτικής (NACA) -τη μετέπειτα NASA- και εξελίχθηκε σε έναν από τους καλύτερους δοκιμαστές αεροσκαφών του κόσμου, πραγματοποιώντας 7 πτήσεις με ταχύτητα άνω των 5,74 Mach (6.000 χλμ./ώρα), σε ύψος άνω των 207.500 ποδών (60 χλμ.) με το πυραυλοκίνητο αεροσκάφος Χ-15.
Το 1962 επιλέχθηκε για το σώμα αστροναυτών και το 1966 ήταν κυβερνήτης της αποστολής Gemini 8, κατά την οποία πραγματοποιήθηκε η πρώτη σύνδεση δύο διαστημοπλοίων στο διάστημα.
Η αποστολή παρ' ολίγο να καταλήξει σε τραγωδία, όταν ο πύραυλος Egena με συνδεδεμένο πάνω του τοGemini άρχισε να περιστρέφεται ανεξέλεγκτα γύρω από τον εγκάρσιο άξονά του, όμως παρά τη ζάλη λόγω της περιστροφής ο Άρμστρονγκ κατάφερε με ψύχραιμους χειρισμούς να αποσυνδέσει το Gemini.
Το 1970 διορίστηκε υπεύθυνος των αεροπορικών δραστηριοτήτων στη NASA, αλλά τον επόμενο χρόνο παραιτήθηκε για να γίνει καθηγητής στο Πανεπιστήμιο του Σινσινάτι.
Σε αντίθεση με τον Μπαζ Ώλντριν, δεν έκανε πολλές δημόσιες εμφανίσεις. Ζούσε στο Ίντιαν Χιλλ του Οχάιο, και ένας μικρός κρατήρας κοντά στο σημείο όπου πάτησε στη Σελήνη έχει το όνομά του.
