Ein multimeter sollte man auch noch haben. Solange man nur Kleinspannungen messen will, muss es auch keine besonderes sein. Die Genauigkeit der 3,5 Stelligen reicht normal aus. Was am ehesten an billigen Multimetern fehlt sind Wechelstrombereiche und ein Durchgangstest mit Pieper.
Wenn man auch an Netzspannung messen will, sollte man schon etwas auf die Qualität achten, denn bei den billigen wird zum Teil leider an der Sicherheit gespart.

Als Stromversorgung eignen sich neben 9 V Batterien auch ganz gut mehrere (z.B. 3-4) 1,5 V Batterien in Serien in einem Halter. Alternativ auch ein Steckernetzteil.

Für erste Tests ist auch ein Steckbrett nicht schlecht geeignet. Wenn das nicht ausreicht, wird man um einen Lötkolben nicht herumkommen. Für den Anfang kann man auch mit Platinen aus Bausätzen oder Lochrasterplatinen oder Streifenraster klarkommen. Jeder hat da so seine vorlieben: Die ganz hartgesottenen nehmen "dead-bug style".