Kann man Programme auf einem USB-Stick installieren und dann auf jedem PC verwenden?

Genaugenommen nein. Man installiert nichts auf einem USB-Stick, er hat ja kein Betriebssystem. Man kann aber Software auf den Stick laden, wenn sie seine Speichergröße nicht überschreitet.
Vom Stick aus kann man dann die Software auf jeden Computer mit USB-Anschluss laden, und dann installieren.

Zum Installieren brauchst Du ja ein Betriebssystem, das auf einem Stick nicht vorhanden ist, aber Du kannst das Programm speichern.

Sieh dich mal nach portable-Programmen um. Diese kann man praktisch auf den USB Stick geben um sie an anderen Rechnern zu entpacken und dort die gewohnte Arbeitsumgebung wiederzufinden. Bei chip.de findest du einige davon.