Moin,
setzt voraus dass du dich mit Linux gut auskennst...
Mein Favorit derzeit: NGINX mit dem RTMP-Modul (findest du über Google). Kannst den Stream mit Passwort absichern (Auf Streamer + Viewer-Seite) und sogar aufzeichnen. Du musst dir aber NGINX mit dem Modul selbst kompilieren. Es gibt keine Pakete für gängige Linux-Distributionen. Dafür verbraucht das aber auch kaum Ressourcen.
Ansonsten gibt es den RED5-Mediaserver. Dieser ist aber auch nicht gerade einfach zu bedienen, kann aber etwas mehr als das NGINX-Modul.
Fakt ist: willst du das vernünftig aufziehen ist das nicht "mal eben" gemacht.
Gruß,
Kalle