Кодек H264 сам по себе очень ресурсоемкий. Плюс только в сильном сжатии при высоком качестве картинки.
Например при трансляции с Vlc наименьшую нагрузку создает кодек mpeg2 (ts) и wmv (asf). На занятии спокойно транслирую рабочий стол на 8 компов с минимальной задержкой. Процессор ноутбука P8600 двухядерный грузится на 25-50%. На IP камерах H264 тоже сильно грузит, mjpeg возможно предпочтительнее в ряде случаев.