В работе развита нелинейная трехмерная теория комбинированных электронно-волновых систем О-типа с учетом релятивистских скоростей электронов, неоднородного магнитостатического поля, которое фокусирует электронный поток, многослойной структуры пучка заряженных частиц и других факторов, оказывающих непосредственное влияние на характеристики приборов миллиметрового (мм) и субмиллиметрового (субмм) диапазона. Показано, что коэффициент усиления в секционированной системе увеличивается при изменении расположения замедляющей системы относительно электронного потока. Рассмотрены двухкаскадные схемы с нерезонансным модулятором и резонансным выходным каскадом. Выявлены два варианта периодических структур: фотонно-кристаллическое волокно и волновод, сформированный линейным дефектом двухмерной периодической структуры, состоящей из элементов цилиндрической формы. С помощью свободно распространяемого программного пакета MIT Photonic Bands (МРВ) рассчитаны дисперсионные характеристики и пространственное распределение амплитуды и энергии электрического поля для собственных режимов фотонно-кристаллической структуры, соответствующих запрещенным зонам. Впервые исследованы энергетические характеристики многомерного взаимодействия ленточных электронных потоков с полями локализованных мод фотонно-кристаллических волноводов в перспективных приборах терагерцовой вакуумной электроники.