Развита векторная теория рассеяния лазерного излучения в интегрально-оптическом волноводе с трехмерными нерегулярностями при наличии шума. Решение электродинамической задачи рассеяния лазерного излучения в нерегулярном волноводе найдено методом связанных мод с помощью теории возмущений. Приближенное решение неоднородного трехмерного волнового уравнения получено методом функций Грина. Найдены аналитические формулы для полей излучения распространяющихся и затухающих мод. Дана физическая интерпретация полученных выражений. Отмечена роль шума как самостоятельного (дополнительного к классическому) деполяризующего фактора при рассеянии света.