В дисертації досліджені процеси переходу від регулярної та хаотичної динаміки у ключових процесах, що характеризують взаємодію пучків заряджених часток с полем електромагнітних хвиль, а також аналогічну динаміку променів у неоднорідних середовищах. На моделі осцилятора Дюфінга був досліджений процес створення гомоклінічної структури, доведено, що періодична біфуркація фазового портрету практично завжди призводить до виникнення хаотичної динаміки. Показано, що ці результати можуть бути корисними для аналізу динаміки системи Лоренца, динаміки солітонів, що описуються нелінейним рівнянням Шредінгера та ін. Доведено, що усі знайдені важливі особливості руху частинок, мають місце і для руху променів у неоднорідному середовищі. Зокрема в неоднорідних оптичних хвилеводах. Найбільш важливою особливістю є динамічне фокусування променів у неоднорідних середовищах. Знайдено умови, за яких відбувається це фокусування.