动力系统中很多动力性态的发生，都与系统的不变流形有关。对于线性系统，原点是不动点，它的稳定流形与不稳定流形分别是线性子空间，由方程的解构成的流，在稳定流形上是压缩的，在不稳定流形上是扩张的；对于非线性系统，不动点的稳定流形与不稳定流形的结构复杂很多，当这两种流形在相空间相交时，它能形成同（异）宿轨。对动力系统的同宿轨的保持和分岔的研究，自上个世纪六十年代以来，一直是动力系统研究的重要问题之一，因为混沌等很多动力行为都与同宿轨相关。著名数学家，如Hale、Silnikov、Melnikov、周修义等等都做出过很多很重要的工作。在他们的研究基础上，我们继续针对这个问题，做了如下的研究工作：1，研究了一类具有同宿于双曲平衡点的同宿轨的确定性系统，在由布朗运动引起的随机扰动下，随机扰动的动力系统的同宿轨的保持性。通过引入截断函数的方法，克服了因典型布朗运动的无界性带来的困难，利用数学期望、方差等工具，得到了在随机概率空间中，存在一个全测度的子集，对该子集中的任何样本函数，扰动系统存在随机意义下的同宿轨；2，考虑了从同宿轨附近分岔出拟周期解的问题。如果未扰动系统有一条同宿于双曲平衡点的退化同宿轨，在周期小函数的扰动下，我们利用Lyapunov-Shmidt约化与指数二分性相结合的方法，得到了扰动系统存在拟周期解的条件—一族分岔函数，函数的零点就对应着扰动系统存在拟周期解，给出了分岔函数具有零点的Melnikov型二次函数判据，当二次函数具有简单零点时，原来的分岔函数就具有零点；3，证实了带退化同宿轨的自治微分方程，在小扰动下，扰动系统会出现多条同宿轨的问题。假设未扰动系统沿同宿轨的变分方程有3条有界解，我们用分析的方法得到扰动系统存在同宿轨的分岔函数，在寻找分岔函数的可解性条件时，出现了多元二次函数方程组。我们采用同时对角化的两个二次型的方法，将其中的两个二次型对角化，这样多元方程组就极大地简化了，最后得到扰动方程有四个同宿轨的条件。