平面波导和微谐振腔是集成光学系统中的基本单元，具有尺寸小、强限光能力、色散灵活调控等特性，成为研究片上非线性光学效应及应用的理想平台。基于平面波导和微谐振腔中的四波混频（Four Wave Mixing, FWM）效应，可以实现波长变换、光学参量放大、光学参量振荡、时间透镜、全光逻辑门、克尔光频梳等技术，已成为当前国际上备受关注的研究热点和前沿领域之一。本文基于多种材料平台，优化设计了平面波导和微谐振腔的结构和参数，研究了多种效应对平面波导和微腔中FWM过程的影响，实现了高速、可调谐的全光逻辑门和宽带中红外微腔光参量振荡过程。主要研究内容和取得的成果如下：一、提出了一种新型硅-有机物混合（Silicon-Organic Hybrid, SOH）双狭缝波导，克服了双光子吸收和自由载流子效应的限制，通过优化设计波导结构和参数在通信波段获得了高非线性（γ = 1.4×104 W-1m-1）和近零平坦负色散等特性，基于该波导中的FWM效应实现了速率100 Gbit/s的全光与（AND）、或（OR）以及异或（XOR）逻辑门，转换效率＞-6.5 dB。同时，理论研究了双光子吸收和自由载流子效应对波导中FWM过程及全光逻辑门的影响，结果表明双光子吸收和自由载流子效应会导致输出脉冲发生畸变和转换效率降低。二、设计了一种硅-石墨烯混合（Silicon-Graphene Hybrid, SGH）微环谐振腔，通过优化设计和改变石墨烯的化学势实现了平坦负色散以及色散调控和多个零色散点连续可调，基于该微腔中的FWM效应获得了光谱范围1536 nm~1569 nm、速率40 Gbit/s的可调谐全光逻辑操作，转换效率约-6.4 dB。同时，理论研究了高阶色散对微腔中FWM过程和全光逻辑门的影响，发现奇数阶色散引起脉冲波形发生畸变，产生拖尾振荡，其方向由高阶色散的符号决定；偶数阶色散将导致脉冲波形加宽，转换效率降低。三、理论研究了基于氟化镁（MgF2）微腔中级联FWM效应的中红外光频梳产生特性及动力学过程，通过优化泵浦失谐使得光频梳从调制不稳定态转换为单孤子态，并揭示了单孤子光频梳时域和频域随泵浦失谐的演化规律，获得了中红外微腔孤子光频梳产生的系统参数。在此基础上，优化设计并制备了高Q值、近零负色散的MgF2微盘谐振腔，以及用于微腔光耦合的硫化砷（As2S3）锥形光纤，基于中心波长位于4.78 μm的小型化量子级联激光器和MgF2微盘谐振腔构建了中红外微腔光频梳产生的实验系统，通过优化泵浦波长、失谐和功率以及锥形光纤与微腔耦合位置等参数，实现了光谱带宽约4380 nm的中红外光参量振荡。