k的取值由λ决定.如果λ不是齐次方程的特征方程的根,k=0；如果λ是齐次方程的特征方程的单根,k=1；如果λ是齐次方程的特征方程的重根,k=2.当k的值确定了之后,特解的形式自然确定了.
对于y’‘+4y’+4y=(2x^2)e^x,特解可设为x^k(ax^2+bx+c),因为λ=1不是齐次方程的特征方程r^2+4r+4=0的根,所以k=0,所以特解设为(ax^2+bx+c)e^x.
把特解代入的过程一般可省略,有个可直接得最终结果的式子,教材上的推导过程会有：对于y''+py'+qy=P(x)e^(λx),特解设为Q(x)e^(λx),代入后会得到Q''(x)+(2λ+p)Q'(x)+(λ^2+pλ+q)Q(x)=P(x).熟记这个式子对于简化计算很有帮助.
对于本题,P(x)=2x^2,Q(x)=ax^2+bx+c,所以2a+6(2ax+b)+9(ax^2+bx+c)=2x^2,所以a=2/9,b=-8/27,c=4/27.