写出增广矩阵(1,-5,2,-3,11;-3,1,-4,2,-5;-1,-9,0,-4,17;5,3,6,-1,-1)(分号表示换行),第1行乘以3加到第2行,第1行乘以1加到第3行,第1行乘以-5加到第4行得(1,-5,2,-3,11;0,-14,2,-7,28;0,-14,2,-7,28;0,28,-4,14,-56),第2行乘以-1加到第3行,第2行乘2加到第4行得(1,-5,2,-3,11;0,-14,2,-7,28;0,0,0,0,0;0,0,0,0,0)
所以由矩阵(1,-5,2,-3;0,-14,2,-7;0,0,0,0;0,0,0,0)得通解x=k1(1,-1,0,2)的转置+k2(-9,1,7,0)的转置,
由矩阵(1,-5,2,-3,11;0,-14,2,-7,28;0,0,0,0,0;0,0,0,0,0)得特解x=(1,-2,0,0)的转置
所以全部解为x=k1(1,-1,0,2)的转置+k2(-9,1,7,0)的转置+(1,-2,0,0)的转置