1）
设椭圆方程为x^2/a^2+y^2/b^2=1,
直线AB：y=x-c,
联立消去y可得：
(a^2+b^2)x^2-2a^2cx+a^2c^2-a^2b^2=0,
令A=(x1,y1),B=(x2,y2),
则x1+x2=(2a^2*c)/(a^2+b^2) ,x1*x2=(a^2*c^2-a^2*b^2)/(a^2+b^2),
向量OA+ OB=(x1+x2,y1+y2), 与向量a=(3,-1)共线,
所以3（y1+y2）+（x1+x2）=0,
即3（x1-c+x2-c）+（x1+x2）=0,
4（x1+x2）-6c=0,
化简得：a^2=3b^2.
椭圆过点（√3,-1）,所以3/a^2+1/b^2=1,
联立解得：a^2=6,b^2=2.
椭圆方程为x^2/6+y^2/2=1.
2）
椭圆x^2/6+y^2/2=1
即：x^2+3y^2=6 ,①
设向量OM=(x,y),OA=(x1,y1),OB=(x2,y2)
(x,y)=λ(x1,y1)+μ(x2,y2)
即：x=λx1+μx2
y=λy1+μy2
M在椭圆上,把坐标代入椭圆方程①
（λx1+μx2）^2+3(λy1+μy2)^2=6 ,
λ^2(x1^2+3y1^2)+μ^2(x2^2+3y2^2) +2λμ(x1*x2+3y1*y2)=6 ,②
直线过右焦点,直线方程即： y=x-c ,
把直线代入椭圆,直线交椭圆于AB,求交点：
(a^2+b^2)x^2-2a^2cx+a^2*c^2-a^2*b^2=0
因为前面已证a^2=3b^2,所以c^2=a^2-b^2=2b^2,
由韦达定理：
x1+x2=(2a^2*c)/(a^2+b^2)=3/2*c,
x1*x2=(a^2*c^2-a^2*b^2)/(a^2+b^2)=3/8*c^2
∴x1x2+3y1y2=x1x2+3(x1-c)(x2-c)
=4x1*x2-3(x1+x2)c+3c^2
=3/2c^2-9/2c^2+3c^2=0
而A,B在椭圆上：
x1^2+3y1^2=6 ,x2^2+3y2^2=6 全部代入②知：
λ^2+μ^2=1 为定值.