(1)因为方程x^2+2ax+b^2=0与方程x^2+2cx-b^2=0有公共根,
设此两个方程的公共根为x,
则有x^2+2ax+b^2=x^2+2cx-b^2,
所以2b^2=2(c-a)x,
所以x=b^2/(c-a),
把x=b^2/(c-a)代入x^2+2ax+b^2=0,得
[b^2/(c-a)]^2+2a[b^2/(c-a)]+b^2=0,
所以b^4/(c-a)^2+2ab^2/(c-a)+b^2=0,
所以b^4+2ab^2(c-a)+b^2(c-a)^2=0,
两边同除以b^2得b^2+2a(c-a)+(c-a)^2=0,
所以b^2+2ac-2a^2+c^2-2ac+a^2=0,
所以b^2-a^2+c^2=0,
所以b^2+c^2=a^2,
所以三角形ABC一定是直角三角形.
(2)因为关于x的方程x^2+3x+a=0的两个实数根的倒数和为3,
所以x1+x2=-3,x1x2=a,
因为1/x1+1/x2=3,
所以(x1+x2)/(x1x2)=3,
所以-3/a=3,
所以a=-1,
所以方程(k-1)x^2+3x-2a=0变为(k-1)x^2+3x+2=0,
因为方程有两个实数根,
所以△=3^2-4(k-1)*2=9-8(k-1)=17-8k,k-1≠0
所以k