1,正交矩阵和正交阵是一回事,正交矩阵必须是方阵
2,一般就写AB,其它记号我不太去确定,实心点和叉乘应该都可以,数学里一般不用星号表示乘积.
3,没有,矩阵只有是方阵的时候才可以取行列式
4,都可以,但是一般都用小括号
5,内积我的书定义用的是小括号,我也看过用的,都可以,用小括号容易混淆的时候就可以用表示,如果没把握你可以在前面加上一句本文/题用表示内积
6,零矩阵一般用O（大写字母o）表示,零向量可以用0表示（最好加上箭头）.但是现在对于这些要求并不严格,而且0和O又长的很像.强调矩阵大小的时候右下角会加上n*m的（这个对于任意矩阵都是这样的）
有问题追问!