已知向量a,b满足a的模等于1,且向量b与a-b的夹角为120° 则b^2-(a·b)^2的最大值是

·(a-b)=a·b-|b|^2=|b|*|a-b|*cos(2π/3)
即：|b|*|a-b|=2|b|^2-2a·b
在以a、b、a-b构成的三角形中,a-b与-b的夹角为π/3
即：|a|^2=|b|^2+|a-b|^2-2|b|*|a-b|*cos(π/3)=1
即：|b|^2+|a-b|^2-|b|*|a-b|=1≥|b|*|a-b|,即：|b|*|a-b|≤1,当：|a-b|=|b|时等号成立
故：2|b|^2-2a·b≤1,即：|b|^2≤1/2+a·b
故：|b|^2-(a·b)^2≤1/2+a·b-(a·b)^2=-(a·b-1/2)^2+3/4
当f(a·b)=-(a·b-1/2)^2+3/4取得最大值时,|b|^2-(a·b)^2也取得最大值
当a·b=1/2时,f(a·b)取最大值：3/4
即|b|^2-(a·b)^2的最大值是3/4
此时|b|=|a|=|a-b|=1,对应于正三角形的情况
其实单纯看|b|,|b|的最大值可以取到2sqrt(3)/3,此时：=π/6
但|b|^2-(a·b)^2=1/3
当a⊥b时,|b|=sqrt(t)/3,|b|^2-(a·b)^2的值也是1/3