考试中小明的语文和数学平均成绩是96分,数学和作文的平均成绩是88分,语文和作文的平均成绩是86分.

设小明的语文成绩为A,数学成绩为B,作文成绩为C
小明语文和数学的成绩和为：A+B=96*2=192
数学和作文的成绩为：B+C=88*2=176那么B=176-C
语文和作文的成绩为：A+C=86*2=172,那么A=172-C
把A=172-C和B=176-C代入A+B=192有：
176-C+172-C=192
解得：C=156/2=78
所以A=94,B=98
所以数学98,语文92,作文78
所以数学最高