SOAB=1/2*sin(135)*OA*OB
y=kx+b - уравнение прямой

Пусть B находиться в положительной x, а A в отрицательной

0=kxB+b
1=k*0+b
k=-1/xB
y=(-1/xB)x+1 - уранение прямой на которой лежит AB

OB=xB

Найдем зависимость xA от xB

-x=(-1/xB)x+1=> xA=-xB/(xB+1)

OA=cos(45)*|xA|=cos(45)*xB/(xB+1)

Найдем производную и экстремум
d(1/2*sin(135)*OA*OB)/dxB=0
d(1/2*sin(135)*cos(45)*xB/(xB+1)*xB)/dxB=0

производную и экстремум я думаю ты сам сможешь найти, мне впадлу