5 判別式が 0 の場合

(7) を用いると、$B^2-AC=0$ の場合の様子も 一部は知ることができる。

$A=B=C=0$ の場合はさすがに無理だが、そうでなければ $B^2-AC=0$ と (8) より

$$K = \sqrt{\left(\frac{A+C}{2}\right)^2} = \left\vert\frac{A+C}{2}\right\vert$$

となる。 もし、$A+C=0$ だと、$C=-A$ より $B^2-AC=B^2+A^2=0$ となり、 $A=B=C=0$ となってしまう。 よって、$A=B=C=0$ でなければ $A+C\neq 0$ であり、$K\neq 0$ となる。

この場合、$g_\theta''(0)$ は、$\theta$ の変化に伴い、 最大値が 0 となる三角関数の波か ($A+C<0$)、 最小値が 0 となる波 ($A+C>0$) のグラフになる。 つまり、$f(x,y)$ は一つの方向を除いて上に凸であるか、 逆に一つの方向を除いて下に凸となる。

その残りの一つの方向がわかれば極の判別ができそうだが、 この方向では、凸になる場合もあれば、凸性を持たない場合もある。

例えば、 $f(x,y)=x^2+\alpha y^n$ ($n\geq 3$) の場合は、 停留点 (0,0) で

$$A=f_{xx}(0,0) = 2, \hspace{0.5zw}B=f_{xy}(0,0) = 0, \hspace{0.5zw}C=f_{yy}(0,0) = 0$$

となり、よって $B^2-AC=0$ で、$g_\theta''(0)$ は

$$g_\theta''(0) = 2\cos^2\theta$$

となるから、 $\theta\neq\pi/2$ の場合は $g_\theta(t)$ は $t=0$ で下に凸となるが、 $\theta = \pi/2$ の場合は、

$$g_\theta(t) = f(0,t) = \alpha t^n$$

となるので、$\alpha=0$ ならば定数、 $(\alpha,n)=(1,4)$ ならば下に凸、 $(\alpha,n)=(-1,4)$ ならば上に凸、 さらに $(\alpha,n)=(1,3)$ ならば凸ではない、 といった状況がいくらでも作れることになる。

よって、一つの方向以外のことはわかるが、 その方向がどうかということは 2 階微分までの情報だけでは 何もわからず、結局極かどうかの判別はできないことがわかる。

もちろん、$A=B=C=0$ の場合は、どの方向にも何もわからない。