3 カッコ

日本では、( ) (丸カッコ、小カッコ)、 { } (波カッコ、中カッコ)、 [ ] (角カッコ、大カッコ) のように呼んで、 カッコが重なる場合は、内側から小カッコ、中カッコ、大カッコと 使うように指導される。 しかし、ここにもいくつか注意が必要である。

• 小 ( )、中 { }、大 [ ] のルールは国際的ではなく、 小 ( )、中 [ ]、大 { } の順に使用する国も多いらしい。 日本でも JIS 規格では「小、中、大」という呼び方はしていないそう。
• 3 段以上のカッコを使う場合は、 一般的にはむしろ { } も [ ] も使わずに、 単に ( ) のみを使うことが多い。 そのためか大学の教科書などでは 2 段位のカッコでも 最初から ( ) だけしか使っていない場合も多い (これも教科書などでの説明はない)。
• 式によっては、カッコは特別な意味に用いられることがある。 その場合は、その特別なカッコを他のカッコを区別して用いる必要がある。

この最後の「特別な意味」について説明する。

1. 丸カッコ ( ):
   • 座標やベクトルの成分を囲む (数字を横、あるいは縦に並べる)
   • 開区間を表す
   • 縦に 2 つ数字を並べて組み合わせの数を表す
   • $f(x)$ のように関数の変数を囲む
   • 縦横に数字を並べたものを大きな ( ) で囲んで行列を表す
   • $y^{(3)}$ のように書いて微分の階数を表す
2. 波カッコ { }:
   • 集合を表現するのに使う
3. 角カッコ [ ]:
   • 閉区間を表す
   • ガウス関数を表す
   • 定積分などで関数の値の差を表す
   • ベクトルや行列の表現に ( ) の代わりに [ ] を使う
   • ベクトルの三重積を表す

このような特別な意味を持つカッコを、 数式の優先順位のためのカッコで囲む場合は、 同じカッコ記号を使わない方が見やすいだろう。例えば、

$$3\times \left\{ \left(\begin{array}{c} 2 1\end{array}\rig... ...] + \left[\begin{array}{c} 3 -2\end{array}\right] \right)$$

といった具合である。

しかし、カッコに関して厄介なのは、 数式においては過剰なカッコは望まれず、 省略できるカッコはなるべく省略すべき、 という「暗黙の了解」があることであり、 この暗黙の了解に従う、一見無意味に見える式変形が行われることが ある、ということであろう。 例えば、

$$(-4)^2 x^2 = 16x^2$$

の左辺から右辺への式変形は、 式の中で無意味なマイナス符号が消えていること、 および $4^2$ が右辺では計算された結果になっているので、 意味があると言えるだろうが、

$$(-4)x^2 = -4x^2$$

という式変形は、右辺は正確には $-(4x^2)$ を意味するから、 両辺は一応別のことを表していて全く無意味というわけではないが、 実質的にはカッコをひとつ省略するための変形をしているだけに過ぎない。 $(\sin x)y$ を $y\sin x$ と書きかえるのもこれと同様であるが、 これについては 4 節で詳しく説明する。 また、

$$(3\times 4)^2$$

のカッコは優先順位の規則によりそのまま省略することはできず、 カッコを消すにはその中の計算を行って $12^2$ としないといけないから、 この式にカッコは必要であるが、 しかし、

$$3\times(4^2)$$

のカッコは優先順位からすれば不要で、 $3\times 4^2$ と書いても同じ意味である。 しかし、「 $3\times 4^2=12^2$」と間違える学生がいる現状を考えると、 「$3\times (4^2)$」のようにあえてカッコを書くことは、教育的な理由、 あるいは規則をうろ覚えの学生に対するあいまいさを排除する目的で 決して無意味ではなく、 このように書くことに本来は全く問題はないと思う。 問題があるとすれば、 それはむしろ上に書いた「省略できるカッコはなるべく省略すべき」という 暗黙の了解に対する理由でしかないだろう。 個人的な意見を言えば、 それは単に数学教員の美的感覚を満たすもの程度の意味しか持たず、 もしそれが学生の理解を阻害するのだとすれば、 そちらの方がよほど問題だろうと思う。

ちなみに、コンピュータプログラムでも、 優先順位からすれば省略できるカッコが残っている場合があるが、 その場合は、後で人間がその数式を読んだときにわかりやすいように あえてカッコを残すことが習慣的に行われている。 複雑な優先順位をちゃんと理解、あるいは確認した上で 不要なカッコを省略する方が一見美しいかもしれないが、 あまり美しくはなくても、 優先順位表をいちいち確認しなくても 多くの人が見てすぐにわかるような式を書く方が、 バグを避けやすい、よい書き方であると推奨されている。

実際私もカッコをできるだけ省略するような式変形で教えているのではあるが、 このように考えると、カッコを無批判に省略する方向は どんなもんだろうかと疑問を感じなくもない。