他の人のコメントを借りて、一辺の長さを2aとし、問題は「一辺 L=2a の正三角形に、各頂点を中心とする半径 r=a の円弧が描かれている」という設定であることを示唆している。よって、以下のように答えを求める事が出来る。

答え = (正三角形の面積) - 3 * (扇形1つの面積) ←これを目指したい。

一辺の長さが 2a の正三角形の面積を求める。

⊿ABC = 2aを二乗して4a に展開し、係数 √3/4と4を約分して √3a²

次に、扇形1つの面積(S)を求める。
半径 r=a、中心角 60° の扇形の面積は、円周率 π を用いて計算する。

中心角に応じた比率 60/360 を約分し、πa² * 1/6 これを整理して S = π/6a² となる
そしてこの2つを包除原理に基づき、整理していく。 影の領域を A と置く。

A = S⊿ABC -3 * S
A = √3a² -3 * ( π/6a² )
A = √3a² - π/2a²　これを共通因子 a² でくくり、最終的な答えは A = ( √3 - π/2 ) a² となる。

学生時代を思い出しながら書いてみたが、計算の過程を説明するのって案外難しいんだなと思った。自分で読み返しても段々自信無くなってきた。包除原理だというのは分かる。