$ 解：(1)由①得S=\sqrt{\frac {1}{4}×[ 5^2×7^2-(\frac {5^2+7^2-8^2}{2})^2]}=10\sqrt{3}，$
$由②得p=\frac {5+7+8}{2}=10，$
$所以S=\sqrt{10×(10-5)×(10-7)×(10-8)}=10\sqrt{3}.$
$(2)公式①和公式②是等價(jià)的，推導(dǎo)過程如下：$
$∵p=\frac {a+b+c}{2}，$
$∴2p=a+b+c.$
$①中根號(hào)內(nèi)的式子可化為：\frac {1}{4}(ab+\frac {a^2+b^2-c^2}{2})(ab-\frac {a^2+b^2-c^2}{2})$
$=\frac {1}{16}(2ab+a^2+b^2-c^2)(2ab-a^2-b^2+c^2)$
$=\frac {1}{16}[ (a+b)^2-c^2)(c^2-(a-b)^2 ]$
$=\frac {1}{16}(a+b+c)(a+b-c)(c+a-b)(c-a+b)$
$=\frac {1}{16}×2p×(2p-2c)(2p-2b)(2p-2a)=p(p-a)(p-b)(p-c)，$
$∴\sqrt{\frac {1}{4}[ a^2b^2-(\frac {a^2+b^2-c^2}{2})^2]}=\sqrt{p(p-a)(p-b)(p-c)}.$
$(3)連接OA、OB、OC，如圖所示：$
$S=S_{△AOB}+S_{△AOC}+S_{△BOC}=\frac {1}{2}rc+\frac {1}{2}rb+\frac {1}{2}ra=(\frac {a+b+c}{2})r=pr.$
