普通のプログラムのようにアンインストールすることができませんでした。
VISTAの場合なら、コントロールパネル→プログラム→インストールされた更新プログラムを表示→Windows Internet Explorer 8を選択してアンインストールできます。