选项D，实行定期定额方式缴纳税款的纳税人，可以实行简易申报、简并征期等申报纳税方式。

除按照规定不需要发给税务机关登记证件的外，纳税人办理下列事项时，必须持税务登记证件：

（1）开立银行账户；（选项A）

（2）领用发票。（选项C）

综上所述，选项A、C属于必须持税务登记证件的情形，当选。选项B、D、E不属于必须持税务登记证件的情形，不当选。

对向市场监管部门申请简易注销的纳税人，符合下列情形之一的，可免于到税务机关办理清税证明，直接向市场监管部门申请办理注销登记：

（1）未办理过涉税事宜的；（选项A）

（2）办理过涉税事宜但未领用发票、无欠税（滞纳金）及罚款且没有其他未办结涉税事项的。（选项B）

综上所述，选项A、B属于申请简易注销的情形，当选。选项C、D、E不属于申请简易注销的情形，不当选。

选项D，由税务机关处1万元以上5万元以下罚款，情节严重的，处5万元以上50万元以下的罚款，有违法所得的予以没收；选项E，由税务机关没收违法所得，没收、销毁作案工具和非法物品，并处1万元以上5万元以下的罚款。情节严重的，并处5万元以上50万元以下的罚款。