选项A，存款利息收入，不属于增值税应税交易，不征收增值税。

在境内发生应税交易，是指下列情形：

（1）销售货物的，货物的起运地或者所在地在境内；

（2）销售或者租赁不动产、转让自然资源使用权的，不动产、自然资源所在地在境内；

（3）销售金融商品的，金融商品在境内发行，或者销售方为境内单位和个人；

（4）除（2）、（3）外，销售服务、无形资产的，服务、无形资产在境内消费，或者销售方为境内单位和个人。

服务、无形资产在境内消费，是指下列情形：

（1）境外单位或者个人向境内单位或者个人销售服务、无形资产，在境外现场消费的服务除外；（选项A）

（2）境外单位或者个人销售的服务、无形资产与境内的货物、不动产、自然资源直接相关；

（3）国务院财政、税务主管部门规定的其他情形。

综上所述，选项A不属于在境内提供应税服务的情形，不当选。选项B、C、D、E属于在境内提供应税交易的情形，当选。

选项A，取得存款利息收入，不属于应税交易，不征收增值税；

选项B，转让非上市公司股权取得的收入，不属于增值税应税交易，不征收增值税；

选项C，员工为受雇单位或者雇主提供取得工资、薪金的服务，不属于应税交易，不征收增值税；

选项D，单位和个体工商户将自产或者委托加工的货物用于集体福利或者个人消费，属于视同应税交易，应当缴纳增值税。