和老公结婚3年了，已有两个宝宝，大宝2岁半，小宝现在才1个多月，就在前几天，我拿老公手机玩，后面有一个女的加她，看着很眼熟，因为在去年的时候我也是无意间看到他们的聊天记录很暧昧，那时就问老公怎么回事？他说和那女的没什么关系，我那时候就不太相信他的话，但是又找不到证据后面就不了了之了，所以这次我就以老公的身份和她聊才知道事情不简单，知道后很生气的在问老公到底有没有关系，刚开始他还是不承认，最后我说要是在不说实话就去离婚，最后他才把所有事情都讲出来了，确实是出轨了，那个女的也是有家庭孩子的，而且孩子都上初中了，知道后我既生气又难受，坚持要和他离婚，但是他不去离，说是和那女的没有任何感情，以后一定改，保证再也不会做对不起我的事等等那些话，可是我不敢信他的话，要是以后在这样怎么办？还有一想到他和那女的那些事我心都是纠在一起的，以后生活在一起都会有阴影，要是真离了我又舍不得孩子，孩子还那么小肯定很可怜，我该怎么办？