Кто должен принимать наследство и после кого если двоюродный брат оставил завещание на мать, она умерла не приняв его?

В этом случае будет наследственная трансмиссия -- наследство брата могут принять наследники матери. отдельно от наследства матери.

статья 1156. переход права на принятие наследства (наследственная трансмиссия)

1. если наследник, призванный к наследованию по завещанию или по закону, умер после открытия наследства, не успев его принять в установленный срок, право на принятие причитавшегося ему наследства переходит к его наследникам по закону, а если все наследственное имущество было завещано - к его наследникам по завещанию (наследственная трансмиссия). право на принятие наследства в порядке наследственной трансмиссии не входит в состав наследства, открывшегося после смерти такого наследника.
2. право на принятие наследства, принадлежавшее умершему наследнику, может быть осуществлено его наследниками на общих основаниях.
если оставшаяся после смерти наследника часть срока, установленного для принятия наследства, составляет менее трех месяцев, она удлиняется до трех месяцев.
по истечении срока, установленного для принятия наследства, наследники умершего наследника могут быть признаны судом принявшими наследство в соответствии со статьей 1155 настоящего кодекса, если суд найдет уважительными причины пропуска ими этого срока.
3. право наследника принять часть наследства в качестве обязательной доли (статья 1149) не переходит к его наследникам.