Хочу вступить в наследство

За отцом наследство должны были принять - жена т. е ваша мать и двое сыновей т. е. ты и твой брат. вы от наследства отказались - соответственно наследство приняла мать.

далее не совсем понятно что означает - что мать приняла не все наследство...? тут нужна от вас ясность.

если мать умерла, а ваш брат умер до открытия наследства и/или одновременно, то
долю умершего брата наследуют его дети. (гк рф статья 1146. наследование по праву представления)
1. доля наследника по закону, умершего до открытия наследства или одновременно с наследодателем (пункт 2 статьи 1114), переходит по праву представления к его соответствующим потомкам в случаях, предусмотренных пунктом 2 статьи 1142, пунктом 2 статьи 1143 и пунктом 2 статьи 1144 настоящего кодекса, и делится между ними поровну.
в данном случае нотариус все указал вам верно.