Почему оно компилится?

public enum a{
  aa
}
public enum b{
 bb=a.aa
}
public class BaseClass{
 internal a prop {get;set;}
}
public class DerivedClass{
 public new b prop{get;set;}
}

subj

dr-Wicked,

а почему нет?

Не знаю, никогда не думал что можно перезаписать модификатор доступа и возвращаемый тип.
Удивился.

Вы, наверное, имели ввиду это:

public class DerivedClass : BaseClass
{
 public new b prop{get;set;}
}

Сокрытие это называется. И это нормальное поведение.