Roman Duda (Uniwersytet Wrocławski), Matematyka na Uniwersytecie Stefana Batorego w Wilnie