Jerzy Weyman (University of Connecticut, USA), Złożoność obliczeniowa, geometria i teoria reprezentacji