Der Dongle ist was anderes als AVR-ISP und funktioniert daher im AVR-Studio nicht, der läuft unter STK200.
Er sollte in BASCOM, avrdude und PonyProg funktionieren, was er ja auch tut, wie du schreibst. Es ist nur eine Stromversorgung für das Board notwendig.
Die Seiten auf dem Stecker kann man nicht vertauschen, du brauchst dich nur nach den Nummern der Pin richten, schau mal genau, die sind auf dem Stecker mit drauf.