1 Den Stack kannst du nicht überlasten, der schreibt im Zweifelsfall einfach deine Daten nieder und wackelt mit keiner Borste dabei.
Symptom---> Programm verhält sich wirr
2 Zugriffsverletzungen kennt der AVR auch nicht wirklich, das ist irgendeine Spinnerei vom Simulator, nehm ich an.
Vielleicht prüft er, ob den Tabellenindex irgendwannmal > als 256 ist (du hast ja ein Word definiert) ?

In diese Bredouille kannst du kommen, wenn du in deiner Rechnung den Xcount von 1 - 16 nimmst , da gehört auch -1, also 0 - 15

Ein Byte:
Du hast 16 Elemente (0-15), die 16 Byte lang sind (0-15)
Dein RDA2 = Y * 16 + X, dabei kann rauskommen 0-255
na, das ist ja offensichtlich ein einzelnes Byte
Zugiff natürlich dann BasCommäßig 1-256