With reference to OPs example (namely referring to an action in the past which does not happen and thus we cannot tell what have happened if we did the action), selbst wenn is a little more flexible than auch wenn.
Selbst wenn has two connotations:
- [a] It doesn't matter if something happened or was true. I wouldn't have cared anyway.
- [b] Assuming something happened or was true, even then I wouldn't have cared.
Auch wenn conveys only the latter connotation [b].
Examples:
Er hatte kein Geld. Aber er hätte die Jacke gekauft, auch (dann) wenn ich ihm gesagt hätte, dass sie zu klein ist (=Sogar dann, wenn ich es ihm gesagt hätte -> [b]).
Er hatte kein Geld. Aber er hätte die Jacke gekauft, selbst wenn ich ihm gesagt hätte, dass sie zu klein ist (=Unbeachtet dessen, was ich gesagt hätte -> [a]).
Er hatte kein Geld. Aber er hätte die Jacke gekauft, selbst (dann) wenn ich ihm gesagt hätte, dass sie zu klein ist (=Sogar dann, wenn ich es ihm gesagt hätte -> [b]).
It's different if we're talking about an action what not happened yet (which is mainly addressed by the answer of @falkb). In that case auch wenn is more flexible than selbst wenn.
Now auch wenn has two connotations:
- [a] It doesn't matter if something will happen or is true. I will not care anyway.
- [b] Although something happened or is true, I will not care.
Selbst wenn only connotes the former one here [a].
Examples:
Ich werde die Jacke kaufen, selbst wenn sie zu klein ist (=Ich weiß nicht, ob sie zu klein ist -> [a]).
Ich werde die Jacke kaufen, auch wenn sie zu klein ist (=Ich weiß sie ist zu klein -> [b]).
Ich werde die Jacke kaufen, auch (dann) wenn sie zu klein ist (=Ich weiß nicht, ob sie zu klein ist -> [a]).