にて is older form of で, and now has literary or archaic nuance. にて itself was created by adding suffix て to に, which is form of copular verb n-.
Traditional interpretation (e.g. here) is that 2 main functions of で are:
Copula form (連用形/Continuative): "is ... and"
Locative / instrumental case particle
私はペンで静かに手紙を書いている
私はペンで静かにて手紙を書いている
私はペンで静かで手紙を書いている
私はペンで静かと手紙を書いている
私は森で丸腰に歩いている
私は森で丸腰にて歩いている
私は森で丸腰で歩いている
私は森で丸腰と歩いている
私はあなたと一緒に働いている
私はあなたと一緒にて働いている
私はあなたと一緒で働いている
私はあなたと一緒と働いている
彼は突然に来た
彼は突然にて来た
彼は突然で来た
彼は突然と来た
My analysis is that:
All these sentences are grammatically correct, although variants with と may be rare or unnatural.
静か, 丸腰, 一緒, 突然 in these sentences are adjectives, not nouns.
にて and で have additional function as adverbializer, similarly to に and と (although で as adverbializer is probably rarer than に as adverbializer). (Also adverbializer is actually subfunction of copula.)
静かに = 静かで = "quietly"
丸腰に = 丸腰で = "unarmedly"
一緒に = 一緒で = "combinedly, together"
突然に = 突然で = "suddenly"
で in ペンで is locative / instrumental case particle (格助詞) (here instrumental function), and ペン is noun.
で in 森で is locative / instrumental case particle (格助詞) (here locative function), and 森 is noun.
Are there any good counterarguments for this analysis of にて / で?
(Fixed expressions with adjective+に (e.g. 〜になる, 〜にする) are not really counterargument.)
(Partially related to discussion in 丸腰を見る and no-adjectives)