基本的なレイアウトをつかさどる“コンテナ”が存在する。
縦書き機能は“コンテナ”の基本機能として実装されている。
“コンテナ”に“エレメント”を並べていく。
“エレメント”は文字列だったりグラフィックスだったり
あるいは“コンテナ”だったりする。
“コンテナ”の多重入れ子によって漢文や数式を表現する。

「少し知識があれば（中略）独自機能を追加する」を実現するには
コンテナの並びを自由に制御できる仕組みが必要で、次のいずれかが必要。
1. コンテナに関するAPIを公開し、開発力のある者が機能追加する
2. マクロ言語的な物を定義・実装し、ユーザが機能追加する
3. グラフィカルなコンテナエディタを実装し、ユーザが機能追加する

これに近い発想で作られているワープロはすでにあるはず。
というかQuarkXPressのXTensionてこんな感じじゃないの？　知らんけど。