通常のSパラメータはGNDを基準としたシングルエンド信号で定義されています． 一方USBやイーサネットなど近年の高速デジタル伝送では差動信号による伝送方式が採用されています． このような差動線路の特性を表現するために用いられるのがミックスモードSパラメータです．
下図のようにポート$1,\ 1^\prime$とポート$2,\ 2^\prime$の2ポート(対)からなる回路を考えます． この回路を伝搬する信号は各ポート対を同相で伝搬するモード(コモンモード)と，各ポート対を逆相で伝搬するモード(ディファレンシャルモード)の2つのモードの組み合わせで表現できます．
このとき各ポート対を同相で伝搬するコモンモードの進行波を添字cを付けて$a_\mathrm{c1},\ a_\mathrm{c2}$，後退波を$b_\mathrm{c1},\ b_\mathrm{c2}$とするとそれらの間には \[\left(\begin{matrix} b_\mathrm{c1}\\ b_\mathrm{c2} \end{matrix}\right)= \left(\begin{matrix} S_\mathrm{cc11}&S_\mathrm{cc12}\\ S_\mathrm{cc21}&S_\mathrm{cc22} \end{matrix}\right)\left(\begin{matrix} a_\mathrm{c1}\\ a_\mathrm{c2} \end{matrix}\right)\] がなりたちます．この$S_{\mathrm{cc}nm}$はコモンモードのSパラメータです． 同様にディファレンシャルモードの信号を添字dで表わすとすると \[\left(\begin{matrix} b_\mathrm{d1}\\ b_\mathrm{d2} \end{matrix}\right)= \left(\begin{matrix} S_\mathrm{dd11}&S_\mathrm{dd12}\\ S_\mathrm{dd21}&S_\mathrm{dd22} \end{matrix}\right)\left(\begin{matrix} a_\mathrm{d1}\\ a_\mathrm{d2} \end{matrix}\right)\] というようにディファレンシャルモードのSパラメータを定義できます．
また，理想的な差動伝送線路ではコモンモードの信号はコモンモード，ディファレンシャルモードの信号はディファレンシャルモードのまま伝搬しますが，実際の線路では平衡対となる2導体間のスキュー(伝搬時間差)によりコモンモード-ディファレンシャルモード間のモード変換が生じます． このような途中でモードが変わって伝搬する信号を考えると \[\left(\begin{matrix} b_\mathrm{d1}\\ b_\mathrm{d2} \end{matrix}\right)= \left(\begin{matrix} S_\mathrm{dc11}&S_\mathrm{dc12}\\ S_\mathrm{dc21}&S_\mathrm{dc22} \end{matrix}\right)\left(\begin{matrix} a_\mathrm{c1}\\ a_\mathrm{c2} \end{matrix}\right),\hspace{4em} \left(\begin{matrix} b_\mathrm{c1}\\ b_\mathrm{c2} \end{matrix}\right)= \left(\begin{matrix} S_\mathrm{cd11}&S_\mathrm{cd12}\\ S_\mathrm{cd21}&S_\mathrm{cd22} \end{matrix}\right)\left(\begin{matrix} a_\mathrm{d1}\\ a_\mathrm{d2} \end{matrix}\right)\ \] を定義することができます．
以上をまとめると，2ポート対の差動伝送線路の特性は以下の$4\times 4$行列で表現できます． \[\left(\begin{matrix} b_\mathrm{d1}\\ b_\mathrm{d2}\\ b_\mathrm{c1}\\ b_\mathrm{c2} \end{matrix}\right)= \left(\begin{matrix} S_\mathrm{dd11}&S_\mathrm{dd12}&S_\mathrm{dc11}&S_\mathrm{dc12}\\ S_\mathrm{dd21}&S_\mathrm{dd22}&S_\mathrm{dc21}&S_\mathrm{dc22}\\ S_\mathrm{cd11}&S_\mathrm{cd12}&S_\mathrm{cc11}&S_\mathrm{cc12}\\ S_\mathrm{cd21}&S_\mathrm{cd22}&S_\mathrm{cc21}&S_\mathrm{cc22} \end{matrix}\right)\left(\begin{matrix} a_\mathrm{d1}\\ a_\mathrm{d2}\\ a_\mathrm{c1}\\ a_\mathrm{c2} \end{matrix}\right)\] このように差動伝送線路の特性をモードごとに分けて表現したSパラメータをミックスモードSパラメータと呼びます． 記事中で何度も$4\times 4$行列を書くのは面倒なため， 以降はミックスモードの進行波を$\boldsymbol{a}_\mathrm{mix}(=(a_\mathrm{d1},\ a_\mathrm{d2},\ a_\mathrm{c1},\ a_\mathrm{c2})^t)$，後退波を$\boldsymbol{b}_\mathrm{mix}$と置き，ミックスモードSパラメータ$\boldsymbol{S}_\mathrm{mix}$を$\boldsymbol{b}_\mathrm{mix}=\boldsymbol{S}_\mathrm{mix}\boldsymbol{a}_\mathrm{mix}$と定義します．
2ポート(対)の差動回路網は見方を変えると，4ポートのシングルエンド回路網と考えることもできます． 下図のように，先程の差動伝送線路のポート$1^\prime$をポート3，ポート$2^\prime$をポート4と置いた4ポートの回路網を考えます． 通常のSパラメータの定義より，各ポートの入力進行波($\boldsymbol{a}=(a_1,\cdots ,\ a_4)^t$)と後退波($\boldsymbol{b}=(b_1,\cdots ,\ b_4)^t$)の間には \[\boldsymbol{b} = \boldsymbol{S}_\mathrm{se}\boldsymbol{a}\] が成り立ちます．ここで \[\boldsymbol{S}_\mathrm{se}=\left( \begin{matrix} S_{11}&\cdots&S_{14}\\ \vdots&\ddots&\vdots\\ S{41}&\cdots&S_{44} \end{matrix} \right)\] は4ポート回路の(シングルエンドの)Sパラメータです．
この4ポート回路網を伝搬する信号と2ポート対の差動回路網を伝搬する各モードの信号の対応関係を考えると， 例えば差動回路網のポート1をコモンモードで信号が伝搬するとき4ポート回路網ではポート1とポート3に同相の信号が， ディファレンシャルモードで伝搬するときはポート1とポート3に逆相の信号が伝搬していることに相当します． この関係をまとめると差動回路網の各ポートの進行波と4ポート回路網の各ポートの進行波の間には次が成り立ちます(ここで$1/\sqrt{2}$は回路網への入力電力を正規化するための係数です)． \[\left(\begin{matrix} a_\mathrm{d1}\\ a_\mathrm{d2}\\ a_\mathrm{c1}\\ a_\mathrm{c2} \end{matrix}\right)=\frac{1}{\sqrt{2}} \left(\begin{matrix} 1&0&-1&0\\ 0&1&0&-1\\ 1&0&1&0\\ 0&1&0&1 \end{matrix}\right)\left(\begin{matrix} a_1\\ a_2\\ a_3\\ a_4 \end{matrix}\right)\] また，この変換行列を$\boldsymbol{M}$と置くと後退波についても同様に$\boldsymbol{b}_\mathrm{mix}=\boldsymbol{M}\boldsymbol{b}$が成り立ちます．
この関係を用いると差動回路網のミックスモードSパラメータと，差動回路網を4ポートの回路と考えた場合の(シングルエンド)Sパラメータの間には次が成り立ちます． \begin{align} \boldsymbol{b} &= \boldsymbol{S}_\mathrm{se}\boldsymbol{a}\\ \boldsymbol{b}_\mathrm{mix} &= \boldsymbol{S}_\mathrm{mix}\boldsymbol{a}_\mathrm{mix}\\ \boldsymbol{M}\boldsymbol{b} &= \boldsymbol{S}_\mathrm{mix}\boldsymbol{M}\boldsymbol{a}\nonumber\\ \boldsymbol{b} &= \boldsymbol{M}^{-1}\boldsymbol{S}_\mathrm{mix}\boldsymbol{M}\boldsymbol{a}\nonumber\\ \therefore \boldsymbol{S}_\mathrm{se} &= \boldsymbol{M}^{-1}\boldsymbol{S}_\mathrm{mix}\boldsymbol{M} \end{align} 従って$\boldsymbol{S}_\mathrm{se} = \boldsymbol{M}^{-1}\boldsymbol{S}_\mathrm{mix}\boldsymbol{M} \leftrightarrow \boldsymbol{S}_\mathrm{mix} = \boldsymbol{M}\boldsymbol{S}_\mathrm{se}\boldsymbol{M}^{-1}$というようにそれぞれのSパラメータは相互変換することができます．
差動伝送線路の特性を評価する際，ミックスモードSパラメータを直接測定するのは困難なため， 一般的には4ポートのVNA(Vector Network Analyzer)を用いて4ポートのシングルエンドSパラメータを測定し， 上記の関係から各モードの特性を求めます． 多くの測定器やシミュレータ等にはこれを良い感じにやってくれる機能が搭載されていますが，そのような機能が無い場合，多数の測定点に対し$4\times 4$行列を計算するのはやや面倒です．実際，自分でこの計算をしないといけない状況があったのですが面倒だったため4ポートSパラメータのTouchstoneデータ(.s4pファイル)を与えるとミックスモードSパラメータの各モードの組ごとのパラメータ(.s2pファイル$\times 4$つ)を出力してくれるスクリプトを書きました． このようにすることで4ポート回路をモード毎の2ポート回路として扱えるので便利です． 大した処理ではありませんが，このシングルエンド→ミックスモードSパラメータへの変換スクリプトはgithubで公開(mixModeConverter)していますのでよかったら使ってみてください．
Sパラメータの概念と基本的性質については "Sパラ再入門" 天川修平，2021/5/8版．
ミックスモードSパラメータのパラメータをどの象限に置くかは文献等により異なり，それにより変換行列も異なる．ここでは
"Introduction to Mixed-Mode S-parameters," Teledyne LeCroy, May. 2021.
"Converting Single to Mixed-Mode S-Parameters ," Teledyne LeCroy, May. 2021.
の定義に従った．