WHT：知っておくべき高速フーリエ変換（FFT）のより単純なバージョン

高速ウォルシュアダマール変換は、1960年代から1970年代初頭に普及した、機械学習のためのシンプルで便利なアルゴリズムです。この有用なアプローチは、その効率性のために、より広く認識され、適用されるべきです。

By ショーン・オコナー、科学技術の著者および調査員.

高速ウォルシュアダマール変換（WHT）は、高速フーリエ変換（FFT）の簡略版です。

シーケンスa、bの2ポイントWHTは、2つの値の合計と差です。

WHT（a、b）= a + b、ab。

これは自己逆であり、固定定数が可能です。

WHT（a + b、ab）= 2a、2b

（a + b）+（ab）= 2aおよび（a + b）–（ab）= 2bのため。

定数は、√2のスケーリング係数を使用してXNUMXつのウォルシュアダマール変換間で分割され、正規化されたWHTNが得られます。

WHTN（a、b）=（a + b）/√2、（ab）/√2WHTN（（a + b）/√2、（ab）/√2）= a、b

その特定の定数により、a、bのベクトル長は変換後も変更されません。²+b² =（（a + b）/√2）²+（（ab）/√2）² あなたが簡単に計算できるように。

2点変換は、それらに含まれる+記号と–記号のパターンで同様に、類似した用語のペアを順次加算および減算することにより、より長いシーケンスに拡張できます。

4点シーケンスa、b、c、dを変換するには、最初に2つのXNUMX点変換を実行します。

WHT（a、b）= a + b、ab WHT（c、d）= c + d、cd

次に、同様の項a + bとc + dを加算および減算します。

WHT（a + b、c + d）= a + b + c + d、a + bcd

および同様の用語abおよびcd：

WHT（ab、cd）= a-b + cd、ab-c + d

a、b、c、dの4点変換は次のようになります。

WHT（a、b、c、d）= a + b + c + d、a + bcd、a-b + cd、ab-c + d

加算および減算する類似の用語がなくなった場合、それは完了を示します（ログ後₂（n）ステージ。この場合、nは4です。）アルゴリズムの計算コストはnlogです。₂（n）加算/減算演算。ここで、変換のサイズであるnは、一般的な場合、2の正の整数乗に制限されます。

行列演算を使用して変換が行われた場合、コストははるかに高くなります（n² 積和演算を融合しました。）

図1.行列形式で計算された4点ウォルシュアダマール変換。

図1の+ 1、-1エントリは、WHTを計算するための実際のアルゴリズムのほとんどが結果として生じる特定の自然な順序で表示されます。これは、行列が対称、直交、および自己逆であるため、幸いです。

WHTの+ 1、-1パターンを波形として表示することもできます。

図2.自然な順序で表示された8ポイントWHTの波形。

一連の数値のWHTを計算するときは、実際には、各波形のどれだけが元のシーケンスに埋め込まれているかを判断しているだけです。そして、それはあなたがその変換からどんなシーケンスでも完全に再構築することができる完全で完全な情報です。

WHTの波形は通常、画像などの自然データに見られるパターンと強く相関しているため、変換をデータ圧縮に使用できます。

図3.WHTを使用して65536ポイントに圧縮された5000ピクセルの画像。

図3では、65536ピクセルの画像がWHTで変換され、5000の最大振幅の埋め込みが保持されてから、逆変換が適用されました（単に別のWHT）。

中心極限定理（CLT）は、大量の乱数を追加すると、その特徴的なベル曲線を持つ正規分布になることを示しています。 CLTは、大量の乱数の合計と差に等しく適用されます。その結果、CM Raderは（1969年に）WHTを使用して、従来の一様分布の乱数から正規分布の乱数を迅速に生成することを提案しました。単純に、たとえば–1から1の間の均一な乱数のシーケンスを生成し、WHTを使用してそれらを変換します。

同様に、ランダムに選択された固定のサインフリップのパターンを選択して、変換への入力に適用することにより、WHTの整然とした波形パターンを混乱させることができます。これは、WHT行列Hに、ランダムに選択された+ 1、-1エントリの対角行列Dを乗算してHDを与えることと同じです。その場合、HDで中断された波形パターンは、自然データで見られるパターンのいずれとも相関しません。その結果、HDの出力は正規分布になり、実際には自然データの高速ランダム投影になります。ランダムプロジェクションには、局所性鋭敏型ハッシュ、圧縮センシング、ランダムプロジェクションツリー、ニューラルネットワークの前処理と後処理など、機械学習に多数のアプリケーションがあります。