シナプス荷重を「フィルタ」に換えた1991年のNASA特許──時系列データを扱うニューラルネットの問題意識が、ここにあった
発掘メモについて： このシリーズの「発掘メモ」は、一次資料URLを確認した段階で候補の概要を記録したものです。本文精読・Claim 1の逐語確認は未実施です。確認済み事実のみ記載し、推測は推測として明示しています。
なぜ掘るか
「AIは動画や音声、時系列データが苦手」という議論が2010年代に続いた。LSTMやTransformerはその問いへの答えとして生まれた。では1991年、LSTMが発表される6年前（Hochreiter & Schmidhuberは1997年）、NASAの研究者が「時間を扱うニューラルネット」に取り組んだ特許が存在した。シナプス荷重という概念そのものを「フィルタ」に換える設計が、どう現代の問題意識と重なるかを確認したい。
特許の基本情報
- 特許番号：US5253329A
- タイトル：Neural network for processing both spatial and temporal data with time based back-propagation
- 出願：1991年12月26日
- 成立：1993年10月12日
- 発明者：James A. Villarreal、Robert O. Shelton（2名）
- Original Assignee：National Aeronautics and Space Administration（NASA）
- 一次資料：Google Patents（URL確認済み・Abstract・Claim 1取得済み）
- Legal status：Expired（Fee Related）
核心（Google Patents取得済み情報）
従来のニューラルネットが持つシナプス荷重は「スカラー値」、つまり単一の数値だ。入力信号に掛ける係数が1つある。
この特許の核心は、そのスカラー荷重を適応デジタルフィルタに置き換えることだ。フィルタは複数の係数を持ち、現在の入力だけでなく過去の入力も参照できる。これにより「ある時刻の入力が、3ステップ前の入力とどう関連するか」を接続の中に記憶させられる。
ニューラルネットワークアルゴリズムは空間情報のモデル化能力を実証した。本発明は、従来の逆伝播アルゴリズムに時間次元を追加する技術を導入する。人工ニューロン間のシナプス荷重を適応調整可能なフィルタで置き換え、単一の荷重の代わりに関連性と時間依存性を表現する複数の荷重を提供する。
Jordan型（1986年）やElman型（1990年）のリカレントネットワークとの違いは「記憶の場所」にある。Jordan/Elmanは特殊な「記憶層」や「コンテキストユニット」が記憶を保持する。この特許では記憶が接続（シナプス）に分散している。
Claim 1には「時間シーケンス入力X(n), X(n-1), X(n-2)...を受け取る複数の処理素子、各入力にK個の適応フィルタを持つ構造」が明記されている。
NASAが作った理由（推測）：宇宙・航空分野には「時系列センサーデータを処理する」というニーズが多い（飛行データ、気象データ、ロケット制御等）。この特許の動機はそこにあると推測されるが、一次資料（Description全文）では未確認。
現代との接続仮説
| US5253329A（1991年） | 現代の技術 | 評価（仮説段階） |
|---|---|---|
| シナプス荷重 = 適応デジタルフィルタ | LSTM/GRUのゲート機構付き記憶 | 類似（「時間依存を接続に持たせる」という問題意識が重なる） |
| 時間シーケンス入力 X(n), X(n-1)... | Transformerのシーケンス入力 | 類似（時系列を扱う問題意識） |
| 接続に分散した時間記憶 | TCN（Temporal Convolutional Network）のdilated causal conv | 類似（時間を「特殊層」でなく接続構造で扱う問題意識） |
| バックプロパゲーションの時間次元への拡張 | BPTT（Backpropagation Through Time） | 類似（時間方向に勾配を伝える問題意識） |
最も重要な違い：現代のLSTMは「ゲート機構でどの記憶を通すか・忘れるか」を学習する設計だ。この特許の「フィルタとして記憶する」設計とは、記憶の管理方法が根本的に異なる。同じ「時間を扱う」という問題意識を持つが、解法は別物だ。
これは一次資料の全文精読前の仮説。Claim 1詳細確認後に修正する。
未確認ポイント
- Description全文（どんな実験データで検証したか、NASAのどんな用途を想定したか）
- Forward citations件数（後続研究にどの程度影響したか）
- Jordan/Elman型との設計上の具体的な差分（特許文書での説明の有無）
- 失効年月の詳細（1993年成立から20年で2013年頃と推定されるが未確認）
次アクション
Description全文を確認してNASAの想定用途を特定する。Forward citationsが少なければ「なぜ広がらなかったか」の考察が記事のフックになる。
参考リンク：
- 元特許：US5253329A on Google Patents
- AI・機械学習特許 #3（発掘ノート）：Philips バックプロパゲーションハードウェア US5517598A（1993年）
- AI・機械学習特許 #2（発掘ノート）：LeCun CNN重み共有 US5067164A（1989年）