SQL上でニューラルネットワークと自動微分を実装、DataFusionショーケースで発表

地理・気候科学の共通操作が関係代数で表現可能であることをCoiledのジオスペーシャルベンチマークで示した過程で、リグリディングが疎行列の行列積に帰着し、SQLではJOINとGROUP BYによるSUMで書けることを確認した。この知見から微積分もSQLで扱えるなら物理計算をデータベースにプッシュダウンできると考え、自動微分の実装に進んだ。

簡略化された配列モデルではヤコビ行列の対角成分の偏微分のみで済むため、grad()やjvp、vjpが行単位操作として実装可能だった。成果はDataFusionの初回ショーケースで発表された。発表者は、関係データベースの論理層と物理層の分離という性質により、SQL上のニューラルネットワークが将来的に1000枚超のGPUでの分散学習に有用になり得ると述べている。XQL Systemsではこの「関係配列」の方向性を複数の研究者・エンジニアと共同で探求中だとしている。