近年、データ流通基盤や情報銀行など、データを部門間、企業間、さらには業界間で共有し統合することで、横断的な分析を行う取り組みが活発になっている。保有者の異なるデータを横断的に分析するには、表名や列名が統一されていない多様なデータを結合することが必要である。
実際、作業者、企業、業界毎の違いから表名/列名には大きな表記揺れが存在する。そのため、これまではデータ管理の専門家が膨大な量の表データを精査し、何のための表データか、その表データの各行や列が何を表しているかを見極め、人手で統合を行っていた。その結果、データ統合に膨大な時間がかかり、分析がすぐに開始できない、担当者ごとのスキルにばらつきが出て分析精度が悪化するなどの問題が顕在化していた。
日本電気株式会社（以下、NEC）は、多種多様なデータの本質的な意味をAIで推定する「データ意味理解技術」を開発した。
同技術は従来、専門家が非常に時間をかけて行っていた分野や業種の異なる複数の表データの統合作業を自動化するものである。表データの構造と数値特性を含む、様々な単語のナレッジグラフ（※1）を活用した独自の機械学習技術で、NECのAI技術群「NEC the WISE」の1つだ。同技術の詳しい特長は以下の通り。
- データ分布の傾向をとらえる特徴量に基づき、ナレッジグラフとの紐づけを実現
- ナレッジグラフ上での意味の共起関係を活用し、意味推定を実現
同技術は、元々付与されている表名や列名を手がかりとするのではなく、各データ列の数値分布の統計的な傾向を手がかりとしている。
具体的には、事前にナレッジグラフ内の各単語について、その単語と共起する数値を収集し、単語の数値分布を含む独自のナレッジグラフを構築する。同じ意味を持つ数値データは統計的な分布傾向が類似することから、数値データ列から数値の出現頻度の分布傾向を示す特徴量を算出し、ナレッジグラフ上の単語毎の数値分布と比較する。これにより、例えば、列名のないデータについても「売上高」といった意味の推定が可能となる。
表データにおける数値データ列では、例えば「29、24、23」など、それ単独では「年齢」や「気温」など様々な意味が当てはまるため、文字データ列と比べて正しい意味の推定はより困難となる。
同技術は「推定対象のデータ列の意味候補」と「同一表データにある他のデータ列の意味」の共起関係をナレッジグラフ上のネットワーク距離（データの意味間の共起関係の強度）を活用し推定する。例えばあるデータ列について、同じ表データに「氏名」の項目が含まれていれば、ナレッジグラフから気温データではなく、より関係性の強い年齢データであることを推定する。
なお、同技術をオープンデータ（※2）に適用したところ、専門家が30日かけていたデータ統合作業を、1時間で同等品質にて実現することを確認した。
今後NECは、同技術をサプライチェーンに加え、データレイクといわれる様々な分野の形式の異なるデータが集まるデータベースや、データを一元管理するDMP（※3）、情報銀行やデータ流通プラットフォームなど情報共有基盤への汎用的な活用を目指し、研究開発を進める方針だ。
※1 様々な単語の意味をネットワークで表現したデータベース。
※2 公開されているセンサ情報や医療情報など多業種のデータを使用。
※3 Data Management Platform（データ マネジメント プラットフォーム）の略。別々に管理されている情報データをまとめて管理するためのプラットフォーム。