Georgia Tech の研究チームは、Android スマートフォンで動作するローカル AI アシスタントにおいて、削除済みの会話を復元できるツール「ORISA」を開発したことを発表しました。
これは Digital Trends が報じたもので、会話がスマートフォン上で完結するローカル AI であっても、削除した内容が断片的に残っている場合があるとされ、ORISA はその断片から会話を再構築して復元します。
100 件の情報を与えた実験で 26 件を復元
ローカル AI は会話をクラウドのサーバーに送らず、スマートフォンの中だけで処理するためプライバシー面で有利とされていますが、Georgia Tech によると、アシスタントが動作している間は会話の情報がスマートフォンの作業用メモリに残ることがあり、アプリ上で会話を削除してもメモリから消えるとは限らないとしています。
ORISA は、このメモリから削除済みの会話の断片を探し出すことで、会話を再構築し、受け答えできる AI セッションとして復元します。
研究チームは、Android 上で AI モデルを動かせるオープンソースアプリ「ChatterUI」を使い、「Project Note Keeper」という架空のアシスタントを作成しました。このアシスタントにプロジェクトに関する架空の情報 100 件を与え、そのあとで会話を削除しています。
会話を削除した時点で、AI の記憶できる範囲を超えた残りの情報はすでに参照できなくなっていたため、元のセッションが参照できたのは 100 件のうち 14 件だけでした。
一方、ORISA が復元した情報から作った新しいセッションにプロジェクトのメモを一覧で答えさせると、26 件が返ってきました。元のセッションが使えなくなっていた情報まで取り出せたことになりますが、100 件すべてを復元できたわけではありません。
テストは 10 種類の Android アプリ、3 種類の AI モデルで行われ、60 通りの構成にわたって、メモリに残っていた会話の情報を復元できたと報告されています。
調査での活用とプライバシーへの影響
ORISA は、スマートフォンのデジタル調査で、AI アシスタントとのやり取りを調べる手段として想定されており、AI チャットボットの助言によって患者が害を受けたケースの調査にも役立つ可能性があります。
削除した会話が完全には消えていないことは、ローカル AI アプリを使う人にとってプライバシー上の懸念にもなります。ただし、ORISA は調査機関向けの技術で、誰でも復元できるわけではなく、復元にはスマートフォンのメモリとストレージのコピーへのアクセスが必要です。
また、ほかの操作でメモリが上書きされるほど、情報の復元は難しくなるとしています。
なお、今回の研究が対象にしたのは、スマートフォン上で動くローカル AI アプリであり、クラウド型のチャットボットの会話が同じように復元できるかどうかは示されていません。
