AIフォレンジック®️の背景

AIビジネスの国内市場は2030年度には2兆円とも予想されていますが、内閣府は未来への基盤作り、産業・社会の基盤作り、倫理の各分野(教育 改革、研究開発、社会実装、データ、デジタル・ガバメント、中小・新興企業支援、社会原則)における 具体的な目標と取組を特定したAI基本政策を発表しています。自動運転車、ドローン、AIスピーカー、AIチャットボット、スマートウオッチ、スマートバンド、IoT、UAM※ などのAIデバイスも私たちの身近で急速に普及しています。一方で、AIデバイスが引き起こす事故や事件などの発生が懸念されおり、何か問題が起こった場合にどのように調査をすればいいのかという問題があります。現在は、何か事件が起こった場合にスマートフォンやドライブレコーダーなどに記録されているデジタルデータが証拠として調べられるケースが多く、最近は、これらのスマートデバイスのAI機能が強化され、ハッキングの対象にもなり、犯罪を行う手伝いをしてしまうことも懸念されています。いくつかの事例を紹介します。例えば、ドローンを使って意図的に何か物体を落下させた。チャットボットで人を騙そうとした。自動運転車が危険な運転をしたために事故が起こったなどといったケースです。AOSデータは、2002年よりフォレンジックサービスの提供を開始、PC、携帯電話、スマホ、ドライブレコーダなどのフォレンジック調査を捜査機関や企業、弁護士の依頼を受けて実施し、国内のフォレンジック調査を牽引して参りました。今後は、AIフォレンジック®️に注力し、AIデバイスに格納されているデジタルデータの復元・抽出・解析作業を行います。

※ UAM：Urban Air Mobility（都市型航空交通システム）

AIシステムが法律または倫理的基準に違反するリスクについては、すでに認識されています。例えば、偽動画による誹謗中傷（ディープフェイク）、無人ドローン攻撃などです。
今日のAIシステムは、最終的には、人間により制御されていますが、従来のコンピュータプログラムよりも優れた学習機能を備え、自律的にタスクを実行するプログラムを作成することも可能となっており、AIシステムが攻撃者に悪用されることが懸念されています。

AIフォレンジック® 調査とは

AIシステムは、ブラックボックスと見なされることが多いため、フォレンジック調査を行う際には、注意が必要となります。AIシステムは、学習機能を備えている可能性があり、システムが変更されたり、削除されるケースもあります。つまり、悪意を持った人間が意図的にシステムを書き換えたり、一部分を変更しているケースもあるということです。AOSデータは、デジタルデータの証拠調査で警察機関、民間企業、弁護士などの依頼で数多くのデジタルデータの証拠調査を行ってきた実績があります。AIフォレンジック®️調査は、AIシステムの中に格納されているデジタルデータを解析し、分析、調査を行います。例えば、システムの書き換えの有無、消されてしまったデータの復元、外部からのハッキングなどの痕跡調査を行い、事件・事故が起こった前後がどのような状況であったかを解析し、証拠として抽出するサービスです。

AIフォレンジック®の調査事例

・ドローンフォレジック®️調査

事故の概要

空撮のためにドローンを飛行させていたところ、突然操作不能となり、隣接するマンションの壁衝突し、窓ガラスに傷を付け、網戸を損傷。

調査内容

ドローンのログを解析し、設定プログラムの内容、操作ログ、撮影されている写真データの解析などを行なった。

ドローンフォレンジックの詳細はこちら

・自動車フォレジック®️調査

事故の概要

自動運転で走行中の車両が通常の自動車と接触事故を起こした。

調査内容

搭載されているEDR（Event Data Recorder）やドライブレコーダーの情報を解析し、事故が発生した時の、速度、ブレーキの状況、位置などの解析を行なった。

自動車フォレンジックの詳細はこちら

・チャットボット調査

事故の概要

SMSのチャットボットにより、クレジットカードが無効になっているので、再登録のやり取りをしたところ、クレジットカードの情報が盗まれた。

調査内容

SMSチャットボットの内容を解析し、裁判などの証拠で使えるデータとして、提供した。

モバイルフォレンジックの詳細はこちら

・AIスピーカー調査

事故の概要

殺人事件が起きた現場にAIスピーカーが設置されており、捜査当局がAIスピーカーを回収した。

調査内容

AIスピーカーのログを解析し、事件の前にどういう音声コマンドが入力されていかを抽出して、証拠データとして活用される。

AI利活用ガイドライン

総務省は、AIネットワーク化の健全な進展を通じて、AIの便益の増進とリスクの抑制を図り、AIに対する信頼を醸成することにより、AIの利活用や社会実装を促進することを目的とし、AIサービスプロバイダやビジネス利用者等が自主的に参照するものとして、また国際的な認識の共有を図るものとして、AI利活用原則及び同原則を実現するための具体的方策について「AI利活用ガイドライン」として取りまとめています。

・AI 利活用原則

1. ① 適正利用の原則：利用者は、人間とAIシステムとの間及び利用者間における適切な役割分担のもと、適正な範囲及び方法でAIシステム又は、AIサービスを利用するよう努める。
2. ② 適正学習の原則：利用者及びデータ提供者は、AI システムの学習等に用いるデータの質に留意する。
3. ③ 連携の原則：AIサービスプロバイダ、ビジネス利用者及びデータ提供者は、AIシステム又は AIサービス相互間の連携に留意する。また、利用者は、AIシステムがネットワーク化することによってリスクが惹起・増幅される可能性があることに留意する。
4. ④ 安全の原則：利用者は、AIシステム又は AIサービスの利活用により、アクチュエータ等を通じて、利用者及び第三者の生命・身体・財産に危害を及ぼすことがないよう配慮する。
5. ⑤ セキュリティの原則：利用者及びデータ提供者は、AIシステム又は、AIサービスのセキュリティに留意する。
6. ⑥ プライバシーの原則：利用者及びデータ提供者は、AIシステム又は、AIサービスの利活用において、他者又は自己のプライバシーが侵害されないよう配慮する。
7. ⑦ 尊厳・自律の原則：利用者は、AIシステム又は、AIサービスの利活用において、人間の尊厳と個人の自律を尊重する。
8. ⑧ 公平性 6 の原則： AIサービスプロバイダ、ビジネス利用者及びデータ提供者は、AIシステム又は AIサービスの判断にバイアスが含まれる可能性があることに留意し、 また、AIシステム又は、AIサービスの判断によって個人及び集団が不当に差別されないよう配慮する。
9. ⑨ 透明性の原則 7：AIサービスプロバイダ及びビジネス利用者は、AIシステム又は、AIサービスの入出力等の検証可能性及び判断結果の説明可能性に留意する。
10. ⑩ アカウンタビリティ 8 の原則：利用者は、ステークホルダに対しアカウンタビリティを果たすよう努める。

AOSデータ社は、この利活用の原則に則って、AIシステムが運用されているかをAIフォレンジック®️を通じて、調査いたします。

※AIフォレンジック® 、自動車フォレンジック® 、ドローンフォレンジック®は日本国におけるAOSテクノロジーズ株式会社の登録商標または商標です。